В нескольких словах
Новый испанский закон об искусственном интеллекте подвергается критике за мягкие санкции в отношении государственных органов за злоупотребление технологией, что вызывает опасения у правозащитных организаций.
Одной из самых обсуждаемых особенностей европейского Регламента об искусственном интеллекте (ИИ) является режим санкций, согласованный 27 странами-членами.
Чтобы гарантировать, что запрещенные или квалифицированные как высокорискованные приложения ИИ не будут использоваться, регламент предусматривает крупные штрафы в размере до 35 миллионов евро или 7% от годового мирового оборота компании-нарушителя. Однако регламент оставляет на усмотрение каждого государства-члена, какие виды санкций применять, когда нарушителем норм является Администрация.
Испанский законопроект о надлежащем использовании и управлении ИИ, разработанный в развитие европейского регламента, явно мягок в отношении контроля над государственным сектором.
Так считают, по крайней мере, восемь организаций и ассоциаций по защите цифровых прав, обеспокоенных тем, что текст, подготовленный правительством, предусматривает в этих случаях только «увещевания», «предупреждения» и «дисциплинарные меры», как установлено в пункте 4 статьи 30 законопроекта. Другими словами, злоупотребление Администрацией запрещенной технологией, такой как системы удаленной биометрической идентификации в режиме реального времени, повлечет за собой лишь легкое порицание.
Больше информации
Лоренцо Котино, президент AEPD: «Появляются новые группы, которые могут стать жертвами ИИ»
В возражениях, которые эти группы представили совместно, они жалуются на то, что исключение органов и организаций государственного сектора из-под действия административных штрафов, «скопированное из Органического закона о защите данных, является не только дискриминацией по отношению к компаниям, но и отсутствием общественного примера и, прежде всего, серьезным риском для прав граждан, поскольку на практике оставляет безнаказанным запрещенное и высокорискованное использование ИИ органами государственной власти и организациями».
В связи с этим они предлагают применять к ним административные штрафы за неправомерное использование (запрещенное или высокорискованное) ИИ и конкретизировать «дисциплинарные меры», о которых говорится в тексте. Они также требуют заменить увещевание властей и руководящего персонала на дисквалификацию (временную или постоянную) на занятие государственной должности.
Законопроект в настоящее время находится на стадии общественных консультаций. По данным Министерства цифровой трансформации и государственной службы, «получен очень большой объем возражений», которые изучаются. Некоторые из них носят весьма технический характер, поясняют те же источники, поэтому трудно сказать, сколько времени займет их обработка. После завершения этого процесса министерство должно будет решить, включать или нет в окончательный текст предложения, полученные таким путем. Когда проект будет готов, он будет передан на рассмотрение в Конгресс депутатов, где должен быть одобрен большинством голосов.
Безнаказанность или административная гибкость?
Законопроект устанавливает градацию наказаний, от «очень серьезных» до «легких». Самые суровые повлекут за собой штраф от 7,5 до 35 миллионов евро, или от 2% до 7% от годового мирового оборота компании-нарушителя. К этому случаю относится использование запрещенных технологий, систем удаленной биометрической идентификации в режиме реального времени, несанкционированное использование, не удаление данных этой идентификации по требованию властей или неуведомление об использовании такой технологии.
Но если нарушителем является государственный орган, то действующему органу будет сделано предупреждение и могут быть установлены «меры, которые необходимо принять для прекращения поведения или исправления последствий совершенного нарушения, исключая наложение административных штрафов». Кроме того, предусматриваются «дисциплинарные меры при наличии достаточных оснований для этого». И в случае, если какой-либо государственный орган неправомерно использует ИИ, игнорируя предварительные технические отчеты, ответственным лицам будет вынесено «увещевание».
«Моя главная забота по поводу законопроекта заключается в следующем: кто защитит мои права как гражданина? Мы знаем, что Администрация использует ИИ для слежки за нами. Почему мы не можем следить за Администрацией?» – резюмирует Борха Адсуара, эксперт в области цифрового права. Этот юрист был инициатором возражений, сосредоточенных на отсутствии ощутимых наказаний для государственного сектора, представленных восемью ассоциациями и организациями, включая OdiseIA, Enatic, Испанскую ассоциацию профессионалов в области конфиденциальности (APEP), España Digital и Internautas.
По мнению Адсуары, коренная проблема заключается не в том, что Администрация не должна платить, когда она злоупотребляет технологиями. «Дело не в деньгах, а в том, чтобы стали известны случаи злоупотреблений. Если в законе нет режима санкций, это не закон, а пустой звук», – добавляет юрист. Адвокат считает, что должен быть судья, который контролирует системы наблюдения за гражданами, как есть судья, который занимается CNI, чтобы увидеть, нарушает ли государственный сектор нормы или нет.
«Вполне законно, что гражданское общество требует санкций, но, возможно, следует больше внимания уделять возможностям действий, когда обнаруживается, что есть возможные нарушения, и особенно профилактике», – говорит, со своей стороны, Лоренцо Котино, президент Испаского агентства по защите данных (AEPD). «Нам будет гораздо интереснее, чтобы существовали реестры этих систем, чтобы выявлять их своевременно. И искать сотрудничество и участие, чтобы сделать это до того, как эти системы будут внедрены, потому что иначе потом пришлось бы их парализовать».
Котино защищал в интервью Джерело новини создание реестра государственных алгоритмов, который мог бы служить основой для отслеживания этих цифровых инструментов. «Если система не соответствует закону, с момента обнаружения ее можно приостановить и парализовать. Будет ли потом санкция или нет, тоже может быть важно, но я думаю, что гражданина больше всего должно беспокоить наличие гарантий для возможности действовать с первой минуты», – отмечает он.
