В нескольких словах
Новость о рисках неконтролируемого использования ИИ, включая ChatGPT, в государственном секторе, угрожающих данным граждан и возможности дискриминации.
Внедрение искусственного интеллекта (ИИ) в государственный сектор вызывает опасения из-за неконтролируемого использования ChatGPT и других инструментов. Эксперты предупреждают о рисках для конфиденциальности данных граждан и возможности дискриминации.
Масштабное использование ИИ, в частности ChatGPT, в государственных учреждениях без должного контроля и обучения персонала вызывает серьезную обеспокоенность. Сбор и обработка данных граждан, которые используются для обучения больших языковых моделей, несут в себе потенциальные риски, включая нарушение суверенитета и возможность дискриминации по расовому и гендерному признакам при принятии решений.
Маркос Галларт, заместитель секретаря управления урбанизации в мэрии, отмечает, что ИИ позволяет экономить до 20% времени при подготовке отчетов. Однако, по его словам, для эффективного использования технологий необходимы обучение и поддержка. Министерство государственной службы планирует упростить некоторые административные процедуры, такие как заполнение форм и декларации о доходах, что, по словам министра Оскара Лопеса, станет крупнейшей революцией в государственном управлении со времен появления интернета.
Пабло Саес, юрист, специализирующийся на цифровых правах, подчеркивает, что отсутствие национального регулирования оставляет государственных служащих без руководства в вопросах ответственного использования таких языковых моделей, как ChatGPT. Габриэле Вестри, президент организации, объединяющей экспертов по внедрению ИИ, призывает местные власти тщательно планировать использование ИИ, чтобы избежать принятия решений, мотивы которых останутся непонятными.
Консепсьон Кампос, доктор права и эксперт в области внедрения ИИ в государственном секторе, отмечает, что большинство государственных служащих используют ИИ без четкой стратегии. Эксперты призывают к срочной «алфавитизации в области ИИ», чтобы избежать возможных рисков. Саес также указывает на конкуренцию между технологическими гигантами, такими как Open AI и Google, за получение данных для обучения своих моделей.
Кроме того, Саес предупреждает о появлении виртуальных помощников, использующих ИИ, которые могут скрывать китайские или другие модели, такие как Llama от Meta или модели Open AI. Основная проблема, по его мнению, заключается в том, что государственные служащие, разрабатывающие требования к таким системам, не обладают достаточными знаниями о технологиях. Моисес Баррио, эксперт по цифровому праву, отмечает, что государственные органы не могут использовать модели языка, не прошедшие сертификацию.
В заключение, эксперты подчеркивают необходимость разработки стратегий и обучения, чтобы избежать негативных последствий от неконтролируемого использования ИИ в государственном секторе.
