В нескольких словах
Нейросети, такие как ChatGPT, распространяют фейки из-за отсутствия механизмов проверки информации, что представляет опасность для общества.
Современные искусственные интеллекты (ИИ), такие как ChatGPT и Grok, все чаще становятся объектом критики из-за своей подверженности дезинформации. Эти системы, обученные на огромных объемах данных, могут выдавать ложную информацию, даже когда им задают вопросы о текущих событиях.
Проблема усугубляется тем, что ИИ оптимизированы для предоставления полезной информации, а не для ее проверки. Они поглощают данные из различных источников, включая непроверенные новостные сайты и социальные сети, что приводит к распространению недостоверных сведений. Эксперты отмечают, что в условиях быстро меняющейся новостной повестки ИИ особенно уязвимы.
Примером может служить ситуация с фотографиями солдат, отправленных в Лос-Анджелес. Когда пользователи попросили ChatGPT и Grok прокомментировать ситуацию, ИИ выдали противоречивую информацию, демонстрируя свою неспособность отличить правду от вымысла. Это подчеркивает отсутствие у ИИ механизмов верификации информации.
Исследование, проведенное NewsGuard, показало, что популярные ИИ регулярно повторяют ложную информацию, особенно в новостях. Ситуацию осложняет и недостаток модерации контента в социальных сетях, где дезинформация распространяется быстрее. Кроме того, злоумышленники активно используют методы, направленные на манипулирование ответами ИИ (LLM grooming), вводя в системы заведомо ложные данные.
С учетом растущей популярности ИИ как поисковых инструментов, эксперты призывают пользователей к осторожности и необходимости критической оценки информации, полученной от ИИ. Подчеркивается важность проверки информации из надежных источников и осознание того, что ИИ пока не обладают способностью к объективной оценке данных.
В заключение, эта проблема ставит под вопрос надежность ИИ в принятии решений, особенно в сферах, где требуется точная и проверенная информация. Необходимо улучшать механизмы проверки информации в ИИ, чтобы избежать распространения дезинформации и предотвратить негативные последствия для общества.
