В нескольких словах
Исследование показывает, что ИИ упрощает создание и распространение дезинформации, особенно среди менее образованных слоев населения. Выявить использование ИИ можно по резкому увеличению количества и охвата статей на сайте. Важно ограничивать злоупотребления ИИ и стимулировать его полезное применение.
Университет Клемсона и борьба с дезинформацией
Университет Клемсона, государственный институт в Южной Каролине, имеет центр анализа СМИ (Media Forensics Hub), который использует передовые методы для понимания влияния сетей на общество и политику. В сотрудничестве с BBC в 2023 году он раскрыл, что новостной сайт DCWeekly.org был частью российской операции по манипулированию массами во время войны в Украине. Сайт распространял ложные истории об Украине и ее президенте Владимире Зеленском через социальные сети и ряд африканских, турецких, индийских и египетских СМИ. Но его главной целью были американские читатели, и DCWeekly утверждал, что базируется в США. Его журналисты были столь же вымышленными, как и информации, которые они подписывали. И, конечно, они использовали искусственный интеллект (ИИ) для создания своих статей. DCWeekly добился значительного успеха и сумел распространить дюжину заведомо ложных сведений о коррупции в украинском правительстве. Например, история о том, что Зеленский купил несколько роскошных яхт, распространилась как лесной пожар через десятки тысяч пользователей и достигла конгрессменов в Вашингтоне, некоторые из которых поверили в это. Ключом к успеху, по мнению исследователей из Клемсона, было то, что DCWeekly интегрировал в свои сообщения фрагменты контента, украденные из других источников. Эта практика создает структуру связей, которая, какой бы фиктивной она ни была, придает лжи текстуру, имитирующую реальный мир, с множеством связей и перекрестных ссылок, как следы, оставленные на снегу призраком. Дезинформаторы становятся все более изощренными.
Исследователи из Клемсона выяснили, что некоторые статьи DCWeekly были сгенерированы с использованием заметок, подобных этой: «Тон статьи [должен быть] критическим по отношению к позиции Соединенных Штатов по поддержке войны в Украине и принимать циничный тон при обсуждении американского правительства, НАТО или политиков страны». Или они также призывали робота «отдавать предпочтение республиканцам и Трампу и изображать демократов и Байдена в негативном свете». Модели генеративного ИИ (large language models, LLM) довольно хорошо справляются с этими и многими другими задачами. Ложь не требует высокого интеллектуального уровня, и робот легко ее имитирует. И поверить в ложь тоже не требует экстраординарных умственных способностей, как уже должно быть очевидно. Дезинформация общественного мнения, вероятно, так же стара, как и само человечество, хотя, несомненно, она усугубилась с изобретением клинописи в Месопотамии. Большая часть дискуссий о генеративном ИИ была сосредоточена на том, является ли это стимулом для злонамеренного распространения лжи и в какой степени. От исследования этого вопроса должна зависеть социальная и политическая деятельность против этой нежелательной тенденции. Отсюда и интерес к исследованию Клемсона.
Их выводы говорят нам, во-первых, что инструменты генеративного ИИ, такие как знаменитый ChatGPT (который использовался DCWeekly в своей версии 3), облегчают создание больших объемов дезинформации. Во-вторых, можно узнать, когда веб-сайт начинает использовать генеративный ИИ, просто по взрывному увеличению и широкому охвату статей любого веб-сайта. В-третьих, и это самое важное, статьи, сгенерированные с помощью генеративного ИИ, столь же убедительны и оказывают столь же длительное воздействие, как и статьи, созданные вручную. Это не так уж и много, потому что самые образованные люди не соблазняются ни тем, ни другим, но имейте в виду, что не у всех есть докторская степень в области философии и литературы. Эти сообщения предназначены не для социологов и политологов, а для самых необразованных и доверчивых слоев населения. Именно здесь ИИ наносит ущерб. С другой стороны, для хорошо информированных людей ИИ может быть ценным инструментом. Его полезность в научных исследованиях не вызывает сомнений, и он получил три Нобелевские премии в последней раздаче. Его применение в образовании сулит большие преимущества, и некоторые учителя начинают это понимать. Медицинская помощь также выиграет, особенно в районах и странах, где ее не хватает. Возможно, задача состоит в том, чтобы всячески мешать дезинформаторам, стимулируя при этом добродетельное использование. Tendencias — это проект Джерело новини, с помощью которого газета надеется открыть постоянную дискуссию о больших проблемах будущего, стоящих перед нашим обществом.
