В нескольких словах
Наука отстает от темпов развития технологий, и необходимо ускорить научные исследования, чтобы понять влияние новых технологий, таких как искусственный интеллект и социальные сети, на психическое здоровье и благополучие людей. Важно, чтобы научное сообщество, политики и технологические компании работали вместе для выявления и смягчения потенциальных рисков, связанных с цифровыми технологиями.
«Мы должны быть прозрачными, когда нет веских доказательств», — говорит Эми Орбен, психолог и руководитель группы по изучению психического здоровья и цифровых технологий в Кембриджском университете.
Возможно, самая большая проблема, с которой сталкивается наука в отношении новых технологий сегодня, — это отсутствие выводов, позволяющих с уверенностью ответить на вопросы, которые общество задает о мобильных телефонах, социальных сетях и искусственном интеллекте (ИИ): «Трудно смириться с возможностью преувеличения доказательств [этой связи], даже если это делается с мыслью, что так дети будут в большей безопасности», — добавляет Орбен.
Простого решения нет. Граждане и политики часто вынуждены полагаться на предрассудки из-за отсутствия четких ответов о связи между мобильными телефонами и психическим здоровьем, например. Иногда власти могут чрезмерно регулировать без необходимости или, наоборот, оставлять без регулирования огромную проблему, затрагивающую миллионы людей. «Мы хотим призвать ученых к общению с людьми и говорить ясно, включая то, чего мы не знаем», — говорит Дж. Натан Матиас, директор лаборатории гражданства и технологий в Корнельском университете (США). Орбен и Матиас публикуют статью в журнале Science, чтобы вызвать дискуссию о скорости развития технологий сегодня и предложить меры для ускорения работы науки. В видеоконференции с Джерело новини они проясняют основные моменты.
Орбен прогнозирует, что через пять лет их попросят предоставить результаты об важности разговоров подростков и чат-ботов с ИИ: «Я уже несколько месяцев говорю, что мы должны начать собирать долгосрочные данные о том, как дети используют приложения для чатов с ИИ», — говорит Орбен. Джерело новини опубликовала статью на эту тему несколько дней назад, и у опрошенных ученых был в основном один ответ: мы не знаем, какое влияние это оказывает. «Рутинная наука — это сверхсила, внимательная, точная, и мы не говорим, что ее не следует делать, но ее нужно ускорить в определенных аспектах, потому что сейчас вся система вокруг нас ускоряется», — добавляет Орбен.
Ученые Дж. Натан Матиас и Эми Орбен.
Крупные технологические компании не собираются помогать. Их приоритет, естественно, другой: зарабатывать деньги. Предложения Орбен и Матиаса адресованы научному сообществу, а не компаниям: «Исторически сложилось так, что компании не хотели знать некоторые вещи» о воздействии своих продуктов, — описывает Матиас. «Мы обеспокоены тем, что то же самое происходит с цифровыми технологиями. Если компании опасаются утечек, вполне понятно, что их лидеры задаются вопросом: не лучше ли не иметь никаких записей о том, реален ли этот ущерб? Мы хотим изменить эти стимулы».
Матиас и Орбен надеются, что все это не прозвучит только как «наука слишком медленная» и что нужно пренебрегать доказательствами, но в эпоху, когда крупные технологические компании имеют всю информацию и могут постоянно тестировать новые продукты, наука должна адаптироваться. «Технологические компании ускоряют разработку своих продуктов, потому что они всегда тестируют. Они постоянно проводят A/B-тесты, меняют что-то, смотрят, что происходит, и быстро получают знания. Мы не говорим: «Давайте снизим стандарт доказательств, чтобы сказать, что что-то вредно». Мы говорим, что, даже если доказательства не идеальны, мы должны начать раньше проверять, помогают ли определенные изменения», — говорит Орбен.
Конкретные меры, которые предлагают Орбен и Матиас, следующие:
- Улучшить данные о последствиях
В статье содержится призыв к тому, чтобы цифровые технологии могли появляться в публичных записях, когда должностное лицо регистрирует возможные причины смерти или ущерба. «Можно было бы начать включать информацию о технологиях в такие системы, как записи о смертности, отчеты о несчастных случаях на работе или полицейские отчеты о насилии в паре, как это уже делается с дорожно-транспортными происшествиями», — пишут Матиас и Орбен.
Это был бы способ получить более реальное представление о том, где технологии могут оказывать влияние: «Часто, например, с современной молодежью нам требуется очень много времени, чтобы понять, что они на самом деле делают и как это на них влияет. И нам нужно больше прислушиваться к тому, что происходит в реальной жизни», — уточняет Орбен.
- Скорректировать баланс опасности
В статье содержится следующее предложение о том, как управлять уровнем опасности: «Предпринимательские потери легче обратить, чем жизни». Крупные технологические компании используют отсутствие четких доказательств, чтобы сказать, что не стоит паниковать. Их страх — потерять деньги. Возможно, стоит пересмотреть этот критерий между выгодами и здоровьем, говорят ученые.
Идеальные причинно-следственные доказательства в этих областях очень сложно получить. Часто можно услышать фразу, что есть корреляция, но нет причинности. Например, ухудшение психического здоровья некоторых современных подростков совпадает с более широким использованием мобильных телефонов, но это совпадение (корреляция) не является причинным (нелегко выделить причины, чтобы с уверенностью сказать, что это в основном мобильные телефоны). Это очень сложные системы, но это не должно означать, что нельзя думать о решениях. «Часто, если меня спрашивают, есть ли у нас хорошие доказательства чего-либо, мой ответ может быть отрицательным. Но тогда какой следующий шаг? Мы предлагаем, чтобы, помимо того, что доказательства слабые, как наука, так и политики должны начать говорить о том, если доказательства нехорошие, мы действуем уже? Каковы риски и выгоды от этого? Или мы ждем? Нам нужна более открытая дискуссия об этом», — говорит Орбен.
Примером может служить то, должны ли чат-боты с ИИ иметь меры безопасности, чтобы не поощрять самоубийства, говорит Матиас. «Есть люди, которые утверждают, и это можно прочитать в манифестах венчурных капиталистов, что меры безопасности, основанные на доказательствах, являются врагом инноваций и прибыли. Это видение ставит корпоративные прибыли с одной стороны, а жизни людей и науку — с другой. Поэтому мы просим ученых, помимо поиска доказательств и проведения оценки, подумать о том, что действительно поставлено на карту, когда мы даем ответы политикам и общественности», — объясняет он.
- Работать параллельно
Социальные эксперименты часто занимают годы подготовки, выполнения и анализа. Орбен и Матиас предлагают в некоторых случаях запускать несколько действий параллельно, одновременно. «В некотором смысле, речь идет о том, чтобы делать вещи быстрее, но это не означает пропуск определенных этапов. Нужно ускоряться, но определенным и осторожным образом», — говорит Орбен.
«Часто мы тратим кучу времени на обсуждение того, существует ли ущерб или нет. И затем существует очень высокий порог для действий, и только тогда мы начинаем думать, что делать», — добавляет Орбен. Примером является то, как измерить, влияют ли сети на сон подростков. «Манипулирование системой и изменение чего-либо дает нам достаточно хорошее доказательство того, каким может быть воздействие», — объясняет она. Вместо того чтобы просто обсуждать, влияют ли социальные сети на сон, что очень трудно измерить в больших масштабах и в долгосрочной перспективе, они предлагают: «Возможно, нам следует действовать быстрее. Мы говорим некоторым родителям, чтобы они убрали мобильный телефон из спальни, другим мы ничего не говорим в течение нескольких недель, и мы видим, как это влияет на молодежь. Этот тип тестов может помочь лучше понять возможный ущерб».
- Список проблем
В течение многих лет существует беспокойство по поводу воздействия на окружающую среду и здоровье различных типов химических веществ, которые используются для чистки, покраски или в качестве пестицидов. Эти вечные химические вещества трудно разлагаются, вызывают рак и были впервые синтезированы в 30-х годах. Только в 2000-х годах ученые, наконец, собрали окончательные доказательства, и произошла революция зеленых химикатов, которая утверждает, что вместо того, чтобы ждать, чтобы увидеть, причиняет ли что-то вред, следует уделять приоритетное внимание разработке более безопасных альтернатив: «Мы призываем к принятию аналогичного подхода к цифровым технологиям», — говорит Матиас.
«Иногда они не уверены, вызывает ли конкретное соединение рак или какую-то другую проблему, но у них есть список того, сколько его используется, какие инциденты появились в записях о смертности, а затем предприниматели могут увидеть этот список и разработать новые продукты, которые будут более безопасными. Многое можно выиграть с помощью аналогичного процесса списков: «Вот конструкции, которые беспокоят людей», даже когда мы пытаемся определить доказательства, мы можем уже начать искать лучшие альтернативы. Это требует переговоров и организации, которая будет поддерживать этот список. Но это решение, основанное на науке, рынке и правилах, которые в других областях ускорили создание более безопасных продуктов», — добавляет Матиас.
Сравнение между приложениями и табачной индустрией не очень точное. «Табак — это стабильное соединение, нет много способов сделать его более безопасным. Много говорят о табаке по сравнению с социальными сетями, но это другое, потому что с социальными сетями мы могли бы разработать что-то гораздо более безопасное», — говорит Орбен.
Химические продукты — лучшая модель, настаивает Матиас: «Химические вещества имеют очень много ценных применений. И в то же время есть соединения, которые являются токсичными. Поэтому задача для общества состоит в том, чтобы постоянно совершенствоваться, но также знать, как идентифицировать вещи, которые настолько плохи, что их просто нужно запретить».
