В нескольких словах
Эмилио Карризоса рассказывает о применении математики и искусственного интеллекта в различных сферах жизни, подчеркивая важность контроля и прозрачности в принятии решений на основе данных. Он отмечает, что лидерство в сфере ИИ принадлежит частным компаниям, и призывает к осторожности в отношении предвзятости и конфиденциальности данных. Важно, чтобы решения принимались людьми с моральными принципами, а не только машинами.
Эмилио Карризоса: математика и решение реальных проблем
Эмилио Карризоса, математик из Университета Севильи, с детства увлекался математикой, находя ее «очень интересным умственным упражнением». Но, несмотря на свою любовь к числам, он всегда видел разрыв между ними и повседневной жизнью, что побудило его искать мост между математикой и решением реальных проблем. Он затрудняется сказать, было ли это «любовью с первого взгляда или мистическим откровением», но нашел этот мост в исследовании операций, которое определяет как «дисциплину, помогающую принимать решения при ограниченных ресурсах».
Он участвовал в исследованиях, посвященных климатическим индексам засух, статистике бездомных, диагностике рака и поиску наиболее освещенного пути домой ночью с учетом эффективности распознавания лиц.
Карризоса перешел от студенческой скамьи к профессорскому столу на математическом факультете Университета Севильи, где он смог сочетать свое непоколебимое призвание к преподаванию (он сын двух учителей начальной школы) со страстью к исследованиям. Его работы в области прикладной математики и науки о данных были отмечены наградами Общества статистики и Фонда BBVA.
Вопрос: Вас не покидает идея применения математики в повседневной жизни?
Ответ: Меня очень увлекала интеллектуальная задача, которую ставила математика, пока, в середине учебы, у меня не появилось несколько предметов с более прикладным компонентом, где чувствовалось то, чем была математика в прежние времена, когда она была инструментом для решения проблем. Тогда я начал изучать статистику и математическую оптимизацию, чтобы не ограничиваться только интеллектуальными упражнениями, которые были и остаются увлекательными, но и сделать еще один шаг – чтобы то, что я узнал, могло служить правилами для новой игры, для попытки моделирования реальности и, в какой-то мере, участия в помощи принятию решений. Можно сказать, что да, это своего рода одержимость, которая усилилась с появлением искусственного интеллекта, когда кажется, что граждане отказываются от права принимать информированные решения и делегируют это машине. Возможно, она чаще оказывается права, чем человек, потому что, среди прочего, у нее есть база данных для обучения, которая на много порядков превышает ту, которой может оперировать человек, но в то же время она несет в себе ряд пороков, которые мы не контролируем.
В: Данные устраняют неопределенность?
О: Нет, но помогают ее контролировать. Я не смогу устранить неопределенность, но у меня будет достаточно точное представление о том, что меня ждет завтра. Я не могу знать, будет ли дождь, но я могу знать вероятность дождя завтра и, исходя из этого, принимать решения. Математика, когда она применяется, основывается на моделях, где ключом являются отношения между различными ингредиентами и парой свободных параметров. Модели собирают много информации, чтобы уменьшить неопределенность. Я не могу предсказать, что это произойдет, но я могу, например, иметь хорошие оценки вероятностей того, что произойдет каждое событие, и учитывать это при принятии решения, совместимого или согласованного с информацией, которую мы получаем из данных.
В: Если данные – это ингредиент, то что такое алгоритм?
О: Это рецепт. Алгоритм – это как рецепт приготовления рагу, куда вы добавляете ингредиенты в определенном порядке.
В: И, продолжая эту аналогию, что такое предвзятость?
О: Это когда мне сказали, что мясо было первого сорта, а оказалось второго, или что нут был очень нежным и не оставит кожицу. Это очень важная задача, потому что предвзятость существует, и с искусственным интеллектом мы не знаем, как эти инструменты научились. Наверняка они вобрали в себя все существующие предубеждения, которые иногда невинны, но в других случаях приводят к дискриминации людей. Это опасность, которую, к счастью, математика может обнаружить, исправить или уменьшить. Возвращаясь к аналогии с нутом, это как замочить его на некоторое время, чтобы он стал мягким. Предвзятость – это очень серьезная проблема. Искусственный интеллект сейчас ставит перед нами много позитивных задач и является достаточно демократичным инструментом в том смысле, что вам не нужно быть в группе избранных, чтобы иметь возможность использовать его, но опасность, с которой мы сталкиваемся, – это возможная непрозрачность и несправедливость при принятии решений. Самый известный пример – программа помощи судьям в определении условного освобождения обвиняемого. Если вы афроамериканец, вас оставляют в тюрьме, а если вы европеоид, то с высокой вероятностью вам скажут: «Вы не будете рецидивировать, выходите на улицу». Кроме того, мы не должны упускать из виду, что лидерство в сфере искусственного интеллекта сейчас принадлежит не правительствам, а частным компаниям, которые преследуют свои коммерческие интересы. Мы не знаем, кто принимает решения за нас.
В: Есть ли решения, которые не следует доверять искусственному интеллекту?
О: Есть определенные медицинские диагностические тесты, например, основанные на изображениях, где машина способна обнаружить рак на более ранней стадии, чем специалист. Поэтому это может быть инструментом помощи в принятии решений, но я бы хотел, чтобы окончательное решение принимал человек с сознанием, которому я мог бы посмотреть в глаза в случае ошибки, который мог бы сказать, что сожалеет, потому что у него есть мораль.
В: Потому что у данных нет морали.
О: Данные – это, в конечном счете, нули и единицы в компьютере, которые отражают реальность, но это как говорить о морали ножа: я могу использовать его, чтобы поесть или напасть на кого-то. Данные нейтральны, но не то, как мы можем их использовать. И мы не можем думать, что частные компании или чужое правительство будут использовать данные нейтрально, когда они помогают нам принимать решения. Я могу доверять мнению врача, который ставит мне диагноз, но если этот врач имеет коммерческий интерес в диагнозе, который он мне ставит, я должен отнестись к этому с большой осторожностью. Это проблема, с которой мы сталкиваемся при принятии решений на основе данных, с тем, остается ли последнее слово за машиной, а не за кем-то с душой.
В: Может ли ИИ предсказать DANA (изолированный депрессивный атмосферный уровень), как в Валенсии?
О: Это другая тема – тема редких нестационарных явлений. У нас недостаточно выборки, чтобы с уверенностью предсказать результат. Мы говорим о явлениях, для которых у нас нет данных, аналогичных или идентичных тем, которые мы хотим изучить, а только похожие, и здесь у нас может быть предвзятость, которую мы не можем контролировать и которая является определяющей для явления.
В: Преступность тоже нельзя предсказать.
О: Я работаю с группой из Университета Чили, которая сотрудничает с карабинерами Чили, составляя карты интенсивности преступлений, чтобы предсказывать и принимать решения о том, где патрулировать больше или меньше, чтобы знать, насколько вероятно увеличение числа преступлений.
В: Но если данные применяются, например, к стипендиям, машина может решить отменить их там, где больше отсева из школы, где крайне важно инвестировать ресурсы.
О: Поэтому так важна прозрачность процедур и осведомленность политического класса о том, что принятие решений должно быть прозрачным, о правилах игры, когда ресурсы выделяются из государственных администраций. Я хотел бы объективно видеть, какую функцию они пытались оптимизировать при принятии решения. Мы требуем от машин прозрачности, которой потом не требуем от людей, использующих данные для принятия решений.
В: Какой алгоритм наиболее необходим обществу?
О: Невыполненная задача в западных обществах, и, к сожалению, не похоже, чтобы мы двигались в этом направлении, – это алгоритм с прозрачными критериями распределения ресурсов. Нам всегда говорят о доходе на душу населения, но меня это не интересует. Это среднее значение. Если магнат-миллиардер и я живем в одной деревне, то в ней будет очень высокий доход на душу населения, хотя магнат владеет 99,99% всего.
В: Может ли математика предотвратить мошенничество?
О: Да, может. На самом деле, механизмы прогнозирования в этом смысле довольно просты, их можно обнаружить с помощью статистических механизмов восьмидесятых годов. Аудиторы не действуют вслепую. Сейчас можно с определенной точностью предсказать, когда транзакция является мошеннической. В мастерской, в зависимости от количества сотрудников, часов работы в системе социального страхования, потребления электроэнергии, воды и приобретенных материалов, например, легко предсказать, сколько она на самом деле выставила счетов.
В: Но это нарушает конфиденциальность?
О: Это проблема, которую мы должны решить как граждане: до какой степени я готов делиться информацией в качестве социального пакта, чтобы чувствовать себя в большей безопасности и иметь более справедливый мир.
