В нескольких словах
Хайме Севилья из Epoch AI считает, что развитие ИИ может привести к тому, что большая часть мировых ресурсов окажется под его контролем. Важно создать социальный контракт, который позволит человечеству сосуществовать с ИИ, несмотря на возможные экономические риски и неравенство. Необходимо регулировать развитие ИИ и учитывать этические аспекты.
После расшифровки интервью с Хайме Севильей (28 лет, Торрехон-де-Ардос), основателем Epoch AI, невольно задумываешься: «Как всё странно».
Странен мир, который вырисовывается, если развитие искусственного интеллекта (ИИ) будет поддерживать такие темпы. Странно и то, что час говоришь о возможности доминирования машин над людьми, а на фоне люди завтракают кофе и круассанами. Странным кажется даже рюкзак, похожий на гиперпространственный, с которым Севилья появляется в кафе в центре Мадрида в среду утром.
— Там суперкомпьютер?
— Может быть.
Сейчас мало кто имеет более четкое – или, по крайней мере, более информированное – представление о тенденциях в области ИИ, чем Севилья. Именно этим и занимается Epoch AI, некоммерческая организация, специализирующаяся на анализе прогресса и эволюции этой технологии. Их цель – прогнозировать будущие тенденции, для этого они разрабатывают строгие тесты, измеряющие интеллект и производительность современных моделей. Недавний пример – Frontier Math, проект, реализованный в сотрудничестве с OpenAI, где они создали набор сложных математических задач для оценки уровня математического мышления языковых моделей. Пока им не удалось добиться решения более 2% предложенных задач.
«The New York Times» включила их проект в список «хороших технологических новостей» 2024 года, а журнал «Time» сравнил инициативу Севильи с работой ученых по разработке моделей прогнозирования изменения климата, используемых для определения экологической политики. Действительно, мало в какой области так сложно делать прогнозы, как в области искусственного интеллекта. Доказательством тому является внезапное появление китайской модели DeepSeek, которое потребовало запроса новой информации по электронной почте для этого интервью.
Вопрос: OpenAI по-прежнему опережает любую другую компанию в разработке искусственного интеллекта?
Ответ: С точки зрения результатов, ни одна компания не способна решать математические задачи Frontier Math так, как это делает OpenAI, и она также получает лучшие результаты в других тестах. Anthropic немного отстает: она еще не достигла расширенной инференции, но идет по пятам.
В: Почему она так явно доминирует в гонке этой технологии?
О: Есть несколько факторов, но один из самых важных – это масштаб моделей: чем больше вычислительная мощность и объем данных, тем больше их возможности. OpenAI рано выделилась именно тем, что сделала ставку на эту стратегию.
В: Изменила ли DeepSeek эту парадигму?
О: DeepSeek выпустила свою новую модель R1, которая конкурирует с моделями OpenAI. Тем не менее, я считаю, что OpenAI сохраняет лидерство, особенно в свете результатов ее частной модели. Что касается количества данных и вычислений, мое мнение остается прежним: модели, обученные с большим количеством ресурсов, обычно показывают лучшие результаты.
В: Считаете ли вы, что лидеры компаний, занимающихся искусственным интеллектом, испытывают страх перед тем, что они делают?
О: Я не знаю, «напуганы» ли – это подходящее слово, но я бы сказал, что очень трудно предвидеть заранее возможности, которые искусственный интеллект разовьет по мере масштабирования и выделения большего количества ресурсов. До определенной степени происходит постепенный рост, но этот процесс не был изучен глубоко и не до конца понятен.
Хайме Севилья, эксперт-исследователь в области искусственного интеллекта, сфотографирован в Мадриде. Клаудио Альварес
В: Есть ли предел, перейдя который, мы должны задуматься о прекращении развития ИИ?
О: Существуют более или менее просоциальные приложения искусственного интеллекта. Меня беспокоит, что он используется для террористических операций или крупных интернет-мошенничеств. Есть много применений, которые я бы предпочел не видеть такими продвинутыми.
В: Я имею в виду момент, когда ИИ станет угрозой для человечества.
О: В принципе, это не должно быть проблемой для нас.
В: Что машины будут доминировать над нами?
О: Сейчас они действуют как виртуальные помощники, но в какой-то момент будет логично предоставить им больше независимости.
В: Например?
О: Что они могут управлять своей собственной компанией, руководить ею без неэффективных людей, которые замедляют процесс. Это будет большим стимулом для создания более независимых искусственных интеллектов, которые будут заниматься все большей частью экономики. Они смогут делать все, что можем делать мы, но с гораздо меньшими предельными издержками.
В: Как мы узнаем, что, когда ИИ достигнет этой точки, он не посчитает нас помехой?
О: Он не обязан видеть в нас помеху. Мы можем быть партнерами в бизнесе с сердечными отношениями. Для меня это было бы похоже на сосуществование с крупными бизнесменами, которые создают богатство для всех.
В: Почему такой продвинутый ИИ захочет вести дела с людьми?
О: Потому что на данный момент людям принадлежит весь капитал мира, им нужны наши инвестиции. Есть также задачи, в которых, возможно, необходимо или юридически целесообразно вмешательство человека, поскольку ИИ не может, например, попасть в тюрьму. Возможно, полезно иметь людей, которые могут подвергнуться этому риску.
В: Как скоро ИИ достигнет такого уровня независимости?
О: Мы все еще далеки от этого. Текущие ИИ недостаточно последовательны или последовательны, чтобы строить стратегии на такой долгий срок.
В: Человек по-прежнему является более надежным стратегом, чем лучший искусственный интеллект?
О: Да.
В: Что вы думаете о тезисе «акселерационизма», который утверждает, что технология, в данном случае ИИ, решит все наши проблемы?
О: Я считаю себя находящимся где-то посередине между двумя этими позициями. Это технология с большими возможностями и проблемами. Мы должны двигаться вперед постепенно. Сейчас он движется быстро, но общество не распалось. Я думаю, что мы находимся в хорошем равновесии. Вопрос возникает, когда мы достигнем того уровня независимости, о котором говорили.
В: В каком смысле?
О: Полезная аналогия – представить триллион гениев, одновременно присоединяющихся к нашей экономике. С этим может быть трудно справиться.
В: Я не перестаю думать о парадоксе, когда «глупец» – которым в этом сценарии были бы люди – отдает приказы гению.
О: Вероятно, это не так. В долгосрочной перспективе вполне возможно, что 99% ресурсов окажутся в руках искусственного интеллекта.
В: Вас это не пугает?
О: Это не обязательно плохо. Тот 1%, который останется для нас, будет намного больше, чем то, что у нас есть сейчас. Сегодня быть обычным гражданином лучше, чем быть королем 500 лет назад.
В: Ваша логика понятна, но это все равно ужасно.
О: Это вызов: понять эту технологию и построить социальный контракт, который позволит нам сосуществовать с этой надвигающейся социальной и экономической силой.
В: Действительно ли имеет смысл строить своего собственного «хозяина»?
О: Не стоит интерпретировать это так, как будто мы рабы, мы могли бы быть партнерами. Мы можем разработать социальное соглашение, которое принесет пользу всем нам. Это не отменяет рисков: в будущем мы будем экономическим меньшинством. А меньшинства исторически переживали очень трудные времена. Однако со временем они приобретали права и улучшали качество своей жизни.
В: Нас ждет то, что мы будем, сравнительно, все беднее и беднее.
О: Тут нечем утешить: это будет очень неравный мир, и нам придется адаптироваться. Сегодня уже есть миллиардеры с гораздо большими деньгами, и мы с этим живем.
В: Считаете ли вы, что ИИ разовьет сострадательное осознание других видов?
О: Может быть, и я надеюсь, что в самом искусственном интеллекте возникнет множество мнений. Некоторые будут смотреть на нас лучше, чем другие. Кто знает, может быть, способ обеспечить наше выживание – это юридический контракт, составленный с помощью ИИ, который гарантирует наше выживание в долгосрочной перспективе.
В: А в худшем случае?
О: Также может случиться так, что они решат создать большой вычислительный центр на Земле и для этого им придется снизить температуру на сто градусов. Кто знает, вспомнят ли они, что мы, люди, не можем выжить при такой температуре.
Тенденции – это проект Джерело новини, с помощью которого газета стремится открыть постоянный разговор о больших проблемах будущего, стоящих перед нашим обществом. Инициатива спонсируется Abertis, Enagás, EY, GroupM, Iberdrola, Iberia, Mapfre, Организацией иберо-американских государств (OEI), Redeia и Santander и стратегическим партнером Oliver Wyman.
Вы можете подписаться здесь, чтобы получать еженедельную рассылку Джерело новини Trends по вторникам от журналиста Хавьера Сампьедро.
Источник: El Pais
