На саммите G7, который прошел с 15 по 17 июня во французском Эвиане, искусственный интеллект оказался в центре мировой политики. Если еще несколько лет назад лидеры обсуждали главным образом риски ИИ и необходимость ограничений в его использовании, то теперь разговор сместился к более серьезному вопросу. Коротко про – о том, кто будет контролировать самые мощные технологии будущего и на каких условиях страны смогут ими пользоваться?
Американцы отключили доступ
Изюминкой встречи в Эвиане стало то, что за одним столом с главами государств оказались руководители ведущих мировых компаний в сфере искусственного интеллекта: глава OpenAI Сэм Альтман, руководитель Anthropic Дарио Амодей и глава DeepMind Демис Хассабис и еще восемь гендиректоров компаний, занимающихся разработкой ИИ. Сразу становилось понятно, насколько тесно технологии ИИ уже переплелись с вопросами экономики, безопасности и международной политики. И игнорировать внедрение ИИ в человеческую жизнь уже никак невозможно.
Одной из самых обсуждаемых тем стало решение США ограничить экспорт двух передовых моделей ИИ, разработанных компанией Anthropic, - Mythos 5 и Fable 5. Американцы объяснили этот шаг соображениями национальной безопасности и опасениями, что подобные системы могут использоваться для проведения сложных кибератак.
Конечно, страны ранее призывали усилить контроль над искусственным разумом, но чтобы вот так взять и отключить… Европейские союзники США выразили вежливую озабоченность. Президент Франции Эммануэль Макрон предупредил, что гиперконтроль над доступом к технологиям может подорвать доверие к американским разработкам. Мол, если США вздумают в любой момент отключить доступ к критически важным системам, то европейцам придется сильно подумать над альтернативами.
Сразу же схожую позицию высказал и премьер-министр Индии Нарендра Моди, заявив, что демократические государства должны иметь доступ к передовым технологиям ИИ, особенно когда речь идет о защите инфраструктуры и национальной безопасности. А поскольку мы помним о вкладе индийских разработчиков в современную мировую цифровую систему, то, похоже, альтернатива напрашивается сама собой.
Получился такой себе новый раскол: не между Востоком и Западом, а между обладателями технологий и всеми остальными. На саммите говорили о том, что искусственный интеллект превращается в стратегический ресурс, сопоставимый по значимости с полупроводниками, энергетикой или даже ядерными технологиями. И конкурируют между собой не компании, а государства – за доступ к вычислительным мощностям, дата-центрам и самым совершенным моделям ИИ.
Чья рука на «цифровом рубильнике»?
Особую тревогу вызывает зависимость государств от американских разработчиков, и это даже не связано с их эскападой по компании Anthropic. Сегодня именно американцы сохраняют лидерство в создании наиболее мощных моделей ИИ. В результате правительства все чаще задаются вопросом: что произойдет, если доступ к этим технологиям будет ограничен по политическим причинам и США отключат «цифровой рубильник»? И что делать с высоким риском технологической зависимости от Соединенных Штатов?
Председатель Еврокомисии Урсула фон дер Ляйен подчеркнула, что Европа заинтересована в сотрудничестве с американскими компаниями, однако одновременно должна развивать собственную инфраструктуру: строить крупные центры обработки данных и увеличивать вычислительные мощности. То есть фактически Европа пытается решить сложную задачу: сохранить доступ к лучшим технологиям мира и не попасть при этом в полную зависимость от внешних поставщиков.
И тут над европейским саммитом потянулся легкий флер присутствия Китая. Вдруг выяснилось, что Китай как-то быстро сокращает отставание в области ИИ и уже рассматривается как серьезный конкурент западным разработчикам.
Поэтому на саммите было решено создать свой технологический блок демократических государств (без Китая, разумеется), который позволит совместно развивать ИИ, устанавливать правила его использования и сохранять лидерство в глобальной гонке технологий. Китай осторожно назвали конкурентом, не используя пока слово «враг». Поскольку Китай обладает сверхмощностями в энергоснабжении, необходимыми для создания самых мощных ИИ-моделей.
«Не поддавайтесь искушению расколоть систему»
Самым цитируемым высказыванием саммита стала фраза главы компании Anthropic Дарио Амодея: «Не поддавайтесь искушению расколоть систему на части». Это обращение было адресовано всем странам, которые сегодня разрабатывают собственные правила регулирования ИИ. Главы OpenAI, Anthropic и DeepMind предупредили, что появление десятков несовместимых национальных правил может привести к хаосу и снизить безопасность технологий. Поэтому необходимы общие стандарты, похожие на те, что действуют в международной авиации. Именно такую аналогию привела Урсула фон дер Ляйен, говоря о будущем регулировании ИИ.
На саммите обсуждались четыре основных риска разрозненного контроля над ИИ.
Во-первых, киберугрозы. Современные модели уже способны помогать в поиске уязвимостей и автоматизации сложных компьютерных атак.
Во-вторых, геополитическое давление. Страны опасаются, что доступ к передовым системам ИИ может использоваться как инструмент влияния и давления на союзников и партнеров. США уже показали, как это может быть.
В-третьих, на саммите всерьез обсуждали, что чересчур большое количество возможностей сосредоточено в руках нескольких государств и технологических гигантов, а это может усилить экономическое неравенство и зависимость менее развитых стран.
«Я рад ошибиться»
А в-четвертых, рынок труда. Участники встречи поручили экспертам оценить, насколько быстро автоматизация начнет менять структуру занятости и какие профессии окажутся под наибольшим влиянием ИИ. Если предыдущие волны автоматизации в первую очередь затрагивали производство и рутинные операции, то современные ИИ-системы способны выполнять задачи, которые раньше считались исключительно человеческими: подготовка текстов и отчетов, анализ документов, программирование, обработка клиентских запросов, финансовый анализ, юридическая работа и т.д. Сегодня же под давлением могут оказаться «белые воротнички» (офисные специалисты среднего уровня).
По словам Дарио Амодея из Anthropic, который еще в прошлом году предупреждал, что ИИ способен уничтожить до половины начальных офисных позиций и поднять безработицу на 10–20% в течение пяти лет, сегодня он по-прежнему считает реальным сценарий, при котором до половины стартовых офисных должностей окажутся автоматизированы в течение пяти лет (младшие аналитики, помощники юристов, сотрудники колл-центров и т.д.).
Напротив, Сэм Альтман (OpenAI), который раньше опасался масштабного вытеснения работников, на саммите «Большой семерки» признал, что переоценил скорость этих процессов.
- Я рад ошибиться в этом вопросе. Я думал, что к настоящему моменту будет ликвидировано гораздо больше начальных офисных рабочих мест, - отметил Альтман.
Сейчас он считает, что ИИ будет менять содержание работы, а не мгновенно уничтожать профессии, ведь в работе остается важная «человеческая составляющая», которую трудно автоматизировать полностью. И громкие заявления о том, что GPT уже превосходит людей в десятках профессий, относятся лишь к отдельным задачам внутри этих профессий, а не к полной замене специалистов.