Президент Европейской комиссии Урсула фон дер Ляйен в среду, 16 сентября, поддержала призывы ведущих американских лабораторий приостановить развитие технологии искусственного интеллекта. Она сделала это заявление во время ежегодного выступления в Европарламенте в Страсбурге на фоне все большей обеспокоенности потенциальной опасностью ИИ. Ее позиция расходится с подходом президента США Дональда Трампа, ранее отвергавшего опасения относительно безопасности искусственного интеллекта. Об этом пишет Reuters.
- По мере того, как передовые модели становятся все более мощными, эти риски проявляются все яснее. Разрабатываемые сейчас модели позволят совершать хакерские атаки на уровне, который мы раньше даже не могли представить. И вскоре они окажутся в руках противников, у которых совсем другое видение мира, - заявила Урсула фон дер Ляйен европейским законодателям.
Она также напомнила о недавних случаях использования автономных ИИ-агентов не по назначению и предупреждениях самих разработчиков технологий.
- Руководители самых передовых компаний говорят нам, что пора замедлить разработку моделей, способных к самосовершенствованию. Необходимо контролировать темпы развития передовых технологий. Если люди, которые создают эти технологии, это четко осознают, то и мы должны это осознавать, - сказала фон дер Ляйен.
По ее словам, недавно принятые в ЕС ключевые правила, регулирующие использование искусственного интеллекта, позволяют Европе влиять на глобальные усилия по снижению связанных с ИИ рисков. Она также отметила, что Европа будет сотрудничать с единомышленниками, в частности, Канадой, Великобританией и другими странами, над такими мерами, как оценка моделей, их проверка и обеспечение безопасности ИИ.
– Я приглашу ведущие лаборатории, работающие над передовыми моделями, на обсуждение того, как мы можем поддержать текущие усилия индустрии по контролю темпов развития передовых технологий, – сообщила президент ЕК.
Опасность новых технологий ранее подчеркнул исследователь Anthropic Джейкоб Коксон, подавший в отставку и обвинивший компанию и OpenAI в поспешном стремлении создать самосовершенствующийся суперискусственный интеллект без должного внимания к безопасности. Раньше он работал в OpenAI.
На минувшей неделе гендиректор Anthropic Дарио Амодеи призвал ИИ-компании снизить темпы развития возможностей моделей. Его позицию поддержали возглавляющий xAI Илон Маск и гендиректор OpenAI Сэм Альтман.
- 27 августа основатель Microsoft Билл Гейтс опубликовал эссе, в котором предупредил о масштабных последствиях развития искусственного интеллекта для рынка труда и предложил облагать ИИ и роботов налогами.
- 8 августа компания OpenAI приостановила тесты ИИ-модели Astra из-за опасений по поводу ее кибервозможностей.