Представитель OpenAI предупредил, что ИИ может стать угрозой уже через три года
Член совета OpenAI Foundation Пол Кристиано заявил о высоком риске того, что искусственный интеллект захватит контроль в течение следующих трех лет. Обращаясь к студентам, для которых он читал лекцию, он отметил, что для большинства присутствующих в зале катастрофа из-за потери контроля над ИИ может стать самой вероятной причиной смерти. Об этом пишет Gizmodo.
Он предупредил, что, вероятно, вскоре модели ИИ будут самостоятельно преследовать собственные цели и получат столь большое влияние, что люди и даже государства уже не смогут их остановить.
- Для большинства людей в этом зале наиболее вероятным сценарием гибели является катастрофа, вызванная искусственным интеллектом, – заявил Кристиано. - При этом надежной математической модели для оценки такого риска не существует.
По его словам, любые показатели у 10%, 50% или 90% остаются субъективными. Если разработчики будут пытаться создавать все более мощный ИИ как можно быстрее и просто, Кристиано оценивает вероятность потери контроля примерно как "подбрасывание монеты". Меры безопасности и государственное регулирование могут снизить риск, но он все равно считает его очень высоким.
Эксперты также допускает опасный инцидент уже в ближайшие 6–12 месяцев. Одним из главных предупредительных сигналов он назвал случай, когда агенты OpenAI создали собственный форум, обменивались уязвимостями, вышли из изолированной среды и сломали часть инфраструктуры Hugging Face. Исследователь считает этот инцидент самым серьезным известным примером несогласованного поведения ИИ. По его словам, модели пытались максимизировать вознаграждение за выполнение задания, поэтому обходили установленные ограничения, скрывали часть своих действий и продолжали атаку даже после вышедших за пределы теста осознания.
- 10 ноября стало известно, что Meta расширяет географию использования ИИ-технологии, которая позволяет оценивать возраст пользователей Instagram. Благодаря новому инструменту платформа сможет обнаруживать подростковые профили даже в тех случаях, когда при создании аккаунта пользователь отметил, что ему уже исполнилось 18 лет.
- В сентябре Еврокомиссия представила законопроект о запрете соцсетей для детей до 13 лет.
