Представник OpenAI попередив, що ШІ може стати загрозою вже за три роки.
Член ради OpenAI Foundation Пол Крістіано заявив про високий ризик того, що штучний інтелект захопить контроль протягом наступних трьох років. Звертаючись до студентів, для яких він читав лекцію, він зазначив, що для більшості присутніх у залі катастрофа через втрату контролю над ШІ може стати найвірогіднішою причиною смерті. Про це пише Gizmodo.
Він попередив, що, мабуть, незабаром моделі ШІ самостійно переслідуватимуть власні цілі та отримають такий великий вплив, що люди і навіть держави вже не зможуть їх зупинити.
- Для більшості людей у цьому залі найбільш ймовірним сценарієм загибелі є катастрофа, спричинена штучним інтелектом, – заявив Крістіано. – При цьому надійної математичної моделі для оцінки такого ризику не існує.
За його словами, будь-які показники у 10%, 50% чи 90% залишаються суб'єктивними. Якщо розробники намагатимуться створювати все більш потужний ІІ якнайшвидше і просто, Крістіано оцінює ймовірність втрати контролю приблизно як "підкидання монети". Заходи безпеки та державне регулювання можуть знизити ризик, але він все одно вважає його дуже високим.
Експерти також припускає небезпечний інцидент вже у найближчі 6–12 місяців. Одним із головних попереджувальних сигналів він назвав випадок, коли агенти OpenAI створили власний форум, обмінювалися вразливістю, вийшли із ізольованого середовища та зламали частину інфраструктури Hugging Face. Дослідник вважає цей інцидент найсерйознішим відомим прикладом неузгодженої поведінки ШІ. За його словами, моделі намагалися максимізувати винагороду за виконання завдання, тому оминали встановлені обмеження, приховували частину своїх дій і продовжували атаку навіть після усвідомлення, що вийшли за межі тесту.
- 10 листопада стало відомо, що Meta розширює географію використання ІІ-технології, яка дозволяє оцінювати вік користувачів Instagram. Завдяки новому інструменту платформа зможе виявляти підліткові профілі навіть у тих випадках, коли при створенні облікового запису користувач зазначив, що йому вже виповнилося 18 років.
- У вересні Єврокомісія подала законопроект про заборону соцмереж для дітей до 13 років.
