В Австралії ШІ-агент OpenAI зламав державний медичний портал під час пошуку інформації
Прем’єр-міністр Австралії Ентоні Албаніз заявив, що ШІ-агент OpenAI отримав несанкціонований доступ до порталу медичної статистики Medicare - австралійської державної системи загального медстрахування. Про це пише Reuters.
- Наразі наявні докази свідчать про відсутність ширшого проникнення в мережу. Водночас ця ситуація, очевидно, є неприйнятною, - заявив Албаніз журналістам у Нью-Йорку, де він бере участь у Генасамблеї ООН.
За словами прем’єра, розслідування триває. Австралія висловила гендиректору OpenAI Сему Альтману "крайнє занепокоєння" через цей інцидент. Албаніз також заявив, що його глибоко розчарувала затримка компанії з відповіддю. За його словами, "Лише 10 вересня ми взагалі отримали якесь повідомлення".
Албаніз додав, що окремо розслідування має встановити, чому державні системи спочатку не змогли виявити несанкціонований доступ. Він також попередив, що діяльність ШІ-агента могла вплинути ще на три державні сайти, пов’язані з охороною здоров’я. Водночас він не підтвердив, що на цих ресурсах справді відбулися порушення.
В OpenAI заявили, що їхня перевірка "не виявила жодних доказів доступу до записів пацієнтів". У компанії також зазначили, що виявили активність, пов’язану з кількома австралійськими державними сайтами та сервісами, коли моделі намагалися знайти відповіді на запити. За даними OpenAI, у процесі моделі виконували дії, які компанія не передбачала.
Міністр оборони Австралії Річард Марлз заявив, що на зламаному порталі Medicare не зберігалися дані про індивідуальні медичні вимоги, виплати, банківські реквізити чи історію хвороб 27 мільйонів жителів Австралії. За його словами, сайт містить лише узагальнену інформацію про використання медичних послуг у країні. Він зазначив, що Австралія розцінює інцидент як серйозний.
- Були чіткі блокування, які фактично повідомляли ШІ-агенту: "ні”" Агент знайшов спосіб обійти ці блокування — він просто не прийняв "ні" як відповідь, - зазначив Албаніз журналістам.
Австралійський уряд створив спеціальну робочу групу для розслідування інциденту. Вона також має перевірити, чи достатньо наявного мережевого захисту для запобігання подібним випадкам у майбутньому.
Цей випадок став черговим у низці нещодавніх інцидентів, про які OpenAI повідомляла вже після того, як відбулися злами або несанкціонована активність за участю її ШІ-агентів. Про подібні випадки також повідомляли конкуренти OpenAI - Anthropic, Gemini від Google та Meta. Їхні ШІ-агенти отримували доступ до зовнішніх систем.
- 22 вересня президент США Дональд Трамп запропонував перейменувати ШІ на суперінтелект.
- 16 вересня глава Єврокомісії Урсула фон дер Ляєн закликала сповільнити розвиток ШІ через ризики для безпеки.
- 8 серпня компанія OpenAI призупинила тести ІІ-моделі Astra через побоювання з приводу її кіберможливостей.
