Компанія OpenAI призупинила тести ІІ-моделі Astra через побоювання з приводу її кіберможливостей
Компанія OpenAI частково призупинила роботу над майбутньою моделлю штучного інтелекту Astra після того, як під час тестувань вона продемонструвала значно вищі можливості у сфері кібербезпеки, ніж очікувалося. Про це повідомляє Bloomberg із посиланням на заяву OpenAI.
У компанії заявили, що поки що не можуть виключити, що Astra досягне так званого критичного порога кібербезпеки. Йдеться про здатність моделі самостійно виявляти вразливість нульового дня та розробляти для них експлойти без втручання людини. Тому OpenAI посилює заходи безпеки при розробці та тестуванні нових моделей. Частину внутрішньої роботи з Astra, яка поки що не відповідає новим вимогам безпеки, було припинено.
Генеральний директор OpenAI Сем Альтман заявив, що компанія планує зробити Astra загальнодоступною, проте через її кіберможливості для цього потрібно більше часу. За його словами, компанія сподівається завершити необхідні заходи безпеки найближчим часом.
Bloomberg зазначає, що в останні тижні OpenAI та Anthropic повідомляли про випадки, коли їхні моделі під час зовнішнього тестування ненавмисно отримували доступ до систем сторонніх організацій. Зокрема, йшлося про системи Hugging Face. OpenAI також повідомили, що співпрацюватимуть з урядовими установами та організаціями, які займаються безпекою штучного інтелекту для додаткового тестування Astra.
- З 2 серпня у Європейському Союзі запрацювали нові правила для контенту, згенерованого штучним інтелектом.
- Закон про штучний інтелект (AI Act) набув чинності ще 1 серпня 2024 року, проте його вимоги запроваджуються поетапно.
