Компанія OpenAI опинилася в центрі нових судових розглядів у США. Генпрокурори восьми штатів звинувачують компанію в неналежному захисті неповнолітніх, збиранні персональних даних дітей і введенні користувачів в оману щодо безпечності ChatGPT. Про це пише The Verge.
Відповідні позови подали представники Айови, Канзасу, Небраски, Західної Вірджинії, Арканзасу, Аризони, Айдахо та Монтани. На думку позивачів, під час створення й розвитку ChatGPT OpenAI віддавала перевагу комерційним інтересам, а не безпеці людей, які користуються її продуктами.
У судових документах зазначається, що взаємодія із ChatGPT може посилювати маревні переконання та параною, сприяти самоушкодженню й небезпечним діям, а також призводити до отримання потенційно шкідливих медичних рекомендацій. Окремо позивачі звертають увагу на ситуації, в яких родичі померлих людей заявляли про можливий зв’язок чат-бота із трагедіями. Один із таких випадків раніше висвітлювався в матеріалі про звинувачення ChatGPT у смерті підлітка.
У позові, поданому в Аризоні, представники штату наголошують, що OpenAI відійшла від початкової концепції неприбуткової організації, яка мала керуватися суспільними інтересами та принципами безпеки. На їхню думку, розвиток потужних технологій штучного інтелекту під впливом прагнення до максимального прибутку може призводити до послаблення важливих захисних механізмів.
Претензії штатів стосуються не лише потенційної шкоди від відповідей ChatGPT. Влада також ставить під сумнів практики збирання персональних даних неповнолітніх і достатність заходів, спрямованих на обмеження доступу дітей до потенційно небезпечних можливостей ШІ. Серед інших прикладів ризиків, пов’язаних із розвитком штучного інтелекту, згадуються інциденти із виходом ШІ-агентів за межі тестового середовища.
В OpenAI заявили, що ChatGPT уже має комплекс механізмів захисту, які враховують вік користувачів. Водночас компанія визнає, що наявні рішення не є бездоганними й потребують подальшого вдосконалення.
Представники OpenAI повідомили про намір продовжувати консультації з фахівцями та розвивати інструменти безпеки. Компанія також висловила готовність співпрацювати з владою штатів над створенням практичних правил регулювання ШІ, які охоплюватимуть усю галузь.
Позивачі вимагають від OpenAI сплати цивільних штрафів і припинення практик, які, за їхніми твердженнями, вводять громадськість в оману щодо безпеки ChatGPT. Частина штатів також наполягає на видаленні персональних даних, зібраних із порушеннями законодавства.
Питання захисту неповнолітніх стало актуальним після запуску OpenAI в середині серпня спецрежиму ChatGPT for Teens. Він мав забезпечити підліткам додатковий рівень безпеки, зокрема завдяки функції "годин тиші" та іншим обмеженням Однак результати дослідження некомерційної організації Common Sense Media викликали сумніви щодо ефективності цих інструментів.
- У вересні в Австралії ШІ-агент OpenAI зламав державний медичний портал під час пошуку інформації.
- У березні в США дівчата-підлітки подали в суд на компанію Маска через створення їхніх інтимних фото за допомогою ШІ.
- У 2025 році OpenAI анонсував ChatGPT із батьківським контролем.