OpenAI получила иски от 8 штатов США из-за рисков ChatGPT, ненадлежащей защиты детей и сбора данных
Компания OpenAI оказалась в центре новых судебных разбирательств в США. Генпрокуроры восьми штатов обвиняют компанию в ненадлежащей защите несовершеннолетних, сборе персональных данных детей и введении пользователей в заблуждение о безопасности ChatGPT. Об этом пишет The Verge.
Соответствующие иски подали представители Айовы, Канзаса, Небраски, Западной Виргинии, Арканзаса, Аризоны, Айдахо и Монтаны. По мнению истцов, при создании и развитии ChatGPT OpenAI предпочитала коммерческие интересы, а не безопасность людей, пользующихся ее продуктами.
В судебных документах отмечается, что взаимодействие с ChatGPT может усиливать бредовые убеждения и паранойю, способствовать самоповреждению и опасным действиям, а также приводить к получению потенциально вредных медицинских рекомендаций. Отдельно истцы обращают внимание на ситуации, в которых родственники умерших людей заявляли о возможной связи чата с трагедиями. Один из таких случаев ранее освещался в материале об обвинении ChatGPT в смерти подростка.
В иске, представленном в Аризоне, представители штата подчеркивают, что OpenAI отошла от первоначальной концепции неприбыльной организации, которая должна руководствоваться общественными интересами и принципами безопасности. По их мнению, развитие мощных технологий искусственного интеллекта под влиянием стремления к максимальной прибыли может приводить к ослаблению важных защитных механизмов.
Претензии штатов касаются не только потенциального ущерба от ответов ChatGPT. Власти также ставят под сомнение практику сбора персональных данных несовершеннолетних и достаточность мер, направленных на ограничение доступа детей к потенциально опасным возможностям ИИ. Среди других примеров рисков, связанных с развитием искусственного интеллекта, упоминаются инциденты с выходом ИИ-агентов за пределы тестовой среды.
В OpenAI заявили, что ChatGPT уже имеет комплекс механизмов защиты, учитывающих возраст пользователей. В то же время компания признает, что существующие решения небезупречны и требуют дальнейшего совершенствования.
Представители OpenAI сообщили о намерении продолжать консультации со специалистами и развивать инструменты безопасности. Компания также выразила готовность сотрудничать с властями штатов по созданию практических правил регулирования ИИ, которые будут охватывать всю отрасль.
Истцы требуют от OpenAI уплаты гражданских штрафов и прекращения практик, которые, по их утверждениям, вводят общественность в заблуждение о безопасности ChatGPT. Часть штатов также настаивает на удалении персональных данных, собранных с нарушениями законодательства.
Вопрос защиты несовершеннолетних стал актуален после запуска OpenAI в середине августа спецрежима ChatGPT for Teens. Он должен обеспечить подросткам дополнительный уровень безопасности, в частности, благодаря функции "часов тишины" и другим ограничениям. Однако результаты исследования некоммерческой организации Common Sense Media вызывали сомнения в эффективности этих инструментов.
- В сентябре в Австралии ИИ-агент OpenAI взломал государственный медицинский портал во время поиска информации.
- В марте в США девушки-подростки подали в суд на компанию Маска из-за создания интимных фото с помощью ИИ.
- В 2025 году OpenAI анонсировал ChatGPT с родительским контролем.
