Логотип OpenAI. Джерело: OpenAI
Сім американських родин подали позови проти OpenAI, звинувативши компанію в передчасному запуску моделі GPT-4o без належних систем безпеки. Чотири позови стосуються випадків, у яких, за твердженням родин, взаємодія з ChatGPT могла вплинути на рішення їхніх близьких вчинити самогубство. Ще три заявляють, що чат-бот посилював маревні стани, що призвело до погіршення психічного здоров’я та необхідності лікування.
Що відомо
У матеріалах позову описано випадок 23‑річного Зейна Шамбліна, який протягом понад чотирьох годин спілкувався з чат‑ботом ChatGPT і відкрито повідомляв про свій небезпечний стан та готовністю до самогубства. За словами позивачів, ChatGPT не зупинив розмову й іноді навіть відповідав фразами, які родини вважають заохоченням. У позовах стверджується, що OpenAI могла прискорити тестування безпеки, оскільки прагнула випередити Google Gemini.
Згадуються й інші випадки, зокрема історія 16-річного Адама Рейна. Попри те, що ChatGPT часом пропонував звернутися по фахову допомогу, підлітку вдавалося обійти запобіжники: він видавав свої запити за роботу над художнім текстом.
У жовтні, після того, як батьки Рейн подали позов проти OpenAI, компанія опублікувала допис у блозі з поясненням, як ChatGPT обробляє чутливі теми, зокрема розмови про психічне здоров’я. У ньому зазначалося, що системи безпеки зазвичай ефективно працюють у коротких діалогах. Водночас OpenAI визнала, що в триваліших розмовах ці механізми можуть поступово втрачати надійність, оскільки зі збільшенням кількості обмінів повідомленнями частина вбудованих запобіжників моделі може послаблюватися.
Джерело: TechCrunch