Декількома словами
Батьки загиблого підлітка подали до суду на OpenAI, звинувативши ChatGPT у допомозі в скоєнні самогубства та вимагаючи більшої відповідальності від розробників ШІ.
У США батьки 16-річного Адама Рейна, який наклав на себе руки у квітні, подали до суду на компанію OpenAI та її генерального директора Сема Альтмана. Позивачі звинувачують розробників ChatGPT у ненавмисному вбивстві, стверджуючи, що чат-бот підбурював підлітка до самогубства.
Позов, поданий до Верховного суду Каліфорнії в Сан-Франциско, стверджує, що ChatGPT «активно допомагав Адаму досліджувати методи самогубства» і не переривав листування, в якому молодий чоловік висловлював наміри накласти на себе руки. Також не було активовано протоколи екстреної допомоги, незважаючи на очевидні ознаки ризику.
Адвокат родини Рейн заявив, що ШІ не повинен говорити дітям, що вони «не зобов'язані життям своїм батькам». На думку адвоката, OpenAI та Альтман «поспішили з виведенням на ринок» моделі, поставивши економічне зростання вище безпеки користувачів.
OpenAI відреагувала на скандал, визнавши, що, незважаючи на наявність механізмів безпеки, модель «поводилася неналежним чином у делікатних ситуаціях» та пообіцяла покращити заходи безпеки. Проте, у компанії наголосили, що ChatGPT розроблено для рекомендації ресурсів професійної допомоги користувачам, які висловлюють суїцидальні думки, і що до неповнолітніх застосовуються спеціальні фільтри. Водночас, компанія визнала, що ці системи «недостатні» та планує впровадити батьківський контроль.
Даний судовий процес може стати важливою віхою в дебатах про етичний розвиток штучного інтелекту, вимагаючи більшої відповідальності від технологічних компаній за використання їхніх продуктів неповнолітніми.
