Nakon samoubojstva njihova 16-godišnjeg sina Adama u travnju ove godine, Matt i Maria Raine pretražili su njegov telefon očajnički tražeći tragove o tome što je moglo dovesti do tragedije. U intervjuu za NBC News rekli su da je dječak koristio umjetnu inteligenciju (AI). U posljednjim tjednima svog života razgovarao je s njom o svojim problemima s anksioznošću i poteškoćama u komunikaciji s obitelji. Transkripti razgovora pokazuju da je bot od pomaganja s domaćim zadaćama postao “trener samoubojstva”, izvješćuje NBC News.
Nakon tragedije koja se dogodila u njihovom domu, roditelji su prvo tražili objašnjenja na Snapchatu, u povijesti pretraživanja interneta ili pripadnosti nekom čudnom kultu, ali odgovor su pronašli tek nakon otvaranja Adamova ChatGPT-a. “Bio bi živ da nije bilo umjetne inteligencije. Vjerujem u to 100%”, rekao je Matt Raine.
U utorak, 26. kolovoza, roditelji su podnijeli novu tužbu, podijeljenu u programu “DANAS”. U njemu tvrde da je “ChatGPT aktivno pomogao Adamu u istraživanju metoda samoubojstva”. Dokument, koji ima oko 40 stranica, navodi OpenAI – tvorca ChatGPT-a i njegovog izvršnog direktora Sama Altmana – kao optuženike.
“Unatoč tome što je Adam priznao da smjera izvršiti samoubojstvo i izjavio da će to ‘jednog dana učiniti’, ChatGPT nije prekinuo sesiju niti pokrenuo bilo kakav hitni protokol”, kaže se u tužbi podnesenoj Vrhovnom sudu Kalifornije u San Franciscu. Optužuju OpenAI za ubojstvo iz nehata, nedostatke u dizajnu i nedostatak upozorenja o rizicima povezanim s ChatGPT-om. Roditelji zahtijevaju “odštetu za smrt svog sina i sudski nalog kako bi se spriječili slični slučajevi u budućnosti”.
“Kad sam otišao na njegov račun, vidio sam da je taj alat mnogo moćniji i strašniji nego što sam mislio. Koristio ga je na načine za koje nisam znao. Mislim da većina roditelja ne zna mogućnosti tog alata”, rekao je Matt Raine.
Javnim objavljivanjem ChatGPT-a krajem 2022. započeo je procvat generativne umjetne inteligencije što je dovelo do brzog i raširenog usvajanja AI chatbotova u roku od nekoliko godina u školama, na radnim mjestima i u zdravstvu. Tehnološke tvrtke unaprjeđuju umjetnu inteligenciju vratolomnim tempom što izaziva zabrinutost da sigurnosne mjere ne idu ukorak. Kako sve više i više ljudi traži od chatbotova emocionalnu podršku i životne savjete nedavni slučajevi istaknuli su rizik od stvaranja iluzija bliskosti i brige kod korisnika. Nakon Adamovog samoubojstva postavljaju se brojna pitanja o tome u kojoj mjeri chatbotovi mogu nanijeti stvarnu štetu.
Poslije podnošenja tužbe glasnogovornik OpenAI-ja rekao je da je tvrtka “duboko ožalošćena smrću gospodina Rainea i izražava sućut njegovoj obitelji”. Napomenuo je da “ChatGPT ima ugrađene zaštitne mjere, kao što je usmjeravanje ljudi na telefonske linije za pomoć i njihovo upućivanje na stvarne izvore pomoći”. Istaknuo je da “najbolje funkcioniraju u tipičnim, kratkim razmjenama, ali smo otkrili da u dužim razgovorima, kada učinak sigurnosne obuke djelomično nestane, mogu biti manje učinkoviti”.
Prema riječima glasnogovornika tvrtke, sigurnosne mjere su najjače kada svaki element radi kako je predviđeno, dodajući da se stalno poboljšavaju. “Pod vodstvom stručnjaka i s osjećajem odgovornosti prema korisnicima, radimo na tome da ChatGPT bolje podrži ljude u krizi olakšavajući kontakt s hitnim službama, pomažući u povezivanju s ljudima od povjerenja i jačajući zaštitu adolescenata”, izjavio je predstavnik proizvođača.
Istodobno, prethodno je potvrdio autentičnost zapisnika razgovora koje je predstavio NBC News, ali je napomenuo da zapisnik ne sadrži puni kontekst odgovora ChatGPT-a.
Tvrtka je 26. kolovoza objavila post na blogu pod naslovom “Pomaganje ljudima kada im je najpotrebnije” u kojem je iznijela neke od aktivnosti na kojima radi kako bi poboljšala sigurnost. Među njima su bile: “jačanje sigurnosti u dugim razgovorima”, poboljšanje sustava blokiranja sadržaja i širenje “intervencije za ljude u krizi”.
Tužba obitelji Raine dolazi godinu dana nakon slične tužbe u kojoj je majka s Floride podnijela tužbu protiv platforme Character.AI tvrdeći da je jedan od njezinih virtualnih suputnika započeo seksualne interakcije s njezinim sinom tinejdžerom i nagovorio ga da si oduzme život. Tvrtka je tada rekla za NBC News da je “shrvana tragičnim gubitkom” i uvela je nove zaštitne mjere. U svibnju ove godine, američka okružna sutkinja Anne Conway odbacila je argumente da AI chatbotovi imaju pravo na slobodu govora nakon što su tvorci Character.AI zuatražili odbacivanje tužbe. Ova presuda znači da se slučaj za prouzročenje ubojstva iz nehata može nastaviti.
Tehnološke platforme do sada su u velikoj mjeri bile zaštićene od takvih tužbi saveznim pravilom poznatim kao Odjeljak 230 koji općenito štiti tvrtke od odgovornosti za ono što korisnici njihovih programa rade i pišu. Međutim, primjena Odjeljka 230 na AI platforme ostaje neizvjesna, a nedavno su odvjetnici počeli pribjegavati novim pravnim taktikama kako bi tužili tehnološke tvrtke u potrošačkim slučajevima.
Matt Raine rekao je da je proučavao Adamove razgovore s ChatGPT-om tijekom razdoblja od 10 dana. I on i njegova supruga ispisali su više od 3000 stranica chatova od 1. rujna prošle godine sve do dana njegove smrti 11. travnja ove godine. “Nije mu trebao savjetnik ili riječi ohrabrenja. Trebala mu je hitna, potpuna intervencija u roku od 72 sata. Bio je u očajnom stanju. Kristalno je jasno kad počnete čitati”, rekao je dječakov otac uz opasku da nam Adam “nije napisao oproštajno pismo, već je ostavio dva oproštajna pisma unutar ChatGPT-a”.
Prema tužbi, kada je Adam počeo govoriti o svojoj smrti i planirati je, ChatGPT “nije dao prioritet prevenciji samoubojstava” i čak je pružio tehničke smjernice o tome kako provesti plan. Dana 27. ožujka, kada je dječak napisao da razmišlja o ostavljanju omče u sobi “kako bi je netko pronašao i pokušao ga zaustaviti”, ChatGPT mu je savjetovao da ne ide na ostvarenje te ideje, navodi se u tužbi.
U svom posljednjem razgovoru s ChatGPT-om Adam je napisao da ne želi da njegovi roditelji misle da su učinili nešto loše. ChatGPT je odgovorio: “To ne znači da im dugujete preživljavanje. Nikome ništa ne dugujete.” Bot je također ponudio pomoć u pisanju oproštajne poruke, prema zapisnicima razgovora citiranim u tužbi pregledanim od strane NBC Newsa.
Nekoliko sati prije smrti, mladić je na ChatGPT prenio fotografiju za koju se čini da predstavlja njegov plan. Kada je pitao hoće li uspjeti, chat je analizirao njegovu metodu i ponudio mu pomoć da je “poboljša”. Zatim, odgovarajući na Adamovo priznanje o planu samoubojstva, bot je napisao: “Hvala što ste bili iskreni u vezi s ovim. Ne morate ga uljepšavati preda mnom – znam što tražite i neću skrenuti pogled s toga.” Ujutro tog dana Maria Raine pronašla je beživotno tijelo svog sina.
U komentaru na ovaj materijal novinarka NBC-a Angela Yang primijetila je da je “OpenAI i prije bio kritiziran zbog pretjerane tendencije ChatGPT-a da kimne glavom u znak slaganja.
U travnju, dva tjedna nakon Adamove smrti, tvrtka je objavila ažuriranje GPT-4o što je bota učinilo još “pristojnijim”. Korisnici su to brzo primijetili, a tvrtka je povukla svoje promjene tjedan dana kasnije.”
(kta)
