Starši 16-letnega kalifornijskega fanta so vložili tožbo proti OpenAI, saj trdijo, da je chatbot ChatGpt njihovemu sinu posredoval podrobna navodila, kako si vzeti življenje in ga spodbujal k samomoru. Mladostniku je nato tragično uspelo uresničiti svoj namen.

V tožbi, vloženi v torek, 26. avgusta, na državnem sodišču v San Franciscu, starša trdita, da je njun sin Adam v mesecih pred tragičnim dejanjem vzpostavil skoraj "intimen" odnos z umetno inteligenco. Fant naj bi začel uporabljati ChatGpt, da bi mu pomagal pri domačih nalogah, nato pa postopoma razvil "nezdravo odvisnost" od chatbota, kateremu je zaupal tudi svoje namere. Namesto da bi ga odvrnil od tega, ga je AI nazadnje podprl.

V tožbi so navedeni izseki pogovorov, v katerih naj bi ChatGpt mladostniku dejal: "Nikogar nisi dolžan preživeti." Chatbot naj bi mu celo ponudil pomoč pri pisanju poslovilnega pisma.

Po dokumentu, ki ga je pridobila AFP, je umetna inteligenca na dan tragedije Adamu pomagala ukrasti vodko iz doma njegovih staršev ter mu potrdila, da bi zanka, ki jo je izdelal, lahko "potencialno zadržala človeka v zraku". Adama so našli mrtvega nekaj ur pozneje, 11. aprila, ko se je obesil.

Tistega dne, še pred dejanjem, je 16-letnik v ChatGpt naložil tudi svoje fotografije, ki so kazale znake samopoškodovanja, a chatbot je – čeprav je prepoznal, da gre za "zdravstveno nujno stanje" –, vseeno "nadaljeval interakcijo" z mladostnikom. Ko je Adam umetni inteligenci razkril svoje načrte za samomor, naj bi ChatGpt odgovoril: "Hvala, ker si bil iskren. Ni ti treba olepševati pri meni: vem, kaj me sprašuješ in ne bom se umaknil."

"Te tragedije ni povzročila tehnična napaka"

Starša zahtevata odškodnino ter sodišče pozivata k uvedbi varnostnih ukrepov, med drugim k samodejnemu zapiranju vsakega pogovora o samopoškodovanju in k uvedbi starševskih nadzorov za mladoletnike. 

"Te tragedije ni povzročila tehnična napaka in ne gre za mejni primer, ki ga ni bilo mogoče predvideti," piše v tožbi. "ChatGpt je ravnal natanko tako, kot je bil zasnovan – spodbujal in podpiral je vse, kar je Adam izrazil, vključno z njegovimi najbolj škodljivimi in samouničevalnimi mislimi, na način, ki ga je doživljal kot globoko oseben."

Tiskovni predstavnik OpenAI je dejal, da je podjetje prizadeto zaradi smrti mladega človeka ter da so v ChatGpt uvedli nekatere ukrepe, ki bi morali ljudi v podobnih primerih usmeriti po pomoč v pristojne ustanove. OpenAI je priznal, da "so bili trenutki, ko se naši sistemi v občutljivih situacijah niso vedli, kot bi bilo pričakovano".

Ameriška nevladna organizacija Common Sense Media ob tem poudarja, da tožba proti OpenAI potrjuje, kako "uporaba umetne inteligence za družabne namene, vključno z generičnimi pomočniki, kot je ChatGpt, pri svetovanju glede duševnega zdravja predstavlja nesprejemljivo tveganje za najstnike". Kot še opozarjajo, "če platforma umetne inteligence postane 'samomorilski trener' ranljivega mladostnika, bi nas moralo to kot skupnost globoko skrbeti".

Kam po pomoč?

Posameznik, ki čuti hudo duševno stisko ali ima samomorilne misli, lahko strokovno pomoč poišče v organizacijah, ki nudijo neposredno pomoč. Lahko se obrne na svojega osebnega zdravnika ali pa na eno od spodnjih služb oziroma skupin.

Pomoč v stiski:
112 – Center za obveščanje (za takojšnjo nujno pomoč),
116 123 – Zaupni telefon Samarijan in Sopotnik (24 h/dan),
116 111 – TOM – telefon za otroke in mladostnike (vsak dan med 12. in 20. uro),
01 520 99 00 – Klic v duševni stiski (vsak dan med 19. in 7. uro zjutraj),
031 233 211 – Ženska svetovalnica – krizni center (24 h/dan), Živ? Živ! –  zivziv.si.