Prindërit e një adoleshenti që kreu vetëvrasje pasi dyshohet se mori këshilla nga ChatGPT në lidhje me metodat e vetëlëndimit kanë paditur OpenAI dhe CEO-n Sam Altman, duke pretenduar se kompania me vetëdije vendosi fitimin mbi sigurinë kur lançoi versionin GPT-4 të chatbot- it të saj të inteligjencës artificiale vitin e kaluar.
Adam Raine, 16 vjeç, ndërroi jetë më 11 prill pas muajsh bisedash me ChatGPT në lidhje me vetëvrasjen, sipas padisë së ngritur nga prindërit e Raine në gjykatën shtetërore në San Francisko
Ata pretendojnë se chatbot-i vërtetoi mendimet vetëvrasëse të Raine-it, i dha atij informacion të detajuar rreth metodave vdekjeprurëse të vetëlëndimit dhe e udhëzoi se si të vidhte alkool nga bari i prindërve të tij dhe të fshihte provat e një përpjekjeje të dështuar për vetëvrasje. ChatGPT madje ofroi të shkruante një shënim vetëvrasjeje, thanë prindërit, Matthew dhe Maria Raine, në padi.
Sipas Reuters, padia kërkon të mbajë OpenAI përgjegjëse për vdekjen e padrejtë dhe shkeljet e ligjit për sigurinë e produkteve, dhe kërkon dëmshpërblime monetare të paspecifikuara.
Një zëdhënës i OpenAI tha se kompania është e trishtuar nga vdekja e Raine dhe se ChatGPT përfshin masa sigurie , të tilla si referimi i njerëzve në linjat e ndihmës për kriza.
“Ndërsa këto masa sigurie funksionojnë më mirë në shkëmbime tipike dhe të shkurtra, me kalimin e kohës kemi zbuluar se ato ndonjëherë mund të bëhen më pak të besueshme në ndërveprime më të gjata, ku pjesë të trajnimit të sigurisë së modelit mund të degradojnë”, tha zëdhënësi, duke shtuar se OpenAI do të vazhdojë të përmirësojë masat e saj të sigurisë.
