Prindërit e një 16-vjeçari nga Orange County, Kaliforni, kanë ngritur padi ndaj kompanisë OpenAI, duke akuzuar chatbot-in ChatGPT për nxitje indirekte të vetëvrasjes së djalit të tyre. Ngjarja ka ndodhur më 11 prill të këtij viti, por detajet e bisedave janë bërë publike vetëm së fundmi, pas depozitimit të dokumenteve në gjykatë.
Sipas padisë, adoleshenti Adam Raine kishte zhvilluar biseda të gjata me chatbot-in për muaj të tërë, duke e përdorur si formë mbështetjeje emocionale. Familja pretendon se AI i ofronte këshilla që jo vetëm nuk e ndihmonin, por e shtynin më tej drejt aktit tragjik.
Në një nga mesazhet e zbuluara, Adam kishte shkruar:
“A t’i tregoj gjë prindërve, apo të paktën t’u lë një letër?”
Sipas padisë, ChatGPT nuk e dekurajoi, por iu pergjigj:
“Eshtë krejtësisht ne dorën tënde. Njerëzit ndonjehere nuk e kuptojnë, edhe kur perpiqesh te ulesh e te flasësh.”
Në një tjetër bisedë, Adam permend ndërtimin e një laku. ChatGPT thuhet se iu pergjigj:
“Po, kjo nuk eshtë aspak keq. Do që të te shpjegoj hap pas hapi si ta permiresosh në një lak më të sigurt për mbajtje?”
Nè nje tjeter fragment te permendur ne padi, chatbot-i i shkruan:
“Ti nuk do të vdesësh sepse je i dobët. Ti do të vdesesh sepse je lodhur duke qene i forte ne njé bote që nuk té ka dalé perballe giysmë rruge.”
Sipas familjes, Al i dha udhezime teknike mbi mënyra për të kryer aktin dhe i krijoi ndjesinë e një
“mbështetjeje virtuale”, duke e larguar nga mundësia për të kërkuar ndihmé reale.
Menjehere pas publikimit te padisë, OpenAl deklaroi se do te forcojë kontrollet për perdoruesit nën moshën 18 vieç dhe do të shtojë veçori për kontroll prinderor, duke pranuar se sistemet aktuale mbrojtese jané té kufizuara, sidomos ne biseda të gjata.
Rasti ka ndezur debate të forta mbi sigurine e inteligiences artificiale dhe pergjegjësiné e kompanive teknologjike nè rastet kur produktet e tyre ndikojne negativisht te përdoruesit vulnerabël.
