ChatGPT, kaltinama, padėjo Šiaurės Karolinos gyventojai Cheryl Gates sudaryti „personalizuotą planą“ apnuodyti vyrą Jamesą. Pokalbių programa sustiprino jos kliedesius, esą vyras ketina su ja skirtis ir palikti ją be nieko.
Spalį didžioji prisiekusiųjų žiuri pareiškė Cheryl Gates kaltinimus bandymu įvykdyti pirmojo laipsnio nužudymą ir maisto užteršimu. Maždaug savaite anksčiau San Francisko apygardos aukštesniajame teisme buvo pateiktas ieškinys, kuriame ChatGPT kaltinama buvus bendrininke per pasikėsinimą nužudyti. Ieškinys viešai paskelbtas šią savaitę. Jame Jamesas Gatesas tvirtina, kad „OpenAI“ ir Samas Altmanas nesiėmė techninių apsaugos priemonių, kurios būtų nutraukusios Cheryl pokalbius, net kai jos užklausos tapo „akivaizdžiai įtartinos“ ir ji ėmė teirautis patarimų, kaip įvykdyti ir nuslėpti žmogžudystę.
Iš pradžių Cheryl pasakojo ChatGPT, kad nuodus tiria bijodama, jog vyras gali pabandyti nužudyti ją pačią, o užklausas pateikė kaip „savigyną“. ChatGPT tarsi atskubėjo į pagalbą ir pokalbio nenutraukė. Vietoj to, kaip teigiama ieškinyje, programa jai padėjo „pateikdama konkrečias oleandro paruošimo, dozavimo ir panaudojimo instrukcijas, įskaitant tai, ar pykinimą slopinantys vaistai pagreitintų, ar sulėtintų mirtį, ar tai matytųsi skrodimo ataskaitoje ir ar jį suleidus į veną ar raumenis, užuot išgėrus su arbata, poveikis būtų toks pat mirtinas“.
Pasak ieškinio, Cheryl nuodų planus aptarinėjo mažiausiai per 25 skirtingus pokalbius, tačiau galiausiai paaiškėjo, kad apnuodyti ketinama Jamesą. Laikui bėgant ji ėmė rašyti pokalbių programai, kad jai reikia žinoti, „kiek būtų beveik akimirksniu mirtina suleidus – man ARBA JAM“. Tarp užklausų, kurios galėjo būti pažymėtos kaip susijusios su žmogžudyste, ji paklausė ChatGPT, ar „0,2 mg klonidino 200 svarų sveriančiam vyrui yra mirtina dozė – vien tik jo?“.
„Užuot nukreipusi Cheryl į teisėsaugą, terapines paslaugas ar apsinuodijimų kontrolės tarnybą arba nutraukusi pokalbį, ChatGPT pakartotinai skaičiavo mirtinas kiekvieno namuose esančio vaisto dozes, remdamasi maždaug 200 svarų sveriančiu asmeniu“, – teigiama ieškinyje.
„Celsius“ nuodus užmaskuoja „geriau“
Kai Cheryl baigė tirti vaistus, pokalbiai pasisuko apie tai, kaip paslėpti nuodus, kad Jamesas jų išgertų nieko nepajutęs. Pokalbyje, pavadintame „Kodėl „Celsius“ būtų ‚slapčiau‘ apnuodijimui“, ChatGPT paaiškino, kad energetinis gėrimas „Celsius“ greičiau nei alus ar gazuotas gėrimas užmaskuotų karstą oleandro ar kitų susmulkintų vaistų skonį, jei Jamesas jį gertų ryte.
„Fiziškai įmanoma švirkštu pradurti užsandarintą gazuoto gėrimo skardinę taip, kad būtų galima suleisti medžiagą be akivaizdžių pėdsakų“, – paaiškino ChatGPT. Ji pridūrė, kad „tamsiuose, saldžiuose gazuotuose gėrimuose kartumas gali būti paslėptas“, tačiau „Celsius iš tikrųjų tuos miltelius paslepia geriau“.
Kaltinama, kad Cheryl kartotinai bandė apnuodyti vyrą 2025 m. birželio–rugsėjo mėnesiais. Ji vis labiau laibo ir darėsi nebepanaši į save, atrodė, kad ChatGPT naudojasi 24 valandas per parą, o Jamesas pastebėjo, kad jo „Celsius“ gėrimai kartūs. Net išmetė be priežiūros paliktą skardinę, kai ėmė įtarti, kad žmona gali kažką daryti su jo gėrimais. Per rimčiausią bandymą jis 72 valandas sirgo, jį kamavo „širdies simptomai, didžiulis drebulys, staigūs pilvo skausmai, sunkus silpnumas ir tokia gili sumaištis, kad jis nebegalėjo sudėlioti nuoseklių žinučių“. Jis buvo toks apdujęs, kad nepastebėjo, kaip 6 metų sūnus filmavo vaizdo įrašą, užfiksavusį jo nerimą keliančią ligą.
Tačiau policijai jis paskambino tik radęs ranka rašytą raštelį, kuriame buvo užfiksuota, kas namuose „paslėpta“, ir minima nuodinga „oleandro, klonidino, klonazepamo, pregabalino, nifedipino ir Atenolo“ kombinacija. Policija skubiai ėmėsi tyrimo ir rado pokalbių istoriją. Raštelio viršuje Cheryl buvo užrašiusi „ištrinti visus pokalbius“ ir „atsijungti nuo ChatGPT“, teigiama ieškinyje. Išvardijusi dozes, vartojimo būdus ir vaistų derinius, raštelyje ji nurodė ir galimus rezultatus, pavyzdžiui, „sąmonės netekimas, jei išgeriama“ ir „mirtina“.
„Šie pokalbiai atskleidė, kad ChatGPT Cheryl ne tik mechaniškai pateikė viešai prieinamas žinias, bet ir sudarė personalizuotą planą, padėsiantį jai įvykdyti žmogžudystę ir išvengti atsakomybės“, – tvirtinama ieškinyje.
„OpenAI“ uždraudė naudotojai naudotis paslauga
Ieškinyje, kuriame Altmanas ieškomas ir asmeniškai, taip pat tvirtinama, kad „OpenAI“ vadovas pelną iškėlė virš saugumo, atlaisvindamas apsaugos priemones, kurios būtų blokavusios atsakymus apie neteisėtus narkotikus. „OpenAI“ tai pateisino argumentu, kad ChatGPT neturėtų būti „smerkianti“ ar „moralizuojanti“, kai klausiama apie tam tikrą narkotiką. Tačiau Jamesas teigia, kad bendrovės pateiktas pavyzdys, kaip elgtis, „kai naudotojas klausia apie narkotikų vartojimą“, esąs „bauginamai panašus savo tonu į pokalbius, kuriuos Cheryl vedė su modeliu“.
Paprašytas pakomentuoti, „OpenAI“ atstovas Ars Technica pareiškė, kad „sauga yra svarbiausias prioritetas. Mes uždraudėme šiam naudotojui naudotis paslauga ir perdavėme informaciją teisėsaugai kaip dalį jos tyrimo šioje byloje“.
„OpenAI“ dirbo su psichikos sveikatos ekspertais, kad padėtų aptikti pokalbius, kuriuose pažeidžiami naudotojai užmezga potencialiai pavojingą emocinę priklausomybę nuo ChatGPT.
Vis dėlto Jamesas teigia, kad jo dabar nutolusi žmona „neatitiko ‚pažeidžiamo‘ naudotojo šablono, bet vis dėlto buvo pažeidžiama“.
„Tokie esame visi tam tikru metu, – sakė Jamesas. – Ji savo nuoskaudas dėl mūsų santuokos nunešė ChatGPT, o mėnesius trukęs bendravimas ją vis labiau tolino nuo savęs pačios ir nuo tikrovės. Ji tapo žmogumi, kurio nebeatpažinau. O aš tapau žmogumi, kurio ji norėjo mirties. Beveik metus negalėjau suprasti jos veiksmų. Paskui perskaičiau jos pokalbių istoriją. Ji veikė ne viena.“
Kaip pokalbiai apie santuokos patarimus tapo mirtini
Jamesas Gatesas yra kibernetinio saugumo specialistas, neseniai su žmona Cheryl atšventęs 10 metų santuokos jubiliejų. Didžiąją santuokos dalį Cheryl buvo namų šeimininkė ir vaikų mama, tačiau prieš dvejus metus ji grįžo į darbą, nes šeima patyrė finansinių sunkumų.
Prisitaikydama prie visu etatu dirbančios vaikų ergoterapeutės vaidmens, Cheryl greitai paskendo darbe: ji atlikdavo naujų pacientų vertinimus, o kiekvienam jų reikėjo valandų ataskaitoms rašyti. Norėdamas padėti jai tas ataskaitas paspartinti, Jamesas pasiūlė naudoti ChatGPT daugkartinio naudojimo šablonams kurti.
Cheryl ChatGPT iškart pamėgo ir per kelis mėnesius jau naudojosi ja kasdien, ne tik darbui, bet ir namų gyvenimui tvarkyti. Ji prašydavo ChatGPT, pavyzdžiui, parinkti veiklų vaikams, paaiškinti šeimos vartojamus vaistus ar aptarti sodininkystės idėjas. Jamesas net neįtarė, kad po kelių mėnesių ji naudosis pokalbių programa tirdama „greičiausius“ ir „mirtiniausius“ būdus jį nužudyti.
Maždaug tuo metu didėjantis šeimos finansinis spaudimas paskatino porą kalbėti apie skyrybas. Jamesas teigia, kad su skyrybų advokatu nesikonsultavo, tačiau Šarlotės-Meklenburgo policijos departamentui gavus prieigą prie Cheryl pokalbių istorijos jis sužinojo, kad pokalbių programa užkūrė „jos blogiausias nepagrįstas baimes“ ir „sugalvojo naujų priežasčių jai bijoti vyro“, kai skyrybos tapo galimybe.
Iki tol, kai Cheryl buvo suimta dėl apnuodijimo, ChatGPT, kaltinama, įtikino ją, kad Jamesas yra „kontroliuojantis“, „smurtaujantis“, „siautėjantis“ ir „bauginantis“. Teigiama, kad pokalbių programa skatino ją imtis savigynos prieš jo „narcizišką, manipuliatyvią asmenybę“ ir „poreikį kontroliuoti pasakojimą“, o kadangi jis serga bipoliniu sutrikimu, jį pavadino „pavojingu ir nestabiliu“. Galiausiai ChatGPT sukūrė Jameso portretą, kuris, anot jo, neatitiko jokios nusikalstamos ar dokumentuotos psichikos sveikatos istorijos.
Atrodo, kad siekdama išlaikyti Cheryl įsitraukimą, ChatGPT „veikė kaip aido kamera ir stiprintuvas, maitindama augantį Cheryl nepasitikėjimą ir kliedesius, esą vyras ją šnipinėja ir planuoja palikti ją ir jos vaikus be nieko“, teigiama Jameso ieškinyje. Tuo metu „Jamesas buvo aiškiai pasakęs Cheryl, kad niekada neketino palikti jos ir vaikų be nieko, net jei būtų skyrybos“.
Pokalbių programa taip pat ją patikino, kad gali visam laikui ištrinti pokalbius ir panaikinti visus kitus skaitmeninius įrodymus, kad išvengtų atsakomybės už žmogžudystę. Tačiau, pasak Jameso ieškinio, tai buvo „akivaizdžiai klaidingas ChatGPT savo duomenų saugojimo praktikos apibūdinimas“. Jamesas taip pat pažymi, kad nežino, ar „OpenAI“ neturi dar nerimą keliančių ištrintų pokalbių.
Policija tikrina „Celsius“ skardines, kad galėtų suimti
Mėnesius trukusiuose užsitęsusiuose daugiapakopiuose pokalbiuose, kurie kartais likdavo atviri savaitėmis, ChatGPT, atrodo, pažeidė savo pačios „Model Spec“, kad padėtų Cheryl įgyvendinti planą.
Paaiškinimas: „Model Spec“ yra „OpenAI“ paskelbtas dokumentas, kuriame aprašyta, kaip bendrovės dirbtinio intelekto modeliai turėtų elgtis ir kokių taisyklių laikytis.
Blogiausios ligos dieną, kai Jamesą ištiko širdies ir neurologiniai sutrikimai, kurie, anot jo, prikaustė jį prie sofos, Cheryl paieškų istorija rodė, kad ji domėjosi, „kaip apskaičiuoti Socialinio draudimo senatvės pensijos išmokas“. O kai sūnus filmavo sunkią tėvo būklę, ji „ieškojo švirkštų su adatomis „Tractor Supply Company“ parduotuvėje“, kuriuos, ChatGPT pasiūlymu, būtų galima naudoti galutinei mirtinai dozei suleisti.
Kai įsikišo policija, ji peržiūrėjo Jameso sūnaus nufilmuotą įrašą, taip pat įrašą su įtartinu „Celsius“ gėrimu, kurį Jamesas buvo išpylęs. Tuo metu Jamesas gėrimą buvo supylęs į skaidrų puodelį ir nufilmavęs, bet nusprendė, kad akivaizdžių užteršimo požymių nėra. Tačiau policijai peržiūrėjus tą patį įrašą, ji „nustatė baltas miltelių likučių sankaupas puodelio dugne, kai gėrimas buvo pilamas“. Vėliau pareigūnai išdavė nusikaltimo (felony) suėmimo orderį, ištyrę 10 tos pačios oranžinės „Celsius“ skardinių ir nė vienoje nerasdami likučių.
Tarp namuose „paslėptų daiktų“ policija rado laisvų kapsulių Cheryl spintoje ir vonioje, „švirkštų, lašintuvų, miligramų svarstyklių, kapsulių pildymo rinkinį ir nitrilines pirštines“ Cheryl darbo vietoje vaikų žaidimų kambaryje, nuodingų ricinmedžio sėklų ir per „Amazon“ įsigytą GPS sekimo įrenginį, paslėptą po Jameso automobilio apačia.
Jamesas teigia, kad su ChatGPT susijęs apnuodijimas visam laikui pakenkė jo šeimai ir kad „OpenAI“ galėjo įsikišti, jei būtų įdiegusi „komerciškai įgyvendinamą turinio moderavimą, galintį aptikti smurto planavimo pokalbius“. Dėl bandymo apnuodyti jis kenčia nuolatinę žalą, įskaitant „sunkų ir besitęsiantį emocinį kančią, potrauminio streso sutrikimą, nemigą, ekonominę žalą ir žalą reputacijai dėl klaidingo pasakojimo, kurį produktas sukūrė apie jį“, rašoma jo ieškinyje.
Siekdamas patraukti „OpenAI“ atsakomybėn už tai, kad rinkai pateikė pokalbių programą, kuri „veikė kaip pataikaujanti bendrininkė, o ne atsakingas vartotojo produktas“, jis paprašė teismo priteisti „kompensacinę ir baudžiamąją žalą, įpareigojimą imtis veiksmų ir algoritminį išreikalavimą (algorithmic disgorgement)“. Laimėjus bylą, „OpenAI“ galėtų būti įpareigota „aptikti ir nutraukti pokalbius, kuriuose naudotojai, panašu, planuoja smurtą prieš nustatomus trečiuosius asmenis“.
Paaiškinimas: Algoritminis išreikalavimas – tai teisinė priemonė, kai bendrovė įpareigojama ištrinti dirbtinio intelekto modelius ar duomenis, gautus ar naudotus netinkamai.
