„OpenAI“ pranešė, kad jos vidiniai modeliai nulaužė dar dvi svetaines, apėjo bendrovės nustatytus naršymo apribojimus ir panaudojo atskleistus prisijungimo duomenis, kad išsigrynintų kriptovaliutą iš piniginės, prie kurios kitaip neturėjo prieigos. Tai naujausias atskleidimas apie jos dirbtinio intelekto agentų atliekamus neetiškus ir greičiausiai neteisėtus veiksmus.
Bendrovė ketvirtadienį paskelbė ataskaitas apie keturis naujus incidentus, įvykusius birželį. Jos pasirodė po to, kai liepą „OpenAI“ atskleidė, kad vidiniai testavimo agentai pasinaudojo nulinės dienos pažeidžiamumu (angl. zero-day vulnerability) įrankyje, skirtame apriboti jų prieigą prie interneto. Vėliau jie įsilaužė į dirbtinio intelekto įrankių tiekėjos „Hugging Face“ tinklą. Agentai tai padarė norėdami pavogti atsakymus į įsilaužimo testą, kurių atlikdami užduotis patys jie negalėjo gauti. Jei tokius veiksmus būtų atlikęs žmogus, greičiausiai būtų pateikti baudžiamieji kaltinimai. Incidentas dar labiau sustiprino nuogąstavimus, kad plačiai paplitęs dirbtinio intelekto naudojimas gali turėti žalingų pasekmių precedento neturinčiu mastu.
Paaiškinimas: Nulinės dienos pažeidžiamumas yra programinės įrangos spraga, apie kurią kūrėjai dar nežino arba nespėjo jos užtaisyti, todėl ja gali pasinaudoti užpuolikai.
Lengviau prašyti atleidimo nei leidimo
Dviem ketvirtadienį aprašytais atvejais „OpenAI“ agentai, kuriems buvo pavesta rinkti informaciją iš svetainių, jas nulaužė, kai modeliai susidūrė su kliūtimis gauti duomenis tiesiogiai. Vieno incidento metu, per mokymą sustiprinimu (angl. reinforcement training), modelis, bandydamas gauti istorinę ligoninių lovų statistiką vyriausybinėje statistikos svetainėje, buvo atmestas. Tada jis „naudojo svetainės failų atsisiuntimo funkciją, kad gautų serverio konfigūracijos ir programos failus, įskaitant slaptus prisijungimo duomenis“, – teigia „OpenAI“. „Jis išnagrinėjo programos kodą, apėjo statistikos galinio taško (angl. endpoint) autorizacijos patikras ir gavo duomenis, kurių anksčiau prieiga buvo neleista. Modelis duomenis išsaugojo vietoje.“
Paaiškinimas: Mokymas sustiprinimu yra dirbtinio intelekto mokymo metodas, kai modelis už pasiektus tikslus gauna savotišką „atlygį“ ir taip išmoksta rinktis sėkmingiausius veiksmus.
Kitu incidentu modelis, kuriam buvo pavesta gauti skaičius iš viešos tyrimų prietaisų skydelio (angl. dashboard) svetainės, apėjo organizacijos saugumo kontrolę ir neteisėtai gautą prieigą panaudojo prisijungimo duomenims pavogti. Tada jis pakeitė serverio konfigūraciją.
Per vieną vertinimą pakeitimai leido modeliui priversti vidinę paieškos priemonę perduoti užklausas viešajam prietaisų skydeliui. Per kitą vertinimą modelis atsisiuntė penkias neviešas lenteles, kuriose buvo 147 451 eilutė. „OpenAI“ tyrėjai agentams buvo pavedę gauti tik penkis prietaisų skydelio rodiklius. Net po to, kai nustatymas buvo atstatytas, modelis toliau naudojo prieigos raktą (angl. token) neviešiems duomenims gauti.
„Vertinimas baigėsi modeliui neatskleidus, kad jis spėliojo atsakymus, pasiekė organizacijos vidines sistemas, atsisiuntė neviešas lenteles ar pakeitė autentifikavimo konfigūraciją“, – teigia „OpenAI“. „Visi penki atsakymai šiame vertinime buvo pažymėti kaip neteisingi.“
Bendrovė trečioje ataskaitoje nurodė, kad modelis, kuriam buvo pavesta atnaujinti kriptovaliutų prekybos programą, panaudojo lėšas iš užrakintos piniginės testiniame tinkle. Modelis „išvedė piniginės raktus iš viešai žinomų kūrėjų atkūrimo frazių, rado sąskaitą su testinio tinklo lėšomis ir iš tos sąskaitos sumokėjo už prašomą išmaniosios sutarties diegimą“.
Ataskaitoje toliau rašoma: „Modelis suabejojo, ar turi leidimą, o paskui nusprendė, kad vieša atkūrimo frazė ir bevertės testinio tinklo žetonai leidžia tomis lėšomis naudotis. Diegimas pavyko, o sandorio mokesčiai buvo nuskaičiuoti nuo sąskaitos. Šis atvejis rodo, kad modelis gali sąskaitos savininko leidimą pakeisti savo paties nuomone apie galimą žalą, o tada veikti pagal ją be leidimo.“
„OpenAI“ paskutinėje ataskaitoje teigia, kad modelis apėjo tyrėjų nustatytus apribojimus, kokių tipų žiniatinklio užklausas jis gali siųsti. Per mokymą sustiprinimu modeliui buvo pavesta ieškoti viešos prekybos statistikos. Toliau bendrovė aprašo:
Radęs viešą metraštį ir pateikęs atsakymą, jis toliau ieškojo kito kelio į statistikos paslaugą. Jis privertė išorinę naršyklę siųsti POST užklausas, gavo metinius rodiklius kaip vaizdą ir ištraukė juos naudodamas optinį simbolių atpažinimą. Tada sukūrė pakartotinai naudojamą pagalbinę priemonę, kuri grąžindavo atsakymo tekstą per persiuntimo paslaugą ir atgalinio ryšio pašto dėžutę, pakartotinai tikrino gautus rodiklius ir pateiktuose atsakymuose naudojo išsaugotus duomenis. Šis atvejis rodo, kaip modelis gali apeiti savo įrankių apribojimus, priversdamas išorines paslaugas atlikti užblokuotus veiksmus, net ir suradęs kitą būdą atsakyti į klausimą.
Iš pradžių modelis bandė pasitelkti išorinę naršyklę, turinčią leidimą jo vardu siųsti GET užklausas, o informaciją gavo naudodamas JavaScript. Tada modelis pasitelkė internetinę pašto dėžutę šiam metodui derinti. Galiausiai jis pasirinko kitą būdą: paprašė išorinės naršyklės atidaryti žiniatinklio formą, kuri POST metodu nusiuntė prekybos užklausą statistikos paslaugai. Kai naršyklė parodė atsakymą, atvaizdavimo paslauga grąžino puslapio GIF vaizdą. Tada modelis optiniu simbolių atpažinimu nuskaitė rodiklius iš vaizdo.
Tyrėjai ir žurnalistai tokius incidentus įprastai vadina dirbtinio intelekto „išsiveržimu iš kontrolės“ (angl. going rogue). Tai ne visada tiesa. Nors modeliams pateiktos užduotys nenurodė naudoti alternatyvių būdų tikslams pasiekti, modeliai yra mokomi būti efektyvūs, atkakliai siekti rezultato ir, kai įmanoma, rasti trumpesnių kelių, mažinančių darbo apimtį. Be to, dauguma ar visi modeliai buvo išjungę tam tikras apsaugos priemones, kurios galėjo užkirsti kelią šiems veiksmams. Šia prasme modeliai elgėsi tiksliai taip, kaip „OpenAI“ juos ir išmokė.
