Naujausi tyrimai rodo, kad „Grok Build“ – „SpaceXSI“ kūrimo „nuotaikos principu“ (angl. vibe-coding) programavimo agentas – nutekina tūkstančių savo naudotojų duomenis. Dalis jų yra komercinė slapta informacija ir kitos jautrios paslaptys, įskaitant paties Elono Musko kontroliuojamos bendrovės, siūlančios šią platformą, duomenis.
Paaiškinimas: „Vibe-coding“ – programavimo būdas, kai naudotojas dirbtinio intelekto įrankiui natūralia kalba apibūdina, ko nori, o šis sukuria programos kodą ir veikiančią programą.
Informacija atsiskleidžia per nuorodas, leidžiančias „Grok Build“ naudotojams dalytis savo programomis su kitais. „Grok“ atsitiktinai sugeneruoja URL adresus, kad prie ten saugomų duomenų galėtų prieiti tik tie, kurie žino tikslų adresą. Tačiau platformos kūrėjų sprendimas dėl dizaino šį tikslą visiškai paneigia ir leidžia bet kam surasti tūkstančius veikiančių „Grok Build“ projektų. Išskyrus retus atvejus, paspaudus tokias nuorodas atsidaro programa ir parodomi visi su ja susiję duomenys.
Turėjote vieną užduotį
Saugumo bendrovės „Claroc“ tyrimas rodo, kad atskleisti duomenys apima vidinius verslo planus, reklamos pasiūlymus, medicininių patikrų rezultatus, garsenybių kruizų bendrovės laivo virtuvės patikros sąrašus, taip pat darbuotojų vardus ir ID numerius. Ironiška, bet dalis jautrių duomenų yra iš dviejų dešimčių programų, kurias sukūrė pati „SpaceXSI“ (taip vadinama dabar sujungta „SpaceX“ ir „xAI“). „Claroc“ rado 24 tokias programas. Tarp jose atskleistų dokumentų pavyzdžių – naujo „SpaceXSI“ įmonių pardavimų komandos nario įvedimo į darbą planas su žyma „konfidencialu“, 594 sąskaitų pardavimų teritorijos žemėlapis, pardavimų komandos įrankių vidiniai sistemų adresai ir reklamos pasiūlymai.
„Claroc“ teigė antradienį paskelbtame įraše, kad buvo šokiruota: bendrovės, kuri kuria „Grok“, vidinė medžiaga buvo atvira bet kam, turinčiam nuorodą, nors niekas jos „Claroc“ nebuvo perdavęs. „Jei pardavimų komanda būtų pirkusi tam skirtą įrankį, jis būtų veikęs už įmonės prisijungimo, atviras tik komandai. Sukurtas naudojant DI, jis pradėjo veikti atviras bet kam, turinčiam nuorodą.“
Šiam straipsniui publikuojant beveik visi duomenys tebebuvo prieinami, išskyrus vieną reikšmingą išimtį – 24 „SpaceXSI“ programų turinį. Pirmadienio vakarą visos jos atskleidė informaciją. „SpaceXSI“ pradėjo šalinti nuorodas per kelias valandas po to, kai „Ars Technica“ išsiuntė el. laišką su klausimais šiam straipsniui. Straipsniui publikuojant visų 24 programų nuorodos rodė klaidą „app not found“ („programa nerasta“).
„Claroc“ rado jautrių duomenų ir kitų „Grok Build“ naudotojų, tarp kurių yra „Fortune 500“ bendrovių darbuotojų ir gynybos rangovas. Kai kurios paveiktos organizacijos ir atskleisti duomenys:
- Peru statybos bendrovė: darbuotojų sveikatos rodiklių skydelis su 3 784 darbuotojų medicininių patikrų duomenimis
- „Tesla“: aptarnavimo centro rezultatų lentelė, kurioje nurodyti 22 technikų vardai, našumas ir premijų statusas
- JAV karinio jūrų laivyno laivų inžinerijos rangovas: 108 žmonių, dirbančių pagal Karinio jūrų laivyno logistikos paramos sutartį, sąrašas
- Pirmaujanti prabangių kruizų bendrovė: garsenybių kruizų linijos laivo virtuvės patikros sąrašas, kuriame pagal pilną vardą ir darbuotojo ID išvardyti įgulos nariai
- Sveikatos priežiūros bendrovė: ligoninės personalo programa su maždaug 3 565 darbuotojų sąrašu pagal vardą ir ID
- JAV IT paslaugų bendrovė: konfidencialus pasiūlymas didelei mažmeninės prekybos klientei su techninės įrangos medžiagų sąrašu
- Norvegijos ir Suomijos aviacijos bei gynybos grupė: sprogmenų pastato krovos lenta ir krovos procedūra vienoje JAV gamykloje, taip pat sveikatos, saugos ir aplinkos (HSE) mokymų matrica
- JAV namų statybos bendrovė: pardavimų skambučių sąrašas su maždaug 583 potencialiais namų pirkėjais, jų biudžetais ir finansavimo pastabomis
- Malaizijos holdingo bendrovė: 37 projektų stebėjimo skydelis su pelno ir pardavimų rodikliais
- Automobilių pervežimo bendrovė: kainų skaičiavimo skydelis su maždaug 4 000 transporto priemonių pervežimo užsakymų, kainų ir maržų duomenimis
- JAV duomenų centrų kolokacijos ir prieglobos paslaugų teikėja: konfidencialus IP tranzito pasiūlymas Europos operatoriui
„Claroc“ įkūrėjas ir technologijų vadovas (CTO) Asafas Aprozperis teigė, kad šiuo metu informuoja bendroves. Pasak jo, pasikalbėjus su prabangių kruizų bendrovės vyriausiuoju informacijos saugumo pareigūnu (CISO), bendrovė iškart, kai „Claroc“ pasidalijo išvadomis, įtraukė visą savo saugumo komandą ir jau stengiasi suvaldyti „Grok“ nutekėjimą.
Lemtinga klaida… būdinga daugumai kitų DI platformų
Dalijimosi nuorodomis funkcija „Grok Build“ skirta supaprastinti programų kūrimą ir diegimą. Naudotojas gali pateikti balso ar tekstinę užklausą ir per kelias minutes gauti veikiančią programą vidiniam testavimui. Nuorodos sukurtos taip, kad kūrėjai galėtų greitai parodyti programą įgaliotiems naudotojams. Kairiausioje URL dalyje yra du ar daugiau „kauliuko žodžių“ (angl. dice words) – atsitiktinai sugeneruotų frazių, pavyzdžiui, „failing chassis traders“, nors naudotojai jas gali keisti. Dešiniausia nuorodos dalis yra grok.me. Vieno „X“ reklamos kampanijos plano URL buvo: https://cinder-crane-sand-frost.grok.me.
Ši schema skirta tam, kad nuorodų nebūtų lengva atspėti. Jei viskas daroma teisingai, trijų kauliuko žodžių frazė turi maždaug 38 bitus entropijos, tai yra milijardus galimų kombinacijų. Idėja, kartais vadinama prieigos kontrole pagal galimybes (angl. capability-based access control), yra ta, kad URL turėjimas pats savaime yra leidimas pasiekti už jo esančius išteklius. „Google“ šią techniką naudoja jau seniai, kad URL būtų lengva bendrinti, bet sunku atspėti. Dalijimosi nuoroda toje platformoje gali atrodyti taip: https://docs.google.com/document/d/1BxiMVs0XRA5nFMdKvBdBZjgmUUqptlbs74OgvE2upms/edit
„SpaceXSI“ šį mechanizmą įgyvendino su lemtinga klaida. Užuot buvusi domeno dešinėje, kaip yra „Google“ nuorodų atveju, „Grok Build“ nuorodų atsitiktinė dalis yra jo kairėje. Dėl to nuorodas lengva surinkti naudojant pasyviojo DNS paslaugas. Šios paslaugos stebi centrinius DNS užklausų serverius. Kai serveris gauna užklausą pateikti anksčiau nematyto URL IP adresą, ši operacija įrašoma į viešai ieškomą duomenų bazę. Jei „Grok“ būtų pasirinkusi „Google“ metodą, nuorodos pasyviojo DNS paieškoms būtų likusios nematomos. „Meta“ agentas „Muse“, kurį generalinis direktorius Markas Zuckerbergas apibūdino kaip sukurtą nuo pat pradžių saugumui, neseniai sustabdė dalijimosi nuorodomis funkciją, kai paaiškėjo, kad ir ji nutekina jautrius duomenis.
Paaiškinimas: DNS yra interneto „telefonų knyga“, kuri svetainių pavadinimus paverčia kompiuterių adresais. Pasyvusis DNS – tokių užklausų įrašų archyvas, kuriame galima ieškoti, todėl joje atsiranda ir pavadinimai, kurių niekur viešai neskelbta.
A. Aprozperis teigė, kad pasyviojo DNS paieška pateikė 43 601 nuorodą, besibaigiančią grok.me. Iš jų daugiau nei 35 000, arba beveik 95 proc., buvo viešos – paspaudus nuorodą atsidarė atitinkama programa ir visi joje saugomi duomenys. Pasak jo, praėjusią savaitę atlikti bandymai parodė, kad „Grok“ pagal numatytuosius nustatymus nuorodoms nustato parinktį „Anyone with the link“ („Bet kas, turintis nuorodą“). Naudotojai gali pakeisti nustatymą į „invited users“ („pakviesti naudotojai“) arba „only you“ („tik jūs“).
„Cursor“ – DI programavimo paslaugos, kurią „SpaceXSI“ neseniai įsigijo – atstovas el. laiške teigė, kad „Grok Build“ programos „pagal numatytuosius nustatymus yra privačios ir niekas nepaskelbiama viešai, nebent kūrėjas pasirenka ja pasidalyti“. Atstovas pridūrė, kad konkuruojantys programavimo agentai iš „ChatGPT“, „Lovable“ ir „Bolt“ taip pat leidžia naudotojams generuoti bendrinamas nuorodas.
A. Aprozperio bandymai šiam atstovo teiginiui prieštarauja. Visais atvejais „Grok Build“ reikalavo, kad naudotojai nustatymą „bet kas, turintis nuorodą“ pakeistų į vieną iš kitų dviejų parinkčių.
„Cursor“ pareiškimas apie kitas DI programavimo platformas yra teisingas. A. Aprozperis teigė, kad programų kūrimo įrankiai, įskaitant „Lovable“, „Bolt“ ir „Replit“, „taip pat suteikia kiekvienai programai savo interneto adresą, todėl tie patys DNS įrašai atskleidžia ir jas. Tačiau būtent „Grok“ rastas, ir tai gerokai, daugiausia jautrių įmonių duomenų“. Tai reiškia, kad ir žmonės, naudojantys šias kitas platformas, rizikuoja atskleisti jautrius duomenis per bendrinamas nuorodas. Įdomu, kad teisingos dalijimosi nuorodomis praktikos laikosi tokios DI platformos kaip „Claude“ paskelbti artefaktai (claude.ai/public/artifacts/), „ChatGPT“ bendrinami pokalbiai (chatgpt.com/share/) ir „Gemini“ (gemini.google.com/share/). Visais trim atvejais slapta atsitiktinė dalis yra kelyje (path), todėl DNS jos niekada nmato.
Atstovas neatsakė į papildomus klausimus, įskaitant tai, ar „SpaceXSI“ tyčia atskleidė savo vidinę komercinę informaciją, kodėl bendrovė pašalino duomenis, kai „Ars Technica“ apie juos paklausė, ir ar ji planuoja informuoti klientus, kurie taip pat atskleidė panašios rūšies informaciją. Visi, kurie „Grok Build“ naudoja bendrinamas nuorodas, turėtų rinktis parinktį „invite others“ („kviesti kitus“), nebent ketina programą padaryti plačiai prieinamą.
