„Nedideli svorių pagrindu veikiantys replikatoriai“ galėtų pradėti naują kompiuterinių kirminų kartą.
Dirbtinio intelekto bendrovė „Anthropic“ įspėja, kad mažųjų DI modelių pažanga netrukus gali atverti naują savaime besidauginančių kenkėjiškų programų erą: jos galėtų užkrėsti išmaniuosius šaldytuvus, dulkių siurblius ir daugybę kitų daiktų interneto (IoT) įrenginių, o jas sustabdyti būtų sunkiau.
Bendrovės teigimu, iki kitų metų mažesni DI modeliai gali tapti pajėgūs savarankiškai daugintis įvairiausiuose IoT įrenginiuose. Galiausiai ši galimybė galėtų leisti sukurti kompiuterinius kirminus, kurie plinta be žmogaus įsikišimo ir gali užkrėsti nepažįstamus IoT įrenginius. Neseniai bendrovės atliktas eksperimentas parodė didelių kliūčių kuriant tokį DI kenkėjiškų programų replikatorių, todėl išvadas būtina vertinti atsargiai. Vis dėlto rezultatai kelia nerimą dėl galimų naujų kompiuterinių kirminų rūšių.
Paaiškinimas: Kompiuterinis kirminas yra kenkėjiška programa, kuri pati plinta tinklais iš vieno įrenginio į kitą, nelaukdama, kol vartotojas ją paleis.
Sunku išjungti
„Anthropic“ perspėjo ne tik apie galimą naują kenkėjišką programinę įrangą, bet ir apie tai, kad ją gali būti sunku sustabdyti. Savo tinklaraščio įraše bendrovė rašė: „tokį replikatorių būtų sudėtinga išjungti, nes nėra vieno centrinio taško, kurį galima būtų atjungti, nors jis gali plisti lėtai (jo skaičius padvigubėtų per kelias dienas). Skirtingai nei ne DI kenkėjiškos programos, jis taip pat galėtų pats išsiaiškinti nepažįstamus įrenginius.“
Mažesniems DI modeliams veikti reikia gerokai mažiau galingos aparatinės įrangos nei pažangiausiems (frontier) modeliams. „Anthropic“ paleido mažus atvirų svorių modelius realiose arba simuliuotose pigiose, nežinomų gamintojų „Android TV“ priedėlių ir kitų IoT įrenginių sistemose. Bendrovės tyrėjai nustatė, kad naudojant kvantizavimą, kai modeliai pateikiami mažesniu bitų skaičiumi, ir padalijant darbo krūvį į „šardus“ (dalis), veikiančius kiekviename įrenginyje, modeliai sugebėjo atlikti inferenciją (angl. inference), t. y. buvo įkelti modelio svoriai ir jis galėjo generuoti rezultatą.
Paaiškinimas: Atvirų svorių modeliai yra DI modeliai, kurių išmokyti parametrai (svoriai) viešai prieinami, todėl juos gali atsisiųsti ir paleisti bet kas. Inferencija – tai jau išmokyto modelio naudojimas atsakymams generuoti.
Lengvam modeliui „Gemma4-26B-A4B“ inferencijai atlikti pakako vos 15 priedėlių, kurių kiekviename buvo tik 4 GB atminties. „Qwen3.5-9B“ sugebėjo sukonfigūruoti kitus didžiuosius kalbos modelius (LLM) aštuoniuose iš devynių aparatinės įrangos tipų. Skirtingai nei įprastos kenkėjiškos programos, kurios turi būti parašytos veikti konkrečioje aparatinėje ar programinėje įrangoje, modelis, naudodamas savo svorius, sugebėjo lengvai sukurti konkrečiems išbandytiems įrenginiams pritaikytas konfigūracijas.
Šis radinys tapo atspirties tašku tolesniam tyrimui, kuriame klausta: ar mažieji modeliai galėtų sukurti savaime besidauginančias infekcijas, kurios pačios įsidiegtų IoT įrenginiuose taip, kaip tradiciniai IoT kirminai, pavyzdžiui, „Mirai“, įdiegia DDoS kodą ir kitus kenksmingus krūvius (payloads)? Skirtingai nei „Mirai“, tokie DI kirminai galėtų kelti kur kas didesnę grėsmę, nes modeliai galėtų dinamiškai pritaikyti išnaudojimo priemones ir kenksmingus krūvius pagal taikinį. Be to, prasidėjusios tokios infekcijos grandinės gynėjams gali būti sunkiau sustabdyti.
„Toks „DI kirminas“ galėtų daugindamasis nešiotis savo modelio svorius (arba iš naujo atsisiųsti juos iš viešos saugyklos) ir vykdyti inferenciją tiesiai užkrėstoje aparatinėje įrangoje“, – teigė „Anthropic“. – „Iš esmės svoriai taptų kenkėjiškos programos kenksmingo krūvio dalimi.“
„Anthropic“ šiuos savarankiškus kirminus pavadino nedideliais svorių pagrindu veikiančiais replikatoriais. Modeliai valdė agentus, turėjusius prieigą prie įprastų išnaudojimo įrankių, pavyzdžiui, atvirkštinių apvalkalų (reverse shells). Atakos eiga buvo tokia: (1) taikinių paieška, (2) kodo vykdymo prieigos įgijimas, (3) inferencijos paleidimas ir (4) plitimas į naujus kompiuterius. Pagrindinis pranašumas prieš tradicinius kirminus, anot „Anthropic“, yra agentų gebėjimas mokytis darbo metu. Kiekvieną kartą, kai DI replikatoriui nepavyksta užkrėsti konkrečios platformos įrenginio, jis gali palikti būsimiems replikatoriams užklausų, kodo ir pastabų sąrašą, kad šie negaištų laiko kartodami tuos pačius neveiksmingus veiksmus.
„Anthropic“ teigė, kad dinaminis inferencijos paruošimas yra mažiausiai ištirtas ir tikriausiai sudėtingiausias replikacijos ciklo etapas. Jam reikia ilgos sprendimų sekos, pagrįstos kiekvieno taikinio aparatine ir programine įranga, įskaitant tinkamos inferencijos programinės įrangos pasirinkimą, priklausomybių diegimą ir konkrečiai platformai būdingų klaidų taisymą.
„Šie žingsniai yra nuosekliai priklausomi, o po nesėkmių sunku atsigauti“, – sakė „Anthropic“.
Eksperimentas rodo, kad maži modeliai vis geriau geba šias problemas spręsti savarankiškai. Tačiau šiuo metu nė vienas išbandytas lengvasis modelis negali atlikti pilnos replikacijos nuo pradžios iki galo, t. y. atrasti naujų įrenginių, pasinaudoti pažeidžiamumu prieigai gauti, užkrėsti juos kenksmingu krūviu, sukonfigūruoti inferencijos serverį ir kartoti procesą. Procesas taip pat kankinamai lėtas: „Gemma4-26B-A4B“, paskirstytas per 15 „Android TV“ priedėlių, veikė vos 0,39 žetono (token) per sekundę. Tai reiškia, kad visas inferencijos paruošimas neoptimizuotam „Gemma4-26B-A4B“ užtrunka nuo 71 iki 150 valandų, o „Qwen3.5-9B“ – nuo 29 iki 51 valandos. (Tyrėjai teigė, kad didelis modelis GLM-5.2, regis, geba tai daryti patikimai.)
Bendrovė teigė, kad 30 mlrd. parametrų modeliai jau dabar gali atlikti daugelį atskirų replikacijos žingsnių, nors atlikdami pilną replikaciją nuo pradžios iki galo daro klaidų. Ji pridūrė, kad jei mažieji modeliai ir toliau tobulės dabartiniu tempu, tokių pačių riboto masto rezultatų jie galėtų pasiekti iki metų pabaigos, o „nedideli svorių pagrindu veikiantys replikatoriai gali tapti galimi netrukus po to“.
Eksperimentas palieka neatsakytų svarbių klausimų. Pirma, mažųjų modelių taikinių „Android“ įrenginiuose buvo atvira neautentifikuota „Android Debug Bridge“ sąsaja. Šis įrankis naudojamas kūrimo ir derinimo metu, tačiau jokiu būdu neturėtų būti naudojamas gamybinėje aplinkoje, nes suteikia užpuolikams prieigą prie visos įrenginio sistemos. Antra, replikacijos neatliko patys mažieji modeliai – procesą orkestravo GLM-5.2, o taikiniuose veikė mažesnis „Llama“ modelis.
Galiausiai eksperimentas parodo, kad maži agentiniai modeliai tampa pajėgūs sukurti sudėtingą paskirstytą inferencijos infrastruktūrą keliuose kompiuteriuose. Tačiau lieka neaišku, ar šie modeliai savarankiškai pradėtų daugintis.
„Nepaisant gerai suplanuotos eksperimento sąrankos, tyrimas pats savaime neįrodo, kad maži modeliai savarankiškai pasirinktų daugintis“, – interviu sakė DI tyrėjas Xiaohanas Fu. – „Pateikus atkuriamas agentų sąrankas, įskaitant tikslias modeliams duotas užklausas ir nurodymus, tyrėjų bendruomenei būtų lengviau suprasti išvadas ir įvertinti jų reikšmę. Toks skaidrumas ypač svarbus, kad nebūtų painiojamas parodytas gebėjimas daugintis su kylančia savarankiško daugintosi grėsme.“
