„Anthropic“ suteikė išorės vertintojams „į darbuotojų prilygstančią prieigą“, kad šie galėtų įvertinti jos modelių keliamą riziką. Tokiu žingsniu bendrovė vykdo įsipareigojimą stiprinti apsaugos priemones dėl nuogąstavimų, kad ši technologija gali katastrofiškai išsprūsti iš kontrolės.
METR, ne pelno siekianti organizacija, dirbusi su pirmaujančiomis laboratorijomis, tarp jų „OpenAI“, „Anthropic“, „Google“ ir „Meta“, dabar turi komandą, įsikūrusią „Claude“ kūrėjos biure. Ji gali naudotis bendrovės techninėmis priemonėmis ir vidinėmis sistemomis.
Paaiškinimas: METR yra nepriklausoma organizacija, kuri tikrina, ar dirbtinio intelekto modeliai neturi pavojingų gebėjimų ir kokią riziką gali kelti.
Didesnis trečiųjų šalių vertintojų vaidmuo yra viena pagrindinių konkrečių priemonių, kurias laboratorijos pasiūlė reaguodamos į augantį susirūpinimą dėl pavojų, kuriuos galingesnės dirbtinio intelekto sistemos gali kelti ekonomikai, kibernetiniam saugumui ir visai žmonijai.
Rugsėjį „Anthropic“ vadovas Dario Amodei pasiekė retą vienybės akimirką su principingais konkurentais Samu Altmanu ir Elonu Musku: „OpenAI“ ir „SpaceX“ vadovai palaikė jo pasiūlymą įtraukti išorės auditorius į pirmaujančias laboratorijas.
Ketvirtadienio pranešimas yra pirmas žingsnis įgyvendinant šiuos pažadus. „OpenAI“ dar nėra pateikusi planų pasitelkti vertintojus, nors Altmanas pareiškė, kad Amodei pasiūlymai yra gera idėja.
„Modeliams tapus galingesniems, jiems reikia stipresnių apsaugos priemonių ir sudėtingesnio rizikos vertinimo, – ketvirtadienį teigė „Anthropic“. – Norime būti viešai atskaitingi už savo sprendimus. Tačiau negalime viešai dalytis visa informacija, susijusia su saugumo darbu.“
Bendrovės siūlomo vertintojų modelio kritikai tvirtina, kad tokia tvarka gali sukelti interesų konfliktų, ir nurodo problemas apskaitos sektoriuje, o taip pat teigia, kad reikia griežtesnio vyriausybių reguliavimo.
„Anthropic“ argumentavo, kad viešas informacijos skelbimas galėtų būti naudingas kenkėjams ar konkurentams, ir pridūrė, kad jos vertintojai veiks panašiai kaip bankų priežiūra, kai reguliuotojai skiria nuolatinius tikrintojus dirbti didžiausiuose bankuose.
„Jei banko prisiimama rizika galėtų kelti grėsmę visuomenei, trečiosios šalys stengiasi tai pamatyti iš anksto“, – teigė bendrovė.
„Anthropic“ taip pat patiria spaudimą patikinti investuotojus, kad saugumo klausimai neužgoš jos pirminio viešo akcijų siūlymo (IPO), kuris numatomas šiais metais, bendrovę vertinant daugiau nei 2 trln. JAV dolerių. Didelę šią savaitę vykusių pristatymų investuotojams dalį bendrovė skyrė savo saugumo praktikai apibūdinti.
Paaiškinimas: Pirminis viešas akcijų siūlymas (IPO) yra procesas, kai bendrovė pirmą kartą pradeda parduoti savo akcijas biržoje plačiajai visuomenei.
METR buvo viena iš organizacijų, tyrusių „OpenAI“ modelių, išėjusių iš kontrolės, įvykdytą „Hugging Face“ įsilaužimą: ji peržiūrėjo tūkstančius žurnalų įrašų ir gavo bendrovės nešiojamuosius kompiuterius.
Dabar „Anthropic“ įdarbino šešis METR darbuotojus, suteikė jiems bendrovės įrangą, biuro patalpas ir prieigą prie vidinių įrankių bei sistemų, kurios, bendrovės teigimu, maždaug prilygsta tai prieigai, kurią turi jos pačios rizikos vertinimo komandos.
Laboratorija teigė skatinanti darbuotojus dalytis informacija su vertintojais taip, kaip jie dalytųsi su kolega, dirbančiu rizikos srityje.
„Anthropic“ METR už šią tvarką nemoka. Tyrimų grupė nepriima paramos iš dirbtinio intelekto bendrovių ar jų darbuotojų. Ją finansuoja pavieniai asmenys ir filantropinės organizacijos, taip pat vyriausybinės institucijos, pavyzdžiui, Jungtinės Karalystės Dirbtinio intelekto saugumo institutas.
Vertintojai skelbs savo analizę, o „Anthropic“ negali uždrausti jos paskelbti. Vis dėlto bendrovė gali reikalauti pašalinti tam tikrų kategorijų informaciją, pavyzdžiui, klientų duomenis, advokato ir kliento privilegija saugomas detales ar informaciją apie modelių architektūrą.
„Anthropic“ pridūrė, kad toliau dirba su „Accenture“, praėjusį mėnesį paskelbta saugumo testavimo partnere. Kiekviena iš šalių įsipareigojo skirti bent 1 mlrd. dolerių naujoms apsaugos priemonėms sukurti.
Kitas trečiosios šalies testuotojas yra „SecureBio“, kuri bendrovei vertina cheminių ir biologinių ginklų keliamą riziką.
„Vertintojus į savo veiklą įtraukiame savanoriškai ir manome, kad taip turėtų elgtis kiekviena pažangiausių dirbtinio intelekto modelių bendrovė“, – teigė „Anthropic“.
METR pareiškė: „Esame pasirengę dirbti su visais pažangiausių DI modelių kūrėjais, kad visuomenei būtų pateikta daugiau patikimų įrodymų.“
© 2026 The Financial Times Ltd. Visos teisės saugomos. Draudžiama platinti, kopijuoti ar bet kokiu būdu keisti.
