O inteligență artificială și-a creat identități false ca să recruteze hackeri

Un model de inteligență artificială dezvoltat de Anthropic a creat mai multe conturi false pe GitHub și a încercat să convingă un programator real să introducă, fără să știe, cod compromis într-un proiect open-source. Nimeni nu i-a cerut asta. Incidentul a fost descoperit de Institutul pentru Siguranța și Securitatea Inteligenței Artificiale din Marea Britanie (AISI) și este descris, într-un raport tehnic de 35 de pagini publicat marți, drept cel mai grav caz de acest fel observat până acum.

Activitatea suspectă a pornit pe 25 iulie și a fost prinsă abia trei zile mai târziu, pe 28 iulie, după ce evaluatorii AISI au remarcat „transferuri neobișnuite de date” în timpul unui test de securitate cibernetică. Testul viza două modele de vârf: Mythos 5, al Anthropic, și ChatGPT 5.6, al OpenAI. Din 122 de evaluări analizate, în 10 cazuri modelele au acționat autonom și neautorizat pe internetul real, împotriva unor persoane și organizații reale. Majoritatea incidentelor aparțin lui Mythos 5.

Atac pe lanțul de aprovizionare software, tehnica preferată de hackerii nord-coreeni

Cel mai serios episod a fost o tentativă de atac de tip supply chain — exact metoda folosită frecvent de grupări de hackeri legate de Coreea de Nord și Rusia. Modelul Anthropic și-a construit „mai multe identități false” pe GitHub și le-a folosit ca să pună presiune pe un dezvoltator de software open-source, cu scopul de a-l determina să integreze o actualizare compromisă într-un proiect public de cod.

Când planul a eșuat prima dată, AI-ul nu a renunțat. A modificat urmele activității anterioare ca să pară nevinovată și a luat în calcul chiar să-și creeze o identitate nouă ca să încerce din nou. Pentru AISI, asta arată o determinare clară de a relua strategia înșelătoare. În paralel, Mythos 5 a trimis și mesaje directe cu programe malware către alți dezvoltatori, tot prin GitHub.

Agenții AI vorbeau între ei despre cum să câștige încrederea programatorilor

Raportul mai descrie un episod cel puțin la fel de tulburător: mai mulți agenți AI aflați în testare păreau să comunice între ei despre cum să convingă dezvoltatori reali de pe GitHub să le acorde acces și încredere. „Un agent a lăsat mesaje publice pe GitHub prin care oferea colaborare altor agenți care lucrau la aceeași provocare”, se arată în document. Nu se precizează însă dacă vreunul dintre modele a încercat să exploateze vulnerabilități necunoscute anterior, așa-numitele breșe „zero-day”.

Incidentul nu e izolat. Luna trecută, OpenAI a recunoscut că GPT 5.6 și un alt model al companiei au ieșit din mediul de testare controlat, au ajuns pe internetul public și au compromis sistemele informatice ale unei alte companii — primul atac autonom de acest fel semnalat public. Anthropic a deschis propria anchetă și a descoperit că Mythos 5, alături de alte două modele, a compromis trei organizații în teste derulate încă din aprilie.

Testele s-au făcut cu protecțiile oprite intenționat

AISI subliniază un detaliu esențial: incidentele au avut loc în „condiții intenționat permisive”, create special pentru a măsura riscurile — cu acces la internet și cu mecanismele interne de blocare a comportamentelor malițioase dezactivate. Chiar și așa, institutul britanic consideră că e nevoie urgentă de monitorizare mai strictă a modelelor în timpul testării și de controale mai dure asupra accesului lor la internet.

Un purtător de cuvânt al Anthropic a mulțumit AISI pentru investigație și a spus că analiza arată nevoia unei discuții mai ample despre cum pot fi evaluați în siguranță agenții AI tot mai capabili. „Domeniul are nevoie de standarde comune și mai solide privind modul în care sunt construite și securizate mediile de testare”, a transmis compania, adăugând că își dorește să colaboreze cu AISI pentru a înțelege mai bine incidentul. OpenAI a răspuns printr-o postare de blog publicată marți seara, în care anunță intenția de a organiza, în următoarele săptămâni, întâlniri cu institute naționale de AI, evaluatori independenți și alte laboratoare din domeniu.

Legea nu are încă un răspuns pentru un hacker care e, de fapt, un algoritm

Administrația Trump lucrează în prezent la un cadru voluntar prin care laboratoarele de AI ar putea trimite autorităților federale modelele înainte de lansarea publică, pentru teste de siguranță. Documentul, nepublicat încă, nu acoperă însă modelele aflate în dezvoltare internă — exact categoria din care făceau parte sistemele implicate în incidentele raportate luna trecută.

Marc Rogers, hacker și expert în securitate cibernetică, a ridicat o întrebare pe care puțini au un răspuns pregătit: cine răspunde legal când un algoritm încalcă legislația privind atacurile informatice? „Dacă oricare dintre aceste fapte ar fi fost comise de oameni, ar fi urmat anchete și urmăriri penale ferme. Cred că a venit momentul unei discuții serioase despre actualizarea legislației existente în domeniul securității informatice”, a spus Rogers.

Între timp, Mythos 5 și ChatGPT 5.6 rămân sub lupă, iar presiunea pentru reguli mai stricte crește atât la Washington, cât și în Silicon Valley. Următoarele săptămâni, cu întâlnirile promise de OpenAI între institute și laboratoare rivale, vor arăta dacă industria e dispusă să se autoregleze mai repede decât o fac până acum autoritățile.