Hackerii chinezi folosesc AI pentru atacuri cibernetice complexe
Experții în securitate de la compania de inteligență artificială Anthropic au descoperit recent o operațiune elaborată de spionaj cibernetic. Hackerii - suspectați că lucrează pentru guvernul chinez - au vizat agenții guvernamentale și corporații mari din întreaga lume folosind produsul AI al companiei, Claude Code.
Jacob Klein, șeful departamentului de informații despre amenințări de la Anthropic, a explicat că hackerii au profitat de capacitățile “agentice” ale lui Claude. Aceasta permite programului să efectueze o serie extinsă de acțiuni în loc să se concentreze pe o singură sarcină de bază.
Hackerii au echipat botul cu diverse instrumente externe, precum spărgătoare de parole. Astfel, Claude a putut analiza vulnerabilități de securitate, să scrie cod malițios, să colecteze parole și să exfiltreze date.
Operațiune profesionistă în timpul programului chinez
Odată ce Claude și-a primit instrucțiunile, a fost lăsat să lucreze singur ore întregi. Hackerii umani petreceau apoi doar câteva minute pentru a-i revizui munca și a declanșa următorii pași.
Operațiunea părea profesionistă și standardizată, ca orice altă afacere. Grupul era activ doar în timpul zilei de lucru chinezești, făcea pauză de masă “ca un ceasornic” și părea să plece în vacanță în timpul unei sărbători chinezești importante.
Anthropic a reușit să închidă operațiunea, dar cel puțin câteva atacuri au reușit să fure informații sensibile. Țintele s-au aliniat cu “obiectivele strategice ale guvernului chinez”, conform Klein.
Un purtător de cuvânt al ambasadei chineze la Washington a declarat că guvernul său “se opune ferm și combate toate formele de atacuri cibernetice” și a calificat aceste acuzații drept “defăimare și calomnie”.
Epoca de aur a criminalilor cu AI
Potrivit lui Shawn Loveland, director operațional la firma de securitate cibernetică Resecurity, ne aflăm acum în “epoca de aur pentru criminali cu AI”.
Companii precum Anthropic, OpenAI și alții promovează cu mândrie capacitatea AI de a scrie cod. Dar ceea ce este un avantaj pentru afacerile respectabile și inginerii software reprezintă și unul pentru criminali cibernetici.
“Dezvoltatorii de malware sunt dezvoltatori”, a explicat Giovanni Vigna, directorul Institutului NSF AI. Desigur că vor profita de AI, ca oricine altcineva.
Noile capacități ale hackerilor
AI poate accelera sarcini care altfel ar dura ore sau zile:
- Scrierea de email-uri de phishing
- Depanarea ransomware-ului
- Identificarea vulnerabilităților în baze de cod publice
O agenție de informații ar putea avea în mod normal zeci sau sute de hackeri pricepuți în plată. Acum “să presupunem că prin apăsarea unui buton poți avea un milion dintre ei - aceasta este puterea AI”, a spus Vigna.
Un experiment recent realizat de o echipă de la UC Berkeley a folosit agenți AI pentru a identifica 35 de noi găuri de securitate într-un grup de baze de cod publice. Cu alte cuvinte, boții pot găsi vulnerabilități pe care oamenii le ratează.
Cursa înarmării cibernetice cu AI
O cursă totală de înarmări în hacking-ul cu AI este în desfășurare, iar nimeni nu poate spune cu certitudine cine va ieși câștigător.
Pe termen scurt, boom-ul AI ar putea să le ofere criminalilor cibernetici avantajul. Chiar și înainte de ChatGPT, atacatorii aveau un avantaj: hackerii trebuie să descopere doar o vulnerabilitate pentru a reuși, în timp ce apărătorii trebuie să rateze doar una pentru a eșua.
Cu toate acestea, instrumentele AI care descoperă noi defecte de securitate ar putea ajuta și la remedierea acestor erori. Problema este că aceste instrumente pot fi folosite apoi de hackeri pentru a găsi defecte de securitate în aceste remedieri.
Dawn Song, expert în securitate cibernetică la Berkeley, consideră că chiar dacă AI poate găsi rapid erori, apărătorii pot rămâne mai lenți în remedierea lor din cauza aversiunii față de risc a companiilor mari și agențiilor guvernamentale.
