Cod binar pe ecran, simbol al hackingului și al modelelor AI necenzurate
Foto: Markus Spiske / Unsplash

În ultimele zile, un clip a explodat pe rețelele sociale: un model de inteligență artificială cu sursă deschisă, apărut din China, ar fi fost „spart” în câteva zile de la lansare și transformat într-un instrument fără limite, fără refuzuri, fără nicio frână morală. Genul de AI care, spun unii, „nu mai știe să spună NU”.

Povestea are un sâmbure real, dar realitatea din spatele ei e diferită de ce vezi în 30 de secunde de video — și, în felul ei, la fel de îngrijorătoare. Nu vorbim despre o armă digitală trimisă intenționat de un stat, ci despre un fenomen mult mai banal și, tocmai de aceea, mult mai greu de oprit: comunitatea globală de utilizatori care ia orice model AI performant, indiferent cine l-a creat, și îi scoate frâna de siguranță în mai puțin de o săptămână.

Ce s-a întâmplat, de fapt

Modelul din centrul discuției este un model open-weight recent, publicat oficial de o companie chineză și distribuit liber pe platforme precum Hugging Face, unde oricine îl poate descărca și rula pe propriul calculator. Câteva zile mai târziu, pe aceleași platforme au apărut variante „abliterate” — versiuni modificate de dezvoltatori independenți, nu de compania producătoare, cărora le-a fost eliminat mecanismul intern de refuz.

Nu e un caz izolat și nu e specific Chinei. Practic orice model open-weight important lansat în ultimii ani — american, francez, chinez — a primit o versiune „necenzurată” în zile, uneori ore, de la apariție. Diferența e că, de data aceasta, viteza și amploarea fenomenului l-au făcut viral, iar titluri de tipul „AI fără reguli, gata de folosit” circulă acum mult mai rapid decât explicațiile tehnice din spatele lor.

Cum se scoate „NU”-ul dintr-un model AI

Un model AI comercial serios este antrenat, printr-un proces numit aliniere, să recunoască cererile periculoase — cum se fabrică un virus informatic, cum se scrie un mesaj de phishing convingător, cum se ocolește un sistem de securitate — și să refuze să răspundă. Tehnica prin care acest refuz este eliminat se numește „abliterare”: cercetătorii identifică, în interiorul rețelei neuronale, direcția matematică asociată cu refuzul și o suprimă chirurgical, fără să reantreneze modelul de la zero.

Rezultatul este un model la fel de capabil ca originalul, dar care răspunde la aproape orice cerere, oricât de dăunătoare, fără ezitare și fără avertisment. Nu mai are nevoie de trucuri de manipulare ca să „păcălească” AI-ul — limitarea a fost pur și simplu scoasă din ecuație.

De ce ar trebui să te intereseze, chiar dacă nu ești programator

Aici intervine partea care contează cu adevărat pentru cititorul obișnuit. Piața modelelor AI necenzurate nu mai e un experiment de nișă. Cercetătorii în securitate cibernetică au identificat sute de instrumente de tip WormGPT, FraudGPT sau KawaiiGPT vândute activ pe forumuri underground și canale Telegram, cu abonamente de la câteva zeci de dolari pe lună până la acces „pe viață” pentru sub 250 de dolari. Unele variante gratuite circulă deschis pe GitHub.

Ce cumpără, de fapt, un infractor cu acest abonament? Cumpără dispariția barierei de intrare. Până acum, un atac de phishing convingător cerea timp, exersare și, cel mai adesea, se trăda prin greșeli de gramatică sau formulări nefirești — exact semnalele pe care ni s-a spus ani de zile să le căutăm. Un model necenzurat scrie, în câteva secunde, un e-mail impecabil, personalizat cu numele companiei tale, al șefului tău, al furnizorului tău, fără nicio urmă de stângăcie. Poate genera cod funcțional pentru ransomware, scripturi de mișcare laterală într-o rețea sau instrumente de exfiltrare a datelor, gata de adaptat de cineva cu cunoștințe tehnice minime.

Mai nou, aceleași instrumente stau la baza escrocheriilor vocale automatizate: apeluri generate de AI care imită vocea unui coleg, a unui angajat de bancă sau a unui membru al familiei, cu rate de succes documentate între 20% și 60% în testele de laborator, la un cost sub un dolar pe încercare. Practic, ceea ce ieri necesita o echipă mică de infractori experimentați, azi poate face o singură persoană fără nicio pregătire tehnică — asta înseamnă, în termeni simpli, mult mai multe atacuri, îndreptate spre mult mai mulți oameni obișnuiți, nu doar spre corporații.

Cum te protejezi în practică

Vestea bună este că apărarea de bun-simț rămâne, în mare parte, aceeași — doar că trebuie aplicată mai strict, pentru că vechile semnale de alarmă (greșeli de scriere, ton nefiresc) nu mai sunt de încredere.

Tratează cu suspiciune orice mesaj care cere urgență, bani sau date sensibile, indiferent cât de bine scris și de „corect” pare — un text impecabil nu mai e dovadă de autenticitate. Verifică întotdeauna printr-un canal separat: dacă primești un e-mail sau un mesaj de la „șef” sau de la un „furnizor” care cere o plată sau o schimbare de cont, sună persoana respectivă pe un număr știut dinainte, nu pe cel din mesaj.

Stabilește, în familie sau în echipă, o parolă-cod verbală pentru situații critice — o vorbă convenită dinainte, pe care doar voi o știți, folosită pentru a confirma identitatea într-un apel neașteptat, mai ales dacă vocea „sună” perfect familiar. Vocea singură nu mai este o dovadă suficientă de identitate.

Activează autentificarea în doi factori peste tot unde e posibil, de preferat prin aplicație sau cheie fizică, nu doar prin SMS. Nu deschide și nu descarci fișiere atașate sau linkuri din mesaje neașteptate, nici măcar de la persoane cunoscute, fără să confirmi separat că chiar ele le-au trimis. Menține sistemele și antivirusul actualizate și păstrează copii de rezervă offline ale datelor importante — dacă un ransomware generat cu ajutorul AI ajunge totuși pe un calculator, o copie de siguranță izolată face diferența între un incident minor și un dezastru.

Dacă administrezi o afacere mică, investește timp în instruirea angajaților pe exact acest subiect: nu mai e suficient să le spui „atenție la greșelile de scriere din e-mailuri de phishing”, pentru că acele greșeli au dispărut. Instruiește-i să verifice, să întrebe și să încetinească ritmul înainte de a aproba orice plată sau schimbare urgentă.

Concluzia

Nu a fost lansată o „bombă” de către un stat, ci s-a confirmat, încă o dată, un tipar deja cunoscut: orice model AI puternic și deschis publicului va fi, în scurt timp, „dezbrăcat” de limitele lui de siguranță de cineva, undeva, iar rezultatul ajunge inevitabil și în mâinile celor cu intenții rele. Diferența dintre un incident evitat și unul reușit nu mai stă în cât de bine recunoști o greșeală de gramatică, ci în cât de solide sunt reflexele tale de verificare, indiferent cât de convingător pare ce ai în fața ochilor.

Despre autor: Bogdan Dobrescu

CEO BlackByte, specialist în securitate cibernetică. Echipa BlackByte deține certificări recunoscute la nivel internațional (CEH, OSCP, CISSP, CompTIA Security+, CISM) și lucrează zilnic cu organizații din sectorul public și privat pentru prevenirea și gestionarea incidentelor cibernetice.

Află mai multe despre echipa BlackByte →

Abonează-te la articolele lui Bogdan Dobrescu

Nu facem spam! Citește politica noastră de confidențialitate pentru mai multe informații.

Lasă un răspuns

Adresa ta de email nu va fi publicată. Câmpurile obligatorii sunt marcate cu *