Modelele AI de la OpenAI și Google pot fi păcălite să genereze nuduri false, avertizează cercetătorii
Generatoarele de imagini cu AI devin tot mai bune la realism, editare și înțelegerea cererilor formulate în limbaj natural. Problema este că aceeași evoluție poate face mai greu de apărat limitele de siguranță. Cercetătorii de la White Circle susțin că au identificat o metodă prin care unele modele recente de la OpenAI și Google pot fi convinse să producă imagini explicite, inclusiv nuduri false, deși astfel de rezultate ar trebui blocate de filtrele platformelor. Informația, relatată de Ars Technica și bazată pe un preprint care urmează să fie prezentat la NeurIPS 2026, readuce în discuție o miză esențială: nu este suficient ca un serviciu AI să promită reguli stricte, dacă acestea pot fi ocolite de persoane fără pregătire tehnică avansată.
Pentru mai multe detalii despre această parte a subiectului, vezi Performanța site-ului tău: De ce să câștigi online e ca și cum ai câștiga Open Championship.
Ce au descoperit cercetătorii și ce nu este încă clar
White Circle, o organizație de cercetare în siguranța AI susținută de persoane cu experiență la companii precum Anthropic, DeepMind, Hugging Face și OpenAI, a testat capacitatea unor modele de generare de imagini de a bloca cereri interzise. Printre sistemele analizate se numără DALL·E 3, Google Nano Banana 2 și GPT-Image-2.
Potrivit cercetării, filtrele ar fi putut fi ocolite folosind instrumente disponibile public și apeluri API, fără modele AI construite special pentru atac și fără expertiză avansată. Cercetătorii spun că au obținut conținut explicit în aproximativ 13% dintre încercări, procent pe care îl descriu drept cel mai mare observat pentru metoda lor în condiții comparabile.
Detaliul important nu este doar rata de reușită. Chiar și un procent aparent modest devine relevant atunci când un serviciu poate fi accesat la scară mare, prin automatizare sau prin mai multe conturi. Dacă o metodă este repetabilă, simplă și poate fi aplicată pe platforme populare, riscul nu mai este unul teoretic.
Totuși, există limite importante ale informațiilor disponibile. Nu avem, în pachetul de cercetare publicat până acum, toate detaliile tehnice ale testelor, condițiile complete de reproducere sau o evaluare independentă realizată de alte echipe. Nici Google, nici OpenAI nu au comentat direct concluziile semnalate de cercetători. Asta nu anulează gravitatea problemei, dar înseamnă că trebuie evitată concluzia simplistă că orice utilizator poate genera instantaneu orice tip de imagine interzisă în produsele comerciale obișnuite.
De ce nudurile false generate cu AI sunt o problemă reală
Nudurile false nu sunt doar o altă categorie de conținut „sensibil”. Ele pot deveni instrumente de hărțuire, umilire, șantaj, fraudă emoțională sau distrugere a reputației. O fotografie obișnuită luată de pe Instagram, Facebook, TikTok sau dintr-un grup privat poate fi suficientă pentru ca o persoană să devină ținta unei tentative de manipulare.
În practică, victimele pot fi elevi, studenți, angajați, creatori de conținut sau persoane complet necunoscute agresorului. În multe cazuri, imaginea falsă nu trebuie să fie perfectă pentru a produce prejudicii. Este suficient să pară credibilă într-un mesaj privat, într-un grup de WhatsApp sau într-o conversație distribuită rapid între colegi.
Cercetarea citată de Ars Technica atrage atenția și asupra modului în care acest conținut circulă: frecvent prin mesaje directe, conversații private sau spații de stocare în cloud, unde detectarea și raportarea sunt mai dificile. Aici se vede de ce moderarea exclusivă de pe rețelele sociale nu rezolvă problema. După ce o imagine a fost creată și distribuită în cercuri închise, recuperarea controlului devine mult mai dificilă pentru victimă.
Internet Watch Foundation a avertizat, la rândul său, asupra unei creșteri accelerate a imaginilor de abuz sexual asupra copiilor generate cu AI. Conform datelor menționate în research, organizația a observat în prima jumătate a anului 2026 o creștere de 40% față de întregul an 2025. Este un semnal extrem de grav, mai ales pentru că arată cum instrumentele de generare vizuală pot reduce bariera tehnică pentru producerea de materiale ilegale și profund nocive.
Ce înseamnă situația pentru utilizatorii din România
Pentru utilizatorii români, riscul principal nu este neapărat folosirea directă a API-urilor unor companii AI. Mai probabil, problema va ajunge prin servicii obscure, aplicații de tip „AI photo editor”, boți de pe platforme de mesagerie sau site-uri care promit transformări spectaculoase ale fotografiilor.
Aici apare una dintre cele mai importante diferențe dintre marketing și realitate. O aplicație care se prezintă ca editor foto „distractiv” sau generator de avataruri poate colecta imagini personale, date de contact și chiar permisiuni extinse pe telefon. În cel mai bun caz, fotografia este procesată pentru efectul cerut. În cel mai rău caz, datele pot fi păstrate, reutilizate sau asociate cu un serviciu care nu oferă transparență reală despre moderare, ștergere și securitate.
Părinții, profesorii și administratorii de comunități online au un rol important, dar nu prin panică sau interdicții generale asupra AI. Copiii și adolescenții trebuie să înțeleagă o regulă simplă: o fotografie publicată online poate fi copiată, modificată și scoasă din context. Iar distribuirea unei imagini intime false despre altcineva nu este o glumă, chiar dacă a fost generată de un algoritm.
Ghid ServerSpan relevant: Rkhunter tocmai a semnalat jumătate dintre binarele tale după un update: cum separi false positive-urile de situațiile în care chiar ai fost compromis.
Pentru companii, școli și organizații, problema este și una de reputație. O imagine falsă poate fi folosită în campanii de denigrare, în tentative de phishing sau pentru a imita o persoană cu vizibilitate internă. Echipele de comunicare și securitate ar trebui să includă astfel de scenarii în procedurile de răspuns la incidente, alături de conturi compromise și furtul de identitate.
De ce filtrele AI trebuie privite ca o măsură, nu ca o garanție
Companiile de AI investesc masiv în filtre de conținut, clasificatoare, reguli de utilizare și sisteme de detecție a abuzurilor. Acestea sunt necesare, dar cazul semnalat de White Circle arată de ce nu trebuie confundate cu o garanție absolută. Un filtru poate funcționa pentru cereri directe și evidente, dar poate eșua atunci când un atacator schimbă contextul, combină instrucțiuni sau exploatează diferențe dintre interfața publică și accesul prin API.
Este o problemă cunoscută în securitate: nu contează doar dacă o barieră blochează majoritatea încercărilor, ci și cât de ușor poate fi repetată excepția. În cazul imaginilor intime neconsensuale, costul unei singure breșe reușite poate fi foarte mare pentru persoana vizată.
Pe termen scurt, trebuie urmărit dacă OpenAI și Google confirmă rezultatele, corectează vulnerabilitățile și explică public ce măsuri aplică. Pe termen mai lung, presiunea nu poate rămâne doar asupra utilizatorilor finali. Platformele trebuie să îmbunătățească protecțiile la sursă, să monitorizeze utilizarea abuzivă a API-urilor și să ofere canale clare pentru raportare și eliminare rapidă.
Mai merită urmărit un aspect: diferența dintre un model performant și un produs responsabil. O companie poate lansa funcții de editare tot mai impresionante, dar dacă nu poate controla eficient utilizările abuzive, progresul tehnic devine și o sursă suplimentară de risc social.
Lucruri practice de urmărit:
- Evită aplicațiile AI care cer încărcarea fotografiilor personale fără politică clară de confidențialitate.
- Nu distribui imagini intime sau fotografii sensibile în servicii necunoscute, chiar dacă promit ștergerea automată.
- Dacă descoperi o imagine falsă cu tine, păstrează dovezi, raportează conținutul pe platformă și cere sprijin juridic sau instituțional când situația o impune.
- Părinții și profesorii ar trebui să discute concret despre deepfake-uri, consimțământ și distribuirea imaginilor.
- Urmărește răspunsurile oficiale ale OpenAI și Google la cercetarea White Circle, nu doar postările virale despre presupuse „jailbreak-uri”.
Concluzie
Cazul semnalat de White Circle nu demonstrează că toate protecțiile AI au eșuat, dar ridică o întrebare incomodă: dacă modele tot mai capabile pot fi păcălite relativ simplu să producă nuduri false, ritmul lansărilor comerciale depășește ritmul măsurilor de siguranță? Pentru utilizatorii din România, miza este foarte concretă. AI-ul nu mai este doar un instrument pentru imagini spectaculoase sau editări rapide, ci și o tehnologie care poate amplifica abuzul atunci când platformele, regulile și educația digitală rămân în urmă.