Shadow AI: ce este, ce riscuri creează și cum îl previi și îl remediezi

Shadow AI înseamnă folosirea instrumentelor de inteligență artificială în organizație fără aprobarea și fără controlul celor care răspund de IT, securitate și protecția datelor. Problema nu este că oamenii folosesc AI, ci că firma nu știe ce instrumente rulează, ce date primesc și unde ajung acestea. Shadow AI se previne cu instrumente aprobate și reguli clare, se detectează prin inventar și monitorizare proporționată și se remediază ca orice incident de date.

Pe scurt

• Shadow AI este o formă de shadow IT, dar cu un risc în plus: instrumentul nu doar stochează date, ci le prelucrează, le poate reține și poate genera rezultate pe care cineva le ia drept corecte.
• Raportul IBM Cost of a Data Breach 2025 arată că aproximativ una din cinci organizații a legat o breșă de shadow AI, iar un nivel ridicat de shadow AI a crescut costul breșei cu circa 670.000 USD.
• Cele mai frecvente forme nu sunt chatboții, ci funcțiile AI activate tacit în aplicațiile existente, extensiile de browser și asistenții care intră automat în ședințe.
• Interdicția generală nu funcționează: mută utilizarea pe telefoane și conturi personale, unde nu se mai vede nimic.
• După o scurgere de date printr-un instrument AI se aplică aceeași disciplină ca la orice incident: izolare, evaluare, notificare acolo unde legea o cere și corectarea cauzei.

Ce este shadow AI și cum diferă de shadow IT

Shadow IT desemnează orice aplicație sau serviciu folosit fără știrea departamentului IT: un spațiu de stocare personal, o aplicație de mesagerie, un instrument de gestionare a proiectelor plătit cu cardul unui angajat. Shadow AI este cazul particular în care acel instrument conține un model de inteligență artificială.

Diferența contează din trei motive:

1. Datele sunt prelucrate, nu doar păstrate. Un document încărcat într-un chatbot este citit, rezumat și, în funcție de setări, poate fi reținut sau folosit la îmbunătățirea serviciului.
2. Rezultatul produce efecte. Un rezumat greșit al unui contract sau un fragment de cod generat cu o vulnerabilitate ajung în decizii și în producție.
3. Instrumentul poate acționa. Asistenții și agenții AI conectați la e-mail, calendar sau stocare pot citi, trimite și modifica date în numele utilizatorului.

Formele în care apare shadow AI

Formă	Exemplu	De ce scapă de control
Chatboți publici cu cont personal	Un contract lipit pentru reformulare	Nu există contract cu furnizorul, iar setările de reținere a datelor sunt ale angajatului
Funcții AI activate în aplicații existente	Rezumate automate în suita de birou, CRM sau helpdesk	Apar printr-o actualizare, fără o nouă evaluare a furnizorului
Extensii de browser cu AI	Asistent de scriere care citește orice pagină deschisă	Au acces la aplicațiile interne deschise în browser
Asistenți de transcriere și „notetakers”	Un bot care intră automat în toate ședințele din calendar	Înregistrează discuții confidențiale și le trimite în afara firmei
Conexiuni OAuth către servicii AI	O aplicație AI autorizată să citească întreaga căsuță de e-mail	Accesul rămâne activ și după ce angajatul nu mai folosește aplicația
Abonamente și chei API pe card personal	Un dezvoltator integrează un model AI într-un script intern	Codul, datele și costurile nu apar în nicio evidență
Modele descărcate și rulate local	Un model open source instalat pe laptop	Proveniența modelului și a bibliotecilor nu este verificată

De ce apare

Shadow AI nu este, de regulă, un act de rea-credință. Apare acolo unde oamenii au presiune de timp și nu au o variantă aprobată: firma nu oferă niciun instrument, procedura de aprobare durează luni, iar varianta aprobată este mai slabă decât cea gratuită. La acestea se adaugă furnizorii de software, care introduc funcții AI în produse deja folosite, uneori active implicit.

Riscurile, grupate pe consecințe

Pierderea controlului asupra datelor. Secrete comerciale, oferte, date personale ale clienților și angajaților, documente din litigii sau din incidente de securitate ajung la un furnizor fără contract și fără garanții verificate.

Încălcări juridice. Prelucrarea datelor personale printr-un instrument neaprobat poate încălca GDPR: lipsește temeiul, lipsește contractul de împuternicire (art. 28), iar transferul în afara UE poate să nu aibă garanții. Pot fi încălcate și clauze de confidențialitate din contractele cu clienții.

Compromiterea accesului. Cod cu parole sau chei API trimis spre analiză, conexiuni OAuth cu drepturi largi, extensii care citesc tot din browser. Unele aplicații prezentate drept „asistenți AI” sunt de fapt programe malițioase.

Decizii pe informații greșite. Rezultatele AI pot conține erori formulate convingător. Fără verificare umană, ele ajung în rapoarte, oferte și cod.

Lipsa urmelor. Dacă nu se știe cine a trimis ce date și unde, un incident nu poate fi investigat și nici măcar nu poate fi delimitat.

Neconformare cu obligațiile de reglementare. AI Act cere, din 2 februarie 2025, alfabetizarea AI a personalului care folosește sisteme AI (art. 4). Pentru entitățile esențiale și importante, OUG 155/2024 cere jurnalizare și trasabilitate (art. 11 alin. (4)), gestionarea activelor, controlul accesului și securitatea lanțului de aprovizionare (art. 13). Un instrument AI nedeclarat este un activ și un furnizor care lipsesc din evidențe. Detalii despre evaluarea furnizorilor găsiți în articolul despre NIS2 și lanțul de aprovizionare.

Cum detectezi shadow AI

Detectarea începe cu întrebarea, nu cu supravegherea. Ordinea recomandată:

1. Inventar declarativ. Un chestionar scurt, fără sancțiuni: ce instrumente AI folosiți, pentru ce, cu ce cont, ce date introduceți.
2. Aplicații autorizate prin OAuth. În consola Microsoft 365 sau Google Workspace se vede lista aplicațiilor care au primit acces la conturile firmei și ce drepturi au.
3. Extensiile de browser de pe dispozitivele firmei, prin instrumentele de administrare a dispozitivelor.
4. Traficul către servicii AI cunoscute, analizat la nivel de conexiune (DNS, proxy, firewall), nu de conținut.
5. Deconturile și abonamentele. Plățile recurente către furnizori AI apar în contabilitate înaintea oricărui raport tehnic.
6. Invitațiile din calendar. Boții de transcriere apar ca participanți la ședințe.
7. Setările AI din aplicațiile existente. Verificați ce funcții AI sunt active în suita de birou, CRM, helpdesk și platformele de dezvoltare.

Monitorizarea trebuie să fie proporționată și anunțată: angajații află ce se verifică și de ce. Altfel, firma rezolvă o problemă de protecția datelor creând alta.

Prevenția: ce reduce shadow AI

• Instrumente aprobate, reale și utile, cu cont de firmă, autentificare unică și contract care exclude folosirea datelor la antrenare.
• O politică de utilizare AI scurtă, cu exemple. Structura completă, în 10 puncte, este în articolul Shadow AI în companie: politica de utilizare a inteligenței artificiale.
• Clasificarea datelor, ca fiecare angajat să știe ce poate și ce nu poate introduce într-un instrument AI.
• O procedură de aprobare rapidă, cu un termen de răspuns de ordinul zilelor, nu al lunilor. O procedură lentă produce shadow AI.
• Controale tehnice: blocarea extensiilor neaprobate, restricționarea autorizărilor OAuth pentru aplicații noi, reguli de prevenire a scurgerilor de date pentru categoriile sensibile.
• Formare periodică pe cazuri din activitatea firmei, ca suport pentru obligația de alfabetizare AI.

Remedierea: ce faci după ce s-a întâmplat

Când date sensibile au ajuns într-un instrument AI neaprobat

1. Opriți fluxul. Utilizatorul nu mai trimite date, iar conexiunea sau extensia se dezactivează.
2. Păstrați urmele. Capturi ale conversației, istoricul contului, jurnalele de acces și lista fișierelor trimise. Nu ștergeți nimic înainte de evaluare.
3. Stabiliți ce a ieșit. Categorii de date, volum, persoane vizate, dacă au fost implicate credențiale.
4. Rotiți credențialele expuse. Parole, chei API, tokenuri, certificate. Revocați autorizările OAuth ale aplicației.
5. Contactați furnizorul. Cereți ștergerea datelor și confirmarea că nu au fost folosite la antrenare; verificați termenii contului folosit.
6. Evaluați obligațiile de notificare. Dacă sunt implicate date personale, încălcarea securității se notifică la ANSPDCP în 72 de ore de la constatare, cu excepția cazului în care este puțin probabil să genereze un risc (art. 33 GDPR); dacă riscul este ridicat, sunt informate și persoanele vizate (art. 34). Pentru entitățile NIS2, verificați dacă evenimentul este un incident semnificativ care trebuie raportat către DNSC conform OUG 155/2024. Verificați și obligațiile contractuale față de clienți.
7. Documentați incidentul și corectați cauza: ce instrument lipsea, ce regulă nu era clară, ce control tehnic ar fi oprit trimiterea.

Când descoperiți utilizare extinsă, fără un incident anume

• Anunțați o perioadă de declarare fără sancțiuni. Oamenii spun ce folosesc, iar firma află unde sunt nevoile reale.
• Triați instrumentele descoperite: unele se aprobă cu cont de firmă, unele se înlocuiesc cu o alternativă aprobată, unele se interzic cu explicație.
• Mutați utilizatorii pe instrumentele aprobate, apoi dezactivați conturile, extensiile și autorizările vechi.
• Introduceți instrumentele în evidențe: inventarul de active, registrul furnizorilor, analiza de risc, registrul activităților de prelucrare.
• Reverificați după trei luni. Shadow AI revine ori de câte ori apare o nevoie pe care varianta aprobată nu o acoperă. Calculatorul Humanᴬᴵ / Orgᴬᴵ, descris mai jos, permite compararea situației de pornire cu cea de la reverificare.

Shadow AI văzut prin cadrul Humanᴬᴵ / Orgᴬᴵ

Măsurile de mai sus tratează shadow AI ca pe o problemă de control. Cadrul Humanᴬᴵ / Orgᴬᴵ, descris în lucrarea „Humanᴬᴵ and Orgᴬᴵ: A Relational Framework for AI-Mediated Human and Organizational Capacity” (Alexandru-Ciprian Angheluș, 2026, DOI 10.5281/zenodo.22295278), îl tratează și ca pe o problemă de capacitate.

• Humanᴬᴵ descrie capacitatea unei persoane mediată de AI: ce poate face un om atunci când lucrează împreună cu un instrument AI.
• Orgᴬᴵ descrie capacitatea AI guvernată a organizației: ce poate face firma cu AI, în mod repetabil, cu date controlate și cu răspundere asumată.

Din această perspectivă, shadow AI este capacitate Humanᴬᴵ care crește în afara Orgᴬᴵ. Angajații au devenit mai productivi, dar câștigul rămâne la nivel individual, nedocumentat și neprotejat, iar riscul revine organizației. Când angajatul pleacă, pleacă și capacitatea. Când greșește, firma răspunde fără să fi știut.

Consecința practică pentru remediere: scopul nu este eliminarea utilizării, ci transformarea ei în capacitate guvernată. Instrumentele descoperite în inventar arată unde există deja nevoi reale și competențe; acolo merită aprobate instrumente, scrise reguli și organizată formarea. Întrebarea utilă pentru conducere nu este „ce aplicație interzicem?”, ci „ce decizii lăsăm să fie asistate de AI, cu ce date și cine răspunde pentru rezultat?”.

Explicația completă a cadrului este în articolul Humanᴬᴵ / Orgᴬᴵ: ce capacitate a construit organizația.

Măsurați capacitatea cu calculatorul Humanᴬᴵ / Orgᴬᴵ

Lucrarea este însoțită de un calculator interpretativ (DOI 10.5281/zenodo.22884721), cu rulare locală: evaluarea se face pe calculatorul utilizatorului, fără ca răspunsurile să fie trimise către un serviciu extern. Pentru o temă ca shadow AI, faptul că instrumentul de evaluare nu exportă date este o condiție, nu un detaliu.

Calculatorul se potrivește în două momente ale programului de remediere:

1. După inventar, ca punct de plecare: conducerea vede ce capacitate AI a construit efectiv organizația, dincolo de lista de aplicații.
2. La reverificarea de după trei luni, ca să se vadă dacă utilizarea individuală a fost adusă în capacitate guvernată sau doar a fost mutată din nou în umbră.

Pașii de utilizare, cu capturi de ecran, sunt în turul ghidat al calculatorului Humanᴬᴵ / Orgᴬᴵ, iar prezentarea versiunii curente în articolul de lansare a calculatorului.

Cum vă ajută ProDefence

• CysAI este platforma ProDefence de informații despre securitatea AI, cu un catalog de agenți și instrumente AI cu profiluri de risc, util la evaluarea instrumentelor descoperite în inventar.
• Cursurile de educație cibernetică și platforma CysEdu pot include module de utilizare sigură a AI, adaptate pe rolurile din firmă.
• Consultanța NIS2 include instrumentele AI în inventarul de active, în evaluarea furnizorilor și în politicile de control al accesului.
• Auditul de securitate web și rețea verifică expunerea aplicațiilor care au primit funcții AI și a conexiunilor către servicii externe.

Întrebări frecvente

Surse

• IBM, Cost of a Data Breach Report 2025 (iulie 2025)
• Regulamentul (UE) 2024/1689 privind inteligența artificială (AI Act), art. 4
• Regulamentul (UE) 2016/679 (GDPR), art. 28, 33 și 34
• OUG nr. 155/2024, text consolidat, Portal Legislativ
• A.-C. Angheluș, „Humanᴬᴵ and Orgᴬᴵ: A Relational Framework for AI-Mediated Human and Organizational Capacity” (2026), DOI 10.5281/zenodo.22295278
• A.-C. Angheluș, HumanAI / OrgAI Framework Calculator v1.2.0 (2026), DOI 10.5281/zenodo.22884721

Alexandru Angheluș, ProDefence. Autorul cadrului Humanᴬᴵ/Orgᴬᴵ și al lucrării „Inteligența artificială și transformarea civilizațională”, lucrează pe securitatea și guvernanța AI în organizații.