Copiii și inteligența artificială: pericolele reale și ce pot face părinții

,
Ilustrație: părinte și copil, tabletă cu conversații și scut de protecție

Pentru copii, inteligența artificială aduce patru riscuri principale: chatboți care devin „prieteni” și influențează deciziile, imagini false generate cu AI folosite pentru umilire sau șantaj, conturi false foarte convingătoare și conținut manipulator adaptat vârstei. Cea mai eficientă protecție rămâne o relație în care copilul spune imediat ce i se întâmplă, fără teamă de pedeapsă.

Pe scurt

  • Un chatbot conversațional poate deveni confidentul unui copil fără ca părintele să știe ce sfaturi primește.
  • Instrumentele AI pot crea imagini false cu un copil pornind de la fotografii publice obișnuite; acestea pot fi folosite pentru umilire sau șantaj.
  • Din 2 decembrie 2026, AI Act interzice explicit sistemele AI folosite pentru imagini intime neconsensuale și pentru materiale de abuz sexual asupra copiilor.
  • Dacă un copil este amenințat, regula de bază este: nu plătiți, nu negociați, nu ștergeți și nu redistribuiți nimic; păstrați contextul și sesizați Poliția.
  • Copilul nu este vinovat. Mesajul pe care trebuie să îl audă primul este „bine că mi-ai spus”.

De ce s-a schimbat riscul pentru copii?

Pericolele online pentru copii nu sunt noi: străini care se dau drept copii, hărțuire, conținut nepotrivit, presiune de grup. Ce s-a schimbat este costul și realismul. Inteligența artificială poate scrie mesaje în stilul unui adolescent, poate imita vocea unei persoane cunoscute și poate genera imagini care par fotografii reale. Lucruri care cereau înainte efort și pricepere se fac acum în câteva minute.

ProDefence a lucrat deja cazuri de radicalizare, furt de date, malware și fraudă financiară în care copiii au fost calea de acces spre familie. Un copil care instalează o aplicație „de jocuri”, răspunde unui „prieten” nou sau trimite o fotografie poate deschide, fără să știe, o ușă pentru toată casa.

Care sunt principalele pericole?

1. Chatboții „prieteni”

Aplicațiile de conversație cu personaje AI sunt construite să fie plăcute, disponibile oricând și să mențină discuția. Pentru un copil singur sau nesigur, un astfel de „prieten” poate deveni principala sursă de sfaturi. Riscurile sunt dependența emoțională, sfaturile greșite pe teme sensibile și împărtășirea de informații personale despre familie, școală sau locuință.

2. Imagini false generate cu AI

Fotografii obișnuite, de la serbare, din vacanță sau de pe profilul unei rețele sociale, pot fi modificate cu AI pentru a crea imagini false și jignitoare. Acestea sunt folosite pentru bătaie de joc în grupurile de colegi sau pentru șantaj: „trimite bani sau alte poze, altfel le arăt tuturor”. Faptul că imaginea este falsă nu reduce suferința copilului.

Analiza ProDefence despre influența conținutului vizual creat cu AI asupra copilului arată cât de greu le este copiilor să distingă imaginile generate de cele reale.

3. Conturi false convingătoare

Un adult se poate prezenta drept adolescent, cu fotografii generate, mesaje scrise fluent și chiar mesaje vocale modificate. Tiparul clasic rămâne: atenție, complimente, secrete („nu le spune părinților”), apoi cereri tot mai mari.

4. Manipularea și conținutul radicalizant

Algoritmii de recomandare și conținutul generat în masă pot împinge un copil spre idei extreme, provocări periculoase sau teorii conspiraționiste, prezentate atractiv și adaptate vârstei lui.

5. Vocea clonată

Poliția Română a avertizat în februarie 2026 asupra fraudelor de tip „Te sună copilul”, în care vocea unui membru al familiei este clonată cu AI din înregistrări publicate online. Videoclipurile cu vocea copiilor, postate public, pot fi materie primă pentru astfel de înșelătorii îndreptate spre bunici sau părinți.

Semne de alarmă la care să fiți atenți

Semn Ce poate însemna
Ascunde brusc ecranul sau închide aplicații când intrați în cameră Conversații pe care știe sau i s-a spus că trebuie să le țină secrete
Un „prieten” nou, cunoscut doar online, despre care vorbește des Posibil cont fals sau un adult care se dă drept copil
Anxietate, retragere, refuzul de a merge la școală Hărțuire, umilire sau amenințare
Cere bani, carduri cadou sau acces la contul dumneavoastră Posibil șantaj sau fraudă
Petrece mult timp cu un chatbot și îi citează sfaturile Dependență de o sursă necontrolată
Primește cadouri sau credite în jocuri de la necunoscuți Tactică de câștigare a încrederii

Ce faceți dacă copilul este amenințat sau șantajat

  1. Rămâneți calm și spuneți-i că nu e vina lui. Copilul care se teme de pedeapsă nu va mai spune nimic data viitoare.
  2. Nu plătiți și nu negociați. Plata nu oprește șantajul; de obicei îl continuă.
  3. Nu ștergeți conversațiile și conturile. Ele sunt dovezile.
  4. Nu redistribuiți și nu copiați imaginile. Nu le trimiteți altor persoane, nici măcar „ca dovadă”. Notați în schimb contextul: numele contului, linkul profilului, platforma, data și ora mesajelor. Lăsați colectarea imaginilor în seama Poliției.
  5. Blocați contul doar după ce ați notat datele lui.
  6. Raportați contul platformei, prin funcția de raportare a aplicației.
  7. Sesizați Poliția. În caz de pericol imediat, sunați la 112.
  8. Cereți sprijin specializat dacă situația este complexă: conturi multiple, șantaj care continuă, legătură cu persoane din anturajul copilului.

Ce spune legea

Regulamentul european privind inteligența artificială (AI Act, Regulamentul UE 2024/1689) interzice, din 2 decembrie 2026, sistemele AI folosite pentru generarea de imagini intime neconsensuale și de materiale de abuz sexual asupra copiilor. Din 2 august 2026, art. 50 cere ca deepfake-urile și conținutul generat cu AI să fie marcate.

Aceste reguli se aplică furnizorilor legitimi. Cei care folosesc AI pentru a răni un copil încalcă deja legea penală, iar faptul că imaginea este generată nu o face legală.

Prevenția: reguli simple pentru acasă

Pentru copiii mici

  • Dispozitivele se folosesc în spațiile comune ale casei.
  • Aplicațiile noi se instalează doar împreună cu un părinte.
  • Regula de aur: „dacă ceva te sperie sau te face să te simți ciudat, îmi spui, și nu te cert”.

Pentru preadolescenți și adolescenți

  • Conturi private, fără locația școlii sau a casei.
  • Discuție deschisă despre imaginile false: „oricine poate falsifica o poză; dacă se întâmplă, nu e vina ta”.
  • Regula secretelor: un adult care cere secrete față de părinți este un semnal de pericol, oricât de drăguț ar părea.
  • O „parolă de familie” pentru apelurile neașteptate în care cineva cere bani sau ajutor urgent.

Pentru părinți

  • Gândiți-vă de două ori înainte de a posta public fotografii și videoclipuri cu copiii, mai ales cu vocea lor.
  • Folosiți controlul parental, dar nu ca înlocuitor al discuției.
  • Încercați împreună cu copilul instrumentele AI pe care le folosește, ca să înțelegeți ce vede.

Ghidul „Inteligența artificială & manipularea percepției umane”, realizat cu sprijin instituțional din partea DNSC, Poliției Române, Cyberint și CSA România, explică pe înțelesul tuturor cum sunt construite mesajele manipulatoare.

Cum vă ajută ProDefence

  • Protecția copilului în mediul digital: ProDefence lucrează cu părinți și cu profesioniști, inclusiv avocați, în cazuri în care un copil a fost hărțuit, șantajat sau folosit drept cale de acces spre familie. Detalii pe pagina dedicată.
  • Analiză tehnică: când trebuie identificată sursa unor conturi false sau documentat un șantaj, investigarea infracțiunilor informatice stabilește ce s-a întâmplat și documentează dovada, iar decizia de a sesiza autoritățile vă aparține.
  • CysEdu (cysedu.eu): educație în securitate cibernetică pentru persoane și familii, cu ghiduri interactive și simulări practice, în campania „Analizează. Decide. Acționează.”
  • Școli și organizații: cursuri de educație cibernetică pentru profesori, părinți și elevi.

Pentru copiii care învață mai ușor prin joc, CysGame are chestionare și misiuni interactive gratuite despre phishing, protecția datelor și competențe digitale, care pot fi parcurse împreună cu părinții.

Întrebări frecvente

Sunt periculoși chatboții AI pentru copii?

Nu toți și nu în orice situație, dar riscul crește când copilul îi folosește singur, des și pe teme personale. Chatboții sunt construiți să mențină conversația și pot da sfaturi greșite pe subiecte sensibile. Folosiți-i împreună la început și discutați cu copilul ce întreabă și ce primește ca răspuns.

Ce fac dacă apare o imagine falsă cu copilul meu?

Nu o redistribuiți și nu o trimiteți nimănui, nici măcar ca dovadă. Notați unde a apărut, contul care a publicat-o, data și ora, raportați-o platformei și sesizați Poliția. Spuneți-i copilului clar că imaginea este falsă și că nu el a greșit.

Trebuie să plătesc dacă cineva îmi șantajează copilul?

Nu. Plata nu garantează oprirea șantajului și de obicei duce la cereri noi. Păstrați conversațiile, notați datele contului, blocați-l după aceea, raportați-l platformei și sesizați Poliția. În caz de pericol imediat, sunați la 112.

Cum îmi dau seama dacă un „prieten” online al copilului este fals?

Semnalele tipice sunt: îl cunoaște doar online, îi face multe complimente, îi cere să păstreze secrete față de părinți, propune mutarea discuției pe o altă aplicație, oferă cadouri sau credite în jocuri și cere fotografii. Oricare dintre ele justifică o discuție calmă cu copilul.

Ce interzice AI Act în privința copiilor?

Din 2 decembrie 2026, AI Act interzice sistemele AI folosite pentru imagini intime neconsensuale și pentru materiale de abuz sexual asupra copiilor. Din 2 august 2026, deepfake-urile trebuie marcate ca atare. Folosirea AI pentru a răni un copil rămâne în același timp o faptă penală.

Surse

  • Regulamentul (UE) 2024/1689 (AI Act), EUR-Lex
  • Poliția Română, avertisment privind fraudele cu voce clonată „Te sună copilul”, februarie 2026
  • Mircea Constantin Șcheau, Alexandru-Ciprian Angheluș, „Inteligența artificială & manipularea percepției umane” (2025), cyberaid.eu/ADA
  • ProDefence, „Influența conținutului vizual creat cu inteligență artificială asupra copilului”, prodefence.ro

Alexandru Angheluș, ProDefence. Specialist în securitate cibernetică, lucrează cu părinți și profesioniști în cazuri de protecție a copilului în mediul digital.

Sari la conținut