Arhiva tag-ul pentru: tehnologie

Inteligența Artificială nu mai este doar o tehnologie asociată inovației, automatizării și eficienței. În același timp, ea devine un instrument tot mai atractiv pentru actorii rău intenționați, care o pot folosi pentru a accelera, personaliza și automatiza atacurile cibernetice.

În esență, AI nu inventează neapărat toate atacurile de la zero. Phishing-ul, malware-ul, atacurile DDoS, compromiterea conturilor, exploatarea vulnerabilităților sau ingineria socială existau deja. Diferența majoră este că Inteligența Artificială poate crește viteza, volumul, precizia și adaptabilitatea acestor atacuri. Cu alte cuvinte, AI poate transforma atacuri deja cunoscute în operațiuni mult mai eficiente, mai greu de observat și mai dificil de blocat.

Această evoluție este deja reflectată în evaluările instituțiilor de securitate cibernetică. NCSC a avertizat că AI va amplifica amenințările cibernetice până în 2027, inclusiv prin automatizarea unor etape de atac, campanii de spear-phishing, identificarea vulnerabilităților și exploatarea defectelor de cod sau configurare. ENISA subliniază, de asemenea, că inteligența artificială a devenit un element definitoriu al peisajului actual de amenințări, în special în zona de phishing și social engineering.

De ce AI schimbă natura atacurilor cibernetice

Un atac cibernetic clasic se bazează, de regulă, pe tehnici cunoscute: exploatarea unei vulnerabilități, trimiterea unui e-mail de phishing, folosirea unui malware, compromiterea unei parole sau manipularea unei persoane pentru a divulga informații sensibile.

Un atac în care este implicată Inteligența Artificială poate păstra aceleași obiective, dar devine mai eficient prin patru caracteristici principale:

1. Personalizare avansată
AI poate analiza rapid informații publice despre o persoană sau organizație: funcție, limbaj folosit, stil de comunicare, relații profesionale, activitate online sau contexte recente. Pe baza acestor informații, atacatorul poate construi mesaje care par legitime, credibile și adaptate victimei.

2. Automatizare la scară mare
Ce înainte necesita timp și intervenție umană poate fi automatizat. Un atacator poate genera sute sau mii de variante de mesaje, scenarii, texte, cod sau instrucțiuni, adaptate pentru categorii diferite de victime.

3. Adaptabilitate
Sistemele AI pot fi utilizate pentru a ajusta comportamentul unui atac în funcție de reacția victimei sau de mediul tehnic întâlnit. În cazul malware-ului, acest lucru poate însemna schimbarea modului de operare pentru a evita detecția.

4. Reducerea barierei tehnice
Actorii cu un nivel tehnic mai redus pot folosi instrumente AI pentru a produce mesaje mai convingătoare, cod mai bine structurat, documentație falsă, scenarii de fraudă sau variante de atac pe care anterior nu le-ar fi putut construi singuri.

Phishing-ul asistat de AI: mai credibil, mai rapid, mai greu de detectat

Phishing-ul rămâne una dintre cele mai utilizate metode de atac cibernetic. În forma sa clasică, phishing-ul implică trimiterea unor mesaje false, prin care atacatorul încearcă să determine victima să acceseze un link, să descarce un fișier, să introducă date de autentificare sau să efectueze o plată.

Inteligența Artificială schimbă acest tip de atac prin faptul că permite generarea unor mesaje mult mai naturale. Greșelile gramaticale evidente, formulările rigide sau traducerile defectuoase — semnale clasice ale fraudelor — pot dispărea aproape complet.

Un atacator poate folosi AI pentru a crea:

  • e-mailuri redactate într-un stil profesional;
  • mesaje adaptate unei anumite companii;
  • conversații false care imită tonul unui coleg, furnizor sau superior ierarhic;
  • mesaje în limba maternă a victimei;
  • texte care creează presiune, urgență sau încredere;
  • scenarii de fraudă financiară mult mai convingătoare.

Această evoluție afectează direct atât utilizatorii individuali, cât și organizațiile. În mediul profesional, un e-mail fals poate părea trimis de departamentul financiar, de un furnizor cunoscut, de un manager sau de o instituție publică. În mediul personal, mesajele pot imita bănci, curieri, platforme de social media, rude sau prieteni.

Riscul real nu este doar tehnic, ci și psihologic. AI poate ajuta atacatorul să construiască un mesaj care exploatează emoții: frică, grabă, curiozitate, încredere, autoritate sau presiune financiară.

Malware adaptativ și atacuri bazate pe învățare automată

Un alt risc important este utilizarea AI pentru dezvoltarea sau optimizarea programelor malware. Într-un atac clasic, malware-ul are un comportament relativ fix: infectează sistemul, comunică cu un server de comandă și control, fură date, criptează fișiere sau creează persistență în sistem.

Prin utilizarea AI sau a tehnicilor de învățare automată, un malware poate deveni mai adaptativ. De exemplu, poate încerca să identifice mediul în care rulează, să evite anumite instrumente de analiză, să întârzie execuția, să își modifice comportamentul sau să aleagă momentul potrivit pentru activare.

Acest lucru nu înseamnă că orice malware modern este „inteligent” în sens avansat. În multe cazuri, vorbim despre automatizare, optimizare sau folosirea AI în etapele de pregătire a atacului, nu neapărat despre malware autonom complet. Totuși, direcția este clară: AI poate reduce timpul necesar pentru dezvoltare, testare, modificare și reutilizare a instrumentelor malițioase.

NCSC indică drept una dintre evoluțiile importante utilizarea AI pentru descoperirea și exploatarea vulnerabilităților, inclusiv prin analizarea codului și identificarea defectelor de configurare. MITRE ATLAS tratează deja amenințările asupra sistemelor AI ca un domeniu distinct, documentând tactici și tehnici specifice atacurilor împotriva modelelor, datelor și infrastructurii AI.

Botnet-uri, DDoS și atacuri coordonate automatizat

Rețelele botnet sunt formate din dispozitive compromise, controlate de atacatori pentru a executa acțiuni coordonate: atacuri DDoS, spam, distribuire de malware, fraudă publicitară sau alte activități ilegale.

AI poate amplifica acest tip de atac în mai multe moduri. Poate ajuta la alegerea momentului optim pentru atac, la distribuirea traficului astfel încât să pară mai natural, la evitarea unor mecanisme de detecție sau la selectarea țintelor vulnerabile. În loc ca atacul să fie executat rigid, după un model fix, acesta poate deveni mai dinamic.

În cazul atacurilor DDoS, problema nu este doar volumul de trafic, ci și capacitatea de a simula comportamente aparent legitime. Dacă traficul malițios seamănă cu traficul real al utilizatorilor, filtrarea devine mai dificilă. Astfel, organizațiile nu trebuie să se bazeze doar pe soluții simple de blocare, ci pe mecanisme de analiză comportamentală, rate limiting, protecție la nivel de aplicație, monitorizare continuă și răspuns rapid.

Atacuri asupra sistemelor inteligente și asupra modelelor AI

Un aspect adesea ignorat este faptul că AI nu este doar un instrument care poate fi folosit de atacatori. AI poate fi și țintă.

Organizațiile folosesc tot mai mult sisteme inteligente pentru detecție, analiză, suport decizional, automatizare, interacțiune cu clienții, procesare de documente sau monitorizare. Aceste sisteme pot fi atacate prin metode specifice, cum ar fi:

  • manipularea datelor de intrare;
  • contaminarea datelor de antrenare;
  • extragerea informațiilor din model;
  • ocolirea filtrelor de securitate;
  • prompt injection;
  • compromiterea integrărilor dintre AI și alte sisteme;
  • folosirea necontrolată a datelor confidențiale în interacțiunea cu modele AI.

Într-un context organizațional, riscul devine semnificativ atunci când sistemele AI sunt conectate la e-mail, baze de date, aplicații interne, documente, procese operaționale sau infrastructuri critice. Un sistem AI nesecurizat poate deveni o nouă suprafață de atac.

CISA subliniază, în ghidurile sale privind integrarea sigură a AI în medii operaționale, că adoptarea AI trebuie realizată cu principii clare de securitate, control și guvernanță, mai ales atunci când tehnologia este conectată la sisteme industriale sau operaționale.

Deepfake, vishing și fraudă prin identitate sintetică

Un alt domeniu în care AI produce un impact major este frauda bazată pe identitate. Tehnologiile de generare audio, video și text pot fi utilizate pentru a crea conținut fals, dar convingător.

Atacatorii pot folosi:

  • voce clonată pentru apeluri frauduloase;
  • videoclipuri deepfake pentru compromiterea reputației;
  • mesaje audio false în care pare că vorbește o persoană cunoscută;
  • identități sintetice pentru fraudă financiară;
  • profiluri false pe rețele sociale;
  • conversații generate automat pentru manipulare sau dezinformare.

Acest tip de atac este periculos deoarece afectează încrederea. În trecut, un apel telefonic de la o persoană cunoscută putea fi considerat un element de validare. În prezent, vocea, imaginea și stilul de scriere nu mai sunt suficiente pentru confirmarea identității.

În organizații, acest risc afectează mai ales zonele financiar-contabile, managementul, resursele umane, achizițiile, relația cu furnizorii și echipele care gestionează date sensibile.

Diferența dintre atacurile clasice și atacurile asistate de AI

Diferența principală nu constă neapărat în obiectivul atacului, ci în modul de execuție.

Un atac clasic este de regulă mai static, mai dependent de intervenție umană și mai ușor de identificat prin indicatori cunoscuți. Un atac asistat de AI poate fi mai flexibil, mai personalizat și mai rapid.

Element analizatAtac cibernetic clasicAtac asistat de AI
PersonalizareLimitată sau manualăRapidă, automată, adaptată victimei
VolumDepinde de resursele atacatoruluiPoate fi scalat mult mai rapid
LimbajPoate conține erori evidentePoate fi natural, coerent și credibil
AdaptabilitateDe regulă redusăPoate reacționa la context
DetecțieBazată pe indicatori cunoscuțiMai dificilă dacă atacul se modifică frecvent
Cost pentru atacatorMai mare pentru atacuri sofisticatePoate fi redus prin automatizare
Impact asupra utilizatoruluiTehnic și socialTehnic, social, psihologic și reputațional

AI nu elimină metodele clasice de atac. Le amplifică.

De ce utilizatorii sunt mai expuși

Utilizatorii obișnuiți sunt expuși deoarece AI poate transforma atacurile în experiențe aparent normale. Un mesaj fraudulos poate părea o notificare obișnuită. Un apel poate părea real. Un site fals poate avea texte corecte, branding convingător și instrucțiuni clare. Un atacator poate crea rapid variante diferite ale aceleiași fraude, adaptate la vârstă, profesie, limbă, context financiar sau evenimente recente.

Cele mai vulnerabile situații apar atunci când utilizatorul acționează sub presiune:

  • „Contul tău va fi blocat.”
  • „Trebuie să confirmi urgent plata.”
  • „Ai primit un colet.”
  • „Ai o factură restantă.”
  • „Șeful cere transferul acum.”
  • „Copilul tău are nevoie de ajutor.”
  • „Actualizează imediat datele.”

În toate aceste cazuri, atacul nu vizează doar sistemul, ci decizia omului.

Măsuri de protecție pentru utilizatori

Protecția împotriva atacurilor asistate de AI nu se reduce la instalarea unui antivirus. Este nevoie de o combinație între igienă digitală, verificare, educație și instrumente tehnice.

Utilizatorii ar trebui să aplice următoarele măsuri:

1. Verificarea sursei înainte de acțiune
Nu se accesează linkuri, nu se descarcă fișiere și nu se introduc date personale doar pentru că mesajul pare credibil. Sursa trebuie verificată separat, prin canale oficiale.

2. Autentificare multifactor
Parolele pot fi compromise. Autentificarea cu doi factori sau multifactor reduce semnificativ riscul de acces neautorizat.

3. Parole unice și manager de parole
Reutilizarea parolelor rămâne una dintre cele mai mari vulnerabilități. Un manager de parole ajută la folosirea unor parole complexe și diferite pentru fiecare cont.

4. Actualizarea sistemelor
Sistemele de operare, browserele, aplicațiile și echipamentele trebuie actualizate constant. Vulnerabilitățile cunoscute sunt exploatate rapid, uneori la scurt timp după publicarea lor.

5. Atenție la presiune și urgență
Mesajele care cer acțiune imediată, plată urgentă sau confirmare rapidă trebuie tratate cu suspiciune.

6. Confirmare printr-un canal alternativ
Pentru plăți, transferuri, solicitări de date sau instrucțiuni neobișnuite, confirmarea trebuie făcută printr-un canal separat: apel direct, număr oficial, întâlnire internă sau procedură formală.

7. Limitarea informațiilor publice
Cu cât există mai multe informații publice despre o persoană sau organizație, cu atât atacurile pot fi mai bine personalizate.

Măsuri de protecție pentru organizații

La nivel organizațional, protecția trebuie să fie mai structurată. AI obligă organizațiile să trateze securitatea cibernetică nu doar ca pe o problemă tehnică, ci ca pe o problemă de guvernanță, procese, oameni și cultură organizațională.

Măsurile relevante includ:

  • instruire periodică pentru angajați, management și personal cu roluri critice;
  • simulări de phishing și social engineering;
  • politici clare pentru plăți, modificări de cont bancar și validarea furnizorilor;
  • autentificare multifactor pentru conturile critice;
  • monitorizare comportamentală;
  • protecție avansată pentru e-mail;
  • segmentarea rețelei;
  • backup testat periodic;
  • management riguros al vulnerabilităților;
  • proceduri de răspuns la incidente;
  • control asupra utilizării AI în organizație;
  • reguli clare privind introducerea datelor confidențiale în sisteme AI;
  • auditarea integrărilor AI cu aplicații interne.

Pentru organizațiile care intră sub incidența unor obligații de securitate cibernetică, cum ar fi NIS2, aceste măsuri nu mai țin doar de bune practici, ci de responsabilitate operațională și conformare.

AI ca instrument defensiv

Este important să nu privim Inteligența Artificială doar ca pe o amenințare. AI poate fi folosită și în apărare.

Soluțiile moderne de securitate pot utiliza AI pentru:

  • detectarea anomaliilor;
  • analizarea comportamentului utilizatorilor;
  • prioritizarea alertelor;
  • identificarea campaniilor de phishing;
  • corelarea indicatorilor de compromitere;
  • accelerarea investigațiilor;
  • automatizarea unor pași de răspuns la incidente;
  • identificarea vulnerabilităților;
  • analiza volumelor mari de date.

Problema nu este existența AI, ci modul în care este folosită, controlată și integrată. Aceeași tehnologie poate sprijini apărarea sau poate accelera atacul.

Inteligența Artificială schimbă profund peisajul securității cibernetice. Atacurile nu mai trebuie analizate doar prin prisma vulnerabilităților tehnice, ci și prin capacitatea atacatorilor de a automatiza, personaliza și manipula comportamentul uman.

Diferența dintre un atac clasic și unul asistat de AI constă în nivelul de sofisticare, viteză, adaptabilitate și credibilitate. Phishing-ul devine mai convingător. Malware-ul poate deveni mai flexibil. Botnet-urile pot deveni mai greu de detectat. Deepfake-urile pot compromite încrederea în voce, imagine și identitate. Sistemele AI pot deveni, la rândul lor, ținte.

În acest context, protecția eficientă presupune mai mult decât tehnologie. Este nevoie de educație, proceduri clare, verificare, disciplină digitală și o cultură organizațională orientată spre prevenție.

AI nu face atacurile cibernetice inevitabile, dar le face mai rapide, mai credibile și mai greu de ignorat. De aceea, utilizatorii, organizațiile și instituțiile trebuie să trateze securitatea digitală ca pe o competență esențială, nu ca pe o reacție după producerea incidentului

Articol publicat în martie 2023. Între timp, inteligența artificială generativă a schimbat și modul în care atacă infractorii; vezi secțiunea de la final.

Inteligența artificială (IA) este capacitatea unui sistem de a îndeplini sarcini care cer în mod obișnuit inteligență umană: înțelegerea limbajului, recunoașterea imaginilor, analiza datelor. În securitatea cibernetică, IA ajută la detectarea atacurilor, la găsirea vulnerabilităților și la analiza unor volume de date pe care niciun analist nu le-ar putea parcurge manual.

Pe scurt

  • Algoritmii de învățare automată detectează trafic suspect și comportamente neobișnuite în rețele.
  • IA poate analiza codul sursă și poate semnala vulnerabilități înainte de exploatare.
  • Autentificarea biometrică și analiza jurnalelor de acces sunt alte aplicații importante.
  • Aceeași tehnologie este folosită și de atacatori, deci nu înlocuiește oamenii pregătiți.

Ce aduce IA în apărarea cibernetică

Detectarea și prevenirea atacurilor

Algoritmii de învățare automată pot fi antrenați să recunoască tipare de trafic suspect sau comportamente neobișnuite în rețea. Atacurile sunt identificate mai repede, iar reacția este mai rapidă.

Securitatea aplicațiilor

IA poate analiza codul sursă și poate semnala vulnerabilități, astfel încât acestea să fie corectate înainte ca atacatorii să le exploateze.

Autentificarea

IA stă la baza autentificării prin recunoaștere facială sau vocală. Aceste metode pot completa parolele, care se ghicesc sau se fură ușor, dar trebuie folosite cu prudență, fiindcă vocea și imaginea pot fi astăzi clonate.

Identificarea amenințărilor

Analizând multe incidente, IA poate identifica tipare și tendințe în atacuri, informații folosite pentru măsuri de apărare mai bune.

Analiza datelor de securitate

Jurnalele de acces și de activitate generează volume uriașe de date. IA le poate filtra și poate scoate în evidență evenimentele care merită analizate de un specialist.

Instrumente care folosesc IA

În 2023, printre soluțiile de securitate cunoscute care foloseau IA se numărau platforme de detecție a anomaliilor în rețea, sisteme de analiză a amenințărilor bazate pe învățare automată și soluții de protecție a stațiilor de lucru care analizează comportamentul programelor (de exemplu Darktrace, IBM, Cylance, McAfee). Astăzi, aproape toate soluțiile importante de securitate includ componente de IA.

Partea cealaltă: IA în mâinile atacatorilor

Din 2023 încoace, inteligența artificială generativă a devenit accesibilă oricui, inclusiv infractorilor. Ea este folosită pentru mesaje de phishing fără greșeli, pentru clonarea vocii în fraude telefonice și pentru deepfake. Concluzia rămâne aceeași: tehnologia ajută, dar decisivi sunt oamenii instruiți și procesele bine definite. Vezi și AI vs phishing: cine câștigă?.

Cum vă poate ajuta ProDefence

ProDefence folosește instrumente de analiză asistată de IA în analiza fraudelor electronice și a fișierelor suspecte și oferă cursuri despre riscurile inteligenței artificiale pentru angajați și conducere.

Malware (prescurtare de la „malicious software”, program rău intenționat) este orice program conceput să afecteze, să perturbe sau să distrugă sistemele informatice ori datele utilizatorilor, sau să le fure fără știrea lor. Termenul acoperă mai multe familii, de la viruși clasici la ransomware și programe spion.

Pe scurt

  • Malware-ul ajunge pe dispozitive mai ales prin atașamente, linkuri, programe piratate și vulnerabilități neactualizate.
  • Tipurile principale: virus, vierme, troian, ransomware, spyware, adware și rootkit.
  • Riscurile: pierderea datelor, furt financiar, blocarea sistemelor, compromiterea pe termen lung.
  • Protecția: actualizări, soluție de securitate, copii de siguranță și prudență la ce deschizi.

Principalele tipuri de malware

  • Virusul se răspândește de la un sistem la altul prin fișiere infectate. Poate deteriora fișiere, poate fura informații sau poate încetini sistemul.
  • Viermele (worm) se răspândește automat prin rețele și dispozitive conectate, fără intervenția utilizatorului. Poate fura date, poate instala alte programe malițioase sau poate bloca rețele.
  • Troianul (trojan) pare un program inofensiv, dar are funcții ascunse: furt de date, acces de la distanță, instalarea altor componente.
  • Ransomware-ul criptează fișierele și cere o răscumpărare pentru deblocare. Este unul dintre cele mai costisitoare tipuri de atac pentru firme și instituții.
  • Spyware-ul se instalează fără știrea utilizatorului și îi colectează activitatea: parole, conversații, date financiare. Din această familie fac parte și programele de tip stealer, care fură parolele salvate în browser.
  • Adware-ul afișează reclame nedorite și ferestre pop-up și poate reduce performanța sistemului.
  • Rootkit-ul se ascunde adânc în sistemul de operare și poate masca alte programe malițioase, fiind greu de detectat și de eliminat.

Cum ajunge malware-ul pe dispozitive

  • atașamente din e-mailuri de phishing (facturi, documente „urgente”);
  • linkuri spre site-uri compromise;
  • programe și jocuri piratate sau descărcate din surse neoficiale;
  • vulnerabilități în sisteme și aplicații neactualizate;
  • stick-uri USB și dispozitive necunoscute.

Cum te protejezi

  1. Instalează o soluție de securitate și ține-o actualizată.
  2. Actualizează constant sistemul de operare și aplicațiile.
  3. Nu deschide atașamente și linkuri neașteptate.
  4. Descarcă programe doar din surse oficiale.
  5. Fă copii de siguranță regulate, păstrate separat de calculator.

Întrebări frecvente

Care este diferența dintre virus și malware?

Malware este termenul general pentru orice program rău intenționat; virusul este doar un tip de malware, care se răspândește prin fișiere infectate.

Cum îmi dau seama că am malware?

Semne posibile: sistem neobișnuit de lent, ferestre și reclame apărute de nicăieri, programe necunoscute, conturi accesate fără știrea ta sau fișiere care nu se mai deschid.

Ce fac dacă bănuiesc o infectare?

Deconectează dispozitivul de la rețea, nu introduce parole pe el, schimbă parolele de pe alt dispozitiv și cere ajutorul unui specialist.

Pentru analiza unui fișier suspect sau a unui dispozitiv posibil compromis, ProDefence oferă analiza fișierelor suspecte și a programelor malițioase.

Sari la conținut