AI vs phishing: cine câștigă? Un test din campania ADA
Articol publicat în iulie 2025, în campania ADA. Platforma anunțată atunci funcționează astăzi ca CysEdu.
Poate inteligența artificială să recunoască un mesaj de phishing mai bine decât un om? În testul descris mai jos, da: un sistem bazat pe inteligență artificială a identificat mesajul ca malițios în câteva secunde și a explicat de ce. Concluzia campaniei ADA rămâne însă aceeași: tehnologia ajută, dar decizia finală o ia tot omul care primește mesajul, iar aceasta depinde de educație.
Pe scurt
- Am testat un mesaj de phishing real cu platforma de analiză bazată pe inteligență artificială dezvoltată de ProDefence.
- Sistemul a clasificat mesajul ca malițios și a explicat tehnicile de manipulare folosite.
- Atacatorii folosesc și ei inteligența artificială, pentru mesaje mai credibile și fără greșeli.
- Protecția reală combină filtrele automate cu oameni instruiți să recunoască semnalele de alarmă.
Ce am testat
Ați primit vreodată un mesaj care „pare” real, dar ceva nu se leagă? În cadrul campaniei ADA: Analizează, Decide, Acționează, am trecut un astfel de mesaj prin platforma noastră de analiză bazată pe inteligență artificială.
Rezultatul: mesajul a fost identificat ca malițios, cu o analiză detaliată în câteva secunde. Sistemul a recunoscut tehnica de manipulare, a arătat cum era exploatată emoția destinatarului și a oferit explicații clare, pe înțelesul unui utilizator obișnuit. Raportul complet al testului este disponibil mai jos.
De ce nu este suficientă tehnologia
Aceeași tehnologie care detectează phishingul este folosită și pentru a-l produce. Modelele de limbaj permit atacatorilor să scrie mesaje fără greșeli de gramatică, adaptate fiecărei victime și în orice limbă. Semnalul clasic „mesajul are greșeli, deci e fals” nu mai funcționează.
De aceea, un filtru automat poate opri o parte din atacuri, dar nu pe toate. Mesajul care trece de filtre ajunge la un om, iar acel om trebuie să știe ce să verifice.
Semnale de alarmă care rămân valabile
- Urgența: „contul va fi blocat în 24 de ore”, „ultima notificare”.
- Emoția: frică, curiozitate, lăcomie sau dorința de a ajuta.
- Cererea neobișnuită: date de card, coduri primite prin SMS, parole, plăți către un cont nou.
- Expeditorul și linkul: adresa nu corespunde instituției, iar linkul duce spre alt domeniu decât cel oficial.
- Canalul: o bancă sau o instituție nu cere date confidențiale prin e-mail, SMS sau telefon.
Regula ADA este simplă: analizează mesajul, decide abia după ce verifici printr-un canal oficial, acționează (raportează, șterge sau anunță banca).
Educație și prevenție: platforma ADA
Campania a pregătit lansarea unei platforme de educație și prevenție cibernetică pentru copii, părinți, profesori, angajați, manageri și seniori, construită pe conceptul „Analizează, Decide, Acționează”. Platforma include:
- scenarii reale de atac;
- simulări de phishing și teste interactive;
- ghiduri de reacție rapidă;
- conținut adaptat fiecărui tip de utilizator;
- un asistent bazat pe inteligență artificială care explică cum să recunoști, să eviți și să reacționezi.
Proiectul este realizat de ProDefence în parteneriat cu CYSCOE, Clusterul de Excelență în Securitate Cibernetică. Pentru organizații, ProDefence oferă și cursuri de educație cibernetică și analiza mesajelor și fișierelor suspecte.
Testul poate fi continuat în format interactiv pe CysGame, unde misiunile și chestionarele gratuite despre phishing pun utilizatorul în fața unor situații concrete. Pentru partea cealaltă, a instrumentelor IA folosite de atacatori, CysAI adună cercetare de amenințări și profiluri de risc ale agenților IA.
Întrebări frecvente
Poate inteligența artificială să detecteze phishingul?
Da, sistemele bazate pe inteligență artificială pot recunoaște multe mesaje de phishing și pot explica tehnicile folosite, dar nu le opresc pe toate, mai ales pe cele foarte bine țintite.
Cine câștigă, inteligența artificială sau phishingul?
Niciuna dintre părți definitiv: atacatorii folosesc aceeași tehnologie. Diferența o face combinația dintre filtre automate și utilizatori instruiți.
Ce fac dacă am primit un mesaj suspect?
Nu accesați linkurile și nu răspundeți. Verificați prin canalul oficial al instituției, apoi raportați mesajul; dacă ați introdus deja date bancare, anunțați imediat banca.
