Un asistent AI îți poate da numărul unui escroc drept „suport oficial" al băncii sau al furnizorului tău de software — o campanie otrăvește sursele pe care AI-ul le citește.
Tot mai mulți oameni caută repede un număr de telefon sau o adresă de contact întrebând direct un asistent AI — ChatGPT, Gemini sau caseta Google AI Overview. Cercetătorii de la Vigilance Security au documentat o campanie numită „Dark Sourcery" care exploatează exact acest obicei.
Ideea atacului este simplă. Atacatorii umplu internetul cu pagini de suport false, PDF-uri și recenzii, scrise și optimizate special ca modelele AI să le considere „autoritare" și să le culeagă. Când cineva întreabă asistentul AI care e numărul de suport al unei firme, modelul extrage aceste date false și le prezintă drept răspuns oficial, fără ca utilizatorul să vadă vreodată pagina din spate. Nu este o păcăleală prin text ascuns (prompt injection): sursa citită de AI este cea otrăvită.
Consecința este directă. În cazurile urmărite de cercetători, cine suna la numărul de „suport" recomandat de AI ajungea la escroci care cereau datele cardului sub un pretext. Campania a atins cel puțin 374 de companii, printre care bănci și firme mari, iar un studiu a constatat că 91% dintre cei care folosesc asistenți AI nu verifică răspunsurile primite.
Pentru o firmă mică, riscul nu vine dintr-un program spart, ci dintr-un obicei: un angajat grăbit ia de-a gata un număr sau un link dintr-un chat AI și sună sau se autentifică fără să verifice. Regula care oprește atacul nu costă nimic.
Ce ai de făcut:
- Numărul de suport, adresa de e-mail și linkul de autentificare pentru bancă, furnizori și programe se iau doar de pe site-ul oficial, scris de mână în browser sau dintr-un favorit salvat, niciodată dintr-un răspuns de AI.
- Tratează orice număr sau link primit de la un asistent AI ca neverificat până îl confirmi pe site-ul oficial al firmei respective.
- Spune-i echipei clar: nimeni nu sună un „număr de suport" și nu se autentifică pe un link venit dintr-un chat sau dintr-o căutare cu AI.
- Salvează din timp numerele reale de suport ale băncii și ale furnizorilor importanți, ca nimeni să nu fie nevoit să le caute în grabă.
Surse:
Acest articol a fost generat cu asistență AI.