AI Image Generators (generatoarele de imagini AI), o amenințare emergentă pentru securitatea cibernetică

duminică, martie 12, 2023 20:21
Posted in category IT

Image, AI

Imaginile realizate de AI (Artificial Intelligence – Inteligenţă Artificială) par a fi distractive, dar pot reprezenta și un pericol serios pentru securitatea cibernetică.

Inteligența artificială are potențialul de a schimba însăși natura societății noastre. Instrumentele AI pe care le avem în prezent la dispoziție sunt indiciu a ceea ce urmează.

Din păcate, AI-ul este folosit şi de către infractorii cibernetici. Aceasta nu este doar o preocupare teoretică, ci parte a unei realităţi.

Ce sunt generatoarele de imagini AI? Cum funcționează?

Dacă ați folosit vreodată un generator de imagini AI, aveți o idee destul de clară despre ce este vorba. Chiar dacă nu ați folosit niciodată un asemenea instrument, cel mai probabil ați întâlnit imagini generate de AI pe rețelele de socializare sau pe alte platforme. Software-ul generator de imagini funcționează pe un principiu foarte simplu: utilizatorul introduce textul, iar AI generează o imagine pe baza textului respectiv.

Ceea ce se întâmplă în bucătăria internă a soft-ului este mult mai complex. Inteligența artificială a devenit mult mai bună în ultimii ani, iar majoritatea generatoarelor text-to-image din zilele noastre sunt așa-numitele modele de difuzie. Aceasta înseamnă că sunt „antrenați” pe o perioadă lungă de timp pe un număr enorm de texte și imagini, ceea ce face creațiile lor atât de impresionante și uimitor de realiste.

Ceea ce face aceste instrumente AI și mai impresionante este faptul că nu doar modifică imaginile existente sau combină mii de imagini într-una singură, ci și creează imagini noi, originale de la zero. Cu cât mai mulți oameni folosesc aceste generatoare text-to-image, cu atât mai multe informații sunt acumulate și creațiile AI devin mai bune.

Unele dintre cele mai cunoscute generatoare de imagini AI sunt Dream by WOMBO, DALL-E, Stable Diffusion, Midjourney, DeepAI, Fotor și Craiyon. Alte noi generatoare de imagini apar în multe locuri, iar giganții tehnologiei, inclusiv Google, își lansează propriile generatoare AI de imagini, așa că nu putem decât să speculăm cu privire la ceea ce va fi în viitor.

4 moduri în care generatoarele de imagini AI pot deveni ameninţări

Ca aproape toată tehnologia, generatoarele de imagini AI pot fi folosite şi de răuvoitori. De fapt, ele sunt deja folosite pentru tot felul de scopuri nefaste. Dar ce tip de escrocherii și atacuri cibernetice poate efectua un infractor cibernetic cu ajutorul generatoarelor de imagini AI?

1. Inginerie socială

Generatoarele de imagini AI pot fi implicate în ingineria socială; de exemplu, pot fi create profiluri false pe rețelele de socializare. Unele dintre aceste programe pot crea imagini incredibil de realiste care arată exact ca fotografiile autentice ale unor oameni reali.

Spre deosebire de fotografiile oamenilor reali, cele generate de AI nu pot fi descoperite prin căutarea inversă a imaginilor; folosind AI, un criminal cibernetic poate genera oricâte imagini doreşte, construind practic o identitate online convingătoare de la zero.

Există şi exemple în acest sens. În aprilie 2022, bloggerul TechTalks Ben Dickinson a primit un e-mail de la o firmă de avocatură în care i se reproşa că a folosit o imagine fără permisiune. Avocații au trimis prin e-mail o notificare de încălcare a drepturilor de autor DMCA, spunându-i lui Dickinson că trebuie să se conecteze la un client de-al lor sau să elimine imaginea.

Dickinson a căutat pe Google firma de avocatură și a găsit site-ul oficial. Totul părea complet legitim; site-ul avea chiar și fotografii cu 18 avocați, cu biografiile și acreditările lor. Dar nimic nu a fost real. Fotografiile au fost toate generate de AI, iar presupusele notificări de încălcare a drepturilor de autor au fost trimise de cineva care dorea să stocheze backlink-uri de la bloggeri, ca parte a unei strategii neetice de SEO (Search Engine Optimization).

2. Escrocherii de caritate

Când cutremure devastatoare au lovit Turcia și Siria, în februarie 2023, milioane de oameni din întreaga lume și-au exprimat solidaritatea cu victimele donând haine, alimente și bani.

Potrivit unei relatări a BBC, escrocii au profitat de această tragedie, folosind AI pentru a crea imagini realiste și pentru a solicita donații. Un escroc a arătat imagini cu ruine generate de inteligență artificială pe TikTok Live, cerând spectatorilor săi donații. Un altul a postat o imagine generată de inteligență artificială a unui pompier grec care salvează un copil rănit din ruine și le-a cerut adepților săi donații în Bitcoin. Vă puteţi imagina la ce escrocherii de caritate vor apela criminalii cibernetici, cu ajutorul AI, în viitor.

3. Deepfakes și dezinformare

Guvernele, grupurile de activiști și grupurile de reflecție au avertizat de mult despre pericolele deepfake-urilor. Generatoarele de imagini AI adaugă o altă componentă acestei probleme, având în vedere cât de realiste sunt creațiile lor. De fapt, în Marea Britanie, există chiar și o emisiune de comedie numită Deep Fake Neighbor Wars, care găsește umor în perechi improbabile de celebrități. Ce ar împiedica un agent de dezinformare să creeze o imagine falsă și să o promoveze pe rețelele de socializare cu ajutorul roboților?

Acest lucru poate avea consecințe în viața reală, așa cum s-a întâmplat în martie 2022, când un videoclip fals înfățișând președintele ucrainean Volodymyr Zelensky le-a spus ucrainenilor să se predea, a circulat online, conform NPR. Şi acesta este doar un exemplu, pentru că posibilitățile sunt aproape nesfârșite și există nenumărate moduri în care un infractor cibernetic poate promova o narațiune falsă sau poate răspândi știri false cu ajutorul inteligenței artificiale.

4. Fraudă publicitară

Cercetătorii TrendMicro au descoperit în 2022 că escrocii foloseau conținut generat de inteligență artificială pentru a crea reclame înșelătoare și pentru a promova produse dubioase. Ei au creat imagini care sugerau că celebrități populare folosesc anumite produse și au desfășurat campanii publicitare bazate pe acele imagini.

De exemplu, un anunț pentru o „oportunitate de consiliere financiară” îl prezenta pe miliardarul Elon Musk, fondatorul și CEO-ul Tesla. Desigur, Musk nu a susținut niciodată produsul în cauză, dar filmările generate de AI prezentate l-au făcut să pară așa.

AI și securitatea cibernetică: o problemă complexă pe care trebuie să o abordăm

În viitor, autoritățile de reglementare guvernamentale și experții în securitate cibernetică vor trebui să colaboreze pentru a aborda amenințarea emergentă a criminalității cibernetice bazate pe inteligență artificială. Dar cum putem reglementa AI și proteja oamenii obișnuiți, fără a înăbuși inovația și a restrânge libertățile digitale? Această este marea întrebare pentru anii următori.

Până când vom găsi un răspuns, faceți tot ce puteți pentru a vă proteja: verificați cu atenție orice informație pe care o vedeți online, evitați site-urile nesigure, utilizați software sigur, mențineți dispozitivele actualizate și învățați să utilizați inteligența artificială în avantajul vostru.

Sursa informaţiilor: Make Use Of (MUO).

Citeşte şi articolele:

Sigla A7
Dacă ţi-a plăcut articolul, ai ceva de completat sau ai ceva de reproşat (civilizat) la acest text, scrie un comentariu, ori pune un link pe site-ul (blogul) tău, în cazul în care vrei ca şi alţii să citească textul sau (obligatoriu) dacă ai copiat articolul parţial sau integral. După ce ai scris comentariul, acesta trebuie aprobat de administratorul site-ului, apoi va fi publicat.

Adauga un comentariu