Pericolele ChatGPT: Instrument de personalizare grozav sau tehnologie excelentă de phishing?

ChatGPT de la OpenAI a luat lumea cu asalt.

În afară de milioanele de oameni care l-au încercat deja, furnizorii de servicii de e-mail (ESP) îl instruiesc folosind datele campaniei pentru a produce subiecte și conținut de e-mail extrem de eficiente.

Utilizatorii Salesforce explorează modul în care ChatGPT poate crea formule și reguli de validare. Și, Microsoft l-a încorporat acum în motorul său de căutare Bing - deja se vorbește despre un potențial „ucigaș Google!”

Deci, cum funcționează noua tehnologie?

ChatGPT (Generative Pre-Trained Transformer) folosește tehnici de învățare profundă pentru a procesa terabytes de date web (conținândmiliardede cuvinte) pentru a crea răspunsuri la solicitări sau întrebări de la utilizatori.

Interacțiunile sunt ca și cum ai vorbi cu o persoană. Mulți spun că ChatGPT este prima aplicație AI care a trecut testul Turing, ceea ce înseamnă că prezintă un comportament inteligent echivalent cu o ființă umană sau care nu se poate distinge de acesta.

Am văzut deja câteva cazuri de utilizare atrăgătoare:

• Ziarul britanic Times a folosit ChatGPT pentru a-și scrie editorialul zilnic și apoi le-a cerut cititorilor să identifice ce conținut a fost creat automat. Majoritatea nu au putut!
• Retailerul online de felicitări Moonpig ia în considerare integrarea ChatGPT în sistemele sale. Clienții îi pot cere să genereze un mesaj personalizat sau o poezie fără a fi nevoiți să-și zgârie capul pentru cuvintele potrivite.

ChatGPT permite inovarea și productivitatea care ar putea schimba jocul, rivalizând cu crearea web-ului în sine. Dar fiecare monedă are două fețe. Există o potențială latură întunecată a acestei noi tehnologii?

Să ne uităm la modul în care ChatGPT ar putea crea noi oportunități atât pentru atacatorii de securitate cibernetică, cât și pentru apărători.

Mai bune încercări de phishing

Cercetătorii văd deja codul generat de AI postat pe forumurile de criminalitate cibernetică . Un caz de utilizare ChatGPT din „partea întunecată” este spear phishing - escrocherii prin e-mail care vizează în mod intenționat anumite persoane, organizații sau companii. Folosind această tactică, fraudatorii pot fura date în scopuri rău intenționate sau pot instala programe malware pe computerele vizate.

Într-un exemplu tipic, personalul unei companii poate primi un e-mail de la „CEO” cu o solicitare urgentă de a contribui la un document legat sau de a citi un atașament. Numele familiar asociat cu o solicitare la care s-ar putea aștepta în mod normal crește plauzibilitatea și probabilitatea lor de a răspunde.

De fapt, este foarte posibil ca recentul atac de ransomware Royal Mail să fi început cu un e-mail de tip spear phishing.

Deoarece ChatGPT poate produce conținut în stilul unei persoane nominalizate, e-mailurile de tip spear phishing vor deveni șimaiconvingătoare în curând. Fraudatorii pot solicita acum conținut care să sune ca CEO-ul țintei, făcând mesajul și mai realist și maximizând șansa ca angajații să se îndrăgească de el.

Inginerie antisocială

ChatGPT ar putea, de asemenea, să îmbunătățească alte forme de fraudă de uzurpare a identității, în special în cazurile în care trebuie să se stabilească încrederea.

Folosind ChatGPT, fraudătorii se pot prezenta mai convingător în calitate de angajați ai băncii, ofițeri de poliție, funcționari fiscali (care le spun victimelor că au o factură restante) sau reprezentanți ai furnizorilor de servicii (care susțin că ruterele victimelor au fost piratate și că au nevoie de acces de la distanță la computerul lor). a rezolva problema).

Un exemplu din ce în ce mai frecvent implică mesajele de la prieteni sau membri ai familiei care sunt „în străinătate”. De obicei, ei vor spune că le-au fost furate portofelul și telefonul, iar cineva le-a împrumutat un alt telefon pentru a solicita fonduri de urgență.

Moartea conținutului original

Mulți educatori sunt extrem de îngrijorați de faptul că ChatGPT înseamnă că studenții nu vor mai avea nevoie să scrie un alt eseu.

Unii au pus deja acest lucru la încercare , trimițând articole generate de inteligență artificială – și primind note de trecere credibile (cu condiția să fie de acord să nu fie de top în clasament). Educatorii sunt din ce în ce mai îngrijorați că inteligența artificială va duce la înșelăciune în masă, iar unele școli deja se îndepărtează de eseurile temelor pentru acasă ca răspuns.

Preocupări de confidențialitate

ChatGPT poate ști ce planetă a fost fotografiată prima dată de telescopul spațial Webb (era HIP 65426 b). Dar modul în care au fost obținute aceste date poate intra în conflict cu legile de confidențialitate emergente, cum ar fi Regulamentul general de protecție a datelor (GDPR) și Legea privind confidențialitatea consumatorilor din California (CCPA).

Cazul Clearview AI , în care a fost construită o bază de date de recunoaștere facială folosind răzuirea imaginilor, s-a încheiat cu amenzi de mai multe milioane de dolari de la o secțiune transversală paneuropeană a autorităților de reglementare.

Modul în care funcționează ChatGPT nu este în întregime același – mai degrabă ca un mixer alimentar pentru date, în care ingredientele originale nu mai sunt recunoscute. Dar va rămâne în continuare întrebarea dacă indiviziiintenționauca datele lor să fie utilizate în acest mod.

Încălcarea drepturilor de autor este un scenariu mai probabil. În Statele Unite, a fost intentată un proces colectiv împotriva Stability AI, dezvoltatorul generatorului de artă AI Stable Diffusion. Procurorii au pretins încălcarea drepturilor deținătorilor de imagini inițiale.

Și, Getty Images, biblioteca de fotografii și artă din Marea Britanie, spune că va da în judecată și Stable Diffusion pentru că își folosește imaginile fără licență.

GPT = Protejați-vă astăzi

Deși aceste scenarii pot suna puțin apocaliptice, există cele mai bune practici stabilite care pot fi folosite ca măsuri de siguranță:

• Vigilența este întotdeauna prima linie de apărare. Băncile și oficialii de poliție nu vor cere niciodată detalii de card, PIN-uri sau parole de internet banking. Așadar, fiți foarte sceptici față de orice solicitări similare.
• Când primiți un e-mail, verificați datele pe care le-ar avea doar un expeditor legitim. Acesta este motivul pentru care băncile includ adesea coduri poștale ca parte a mesajelor lor. Utilizarea indicatorilor de marcă pentru autentificarea mesajelor (BIMI) va juca, de asemenea, un rol cheie aici, deoarece protocolul de autentificare subiacent (DMARC) confirmă că e-mailul provine de la un expeditor verificat.
• La locul de muncă, implementați reguli pentru a evidenția e-mailurile din afara organizației dvs. Un e-mail care pretinde că este de la CEO-ul dvs., dar prefațat cu „Extern” ar fi un semnal roșu imediat.

Cum să identifici conținutul creat de AI

De asemenea, vedem că apar noi tactici pentru a ajuta la identificarea conținutului creat de AI. De exemplu, instrumente precum GPTZero au fost dezvoltate pentru a ajuta profesorii și lectorii să stabilească dacă eseurile studenților lor sunt scrise automat.

În plus, există predicții că OpenAI va insera un filigran în textul provenit din ChatGPT.

Indivizii vor deveni, de asemenea, mai creativi în ceea ce privește modul în care protejează datele pe care le-ar putea folosi AI generative. Există o poveste faimoasă despre trupa de rock Van Halen care pretinde boluri de M&M cu cele maro eliminate ca parte a cerințelor lor de concert. Criticii i-au acuzat că au lăsat faima să le urce în cap. Apoi, cântărețul lor David Lee Roth a explicat că acest lucru a fost pentru a se asigura că contractele lor cu promotorii de evenimente (cu cerințe semnificative de siguranță) au fost citite în întregime.

Este absolut posibil ca oamenii să înceapă să semene „fapte” incorecte despre ei înșiși pe web (asemănător cu modul în care furnizorii de antispam implementează capcane de spam impecabile).

De exemplu, aș putea afirma într-un blog că am fost crescut în Australia. (De fapt, era Africa de Sud.) Oricine mă cunoaște va ști că referința australiană este neadevărată și ar fi un steag roșu dacă ar fi folosit ulterior în conținutul despre mine!

AI este încă o forță pentru bine

În ciuda preocupărilor pe care le-am subliniat în această postare, impactul general al acestei revoluții AI ar trebui să fie copleșitor de pozitiv.

Este comparabil cu alte invenții critice precum automobilul și computerul. Locurile de muncă se vor schimba (la fel și viețile), dar vor apărea altele noi, în special în domeniile legate de dezvoltarea și implementarea AI. Poate cel mai important, productivitatea va crește.

Vrei să auzi previziunile noastre cu privire la modul în care IA generativă va servi lumea marketingului? Consultați recentul nostru webinar Live Starea e-mailului , unde facem o analiză profundă a acestor oportunități.

Și ca răspuns la întrebarea ta nepusă, nu, nu am folosit ChatGPT pentru a scrie acest articol!