Alexandru Panait, expert în securitate cibernetică, despre capcanele AI, la ”Follow us!”

În platoul emisiunii “Follow us!”, difuzată la Kanal D, Ilinca Vandici și Teo Trandafir l-au avut astăzi invitat pe Alexandru Panait, expert în securitate cibernetică, care a analizat beneficiile și, mai ales, pericolele utilizării excesive a inteligenței artificiale.

Cele două moderatoare au subliniat că inteligența artificială a devenit, pentru mulți oameni, un partener de conversație disponibil la orice oră. O folosim când vrem un răspuns rapid la ceva ce ne macină sau când nu mai avem răbdare să căutăm informația în mod clasic.

De la glume despre „prieteni virtuali” până la decizii serioase de viață, relația cu AI-ul capătă o dimensiune tot mai personală.

Într-o societate care funcționează tot mai mult pe tipare și statistici, autenticitatea și natura umană riscă să fie puse în umbră, iar vulnerabilitățile pot fi exploatate prin atacuri de tip „social engineering” din ce în ce mai sofisticate.

„Un hacker bun nu hack-uiește sisteme, ci hack-uiește oameni.

Adică se folosește de sisteme ca să ajungă în mintea omului și să poată să lucreze acolo în așa fel încât să facă social engineering cum au fost cazuri de părinți care erau sunați de copiilor care nu erau de fapt copiii lor. Era inteligență artificială care le reproducea vocea”, a avertizat expertul.

Una dintre cele mai sensibile probleme rămâne însă cea a datelor personale. Mulți utilizatori ajung să vorbească cu inteligența artificială despre lucruri intime, presupunând că dialogul este privat și lipsit de consecințe.

Sentimentul de intimitate îi determină să dezvăluie detalii pe care nu le-ar împărtăși nici măcar unui prieten apropiat. În realitate, „gratuitatea” acestor servicii poate avea un cost ascuns, plătit în informații personale.

„(...)Contul tău poate fi prăduit de hackeri și pot fi folosite datele de acolo pentru diferiți vectori de atac...Mai nou, cu inteligență artificială, orice persoană cu intenții rele într-o cameră de apartament poate să fie hacker, pentru ca are unelte la dispoziție ca să facă foarte mult rău.

Și ideea e că în momentul în care noi dăm aceste date inteligenței artificiale ele pot fi folosite. Același lucru se întâmplă și cu rețelele sociale. Majoritatea oamenilor, de când au apărut rețelele sociale ...își doresc apartenența. Din cauza asta, oamenii au tendința să posteze lucruri despre ei, să-și divulge viața (…)” a subliniat Alexandru Panait.

Pe măsură ce tehnologia devine mai sofisticată, crește și impresia că aceste sisteme „înțeleg” lumea și oferă răspunsuri superioare judecății umane.

Specialistul avertizează însă că această percepție poate deveni o vulnerabilitate în sine.

„Inteligența artificială e o unealtă; trebuie să fim suficient de inteligenți să știm cum s-o folosim. Cu înțelepciune. Să-i cunoaștem limitele, să-i cunoaștem capacitățile și să ne folosim doar de ceea ce ne poate servi. Clar ca și în cazul oamenilor întotdeauna prevenția și atenția e foarte importantă, e bine să fii precaut, să vezi ce informații se aruncă către tine de către inteligența artificial ă să le treci prin filtrul gândirii“ a mai spus acesta.

Dincolo de fascinația tehnologică și de comoditatea răspunsurilor instant, rămâne responsabilitatea fiecăruia de a nu renunța la propriul discernământ. Inteligența artificială poate procesa volume uriașe de date, însă omul rămâne singurul capabil să judece, să simtă și să decidă cu adevărat.

Nu ratați o nouă ediție a emisiunii “Follow us!”, mâine, de la ora 08:00, la Kanal D, prezentată de Ilinca Vandici și Teo Trandafir, pentru noi subiecte actuale și dezbateri relevante.