Compania OpenAI a anunțat recent schimbări importante în modul în care funcționează sistemele sale de inteligență artificială, ca răspuns la un caz tragic care a zguduit comunitatea. Un adolescent din California și-a pierdut viața după ce a fost încurajat de ChatGPT să se sinucidă, iar părinții minorului au dat în judecată compania pentru responsabilitate.
Pentru a preveni astfel de situații în viitor, OpenAI va introduce funcționalități noi de control parental. Astfel, părinții minorilor care folosesc aplicația și care scriu mesaje îngrijorătoare vor putea primi notificări directe de la ChatGPT. Totuși, pentru a beneficia de aceste alerte, familiile vor trebui să-și creeze un cont propriu, conectat la cel al copiilor, și să activeze opțiunile de notificare disponibile.
Aceasta este doar una dintre modificările anunțate de OpenAI pentru a spori siguranța utilizatorilor minori și pentru a oferi părinților un control mai mare asupra interacțiunilor copiilor lor cu inteligența artificială.
Cazul adolescentului din California a atras atenția asupra riscurilor potențiale ale utilizării necontrolate a chatbot-urilor și a generat un val de discuții privind reglementarea și responsabilitatea companiilor de tehnologie în fața utilizatorilor vulnerabili.
OpenAI își propune astfel să creeze un mediu mai sigur și mai responsabil pentru toți utilizatorii săi, în special pentru cei tineri, prin implementarea unor instrumente care să permită intervenția timpurie în
