Apariții tulburătoare legate de AI: familiile cer răspunsuri rapide, companiile promite măsuri

De aproximativ un an, tot mai multe relatări tulburătoare au ieșit la iveală: oameni influențați de chatboturi AI au ajuns la automutilare, internări sau arestări. Familiile victimelor cer schimbări urgente pentru a preveni tragedii, în timp ce companiile din industrie par lente în a adopta măsuri de siguranță.

Experți avertizează că industria AI întârzine în implementarea protocoalelor clare de siguranță, iar autoritățile cer linii directoare stricte pentru a preveni abuzuri și tragedii. Deși promisiunile privind reducerea riscurilor au apărut, practicile actuale rămân insuficiente pentru utilizatorii vulnerabili.

“Când detectăm utilizatori care plănuiesc să facă rău altora, trimitem conversațiile lor către echipe specializate care pot lua măsuri, inclusiv blocarea conturilor. Dacă evaluarea umană confirmă o amenințare imediată de vătămare gravă, putem sesiza forțele de ordine”, a explicat compania. Conform asingorj.ro

În cazuri considerate îngrijorătoare, mesajele sunt transmise unui mic grup de angajați specializați. Atunci când există risc iminent de vătămare, discuțiile pot fi raportate autorităților competente, o măsură menită să prevină situații de urgență și să ofere intervenții rapide.