Avertisment din partea procurorilor
Procurorii din California, Rob Bonta, și Delaware, Kathy Jennings, au trimis o scrisoare deschisă către OpenAI pentru a-și exprima îngrijorările cu privire la siguranța ChatGPT, în special pentru copii și adolescenți.
Contextul îngrijorărilor
Avertismentul vine la o săptămână după ce Bonta și 44 de alți procurori generali au trimis o scrisoare către 12 dintre cele mai mari companii de inteligență artificială, în urma rapoartelor despre interacțiuni sexuale inadecvate între chatboții AI și copii.
Cazuri tragice
„De la emiterea acelei scrisori, am aflat despre moartea tragică prin sinucidere a unui tânăr californian după ce a avut interacțiuni prelungite cu un chatbot OpenAI, precum și un caz similar de crimă-suicid în Connecticut,” scriu Bonta și Jennings. „Orice măsuri de siguranță erau în vigoare nu au funcționat.”
Investigații asupra OpenAI
Cei doi oficiali de stat investighează în prezent restructurarea propusă de OpenAI într-o entitate cu scop lucrativ, pentru a se asigura că misiunea organizației nonprofit rămâne intactă. Aceasta include „asigurarea că inteligența artificială este implementată în siguranță” și construirea inteligenței artificiale generale (AGI) pentru a beneficia întreaga umanitate, „inclusiv copiii,” conform scrisorii.
Măsuri de siguranță necesare
„Înainte de a ajunge la beneficii, trebuie să ne asigurăm că măsurile de siguranță adecvate sunt în vigoare pentru a nu provoca daune,” continuă scrisoarea. „Este opinia noastră comună că OpenAI și industria în ansamblu nu sunt unde ar trebui să fie în asigurarea siguranței în dezvoltarea și implementarea produselor AI.”
Așteptările procurorilor
Bonta și Jennings au solicitat mai multe informații despre măsurile de siguranță și guvernanță actuale ale OpenAI și au afirmat că se așteaptă ca compania să ia măsuri remediale imediate, acolo unde este cazul.
Concluzie
Avertismentele procurorilor subliniază necesitatea urgentă de a îmbunătăți măsurile de siguranță în utilizarea tehnologiilor de inteligență artificială, pentru a proteja copiii de interacțiuni potențial dăunătoare.
