Meta îmbunătățește regulile chatbot-ului pentru a proteja utilizatorii tineri
Meta a anunțat că își va schimba modul de antrenare a chatbot-urilor AI pentru a prioritiza siguranța adolescenților, conform unei declarații a unui purtător de cuvânt pentru TechCrunch, în urma unui raport de investigație care a evidențiat lipsa de măsuri de protecție pentru minori.
Modificări în antrenarea chatbot-urilor
Compania va antrena chatbot-urile să nu mai discute cu utilizatorii adolescenți despre auto-vătămare, sinucidere, tulburări alimentare sau conversații romantice potențial inadecvate. Purtătorul de cuvânt, Stephanie Otway, a recunoscut că anterior, chatbot-urile companiei puteau discuta despre aceste subiecte în moduri pe care Meta le considera potrivite, dar acum recunoaște că aceasta a fost o greșeală.
„Pe măsură ce comunitatea noastră crește și tehnologia evoluează, învățăm continuu despre modul în care tinerii interacționează cu aceste instrumente și ne întărim protecțiile în consecință”, a declarat Otway. Compania va adăuga mai multe măsuri de precauție, inclusiv instruirea AI-urilor să nu interacționeze cu adolescenții pe aceste subiecte, ci să îi îndrume către resursele specializate, limitând totodată accesul adolescenților la un grup select de personaje AI pentru moment.
Limitarea accesului la personaje AI
În plus față de actualizările de antrenare, Meta va limita accesul adolescenților la anumite personaje AI care ar putea purta conversații inadecvate. Aceste personaje, disponibile pe Instagram și Facebook, includ chatbot-uri sexualizate. În loc de acestea, utilizatorii adolescenți vor avea acces doar la personaje AI care promovează educația și creativitatea.
Controverse și reacții
Anunțul politicilor noi vine la două săptămâni după ce o investigație Reuters a scos la iveală un document intern al Meta care părea să permită chatbot-urilor companiei să angajeze conversații sexuale cu utilizatori minori. Documentul a stârnit controverse semnificative cu privire la riscurile pentru siguranța copiilor. Senatorul Josh Hawley a lansat o anchetă oficială asupra politicilor AI ale companiei, iar o coaliție formată din 44 de procurori generali de stat a scris către grupuri de companii AI, inclusiv Meta, subliniind importanța siguranței copiilor.
Otway nu a comentat despre câți utilizatori minori are Meta, nici nu a precizat dacă compania se așteaptă ca baza de utilizatori AI să scadă în urma acestor decizii.
Concluzie
Schimbările anunțate de Meta reflectă o reacție importantă la controversele recente și subliniază angajamentul companiei de a proteja adolescenții în interacțiunile cu AI.
