Investigația Texasului asupra Meta și Character.AI
Procuroarea generală a Texasului, Ken Paxton, a lansat o investigație împotriva Meta AI Studio și Character.AI pentru „practici comerciale înșelătoare” și pentru că se promovează în mod înșelător ca instrumente de sănătate mintală. Anunțul a fost făcut printr-un comunicat de presă emis luni.
Protejarea copiilor din Texas
Paxton a subliniat importanța protejării copiilor din Texas de tehnologia înșelătoare și exploatatoare. El a declarat că platformele AI, prin asumarea rolului de surse de suport emoțional, pot induce în eroare utilizatorii vulnerabili, în special copiii, făcându-i să creadă că primesc îngrijire legitimă pentru sănătatea mintală. În realitate, aceștia primesc adesea răspunsuri generice, concepute pentru a se alinia cu datele personale colectate.
Contextul investigației
Investigația a fost inițiată la câteva zile după ce senatorul Josh Hawley a anunțat o investigație asupra Meta, în urma unui raport care a relevat interacțiuni inadecvate ale chatbot-urilor AI cu copii, inclusiv flirturi. Biroul procurorului general din Texas a acuzat Meta și Character.AI că au creat personaje AI care se prezintă ca „instrumente terapeutice profesionale”, deși nu au acreditive medicale adecvate.
Utilizarea de către copii
Printre milioanele de personaje AI disponibile pe Character.AI, un bot creat de utilizatori, numit „Psychologist”, a avut o cerere mare în rândul utilizatorilor tineri. Deși Meta nu oferă bot-uri de terapie pentru copii, nu există restricții care să împiedice copiii să utilizeze chatbot-ul Meta sau personajele create de terți pentru scopuri terapeutice.
Declarațiile Meta
Un purtător de cuvânt al Meta a declarat că AI-urile sunt clar etichetate, iar pentru a ajuta utilizatorii să înțeleagă limitele acestora, se include un disclaimer care specifică că răspunsurile sunt generate de AI, nu de oameni. De asemenea, Meta afirmă că modelele sunt concepute să direcționeze utilizatorii către profesioniști medicali calificați atunci când este necesar.
Îngrijorări legate de confidențialitate
Paxton a menționat că, deși chatbot-urile AI afirmă confidențialitatea, termenii de serviciu arată că interacțiunile utilizatorilor sunt înregistrate și utilizate pentru publicitate țintită, ceea ce ridică probleme serioase legate de încălcarea confidențialității și abuzul de date. Potrivit politicii de confidențialitate a Meta, compania colectează interacțiuni pentru a „îmbunătăți AI-urile și tehnologiile asociate”, iar informațiile pot fi partajate cu terțe părți pentru a oferi rezultate personalizate.
Politicile de confidențialitate ale Character.AI
Politica de confidențialitate a Character.AI subliniază, de asemenea, că startup-ul înregistrează identificatori, date demografice, informații despre locație și comportamentul utilizatorilor, fiind urmărit prin reclame pe diverse platforme. Aceste date sunt folosite pentru a antrena AI-ul, a adapta serviciile la preferințele personale și a furniza publicitate țintită.
Interacțiunea cu copiii
Atât Meta, cât și Character.AI afirmă că serviciile lor nu sunt concepute pentru copiii sub 13 ani. Cu toate acestea, Meta a fost criticată pentru că nu reușește să controleze conturile create de copii sub această vârstă, iar personajele prietenoase pentru copii ale Character.AI sunt clar destinate atragerii utilizatorilor mai tineri.
Legislația KOSA
Colectarea acestor date, publicitatea țintită și exploatarea algoritmică sunt exact ceea ce legislația KOSA (Kids Online Safety Act) își propune să protejeze. Aceasta a fost reintrodusă în Senat în mai 2025 de senatorii Marsha Blackburn și Richard Blumenthal.
Concluzie
Investigația procuraturii din Texas asupra Meta și Character.AI subliniază preocupările crescânde legate de utilizarea tehnologiei AI în rândul copiilor și necesitatea unor reglementări mai stricte pentru a proteja tinerii de riscurile asociate cu interacțiunile online.
