Investigația procurorului din Texas
Procuroarea din Texas, Ken Paxton, a demarat o investigație împotriva Meta AI Studio și Character.AI pentru „practici comerciale înșelătoare și marketing înșelător în calitate de instrumente de sănătate mentală”, conform unui comunicat de presă emis luni.
Declarațiile oficiale
„În era digitală de astăzi, trebuie să continuăm să luptăm pentru a proteja copiii din Texas de tehnologia înșelătoare și exploatatoare”, a declarat Paxton. „Prin faptul că se prezintă ca surse de suport emoțional, platformele AI pot induce în eroare utilizatorii vulnerabili, în special copiii, făcându-i să creadă că primesc îngrijire legitimă pentru sănătatea mentală. În realitate, aceștia primesc adesea răspunsuri generice, reciclate, concepute pentru a se alinia cu datele personale colectate.”
Contextul investigației
Investigația a venit la scurt timp după ce senatorul Josh Hawley a anunțat o investigație asupra Meta, după un raport care a constatat că chatboții AI ai companiei interacționau inadecvat cu copiii, inclusiv prin flirt.
Biroul procurorului general din Texas a acuzat Meta și Character.AI că au creat persoane AI care se prezintă ca „instrumente terapeutice profesionale, în ciuda lipsei de acreditive medicale sau supraveghere”.
Utilizarea platformelor de către copii
Printre milioanele de persoane AI disponibile pe Character.AI, un bot creat de utilizator numit Psychologist a avut o cerere mare printre utilizatorii tineri ai startup-ului. Deși Meta nu oferă boturi de terapie pentru copii, nu există nimic care să împiedice copiii să folosească chatbotul Meta AI sau unul dintre personajele create de terți pentru scopuri terapeutice.
Un purtător de cuvânt al Meta, Ryan Daniels, a declarat: „Etichetăm clar AI-urile și, pentru a ajuta utilizatorii să înțeleagă mai bine limitările acestora, includem un avertisment că răspunsurile sunt generate de AI – nu de oameni. Aceste AI-uri nu sunt profesioniști licențiați, iar modelele noastre sunt concepute pentru a îndruma utilizatorii să caute profesioniști calificați în domeniul medical sau al siguranței, atunci când este cazul.”
Îngrijorări privind confidențialitatea și publicitatea
Paxton a observat că, deși chatboții AI afirmă confidențialitatea, „termenii de serviciu dezvăluie că interacțiunile utilizatorilor sunt înregistrate, urmărite și exploatate pentru publicitate țintită și dezvoltarea algoritmilor, ridicând serioase semne de întrebare cu privire la încălcarea intimității, abuzul de date și publicitatea falsă.”
Potrivit politicii de confidențialitate a Meta, compania colectează prompturi, feedback și alte interacțiuni cu chatboții AI pentru a „îmbunătăți AI-urile și tehnologia aferentă.” Deși politica nu menționează explicit publicitatea, afirmă că informațiile pot fi partajate cu terțe părți, cum ar fi motoarele de căutare, pentru „rezultate mai personalizate,” ceea ce se traduce efectiv în publicitate țintită.
Politicile de confidențialitate ale Character.AI
Politica de confidențialitate a Character.AI subliniază că startup-ul înregistrează identificatori, date demografice, informații despre locație și alte date despre utilizator, inclusiv comportamentul de navigare și utilizarea aplicațiilor. Aceasta urmărește utilizatorii pe reclame pe TikTok, YouTube, Reddit, Facebook, Instagram și Discord, pe care le poate lega de contul unui utilizator. Informațiile sunt folosite pentru a antrena AI-ul, a adapta serviciul la preferințele personale și a oferi publicitate țintită, inclusiv partajarea datelor cu agenții de publicitate și furnizorii de analize.
Probleme legate de utilizarea de către copii
Meta și Character.AI afirmă că serviciile lor nu sunt concepute pentru copii sub 13 ani. Totuși, Meta a fost criticată pentru că nu a reușit să monitorizeze conturile create de copii sub 13 ani, iar personajele prietenoase cu copiii de la Character sunt clar concepute pentru a atrage utilizatori mai tineri. CEO-ul startup-ului, Karandeep Anand, a menționat chiar că fiica sa de șase ani folosește chatbot-urile platformei.
Legislația KOSA și implicațiile acesteia
Colectarea de date, publicitatea țintită și exploatarea algoritmică sunt exact ceea ce legislația precum KOSA (Kids Online Safety Act) vizează să protejeze. KOSA a fost pregătită pentru a fi adoptată anul trecut cu un sprijin bipartisan puternic, dar a stagnat după o presiune majoră din partea lobby-ului din industria tehnologică. Meta, în special, a desfășurat o campanie de lobby puternică, avertizând legislatorii că mandatele largi ale proiectului de lege ar submina modelul său de afaceri.
KOSA a fost reintrodusă în Senat în mai 2025 de senatorii Marsha Blackburn (R-TN) și Richard Blumenthal (D-CT).
Concluzie
Paxton a emis cereri civile de investigare către companii pentru a determina dacă au încălcat legile de protecție a consumatorilor din Texas. Această investigație scoate în evidență provocările legate de utilizarea tehnologiilor AI în rândul copiilor și necesitatea unor reglementări mai stricte pentru a proteja utilizatorii vulnerabili.
