Proiect de lege pentru reglementarea chatboților de companie în California
Adunarea de Stat din California a avansat semnificativ în reglementarea inteligenței artificiale, aprobând miercuri seara SB 243, un proiect de lege destinat reglementării chatboților de companie AI, cu scopul de a proteja minorii și utilizatorii vulnerabili. Proiectul a fost aprobat cu sprijin bipartizan și urmează să fie supus unui vot final în Senatul de Stat vineri.
Detalii despre lege
Dacă guvernatorul Gavin Newsom va semna legea, aceasta va intra în vigoare pe 1 ianuarie 2026, făcând din California primul stat care va impune operatorilor de chatboți AI să implementeze protocoale de siguranță și să fie responsabili din punct de vedere legal dacă chatboții lor nu respectă aceste standarde.
Legea vizează în special prevenirea interacțiunilor chatboților cu utilizatorii în discuții despre idei suicidale, auto-vătămare sau conținut sexual explicit. Proiectul de lege va solicita platformelor să ofere informații recurente utilizatorilor – la fiecare trei ore pentru minori – reamintindu-le că interacționează cu un chatbot AI, nu cu o persoană reală, și că ar trebui să ia o pauză.
Responsabilități și drepturi legale
De asemenea, SB 243 va permite persoanelor care cred că au fost prejudiciate de încălcări să depună plângeri împotriva companiilor de AI, cerând măsuri corective, daune (de până la 1.000 de dolari pe încălcare) și onorarii de avocat.
Contextul legislativ
Proiectul de lege a câștigat avânt în legislativul din California după moartea adolescentului Adam Raine, care s-a sinucis după conversații prelungite cu ChatGPT de la OpenAI, în care a discutat despre moartea și auto-vătămarea sa. De asemenea, legislația a fost influențată de documente interne scurse, care au arătat că chatboții de la Meta erau autorizați să se angajeze în conversații „romantice” și „sensuale” cu copii.
În ultimele săptămâni, legislația și reglementările din SUA au intensificat examinarea măsurilor de siguranță ale platformelor AI pentru a proteja minorii. Comisia Federală pentru Comerț se pregătește să investigheze impactul chatboților AI asupra sănătății mintale a copiilor, iar Procurorul General al Texasului, Ken Paxton, a inițiat investigații împotriva Meta și Character.AI, acuzându-le că induc în eroare copiii cu afirmații legate de sănătatea mintală.
Modificări și amendamente
SB 243 a suferit modificări semnificative, unele cerințe fiind reduse prin amendamente. De exemplu, legea inițială ar fi impus operatorilor să prevină utilizarea tacticilor de „recompensă variabilă” care încurajează angajamentul excesiv. De asemenea, a fost eliminată o prevedere care ar fi cerut operatorilor să urmărească și să raporteze cât de des chatboții inițiază discuții despre idei sau acțiuni suicidale cu utilizatorii.
Implicarea industriei tehnologice
SB 243 se află în curs de a deveni lege în contextul în care companiile din Silicon Valley investesc milioane de dolari în comitete de acțiune politică în favoarea unei reglementări mai puțin stricte a AI. În paralel, California evaluează un alt proiect de lege privind siguranța AI, SB 53, care ar impune cerințe cuprinzătoare de raportare a transparenței. OpenAI a trimis o scrisoare deschisă guvernatorului Newsom, cerând abandonarea acestui proiect de lege în favoarea unor cadre federale și internaționale mai puțin stricte.
Concluzie
Adoptarea SB 243 ar putea marca un pas semnificativ în reglementarea interacțiunilor dintre utilizatori și chatboții AI, având potențialul de a proteja utilizatorii vulnerabili și de a responsabiliza companiile tehnologice în fața problemelor legate de sănătatea mintală a minorilor.
