Reglementarea chatbot-urilor de companie în California
California a făcut un pas important în direcția reglementării inteligenței artificiale. Proiectul de lege SB 243, destinat reglementării chatbot-urilor de companie pentru a proteja minorii și utilizatorii vulnerabili, a fost aprobat de ambele camere ale legislativului de stat și se îndreaptă acum spre biroul guvernatorului Gavin Newsom. Newsom are termen până pe 12 octombrie pentru a semna legea sau a o respinge. Dacă va semna, aceasta va intra în vigoare pe 1 ianuarie 2026, făcând din California primul stat care va obliga operatorii de chatbot-uri AI să implementeze protocoale de siguranță pentru companionii AI și să răspundă legal în cazul în care chatbot-urile nu respectă aceste standarde.
Obiectivele proiectului de lege
Legea vizează prevenirea interacțiunilor cu chatbot-uri de companie în care utilizatorii, în special minorii, se angajează în discuții legate de idei suicidare, auto-vătămare sau conținut sexual explicit. Proiectul de lege prevede ca platformele să ofere alerte periodice utilizatorilor – la fiecare trei ore pentru minori – reamintindu-le că interacționează cu un chatbot AI, nu cu o persoană reală, și că ar trebui să își facă o pauză. De asemenea, se stabilesc cerințe de raportare anuală și transparență pentru companiile AI care oferă chatbot-uri de companie, inclusiv pentru marii jucători precum OpenAI, Character.AI și Replika, care vor intra în vigoare pe 1 iulie 2027.
Responsabilitatea legală și acțiunile legale
Proiectul de lege permite indivizilor care consideră că au fost prejudiciați de încălcări să depună plângeri împotriva companiilor AI, căutând măsuri de protecție, despăgubiri (de până la 1.000 de dolari pe încălcare) și cheltuieli de judecată.
Contextul legislativ
Legea a câștigat avânt în legislativul californian după moartea adolescentului Adam Raine, care s-a sinucis după discuții prelungite cu ChatGPT de la OpenAI, în care au fost discutate și planificate idei de sinucidere. De asemenea, legislația răspunde unor documente interne scurse care arată că chatbot-urile de la Meta au fost autorizate să se angajeze în discuții „romantice” și „sensuale” cu copii.
Reacții și investigații
Recent, legislatorii și reglementatorii din SUA au intensificat supravegherea măsurilor de siguranță ale platformelor AI pentru a proteja minorii. Comisia Federală pentru Comerț se pregătește să investigheze modul în care chatbot-urile AI afectează sănătatea mintală a copiilor. Procurorul general din Texas, Ken Paxton, a lansat investigații asupra Meta și Character.AI, acuzându-le că induc în eroare copiii cu afirmații legate de sănătatea mintală.
Modificările aduse proiectului de lege
SB 243 a avut anterior cerințe mai stricte, dar multe au fost reduse prin amendamente. De exemplu, legea ar fi impus operatorilor să împiedice chatbot-urile AI să utilizeze tactici de „recompensă variabilă” care încurajează angajamentul excesiv. De asemenea, a fost eliminată prevederea care ar fi obligat operatorii să urmărească și să raporteze cât de des chatbot-urile inițiază discuții despre idei suicidare sau acțiuni cu utilizatorii.
Perspectivele viitoare
SB 243 avansează spre adoptare într-un moment în care companiile din Silicon Valley investesc milioane de dolari în comitete politice pro-AI pentru a susține candidații care favorizează o abordare mai puțin strictă a reglementării AI. De asemenea, California evaluează un alt proiect de lege privind siguranța AI, SB 53, care ar impune cerințe cuprinzătoare de raportare a transparenței. OpenAI a adresat o scrisoare deschisă guvernatorului Newsom, cerându-i să abandoneze acest proiect de lege în favoarea unor cadre mai puțin stricte la nivel federal și internațional. Majoritatea companiilor tehnologice, precum Meta, Google și Amazon, s-au opus SB 53, în timp ce doar Anthropic a declarat că sprijină acest proiect de lege.
Concluzie
Adoptarea SB 243 ar putea marca un moment semnificativ în reglementarea inteligenței artificiale, stabilind un precedent pentru responsabilizarea companiilor care dezvoltă chatbot-uri și protejarea utilizatorilor vulnerabili, în special minori.
