Distorsiuni și inexactități în răspunsurile asistenților AI
Asistenții de inteligență artificială generează distorsiuni, inexactități factuale și conținut înșelător atunci când răspund la întrebări legate de știri și actualități, conform unei cercetări recente. Aceasta a evidențiat că mai mult de jumătate dintre răspunsurile oferite de platforme precum ChatGPT, Copilot, Gemini și Perplexity au fost considerate a prezenta „probleme semnificative”. Studiul a fost realizat de BBC, care a evaluat răspunsurile generate de aceste instrumente AI.
Exemple de erori factuale
Cercetarea a scos la iveală multiple erori, inclusiv afirmații că Rishi Sunak era încă prim-ministru al Marii Britanii și că Nicola Sturgeon era în continuare primul ministru al Scoției. De asemenea, recomandările NHS cu privire la vaping au fost denaturate. Asistenții AI au avut dificultăți în a distinge între opinii și fapte, adesea bazându-se pe surse de arhivă neactualizate.
Cercetătorii au solicitat celor patru instrumente AI să răspundă la 100 de întrebări, utilizând articolele BBC ca sursă. Răspunsurile au fost evaluate de jurnaliști specializați, care au identificat erori semnificative.
Procentul de erori și citate incorecte
Aproximativ 20% dintre răspunsuri conțineau erori factuale legate de numere, date sau afirmații. De asemenea, 13% dintre citatele atribuite BBC au fost fie modificate, fie inexistente în articolele originale. De exemplu, în cazul lui Lucy Letby, condamnată pentru crime, Gemini a afirmat că „depinde de fiecare persoană” să decidă dacă este nevinovată sau vinovată, omisiune care ignoră condamnările legale.
Erori specifice ale asistenților AI
Printre denaturările semnalate în raport, Copilot de la Microsoft a înfățișat greșit circumstanțele în care victima Gisèle Pelicot a aflat despre crimele împotriva sa. ChatGPT a susținut în mod eronat că Ismail Haniyeh era în continuare parte a conducerii Hamas, chiar și după asasinarea sa. De asemenea, Gemini a oferit informații false despre recomandările NHS privind vapingul, iar Perplexity a greșit în legătură cu data morții unui cunoscut prezentator TV.
Avertismente din partea experților
Deborah Turness, director executiv al BBC pentru știri, a avertizat că „instrumentele AI se joacă cu focul” și că acestea riscă să submineze „încrederea fragilă a publicului în fapte”. Într-o postare pe blog, Turness a pus întrebarea dacă inteligența artificială este capabilă să furnizeze știri fără a distorsiona faptele, solicitând colaborarea companiilor de AI cu BBC pentru a crea răspunsuri mai precise.
Cercetarea a fost publicată pe fondul unor probleme recente întâmpinate de Apple, care a fost nevoită să suspendă trimiterea alertelor de știri de la BBC, după ce utilizatorii de iPhone au primit rezumate inexacte ale articolelor.
Informații eronate despre cazul lui Luigi Mangione
Recent, utilizatorii au fost informați incorect că Luigi Mangione, acuzat de uciderea lui Brian Thompson, directorul executiv al diviziei de asigurări a UnitedHealthcare, s-ar fi împușcat. Această situație evidențiază problemele legate de inexactitățile ce pot apărea în contextul instrumentelor de inteligență artificială, care au câștigat popularitate în ultima vreme.
Implicarea cercetării în problematica erorilor de conținut
Într-o introducere la o cercetare recentă, Peter Archer, directorul programului BBC pentru inteligența artificială generativă, a subliniat că analiza actuală abia atinge suprafața problemei. Dimensiunea și amploarea erorilor, precum și distorsionarea conținutului de încredere rămân în mare parte necunoscute.
Responsabilitățile editorilor și ale companiilor de AI
Archer a menționat că editorii, inclusiv BBC, ar trebui să dețină control asupra modului în care este utilizat conținutul lor. De asemenea, companiile de inteligență artificială trebuie să explice cum procesează informațiile din știri, clarificând amploarea și natura erorilor pe care le generează.
Colaborarea între AI și mass-media
Este necesară o colaborare strânsă între tehnologia AI și organizațiile media, precum și dezvoltarea unor noi metode de lucru care să prioritizeze publicul și să maximizeze beneficiile pentru toți. BBC își manifestă deschiderea de a colabora cu partenerii pentru a aborda aceste provocări.
