Roboții transformă rețelele sociale într-un univers „fals”
Sam Altman, entuziast al tehnologiei și acționar la Reddit, a realizat recent că roboții au făcut imposibilă distincția dintre postările de pe rețelele sociale scrise de oameni și cele generate de mașini. Această revelație a venit în timpul lecturării și distribuirii unor postări de pe subreddit-ul r/Claudecode, care lăudau OpenAI Codex, un serviciu de programare lansat de OpenAI în mai.
Întrebări privind autenticitatea postărilor
Altman a observat că subreddit-ul respectiv este plin de postări de la utilizatori care se declară fani ai Codex, ceea ce l-a determinat să se întrebe câte dintre aceste postări sunt scrise de oameni reali. El a comentat: „Am avut cea mai ciudată experiență citind asta: presupun că totul e fals/bots, chiar dacă în acest caz știu că creșterea Codex este într-adevăr puternică și tendința este reală”.
Factori care contribuie la percepția falsității
Altman a analizat motivele care stau la baza acestei impresii, incluzând influența limbajului specific modelului lingvistic (LLM), comportamentul extrem al utilizatorilor activi pe rețelele sociale și presiunea de optimizare a platformelor pentru a crește implicarea. El a subliniat că, din cauza acestor factori, utilizatorii reali încep să folosească un limbaj similar cu cel al LLM-urilor, care au fost concepute pentru a imita comunicarea umană.
Problemele de pe rețelele sociale
Sam Altman a criticat și sistemul de recompense al platformelor de socializare, care se bazează pe angajament pentru a genera venituri. De asemenea, el a sugerat că unele dintre postările pro-OpenAI ar putea fi rezultatul astroturfing-ului, o practică prin care concurenții plătesc oameni sau roboți pentru a crea impresia unei susțineri populare.
Impactul LLM-urilor asupra rețelelor sociale
În 2024, compania de securitate informatică Imperva a raportat că peste jumătate din traficul de pe internet a fost non-uman, majoritatea provenind din LLM-uri. Altman a subliniat că rețelele sociale alimentate de AI par acum mai false decât în urmă cu un an sau doi. Această realitate ridică întrebări despre autenticitatea interacțiunilor online și despre efectul pe care LLM-urile îl au nu doar asupra rețelelor sociale, ci și asupra educației, jurnalismului și sistemului judiciar.
Concluzie
Pe măsură ce tehnologia avansează, dilemele legate de autenticitatea conținutului generat de roboți devin din ce în ce mai complexe, sugerând că viitorul interacțiunilor online ar putea fi marcat de ambiguitate și confuzie.
