OpenAI își restructurează echipa de cercetare
OpenAI reorganizează echipa Model Behavior, un grup restrâns, dar influent de cercetători care influențează modul în care modelele de inteligență artificială ale companiei interacționează cu utilizatorii. Într-un memorandum din luna august, Mark Chen, Chief Research Officer al OpenAI, a anunțat că echipa Model Behavior, formată din aproximativ 14 cercetători, se va alătura echipei Post Training, un grup de cercetare mai mare responsabil pentru îmbunătățirea modelelor AI după pre-antrenament.
Schimbări în conducerea echipei
În urma acestor schimbări, echipa Model Behavior va raporta acum lui Max Schwarzer, liderul echipei Post Training. Un purtător de cuvânt al OpenAI a confirmat aceste modificări. Joanne Jang, liderul fondator al echipei Model Behavior, va începe un nou proiect în cadrul companiei, numit OAI Labs, care va avea ca scop „inventarea și prototiparea de noi interfețe pentru modul în care oamenii colaborează cu AI”.
Responsabilitățile echipei Model Behavior
Echipa Model Behavior a devenit una dintre grupurile de cercetare cheie ale OpenAI, având responsabilitatea de a forma personalitatea modelelor AI ale companiei și de a reduce fenomenul de „sycophancy”, care apare atunci când modelele AI sunt de acord cu credințele utilizatorilor, chiar și cele nesănătoase, în loc să ofere răspunsuri echilibrate. Echipa a lucrat, de asemenea, la gestionarea prejudecăților politice în răspunsurile modelului și a ajutat OpenAI să-și definească poziția cu privire la conștiința AI.
Contextul actual și provocările întâmpinate
OpenAI se confruntă cu o atenție sporită în ultimele luni cu privire la comportamentul modelelor sale AI. Utilizatorii au obiectat vehement la modificările de personalitate aduse lui GPT-5, care, conform companiei, a prezentat rate mai scăzute de sycophancy, dar părea mai rece pentru unii utilizatori. Aceasta a determinat OpenAI să restaureze accesul la unele modele anterioare, precum GPT-4o, și să lanseze o actualizare pentru a face răspunsurile noului GPT-5 să pară „mai calde și prietenoase” fără a crește sycophancy.
Implicarea echipei Model Behavior în problemele recente
OpenAI, și toți dezvoltatorii de modele AI, trebuie să mențină un echilibru delicat pentru a face chatboții lor prietenoși, dar nu sycophanți. În august, părinții unui adolescent de 16 ani au dat în judecată OpenAI, susținând că ChatGPT a jucat un rol în sinuciderea fiului lor, Adam Raine, care a împărtășit gânduri și planuri suicidare cu ChatGPT (într-o versiune alimentată de GPT-4o). Procesul susține că GPT-4o nu a reacționat adecvat la ideile sale suicidare. Este important de menționat că echipa Model Behavior nu exista în momentul dezvoltării GPT-4o.
Noul proiect OAI Labs
Jang a anunțat pe platforma X că părăsește echipa pentru a „începe ceva nou la OpenAI”. Aceasta a fost cu OpenAI timp de aproape patru ani și a lucrat anterior la proiecte precum Dall-E 2, instrumentul de generare a imaginilor al OpenAI. Jang va ocupa funcția de General Manager al OAI Labs, care va raporta în prezent lui Chen. Deși este devreme și nu este clar ce vor implica aceste interfețe inovatoare, Jang a menționat că este entuziasmată să exploreze noi modalități de colaborare cu AI.
Concluzie
Restructurarea echipei de cercetare a OpenAI subliniază importanța personalității modelelor AI în evoluția tehnologiei, în contextul provocărilor cu care se confruntă compania și al nevoii de a răspunde adecvat la preocupările utilizatorilor.
