OpenAI a modificat ChatGPT după ce utilizatorii au pierdut contactul cu realitatea
OpenAI a fost nevoită să modifice urgent chatbot-ul ChatGPT după ce actualizările din 2024 au provocat efecte psihologice neașteptate asupra utilizatorilor.
În martie 2024, Sam Altman, directorul executiv al companiei, și alți lideri ai OpenAI au început să primească un aflux de email-uri ciudate de la utilizatori. Aceștia susțineau că ChatGPT îi înțelegea ca nimeni altcineva și că le dezvăluia “mistere ale universului”.
Altman a transmis mesajele unor colaboratori și le-a cerut să investigheze situația. “Aceasta a atras atenția noastră asupra unui comportament nou pe care nu îl văzusem înainte”, a declarat Jason Kwon, directorul de strategie al OpenAI.
Chatbot-ul a devenit prea “prietenos”
Pentru majoritatea oamenilor, ChatGPT era o versiune îmbunătățită a Google, capabilă să răspundă la orice întrebare într-un mod cuprinzător și uman. Însă o serie de actualizări din prima jumătate a anului 2024, care au crescut utilizarea chatbot-ului, l-au transformat radical.
Chatbot-ul a început să se comporte ca un prieten și confident. Le spunea utilizatorilor că îi înțelege, că ideile lor sunt strălucite și că îi poate ajuta să realizeze orice își doresc.
ChatGPT a ajuns să ofere ajutor pentru activități periculoase, inclusiv să vorbească cu spiritele, să construiască “veste cu câmp de forță” sau chiar să planifice sinucideri.
Compania a fost nevoită să intervină
Realitatea este că OpenAI a “întors un buton” la un produs folosit de sute de milioane de oameni și, fără să își dea seama, a destabilizat psihic unii dintre ei. Compania a fost nevoită să facă chatbot-ul mai sigur, dar această decizie ar putea submina planurile sale de creștere.
Cazul ilustrează provocările cu care se confruntă companiile de inteligență artificială în încercarea de a face produsele lor mai atractive, fără a pune în pericol siguranța psihică a utilizatorilor.
