Jucăriile cu inteligență artificială pentru copii ridică întrebări de siguranță
Ursuleții de pluș au fost întotdeauna populari în colecțiile de jucării ale copiilor. Astăzi însă, aceștia nu mai “vorbesc” doar în imaginația copilului - unii comunică prin chatbots AI integrate.
Uneori însă acest lucru devine o problemă. Un ursuleț care purta un fular a ieșit complet de sub control în timpul unui test cu cercetătorii și a declanșat alarme privind capacitățile acestor jucării.
Chatbots-urile online pot prezenta riscuri chiar și pentru adulți, de la declanșarea unor deluzii în cazuri rare până la “halucinarea” unor informații inventate. GPT-4o de la OpenAI a fost modelul preferat pentru unele jucării AI, iar utilizarea unui model de limbaj mare (LLM) în jucăriile pentru copii a ridicat întrebări de siguranță.
Piața în plină expansiune
Aceste riscuri persistă în timp ce piața jucăriilor AI înflorește în străinătate, cu 1.500 de companii care operează în China, conform unui raport MIT Technology Review. Aceste companii vând acum jucării AI în SUA, în timp ce producătorul Barbie, Mattel, a anunțat în iunie un parteneriat cu OpenAI.
Cum funcționează jucăriile AI moderne
Jucăriile AI nu mai sunt ca Teddy Ruxpin din anii ’80, care povestea de pe casete. Acestea se conectează la WiFi și, folosind un microfon pentru a înțelege cererile copiilor, utilizează LLM-uri pentru a genera răspunsuri - adesea verbal prin difuzoare integrate.
Aceasta permite jucăriilor precum Curio’s Grok, Miko robots, Poe the AI story bear și KEYi Technology’s Loona robot să ofere răspunsuri în timp real copiilor.
Incident alarmant cu ursulețul Kumma
Ursulețul “Kumma” de la FoloToy, cu prețul de 99 USD și alimentat de GPT-4o, a spus cercetătorilor unde să găsească obiecte potențial periculoase și s-a angajat în conversații sexual explicite, conform unui raport din noiembrie al grupului de advocacy US Public Interest Research Group (PIRG).
OpenAI a suspendat FoloToy pentru încălcarea politicilor sale, care “interzic orice utilizare a serviciilor noastre pentru a exploata, pune în pericol sau sexualiza pe cineva sub 18 ani”.
Larry Wang, directorul executiv FoloToy, a declarat că compania a retras ursulețul de pe site și efectuează un audit intern de siguranță. Vinerea trecută însă, FoloToy a anunțat pe X că a reintroduis produsul “după o revizuire riguroasă și întărirea modulelor de siguranță”.
Riscuri și protecții
Spre deosebire de majoritatea jucăriilor AI, ursulețul Kumma folosește un LLM complet pentru a răspunde liber, făcându-l vulnerabil la conținut controversat, explică Subodha Kumar, profesor la Temple University.
Chiar și Curio’s Grok poate sugera “unde să găsești o varietate de obiecte casnice periculoase” atunci când este solicitat agresiv, conform PIRG.
Chris Byrne, consultant în industria jucăriilor, consideră că jucăriile AI care comunică mesaje nepotrivite reprezintă un scenariu “apocaliptic”, dar care nu se va întâmpla neapărat cu fiecare jucărie.
Măsuri de protecție
Unele jucării AI pot redirecționa conversațiile când sunt întrebate lucruri potențial nepotrivite. Altele, inclusiv Grok de la Curio, au caracteristici de siguranță bazate pe grupa de vârstă a copilului.
Jucării precum Miko 3 pot avea aplicații companion care includ diverse grade de monitorizare, de la blocarea temporară a jucăriei până la transcrieri în timp real ale conversațiilor copiilor.
“Este o idee frumoasă că părinții ar putea să-și pună propriile măsuri de protecție și să controleze cu adevărat despre ce ar vorbi jucăria și cum s-ar comporta”, spune R.J. Cross de la PIRG.
Preocupări privind confidențialitatea
Jucăriile AI ar putea stoca date personale, inclusiv numele, fețele, vocile și locațiile copiilor, avertizează Azhelle Wade, fondatoarea firmei de consultanță Toy Coach.
“Jucăriile AI mi se par ca un lup îmbrăcat în piele de oaie, pentru că atunci când le folosești este greu să spui câtă intimitate nu ai”, a declarat aceasta.
Cu toate acestea, jucăriile AI pot fi folosite pentru învățarea limbilor străine și dezvoltarea socială. Curio’s Grok poate răspunde întrebări despre frunze și trenuri sau poate prelua persona lui Gollum din “Stăpânul Inelelor”.
Miko 3 are o cameră integrată pentru recunoașterea facială și oferă programe educaționale și de divertisment.
