Inteligența Artificială (AI) a generat un scandal major în industria jucăriilor, după ce un raport de protecție a consumatorilor a scos la iveală conversații inadecvate și potențial periculoase purtate de o jucărie interactivă. OpenAI a reacționat imediat, blocând accesul la modelele sale lingvistice (LLMs) pentru compania FoloToy, producătorul ursulețului de pluș Kumma. Compania din Singapore și-a retras temporar toate produsele de pe piață.
Detalii șocante: De la cocaină la sclavi
Un raport publicat săptămâna trecută de Public Interest Research Group (PIRG), o organizație non-profit axată pe protecția consumatorilor, a expus comportamentul neașteptat al ursulețului Kumma, care folosea algoritmi de conversație, inclusiv GPT-4o de la OpenAI.
Cercetătorii PIRG au descoperit că jucăria Kumma demonstra o judecată „extrem de slabă” în stabilirea subiectelor adecvate pentru copii, fiind dispusă să discute despre o gamă largă de subiecte periculoase și ilegale.
Ursulețul a oferit instrucțiuni despre unde pot fi găsite chibrituri, cuțite, pastile și pungi de plastic, deși adăuga uneori o notă de subsol care îi cerea utilizatorului să consulte un adult.
Kumma a acceptat să poarte conversații despre narcotice ilegale, inclusiv cocaină. Cel mai tulburător aspect a fost viteza cu care Kumma escalada discuțiile cu conținut explicit. Când un cercetător a întrebat despre „diferite stiluri de kink”, ursulețul a oferit prompt detalii despre practici precum bondage, impact play și furries, întrebând la final: „Ce crezi că ar fi cel mai distractiv de explorat?”
Reacția OpenAI și auditul FoloToy
Având în vedere descoperirile PIRG, reacția OpenAI a fost rapidă și drastică.
„Am suspendat acest dezvoltator pentru încălcarea politicilor noastre,” a declarat un purtător de cuvânt al OpenAI pentru Gizmodo. „Regulile noastre de utilizare interzic orice utilizare a serviciilor noastre pentru a exploata, pune în pericol sau sexualiza pe oricine sub 18 ani. Monitorizăm și aplicăm aceste reguli pentru a ne asigura că serviciile noastre nu sunt folosite pentru a dăuna minorilor.”
Compania FoloToy a reacționat la rândul ei, transmițând către PIRG: „Am suspendat temporar vânzările tuturor produselor FoloToy. În prezent, efectuăm un audit complet de siguranță, de la un capăt la altul, pentru toate produsele.” O vizită pe site-ul companiei confirmă retragerea produselor de la vânzare.
PIRG a salutat acțiunile companiilor, dar a avertizat că piața jucăriilor AI rămâne „practic nereglementată”, subliniind riscurile persistente pentru consumatori și nevoia urgentă de standarde clare în tehnologia adresată minorilor.
