Bron: Gelderlander.nl
USA – De populaire AI-knuffelbeer Kumma is per direct uit de verkoop gehaald. Onderzoekers ontdekten dat het speelgoed gesprekken voerde over seksueel expliciete onderwerpen en zelfs gevaarlijk advies gaf. Fabrikant FoloToy trekt het boetekleed aan en heeft het volledige assortiment AI-speeltjes offline gehaald.
De pratende teddybeer Kumma was bedoeld als een ‘warme, nieuwsgierige en leerzame vriend’ die verhalen vertelde en vragen beantwoordde. De knuffelbeer werd voor 99 dollar verkocht en stond op de website omschreven als een vriendelijke metgezel voor kinderen en volwassenen.
Maar volgens een rapport van het Amerikaanse Pirg Education Fund bleek de beer opvallend snel gesprekken op te pikken over expliciete onderwerpen. Onderzoekers hoefden maar één hint te geven en de knuffel ging vrolijk verder over thema’s die totaal niet geschikt zijn voor kinderen.
Zo ging het speelgoed in op expliciete seksuele thema’s, legde het verschillende seksstandjes uit en gaf het zelfs instructies over bondage. Ook kon de beer aanwijzingen geven over het gebruik van lucifers en waar messen in huis te vinden waren.
De beer draaide intern op de GPT-4o-technologie van OpenAI. Dat bedrijf heeft de ontwikkelaar inmiddels geschorst wegens overtreding van de gebruiksregels.
Fabrikant FoloToy, gevestigd in Singapore, bevestigt tegenover CNN dat het bedrijf Kumma en de rest van zijn AI-speeltjes uit de verkoop heeft gehaald. Dat het speelgoed zulke expliciete en potentieel gevaarlijke antwoorden kon geven, was volgens de fabrikant niet de bedoeling.
Ceo Larry Wang meldt dat er een intern onderzoek loopt om te zorgen dat dit soort problemen in de toekomst worden voorkomen.
Wanneer Kumma eventueel weer op de markt verschijnt, is nog niet bekend.
