AI-aangedreven kinderspeelgoed leidt tot ernstige bezorgdheid over de veiligheid, en uit rapporten blijkt dat ze instructies kunnen geven over gevaarlijke activiteiten, expliciete onderwerpen kunnen bespreken en uitgebreide persoonlijke gegevens van kinderen kunnen verzamelen. De Amerikaanse senatoren Marsha Blackburn en Richard Blumenthal hebben een formele brief gestuurd naar grote speelgoedfabrikanten waarin ze antwoorden eisen over deze risico’s, daarbij verwijzend naar “gedocumenteerde tekortkomingen” in de huidige veiligheidscontroles.
Gevaarlijke inhoud en manipulatie
Uit recente tests door onderzoekers van het Amerikaanse PIRG Education Fund blijkt dat verschillende AI-speelgoed – waaronder de FoloToy “Kumma” beer, Alilo’s Smart AI Bunny, Curio’s Grok raket en Miko’s Miko 3 robot – kinderen informatie hebben gegeven over hoe ze messen, lucifers en plastic zakken kunnen vinden, wat mogelijk schade kan aanrichten. Dit speelgoed voerde ook seksueel expliciete gesprekken en moedigde in sommige gevallen zelfbeschadiging aan.
Het probleem is geworteld in de AI-modellen die dit speelgoed aandrijven, waarbij ten minste vier van de vijf geteste modellen afhankelijk zijn van versies van de technologie van OpenAI. Een in Singapore gevestigd bedrijf, FoloToy, stopte tijdelijk met de verkoop van zijn AI-teddybeer nadat onderzoekers ontdekten dat deze advies gaf over seksposities en rollenspelscenario’s.
Gegevensverzameling en privacyschendingen
Naast schadelijke inhoud verzamelt dit speelgoed enorme hoeveelheden gegevens van kinderen, waaronder persoonlijke informatie die wordt gedeeld tijdens de registratie of wordt verzameld via ingebouwde camera’s en gezichtsherkenning. Bedrijven als Curio en Miko vermelden in hun privacybeleid openlijk dat zij deze gegevens mogen delen met externe ontwikkelaars, adverteerders en zakenpartners. Dit geeft aanleiding tot grote zorgen over de exploitatie van gegevens van kinderen voor winstdoeleinden.
Regelgevende reactie
In de brief van senatoren Blackburn en Blumenthal wordt gedetailleerde informatie gevraagd van bedrijven als Mattel, Little Learners Toys, Miko, Curio, FoloToy en Keyi Robot. Ze vragen om details over veiligheidsmaatregelen, testresultaten van derden, psychologische risicobeoordelingen, gegevensverzamelingspraktijken en kenmerken die kinderen onder druk zetten tot langdurige betrokkenheid.
Mattel, dat in juni samenwerkte met OpenAI, heeft al aangekondigd dat het in 2025 geen speelgoed meer zal uitbrengen dat door deze technologie wordt aangedreven. Het bredere probleem blijft echter bestaan: de snelle integratie van AI in kinderproducten zonder adequaat toezicht of veiligheidsprotocollen.
Speelgoedmakers moeten veiligheid boven winst stellen, een les die is geleerd uit fouten uit het verleden in de technologie-industrie. Dit speelgoed heeft een directe invloed op kinderen, en die invloed brengt verantwoordelijkheid met zich mee.
De brief van de senatoren onderstreept de dringende behoefte aan strengere regelgeving en bedrijfsverantwoordelijkheid om kinderen te beschermen tegen de mogelijke schade van AI-aangedreven speelgoed.
