AI αρκουδάκι: Το λούτρινο που σόκαρε γονείς επιστρέφει

Ένα λούτρινο αρκουδάκι με ενσωματωμένη τεχνητή νοημοσύνη, που είχε προκαλέσει σάλο όταν αποκαλύφθηκε ότι παρήγαγε ακατάλληλες και επικίνδυνες συνομιλίες, επιστρέφει πλέον στην αγορά με ανανεωμένες –όπως υποστηρίζει ο κατασκευαστής– δικλίδες ασφαλείας. Το Teddy Kumma της εταιρείας FoloToy από τη Σιγκαπούρη είχε παρουσιαστεί ως ένας «διαδραστικός σύντροφος» για παιδιά και ενήλικες, αξιοποιώντας τεχνολογία GPT και εργαλεία της ByteDance. Η ειδυλλιακή εικόνα κατέρρευσε γρήγορα. Έρευνα του αμερικανικού US PIRG Education Fund αποκάλυψε ότι το παιχνίδι μπορούσε να μεταφέρει συζητήσεις σε σεξουαλικά θέματα χωρίς καμία προτροπή, να περιγράφει πράξεις ακατάλληλες για ανηλίκους και να δίνει συμβουλές που θα μπορούσαν να θέσουν παιδιά σε κίνδυνο, όπως οδηγίες για εντοπισμό αιχμηρών ή εύφλεκτων αντικειμένων στο σπίτι. Μετά τη δημοσιοποίηση των ευρημάτων, η OpenAI απενεργοποίησε τον λογαριασμό του κατασκευαστή για παραβίαση όρων χρήσης, ενώ το προϊόν αποσύρθηκε προσωρινά από το ηλεκτρονικό κατάστημα της FoloToy.Μιλώντας στο Bloomberg, ο ιδρυτής της εταιρείας Larry Wang απέδωσε τις προβληματικές απαντήσεις σε «πρώιμη έκδοση» του μοντέλου και υποστήριξε ότι πραγματοποιήθηκε «εξονυχιστικός έλεγχος ασφαλείας» πριν από την επαναφορά του προϊόντος. Σύμφωνα με τον ίδιο, ενισχύθηκαν τα φίλτρα περιεχομένου, προστέθηκαν νέες δικλίδες προστασίας για παιδιά και ανασχεδιάστηκε ο τρόπος με τον οποίο η συσκευή ανταποκρίνεται σε προφορικές εντολές. «Ξεκινήσαμε σταδιακά την επαναφορά των πωλήσεων μόνο όταν βεβαιωθήκαμε ότι τα νέα μέτρα λειτουργούν όπως πρέπει», ανέφερε.

Το Teddy Kumma, με τιμή 99 δολάρια, έχει ήδη επιστρέψει στο ηλεκτρονικό κατάστημα της εταιρείας, ενώ η FoloToy υποστηρίζει ότι επανεξέτασε συνολικά όλα τα προϊόντα τεχνητής νοημοσύνης που διαθέτει. Παρ’ όλα αυτά, η υπόθεση έχει αναζωπυρώσει μια ευρύτερη συζήτηση για τα κενά στη ρύθμιση παιχνιδιών που βασίζονται σε μεγάλα γλωσσικά μοντέλα – έναν κλάδο που αναπτύσσεται πολύ πιο γρήγορα από τα αντίστοιχα πρότυπα ασφαλείας. Ειδικοί προειδοποιούν ότι ακόμη και τα πιο σύγχρονα μοντέλα δυσκολεύονται να αναγνωρίσουν την ηλικία του χρήστη, να σταθμίσουν το πλαίσιο μιας συνομιλίας ή να εκτιμήσουν τον κίνδυνο που μπορεί να δημιουργήσει μια «αθώα» ερώτηση. Το US PIRG επισημαίνει ότι η ανησυχία δεν αφορά μόνο ένα συγκεκριμένο παιχνίδι αλλά συνολικά τον τρόπο με τον οποίο εγκρίνονται τέτοια συστήματα πριν φτάσουν στα χέρια παιδιών.

DEMONIC ~

After pulling its AI-powered teddy bear “Kumma” from the market, the children’s toymaker FoloToy says it’s now restoring sales of the controversial product, which a safety group found would give inappropriate and potentially dangerous responses, including explaining… pic.twitter.com/7raihHxYJ8

— Krissy (@bornagain33333) November 30, 2025