Quand l’intelligence artificielle s’invite dans les jouets de vos enfants

Dans la série de films Toy Story, les jouets deviennent inertes aussitôt qu’un humain se trouve à proximité. Avec l’avènement de l’intelligence artificielle, ils n’ont plus besoin de faire semblant : ils sont bien éveillés. Tout. Le. Temps.

Ces jouets intelligents prennent généralement la forme d’animaux en peluche qui cachent dans leur bedon rembourré un module conversationnel propulsé par l’IA (les fameux chatbots). Ils sont conçus pour jaser avec votre enfant, répondre à ses questions et prétendre être son meilleur ami.

Avec leurs connaissances infinies, on pourrait croire qu’ils sont l’outil parfait pour contribuer aux apprentissages des enfants et briser leur isolement. Mais en creusant un peu, on réalise que sous leur costume d’agneau en peluche se cache parfois un loup virtuel malveillant.

Les jouets intelligents utilisent souvent des modèles d’IA comme ChatGPT pour générer des conversations avec votre enfant. Oui, la même technologie qui fait régulièrement les manchettes parce qu’elle cause une dépendance, met de l’avant des propos sexuellement explicites et encourage des comportements dangereux.

Évidemment, les compagnies qui les commercialisent assurent mettre en place des barrières pour empêcher ce genre de contenu néfaste de sortir de la bouche (i.e. du haut-parleur) de ces sympathiques compagnons. Il suffit toutefois de les mettre un tant soit peu à l’épreuve pour constater que ces remparts ne sont pas aussi insurmontables qu’on nous le laisse croire.

Un organisme américain a jasé avec quatre de ces jouets supposément inoffensifs. Les testeurs n’ont pas eu à trimer fort pour les inciter à aborder des sujets sexuellement explicites.

Plus les conversations avec le jouet sont longues, plus on a de chances (ou de risques, c’est selon) de contourner les barrières de sécurité. Après tout, ces petites créatures ont été conçues pour plaire. Suffit d’insister un peu pour qu’elles oublient leurs limites.

Et comme le disaient les présentateurs d’info pubs des années 1990 : ce n’est pas tout! Pour répondre instantanément aux questions de votre enfant, son ami 2.0 doit toujours être à l’écoute. Ça signifie que toutes vos conversations sont potentiellement enregistrées, qu’elles soient avec le jouet ou non.

Certains robots sont même dotés de caméras pour différencier les personnes à qui ils s’adressent et reconnaître leurs émotions.

Toutes ces belles données juteuses peuvent être récoltées et stockées, parfois jusqu’à trois ans. 1984 avait son Big Brother. En 2026, c’est plutôt Tiny Furry Brother qui vous surveille.

Des experts dénoncent quant à eux que les jouets intelligents incitent les enfants à négliger les interactions humaines.

On entend souvent parler des millions d’emplois menacés par la montée de l’intelligence artificielle. Il semblerait que l’amitié, l’imagination et l’autonomie des enfants soient aussi en voie d’être sous-traitées aux robots.

Avec tout ça, pas étonnant qu’un sénateur américain ait soumis un projet de loi proposant un moratoire de quatre ans sur la vente de jouets utilisant l’intelligence artificielle.

Au-delà des jouets, l’intelligence artificielle s’immisce aussi du côté de la littérature jeunesse. Le portrait y est un peu moins inquiétant, quoique pas tellement plus reluisant.

Publier un livre jeunesse est un processus qui prend souvent plusieurs années. L’avènement d’une technologie qui permet de réduire ce délai à quelques jours devrait donc être positif, non? Pas vraiment. En fait, le problème n’est pas tant l’utilisation de l’IA que l’absence presque totale de contrôle de qualité du produit fini.

D’abord, au niveau du contenu, une critique récurrente soulevée dans de nombreux articles concerne le manque de constance dans les images. Un personnage peut changer soudainement de vêtements, de visage ou de coupe de cheveux d’une page à l’autre, ou être dessiné dans un style drastiquement différent. Ça, c’est sans compter les fameux doigts supplémentaires, un grand classique de l’IA.

Même constat au niveau des textes : deux frères peuvent magiquement devenir cousins entre le début et la fin d’un livre. Des erreurs factuelles peuvent également se glisser sur les pages, et pas toujours de manière subtile. Une bibliothécaire a raconté être tombée sur un livre « éducatif » à propos des lapins, qui assurait que le petit mammifère peut fabriquer ses propres vêtements et vous aider à jardiner. Pratique.

Plusieurs dénoncent aussi que l’IA génère des histoires génériques, ennuyeuses ou redondantes. Si vous n’êtes pas assez précis dans votre requête, l’algorithme a une forte tendance à situer les récits ✨ dans des forêts enchantées ✨(émojis inclus, bien sûr).

Ajoutez à ça que ces livres sont souvent faits de matériaux peu durables de faible qualité et vous avez la recette parfaite pour nourrir le bac de recyclage plutôt que l’imagination de votre enfant.

Évidemment, l’utilisation de l’IA soulève des enjeux éthiques. Elle vole le travail de nombreux auteurs et illustrateurs, en plus d’utiliser leurs œuvres sans permission pour entraîner les modèles d’intelligence artificielle.

Certains mentionnent aussi que les livres créés avec l’IA amplifient les écarts de classes. Comme ils sont moins chers, ils sont surtout achetés par les familles à faible revenu, exposant leurs enfants à du contenu de piètre qualité. Au moins, ils auront le plus beau jardin du voisinage grâce à l’aide de leur assistant lapin.

Tout ça peut paraître alarmant. Mais quand elle est utilisée de la bonne manière, l’IA peut avoir des bénéfices importants dans l’apprentissage de la lecture.

Sur le web, on trouve plusieurs plateformes qui permettent de créer des livres sur mesure pour vos enfants. Vous n’avez qu’à fournir son nom, ses champs d’intérêt et quelques photos, et il devient magiquement le héros de sa propre histoire.

Ce genre d’outil renforcerait l’estime de soi, en plus de développer l’imagination et de stimuler l’intérêt pour la lecture.

Comme quoi il y a de la lumière au bout de l’algorithme.

L’intelligence artificielle a un potentiel immense en matière d’éducation, mais ses dérives sont encore trop importantes pour lui accorder une confiance absolue. Clairement, il y a encore beaucoup de chemin à faire pour que son utilisation soit sécuritaire pour les enfants.

Mais qu’en pense le principal intéressé? On a demandé à ChatGPT son avis sur le sujet, et voici ce qu’il nous a répondu.

« L’utilisation de l’IA dans les livres et jouets pour enfants n’est ni “bonne” ni “mauvaise” en soi. Elle peut augmenter l’apprentissage et l’accessibilité, mais mal encadrée, elle peut affaiblir la créativité, normaliser la surveillance et exposer à des contenus douteux.

La question clé, pour moi, est simple : est-ce que l’IA sert le développement de l’enfant ou est-ce l’enfant qui sert au développement de l’IA? »

De la nourriture pour réflexion, comme dirait l’expression mal traduite par un robot.

Tous les jeudis, Mollo vous envoie une infolettre remplie de contenus informatifs, amusants et décomplexants remplie de contenus inclusifs et instructifs qui devraient vous aider à prendre votre parentalité à la légère… et au sérieux en même temps. Abonnez-vous juste ici!