20 millions d’enfants, l’IA et le filet de sécurité manquant

10

Les chiffres sont déjà connus. 20 millions d’enfants. Dans seulement 10 pays. C’est le nombre de jeunes qui interagissent désormais avec l’intelligence artificielle, selon l’UNICEF. Et voici le plus intéressant : ils le comprennent trois fois plus vite que leurs parents.

Ce n’est pas seulement le temps qui passe. Treize millions de ces enfants utilisent les outils pour faire leurs devoirs et aider à l’apprentissage. Un tuteur numérique silencieux disponible à 2 heures du matin. Pendant ce temps, 2 millions d’enfants, soit un sur dix, se confient à ces algorithmes lorsque quelque chose les inquiète. Ils demandent des conseils. D’une machine.

Est-ce encore normal ? Probablement. Mais les infrastructures n’ont pas rattrapé leur retard.

La position de l’UNICEF est directe. La vitesse d’adoption dépasse la réglementation. Les enfants sont exposés à la conception de ces systèmes, aux modèles commerciaux qui les sous-tendent et à la manière dont leurs données sont exploitées. Pourtant, ils n’ont pratiquement aucun pouvoir de retrait. Pour le contester. La plupart des cadres de gouvernance ignorent complètement les enfants, les laissant vulnérables.

Les effets à long terme ? Encore un mystère. Nous disposons de premières preuves du développement cognitif et de la dépendance émotionnelle, mais nous n’avons pas une vision complète. Comme le dit l’agence : « En fait, une génération grandit dans le cadre d’une expérience mondiale ».

C’est une phrase lourde à avaler.

Les enfants savent aussi que ce n’est pas sûr. Ils sont inquiets. Un tiers s’inquiète du fait que l’IA soit utilisée pour escroquer, tromper ou propager des mensonges. Un quart d’entre eux craignent que leurs images ou vidéos soient transformées en deepfakes – à caractère sexuel, explicite ou malveillant. De vraies craintes. Pas de préoccupations abstraites.

La sécurité semble « être une réflexion après coup », dit l’UNICEF, dénonçant les protections inadéquates intégrées à ces systèmes.

Cette baisse coïncide avec le premier dialogue mondial sur la gouvernance de l’IA qui se déroule à l’ONU. L’UNICEF ne se retient pas. Ils exigent que les droits des enfants, en particulier la sécurité et la vie privée, soient intégrés dès le départ dans la politique mondiale en matière d’IA.

Ils veulent plus de recherches. Dans les risques. Dans l’impact du développement. Il ne s’agit pas nécessairement d’arrêter la technologie. Il s’agit de reconnaître que les choix que nous ferons au cours des prochains mois définiront la vie de ces enfants pendant des décennies. Accès, intimité, bien-être. Tout dépend maintenant.

Nous nous trouvons au bord d’une falaise, regardant un avenir écrit dans le code. L’expérience est en cours. Nous regardons simplement cela se produire.