20 millones de niños, la IA y la red de seguridad que falta

8

Los números ya están disponibles. 20 millones de niños. En sólo 10 países. Según UNICEF, esa es la cantidad de jóvenes que interactúan actualmente con la inteligencia artificial. Y aquí está el truco: lo están aprendiendo tres veces más rápido que sus padres.

No es sólo pasar el tiempo. Trece millones de estos niños utilizan las herramientas para realizar las tareas y como apoyo al aprendizaje. Un tutor digital silencioso disponible a las 2 a.m. Mientras tanto, dos millones de niños (uno de cada diez) confían en estos algoritmos cuando algo les preocupa. Están buscando consejo. De una máquina.

¿Es eso normal todavía? Probablemente. Pero la infraestructura no se ha puesto al día.

La postura de UNICEF es contundente. La velocidad de adopción está superando a la regulación. Los niños están expuestos al diseño de estos sistemas, los modelos de negocio detrás de ellos y cómo se extraen sus datos. Sin embargo, tienen un poder casi nulo para optar por no participar. Para desafiarlo. La mayoría de los marcos de gobernanza ignoran por completo a los niños, dejándolos vulnerables.

¿Los efectos a largo plazo? Sigue siendo un misterio. Estamos viendo evidencia temprana sobre el desarrollo cognitivo y la dependencia emocional, pero no tenemos el panorama completo. Como dijo la agencia: “En efecto, una generación está creciendo dentro de un experimento global”.

Es una frase difícil de tragar.

Los niños saben que esto tampoco es seguro. Están intranquilos. A un tercio le preocupa que la IA se utilice para estafar, engañar o difundir mentiras. Una cuarta parte teme que sus imágenes o vídeos se conviertan en deepfakes: sexuales, explícitos y maliciosos. Miedos reales. No preocupaciones abstractas.

La seguridad parece “una idea de último momento”, dice UNICEF, señalando las protecciones inadecuadas incorporadas en estos sistemas.

Esta caída coincide con el primer Diálogo Global sobre la Gobernanza de la IA que se celebra en la ONU. UNICEF no se detiene. Exigen que los derechos de los niños (específicamente la seguridad y la privacidad) se incluyan en la política global de IA desde el principio.

Quieren más investigación. En los riesgos. En el impacto del desarrollo. No se trata necesariamente de detener la tecnología. Se trata de reconocer que las decisiones que tomemos en los próximos meses definirán las vidas de estos niños durante décadas. Acceso, privacidad, bienestar. Todo depende del ahora.

Estamos al borde de un acantilado, mirando un futuro escrito en código. El experimento está en marcha. Simplemente estamos viendo cómo sucede.