La inteligencia artificial y la infancia: oportunidades, riesgos y cómo acompañar su uso
Respuestas y pautas para un reto actual
Este artículo es la segunda entrega de una guía para acompañar la vida digital en familia. Para ver la guía, ingresa aquí.
👉 Síguenos en nuestro canal de WhatsApp: UNICEF Portal de Crianza para más consejos.
Para volver al centro del portal, ingresa aquí: Crianza |
La Inteligencia Artificial (IA) forma ya parte de la vida cotidiana de los niños, niñas y adolescentes en América Latina y el Caribe, quienes la usan para aprender, entretenerse o relacionarse con sus amistades.
En Argentina, por ejemplo, más de la mitad de las niñas y niños de 9 a 17 años usa IA y, de ellos, dos de cada tres lo hacen con fines escolares, según el estudio Kids Online Argentina, de UNICEF y UNESCO. En Brasil, esta cifra supera el 65%.
Y aunque la infancia está a la cabeza en la adopción de herramientas de IA, incluso para hacer tareas escolares, todavía se sabe muy poco sobre el efecto que esta tecnología tiene en ellos a mediano y largo plazo. Desde el impacto cognitivo y psicológico en su aprendizaje, hasta las consecuencias sociales, económicas y profesionales que tendrá en las sociedades donde viven.
Además, niñas y niños siguen sin participar en el desarrollo de los sistemas de IA, que a menudo se crean sin tener en cuenta sus derechos o puntos de vista. Esto es especialmente importante para la infancia en el Sur Global, donde el lugar donde viven, la dificultad para acceder a internet o la oportunidad real de influir en procesos de políticas públicas pueden profundizar su exclusión.
En esta segunda entrega de nuestra guía, compartimos recursos, consejos e información sobre la IA para que madres, padres, cuidadores y educadores puedan fortalecer las habilidades digitales de la infancia, y proteger sus derechos.
Lee también: ¿Es buena idea prohibir las redes sociales a niños y adolescentes?
Oportunidades y riesgos
La IA se utiliza en prácticamente todas las aplicaciones y plataformas que usan las niñas, niños y adolescentes, desde herramientas como ChatGPT hasta redes sociales como Instagram o TikTok.
Los algoritmos que funcionan con IA recomiendan qué vídeos ver, qué noticias leer y con quién conectar; y cada vez más, los sistemas de IA generativa (Claude, ChatGPT, Grok, etc.) están creando el propio contenido que consumen los niños y niñas, llegando incluso a posicionarse como “amigos”.
Oportunidades
Entre los beneficios que la IA puede traer a la infancia están el uso de mejores herramientas para aprender, nuevas maneras de acceder a la información, o el favorecer la inclusión y el acceso a la educación de personas con discapacidad.
Como parte del proyecto El interés superior de la infancia en un mundo digital, UNICEF consultó en siete países, entre ellos Brasil, a niñas y niños de entre 10 y 17 años sobre sus derechos en el mundo digital, y frecuentemente surgió el tema de la IA.
Contaban que ya usan herramientas como ChatGPT para hacer resúmenes de sus tareas escolares, explicar conceptos complejos de manera más sencilla o incluso como guía sobre qué publicar o no en redes sociales.
La IA puede ayudarles además a desarrollar nuevas habilidades y a prepararse para un entorno digital y un mercado laboral que cada vez cambia más deprisa.
Riesgos
Pero están surgiendo nuevos riesgos a los que a menudo las familias se sienten incapaces de responder y sobre cuyos efectos aún no se conoce lo suficiente:
Riesgos
La IA no está exenta de reproducir o amplificar información falsa que circula en Internet. Sin acompañamiento, niñas, niños y adolescentes pueden acceder a perfiles, contenidos o datos que no son confiables.
Los sistemas de IA pueden ofrecer resultados basados en prejuicios o errores presentes en los datos con los que fueron diseñados o entrenados. Esto puede derivar en información incompleta, estereotipos o recomendaciones poco diversas.
Si una herramienta de IA está mal diseñada o no cuenta con regulaciones adecuadas, puede exponer datos personales, afectar la intimidad o generar pérdida de control sobre la información compartida. Además, los chatbots que responden o se comportan como personas, suelen dar consejos a los usuarios sobre su vida personal e íntima.
En estas interacciones, las niñas y niños son más susceptibles a la manipulación y la explotación, siendo más proclives a desarrollar relaciones dependientes con estos “acompañantes” y a compartir información privada. Por eso es tan importante que los chatbots se diseñen, se regulen y se comercialicen teniendo en cuenta los intereses y la seguridad de la infancia.
Uno de los riesgos a los que cada vez están expuestas más niñas, niños y adolescentes es el de los deepfakes.
Se trata de imágenes, vídeos o grabaciones de voz generados o manipulados por inteligencia artificial (IA) con apariencia de realidad, que se están utilizando cada vez más para crear contenido sexualizado de niños y niñas, incluida la ‘nudificación’, que se refiere al uso de las herramientas de IA para retirar o modificar la ropa en fotografías con el fin de crear imágenes sexualizadas o desnudos falsos.
En un estudio llevado a cabo por UNICEF, ECPAT e INTERPOL en 11 países, al menos 1,2 millones de niños y niñas dijeron haberse visto afectados en el último año por la manipulación de sus imágenes mediante deepfakes con contenido sexual explícito. En algunos países, esa cifra representa 1 de cada 25 niños y niñas, lo que equivaldría a un niño o una niña de un aula escolar estándar.
Consejos para las familias
La IA no solo está cambiando la manera en que niñas y niños aprenden o se relacionan. También genera nuevos debates sobre el papel de las madres, padres o cuidadores. Pero no todas las familias tienen el tiempo o los recursos para aprender sobre cada una de las novedades que esta avanzada tecnología plantea cada día.
A continuación puedes encontrar algunos consejos sobre qué pueden hacer las familias para acompañar a la infancia:
Consejos sobre el uso de la inteligencia artificial
Conocer los aspectos básicos de la IA y cómo estas tecnologías pueden impactar positiva o negativamente en la infancia es un primer paso fundamental para acompañar su uso. Un buen primer acercamiento es preguntar y observar para qué la usan (estudiar, crear, entretenerse, resolver dudas) antes de hablar de límites o riesgos.
Hablar sobre la IA, sus oportunidades y sus riesgos permite generar acuerdos y fortalecer el uso responsable. El diálogo es clave para que la infancia comprenda que el uso de estas herramientas implica derechos, pero también responsabilidades. Una recomendación es usar situaciones reales para generar la conversación (una tarea hecha con IA, un contenido recomendado o una respuesta automática), y acordar cuándo, para qué y cómo usarla.
Ying Xu, profesora asistente de IA en aprendizaje y educación en la Universidad de Harvard, explica que para los más pequeños puede funcionar el relacionar la IA con ejemplos de herramientas que se usan cada día en casa y que funcionan con esta tecnología, como los robots aspiradoras o los altavoces inteligentes.
Puede ser un buen punto de partida el explicar que estas herramientas siguen instrucciones, reconocen patrones o responden a nuestras voces, pero no “piensan” ni “sienten” como las personas.
Reflexionar sobre cómo funcionan estas herramientas, qué datos recopilan y con qué fines se utilizan ayuda a que niñas, niños y adolescentes desarrollen una mirada más consciente sobre la tecnología. Por ejemplo, cuando usen una herramienta de IA, las familias pueden proponer hacer juntos preguntas simples como: ¿De dónde puede salir esta información? ¿Qué puede estar faltando? ¿Para qué crees que la herramienta responde así?
Según Ying Xu, es importante explicarles que muchos sistemas de IA, por diseño, son siempre complacientes y alentadores, lo cual no refleja la realidad de las relaciones, que a menudo implican desacuerdos, compromisos y la capacidad de gestionar conflictos.
Si los niños y niñas pasan mucho tiempo con sistemas así, pueden desarrollar ideas poco realistas sobre cómo funcionan las amistades y las relaciones.
“Hay preocupaciones a más largo plazo que conviene tener en cuenta. Una de ellas es que los niños y niñas pueden empezar a depender de la IA en lugar de recurrir a otras personas. En nuestra investigación con adolescentes, algunos compartieron que hablar con la IA resulta más fácil que hacerlo con sus compañeros o con adultos,” explica Xu.
Leer sobre el tema, escuchar podcasts o ver videos de fuentes confiables permite entender mejor cómo funciona la IA. Cuanto mayor es la información, menores son los riesgos asociados a su uso. Por eso, conversar con sus amigas y amigos puede ayudar a las niñas y niños a reflexionar.
Estas son algunas preguntas que pueden hacer:
¿Cómo influye la IA en mi vida diaria?
¿Cuánto la uso y para qué?
¿Qué es lo que más me gusta de usar IA?
¿Qué cosas me generan dudas o preocupación?
Cómo desarrollar IA al servicio de la infancia
Diseñar una tecnología que funcione de manera segura para los más vulnerables logrará tener una mejor IA para todos.
La responsabilidad de tener experiencias seguras y positivas con la IA no puede recaer solo en las familias. Los derechos de la infancia deben ser tenidos en cuenta desde el desarrollo de la tecnología, y en la redacción de las leyes y regulaciones por parte de los gobiernos.
UNICEF ha publicado una actualización de sus recomendaciones para que los gobiernos y la industria de la IA pongan a las niñas y niños en el centro de esta tecnología.
Es necesario que las empresas y los gobiernos tengan un enfoque de la IA basado en los derechos de la infancia: con evaluación sistemática de riesgos, transparencia, rendición de cuentas, diseño inclusivo, con participación de la infancia desde el inicio, e inversión en alfabetización.
En este documento (puedes consultarlo aquí, en inglés), UNICEF propone 10 condiciones para el desarrollo de una IA al servicio de la infancia:
- Garantizar marcos regulatorios, supervisión y cumplimiento para una IA centrada en la infancia
- Garantizar la seguridad de los niños y niñas
- Proteger los datos y la privacidad de los niños y niñas
- Garantizar la no discriminación y la equidad para los niños y niñas
- Proporcionar transparencia, explicabilidad y rendición de cuentas para los niños y niñas
- Respetar los derechos humanos y de la infancia mediante prácticas responsables de IA
- Apoyar el interés superior, el desarrollo y el bienestar de los niños y niñas
- Garantizar la inclusión de y para los niños y niñas
- Preparar y capacitar a los niños y niñas para los desarrollos actuales y futuros en IA
- Crear un entorno propicio para una IA centrada en la infancia
Así ven la IA las y los jóvenes de la región
El diseño y desarrollo de tecnologías de IA debe contar con la participación activa e inclusiva de la infancia y la juventud. Jóvenes líderes de la región, que forman parte del Consejo de Acción Adolescente y Juvenil de UNICEF, participaron de una consulta sobre la IA, en la que compartieron experiencias y opiniones sobre su uso, realizaron recomendaciones y sugerencias sobre cómo podría generar espacios más seguros para niños, niñas, adolescentes y jóvenes.
Estas son algunas de sus peticiones:
- Prohibir que la IA invente datos o información, y desarrollar herramientas para que aprenda mejor de sus errores.
- Mejorar la protección de datos personales y privacidad, con términos y condiciones más fáciles de entender.
- Prohibir la creación de deepfakes, y enseñar a las y los usuarios cómo usar IA de forma segura.
- Desarrollar versiones de IA para niñas, niños y adolescentes, con funciones para desarrollar habilidades.
- Reducir el impacto ambiental y la cantidad de recursos consumidos por herramientas de IA.
Recursos adicionales
Esta guía pretende ser un punto de partida para entender mejor cómo poner la tecnología al servicio de los derechos de la infancia. Pero la IA está cambiando cada día.
Aquí tienes algunos recursos extra elaborados por UNICEF que pueden ayudarte a navegar este tema en casa o en la escuela.
La infancia y el uso de Inteligencia Artificial: claves de UNICEF Uruguay para las familias
Informe de Kids Online Argentina
La crianza en la era de la IA (en inglés)
Guía sobre IA para padres (UNICEF Innocenti, 2021)
Guía sobre IA para adolescentes (UNICEF Innocenti, 2021)
Consejos sobre la crianza en la era de la IA
Posición de UNICEF frente a los deepfakes
Si encontraste esta información útil, compártela con otros padres y madres, con tu familia, y con tus hijos. Es parte de cuidarse.
