Orientación de políticas sobre el uso de la inteligencia artificial en favor de la infancia

Puntos destacados

En el marco de nuestro proyecto de IA en favor de la infancia, UNICEF ha elaborado esta orientación de políticas para promover los derechos de los niños en las políticas y prácticas en materia de IA tanto de los gobiernos como del sector privado, y para aumentar la conciencia acerca de cómo los sistemas de IA pueden defender o socavar esos derechos. La orientación de políticas explora los sistemas de IA y analiza las formas en que estos afectan a los niños.

Basándose en la Convención sobre los Derechos del Niño, la orientación facilita nueve requisitos para lograr una IA centrada en la infancia:

1. Favorecer el desarrollo y el bienestar de los niños.
2. Garantizar la inclusión de y para los niños.
3. Priorizar la imparcialidad y la no discriminación con respecto a los niños.
4. Proteger los datos y la privacidad de los niños.
5. Garantizar la seguridad de los niños.
6. Proporcionar transparencia, explicabilidad y rendición de cuentas con respecto a los niños.
7. Empoderar a los gobiernos y las empresas con conocimientos sobre la IA y los derechos del niño. 
8. Preparar a los niños para el presente y el futuro de la IA.
9. Crear un entorno propicio.

Para facilitar la implementación de la orientación, se proporciona una lista de recursos en línea y un conjunto de herramientas de implementación prácticas, que incluyen:

• Hoja de ruta para los responsables de formular políticas.
• Lienzo para el desarrollo de una IA para la infancia.
• Guía sobre IA para padres.
• Guía sobre IA para adolescentes.

Para ver cómo se han aplicado estas directrices en la práctica, consulte los ocho estudios de caso.
 

¿Por qué ahora?

La IA va mucho más allá de los vehículos autónomos y los asistentes inteligentes de nuestros teléfonos móviles. Tanto los gobiernos como el sector privado utilizan cada vez más sistemas de IA, por ejemplo, para mejorar la prestación de los servicios de educación, atención sanitaria y bienestar.

Pese a su potencial innovador, la IA también plantea riesgos para los niños y sus derechos, por ejemplo, en relación con su privacidad, seguridad y protección. Sin embargo, la mayoría de las políticas, estrategias y directrices de IA solo abordan superficialmente la cuestión de la infancia. Con el objetivo de contribuir a llenar este vacío, UNICEF se ha asociado con el Gobierno de Finlandia con el fin de estudiar posibles enfoques para proteger y defender los derechos del niño en un mundo de IA en evolución.
 

Cómo se ha elaborado este documento de orientación

Consulta pública

En septiembre de 2020 se publicó el proyecto de orientación de políticas (versión 1.0). Posteriormente, UNICEF solicitó la aportación de las partes que estuvieran interesadas o trabajaran en esferas relacionadas con los ámbitos de la IA y los derechos de los niños. Entre ellos figuraban encargados del desarrollo y la implementación de IA, empresas, organismos gubernamentales, la sociedad civil, organizaciones internacionales, el mundo académico, y adultos y niños a título individual. Invitamos a las partes interesadas a expresar sus puntos de vista sobre el proyecto de orientación, y a formular sus comentarios y observaciones antes del 16 de octubre de 2020. (Véase la declaración de privacidad).

Haga clic aquí para saber cómo respondieron al proyecto de orientación.

Esas aportaciones se analizaron y se incorporaron a la versión 2.0. Para garantizar que los sistemas de IA estén constantemente en consonancia con los derechos y situaciones de los niños, esta orientación debe verse como una contribución inicial de cara a lograr una IA centrada en la infancia. Esperamos que, con el tiempo, otras guías similares se sigan adaptando y enriqueciendo con conocimientos prácticos.

Estudios de caso e implementación

Para que esta orientación de políticas sobre IA pueda abordar las numerosas complejidades ligadas a su implementación, los responsables de formular políticas, las organizaciones públicas y las empresas deben ponerla en práctica de manera coherente a fin de posibilitar su validación y adaptación local. Invitamos, por tanto, a los gobiernos y al sector empresarial a poner a prueba el proyecto de orientación en su ámbito de actuación y compartir abiertamente sus conclusiones acerca de cómo se ha utilizado, qué ha funcionado y qué no, a fin de que sus experiencias en la práctica puedan mejorar el documento. Con este objetivo en mente, UNICEF ha trabajado con un grupo de “asociados piloto” gubernamentales y empresariales para elaborar diversos estudios de caso acerca de cómo cada uno de ellos implementará la orientación: lea los casos aquí. Las organizaciones piloto se adhirieron a estos términos.

Si utiliza la orientación y publica sus experiencias como un estudio de caso, asegúrese de compartir sus conclusiones enviando un correo electrónico a ai4children@unicef.org.