Desde su abrupta irrupción, la inteligencia artificial (IA) se ha convertido en una herramienta transformadora para la humanidad, que exige repensar marcos regulatorios y éticos.
Con la certeza de que la sociedad tiene la capacidad y el deber de controlar la inteligencia artificial mediante normativas, auditorías y sistemas de seguridad efectivos, más de 50 organizaciones internacionales respaldaron un compromiso compartido para promover que la IA esté diseñada, desarrollada, desplegada y gobernada de manera que se respeten, protejan y promuevan los derechos del niño.
La declaración fue firmada conjuntamente por la Unión Internacional de Telecomunicaciones (UIT), el Comité de los Derechos del Niño de las Naciones Unidas (CDN), UNICEF, la Organización Internacional del Trabajo (OIT), la Unión Interparlamentaria (UIP), la UNESCO, Seguridad en Línea (Safe Online); el Instituto Interregional de las Naciones Unidas para Investigaciones sobre la Delincuencia y la Justicia (UNICRI), las oficinas de Asuntos de Desarme y de los Derechos Humanos de las Naciones Unidas, además de representantes del citado organismo para los Niños y los Conflictos Armados y sobre la Violencia contra los Niños, y sobre la venta, la explotación y el abuso sexual de niños.
La declaración sostiene inicialmente que los rápidos avances de las tecnologías de la información y la comunicación, incluida la IA, están cambiando radi- calmente el mundo y afectando a las generaciones presentes y futuras de niños.
“Al mismo tiempo, la IA puede plan-tear profundos desafíos a la realización de los derechos del niño. Los riesgos se extienden tanto a las interacciones directas entre los niños y los sistemas de IA como a las formas en que los sistemas de IA afectan indirectamente a los niños”, destaca.
Asimismo, indica que otro desafío que evoluciona velozmente es la falta de formación y capacitación adaptadas a cada parte interesada en el diseño, desarrollo, despliegue y gobernanza de la IA. Esto incluye la falta de alfabetización en IA entre niños, maestros, padres y cuidadores, así como la necesidad de formación técnica para los responsables políticos y los gobiernos en este tema, los métodos de protección de datos y la evaluación de la incidencia en los  derechos de los niños.
“La mayoría de las herramientas y aplicaciones basadas en IA, junto con sus modelos, técnicas y sistemas subyacentes, no están pensados teniendo en cuenta a los niños y su bienestar. La responsabilidad de las empresas tecnológicas de respetar los derechos del niño es una vía fundamental para lograr mejores resultados para estos en relación con el entorno digital”, añade.
En tal sentido, considera que es necesario proporcionar más orientación, cuando sea necesario, para fundamentar una reglamentación eficaz por parte de los Estados, a fin de garantizar el pleno respeto y la protección de los derechos del niño en relación con los retos y oportunidades específicos relacionados con la IA.
“Tienen que adoptarse todas las medidas legislativas, administrativas y de otra índole que sean necesarias, incluidas políticas y programas, a nivel internacional, nacional y local, para garantizar una gobernanza eficaz de la IA con el objetivo de respetar, proteger y promover los derechos del niño”.
Al respecto, se insta a los organismos de las Naciones Unidas y a otras organizaciones internacionales a integrar los derechos del niño de manera explícita, sistemática y sostenida en todas las políticas, estrategias, planes y enfoques internos y externos relacionados con la IA.
“Se deben prevenir y abordar todas las formas de violencia contra los niños y explotación infantil cometidas a través de los sistemas, herramientas y plataformas de IA o con su apoyo. Se refiere a la violencia física, sexual y mental, incluida la violencia de género, el ciberacoso, la exposición a contenidos y explotación perjudiciales, el contenido generado que propague discursos de odio, incite a la violencia o promueva el trabajo infantil, la trata, el reclutamiento y utilización de niños, y el asesinato y la mutilación, entre otros, en situaciones de conflicto armado”, subraya.

Protección de datos y privacidad

En otro orden, la declaración resalta que deben adoptarse políticas sobre privacidad justa, basada en los derechos y adaptada a la edad, garantizando que todas las organizaciones y entornos que procesan sus datos respeten y protejan la privacidad de los niños.
“En todas las acciones o decisiones que conciernen a la infancia y que implican el diseño, el desarrollo, el despliegue o la gobernanza de la IA tanto en el ámbito público como en el privado, el Estado debe evaluar, determinar y tener en cuenta el interés superior de cada niño. En situaciones en las que los derechos del niño parecen estar en competencia, los Estados deben seguir el debido proceso para evaluar y determinar qué es lo mejor para el niño caso por caso”, añade.
También subraya que los sistemas, herramientas y plataformas de IA deben ser accesibles para todos los niños y niñas, incluidos aquellos con discapacidad, indígenas, que residen en situaciones vulnerables o desfavorecidas y los que viven en zonas remotas y rurales, y estar disponibles en varios idiomas, adaptándose a los diversos contextos culturales, garantizando la igualdad de oportunidades.
“El derecho de los niños a ser escuchados en relación con todas las decisiones que les afectan debe garantizarse fomentando la participación significativa y segura de un grupo diverso de niños en todas las etapas de la formulación de políticas y en el diseño, desarrollo, despliegue y revisión de los modelos de la IA”, afirma.
El impacto ambiental de la IA, inclui- da su huella de carbono, el consumo de energía y la extracción de materias primas para apoyar la fabricación de tecnologías, debe evaluarse cuidadosamente y mitigarse en relación con los derechos de los niños para evitar daños a estos.
Además señalan la necesidad de que los Estados velen por el desarrollo de capacidades de los funcionarios estatales pertinentes, incluidos los representantes de los gobiernos y los parlamentarios, sobre las oportunidades y amenazas rela- cionadas con la IA en la realización de los derechos del niño.
“Esto incluye comprender las implicancias éticas, jurídicas y sociales de la IA, basándose en investigaciones empíricas y prácticas idóneas, para permitir el desarrollo y la aplicación de políticas y marcos sólidos basados en los derechos del niño”, manifiesta la declaración.

Finalmente, concluye expresando que “la alfabetización en IA debe integrarse en los planes de estudio para garantizar que todos los niños, independientemente de su origen, tengan la oportunidad de comprender cómo funciona y cómo se relaciona con sus derechos; haciéndose especial hincapié en el apoyo a los grupos marginados para mejorar la alfabetización digital a fin de evitar que surja una brecha entre las generaciones futuras”.