El 5 de julio de 2023 fue promulgada la Ley N.° 31814, titulada “Ley que promueve el uso de la inteligencia artificial (IA) en favor del desarrollo económico y social del país”. Esta ley tiene como objetivo primordial impulsar el desarrollo económico y social a través del fomento de la inteligencia artificial en el contexto de la transformación digital nacional, garantizando el respeto a los derechos humanos y promoviendo un entorno seguro y ético para su implementación.

Entre los principales principios rectores establecidos por esta ley para el desarrollo y uso de la IA se incluyen:

– Estándares de seguridad basados en riesgos: fomento de un enfoque de gestión de la IA basado en la evaluación y mitigación de riesgos.

– Pluralidad de participantes en la formulación de políticas de IA.

– Gobernanza de internet y sociedad digital: promoción de principios que regulan el uso de internet y valorización del acceso a tecnologías digitales.

– Desarrollo ético: énfasis en la ética como base para el uso responsable de la IA.

– Privacidad: protección de la privacidad de las personas ante las tecnologías de IA.

Asimismo, se designó a la Secretaría de Gobierno y Transformación Digital como la autoridad nacional responsable de dirigir y supervisar la implementación de la IA. Es dependiente de la Presidencia del Consejo de Ministros y sus funciones incluyen la promoción del desarrollo de IA, la formación de profesionales en el campo y la creación de infraestructura digital necesaria.

Se dispuso además que el Poder Ejecutivo debía aprobar el reglamento de la ley en el plazo de 90 días hábiles, contados a partir de su entrada en vigor. No obstante, dicho plazo venció el 15 de noviembre pasado sin que ello suceda. Ante ello, mediante la Resolución Ministerial N.° 132-2024-PCM, publicada el 2 de mayo último, se publicó el proyecto de Reglamento de la Ley N.° 31814, cuyo contenido resumimos a continuación:

1. Objetivo del reglamento:

Establecer las bases para un desarrollo ético y seguro de la IA, respetando los derechos humanos y fomentando el desarrollo económico y social. También busca fortalecer la gobernanza de la IA en el país, promoviendo su uso en el marco del Sistema Nacional de Transformación Digital.

2. Ámbito de aplicación:

Se aplica a todas las entidades gubernamentales y empresas del Estado, así como a la sociedad civil, la academia y el sector privado.

3. Definiciones:

Clarifica términos relevantes como «algoritmo», «ciclo de vida de los sistemas basados en IA», “datos de entrada”, “datos de entrenamiento”, “modelo fundacional”, “inteligencia artificial”, “sesgo de automatización”, “sistema basado en inteligencia artificial”, “uso indebido razonablemente previsible”, entre otros, para unificar criterios en el uso y desarrollo de la IA.

4. Autoridad nacional:

La Secretaría de Gobierno y Transformación Digital en su calidad de ente rector del Sistema Nacional de Transformación Digital, es la autoridad técnico-normativa a nivel nacional encargada de dirigir, evaluar y supervisar el uso y la promoción del desarrollo de la inteligencia artificial y las tecnologías emergentes.

5. Acciones y obligaciones de la autoridad nacional:

Incluye la promoción de la IA, evaluación de la adopción de sistemas basados en IA, realizar propuestas normativas y lineamientos, brindar asistencia técnica a las entidades de la administración pública para el uso y desarrollo de la inteligencia artificial, entre otras.

6. Gobernanza ampliada:

Se involucra en la gobernanza para el uso y desarrollo de la inteligencia artificial, otros actores como la Autoridad Nacional de Protección de Datos Personales y las entidades de la administración pública para una gestión integral.

7. Obligaciones de las entidades públicas

• Organización de equipos técnicos multidisciplinarios: las entidades públicas deben formar equipos técnicos para evaluar problemas públicos que puedan beneficiarse de soluciones tecnológicas basadas en IA.
• Generación de datos y casos de uso: deben generar, recolectar y consolidar datos para desarrollar casos de uso de IA que resuelvan problemas públicos.
• Intercambio de información y capacitación: las entidades deben intercambiar información relevante y fortalecer las capacidades del personal en áreas claves como matemáticas, estadística y programación.

8. Instrumentos para el uso y desarrollo de la IA

Se señalan como instrumentos para el uso y desarrollo de la IA:

a. El Centro Nacional de Innovación Digital e Inteligencia Artificial.

b. El Centro Nacional de Computación de Alto Rendimiento.

c. El Centro Nacional de Datos.

d. Infraestructura Digital para el uso y desarrollo de Inteligencia Artificial.

e. Los lineamientos, protocolos y estándares técnicos para el uso y desarrollo de inteligencia artificial.

f. Otros que establezca la Secretaría de Gobierno y Transformación Digital

9. Centro Nacional de Datos

Promueve el desarrollo de estándares y buenas prácticas para la obtención, limpieza, procesamiento y análisis de datos para su uso en sistemas basados en inteligencia artificial, desarrollo de estándares y prácticas para la gestión de datos para su uso en sistemas basados en IA.

10. Centro Nacional de Innovación Digital e Inteligencia Artificial

Impulsa las acciones para la promoción, despliegue y uso de la inteligencia artificial y otras tecnologías emergentes.

11. Centro Nacional de Computación de Alto Rendimiento

Proporciona infraestructura digital y servicios de computación de alto rendimiento a entidades públicas, facilitando la experimentación y prueba de proyectos de IA.

12. Categorías de riesgos en los sistemas basados en IA:

Se establece categorías de riesgo para sistemas de IA, como inaceptable, alto, medio y bajo.

13. Sistemas IA de alto riesgo:

Un sistema se considera de alto riesgo cuando utiliza identificación biométrica y categorización de personas naturales; soporte de seguridad de la infraestructura de un activo crítico nacional para la prestación de servicios esenciales; acceso a un centro de educación y formación profesional o para la evaluación de los estudiantes de dichos centros; selección, evaluación, contratación y terminación de trabajadores o postulantes a un puesto de trabajo; acceso, evaluación, orden de priorización y/o terminación de la prestación de programas sociales y/o servicios de emergencia.

Asimismo evaluación crediticia de personas; apoyo en la toma de decisiones, interpretación normativa o de los hechos por una autoridad jurisdiccional; acceso a servicios de salud, evaluación, diagnóstico, manejo o pronóstico del estado de salud de individuos que pueda tener un impacto significativo en su bienestar físico o mental; evaluación de riesgo de delitos o infracciones penales o reincidencia de personas naturales y de riesgo de victimización, evaluación del estado emocional de una persona natural, entre otros.

El implementador de los sistemas basados en IA estaría obligado a identificar y evaluar los riesgos generados por su finalidad prevista y ante el uso indebido razonablemente previsible e implementar medidas de gestión de riesgo idóneas, las cuales han sido evaluadas por un tercero independiente con el fin de verificar su funcionamiento adecuado y el reporte de los riesgos residuales, entre otras obligaciones. El implementador puede demostrar el cumplimiento de las obligaciones, si adquirió de un proveedor, distribuidor o importador un sistema basado en IA que cuente con certificaciones ampliamente reconocidas y basadas en estándares internacionales.

14. Prohibición de sistemas IA de riesgo inaceptable: se prohíbe el uso de la IA considerada de riesgo inaceptable, siendo aquellas que puedan manipular comportamientos o violar la privacidad de manera significativa, entre otros usos.

15. Privacidad y transparencia: se obliga a los implementadores a asegurar la protección de datos y proporcionar transparencia sobre el funcionamiento de los sistemas de IA.

16. Uso ético y educación: promueve la formación en ética de la IA y establece lineamientos éticos para su aplicación.

17. Fomento de la computación en la nube y el uso de datos: facilita recursos de computación en la nube para desarrollo de la IA y dicta el uso y publicación de datos por entidades públicas.

18. Desarrollo del talento y competencias: establece iniciativas para mejorar las habilidades en IA y ciencia de datos, y promueve la atracción de talento nacional e internacional.

Los interesados pueden revisar el texto completo del proyecto en: https://cdn.www.gob.pe/uploads/document/file/6273073/5516872-proyecto-reglamento-ley-31814.pdf?v=1714659628

LEER MÁS:

“La CCL ha decidido sumarse activamente a la construcción del futuro”