Para Fátima Toche, gerente legal de Iriarte & Asociados, el Proyecto de Ley 2775/2022-CR, aprobada esta semana por el Congreso, es una norma declarativa que no abarca los problemas de fondo de la Inteligencia Artificial.
¿Está el proyecto, tal cual fue aprobado, listo para ser promulgado como ley o debería debatirse más y añadir algunos puntos aún no considerados en este texto?
El Proyecto de Ley 2775/2022-CR ha sido aprobado por el Pleno del Congreso de la República. Ahora sólo queda esperar si es que el Ejecutivo lo observará planteando comentarios o sugerencia de modificación, o la Presidenta Boluarte refrendará el texto tal cual fue aprobado. Considero que al ser una norma de carácter declarativa no será observada, ni merece mayor debate.
¿Considera que la norma es positiva e impacta en el viaje hacia la Transformación digital del país?
Como mencioné es una norma meramente declarativa, que persé no impulsará el uso seguro y eficiente de la inteligencia artificial en el país. No incorpora ninguna medida de promoción efectiva, ni aborda problemas de fondo de esta tecnología, en especial los modelos de lenguaje como CHATGPT, que requiere un debate regulatorio, como son:
1. Discriminación, discurso de odio y exclusión: pueden reflejar el discurso injusto, tóxico y opresivo presente en los datos de entrenamiento, lo que puede llevar a la discriminación y la exclusión social.
2. Promoción de estereotipos dañinos: pueden perpetuar estereotipos dañinos al utilizar marcadores de identidad específicos en el lenguaje o al tener características de diseño que refuercen estereotipos de género o étnicos.
3. Diseminación de información falsa o engañosa: pueden generar información falsa, engañosa o de baja calidad, lo que puede llevar a la desinformación y erosionar la confianza en la información compartida.
4. Compromiso de la privacidad o seguridad: pueden inferir información sensible sobre los usuarios, lo que puede llevar a la violación de la privacidad y la creación de perfiles detallados sin el conocimiento o consentimiento del usuario.
¿Qué aspectos son rescatables?
• Define la IA como la tecnología emergente que tiene el potencial de mejorar el bienestar de las personas, contribuir a una actividad económica global sostenible positiva, aumentar la innovación y la productividad, y ayudar a responder a los desafíos globales clave. También se incluye la definición de sistema basado en IA, tecnologías emergentes y algoritmos.
• Se designa a la Secretaría de Gobierno Digital, en su calidad de ente rector del Sistema Nacional Transformación Digital, como la autoridad técnico-normativa a nivel nacional responsable de dirigir, evaluar y supervisar el uso y la promoción del desarrollo de la inteligencia artificial y las tecnologías emergentes.
• Se declara de interés nacional el fomento del desarrollo y uso de la inteligencia artificial para la mejora de los servicios públicos, de la educación y los aprendizajes, la salud, la justicia, la seguridad ciudadana, la economía, la inclusión, los programas sociales, la Seguridad y Defensa Nacional; y así como en toda actividad económica y social a nivel nacional.
• Se declara de interés nacional y necesidad pública la implementación de un Centro Nacional de Análisis, Evaluación, y Procesamiento de Sistemas Informáticos e Información Digital de Alto Rendimiento como institución pública especializada en sistemas informáticos e información digital de altas prestaciones.
¿Los derechos humanos están siendo respetados con esta ley?
El Proyecto es explícito en señalar que su finalidad es promover el uso de la inteligencia artificial, en el marco del proceso nacional de transformación digital, privilegiando a la persona humana. Ello se encuentra alineado a la Política 35 del Acuerdo Nacional, sobre la Sociedad de la Información y del Conocimiento, en el sentido de que cualquier iniciativa regulatoria debe tener el desarrollo humano como propósito y respetar derechos fundamentales.
¿Qué se debería cambiar o añadir?
Creo que merecemos estar a la altura del debate que se viene dando en la Unión Europea para prevenir los riesgos a derechos fundamentales del uso de la inteligencia artificial, así como promover su uso para elevar nuestros índices de competitividad, salud y educación. La normas declarativas han probado su ineficacia.
