Ante el avance de fraudes, invasión a la privacidad y riesgos laborales, legisladores y expertos internacionales urgen a actualizar el marco normativo en México. Destacan la importancia de seguir el ejemplo de la Unión Europea para regular sistemas de alto riesgo sin frenar la innovación tecnológica.
La Secretaría de Servicios Administrativos y Financieros de la Cámara de Diputados, a cargo de Aliza Chelminsky, llevó a cabo la conferencia virtual internacional Regulación de la IA en Europa, marco jurídico y casos ejemplificativos, en la que participó el académico español Carlos del Cacho Estil-les.
Al dar la bienvenida, el diputado Santiago González Soto (PT) destacó la relevancia del tema de la Inteligencia Artificial (IA) y su impacto en distintos ámbitos. Señaló que recientemente la Cámara de Diputados aprobó reformas en la materia, particularmente orientadas a la protección de la voz e imagen de artistas.
Advirtió que el crecimiento acelerado de la IA ha superado a la legislación vigente, lo que obliga a los países a actualizar sus marcos normativos para garantizar su uso adecuado y enfrentar riesgos como la invasión a la privacidad, fraudes y afectaciones laborales.
Resaltó las oportunidades como los desafíos que implica la IA en sectores como la salud, la educación y el empleo, donde puede mejorar la productividad, pero también generar riesgos significativos. En ese sentido, llamó a impulsar la capacitación, la innovación y la cooperación internacional.
Aliza Chelminsky expresó que este encuentro forma parte de un proyecto de reflexión sobre temas de la agenda global impulsado por la Junta de Coordinación Política, con el objetivo de acercar experiencias y marcos regulatorios internacionales al análisis legislativo en México.
Regulación de la IA en Europa, marco jurídico y casos ejemplificativos
Durante su ponencia, el profesor de Derecho Penal de la Universidad Internacional de La Rioja, Carlos del Cacho Estil-les, reconoció las aportaciones sobre el estado actual de las nuevas tecnologías y advirtió que si bien los sistemas de IA generativa cuentan hoy con ciertos filtros para mitigar riesgos, aún existen formas de eludirlos.
Explicó que el contenido del Reglamento Europeo de Inteligencia Artificial no busca frenar la innovación, sino garantizar la seguridad, los derechos fundamentales y la inversión. Este marco normativo clasifica los sistemas de IA según su nivel de riesgo y establece obligaciones específicas para cada categoría.
Enfatizó que los sistemas de alto riesgo, como los aplicados en el ámbito laboral, deben cumplir con requisitos estrictos como la gestión de riesgos, la transparencia, la documentación técnica y la supervisión humana permanente.
Abordó la aplicación práctica de la IA en el entorno laboral, poniendo énfasis en sus beneficios, pero también en sus riesgos, como la discriminación algorítmica y los posibles impactos en la salud de los trabajadores. Estos sistemas, al aprender de datos históricos, pueden reproducir sesgos si no se supervisan adecuadamente, lo que puede derivar en decisiones injustas en procesos de contratación o evaluación.
Puntualizó la necesidad de mantener al ser humano en el centro de la toma de decisiones, garantizando que la tecnología sea una herramienta de apoyo y no un sustituto del juicio humano.
