El avance vertiginoso de la Inteligencia Artificial (IA) ha generado debates éticos y preocupaciones sobre su impacto en la sociedad. Para abordar estos desafíos, el Parlamento Europeo aprobó una nueva ley el 13 de marzo de 2024, estableciendo un marco regulatorio integral para el desarrollo y uso de la IA en la Unión Europea (UE).

Definición del sistema de Inteligencia Artificial

La fórmula que se adopta del sistema de inteligencia artificial para su definición exacta es la de “sistema basado en una máquina diseñado para funcionar con distintos niveles de autonomía, que puede mostrar capacidad de adaptación tras el despliegue y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar información de salida, como predicciones, contenidos, recomendaciones o decisiones, que puede influir en entornos físicos o virtuales“.

Las nuevas normas del reglamento propuesto buscan garantizar la seguridad y protección de los ciudadanos europeos, al tiempo que fomentan la innovación y la competitividad en el campo de la IA. Uno de los aspectos clave de esta legislación es la clasificación de los sistemas de IA en diferentes niveles de riesgo, desde bajo hasta alto, determinados por su potencial para causar daño.

Evaluaciones del riesgo

Según la ley, los sistemas de IA considerados de alto riesgo, como aquellos utilizados en la atención médica, el transporte autónomo y la administración de justicia, estarán sujetos a requisitos más estrictos de transparencia, supervisión y control. Esto incluye la obligación de llevar a cabo evaluaciones de riesgos, mantener registros detallados y garantizar la trazabilidad y explicabilidad de las decisiones tomadas por estos sistemas.

Además, la normativa prohíbe ciertas prácticas de IA que se consideran especialmente peligrosas o discriminatorias, como el uso de tecnologías de reconocimiento facial en tiempo real con fines de vigilancia masiva, excepto en casos específicos y estrictamente regulados. Esto refleja el compromiso de la UE con la protección de los derechos individuales y la privacidad de los ciudadanos.

Sistema de gobernanza

Otro aspecto crucial es la creación de un sistema de gobernanza de la IA a nivel de la UE, que supervisará el cumplimiento de estas normas y garantizará la coherencia en su aplicación en todos los Estados miembros. Se establecerán mecanismos de cooperación y coordinación entre las autoridades nacionales y la Comisión Europea para abordar los desafíos transfronterizos y promover las mejores prácticas.

Estas nuevas regulaciones representan un paso significativo hacia una IA ética y responsable en Europa. Al fomentar la innovación responsable y proteger los derechos fundamentales, la UE busca liderar el desarrollo de la IA a nivel mundial, estableciendo un estándar para la adopción segura y ética de esta tecnología.

Aplicación

Su aplicación requerirá de una serie de acciones coordinadas y una combinación de enfoques regulatorios, educativos y de colaboración para garantizar que la tecnología se utilice de manera ética, segura y beneficiosa. Todo ello exigirá una serie de directrices y estándares técnicos, capacitación, concienciación, supervisión, evaluación y seguimiento, así como apoyo financiero para la adaptación de las empresas a los requisitos regulatorios.

Si tienes alguna duda, no dudes en contactar con nuestro equipo.