Por Manuel Filomeno
La Inteligencia Artificial pasó, en menos de cinco años, de ser material de ciencia ficción a aplicarse a casi todos los ámbitos de la actividad humana. Herramientas para crear, compartir, investigar, pero también para robar, estafar y calumniar, las aplicaciones de la IA se han convertido en parte de nuestras vidas, sin embargo, hasta el momento permanecían prácticamente sin regulación.
En pasados días, la Unión Europea aprobó la primera ley que regula y controla el desarrollo y el uso de las inteligencias artificiales en los países miembros de la comunidad y que sienta un precedente sobre cómo regular esta tecnología, generando un punto de partida para nuevas leyes en otros países.
“Regular las inteligencias artificiales es muy importante para garantizar que su desarrollo y uso sean seguros, éticos y beneficiosos para la sociedad. Contar con una ley que regule las Inteligencias Artificiales es esencial por varias razones”, explica el experto en derecho informático, William Llanos, docente de la carrera de Derecho de la Universidad Franz Tamayo.
¿Qué dice la Ley de AI?
La Ley clasifica los diferentes tipos de inteligencia artificial en función del potencial que tienen para causar daño a la sociedad en tres categorías: riesgo limitado, alto riesgo y riesgo inaceptable.
En la primera se consideran recursos como los bots de asistencia o las soluciones de análisis que deberán cumplir “obligaciones de transparencia muy leves”.
La segunda está destinada a productos biométricos, de reconocimiento facial o utilizados con fines educativos y dentro del mercado laboral. Los desarrolladores de estas aplicaciones deberán registrar sus sistemas en un censo y cumplir con obligaciones de gestión de amenazas y calidad más estrictas para operar en el mercado europeo.
El tercer nivel enlista programas usados para la manipulación cognitivo-conductual y la puntuación social. Estos quedarán totalmente prohibidos en Europa.
“La ley también prohíbe el uso de IA para vigilancia policial predictiva basada en perfiles y sistemas que utilizan datos biométricos para clasificar a las personas según categorías específicas como raza, orientación sexual o religión”, señalan las autoridades.
Las grandes compañías tecnológicas que no cumplan las normas serán multadas con hasta el 7% de su facturación global. Las startups, pequeñas y medianas empresas estarán sujetas a multas administrativas proporcionales al tamaño de su negocio.
La correcta aplicación de la ley será garantizada mediante la Oficina de IA, un organismo que se integrará a la Comisión Europea y tendrá la responsabilidad de hacer cumplir las normas comunes en todo el territorio. Su labor estará apoyada por la Junta de IA compuesta por representantes de los Estados miembros del bloque, un panel de científicos expertos independientes y un foro consultivo que permitirá a las empresas y otras partes interesadas compartir asesoría técnica para la correcta implementación de la reforma.
No obstante, la normativa permite algunas excepciones para permitir ciertos usos para garantizar la seguridad nacional.
Así, las fuerzas de seguridad sí podrán utilizar las cámaras de identificación biométrica, siempre con autorización judicial, para prevenir una amenaza terrorista. Además, estos sistemas se podrán usar también para localizar a los responsables de delitos de terrorismo, tráfico de personas, explotación sexual, así como para buscar a las víctimas.
Estas disposiciones entrarán en vigor a partir del próximo año y de manera progresiva hasta 2026, comenzando por los criterios de transparencia que deberán cumplir los sistemas de inteligencia artificial generativa.
Estos modelos tendrán que dejar claro si un texto, una canción o una fotografía se han generado a través de la inteligencia artificial y garantizar que los datos que se han empleado para entrenar a los sistemas respetan los derechos de autor.
¿Qué representa esta ley?
Al respecto, Llanos indica que es vital proteger los derechos humanos, debido a que las Inteligencias Artificiales tienen una gran influencia en muchos aspectos de nuestra vida.
“Una regulación adecuada asegura que derechos fundamentales como la privacidad, la seguridad y la igualdad estén protegidos frente a posibles abusos o usos indebidos de estas tecnologías. Además, las leyes pueden exigir transparencia y responsabilidad a los desarrolladores y operadores de Inteligencias Artificiales, obligándolos a ser claros sobre el funcionamiento de sus sistemas, los datos que utilizan y cómo toman decisiones”, explica Llanos.
Por otra parte, el experto indica que la mitigación de riesgos es otra razón clave para regular las inteligencias artificiales.
“Estas tecnologías pueden tener efectos imprevistos o perjudiciales si no se diseñan, implementan y supervisan adecuadamente. Las regulaciones pueden establecer normas y estándares para evaluar y mitigar riesgos asociados con las inteligencias artificiales, como errores en sistemas críticos, sesgos algorítmicos y vulnerabilidades de seguridad”, observa.
Por otra parte, Llanos apunta que una ley bien diseñada también puede promover la innovación responsable ya que, al establecer directrices claras, las empresas y los desarrolladores pueden innovar con mayor confianza, sabiendo que sus productos cumplirán con los requisitos legales y éticos, fomentando no sólo la creatividad y el avance tecnológico, sino también asegurando que estas innovaciones sean seguras y beneficiosas para el público.
“Además, las leyes pueden garantizar que el desarrollo y uso de las Inteligencias Artificiales se alineen con los valores éticos y morales de la sociedad, con el respeto a la dignidad humana, la protección del medio ambiente y el fomento de la justicia social”, concluye.
