El uso de la inteligencia artificial (IA) en ámbitos críticos como la salud o la conducción automática se hace cada vez más importante; sin embargo, esta integración requiere que estos sistemas actúen conforme a principios éticos compartidos, de manera que se minimicen los riesgos en su accionar.
“La integración de la IA en sistemas críticos puede generar consecuencias no previstas si no se regula adecuadamente y se alinea a los valores humanos adecuadamente. Desde la falta de transparencia en los algoritmos hasta la invasión a la privacidad, riesgos para los cuales el marco legal actual no está preparado”, señala William Llanos, abogado especialista en IA y docente de la Universidad Franz Tamayo, Unifranz.
La IA tiene una capacidad, sin precedentes, para recolectar y analizar grandes cantidades de datos personales. Si bien esto facilita la personalización de servicios, también pone en riesgo la privacidad de los usuarios. Plataformas impulsadas por esta tecnología pueden seguir cada uno de nuestros pasos digitales. Ante esta situación, se hace imperativo alinear a la IA con los valores humanos y éticos.
El Foro Económico Mundial (WEF, por sus siglas en inglés), mediante su libro blanco «Alineación de los valores de la IA: Guiando la Inteligencia Artificial hacia los objetivos humanos», aborda este desafío.
La publicación, presentada por el Global Future Council en octubre de 2024, explora cómo guiar a los sistemas de IA para que se alineen con valores sociales como la equidad, la privacidad y la justicia. Esta alineación no solo es un reto técnico, sino también una responsabilidad social.
Según el WEF, alinear los valores de la IA requiere diseñar sistemas coherentes con los valores humanos y principios éticos. Este proceso implica traducir principios abstractos en directrices técnicas prácticas, y asegurar que los sistemas de IA sean auditables y transparentes.
“Por ejemplo, en la atención sanitaria, un sistema de IA debe equilibrar la autonomía del paciente, la imparcialidad en decisiones y la privacidad, siendo al mismo tiempo robusto y conforme a normativas”, explica la organización.
En resumen, el WEF indica que una IA alineada con valores exige la participación de diversas partes interesadas y adaptación a las normas sociales y éticas cambiantes. Consideraciones técnicas y organizativas, como el aprendizaje reforzado a partir de la retroalimentación humana, ayudan a integrar los valores en los sistemas de IA. También se necesita fomentar una cultura organizativa que priorice el desarrollo ético de la IA, y realizar auditorías periódicas para garantizar que los sistemas sigan alineados con los valores humanos.
El libro destaca la importancia de las diferencias culturales y sugiere adaptar los sistemas de IA a contextos específicos. Además, establece límites éticos que los sistemas de IA no deben cruzar. Fomentar la colaboración y la transparencia es clave para garantizar que la IA sirva a los intereses de la humanidad y se guíe por valores compartidos, avanzando en el bienestar de la sociedad.
Peligros
Un informe del Consejo de Derechos Humanos de la Organización de las Naciones Unidas (ONU) advierte que el uso indebido de IA en la recolección de datos representa una «amenaza significativa» para el derecho a la privacidad. Sin regulaciones claras, el panorama de vigilancia masiva podría volverse una realidad preocupante.
Ante esto, Llanos recomienda tomar ciertas medidas.
● Impulsar la educación en IA: promover la alfabetización tecnológica es clave. Estudiantes, profesionales y la sociedad en general deben estar informados sobre el funcionamiento de la IA y sus implicaciones.
● Garantizar la responsabilidad: es vital crear mecanismos legales que asignen responsabilidades claras en caso de fallos o daños causados por sistemas de IA.
● Prevenir el uso malintencionado de la IA: es necesario prever los usos potencialmente peligrosos de la IA, como sistemas de vigilancia masiva. Esto debe estar en la agenda de los legisladores y organismos internacionales de seguridad.
● Desarrollar IA ética desde el diseño: los desarrolladores deben incorporar principios éticos desde el diseño de los sistemas de IA, priorizando el bienestar humano y evitando decisiones automatizadas.
La inteligencia artificial promete enormes avances, pero los riesgos éticos son igualmente significativos. La privacidad, la equidad y la seguridad global están en juego.
“A medida que la IA se integra cada vez más en nuestras vidas, es imprescindible que tanto legisladores como tecnólogos trabajen juntos para establecer normas claras que protejan a los ciudadanos, aseguren una distribución justa de los beneficios y mitiguen los peligros potenciales”, concluye el experto.