Cinco riesgos de la IA y los retos de la educación superior para evitarlos

Cinco riesgos de la IA y los retos de la educación superior para evitarlos

La Inteligencia Artificial (IA) es hoy una realidad palpable en la vida cotidiana. Sin embargo, detrás de su aparente perfección, se esconden riesgos significativos que deben ser abordados con urgencia desde una formación basada en la ética.
Con la irrupción de la IA, desde hace ya un tiempo se advirtió un incremento alarmante en el uso malicioso de esta herramienta para perpetrar estafas, robos y otros crímenes cibernéticos. Los delincuentes aprendieron a aprovechar la sofisticación de los algoritmos de IA para perpetrar ataques cada vez más eficaces y difíciles de detectar.

El aumento de las estafas y robos basados en la IA plantea una serie de riesgos que van más allá del ámbito digital. La pérdida de datos personales y financieros puede tener consecuencias devastadoras para las víctimas, que van desde la suplantación de identidad hasta delitos financieros. Además, el crecimiento de la ciberdelincuencia alimentada por la IA plantea desafíos cada vez mayores para las autoridades encargadas de hacer cumplir la ley, que luchan por mantenerse al día con la rápida evolución de las tácticas de los delincuentes digitales.

Los riesgos de la IA

Manipulación, seguridad y vulnerabilidad. Cada vez que navegamos por internet, dejamos un rastro de información privada que puede ser explotada de manera alarmante. Estos datos permiten hacer predicciones precisas, como los resultados electorales, y el verdadero peligro radica en su potencial para manipular decisiones y comportamientos sin nuestro conocimiento.

Uso indebido. La falta de un marco regulatorio robusto para nuevos algoritmos de Inteligencia Artificial expone a la sociedad a usos indebidos y a menudo peligrosos. Estos algoritmos, sin restricciones claras, pueden ser empleados para fines que no son éticos ni legales, una situación mucho más común de lo que se podría pensar.

Seguridad. La IA realiza tareas de automatización complejas a una velocidad que supera nuestras capacidades humanas. En un entorno corporativo, donde los procesos están altamente automatizados y las herramientas para detectar amenazas son limitadas, la IA puede ser utilizada para actos maliciosos y la introducción de virus, dificultando la mitigación de sus impactos.

Terrorismo Cibernético. La IA puede dar lugar a un nuevo tipo de terrorismo. Esto podría incluir el uso de drones autónomos, robots y minirrobots para ataques remotos o la propagación de enfermedades. Enfrentar estas amenazas emergentes requerirá tiempo, recursos y una cooperación internacional sin precedentes, reportó NewNet News, portal de Seguridad de la información y Ciberseguridad.

Transformación de las Relaciones Humanas. La proliferación de dispositivos y aplicaciones con IA transformó las interacciones sociales. Existe un riesgo real de que se pierdan las habilidades sociales esenciales si no se invierte en fomentar las relaciones humanas y crear espacios para la interacción personal.

Bolivia, víctima de mala utilización de la IA

Un artículo del Estudio Jurídico BDA, con sede en Santa Cruz de la Sierra, advierte que “en Bolivia la regulación sobre los aspectos tecnológicos tiene su referencia en la Ley General de Telecomunicaciones, Tecnologías de Información y Comunicación N°164, sin embargo, al ser esta una norma emitida en 2011, no contiene disposiciones que respondan a los constantes cambios que se presentan en este sector y mucho menos con relación a la IA, que es una herramienta más reciente”.

Durante la última semana de abril, el portal Bolivia Verifica detectó y analizó diversos contenidos, algunos creados con el fin de timar a la gente y otros para generar controversia.

“En un caso se emplea la imagen del presidente Luis Arce, a quien se escucha promover un canal de Telegram donde se ofrece ayuda económica. Sin embargo, las imágenes están fuera de contexto (son de 2023) y la voz fue creada con IA (…). En otro, se usa la imagen del diario cruceño El Deber, en particular la de una de sus presentadoras, Gabriela Moreno. A ella también se le escucha anunciar un proyecto para ‘sacar de la pobreza’ a las familias, pero se trata de una estafa y su voz fue simulada con herramientas tecnológicas”, se lee en un comunicado del medio.

Son múltiples las denuncias registradas a diario por diversos medios de comunicación, como el más reciente caso de una “empresa de ciberestafas” que funcionaba desde Santa Cruz y tendría decenas de víctimas en Bolivia y otros países, que reflejan la vulnerabilidad de la población frente a los, cada vez más, ingeniosos delincuentes.

Formación con ética para mitigar los riesgos

A pesar de los riesgos que plantea la IA, así como la tecnología en general, también se presentan desafíos significativos que deben ser abordados desde la formación de nuevos profesionales.

A través de programas educativos rigurosos y actualizados, las instituciones educativas deben preparar a los estudiantes para navegar las complejidades técnicas, éticas y sociales de la IA. Este enfoque permitirá no sólo la innovación y el avance tecnológico, sino también el desarrollo de soluciones responsables y sostenibles.

La profesional en Ingeniería de Sistemas, Carmen Rosa Meneses, asegura que “a escala mundial y nacional, hay una escasez crónica de profesionales en ciberseguridad. Esta demanda no satisfecha denota que hay numerosas oportunidades laborales para quienes deseen ingresar a esta industria”.

Por su parte, la directora de Ingeniería de Sistemas en Unifranz El Alto, Nataly Miranda, afirma que la institución trabaja en la formación de profesionales con una sólida formación técnica, a partir de su modelo de aprendizaje basado en competencias, pero también con énfasis en la consolidación de los valores éticos y morales, factor elemental en el perfil profesional.

“De esta manera, los estudiantes están capacitados para utilizar sus conocimientos de forma positiva, aprovechando la tecnología y sus herramientas de manera responsable y beneficiosa para la sociedad”, agrega la titular académica.

La profesional también destaca que, en el caso de Unifranz, la formación profesional incluye la mención de especialización en Inteligencia Artificial, la cual permite a los estudiantes desarrollar habilidades y competencias en las nuevas tecnologías, aprender a diseñar estrategias en las áreas de machine learning, deep learning, gestión del conocimiento, ciencia de datos y sistemas inteligentes.

Asimismo, “aprender haciendo” es un elemento crucial, por lo que los laboratorios prácticos juegan un rol importante al permitir a los estudiantes aplicar sus conocimientos en un entorno controlado. Con ello realizan pruebas de penetración y corrigiendo vulnerabilidades en sistemas y aplicaciones reales.

En este contexto, mientras la IA continúa avanzando y remodelando nuestro mundo, es fundamental mantener un enfoque equilibrado, abordando tanto sus beneficios como sus riesgos. La formación adecuada de profesionales en el campo podría ayudar a garantizar un desarrollo de la IA de manera ética cuyas aplicaciones beneficien a la sociedad en su conjunto.

¿Quieres ser líder en el desarrollo y uso ético de la Inteligencia Artificial? Estudia Ingeniería de Sistemas en Unifranz y transforma el futuro de la tecnología. Para más información, ingresa al siguiente enlace: https://ux.unifranz.edu.bo/ingenieria-de-sistemas

 

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *