Por Manuel Filomeno<\/p>\n
La inteligencia artificial (IA) es uno de los grandes logros de la humanidad y la culminaci\u00f3n de m\u00e1s de 50 a\u00f1os de esfuerzos y avances tecnol\u00f3gicos; sin embargo, esta nueva herramienta no est\u00e1 exenta de riesgos, como la desinformaci\u00f3n o los ciberataques avanzados.<\/span><\/p>\n Como ocurre con cualquier herramienta tecnol\u00f3gica, la IA puede ser utilizada para el bien o para el mal y los delincuentes pueden usarla para cometer\u00a0cr\u00edmenes, como la\u00a0extorsi\u00f3n, por ejemplo.<\/span><\/p>\n \u201cS\u00ed, es posible utilizar la inteligencia artificial (IA) para realizar extorsiones, pero no es necesariamente f\u00e1cil de hacerlo\u201d, indica Marcelo Pacheco, director de la carrera de Ingenier\u00eda de Sistemas de la Universidad Franz Tamayo, Unifranz.<\/span><\/p>\n Pacheco agrega que un ejemplo es el uso de los <\/span>deepfakes <\/span><\/i>(falsificaciones profundas), que son\u00a0v\u00eddeos manipulados mediante la IA\u00a0para hacer que una persona parezca decir o hacer algo que no ha hecho en realidad. Otro, es el uso de bots (robots) conversacionales (chatbots) para realizar estafas.<\/span><\/p>\n \u201cLos bots pueden ser\u00a0programados\u00a0para\u00a0hacer preguntas y\u00a0ofrecer informaci\u00f3n enga\u00f1osa\u00a0o persuasiva para que las personas entreguen informaci\u00f3n personal o realicen pagos\u201d, puntualiza.<\/span><\/p>\n Recientemente, el Instituto de Tecnolog\u00eda de Massachusetts\u00a0(MIT) recopil\u00f3 en un repositorio m\u00e1s de 777\u00a0riesgos asociados con la IA, los cuales est\u00e1n catalogados en siete \u00e1reas clave.\u00a0<\/span><\/p>\n El repositorio, disponible en la p\u00e1gina web <\/span>https:\/\/airisk.mit.edu\/<\/span><\/a> proporciona una base de datos detallada y categorizada para abordar la falta de un entendimiento com\u00fan sobre los riesgos de la IA.<\/span><\/p>\n \u00bfCu\u00e1les son los riesgos de la IA seg\u00fan el MIT?<\/b><\/p>\n Se realiz\u00f3 una primera clasificaci\u00f3n de los riesgos de inteligencia artificial mediante una Taxonom\u00eda de Riesgos de IA por Dominio. Esta clasificaci\u00f3n identifica siete \u00e1reas clave:<\/span><\/p>\n 1. Discriminaci\u00f3n y toxicidad<\/span><\/p>\n Se refiere a c\u00f3mo los modelos de inteligencia artificial pueden perpetuar estereotipos sociales y fomentar la discriminaci\u00f3n injusta.\u00a0<\/span><\/p>\n Esto sucede cuando dichos modelos reproducen o amplifican lenguaje discriminatorio, creando desigualdades en el trato o en el acceso a recursos basadas en caracter\u00edsticas sensibles como el sexo, la religi\u00f3n, el g\u00e9nero, la orientaci\u00f3n sexual, la capacidad y la edad.<\/span><\/p>\n 2. Privacidad y seguridad<\/span><\/p>\n La generaci\u00f3n de contenido por parte de los modelos de inteligencia artificial que puede incluir informaci\u00f3n personal sensible, un fen\u00f3meno conocido como filtraci\u00f3n de privacidad. Esta situaci\u00f3n puede resultar en la exposici\u00f3n no autorizada de datos privados.<\/span><\/p>\n 3. Desinformaci\u00f3n<\/span><\/p>\n Estos da\u00f1os incluyen la propagaci\u00f3n de desinformaci\u00f3n, contaminaci\u00f3n, agotamiento de recursos, enfermedades mentales o injusticias, afectando negativamente a la sociedad.<\/span><\/p>\n 4. Actores malintencionados y uso indebido<\/span><\/p>\n Hace referencia al riesgo de que la inteligencia artificial sea utilizada por personas o grupos con intenciones da\u00f1inas para causar perjuicio a gran escala.<\/span><\/p>\n 5. Interacci\u00f3n humano-computadora<\/span><\/p>\n MIT examina los riesgos asociados con la influencia negativa de la inteligencia artificial sobre los usuarios.\u00a0Si un modelo de lenguaje (LM) promueve comportamientos o puntos de vista \u00e9ticamente cuestionables, podr\u00eda incentivar a los usuarios a realizar acciones perjudiciales que no habr\u00edan contemplado por s\u00ed mismos.<\/span><\/p>\n Este problema es particularmente alarmante cuando la IA se percibe como una autoridad o asistente confiable, ya que puede inducir a comportamientos da\u00f1inos sin que el usuario tuviera esa intenci\u00f3n inicial.<\/span><\/p>\n 6. Da\u00f1os socioecon\u00f3micos y ambientales<\/span><\/p>\n La categor\u00eda, da\u00f1os socioecon\u00f3micos y ambientales, se refiere al impacto negativo de la inteligencia artificial en la sostenibilidad y el medio ambiente.<\/span><\/p>\n 7. Seguridad, fallos y limitaciones de los sistemas de IA<\/span><\/p>\n La seguridad, fallos y limitaciones de los sistemas de IA, puede producir riesgos asociados con ataques que explotan vulnerabilidades en la inteligencia artificial para maximizar el consumo de energ\u00eda y afectar el rendimiento del sistema.<\/span><\/p>\n \u00bfUna regulaci\u00f3n de la IA evitar\u00eda su mal uso?<\/b><\/p>\n Debido a los posibles riesgos y desaf\u00edos que representa el uso de la IA para la sociedad, tanto actualmente como en el futuro, hay una imperiosa necesidad de una regulaci\u00f3n \u00e9tica y responsable.<\/span><\/p>\n Existen diferentes enfoques para regular la IA. Algunos pa\u00edses, por ejemplo, han establecido pol\u00edticas y marcos regulatorios espec\u00edficos para la IA, mientras que otros est\u00e1n considerando nuevas regulaciones o adaptando las ya existentes. En l\u00edneas generales,\u00a0la regulaci\u00f3n\u00a0de la IA\u00a0se centra en la transparencia, la responsabilidad y la \u00e9tica.<\/span><\/p>\n William Llanos Torrico, docente de la materia de Derecho Inform\u00e1tico en la Universidad Franz Tamayo, Unifranz, sostiene que\u00a0el delito inform\u00e1tico implica actividades criminales\u00a0que los pa\u00edses han tratado de encuadrar en figuras t\u00edpicas de car\u00e1cter tradicional como robos, hurtos, fraudes, falsificaciones, estafas o sabotajes.<\/span><\/p>\n Sin embargo, la utilizaci\u00f3n de las t\u00e9cnicas inform\u00e1ticas ha creado nuevas posibilidades del uso indebido de las tecnolog\u00edas, lo que demanda la necesidad de\u00a0mayor regulaci\u00f3n por parte del Derecho.<\/span><\/p>\n El impacto de las nuevas tecnolog\u00edas est\u00e1 dando lugar a profundas transformaciones y el derecho debe responder ante estas nuevas relaciones.\u00a0\u00a0<\/span><\/p>","protected":false},"excerpt":{"rendered":" Por Manuel Filomeno La inteligencia artificial (IA) es uno de los grandes logros de la humanidad y la culminaci\u00f3n de m\u00e1s de 50 a\u00f1os de esfuerzos y avances tecnol\u00f3gicos; sin embargo, esta nueva herramienta no est\u00e1 exenta de riesgos, como la desinformaci\u00f3n o los ciberataques avanzados. Como ocurre con cualquier herramienta tecnol\u00f3gica, la IA puede … Continued<\/a><\/p>","protected":false},"author":45,"featured_media":447877,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[60,8728,5052],"tags":[],"class_list":["post-447876","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-blog","category-ia","category-inteligencia-artificial-es"],"acf":[],"_links":{"self":[{"href":"https:\/\/unifranz.edu.bo\/pt\/wp-json\/wp\/v2\/posts\/447876","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/unifranz.edu.bo\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/unifranz.edu.bo\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/unifranz.edu.bo\/pt\/wp-json\/wp\/v2\/users\/45"}],"replies":[{"embeddable":true,"href":"https:\/\/unifranz.edu.bo\/pt\/wp-json\/wp\/v2\/comments?post=447876"}],"version-history":[{"count":3,"href":"https:\/\/unifranz.edu.bo\/pt\/wp-json\/wp\/v2\/posts\/447876\/revisions"}],"predecessor-version":[{"id":450214,"href":"https:\/\/unifranz.edu.bo\/pt\/wp-json\/wp\/v2\/posts\/447876\/revisions\/450214"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/unifranz.edu.bo\/pt\/wp-json\/wp\/v2\/media\/447877"}],"wp:attachment":[{"href":"https:\/\/unifranz.edu.bo\/pt\/wp-json\/wp\/v2\/media?parent=447876"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/unifranz.edu.bo\/pt\/wp-json\/wp\/v2\/categories?post=447876"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/unifranz.edu.bo\/pt\/wp-json\/wp\/v2\/tags?post=447876"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}