{"id":53028,"date":"2024-08-28T18:19:15","date_gmt":"2024-08-28T18:19:15","guid":{"rendered":"https:\/\/landivar.com\/?p=53028"},"modified":"2024-08-28T18:46:04","modified_gmt":"2024-08-28T18:46:04","slug":"los-riesgos-de-corrupcion-en-la-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/landivar.com\/en_us\/los-riesgos-de-corrupcion-en-la-inteligencia-artificial\/","title":{"rendered":"LOS RIESGOS DE CORRUPCI\u00d3N EN LA INTELIGENCIA ARTIFICIAL"},"content":{"rendered":"

Dr. Andr\u00e9s V\u00edctor Salazar Monasterios<\/em><\/strong><\/p>\n\n\n\n

En la actualidad, constantemente ingresan en nuestra vida diaria diferentes tipos de m\u00e1quinas que cuentan con tecnolog\u00eda de Inteligencia Artificial. La misma se constituye sin lugar a dudas en como algo transformador y perturbador del orden pol\u00edtico y social, que establece hito en la historia de la humanidad de magnitudes similares a la Revoluci\u00f3n Industrial, que generar\u00e1 al mismo tiempo desarrollo y desempleo. Por lo que, si tenemos en cuenta la gran importancia e impacto que tiene esta herramienta, personas inescrupulosas, buscando beneficios propios, podr\u00edan darle un uso inadecuado e inclusive ilegal a la IA.<\/p>\n\n\n\n

Tengamos presente que existen varios factores que desempe\u00f1an un papel importante en la creciente influencia de la IA, entre ellas podemos mencionar la constante mejora en la maquinaria inform\u00e1tica, situaci\u00f3n que permite un evidente aumento del procesamiento de datos por la gran disponibilidad de datos en formato digital, al ser el principal sustento para los sistemas de IA y evidentemente, los avances tecnol\u00f3gicos en el campo del aprendizaje autom\u00e1tico, el hecho de que la IA entrena algoritmos para realizar tareas espec\u00edficas de forma aut\u00f3noma, entre otros.<\/p>\n\n\n\n

La IA se est\u00e1 implementando en muchos \u00e1mbitos, generando un potencial efecto positivo en la sociedad, toda vez que puede contribuir en hacer m\u00e1s eficientes los diferentes procesos necesarios en el d\u00eda a d\u00eda, asimismo, tiene la capacidad de generar estrategias para los retos medioambientales y lograr avances en las ciencias biol\u00f3gicas, en el sector m\u00e9dico, existen sistemas de IA utilizados para el diagn\u00f3stico, entre otros.<\/p>\n\n\n\n

Entonces, esta creciente influencia de la Inteligencia Artificial sobre la sociedad, tambi\u00e9n conllev\u00f3 al desarrollo de sistemas de IA en la lucha contra la corrupci\u00f3n. Por ejemplo, en la predicci\u00f3n de los riesgos de \u00e9sta bas\u00e1ndose en datos, as\u00ed como tambi\u00e9n se utilizan con mucha regularidad sistemas de algoritmos en el Compliance empresarial, para evitar el lavado de dinero y la legitimaci\u00f3n de ganancias il\u00edcitas, cuyo sistema analiza bases de datos masivas de transacciones financieras para detectar irregularidades, en rangos definidos por el programador del sistema.<\/p>\n\n\n\n

As\u00ed como tiene elementos positivos, la IA tambi\u00e9n tiene repercusiones negativas, voluntarias o no, muchas veces la IA puede producir resultados no deseados como consecuencia de datos de entrada sesgados, algoritmos defectuosos o una aplicaci\u00f3n irresponsable. Ahora bien, aparte de los elementos negativos aparentemente involuntarios, cada vez se producen m\u00e1s casos en los que la IA se convierte intencionadamente en un arma, por ejemplo, estafadores que utilizan imitaciones realistas de contenidos audiovisuales producidos por la IA, para perpetrar sus planes, la suplantaci\u00f3n de identidad, la fijaci\u00f3n uniformada de precios a trav\u00e9s de la utilizaci\u00f3n de algoritmos de IA, la utilizaci\u00f3n de bots para difundir noticias falsas y desinformaci\u00f3n sobre una situaci\u00f3n en particular para aumentar el valor de una empresa por ejemplo o ir en contra de un candidato pol\u00edtico. Por lo que es necesario diferenciar el uso malicioso de sistemas de IA con que el sistema de IA est\u00e9 corrupto en s\u00ed mismo, porque estos actos no son ejecutados por los programadores del sistema.<\/p>\n\n\n\n

Ahora bien, de lo mencionado precedentemente, es necesario entender a que nos referimos con una IA corrupta, constituy\u00e9ndose en el uso malintencionado de los sistemas de IA por parte de un usuario interesado en beneficio privado o en perjuicio de un tercero. De lo se\u00f1alado se puede inferir consecuentemente que, \u00e9ste es un tipo de delincuencia particularmente dif\u00edcil de sancionar. En una sociedad cada vez m\u00e1s digitalizada, como en la que vivimos hoy, quienes tienen los algoritmos, c\u00f3digos y datos son cada vez m\u00e1s poderosos, por lo que la IA tiene la capacidad de consolidad desequilibrios de poder y como en todo hecho de corrupci\u00f3n la debilidad en la lucha se encuentra en que, quienes pueden combatirla, normalmente tienen pocos incentivos para hacerlo porque normalmente se benefician de la misma, en contraposici\u00f3n, las v\u00edctimas, quienes tienen el incentivo para combatir la corrupci\u00f3n, usualmente tienen poco poder para hacerlo. Entonces, la IA, al encontrarse en las manos de los poderosos, solamente exacerba esta tendencia. M\u00e1s a\u00fan cuando las leyes no van a la misma velocidad que la sociedad en s\u00ed misma, las reglamentaciones quedan obsoletas con mayor facilidad, y los delincuentes al ser cada vez m\u00e1s creativos, dejan en un estado pleno de indefensi\u00f3n al ciudadano promedio ante una situaci\u00f3n como \u00e9sta.<\/p>\n\n\n\n

La IA, es una herramienta poderosa de influencia y cambio, esencia que la hace atractiva para su utilizaci\u00f3n irrestricta para beneficio de los detentadores de poder pol\u00edtico y econ\u00f3mico, que se apoyan en la debilidad establecida precedentemente del Estado de Derecho, lo cual facilita ampliamente a que la IA se utilice de forma corrupta, al existir dirigentes pol\u00edticos o grandes empresas que buscan enriquecerse o consolidar su control sobre el poder. Es claro que, a lo largo de la historia de la humanidad, los sistemas pol\u00edticos han evolucionado hacia formas de gobierno m\u00e1s autocr\u00e1ticas, lo cual es una precedente a la corrupci\u00f3n per s\u00e9.<\/p>\n\n\n\n

La corrupci\u00f3n en la IA puede tener varias formas de aplicaci\u00f3n, por ejemplo, cuando el sistema de IA se dise\u00f1a intencionadamente con fines corruptos (ej. Cuando un pol\u00edtico crea un sistema de IA para generar desinformaci\u00f3n con el fin de desacreditar e intimidar a sus oponentes en una elecci\u00f3n); otra forma de aplicaci\u00f3n se da si los datos de entrenamiento de los sistemas de IA existentes se manipulan para lograr objetivos corruptos en beneficio privado o perjuicio espec\u00edfico (ej.  Un programador de IA podr\u00eda dise\u00f1ar una valor adicional hacia cierto grupo de personas bas\u00e1ndose en su g\u00e9nero, raza o nacionalidad); o la forma m\u00e1s convencional cuando un sistema de IA se aplica de forma corrupta (ej. La creaci\u00f3n de contenido hiper realista para obtener un mayor beneficio al momento de la valoraci\u00f3n de una empresa con el fin de aumentar el valor de sus acciones).<\/p>\n\n\n\n

En el \u00e1mbito m\u00e9dico, por ejemplo, los actores maliciosos podr\u00edan programar a la IA para que detecten enfermedades que no existen, en este sentido, se podr\u00eda manipular la directiva de la IA de tal manera que pueda asegurar una maximizaci\u00f3n de los ingresos para el hospital en perjuicio de la salud misma del paciente. Ahora bien, teniendo en cuenta que existen sistemas de IA creados con objetivos benignos concretos, como se mencion\u00f3 precedentemente, tambi\u00e9n pueden ser utilizados corruptamente, se han dado casos en los que se utilizan los sistemas que detectan los intereses de las personas para generar las publicidades adecuadas en campa\u00f1as pol\u00edticas.<\/p>\n\n\n\n

Ahora bien, considerando que la IA es una tecnolog\u00eda emergente, sus consecuencias son dif\u00edciles de predecir, por lo que ser\u00e1 pragm\u00e1ticamente dif\u00edcil elaborar normativas aplicables al caso, pero si las normativas se posponen hasta que la utilizaci\u00f3n de esta nueva tecnolog\u00eda sea amplia, llegar\u00e1n demasiado tarde, es por eso que se tiene que generar normativa b\u00e1sica sobre el tema y que, con especial inter\u00e9s, vaya evolucionando a la par de la utilizaci\u00f3n de la IA, al menos en el establecimiento de directrices para el desarrollo y aplicaci\u00f3n \u00e9tica de la IA, claro es el ejemplo de la Uni\u00f3n Europea al emitir el Reglamento Europeo de Inteligencia artificial, mismo que regula los sistemas de alto riesgo que podr\u00edan abarcar temas relevantes para la salud, la seguridad o lo derechos fundamentales. <\/p>\n\n\n\n

El impacto que tiene la IA en la sociedad es inconmensurable y se encuentra en constante crecimiento. Es por eso que, en el mundo digital, se crea una nueva forma de poder, a quienes tienen los c\u00f3digos o algoritmos, que en su mayor\u00eda son gobiernos o grandes empresas tecnol\u00f3gicas. Por esta raz\u00f3n, se debe promover el desarrollo de normativa al respecto que apoyen y regulen el dise\u00f1o e implementaci\u00f3n \u00e9ticos de la IA, as\u00ed como la concientizaci\u00f3n y capacitaci\u00f3n de su uso.  Siendo de vital importancia, introducir obligaciones de transparencia para todos los modelos de IA con el fin de permitir una mejor comprensi\u00f3n de estos modelos y obligaciones adicionales de gesti\u00f3n de riesgos. Por lo que, irrefutablemente, la IA es un nuevo hito en la historia de la humanidad, por lo que debe usarse de manera responsable, y como usuarios debemos ser capaces de utilizar la inteligencia humana para discernir la informaci\u00f3n proveniente de estos sistemas y utilizarla de forma \u00e9tica.<\/p>\n\n\n