ONU advierte que una IA sin control, genera el peligro de crear un “monstruo de Frankenstein”
Volker Türk insistió en que las empresas tecnológicas deben realizar evaluaciones de impacto desde la fase de diseño hasta la comercialización de sus productos
"Si no presentamos una visión de un mundo mejor", dijo Volker Türk, "podríamos terminar aún más polarizados y con guerras que ya no están controladas por humanos. Y eso es muy peligroso". Crédito: Gene J. Puskar | AP
El Alto Comisionado de las Naciones Unidas para los Derechos Humanos advirtió que el desarrollo acelerado y sin salvaguardas de la inteligencia artificial (IA) puede convertirse en un “monstruo de Frankenstein”, capaz de escapar al control humano y provocar daños profundos en las sociedades.
Volker Türk alertó que cuando quienes diseñan estas tecnologías carecen de una comprensión sólida de principios éticos y sociales fundamentales, el resultado puede ser devastador. “Cuando los desarrolladores tienen un conocimiento muy superficial de los principios fundamentales, me recuerda un poco al monstruo de Frankenstein: desarrollas algo que ya no controlas”, afirmó. “Si no eres consciente de los peligros y los riesgos, puedes causar estragos”.
El funcionario subrayó que, aunque la IA generativa ofrece un potencial “tremendamente prometedor” en áreas como la salud, la educación o el desarrollo sostenible, su explotación con fines exclusivamente políticos o económicos puede manipular, distorsionar y distraer a la opinión pública, poniendo en riesgo derechos fundamentales como la privacidad, la libertad de expresión, la participación política y el acceso al trabajo.
Desigualdad, prejuicios y poder sin límites
Türk identificó la desigualdad como uno de los riesgos más urgentes. Señaló que, si los datos que alimentan estos sistemas provienen solo de ciertas regiones del mundo o si su desarrollo está dominado por grupos homogéneos, por ejemplo, mayoritariamente hombres, los sesgos inconscientes terminarán integrados en los algoritmos.
“Es clave prestar atención a los grupos vulnerables y las minorías, porque a menudo quedan excluidos del desarrollo de la IA”, apuntó, al tiempo que celebró que el debate global incluya a países como India para evitar que el poder tecnológico quede concentrado en unos pocos centros.
El Alto Comisionado también comparó el avance descontrolado de la IA con “dejar salir el genio de la botella”. Recordó el caso de Myanmar, donde plataformas digitales amplificaron discursos de odio contra la minoría rohinyá, como ejemplo de cómo la tecnología puede exacerbar conflictos reales.
Asimismo, advirtió sobre el impacto de la desinformación y la misoginia en línea, que, dijo, están erosionando el tejido social y empujando incluso a mujeres a abandonar la vida política por el acoso que enfrentan en redes sociales.
Türk insistió en que las empresas tecnológicas deben realizar evaluaciones de impacto en derechos humanos desde la fase de diseño hasta la comercialización de sus productos, de manera similar a lo que ocurre en la industria farmacéutica.
“El poder no limitado por la ley puede conducir al abuso y la subyugación”, concluyó. Si no se construye una visión inclusiva y responsable del futuro digital, advirtió, el mundo podría enfrentar sociedades más polarizadas e incluso conflictos armados fuera del control humano.
Sigue leyendo:
