Ejército chino utilizó la IA de Meta sin autorización para crear su propio chatbot

Meta, la compañía estadounidense detrás de modelos de inteligencia artificial como Llama, ha revelado que investigadores chinos vinculados al Ejército Popular de Liberación (PLA, por sus siglas en inglés) han utilizado su tecnología sin autorización para desarrollar un sistema de IA orientado a aplicaciones militares. 

Este caso, que involucra el uso de un modelo Llama de Meta en un contexto de defensa, ha generado preocupación tanto en el ámbito empresarial como en el de la seguridad nacional de Estados Unidos.

¿Qué es ChatBIT?

El proyecto, conocido como “ChatBIT”, fue desarrollado por investigadores de diversas instituciones chinas, incluidas algunas vinculadas directamente al PLA. Según un artículo académico revisado en junio de 2023, seis investigadores chinos de tres instituciones, entre ellas la Academia de Ciencias Militares (AMS) del PLA, utilizaron una versión temprana del modelo Llama 13B de Meta. Este modelo fue modificado para cumplir con los requerimientos de inteligencia y toma de decisiones en el ámbito militar.

La investigación detalla que ChatBIT fue diseñado para mejorar la recopilación y análisis de información militar. Los investigadores explicaron que optimizaron el modelo para tareas de diálogo y respuesta, enfocándose en ofrecer información precisa y confiable para apoyar la toma de decisiones operativas en situaciones de combate. 

Además, los resultados indicaron que ChatBIT superaba a otros modelos de inteligencia artificial en rendimiento en el ámbito militar, situándose aproximadamente al 90% de la capacidad de ChatGPT-4, de OpenAI.

Meta responde a la controversia sobre el uso indebido

Meta ha defendido históricamente el acceso abierto a sus modelos de IA, en un intento por fomentar la innovación y el avance tecnológico global. Sin embargo, impone restricciones en cuanto al uso de estos modelos, prohibiendo explícitamente su aplicación en áreas como la militar, la defensa nuclear, el espionaje y otras áreas sensibles que están sujetas a control de exportaciones por parte de Estados Unidos. Al descubrir el uso del modelo Llama en aplicaciones militares chinas, Meta enfatizó que esta actividad es “no autorizada y contraria a su política de uso aceptable”.

Molly Montgomery, directora de políticas públicas de Meta, destacó que cualquier uso de sus modelos por parte del Ejército Popular de Liberación es contrario a sus términos y condiciones. 

La empresa argumenta que, aunque promueve el acceso abierto, es esencial que el gobierno de Estados Unidos implemente regulaciones que limiten el uso de tecnologías avanzadas en sectores donde existen riesgos para la seguridad.

Reacción del gobierno estadounidense ante el avance de la IA en China

Ante la creciente competencia en el campo de la inteligencia artificial, el gobierno de Estados Unidos ha intensificado sus esfuerzos para monitorear el avance de las tecnologías de IA en países considerados competidores. 

En octubre de 2023, el presidente Joe Biden firmó una orden ejecutiva dirigida a gestionar el desarrollo de la IA en el país, advirtiendo sobre los riesgos asociados a la innovación sin control.

El Pentágono también ha expresado su preocupación sobre la utilización de modelos de IA de código abierto por parte de otras naciones y ha confirmado que seguirá vigilando las capacidades de sus competidores. John Supple, portavoz del Departamento de Defensa, reconoció que los modelos de código abierto tienen beneficios, pero también implican ciertos riesgos en términos de seguridad nacional.

Limitaciones de la política de acceso abierto en la IA

Si bien Meta ha adoptado un enfoque de acceso abierto para impulsar la innovación, el uso de sus modelos en aplicaciones militares plantea serias interrogantes. Al tratarse de modelos de código abierto, Meta carece de mecanismos efectivos para impedir que sean empleados en contextos prohibidos, como es el caso de ChatBIT. En este sentido, algunos críticos afirman que permitir el acceso a estas tecnologías a nivel global pone en riesgo los intereses de seguridad nacional.

William Hannas, analista en el Centro para la Seguridad y la Tecnología Emergente de la Universidad de Georgetown, ha señalado que la colaboración internacional entre científicos de Estados Unidos y China ha facilitado el acceso de los investigadores chinos a tecnologías avanzadas. 

Hannas sugirió que es casi imposible evitar que China acceda a estos “recursos tecnológicos compartidos”, y destacó que la estrategia nacional de China está claramente orientada a convertirse en líder mundial en IA para el año 2030.

El caso de ChatBIT subraya la complejidad de la regulación de la IA en un contexto de competencia global. Mientras que Meta y otras empresas tecnológicas buscan fomentar el acceso abierto para acelerar la innovación, los riesgos asociados a su uso indebido, especialmente en aplicaciones militares, son cada vez más evidentes. 

Sigue leyendo:
 – OpenAI y Meta quieren que su IA logre algo que hasta ahora solo podían hacer los seres humanos
– Audífonos con Inteligencia Artificial: conoce cómo es la nueva apuesta de Meta
– WhatsApp ahora tiene inteligencia artificial: cómo activarla en tu teléfono