Preocupa Inteligencia Artificial en seguridad nacional y protección de datos, reconoce Administración Biden

La tecnología de Inteligencia Artificial (IA) está evolucionando rápidamente, a diferencia del marco legal para evitar abusos o riesgos a la seguridad nacional, reconoce el gobierno del presidente Joe Biden.

Debido a ello, el presidente Biden firmó –acompañado de la vicepresidenta Kamala Harris– una nueva Orden Ejecutiva para crear el marco regulatorio básico, con acciones en varias dependencias, para evitar afectaciones en seguridad nacional, fraudes, abusos en datos personales, entre otros aspectos.

“El presidente ha sido claro en que debido a que la tecnología tiene tantas aplicaciones, las aplicaciones son amplias y, por lo tanto, los riesgos son amplios”, reconoció en entrevista Arati Prabhakar, asistente del presidente y directora de la Oficina de Política Científica y Tecnológica de la Casa Blanca. “Esta Orden Ejecutiva aborda todo, desde preocupaciones de seguridad hasta cómo se podría utilizar indebidamente la IA para problemas de ciberseguridad, o la capacidad biológica, química o nuclear… pero también hay acciones aquí que abordan cuestiones de fraude y engaño”.

Uno de los aspectos clave es la posibilidad de generar información falsa que contribuya a la desinformación, reconoció la funcionaria a pregunta expresa.

“En esta Orden Ejecutiva, el Presidente toma medidas que nos ayudarán a todos a comprender cuándo la IA genera contenido, o si es contenido ofensivo”, indicó Prabhakar.

Agregó que los lineamientos podrían obligar a las empresas de tecnología IA a colocar “marcas de agua” en fotos o videos, a fin de que la gente sepa que es una imagen generada con esa tecnología.

“Entonces estos son pasos importantes. Y creo que también queremos dejar claro que ésta es un área en la que el Congreso tendrá que actuar”, reconoció la funcionaria sobre las limitantes de la Orden Ejecutiva.

Agregó que la Administración Biden ha estado en diálogo con el Congreso para la regulación de IA.

“El Congreso ha estado muy activo en la exploración de la IA”, afirmó Prabhakar.

Destacó que el líder de la mayoría en el Senado, Chuck Schumer (Nueva York) ha sido uno de los principales impulsores de un proyecto de ley.

“[Schumer] ha reunido un grupo bipartidista de miembros”, defendió la funcionaria.
Sobre la apertura de los republicanos, ahora liderados por el presidente de la Cámara, Mike Johnson (Louisiana), Prabhakar señaló que hay diálogo también en esa legislatura.

“También ha habido trabajo por parte de la Cámara. Y esas son conversaciones en curso, hay acciones legislativas propuestas”, expuso.

¿Poblaciones como la latina enfrentan riesgos con IA?

La asesora Prabhakar reconoció que la Inteligencia Artificial podría representar cierto riesgo para algunas poblaciones, más que otras.

“Esta es una tecnología en la que la gente trabaja con datos. Entonces, es un tren sobre datos sesgados, entonces su salida también estará sesgada”, reconoció la funcionaria. “Y el Presidente ha sido claro desde el principio en que la equidad y los derechos civiles son pilares esenciales”.

Agregó que los esfuerzos de la Administración Biden incluyen respeto a los derechos civiles, en cuanto a la equidad y oportunidades, pero también para evitar sesgos en algoritmos.

“Esta no ha sido la primera acción que [el presidente Biden] ha tomado para luchar contra la discriminación. Por ejemplo, firmó una orden ejecutiva para garantizar que no incorporemos sesgos ni algoritmos”, dijo. “Esta [nueva] orden ejecutiva se basa en eso e incluye, por ejemplo, medidas que mejorarán la equidad del uso de la IA en el proceso de justicia penal”.

Qué contempla la Orden Ejecutiva

Las nuevas directrices de la Administración Biden sobre IA contemplan varios aspectos.

1. Nuevos estándares para la seguridad.- Se suman exigencias para que desarrolladores compartan los resultados de sus pruebas de seguridad y otra información esencial con el gobierno de EE.UU., así como desarrollar estándares, herramientas y pruebas para ayudar a garantizar que los sistemas de IA sean seguros y confiables.

2. Proteger la privacidad.- Hay riesgos de que IA facilite la extracción, identificación y explotación de datos personales, por ello se exigirán técnicas y herramientas que ayuden a preservar la privacidad.

3. Promoción de la equidad y los derechos civiles.- Los lineamientos buscan evitar que se incremente la discriminación de cualquier tipo y los abusos en el sistema de justicia, atención médica y vivienda; también aborda la “discriminación algorítmica”.

4. Consumidores y trabajadores.- La Orden Ejecutiva establece lineamientos para defender a los consumidores, pacientes y estudiantes; apoyar a los trabajadores para evitar que pierdan sus empleos debido a esa tecnología; además de ayudar a promover la innovación y la competencia.