California prohíbe inteligencia artificial para crear anuncios electorales falsos

Ante la proximidad de las elecciones de noviembre, el gobernador de California, Gavin Newsom promulgó tres nuevas leyes que prohíben el uso de imágenes y videos falsos en anuncios políticos creados con la inteligencia artificial.

También prohíben la difusión en las redes sociales durante las campañas electorales; y autorizan a los ofendidos a demandar a las empresas en línea que propaguen tales anuncios.

Sin embargo, dos días después de que el gobernador Newsom firmara estas leyes, dos de esas legislaciones fueron desafiadas legalmente en Sacramento.

Las legislaciones firmadas por el gobernador tienen el propósito de combatir la propagación de las noticias falsas en las elecciones de noviembre de 2024, ya que pueden confundir y engañar al electorado.

“Salvaguardar la integridad de las elecciones es esencial para la democracia, y es fundamental que nos aseguremos de que la inteligencia artificial no se utilice para socavar la confianza del público mediante la desinformación, especialmente durante el clima político tenso que vivimos”, dijo el gobernador Newsom al firmar las nuevas leyes.

“Estas medidas ayudarán a combatir el uso nocivo de los deepfakes en anuncios políticos y otros contenidos, una de las diversas áreas en las que el estado está siendo proactivo para fomentar una inteligencia artificial transparente y fiable”.

Pero además su oficina reveló que estas medidas son vitales para preservar la confianza pública en las elecciones en momentos cuando la tecnología de la inteligencia artificial avanza rápidamente.

El deepfake es un video creado por la Inteligencia artificial que luce muy realista.

Cuáles son las nuevas leyes

La AB 2655 del asambleísta Marc Berman de Menlo Park requiere que las plataformas en línea como X y Facebook remuevan el contenido digital alterado o engañoso relacionado con las elecciones durante períodos específicos, y les requiere que proporcionen mecanismos para reportarlos.

También autoriza a los candidatos, funcionarios electos y los electorales así como al procurador general, al fiscal del condado y de la ciudad a solicitar una medida cautelar contra una gran plataforma en línea por incumplimiento de la ley. 

En suma, esta nueva ley permite que los individuos puedan demandar por daños si han sido afectados por el contenido falso.

“Las falsificaciones profundas generadas por la inteligencia artificial plantean un riesgo claro y presente para nuestras elecciones y nuestra democracia”, dijo el asambleísta Berman.

 “Los avances en la inteligencia en los últimos años facilitan la generación de falsificaciones profundas hiperrealistas pero completamente falsas relacionadas con las elecciones, pero la AB 2655 garantizará que las plataformas en línea minimicen su impacto”. 

Agregó que la nueva ley es una victoria para los votantes de California y para la democracia.

La AB 2839 del asambleísta de Santa Cruz, Gail Pellerin entró en vigor de inmediato, y hace ilegal la distribución de material audiovisual engañoso creado por la inteligencia artificial, 120 días antes de la elección y en algunos casos, 60 días después. 

También permite demandar a quien los distribuya, y busca que la corte eche abajo los anuncios deepfakes generados con la inteligencia artificial

Cabe decir que la parodia y la sátira están excluidas de ser afectadas por esta ley, siempre y cuando pongan una aclaración que indique que emplearon la inteligencia artificial.

“Firmar la AB 2839 es un paso importante para continuar protegiendo la integridad del proceso democrático. Con menos de 50 días hasta la elección general, hay una necesidad urgente de protección contra el contenido digitalmente alterado y engañoso que puede interferir con la elección”, dijo el asambleísta Pellerin.

Hizo ver que con la promulgación de la AB 2839, California se posiciona contra el uso manipulador de la tecnología deepfake para engañar a los votantes. 

La ley AB 2355 de la asambleísta de Los Ángeles Wendy Carrillo requiere que las campañas hagan público cuando usen anuncios con material audiovisual alterado por la inteligencia artificial.

“La disponibilidad de herramientas para manipular imágenes, videos y sonido no es nueva. Sin embargo, las rápidas mejoras en la inteligencia artificial y los modelos de lenguaje a gran escala han facilitado la creación de imágenes, videos y sonidos convincentemente falsos”, dijo la asambleísta Carrillo.

Señaló que a medida que estas tecnologías se vuelven más accesibles y se utilizan en campañas políticas, su impacto en la democracia requiere una acción urgente. 

“Los votantes deben estar informados cuando se utiliza la inteligencia artificial en la publicidad política para alterar sustancialmente los medios o crear contenido engañoso”.

Expuso que la libertad de expresión y la expresión política son una piedra angular de nuestra democracia, pero no podemos perder de vista nuestra humanidad en medio del avance de la inteligencia artificial. 

“Esta es una política equilibrada que convierte a California en el primer estado en incluir la inteligencia artificial en sus normas de transparencia de campaña”, dijo la asambleísta Carrillo.

Qué motivó estas leyes

En julio, el gobernador Newsom se comprometió a firmar leyes que fueran tras los deepfakes políticos después de que Elon Musk  compartiera un video de campaña alterado de la vicepresidenta Kamala Harris. 

En ese momento, Musk se burló de Newsom diciendo que la parodia es legal en Estados Unidos; y luego al firmar estas nuevas leyes, el multimillonario se fue contra el gobernador diciendo que acababa de hacer ilegal la parodia. Llamó a un nuevo liderazgo en California y urgió a hacer viral el video de Harris en el que usa inteligencia artificial.

Musk es simpatizante de Trump, y ha asegurado que la libre expresión estaría en riesgo si la vicepresidenta gana las elecciones en noviembre.

A dos días de firmar la nueva legislación para combatir el contenido electoral falso, el gobernador Newsom fue sujeto de una parodia testimonial digital alterada.

Ante la amenaza que representa la desinformación no solo en Estados Unidos sino a nivel mundial, más de una docena de estados están trabajando en proyectos de ley para atender este problema.

Demandas

La ley que entró en vigor de inmediato, que permite entablar demandas por daños por las noticias falsas, y la otra medida que requiere a las grandes plataformas en línea, como X remover el material engañoso fueron desafiadas en la corte.

En Sacramento, Christopher Kohls, un activista político conservador que se dedica a crear videos de parodia, usando clips de audio de la vicepresidenta Kamala Harris, entabló una demanda, ya que asegura que las nuevas leyes infringen sus derechos a la primera enmienda y que bajo el supuesto de regular el contenido generado por la inteligencia artificial, podría ser sujeto de censura a su derecho de expresión.  

Se trata de un personaje cuyo trabajo ha sido compartido por Elon Musk, uno de los más críticos del gobernador Newsom.

Teodoro Fank, el abogado que representa la demanda, advirtió que la ley abriría la puerta para que las compañías de redes sociales censuren y acosaran a la gente basado en interpretaciones subjetivas del contenido creado por la inteligencia artificial.

De acuerdo a voceros del gobernador Newsom, la legislación no se enfoca en la sátira o la parodia, sino en los materiales engañosos que confunden o manipulan a los electores sin aclarar el uso de la Inteligencia Artificial.

El asambleísta Pellerin dijo en torno a la demanda, que su ley 2839 es solo una herramienta para evitar la desinformación.

Ilana Beller de la organización de defensa del consumidor Public Citizen, dijo que la efectividad de la nueva ley va a depender de qué tan rápido actúen las cortes para detener la propagación del contenido confuso, ya que entre más gente lo vea, menos se va a distribuir

Este mismo de septiembre, el gobernador anunció la firma de una legislación para proteger la imagen digital de actores e intérpretes al garantizar que la inteligencia artificial no se utilice para replicar su voz o imagen sin su consentimiento.