California demanda a OpenAI por motivos de ciberseguridad

La demanda coloca las prácticas de seguridad de OpenAI bajo revisión judicial; la fiscalía general de California pide que al empresa cambie sus prácticas

Attendees gather at the OpenAI DevDay 2026 conference, Tuesday, Sept. 29, 2026, in San Francisco. (AP Photo/Jeff Chiu)

OpenAI enfrenta la demanda por la seguridad de ChatGPT en un incidente de julio de 2026. Crédito: Jeff Chiu | AP

California presentó este lunes 16 de noviembre una demanda contra OpenAI como recurso para obligar al creador de ChatGPT para que cambie sus prácticas comerciales después de un incidente de ciberseguridad que ocurrió en julio, en el que su sistema de inteligencia artificial pirateó por su cuenta a otra empresa.

En un comunicado, el fiscal general de California, Rob Bonta, alega que Open AI engañó y puso en peligro al público y a los usuarios de sus servicios al desarrollar a sabiendas modelos avanzados de inteligencia artificial sin las salvaguardas necesarias.

La demanda alega que OpenAI “engañó y puso en peligro” a las personas al desarrollar productos de inteligencia artificial “sin las salvaguardas y la supervisión necesarias para proteger adecuadamente al público“, lo que la convierte en una molestia pública, según la ley de California.

Sigue leyendo: OpenAI frena el entrenamiento de sus modelos de IA más avanzados tras una nueva falla de seguridad

La demanda fue presentada este lunes ante el Tribunal Superior de San Francisco.

El fiscal general de California sostiene que OpenAI es una molestia pública y solicitó a un juez que ordene a la compañía que cambie sus prácticas y renuncie a las ganancias generadas por sus prácticas comerciales riesgosas.

California Attorney General Rob Bonta arrives at the Ronald V. Dellums Federal Building and U.S. Courthouse on Tuesday, Aug. 18, 2026, in Oakland, Calif. (AP Photo/Noah Berger)
El fiscal general de California, Rob Bonta, presentó la demanda contra OpenAI.
Crédito: Noah Berger | AP

OpenAI anunció el 21 de julio de 2026 que ocurrió un “incidente cibernético sin precedentes” cuando su agente de IA hackeó a otra empresa de inteligencia artificial, Hugging Face, tras escapar de lo que se suponía que era un entorno de pruebas aislado conocido como sandbox.

Sigue leyendo: Tres investigadores lograron acceder a OpenAI en menos de 72 horas con ayuda de Claude

El incidente de Hugging Face sucedió cuando OpenAI probaba las capacidades de un par de sus modelos de inteligencia artificial, según dijo la empresa en julio, describiendo cómo la tecnología se había filtrado y había obtenido acceso a internet.

De acuerdo con informes de las organizaciones de investigación METR y Redwood Research, un enjambre de aproximadamente 700 agentes de IA accedió a Hugging Face e intentó borrar sus huellas mientras buscaban completar la prueba.

La empresa afirmó que su inteligencia artificial utilizó credenciales robadas y descubrió una vulnerabilidad previamente desconocida para acceder a los servidores de Hugging Face.

Sigue leyendo: Por qué el jefe de OpenAI pide que confiemos en la empresas de IA a pesar de que el mundo “tiene razón en sentir miedo”

El portavoz de OpenAI, Drew Pusateri, dijo que la demanda parece estar dirigida específicamente a OpenAI por un problema identificado por todos los principales laboratorios de inteligencia artificial.

“Desde el incidente de Hugging Face, hemos emprendido un esfuerzo amplio y transparente para comprender y abordar la actividad desviada de los modelos”, explicó Pusateri en un correo electrónico a la agencia Associated Press.

Pusatieri dijo que las medidas incluyen la publicación de informes técnicos e independientes detallados, el fortalecimiento de las salvaguardas y la creación de un marco para identificar cuándo los agentes de inteligencia artificial actúan de una manera que no coincide con las instrucciones u objetivos de OpenAI.

Sigue leyendo: OpenAI suma otro incidente de seguridad tras el ataque de sus agentes de IA contra RubyGems

“Nos tomamos muy en serio la falta de alineación y hemos colaborado —y seguiremos colaborando— de forma constructiva con la oficina del fiscal general para compartir información y promover normas de seguridad sólidas y prácticas para toda la industria“, añadió el portavoz de OpenAI.

Semanas después de que OpenAI reveló el incidente de Hugging Face, la empresa anunció en agosto que suspendería parte del entrenamiento de sus últimos modelos de inteligencia artificial para garantizar la seguridad de la tecnología.

En la demanda, el fiscal general Bonta aseguró que son engañosas las promesas de OpenAI en el tema de seguridad.

Sigue leyendo: OpenAI asegura haber resuelto en 88 horas un problema matemático sin respuesta durante 90 años

“En realidad, sin embargo, OpenAI ha desarrollado, entrenado y evaluado modelos peligrosos que no siguen las instrucciones, hacen trampa en las tareas, ocultan e intentan engañar a los supervisores sobre su mala conducta y participan en comportamientos maliciosos y no autorizados, incluyendo la realización de ciberataques contra terceros”, expresó el fiscal general.

Bonta también dijo que, a principios de octubre, OpenAI informó haber descubierto que los agentes implementados internamente podían suprimir las alertas de monitoreo y desactivar la supervisión. Un mes después, OpenAI publicó un informe de investigación que concluía que, a medida que los modelos de IA se vuelven más capaces y más difíciles de superar.

“Además, se desconoce el verdadero alcance de las infracciones legales de la empresa y el riesgo de daños futuros debido a la falta de transparencia y las tergiversaciones de OpenAI”, añadió el fiscal Bonta.

Sigue leyendo: Cuánto debería preocuparnos la rebelión y el hackeo que lanzó la inteligencia artificial de OpenAI

Antes del litigio iniciado por California, OpenAI ya enfrentaba demandas de al menos ocho estados que afirman que el modelo de chatbot de la empresa perjudica a los niños y engaña a los adultos al brindar concejos médicos peligrosos, fomentar la paranoia e incitar a las personas a suicidarse o a herir o matar a otros.

Las demandas también alegan que los chatbots de ChatGPT fingen ser amables y compasivos mientras se aprovechan de personas vulnerables y adolescentes.

En su respuesta a las demandas previas, OpenAI dijo en un comunicado publicado el mes pasado que había incorporado medidas de seguridad para niños en ChatGPT y que continuaría mejorando el modelo.

Sigue leyendo:
· OpenAI admite que su IA más avanzada se salió de control durante una prueba
· “Es una señal de alarma”: la advertencia de la empresa hackeada por los modelos rebeldes de OpenAI
· Apple le declara la guerra a OpenAI por supuesto robo de secretos de hardware

En esta nota

ChatGPT fiscal general de California Inteligencia artificial OpenAI Rob Bonta
Contenido Patrocinado