Estudiante de Stanford logró engañar a ChatGPT y obtener documentos internos de Microsoft
Utilizando un tipo de ataque conocido como inyección de prompt un estudiante de Stanford logró engañar a ChatGPT para que le diera información secreta de Microsoft
El estudiante de Stanford logró engañar a la IA al ingresar comandos que hicieron que el sistema compartiera información privada acerca de su funcionamiento Crédito: Shutterstock
Un estudiante de la Universidad de Stanford, reveló que fue capaz de engañar a ChatGPT para obtener acceso a documentos confidenciales de Microsoft. La información incluye las directrices que utilizó la compañía para entrenar a la versión de ChatGPT utilizada por su motor de búsqueda Bing.
El joven contó a través de su cuenta de Twitter que utilizó un mecanismo conocido como “inyección de prompt”, que consiste en realizar un ataque a la Inteligencia Artificial (IA) al introducir una solicitud contradictoria o maliciosa que permita realizar una tarea para la que la IA no fue configurada.
Según lo publicado por el estudiante, la información a la que logró tener acceso estuvo segmentada en las múltiples respuestas que obtuvo de la IA. Entre estas respuestas se encuentra el nombre en clave de la herramienta “Sidney”, así como la cantidad de idiomas en los que es capaz de procesar información.
Entre los idiomas que cuentan con soporte en Microsoft Bing Chat se encuentra el inglés, español, francés, alemán, chinon y japonés. La IA indicó que de esto sus respuestas deben tener un carácter informativo y evitar temas controversiales.
Bing ChatGPT
La nueva información acerca de Bing ChatGPT surge pocos días después de que Microsoft presentó la nueva funcionalidad de su motor de búsqueda que a partir de ahora estará vinculado a la IA de OpenAI.
Esto forma parte de la colaboración que vienen realizando ambas empresas desde que Microsoft anunció que realizará inversiones en OpenAI por el orden de los $10,000 millones de dólares. Con esta estrategia Microsoft pretende ubicarse como la primera referencia de búsquedas en Internet, por encima de Google.
En caso de lograrlo le permitiría a la compañía poder aumentar de manera significativa sus ingresos publicitarios, algo en lo que Google destaca desde hace años con ganancias de varios miles de millones de dólares.
El lanzamiento de esta nueva herramienta ha generado tal expectativa en el público que en pocos días Bing se transformó en una de las aplicaciones más utilizadas por los usuarios del ecosistema iOS, superando por primera vez en años a Google Chrome.
Esto también te puede interesar:
– Se disparan las descargas de Bing en iOS tras su integración con ChatGPT
– ChatGPT: cómo puede ayudar a disminuir la carga laboral en algunas profesiones
– Por qué el ChatGPT podría significar una gran inversión para los gigantes tecnológicos
