Engañan a la IA de un concesionario para que venda autos del año en $1 dólar

Cada vez más las compañías están aprovechando los beneficios que ofrecen los chatbots impulsados por Inteligencia Artificial. Sin embargo, esta tecnología no es del todo infalible tal y como quedó demostrado en un caso reciente en el que el chatbot de un concesionario fue engañado para vender autos en tan solo $1 dólar.

El domingo pasado, el director ejecutivo de Fullpath, Aharon Horwitz, vivió una situación inusual cuando recibió una alerta de tráfico inusual en el sitio web de uno de sus clientes, un concesionario de automóviles. La razón detrás de este aumento repentino en la actividad fue nada menos que un intento de engañar a los chatbots con inteligencia artificial del concesionario.

Chris White, un músico e ingeniero de software de California, descubrió que el chatbot del concesionario estaba “impulsado por ChatGPT” y decidió poner a prueba sus límites. Le pidió al chatbot que escribiera un script en Python, y para sorpresa de White, el chatbot aceptó la solicitud. Este intercambio fue compartido en redes sociales y se volvió viral, llevando a otros a intentar trucos similares.

Autos nuevos a $1 dólar

Esto llevó a que un usuario probará el chatbot y lograra convencerlo de vender un automóvil del año 2024 por tan solo $1 dólar. Aunque es importante señalar que esta transacción no tiene validez legal, el incidente destaca la capacidad de la comunidad en línea para desafiar y manipular la inteligencia artificial.

La noticia se extendió rápidamente en plataformas como Reddit, donde los usuarios discutieron las posibilidades y los riesgos asociados con la IA. Horwitz y su equipo de Fullpath actuaron rápidamente para cerrar el chatbot en cuestión, evitando posibles problemas adicionales.

General Motors defiende el uso de la IA

Ante esta situación, Chad Lyons, portavoz de General Motors, fabricante de Chevrolet, destacó los avances en la inteligencia artificial generativa y su impacto en los procesos comerciales. A pesar de los eventos divertidos que se hicieron virales, la empresa defiende las oportunidades que la IA ofrece.

A pesar de las capturas de pantalla virales, Horwitz subrayó que el chatbot resistió la mayoría de los intentos de inducir comportamientos inapropiados. Los registros revisados confirmaron que el chatbot rechazaba solicitudes tontas y se mantenía enfocado en discutir temas relacionados con los automóviles.

Este episodio sirvió como una prueba de resistencia para el chatbot de Fullpath, demostrando que, a pesar de los desafíos en línea, la mayoría de los usuarios utilizan la IA de manera responsable para consultas legítimas. Fullpath utilizará esta experiencia para fortalecer los límites de su chatbot y garantizar un comportamiento más alineado con las expectativas de los usuarios normales.

Mientras la comunidad en línea jugaba con la inteligencia artificial de Chevrolet, la IA demostró su capacidad para resistir ante provocaciones inusuales, dejando lecciones valiosas para el desarrollo futuro de tecnologías similares.

Sigue leyendo:
– Los dilemas de utilizar la inteligencia artificial para resucitar a los muertos
– OpenAI sorprende con nuevas funcionalidades y una Inteligencia Artificial más avanzada
– Google Gemini: así es la nueva Inteligencia Artificial más potente del mercado