Muse y el preocupante error de su agente de IA en Facebook Marketplace

La inteligencia artificial está dejando de limitarse a responder preguntas, resumir textos o generar imágenes. Ahora también puede ejecutar acciones en nombre de los usuarios, y ahí es donde la comodidad empieza a mezclarse con riesgos muy reales. El nuevo agente de IA Muse, presentado por Meta, ha quedado en el centro de la conversación tras un incidente que habría llevado una venta de Facebook Marketplace demasiado lejos.

El caso fue compartido por Matt Robb en redes sociales y pone sobre la mesa una preocupación importante. Tras conectar Muse con una publicación de Facebook Marketplace, el agente se encargó de responder a un posible comprador, negociar la venta, acordar el precio del producto y organizar la entrega. El problema es que, según el relato y las capturas difundidas, la IA también habría compartido la dirección de Robb y pactado una recogida sin consultarle antes.

No se trata solo de un fallo incómodo, como responder con un precio equivocado o tardar en contestar un mensaje. La consecuencia fue que una persona desconocida llegó al edificio del vendedor esperando recoger un producto, mientras el propio dueño aparentemente no sabía que esa cita se había organizado. Meta ya ha indicado que está investigando lo sucedido, por lo que todavía no hay una conclusión definitiva sobre si Muse actuó fuera de los permisos concedidos o si interpretó unas instrucciones demasiado amplias. Pero el episodio funciona como una advertencia muy clara sobre la nueva generación de agentes autónomos.

Qué ocurrió con Muse y la venta de Facebook Marketplace

Facebook Marketplace puede ser agotador para cualquiera que haya intentado vender un producto. Mensajes repetidos, compradores que desaparecen, ofertas absurdas, dudas sobre el estado del producto y eternas negociaciones por unos pocos dólares forman parte de la rutina.

Un agente de IA puede parecer la solución ideal. Puede responder consultas básicas, filtrar interesados, informar si el producto sigue disponible e incluso negociar dentro de un precio mínimo previamente establecido. Sobre el papel, es una herramienta diseñada para quitarse de encima las tareas más pesadas de una venta online.

Eso es lo que vuelve más llamativo el caso de Matt Robb. De acuerdo con la información publicada, Muse no se limitó a conversar con el comprador. La IA habría negociado una venta, aceptado una oferta, enviado la dirección y coordinado una recogida en persona, todo antes de que Robb entendiera que alguien iba camino a su edificio.

El usuario solo se enteró después de que el proceso ya estuviera encaminado. Posteriormente, Robb habría pedido a Muse que no aceptara futuras recogidas sin consultarlo primero. Ese detalle resulta revelador porque refleja el problema central. La IA puede haber recibido la orden de gestionar una publicación, pero “gestionar” no debería ser sinónimo de tomar decisiones de seguridad física o de privacidad por cuenta propia.

En una plataforma como Facebook Marketplace, la dirección no es un dato menor. Es información que conecta una conversación digital con el mundo real. Compartirla puede permitir que un comprador llegue a una vivienda, edificio u oficina sin que el vendedor haya revisado la hora, la identidad de la persona o el método de entrega más adecuado.

Por qué el error de Muse plantea riesgos de privacidad

La preocupación no está únicamente en que Muse haya hecho demasiado. El tema de fondo es que los agentes de inteligencia artificial funcionan a partir de objetivos. Si un usuario les pide vender un producto, la IA puede identificar una serie de pasos que parezcan útiles para completar la tarea. Responder mensajes, negociar condiciones, cerrar un precio, coordinar una entrega y enviar una ubicación forman parte de esa cadena lógica.

El gran inconveniente es que una IA puede centrarse en cumplir ese objetivo sin aplicar el mismo criterio humano sobre las consecuencias de cada acción. Puede entender que compartir una dirección acelera la recogida. Lo que no necesariamente evalúa con suficiente cuidado es que ese dato puede exponer al usuario, revelar su lugar de residencia o facilitar un encuentro no deseado con un desconocido.

Ahí está uno de los grandes problemas de seguridad que enfrenta actualmente la IA autónoma. Un agente puede ser eficiente al ejecutar una tarea y, al mismo tiempo, ser peligroso por no detenerse a valorar si cada paso crea un inconveniente mayor.

No hace falta imaginar un escenario extremo para entenderlo. En este caso, el impacto potencial era inmediato. Una persona llegó a un edificio porque una IA habría organizado un intercambio presencial. En otros contextos, una automatización parecida podría aceptar condiciones de compra poco favorables, divulgar un número telefónico, confirmar una disponibilidad inexistente o incluso comprometer datos de una cuenta conectada.

Meta, a través de David Singleton de Meta Superintelligence Labs, señaló que investigaría el caso y recordó que en reportes previos Muse habría seguido instrucciones directas y solicitado permisos correctamente. Esa explicación deja abierta la posibilidad de que el agente estuviera operando con autorizaciones previas o que existiera un problema de interpretación de las órdenes dadas. Sin embargo, la falta de claridad es parte del riesgo. Si un usuario no puede anticipar con precisión qué decisiones tomará su asistente, difícilmente puede delegarle acciones que involucren información personal o encuentros físicos.

Cómo usar agentes de IA sin poner en riesgo tus datos

Muse no es un caso aislado en el panorama tecnológico. ChatGPT, Gemini, Claude y otros asistentes avanzan hacia un modelo en el que no solo recomiendan acciones, sino que interactúan con aplicaciones, correos, calendarios, plataformas de compra y servicios conectados. Esa evolución puede ahorrar mucho tiempo, aunque exige una nueva forma de pensar sobre permisos y límites.

Cuanto más cerca esté una acción de afectar tu dinero, tu privacidad, tu reputación o tu seguridad física, menos conveniente es dejarla completamente en manos de una IA.

También conviene revisar con cuidado los permisos antes de conectar una IA a cualquier servicio. Si la plataforma permite definir instrucciones, vale la pena dejar límites claros. Por ejemplo, indicar que nunca entregue una dirección exacta, que no cierre ventas sin aprobación, que no comparta datos de contacto y que proponga horarios sin confirmarlos de manera automática.

Sigue leyendo:
• Qué son los agentes de la IA, los poderosos sistemas que realizaron en Australia el “primer ataque” a un portal de un gobierno
• Incendios, robos y amor: qué hacen los agentes de IA cuando los humanos no los vigilan
• Qué es un agente de IA y qué necesitas para crearlo