Usuarios de Facebook descubrieron que pueden generar stickers ofensivos con IA

La nueva herramienta de creación de stickers utilizando IA está siendo aprovechada por los usuarios para crear stickers ofensivos

Facebook

Facebook ahora cuenta con una herramienta que permite crear stickers personalizados utilizando IA Crédito: Shutterstock

Hace menos de una semana, Meta, la empresa matriz de Facebook, sorprendió a sus usuarios al lanzar una función de stickers generados por inteligencia artificial (IA) en sus aplicaciones Messenger y Instagram Messenger. Esta innovación ha generado un auténtico frenesí creativo entre los usuarios de estas plataformas, pero también ha planteado preguntas importantes sobre su uso responsable y los posibles desafíos de moderación en un mundo impulsado por la IA.

En un abrir y cerrar de ojos, la comunidad en línea se volcó en la creación de stickers únicas y, en muchos casos, inusuales. La función permite a los usuarios generar imágenes de stickers basadas en descripciones de texto, que luego pueden compartirse en conversaciones de chat. La sorpresa y la emoción fueron palpables, pero también lo fue el uso cuestionable que algunos comenzaron a hacer de esta herramienta.

Contenido ofensivo

Meta implementó filtros para detectar contenido potencialmente ofensivo, pero, como era de esperar, muchas combinaciones creativas lograron eludirlos. Desde Mickey Mouse empuñando una ametralladora hasta Elmo de Barrio Sésamo sosteniendo un cuchillo, las imágenes generadas por IA comenzaron a circular en las redes, desafiando las normas culturales y la libertad de expresión. Este fenómeno no es nuevo, ya que modelos de imágenes de código abierto sin censura han estado disponibles durante más de un año, pero la novedad radica en la integración de esta función en aplicaciones tan populares como Instagram y Messenger.

A medida que los generadores de imágenes de IA se vuelven más sofisticados y versátiles, los desafíos de moderación se vuelven cada vez más complejos. Es difícil prever todas las combinaciones de objetos, escenarios o personas que pueden ser creadas por estos modelos, lo que plantea la pregunta de cómo se pueden establecer límites adecuados sin sofocar la creatividad y la expresión.

A medida que esta tendencia continúa ganando tracción, surge la pregunta crucial: ¿qué hará Meta al respecto? La empresa ha enfrentado desafíos similares en el pasado, y en muchos casos, ha respondido eliminando o fortaleciendo los filtros integrados. Sin embargo, el portavoz de Meta, Andy Stone, insinuó que están comprometidos con la mejora continua de estas funciones y la toma en cuenta de los comentarios de los usuarios.

Sigue leyendo:
Facebook está trabajando en crear su propia versión de Twitter llamada Barcelona
Facebook superó los 3,000 millones de usuarios activos al mes
Usuarios de Facebook involucrados en el acuerdo de $725 millones de dólares tienen hasta este viernes para hacer su reclamo

En esta nota

Facebook

Suscribite al boletín de Noticias

Recibe gratis las noticias más importantes diariamente en tu email

Este sitio está protegido por reCAPTCHA y Google Política de privacidad y Se aplican las Condiciones de servicio.

¡Muchas gracias!

Más sobre este tema
Contenido Patrocinado
Enlaces patrocinados por Outbrain