Usuarios de Facebook descubrieron que pueden generar stickers ofensivos con IA

Hace menos de una semana, Meta, la empresa matriz de Facebook, sorprendió a sus usuarios al lanzar una función de stickers generados por inteligencia artificial (IA) en sus aplicaciones Messenger y Instagram Messenger. Esta innovación ha generado un auténtico frenesí creativo entre los usuarios de estas plataformas, pero también ha planteado preguntas importantes sobre su uso responsable y los posibles desafíos de moderación en un mundo impulsado por la IA.

En un abrir y cerrar de ojos, la comunidad en línea se volcó en la creación de stickers únicas y, en muchos casos, inusuales. La función permite a los usuarios generar imágenes de stickers basadas en descripciones de texto, que luego pueden compartirse en conversaciones de chat. La sorpresa y la emoción fueron palpables, pero también lo fue el uso cuestionable que algunos comenzaron a hacer de esta herramienta.

Contenido ofensivo

Meta implementó filtros para detectar contenido potencialmente ofensivo, pero, como era de esperar, muchas combinaciones creativas lograron eludirlos. Desde Mickey Mouse empuñando una ametralladora hasta Elmo de Barrio Sésamo sosteniendo un cuchillo, las imágenes generadas por IA comenzaron a circular en las redes, desafiando las normas culturales y la libertad de expresión. Este fenómeno no es nuevo, ya que modelos de imágenes de código abierto sin censura han estado disponibles durante más de un año, pero la novedad radica en la integración de esta función en aplicaciones tan populares como Instagram y Messenger.

A medida que los generadores de imágenes de IA se vuelven más sofisticados y versátiles, los desafíos de moderación se vuelven cada vez más complejos. Es difícil prever todas las combinaciones de objetos, escenarios o personas que pueden ser creadas por estos modelos, lo que plantea la pregunta de cómo se pueden establecer límites adecuados sin sofocar la creatividad y la expresión.

A medida que esta tendencia continúa ganando tracción, surge la pregunta crucial: ¿qué hará Meta al respecto? La empresa ha enfrentado desafíos similares en el pasado, y en muchos casos, ha respondido eliminando o fortaleciendo los filtros integrados. Sin embargo, el portavoz de Meta, Andy Stone, insinuó que están comprometidos con la mejora continua de estas funciones y la toma en cuenta de los comentarios de los usuarios.

Sigue leyendo:
– Facebook está trabajando en crear su propia versión de Twitter llamada Barcelona
– Facebook superó los 3,000 millones de usuarios activos al mes
– Usuarios de Facebook involucrados en el acuerdo de $725 millones de dólares tienen hasta este viernes para hacer su reclamo