Generación de imágenes por Inteligencia Artificial puede crear deepfakes y arruinarte la vida
Esta advertencia cobra relevancia ahora que está muy de moda publicar fotografías desarrolladas por la Inteligencia Artificial de una app
Generación de imágenes por Inteligencia Artificial Crédito: Alex Wong | Getty Images
La nueva tecnología de generación de imágenes por Inteligencia Artificial (AI) permite a cualquiera tomar imágenes ajenas y entrenar a la IA para que cree fotos falsas realistas en las que aparezca haciendo cosas embarazosas o ilegales.
El sitio especializado ArsTechnica, advierte que hoy en día, con la nueva tecnología, crear falsificaciones fotorrealistas convincentes se ha convertido en algo casi trivial por lo fácil que lo hacen ciertos programas y apps.
Una vez que un modelo de IA aprende a renderizar a alguien, su imagen se convierte en un juguete de software. La IA puede crear imágenes de ellos en cantidades infinitas. Y el modelo de IA puede compartirse, lo que permite a otras personas crear también imágenes de esa persona.
Colaboradores de ArsTechnica probaron la tecnología para manipular las fotos de un personaje llamado John y ubicarlo en situaciones embarazosas o incluso ilegales
“Gracias a la IA, podemos hacer que John parezca cometer actos ilegales o inmorales, como entrar en una casa, consumir drogas ilegales o ducharse desnudo con una alumna. Con modelos de IA optimizados para la pornografía, John puede ser una estrella del porno”, se lee en l artículo.
La moda de las fotos de IA
Esta advertencia cobra relevancia ahora que desde hace unos días está muy de moda publicar fotografías desarrolladas por la Inteligencia Artificial de una app llamada Lensa.
Lensa AI es una generadora de imágenes que utiliza tus fotos para crear retratos distintos de tu rostro. Fue creada por Prisma AI y crea avatares de tu persona que puedes usar en el Multiverso. Actualmente está disponible en App Store y Play Store, pero los avatares cuestan 3.99 dólares.
Aunque está muy de moda y hay miles de personas usando esta app, existe un riesgo para la privacidad de quienes la usan, debido a que en los términos y condiciones de la app se aclara que, al usar la IA, les das permiso a “usar, reproducir, modificar, adaptar, traducir, crear trabajos derivados y transferir” dicho contenido de usuario tuyo, sin recibir compensación.
Es decir, las imágenes artísticas basadas en las fotos de tu rostro ayudan a entrenar la inteligencia artificial de Lensa. Aunque Prisma AI dice que no guardan tu información personal, la IA sí usa tus avatares para entrenarse a sí misma.
También podría interesarte:
Inteligencia Artificial puede predecir el riesgo de enfermedad cardíaca con una radiografía
