Durante los últimos días puede que hayas oído hablar, o incluso visto en redes sociales, cómo la cantante Taylor Swift ha sido víctima de deepfakes. Imágenes retocadas con IA sin consentimiento que mostraban al ídolo pop con desnudos explícitos falsos que corrieron como la pólvora por foros como 4chan, Reddit y Twitter. Aunque no es el primer caso que presenciamos, ni lamentablemente será el último, la ciencia y empresas como Google ya trabajan para intentar detenerlos.
El efecto Streisand de Taylor Swift. Con el caso de los deepfakes de Taylor Swift se ha vuelto a vivir un caso de manual del efecto Streisand, el fenómeno del que se aprovechan los bulos y ciertos contenidos virales para que, en el intento de frenar o censurar una información, lo que se termina provocando es que reciba aún más visibilidad de la que hubiese generado por sí misma. Tras el bloqueo de búsquedas de Twitter, la viralización del contenido de la cantante se ha intensificado aún más.
Trucos para engañar a la IA. Pese a que las plataformas de generación de imágenes están especialmente diseñadas para intentar frenar este tipo de fotos falsas, su inteligencia a la hora de esquivar estas balas es, pese a lo incongruente del asunto, menos avispado de lo que debería. Con algo tan simple como introducir palabras entre nombre y apellido, la plataforma de Microsoft Designer para convertir texto en imágenes se saltó la protección mediante prompts que ahora ya están parcheados.
Un problema que puede ir a más. El problema de las inteligencias artificiales generativas va más allá del robo de imágenes de artistas para entrenar a la IA saltándose los derechos de autor como en los rumores sobre Palworld y, de hecho, aún más peligroso que lo que le ocurra a un famoso capaz de parar internet para limitar sus búsquedas, es que nadie está a salvo de estas prácticas a día de hoy, siendo las mujeres un objetivo especial de estas fotografías falsas. Con el continuo avance de estos sistemas, cada vez nos resulta más difícil saber hasta qué punto lo que estamos viendo es real o no.
La solución contra los deepfakes. Los planes que están sobre la mesa para frenar el problema de los deepfakes se basan principalmente en la inclusión de marcas de agua, pero lejos de ser como las que estamos acostumbrados a ver, en lo que trabajan empresas como Google y universidades como la del MIT es en un sistema que utiliza redes neuronales para modificar píxeles y crear ciertos patrones que resultarían invisibles para el ojo humano. De esta forma, moderar y censurar imágenes como las de Taylor Swift sería mucho más fácil y, a la hora de crear nuevas valiéndose de fotos originales, el sistema de las imágenes generativas sería capaz de leer esas marcas de agua y arrojar una imagen completamente distinta a la esperada.
¿Por qué no se está haciendo ya? Estamos ante uno de esos típicos casos del pez que se muerde la cola. Por un lado Google ya tiene la tecnología necesaria para frenar el problema, pero por el otro necesita un uso libre y sin puertas a su inteligencia artificial para poder seguir entrenándola y mejorándola. Pese a que la posibilidad de crear imágenes generativas con dicha marca de agua ya incluida ya existe, se ofrece como una opción en vez de como un requisito. A su vez, la aparente solución no está lo suficientemente extendida para que navegadores, redes sociales y bancos de imágenes sean capaces de leer dichas marcas y frenar este tipo de contenidos.
En 3DJuegos | Este mapa de 1539 está plagado de monstruos marinos, y todos tienen una explicación completamente racional
Ver 2 comentarios