Esta historia apareció originalmente en The Algorithm, nuestro boletín semanal sobre IA. Para recibir antes que nadie historias como ésta en tu bandeja de entrada (en inglés), suscríbete aquí.

Son las Taylor Swift del mundo las que nos salvarán. En enero,  se hicieron virales en X (antes Twitter) unos deepfakes de Taylor Swift desnuda, lo que causó una indignación generalizada. Los deepfakes explícitos no consentidos son uno de los daños más comunes y graves que plantea la IA. El auge de la IA generativa en los últimos años no ha hecho más que agravar el problema, y hemos visto otros casos sonados protagonizados, por ejemplo, por niñas en España o por una joven política en EE UU, quienes fueron víctimas de abusos con estas tecnologías.

Aunque terribles, los deepfakes de Swift hicieron quizás más que cualquier otro para crear conciencia sobre los riesgos y parecen haber galvanizado a las empresas tecnológicas y a los legisladores para hacer algo.

"Se ha dado una vuelta de tuerca", afirma Henry Ajder, experto en IA generativa que lleva casi una década estudiando los deepfakes. Estamos en un punto de inflexión en el que la presión de los legisladores y la concienciación de los consumidores es tan grande que las empresas tecnológicas ya no pueden ignorar el problema, afirma.

Primero, las buenas noticias

La semana pasada Google dijo que está tomando medidas para evitar que aparezcan deepfakes explícitos en los resultados de búsqueda. El gigante tecnológico está facilitando a las víctimas la solicitud de eliminación de imágenes explícitas falsas no consentidas. También filtrará todos los resultados explícitos en búsquedas similares y eliminará las imágenes duplicadas. Esto evitará que las imágenes vuelvan a aparecer en el futuro. Google también está reduciendo la clasificación de los resultados de búsqueda que conducen a contenido explícito falso. Cuando alguien busque contenidos falsos e incluya el nombre de alguien en la búsqueda, Google intentará mostrar contenido no explícito de alta calidad, como artículos de noticias relevantes.

Se trata de una medida positiva, afirma Ajder. Los cambios de Google eliminan gran parte de la visibilidad de los contenidos deepfake pornográficos y no consentidos. "Eso significa que la gente va a tener que esforzarse mucho más para encontrarlo si quiere acceder a él", afirma.

En enero publiqué un artículo que incluía tres formas de luchar contra los deepfakes explícitos no consentidos. Entre ellas, la regulación; las marcas de agua, que nos ayudarían a detectar si algo está generado por IA; y los escudos protectores, que dificultan a los atacantes el uso de nuestras imágenes.

Ocho meses después, las marcas de agua y los escudos protectores siguen siendo experimentales y poco fiables, pero la buena noticia es que la regulación se ha puesto un poco al día. Por ejemplo, el Reino Unido ha prohibido tanto la creación como la distribución de contenidos falsos explícitos no consentidos. Esta decisión llevó a un popular sitio que distribuye este tipo de contenidos, Mr DeepFakes, a bloquear el acceso a los usuarios británicos, dice Ajder.

La Ley de Inteligencia Artificial de la UE ya está oficialmente en vigor y podría introducir algunos cambios importantes en materia de transparencia. La ley obliga a los creadores de deepfakes a revelar claramente que el material ha sido creado por IA. Y a finales de julio, el Senado de EE UU aprobó la Ley Defiance, que ofrece a las víctimas una vía de recurso civil contra los deepfakes sexualmente explícitos. (Esta legislación aún debe superar muchos obstáculos en la Cámara de Representantes para convertirse en ley).

Pero aún queda mucho por hacer

Google puede identificar claramente qué sitios web están recibiendo tráfico e intenta eliminar los sitios de deepfakes de la parte superior de los resultados de búsqueda, pero podría ir más allá. "¿Por qué no tratan esto como los sitios web de pornografía infantil y los eliminan por completo de las búsquedas cuando es posible?". afirma Ajder. También le parece extraño que el anuncio de Google no mencione los vídeos falsos y se limite las imágenes.

Mirando retrospectivamente mi artículo sobre la lucha contra los contra los contenidos falsos, me doy cuenta de que debería haber incluido más cosas que podrían hacer las empresas. Los cambios de Google en las búsquedas son un primer paso importante, pero las tiendas de aplicaciones siguen llenas de apps que permiten a los usuarios crear falsificaciones, y los proveedores y facilitadores de pagos siguen proporcionando la infraestructura para que la gente las use.

Ajder hace un llamamiento para que nos replanteemos radicalmente cómo vemos los deepfakes no consentidos y presionemos a las empresas para introducir cambios que dificulten crearlos o acceder a ellos.

"En internet, esto debería verse y plantearse igual que tratamos la pornografía infantil; como algo totalmente repugnante, horrible e indignante. Requiere que todas las plataformas tomen medidas", concluye Ajder.