No se trata de un fenómeno nuevo: los deepfakes existen desde hace años. Sin embargo, el auge de la IA generativa ha hecho que sea más fácil que nunca crear po ografía deepfake y acosar sexualmente a las personas utilizando imágenes y vídeos generados por IA.
nDe todos los perjuicios relacionados con la IA generativa, los deepfakes no consentidos afectan al mayor número de personas, siendo las mujeres la gran mayoría de las víctimas, afirma Henry Ajder, experto en IA generativa y contenido sintético.
nAfortunadamente, hay algo de esperanza. Nuevas herramientas y leyes podrían dificultar a los agresores el uso de las fotos de las personas como arma, y podrían ayuda os a responsabilizar a los autores.
nHe aquí tres formas de combatir la po ografía deepfake no consentida.
nMARCAS DE AGUA
nLas plataformas de redes sociales examinan las publicaciones que se suben a sus sitios y retiran el contenido que va en contra de sus políticas. Pero este proceso es irregular en el mejor de los casos y pasa por alto muchos contenidos nocivos, como demuestran los vídeos de Swift en X. También es difícil distinguir entre el contenido auténtico y el generado por la IA.
nUna solución técnica podrían ser las marcas de agua. Las marcas de agua ocultan una señal invisible en las imágenes que ayuda a los ordenadores a identificar si han sido generadas por IA. Por ejemplo, Google ha desarrollado un sistema llamado SynthID, que utiliza redes neuronales para modificar los píxeles de las imágenes y añade una marca de agua invisible al ojo humano. Esa marca está diseñada para ser detectada incluso si la imagen se edita o se hace una captura de pantalla. En teoría, estas herramientas podrían ayudar a las empresas a mejorar la moderación de sus contenidos y agilizar la detección de contenidos falsos, incluidos los deepfakes no consentidos.
nVentajas: Las marcas de agua podrían ser una herramienta útil que facilite y agilice la identificación de contenidos generados por IA y de publicaciones tóxicas que deban ser eliminadas. Incluir marcas de agua en todas las imágenes por defecto también dificultaría a los atacantes la creación de deepfakes no consentidos, afirma Sasha Luccioni, investigadora de la start-up de IA Hugging Face, que ha estudiado el sesgo en los sistemas de IA.
nContras: estos sistemas aún son experimentales y no se utilizan de forma generalizada. Y un atacante decidido aún puede manipularlos. Las empresas tampoco están aplicando la tecnología a todas las imágenes. Por ejemplo, los usuarios del generador de imágenes Imagen AI de Google pueden elegir si quieren que sus imágenes generadas por IA lleven la marca de agua. Todos estos factores limitan su utilidad en la lucha contra el deepfake po .
nESCUDOS PROTECTORES
nPor el momento, todas las imágenes que publicamos en Inte et son terreno libre para que cualquiera pueda utilizarlas y crear un deepfake. Y como los últimos sistemas de IA para crear imágenes son tan sofisticados, cada vez es más difícil demostrar que el contenido generado por IA es falso.
nPero una serie de nuevas herramientas defensivas permiten a los usuarios proteger sus imágenes de la explotación de la IA haciendo que parezcan deformadas o distorsionadas en los sistemas de IA.
nUna de estas herramientas, llamada PhotoGuard, ha sido desarrollada por investigadores del MIT. Funciona como un escudo protector que altera los píxeles de las fotos de forma invisible para el ojo humano. Cuando alguien utiliza una aplicación de IA como el generador de imágenes Stable Diffusion para manipular una imagen que ha sido tratada con PhotoGuard, el resultado parecerá poco realista. Fawkes, una herramienta similar desarrollada por investigadores de la Universidad de Chicago, cubre las imágenes con señales ocultas que dificultan el reconocimiento facial.
nOtra nueva herramienta, llamada Nightshade, podría ayudar a las personas a defenderse de ser utilizadas en sistemas de IA. La herramienta, desarrollada por investigadores de la Universidad de Chicago, aplica una capa invisible de "veneno" a las imágenes. La herramienta se desarrolló para proteger a los artistas de que las empresas tecnológicas extrajeran sus imágenes protegidas por derechos de autor sin su consentimiento. Sin embargo, en teoría, podría utilizarse con cualquier imagen que su propietario no quiera que acabe en manos de sistemas de inteligencia artificial. Cuando las empresas tecnológicas se apropian de material de entrenamiento en línea sin su consentimiento, estas imágenes envenenadas romperán el modelo de IA. Las imágenes de gatos podrían convertirse en perros, y las imágenes de Taylor Swift también podrían convertirse en perros.
nVentajas: Estas herramientas dificultan que los atacantes utilicen nuestras imágenes para crear contenidos dañinos. Resultan prometedoras para proteger a los particulares contra el abuso de imágenes de IA, sobre todo si las aplicaciones de citas y las empresas de redes sociales las aplican por defecto, afirma Ajder.
n"Todos deberíamos utilizar Nightshade para cada imagen que publicamos en Inte et", afirma Luccioni.
nContras: estos escudos defensivos funcionan en la última generación de modelos de IA. Pero no hay garantías de que futuras versiones no puedan anular estos mecanismos de protección. Tampoco funcionan con imágenes que ya están en línea y son más difíciles de aplicar a imágenes de famosos, ya que los famosos no controlan qué fotos suyas se suben a Inte et.
n"Va a ser un gigantesco juego del gato y el ratón", dice Rumman Chowdhury, que dirige la empresa de consultoría y auditoría ética Parity Consulting.
nREGULACIÓN
nLas soluciones técnicas tienen un límite. Lo único que conducirá a un cambio duradero es una regulación más estricta, afirma Luccioni.
nLos deepfakes virales de Taylor Swift han dado un nuevo impulso a los esfuerzos por acabar con el po o deepfake. La Casa Blanca calificó el incidente de "alarmante" e instó al Congreso a tomar medidas legislativas. Hasta ahora, EE UU ha regulado esta tecnología de forma fragmentaria, estado por estado. Por ejemplo, Califo ia y Virginia han prohibido la creación de deepfakes po ográficos creados sin consentimiento. Nueva York y Virginia también prohíben la distribución de este tipo de contenidos.
nSin embargo, por fin podríamos ver medidas a nivel federal. Recientemente se ha vuelto a presentar en el Congreso de EE UU un nuevo proyecto de ley bipartidista que convertiría en delito federal el hecho de compartir imágenes falsas de desnudos. Un escándalo de po ografía deepfake en un instituto de Nueva Jersey también ha empujado a los legisladores a responder con un proyecto de ley llamado Preventing Deepfakes of Intimate Images Act (Ley para la prevención de los deepfakes de imágenes íntimas). La atención que ha suscitado el caso de Swift podría suscitar un mayor apoyo bipartidista.
nLegisladores de todo el mundo también están impulsando leyes más estrictas para esta tecnología. La Ley de Seguridad en Inte et del Reino Unido, aprobada el año pasado, prohíbe compartir material po ográfico falso, pero no su creación. Los autores pueden enfrentarse a penas de hasta seis meses de cárcel.
nEn la Unión Europea, varios proyectos de ley abordan el problema desde distintos ángulos. La Ley de Inteligencia Artificial exige a los creadores de deepfakes que indiquen claramente que el material ha sido creado por inteligencia artificial, y la Ley de Servicios Digitales exigirá a las empresas tecnológicas que eliminen los contenidos nocivos mucho más rápidamente.
nLa ley china sobre deepfakes, que entró en vigor en 2023, es la que va más lejos. En China, los creadores de deepfakes tienen que tomar medidas para evitar el uso de sus servicios con fines ilegales o dañinos, pedir el consentimiento de los usuarios antes de convertir sus imágenes en deepfakes, autentificar las identidades de las personas y etiquetar el contenido generado por IA.
nVentajas: La regulación ofrecerá recursos a las víctimas, responsabilizará a los creadores de po ografía deepfake no consentida y creará un poderoso elemento disuasorio. También envía un mensaje claro de que la creación no consentida de deepfakes no es aceptable. Las leyes y las campañas de concienciación pública que dejan claro que las personas que crean este tipo de po ografía deepfake son delincuentes sexuales podrían tener un impacto real, dice Ajder. "Eso cambiaría la actitud ligeramente indiferente que algunas personas tienen hacia este tipo de contenido, que consideran que no es dañino o que no es una forma real de abuso sexual", afirma.
nContras: Será difícil hacer cumplir este tipo de leyes, dice Ajder. Con las técnicas actuales, a las víctimas les resultará difícil identificar a la persona que las ha agredido y construir una acusación contra ella. Además, la persona que crea los deepfakes puede estar en otra jurisdicción, lo que dificulta el enjuiciamiento.
n