Con el anuncio ayer del Plan de Acción para la IA del presidente Trump, esa era podría haber llegado a su fin.
En los últimos meses de la administración Biden, bajo la presidencia de Lina Khan, la FTC impuso una serie de multas y medidas de gran repercusión mediática a empresas de IA por exagerar las capacidades de su tecnología y tergiversar la verdad, o en algunos casos por realizar afirmaciones totalmente falsas.
Descubrió que el gigante de la seguridad Evolv mintió sobre la precisión de sus controles de seguridad basados en IA, que se utilizan en estadios y escuelas, pero que no detectaron un cuchillo de siete pulgadas que finalmente se utilizó para apuñalar a un estudiante. Persiguió a la empresa de reconocimiento facial Intellivision, alegando que hacía afirmaciones infundadas de que sus herramientas funcionaban sin sesgos de género o raciales. Multó a startups que prometían falsos servicios de «abogados de IA» y a otra que vendía reseñas falsas de productos generadas con IA.
Estas medidas no dieron lugar a multas que paralizaran a las empresas, pero sí les impidieron realizar declaraciones falsas y ofrecieron a los clientes formas de recuperar su dinero o rescindir los contratos. En todos los casos, la FTC determinó que personas comunes y corrientes habían sido perjudicadas por empresas de IA que dejaban que sus tecnologías actuaran sin control.
El plan publicado ayer por la administración Trump sugiere que considera que estas medidas fueron demasiado lejos. En una sección sobre la eliminación de la burocracia y la regulación onerosa, la Casa Blanca afirma que revisará todas las medidas adoptadas por la FTC bajo la administración Biden para garantizar que no promuevan teorías de responsabilidad que supongan una carga indebida para la innovación en IA. En la misma sección, la Casa Blanca afirma que retendrá los fondos federales relacionados con la IA a los estados con regulaciones onerosas.
Esta medida de la administración Trump es la última de su creciente ataque contra la agencia, que ofrece una vía importante de reparación a las personas perjudicadas por la IA en Estados Unidos. Es probable que dé lugar a un despliegue más rápido de la IA con menos controles de precisión, equidad o perjuicio para los consumidores.
Bajo el mandato de Khan, nombrada por Biden, la FTC encontró adeptos en lugares inesperados. Los progresistas pidieron que se acabara con el comportamiento monopolístico de las grandes tecnológicas, pero algunos miembros del ento o de Trump, entre ellos el vicepresidente JD Vance, también apoyaron a Khan en su lucha contra las élites tecnológicas, aunque con el objetivo diferente de poner fin a su supuesta censura del discurso conservador.
No obstante, en enero, con Khan fuera y Trump de vuelta en la Casa Blanca, esta dinámica se derrumbó por completo. Trump publicó en febrero un decreto ejecutivo en el que prometía frenar a las agencias independientes como la FTC que ejercen influencia sin consultar al presidente. Al mes siguiente, comenzó a llevar esa promesa al límite de la legalidad, e incluso más allá.
En marzo, despidió a los dos únicos comisionados demócratas de la FTC. El 17 de julio, un tribunal federal dictaminó que uno de esos despidos, el de la comisionada Rebecca Slaughter, era ilegal dada la independencia de la agencia, lo que restituyó a Slaughter en su cargo (el otro comisionado despedido, Álvaro Bedoya, optó por dimitir en lugar de impugnar el despido en los tribunales, por lo que su caso fue desestimado). Slaughter es ahora la única demócrata en la FTC.
Al mencionar a la FTC en su plan de acción, la Casa Blanca va ahora un paso más allá y presenta las medidas de la agencia como un obstáculo importante para la victoria de Estados Unidos en la carrera armamentística por desarrollar una IA mejor y más rápida que China. Promete no solo cambiar el rumbo de la agencia en el futuro, sino también revisar e incluso derogar las sanciones relacionadas con la IA que ha impuesto en los últimos cuatro años.
¿Cómo podría desarrollarse esto? Leah Frazier, que trabajó en la FTC durante 17 años antes de marcharse en mayo y fue asesora de Khan, afirma que es útil pensar en las medidas de la agencia contra las empresas de IA como si se dividieran en dos áreas, cada una con niveles de apoyo muy diferentes entre las distintas líneas políticas.
La primera se refiere a los casos de engaño, en los que las empresas de IA inducen a error a los consumidores. Consideremos el caso de Evolv, o un caso reciente anunciado en abril en el que la FTC alega que una empresa llamada Workado, que ofrece una herramienta para detectar si algo ha sido escrito con IA, no tiene pruebas que respalden sus afirmaciones. Los casos de engaño gozaron de un apoyo bastante bipartidista durante su mandato, afirma Frazier.
"Luego hay casos sobre el uso responsable de la IA, y estos no parecieron gozar de demasiado apoyo popular ", añade Frazier, que ahora dirige la Iniciativa de Justicia Digital del Comité de Abogados por los Derechos Civiles Bajo la Ley. Estos casos no alegan engaño, sino que acusan a las empresas de haber utilizado la IA de una manera que perjudica a las personas.
El más grave de ellos, que dio lugar a la que quizá sea la medida más importante jamás adoptada por la FTC en relación con la IA y que fue investigado por Frazier, se anunció en 2023. La FTC prohibió a Rite Aid utilizar el reconocimiento facial mediante IA en sus tiendas después de descubrir que la tecnología identificaba erróneamente a personas, en particular a mujeres y personas de color, como ladrones. "Actuando con base en alertas falsas positivas", escribió la FTC, los empleados de Rite Aid "siguieron a los consumidores por las tiendas, los registraron, les ordenaron que se marcharan y llamaron a la policía para que se enfrentara a ellos o los expulsara ".
La FTC determinó que Rite Aid no protegió a las personas de estos errores, no supervisó ni probó la tecnología y no formó adecuadamente a los empleados sobre cómo utilizarla. Se prohibió a la empresa utilizar el reconocimiento facial durante cinco años.
Esto fue muy importante. Esta medida fue más allá de la verificación de las promesas engañosas hechas por las empresas de IA para responsabilizar a Rite Aid por los daños causados a los consumidores por su tecnología de IA. Este tipo de casos de IA responsable son los que Frazier imagina que podrían desaparecer en la nueva FTC, especialmente si implican la comprobación de los modelos de IA en busca de sesgos.
"Habrá menos medidas coercitivas, si es que las hay, sobre cómo las empresas están implementando la IA ", afirma. La filosofía más amplia de la Casa Blanca hacia la IA, a la que se hace referencia en el plan, es un enfoque de probar primero que intenta impulsar una adopción más rápida de la IA en todos los ámbitos, desde el Pentágono hasta las consultas médicas. La falta de medidas coercitivas por parte de la FTC que probablemente se producirá, según Frazier, "es peligrosa para el público ".