Este artículo fue publicado en The Algorithm, nuestro boletín semanal sobre IA. Para recibir historias como esta en tu bandeja de entrada (en inglés), suscríbete aquí.

El sector de la IA se caracteriza por la falta de competencia y por tener numerosos engaños. Al menos, esa es una de las interpretaciones de la reciente ola de medidas adoptadas en Washington (EE UU).

Los senadores Elizabeth Warren y Eric Schmitt han presentado un proyecto de ley para fomentar una mayor competencia en los contratos del Pentágono relacionados con IA y computación en la nube. En la actualidad, Amazon, Microsoft, Google y Oracle dominan este mercado. "Los gigantes de la IA crecen absorbiendo los datos de otros. Los utilizan para entrenar y expandir sus propios sistemas", declaró Warren en una entrevista del Washington Post.

El nuevo proyecto de ley exigiría un proceso competente para la adjudicación de contratos. Además, prohibiría que el Pentágono otorgase licitaciones sin oferta a empresas para servicios en la nube o modelos de IA. La propuesta legislativa se presentó un día después de que OpenAI anunciara su primera colaboración con Anduril, empresa estadounidense de defensa, para desplegar su tecnología en el campo de batalla. Esta noticia representa un giro respecto a la postura de la compañía el año pasado, cuando se oponía a colaborar con el ejército.

Mientras las grandes tecnológicas enfrentan investigaciones antimonopolio, como la demanda en curso contra Google por su dominio en las búsquedas y una nueva investigación sobre Microsoft, los reguladores también las acusan de mentir.

Por otro lado, la Comisión Federal de Comercio (FTC) emprendió acciones contra IntelliVision, empresa de cámaras inteligentes, tras ser acusada de hacer publicidad engañosa con su tecnología de reconocimiento facial. La compañía aseguraba que sus modelos de inteligencia artificial, utilizados en sistemas de cámaras de seguridad para hogares y negocios, operaban sin sesgos raciales o de género y que habían sido entrenados con millones de imágenes. Sin embargo, la FTC sostiene que ambas afirmaciones son falsas, ya que la empresa no pudo demostrar la ausencia de sesgos y el sistema fue entrenado con solo 100.000 imágenes.

Una semana antes, la FTC presentó una denuncia similar contra Evolv, gigante de la seguridad que vende sistemas de escaneo basados en IA a estadios, escuelas y hospitales. La compañía promocionaba sus productos como una mejora frente a los detectores de metales tradicionales, y afirmaba que su tecnología podía identificar con precisión armas de fuego, cuchillos y otras amenazas. Sin embargo, la FTC sostiene que Evolv exageró la efectividad de sus sistemas, que además fallaron en situaciones clave. Por ejemplo, en un incidente ocurrido en 2022, el sistema no detectó un cuchillo de siete pulgadas que luego fue utilizado para apuñalar a un estudiante.

Estas denuncias se suman a las que la FTC presentó en septiembre contra varias empresas de IA, entre ellas una que comercializaba una herramienta para generar reseñas falsas de productos y otra que ofrecía servicios de "abogado de IA".

Sin embargo, las repercusiones han sido mínimas. Ninguna de las dos empresas, IntelliVision ni Evolv, ha sido multada. La FTC solo les ha prohibido hacer afirmaciones sin respaldo y, en el caso de Evolv, ha exigido que permita a algunos clientes cancelar sus contratos si lo desean.

Estas acciones reflejan un intento de pedir responsabilidades a la industria de la IA, que ha crecido de manera desmesurada en los últimos meses, antes de que la presidenta de la FTC, Lina Khan, sea reemplazada cuando Donald Trump asuma la presidencia. Aunque Trump aún no ha designado a un nuevo presidente para la FTC, el jueves anunció que Gail Slater, asesora de política tecnológica y excolaboradora del vicepresidente electo JD Vance, dirigirá la División Antimonopolio del Departamento de Justicia. Asimismo, el presidente electo también ha indicado que, bajo el liderazgo de Slater, la agencia se centrará en vigilar a gigantes tecnológicos como Google, Amazon y Microsoft.

"¡Las grandes tecnológicas han actuado sin control durante años, ahogando la competencia en nuestro sector más innovador y, como todos sabemos, usando su poder de mercado para pisotear los derechos de tantos estadounidenses, así como los de las pequeñas empresas tecnológicas!", declaró Trump un discurso para anunciar su elección. "Me siento orgulloso de haber luchado contra estos abusos en mi primer mandato. El equipo antimonopolio de nuestro Departamento de Justicia continuará con esa labor bajo el liderazgo de Gail", añadió el político. 

A pesar de esto, algunas de las críticas de Trump hacia las grandes tecnológicas tienen un enfoque distinto, como su preocupación por la censura y parcialidad hacia los conservadores. Esto podría llevar los esfuerzos antimonopolio en una dirección completamente nueva bajo su liderazgo y marcaría un cambio en la forma de abordar estos temas en el futuro.