.

RYAN YOUNG

Inteligencia Artificial

Comunitaria e igualitaria: la IA ética que impulsa la científica que dejó Google

1

Después de salir de la empresa, se unió al Instituto de Investigación de IA Distribuida de la científica Timnit Gebru (también ex Google) y su trabajo ya va avanzando

  • por Anmol Irfan | traducido por Ana Milutinovic
  • 02 Noviembre, 2022

"Renuncio porque estoy cansada". Eso escribió Alex Hanna el 2 de febrero, su último día en el equipo de IA ética de Google. Pensaba que su empresa -y la industria tecnológica en su conjunto-, estaba haciendo poco para promover la diversidad y mitigar los daños que sus productos habían provocado a las personas marginadas. "En una palabra: la tecnología tiene el problema de ser de blancos. Google no es solo una organización tecnológica. Google es una organización de tecnología blanca", escribió en una publicación en Medium.

Hanna no se tomó mucho descanso: el 3 de febrero ya se había unido al Instituto de Investigación de IA Distribuida (DAIR por Distributed AI Research Institute) como la segunda empleada del grupo.

Esta decisión coronó un período agitado en la vida profesional de Hanna. A finales de 2020, su jefa, Timnit Gebru, fue despedida de su puesto como codirectora del equipo de ética en la IA, después de cuestionar en un artículo la ética de los grandes modelos de lenguaje (incluido el de Google). Unos meses más tarde, también le mostraron la puerta de salida a la siguiente jefa de Hanna, Meg Mitchell.

DAIR, fundado por Gebru a finales de 2021 y financiado por varias organizaciones filantrópicas, tiene como objetivo desafiar la comprensión existente de la inteligencia artificial (IA) a través de un enfoque de investigación centrado en la comunidad y que va desde abajo hacia arriba. El grupo trabaja de forma remota e incluye equipos en Berlín (Alemania) y Sudáfrica.

"Queríamos encontrar una forma diferente de IA, que no tuviera las mismas limitaciones institucionales que las empresas y gran parte de la investigación académica", explica Hanna, actual directora de investigación del grupo. Aunque este tipo de investigaciones son más lentas, "permiten el estudio para los miembros de la comunidad: diferentes tipos de conocimiento que se respetan y compensan y que se utilizan para el trabajo comunitario".

Menos de un año después, DAIR todavía está definiendo su modelo, según Hanna. Pero la investigación va avanzando. El instituto tiene tres empleados a tiempo completo y cinco colaboradores: una combinación de investigadores académicos, activistas y profesionales con sus propios planes de investigación pero que también ayudan a desarrollar los programas del instituto. Raesetje Sefala, colaboradora de DAIR, utiliza imágenes satelitales y tecnología de visión artificial para centrarse en el cambio de los barrios en la Sudáfrica post-apartheid, por ejemplo. Su proyecto analiza el impacto de la desegregación y mapea las áreas de bajos ingresos. Otra colaboradora de DAIR, Milagros Miceli, realiza un proyecto sobre las asimetrías de poder en el trabajo subcontratado de datos. Muchos trabajadores de datos que entran en las empresas de tecnología para analizar y gestionar grandes cantidades de información residen en el Sur Global y, por lo general, reciben una miseria.

A Hanna, DAIR le parece algo muy natural. Su autodenominado "camino no tradicional hacia la tecnología" comenzó con un doctorado en Sociología y trabajo sobre la justicia laboral. En los estudios de posgrado, utilizó herramientas de aprendizaje automático para analizar cómo los activistas se conectaban entre sí durante la revolución de 2008 en Egipto, de donde es su familia. "La gente decía que [la revolución] ocurría en Facebook y Twitter, pero no se puede crear un movimiento de la nada", opina Hanna. "Comencé a entrevistar a los activistas y a entender lo que hacían sobre el terreno además de su actividad online".

DAIR apunta a un gran cambio estructural usando la investigación con IA para arrojar luz sobre temas que de otro modo no se explorarían y para difundir conocimientos que de otra manera no se valorarían. "En mi carta de renuncia dirigida a Google, señalé cómo las organizaciones tecnológicas encarnan muchos valores y prácticas de la supremacía blanca", indica Hanna. "Modificar eso significa buscar cuáles son esos puntos de vista y cómo deshacer esas prácticas organizacionales". Esos son los valores que defiende DAIR, concluye Hanna.

Inteligencia Artificial

 

La inteligencia artificial y los robots están transformando nuestra forma de trabajar y nuestro estilo de vida.

  1. La IA llega a los videojuegos: la versión de Minecraft que presenta un mundo generado automáticamente en tiempo real

    Esta versión del popular videojuego de construcción, desarrollada por las empresas Decart y Etched, es un experimento que demuestra cómo la IA puede generar mundos sin necesidad de que un humano escriba una sola línea de código

    La IA llega a los videojuegos: la versión de Minecraft que presenta un mundo generado automáticamente en tiempo real
  2. Así funciona el oligopolio de los datos que entrenan los modelos de IA

    Un estudio revela que los datos empleados para entrenar la IA están concentrando el poder en manos de unas pocas empresas, creando un oligopolio alineado con los intereses y objetivos de corporaciones con fines lucrativos

    Tras el telón de la IA: de dónde salen los datos que la construyen
  3. El gobierno de EE UU pone bajo la lupa a las empresas de IA por publicidad engañosa

    La Comisión Federal de Comercio (FTC) de Estados Unidos ha tomado medidas contra varias empresas de IA por mentir y realizar publicidad engañosa, una lucha que continuará durante el próximo mandato de Donald Trump

    La Comisión Federal de Comercio (FTC) de Estados Unidos ha tomado medidas contra varias empresas de IA