Crédito: Cortesía de Safiya Umoja Noble.
nNoble estaba horrorizada, pero no sorprendida. Esta profesora de Comunicación de la Universidad de Califo ia (EE. UU.) lleva años defendiendo que los valores que dominan la web son un reflejo de los valores de sus propios creadores, en su mayoría hombres blancos occidentales, y que dichos valores no representan a las minorías ni a las mujeres. En su último libro Algorithms of Oppression (Algoritmos de opresión), Noble narra cómo después de aquella fatídica búsqueda en Google decidió empezar su investigación. La obra también explora las estructuras ocultas que dan forma a cómo obtenemos información a través de inte et.
nEl libro, publicado en febrero, argumenta que los algoritmos de los motores de búsqueda no son tan neutrales como a Google le gustaría pensar. Los algoritmos ascienden algunos resultados por encima de otros e incluso una pieza de código de aspecto neutro puede reflejar los prejuicios de la sociedad. Además, sin una idea de cómo funcionan los algoritmos ni un contexto más amplio, las búsquedas pueden modelar de forma injusta la discusión de un tema como el de las chicas negras.
nNoble habló con MIT Technology Review sobre los problemas inherentes al sistema actual y de las estrategias que Google podría seguir para mejorar. Pero también señala que la inteligencia artificial podría empeorar las cosas.
n¿Cuáles son los errores que la gente comete al pensar en el funcionamiento de los motores de búsqueda?
nSi estamos buscando el Starbucks más cercano, una cita específica, o algo muy preciso que se entienda fácilmente, funcionan bien. Pero si nos metemos en conceptos más complicados en to o a la identidad o el conocimiento, los motores de búsqueda comienzan a fallar. En principio esto no debería ser un gran problema, pero el público confía en los motores de búsqueda para recibir información de lo que cree que será la verdad, de o algo que se ha investigado, o de algo que sea creíble. Aquí es donde, en mi opinión, el público está confundido sobre lo que realmente son los motores de búsqueda.
nPara abordar los sesgos, Google suele eliminar ciertos resultados. ¿Hay un enfoque que sea mejor?
nPodríamos pensar en recurrir a un proyecto tan ambicioso como organizar todo el conocimiento del mundo, o podríamos replanteá oslo y decir: "Esta es una tecnología imperfecta. Es manipulable. Vamos a analizar cómo se puede manipular. Vamos a aumentar la transparencia de ese tipo de dimensiones en nuestro producto para que se conozca la naturaleza profundamente subjetiva del resultado". Pero la posición de muchas empresas, no solo la de Google, es que [ellas] ofrecen resultados en los que usted puede confiar y con los que puede contar, y aquí la cosa se complica.
n¿Cómo podría el aprendizaje automático perpetuar parte del racismo y el machismo sobre el que escribe?
nLlevo tiempo diciendo que en este siglo, la inteligencia artificial o los sistemas automatizados de toma de decisiones, se convertirán en un problema de derechos humanos. Creo firmemente que, dado que los algoritmos y los proyectos de aprendizaje automático usan datos parciales, incompletos y defectuosos, lo que le estamos enseñando a las máquinas es a tomar decisiones basadas en esa información. Y sabemos que [eso] conducirá a una variedad de resultados diversos. Y déjeme añadir que la inteligencia artificial será cada vez más difícil de abordar porque nadie tendrá claro qué datos se usaron para entrenar a ese programa, o para crear estos sistemas. Por ejemplo, hay muchos conjuntos de datos diferentes que no están estandarizados y que se combinan para tomar decisiones.
nDesde que buscó por primera vez el término "chicas negras" en 2010, ¿cree que las cosas han ido a mejor o a peor?
nDesde que comencé a escribir y hablar públicamente sobre que el término de chicas negras está asociado particularmente con la po ografía, las cosas han cambiado. Ahora la po ografía y el contenido hipersexualizado no salen en la primera página de los resultados, así que creo que ha habido una mejora silenciosa que se produjo de forma discreta. Pero otras comunidades, como las latinas y las asiáticas, todavía están muy sexualizadas en los resultados de búsqueda.
n