Al jefe de inteligencia artificial (IIA) de Google los robots asesinos superinteligentes no le quitan el sueño. En su lugar, John Giannandrea está preocupado por el peligro que puede acechar dentro de los algoritmos de aprendizaje automático utilizados para tomar millones de decisiones cada minuto (ver El día que los algoritmos empezaron a discriminar a la gente sin querer)

Antes de una reciente conferencia de Google sobre la relación entre los seres humanos y los sistemas de IA, el responsable afirmó:"La verdadera cuestión de seguridad, si quiere llamarse así, es que si les damos a estos sistemas datos sesgados, estarán sesgados".

Es probable que el problema del sesgo en el aprendizaje automático crezca a medida que la tecnología se extiende a áreas críticas como la medicina y el derecho, y también aumentará cuanta más gente sin una profunda comprensión técnica suficiente tenga que implementarla. Algunos expertos advierten de que el sesgo algorítmico ya es omnipresente en muchas industrias, y que casi nadie está haciendo un esfuerzo para identificarlo o corregirlo (ver Los algoritmos sesgados están por todas partes, y parece que a nadie le importa).

Giannandrea añade: "Es importante que seamos transparentes sobre los datos de entrenamiento que usamos y que busquemos prejuicios ocultos en ellos. De lo contrario, estaremos construyendo sistemas sesgados. Si alguien está tratando de vender un sistema tipo caja negra como apoyo para la decisión médica, pero usted no sabe cómo funciona ni qué datos se utilizaron para entrenarlo, entonces yo no confiaría en él".

Los modelos de aprendizaje automático de caja negra ya están teniendo un impacto importante en la vida de algunas personas. Un sistema llamado COMPAS, creado por una compañía llamada Northpointe, promete predecir la probabilidad de reincidencia de los acusados. Algunos jueces ya lo usan para determinar si un recluso debe beneficiarse de la libertad condicional. El funcionamiento de COMPAS es secreto, pero una investigación de ProPublica halló pruebas de que el modelo puede estar sesgado en perjuicio de las minorías.

Pero para resolver el problema no basta con publicar los detalles de los datos o del algoritmo empleado. Muchas de las técnicas emergentes de aprendizaje más potentes son tan complejas y opacas que dificultan un análisis en profundidad (ver El secreto más oscuro de la inteligencia artificial: ¿por qué hace lo que hace?). Para abordar esta cuestión, los investigadores están explorando maneras de hacer que estos sistemas den alguna aproximación de su trabajo a ingenieros y a usuarios finales(ver Se acabó la confianza ciega, la inteligencia artificial debe explicar cómo funciona).

Giannandrea tiene buenas razones para alertar del sesgo potencial que puede infiltrarse en la inteligencia artificial. Google es una de las grandes empresas que alaban las capacidades de IA de sus plataformas de cloud computing de todo tipo de negocios. Estos sistemas de aprendizaje automático, basados ​​en la nube, están diseñados para ser mucho más fáciles de usar que los algoritmos subyacentes. Esto ayudará a que la tecnología sea más accesible, pero también podría facilitar el sesgo. Además, será importante ofrecer tutoriales y herramientas para ayudar a científicos e ingenieros de datos con menos experiencia a identificar y eliminar sesgos de sus datos de entrenamiento.

Varios de los ponentes de la conferencia organizada por Google también destacaron el tema del sesgo. La investigadora de Google, Maya Gupta, comentó sus esfuerzos para construir algoritmos menos opacos dentro del equipo conocido internamente como "GlassBox". La profesora de ciencias de la computación en la Universidad de Illinois (EEUU) Karrie Karahalios presentó investigaciones que destacaban la complejidad de detectar el sesgo incluso en los algoritmos más habituales. Karahalios mostró que los usuarios generalmente no entienden cómo Facebook filtra los mensajes mostrados en su tablón de noticias. Aunque esto puede parecer inocuo, ilustra lo complejo que es interrogar a un algoritmo.

Sin duda, el algoritmo de alimentación de noticias de Facebook influye en la percepción que el público tiene de las interacciones sociales e incluso de eventos de noticias importantes. Puede que otros algoritmos ya estén distorsionando sutilmente los tipos de atención médica que una persona recibe, o cómo se la trata en el sistema de justicia penal. Seguro que esto es mucho más importante que los robots asesinos (al menos por ahora).

Ciertamente, Giannandrea ha sido la voz de la razón de los últimos años entre algunas advertencias más fantásticas sobre los riesgos planteados por la IA. Elon Musk, en particular, ha generado innumerables titulares al advertir recientemente que la inteligencia artificial es una amenaza más grande que Corea del Norte, y que podría dar lugar a la Tercera Guerra Mundial.

Giannandrea concluyó: "Me opongo a la creencia de que daremos el salto a algún tipo de sistema superinteligente que hará que los seres humanos se queden obsoletos. Entiendo por qué la gente se preocupa por ello, pero creo que ya ha estado demasiado tiempo en el aire. No creo que haya ninguna base tecnológica que indique en absoluto que esto es inminente".