Nvidia ha desarrollado una red de inteligencia artificial (IA) de conducción autónoma que enseña cómo funciona. Como ya hemos analizado en nuestro artículo El secreto más oscuro de la inteligencia artificial: ¿por qué hace lo que hace?, algunas de las técnicas de aprendizaje automático más potentes producen un software totalmente opaco, incluso para los ingenieros que lo han desarrollado, a quienes les resulta imposible saber cómo llega a sus conclusiones o por qué toma las decisiones que toma. Por lo tanto, los enfoques capaces de dar pistas sobre cómo funciona un programa de IA será de vital importancia para aumentar la confianza en una tecnología que podría revolucionarlo todo, desde la medicina hasta la fabricación.

Los chips de Nvidia son ideales para el aprendizaje profundo, una técnica especialmente compleja del aprendizaje automático (ver Aprendizaje profundo).

Foto: El software de red neuronal de Nvidia señala las zonas en las que se está centrando mientras toma decisiones de conducción.

Pero el fabricante de chips también ha estado trabajando en sistemas que demuestran cómo una automovilística podría aplicar el aprendizaje profundo a la conducción autónoma. Esto incluye un coche controlado totalmente por un algoritmo de aprendizaje profundo. Lo más increíble es que al ordenador del vehículo no se le dan pautas ni reglas a seguir, en lugar de eso, simplemente empareja los datos de varias cámaras de vídeo con el comportamiento de un conductor humano para averiguar por sí solo cómo debería conducir. La única pega es que el sistema es tan complejo que resulta difícil desentrañar cómo funciona realmente.

Así que Nvidia ha decidido intentar abrir esta caja negra. Ha desarrollado una forma de señalar visualmente a qué está prestando atención el sistema. Como se explica en un trabajo recién publicado, la arquitectura de red neuronal desarrollada por los investigadores de Nvidia fue diseñada para poder resaltar las zonas de una imagen de vídeo que más contribuyen al comportamiento de la red neuronal profunda del coche. Increíblemente, los resultados demuestran que la red se centra en los bordes de las calzadas, las señalizaciones de carril y los coches aparcados, que son exactamente las mismas cosas a las que un buen conductor humano prestaría atención. El principal arquitecto de coches autónomos de Nvidia, Urs Muller, escribió en una actualización de blog: "Lo verdaderamente revolucionario es que a la red nunca le dijimos que debería dar importancia a esos elementos".

Este avance sigue sin dar una explicación del razonamiento de la red neuronal, pero es un buen primer paso. Muller detalla: "No puedo explicarle todo lo que necesito que haga el coche, pero se lo puedo enseñar, y ahora él puede mostrarme lo que ha aprendido".

Este tipo de enfoque podría ir ganando importancia a medida que el aprendizaje profundo empiece a ser aplicado a prácticamente cualquier problema que implique grandes cantidades de datos, incluidas áreas críticas como la medicina, las finanzas y la inteligencia militar.

También hay un puñado de investigadores académicos explorando el tema. Por ejemplo, Jeff Clune, de la Universidad de Wyoming (EEUU), y Carlos Guestrin, de la Universidad de Washington (y Apple), también han conseguido señalar las partes de las imágenes en las que se centran los sistemas de clasificación. Y Tommi Jaakola y Regina Barzilay, del Instituto Tecnológico de Massachusetts (MIT, EEUU), están desarrollando maneras de proporcionar extractos de texto que ayuden a explicar una conclusión sacada a partir de grandes cantidades de datos escritos.

La Agencia de Proyectos de Investigación de Defensa Avanzados de Estados Unidos (DARPA, por sus siglas en inglés), que realiza investigaciones a largo plazo para las fuerzas armadas estadounidenses, está financiando varios esfuerzos de investigación similares mediante un programa bautizado como Inteligencia Artificial Explicable (XAI, por sus siglas en inglés).

Pero más allá de los detalles técnicos, resulta fascinante comparar todo esto con la inteligencia humana. Nosotros hacemos todo tipo de cosas que no podemos explicar, y las explicaciones que nos inventamos a menudo son tan solo aproximaciones o "historias" de lo que sucede. Dada la opacidad de los métodos actuales cada vez más complejos de aprendizaje automático, algún día nos podríamos ver obligados a aceptar las ambiguas explicaciones de la inteligencia artificial.

(Para saber más: Nvidia, El secreto más oscuro de la inteligencia artificial: ¿por qué hace lo que hace?, Se acabó la confianza ciega, la inteligencia artificial debe explicar cómo funciona)