Geoffrey Hinton, un informático, sobre cuyo trabajo pionero sobre el aprendizaje profundo en los años 80 y 90, se sustentan los actuales modelos de IA más potentes, ha sido galardonado con el Premio Nobel de Física 2024 por la Real Academia Sueca de las Ciencias.

Hablando por teléfono con la Academia minutos después del anuncio, Hinton se declaró atónito. "No tenía ni idea de que esto fuera a ocurrir. Estoy muy sorprendido", contestó.

Hinton comparte el premio con su colega informático John Hopfield, que inventó un tipo de red neuronal de coincidencia de patrones que podía almacenar y reconstruir datos. Hinton se basó en esta tecnología, conocida como red de Hopfield, para desarrollar la retropropagación, un algoritmo que permite a las redes neuronales aprender.

Hopfield y Hinton tomaron prestados métodos de la física, especialmente técnicas estadísticas, para desarrollar sus planteamientos. En palabras del comité del Premio Nobel, se reconoce a ambos "por descubrimientos e invenciones fundamentales que permiten el aprendizaje automático con redes neuronales artificiales".

Pero desde mayo de 2023, cuando MIT Technology Review ayudó a dar la noticia de que Hinton ahora tenía miedo de la tecnología que él había ayudado a crear, el científico de 76 años se ha hecho mucho más conocido como representante de la corriente doomer o "apocalíptica": la idea de que existe un riesgo muy real de que una IA pueda precipitar acontecimientos catastróficos, incluso la extinción humana, en un futuro cercano.

El doomerismo no era nuevo, pero Hinton –ganador en 2018 del Premio Turing, máximo galardón en ciencias de la computación– aportó un capa de credibilidad a una postura que muchos de sus compañeros consideraban descabellada.

¿Qué llevó a Hinton a hablar tan claro? Cuando me reuní con él en su casa de Londres el año pasado, Hinton me dijo que estaba asombrado por lo que los nuevos grandes modelos de lenguaje podían hacer. El último modelo insignia de OpenAI, GPT-4, se había presentado unas semanas antes. Lo que vio Hinton le convenció de que esa tecnología, basada en el aprendizaje profundo, llegaría a ser rápidamente más inteligente que los humanos. Y le preocupaban las motivaciones que tendría cuando lo hiciera.

"De repente he cambiado de opinión sobre si estas cosas van a ser más inteligentes que nosotros", me dijo entonces. "Creo que ahora están muy cerca de serlo y que en el futuro serán mucho más inteligentes que nosotros. ¿Cómo sobreviviremos a eso?".

Las opiniones de Hinton desencadenaron un gran revuelo mediático que duró meses e hizo que el tipo de riesgos existenciales que él y otros imaginaban (desde el colapso económico hasta los robots genocidas) se convirtieran en preocupaciones dominantes. Cientos de científicos y líderes tecnológicos firmaron cartas abiertas advirtiendo de las desastrosas consecuencias de la inteligencia artificial. Se propuso una moratoria en el desarrollo de la IA. Los políticos aseguraron a los votantes que harían todo lo posible para evitar lo peor.

A pesar de la expectación, muchos consideran fantasiosas las opiniones de Hinton. Yann LeCun, científico jefe de IA en Meta y compañero de Hinton en el Premio Turing 2018, ha calificado el doomerismo de "absurdo y ridículo"

El premio de hoy recompensa un trabajo pionero en una tecnología que se ha convertido en parte de la vida cotidiana. También sacará a relucir aún más las opiniones más alarmistas de Hinton.