Reconozcámoslo, la velocidad a la que avanza la inteligencia artificial (IA) a veces puede parecer desconcertante. Las máquinas tipo Terminator siguen siendo cosa de la ciencia ficción, pero la IA podría tener un enorme impacto en el empleo, introducir sesgos en los algoritmos y contribuir al desarrollo de armas autónomas. Aunque tal vez la mayor amenaza potencial sea asegurarnos de entender cómo funcionan estos sistemas cada vez más complejos cuando sufren una avería.

La última prueba de que incluso los expertos están preocupados es la creación de un nuevo centro de investigaciones éticas sobre la inteligencia artificial en la Universidad de Carnegie Mellon (EEUU). El nuevo centro, la Fundación K&L Gates para la Ética y las Tecnologías Computacionales, ha sido financiado con unos nueve millones de euros de K&L Gates, un bufete de derecho internacional radicado en Pittsburgh (EEUU).

La ansiedad a causa de la inteligencia de máquinas es cada vez mayor. El mes pasado, la Casa Blanca publicó un informe sobre los efectos potenciales de la IA. Y varias de las principales empresas tecnológicas del mundo han unido fuerzas recientemente para formar una organización, llamada la Alianza para la IA, para estudiar la tecnología y sus impactos potenciales.

Crédito: Chip Somodevilla (Getty Images).

En un comunicado, el presidente de la Universidad de Carnegie Mellon, Subra Suresh, dijo que será importante considerar el lado humano de todos los sistemas de inteligencia artificial. En su texto, Suresh detallaba: "La tecnología no será lo único que marque el curso que tomará este siglo. Nuestro futuro también estará fuertemente influido por cómo los humanos interactuamos con la tecnología, cómo prevemos y respondemos a las consecuencias no intencionadas de nuestro trabajo y cómo nos aseguramos de que la tecnología se usa para beneficiar a la humanidad, individualmente y como sociedad".

La propia universidad está sufriendo algunos dolores de cabeza por los avances de la inteligencia artificial. El año pasado su departamento de robótica fue saqueado por Uber, que contrató a los investigadores para un cercano centro dedicado a la conducción autónoma. Al mismo tiempo, la universidad está generando spin-offs especializadas en IA y realiza labores de consultoría con grandes empresas en varios proyectos similares.

Además del desempleo, los sesgos algorítmicos y las armas autónomas, una de las consecuencias más importantes y menos apreciadas de la inteligencia artificial podría ser una dependencia cada vez mayor de sistemas que son inescrutables porque nadie los ha programado. Este problema ya ha surgido en algunas situaciones, mientras algunos expertos intentan diseñar sistemas de aprendizaje automático capaces de explicar mejor su propio funcionamiento.

(Para saber más: Carnegie Mellon University, Nature, MIT News, Obama: My Successor Will Govern a Country Being Transformed by AI, Tech Titans Join Forces to Stop AI from Behaving Badly)