Esta es la idea que plantea en su nuevo libro, The Big Nine: How the Tech Titans and Their Thinking Machines Could Warp Humanity (Los Nueve Gigantes: Cómo los Titanes Tecnológicos y sus máquinas de pensar podrían distorsionar la humanidad), en el que observa a vista de pájaro las tendencias que, según advierte, han situado el desarrollo de la tecnología en un camino peligroso. En EE. UU., Google, Microsoft, Amazon, Facebook, IBM y Apple (la "G-MAFIA") están limitados por las continuas demandas a corto plazo del mercado capitalista, que les impiden planificar a largo plazo sus estrategias en to o a la IA. En China, Tencent, Alibaba y Baidu se están consolidando y extrayendo grandes cantidades de datos para alimentar las autoritarias ambiciones de su Gobie o.
nSi no cambiamos esta situación, Webb cree podríamos estar dirigiéndonos hacia una catástrofe. Pero asegura que todavía hay tiempo para actuar, y que todos podríamos jugar un papel en el cambio. La autora ha hablado con MIT Technology Review sobre sus preocupaciones y su idea de lo que podríamos hacer al respecto.
nUsted opina que, en la actualidad, asistimos una convergencia de tendencias tecnológicas, políticas y económicas preocupantes. ¿Podría detallar cuáles a qué tendencias tecnológicas se refiere?
nSi habla con investigadores del campo, le dirán que aún falta mucho tiempo para que se cumplan muchas de las promesas en to o a la IA: como la automatización completa de los vehículos, el reconocimiento absoluto o la inteligencia artificial general, que serían sistemas con unas habilidades cognitivas y un razonamiento similares a los humanos.
nDesde mi punto de vista, no tiene sentido mirar hacia un futuro en el que tendremos máquinas que caminan y hablan o una voz en off que toma decisiones autónomas. Ya tenemos miles de millones de pequeños avances que, con el tiempo, tendrán un efecto combinado y darán lugar a sistemas que tomarán muchas decisiones a la vez de forma autónoma.
nEl equipo de DeepMind, por ejemplo, ha estado trabajando duro para enseñar a las máquinas a vencer a los humanos en distintos juegos. Los investigadores han avanzado bastante en áreas como el aprendizaje reforzado jerárquico y el aprendizaje multitarea. AlphaZero, la última versión de su algoritmo AlphaGo, es capaz de aprender a jugar tres juegos distintos sin que ningún humano le enseñe. Es un salto bastante grande. También está el nuevo campo de las redes generativas antagónicas, donde un conjunto de imágenes de un tamaño decente permite generar rostros humanos falsos pero que parecen muy, muy realistas.
nEstos avances no son tan atractivos ni tan fascinantes como los que esperamos de una IA general. Pero si miramos desde arriba, veremos que nos dirigimos a una situación en la que los sistemas tomarán decisiones por nosotros. Y tenemos que detene os y pregunta os qué sucederá cuando esos sistemas dejen de lado la estrategia humana y funcionen de una forma totalmente desconocida para nosotros.
n¿Y las tendencias políticas y económicas? ¿Podría describir las más preocupantes?
nEn Estados Unidos, el libre flujo de ideas puede propagarse sin trabas. Esa fue la semilla de la que nació Silicon Valley. Ha generado competencia e innovación, las claves que nos han traído a donde estamos ahora con la inteligencia artificial y otras tecnologías.
n
Foto: Portada del último libro de Amy Webb. Crédito: Amy Webb
nSin embargo, en EE. UU., también sufrimos de una trágica falta de previsión. En lugar de crear una gran estrategia a largo plazo para la IA, el Gobie o federal ha eliminado los fondos de investigación científica y tecnológica. Así que el dinero debe salir del sector privado. Pero los inversores esperan algún tipo de beneficio. Eso es un problema. Cuando se trabaja en tecnología e investigación básica, los avances en I+D no se pueden programar. Sería fantástico que las grandes compañías tecnológicas tuvieran la oportunidad de trabajar duro sin tener que organizar una conferencia anual para mostrar su último y más grandioso producto. Pero en lugar de eso, tenemos innumerables ejemplos de malas decisiones tomadas por alguien de la G-MAFIA, probablemente porque tenían que trabajar deprisa. Estamos empezando a ver los efectos negativos de la tensión entre la investigación a favor de los intereses de la humanidad y la que hace felices a los inversores.
nSi esa situación ya es mala de por sí, resulta que además coincide con la consolidación de un enorme poder en China. El país tiene un fondo de riqueza soberana dedicado a la investigación básica fundamental de IA. Está invirtiendo enormes cantidades de dinero en la tecnología. Y su visión sobre la privacidad y los datos es totalmente diferente a la de Estados Unidos. Esto significa que tiene muchos más datos y dado que la autoridad es central, al Gobie o chino le resulta muy fácil probar y construir servicios de inteligencia artificial con datos de 1.300 millones de personas. Y eso es sólo dentro de su propio país.
nLuego tienen la Iniciativa Belt and Road, que parece un programa de infraestructura tradicional pero en parte también es digital. No solo trata de construir carreteras y puentes; también de crear redes 5G y colocar fibra óptica, de extraer y refinar datos en el extranjero. El despliegue de estas tecnologías por parte de China es un riesgo para la libertad de expresión y los ideales democráticos occidentales (ver Claves para entender por qué EE. UU. teme que Huawei domine el 5G).
n¿Por qué deberíamos luchar por los ideales democráticos occidentales?
nEs una gran pregunta. He vivido en China, en Japón y, obviamente, en Estados Unidos. Si miro la situación actual de nuestro país y lo que está pasando en China me pregunto, ¿es esto lo peor? El sistema de crédito social de China, suena horrible fuera del país, pero mucha gente no sabe que ese comportamiento de autodenuncias y control dentro de las aldeas y las comunidades ha sido parte de la cultura china desde siempre. El sistema de crédito social simplemente lo automatiza. Así que sí, es una pregunta estupenda.
nSupongo que ante una versión idealizada del comunismo chino y una versión idealizada de la democracia occidental, elegiría la democracia occidental porque creo que hay una mejor oportunidad para el libre flujo de ideas y para que cualquier persona tenga éxito. Creo que dar incentivos a la gente por sus logros individuales y personales es una excelente manera de elevar una sociedad, nos ayuda a alcanzar nuestro potencial individual.
nDada la dirección actual hacia la que avanza la IA, ¿cree que esta es una comparación justa? ¿Debemos comparar las versiones idealizadas del comunismo chino y la democracia occidental, o sus peores versiones?
nEsa es una gran pregunta porque podría argumentar que partes del ecosistema actual de la IA ya están afectando nuestros ideales democráticos occidentales de una manera verdaderamente negativa. Todo lo que ha sucedido con Facebook es un ejemplo perfecto. Pero también lo que está pasando con el movimiento antivacunas. Hay gente difundiendo información totalmente falsa sobre las vacunas y la ciencia básica. Nuestra tradición estadounidense debería defender la libertad de expresión, las plataformas son plataformas, debemos dejar que las personas se expresen. Bueno, el desafío es que los algoritmos deciden qué contenido editorial llega a las personas, y este contenido les puede llevar a tomar muy malas decisiones y, como resultado, tener a los niños enfermos.
nEl problema es que nuestra tecnología se ha vuelto cada vez más sofisticada, pero nuestra idea sobre la libertad de expresión y la economía del libre mercado no se ha sofisticado al mismo ritmo. Tendemos a recurrir a interpretaciones muy básicas: la libertad de expresión significa que todas las expresiones son libres a menos que sean contrarias a la ley de difamación, y ese es el final de la historia. Pero la realidad no es así. Debemos comenzar a tener una conversación más sofisticada e inteligente sobre nuestras leyes actuales, sobre las tecnologías emergentes y sobre qué podemos hacer para que se junten.
nEn otras palabras, usted tiene fe en que vamos a evolucionar hacia una versión más idealizada de la democracia occidental. Y prefiere eso al idealismo comunista chino.
nSí, tengo fe en que es posible. Mi gran preocupación es que todo el mundo está esperando, estamos dando largas y al final la gente no se concienciará hasta que suceda una verdadera catástrofe, como si el lugar al que hemos llegado ahora no fuera catastrófico. Pero el hecho de que el sarampión haya regresado a Washington EE.UU. para mí es un resultado catastrófico. Sucedió a raíz de las elecciones presidenciales. Independientemente del lado del espectro político de cada uno de nosotros, no puedo imaginar que nadie piense hoy que el clima político actual es bueno para nuestro futuro.
nAsí que creo que hay un camino por delante. Pero debemos senta os para cerrar la brecha entre la innovación y la política para que todos podamos ir en la misma dirección.
n¿Qué recomienda al Gobie o, las empresas, las universidades y los usuarios individuales?
nEl avance de la IA es un problema, y cada uno de nosotros tiene una parte de responsabilidad. Usted, mi padre, mi vecino de al lado, el chico de Starbucks al que acabo de ver ahora mismo, yo. Entonces, ¿qué debería hacer la gente común? Ser más consciente de quién está usando tus datos y cómo. Hay que dedicar unos minutos a leer el trabajo de personas inteligentes y averiguar de qué estamos hablando realmente. Antes de entregar su vida y comenzar a compartir fotos de sus hijos, hágalo de manera informada. Si está de acuerdo con lo que implica y lo que podría significar más adelante, bien, pero al menos tenga ese conocimiento primero.
nLas empresas e inversores no pueden apresurar un producto una y otra vez. Pero sí pueden reforzar sus procesos de contratación, aumentar s sus esfuerzos para mejorar la inclusión y asegurarse de que su personal sea tan representativo cómo es el mundo real. También pueden poner algunos frenos. Cualquier inversión que se realice en una empresa o proyecto de IA o lo que sea, también debe incluir financiación y tiempo para verificar riesgo y sesgo.
nLas universidades deben crear espacio en sus programas para obtener títulos híbridos. Deben incentivar a los estudiantes de ciencias a estudiar literatura comparada, religiones mundiales, microeconomía, antropología cultural y cursos similares en otros departamentos. Deben defender los programas de doble titulación en informática y relaciones inte acionales, teología, ciencias políticas, filosofía, salud pública, educación y similares. La ética no debe enseñarse como algo independiente. Las escuelas deben incentivar incluso a los profesores con más antigüedad para abrir complejas discusiones sobre sesgos, riesgos, filosofía, religión, género y ética en sus cursos.
nUna de mis mayores recomendaciones es la creación de una Alianza Global para el Aumento de la Inteligencia (Global Alliance on Intelligence Augmentation). En este momento, en el mundo, la gente tiene actitudes y posturas muy diferentes en lo que respecta a la recopilación y el intercambio de datos, lo que puede y lo que debe automatizarse, y de cómo será el futuro con sistemas más inteligentes. Así que creo que deberíamos crear algún tipo de organización central que pueda desarrollar normas y estándares globales, algún tipo de quitamiedos para impregnar no solo los ideales estadounidenses o chinos dentro de los sistemas de inteligencia artificial, sino las visiones del mundo que son mucho más representativas de todos nosotros.
nMás que nada, tenemos que estar dispuestos a pensar en esto a largo plazo, no solo dentro de cinco años. Tenemos que dejar de decir: "Bueno, no podemos predecir el futuro, así que no nos preocupemos por eso ahora". Es cierto, no podemos predecir el futuro. Pero seguro que podemos planificarlo mejor.
n