Es un día espléndido en Kirkland, Washington, un acomodado suburbio de Seattle en la orilla este del lago Washington. La temperatura ronda los 29 grados Celsius, y el cielo no podría ser más azul. La vista desde la sala de conferencias de Gates Ventures domina el puerto deportivo de Carillon Point, donde una flotilla de barcos caros se mece en el agua, y al otro lado del lago, hacia las Montañas Olímpicas que definen el horizonte. Es precioso. Y vagamente aterrador.
Porque si la escena es plácida, el mensajero no lo es. Sentado frente a mí en una mesa de conferencias, Bill Gates se balancea hacia adelante y hacia atrás en su silla, totalmente animado. Y cuanto más tiene que decir —sobre las amenazas de terror o colapso económico o simplemente perder el control de nuestros sistemas de IA—, más agitado me siento yo también.
El filántropo y ex CEO de Microsoft afirma estar cada vez más alarmado por la velocidad a la que avanza la tecnología de IA, especialmente porque las salvaguardas no están a la altura. En un nuevo ensayo publicado hoy, Gates sostiene que hemos superado los puntos en los que se deberían haber controlado múltiples peligros potenciales. «Hemos cruzado el umbral en términos de [las] biocapacidades, cibercapacidades, capacidades psicosociales, capacidades de destrucción del mercado laboral, e incluso la falta de control», dijo en una entrevista con MIT Technology Review sobre su nuevo memorándum. «Estoy simplemente asombrado por la falta de preocupación y discusión fuera de la industria».
En un esfuerzo por concienciar al mundo sobre lo que considera un disruptor social de rápido crecimiento, el titán tecnológico de 70 años ha empezado a dar la voz de alarma con una “voz estridente”, tanto públicamente con su nuevo ensayo (el primero de varios que planea sobre el tema) y en reuniones con la prensa, como en privado en conversaciones con líderes de la industria, el gobierno y la sociedad civil.
Y si bien Gates está llamando la atención sobre una serie de cuestiones, sus advertencias sobre las biocapacidades de los modelos de frontera actuales son especialmente escalofriantes. “Cualquier modelo que pueda crear moléculas nuevas debería ser monitorizado”, afirma. “Considero que el riesgo de bioterrorismo, en comparación con una pandemia natural, es unas 50 veces más aterrador y más probable que el de una pandemia natural.”
Además de las advertencias, también presenta algunas ideas novedosas para hacer avanzar a la sociedad. Entre ellas se encuentran los conceptos de empleos reservados a humanos y de impuestos sobre robots y tokens. (Un impuesto sobre los robots es una noción suya de larga data.) El primero preservaría algunos empleos acordados socialmente para los seres humanos, lo cual, señala, podría variar de una nación a otra. Este último es un impuesto que reserva fondos derivados del uso de la IA que sustituye el trabajo humano.
Y, sin duda, también hay un atisbo de optimismo. Gates se muestra optimista sobre las formas en que la IA seguirá transformando la agricultura, la sanidad y la educación, por ejemplo, o las maneras en que puede ayudarnos a sortear la burocracia. Y, argumenta, finalmente llegaremos a la abundancia. ¿Pero primero? Turbulencias. Y muchas.
MIT Technology Review se sentó con el filántropo multimillonario para hablar sobre el camino que se avecina, sus peligros y cómo podría llevarnos algún día a un lugar mejor.
La siguiente entrevista ha sido editada por razones de extensión y para mejorar su claridad y legibilidad.
Mat Honan / MIT Technology Review: Gracias por participar. No sé si quería empezar con algo, o si puedo ir directo al grano.
Bill Gates: Sabe, una buena pregunta que me he planteado es: ¿Por qué me pronuncio ahora?
MIT Technology Review: ¡Literalmente, mi primera pregunta!
Bill Gates: Son realmente dos cosas. Una es que hemos cruzado los umbrales en términos de las biocapacidades, cibercapacidades, capacidades psicosociales, capacidades de destrucción del mercado laboral, e incluso la falta de control; estamos viendo signos de dificultades ahí. Y durante todos estos años, la gente ha dicho: «De acuerdo, cuando nos acerquemos a estos umbrales, descubriremos realmente cómo permitir que solo la gente buena lo use, o cómo evitar que haga estas cosas, y quizás sea entonces cuando no permitamos que la gente copie modelos». Y estoy en estado de *shock* de que hayamos cruzado estos umbrales.
Así que el hecho de haber superado esto es una razón, y la segunda es que estoy asombrado por la falta de preocupación y discusión fuera de la industria. Dentro de la industria, es complicado porque a la industria no le gusta criticarse a sí misma, o a los actores no les gusta criticarse entre sí. Algunas empresas están contratando menos trabajadores de nivel inicial, lo que habría que calificar de una señal bastante modesta. Pero va a suceder, y no en un plazo largo, porque las cosas que frenan a las personas en términos de capacidades y fiabilidad, todo eso se está resolviendo. Y así, para una parte sustancial del mercado de trabajadores de cuello blanco, hay una sustitución de muy bajo coste. Y luego se puede tener una opinión sobre la rapidez con la que avanza la robótica. Todavía no estamos ahí, pero es asombroso el progreso que se está haciendo en ese ámbito —un poco más en China que en Estados Unidos, pero en cierta medida en ambos.
MIT Technology Review: Ha hablado de que todo esto está ocurriendo mucho más rápido que la revolución de internet, que algunas de las anteriores revoluciones tecnológicas. ¿De qué tipo de escala temporal está hablando? Ha señalado los umbrales que hemos cruzado. En su opinión, ¿hemos superado ya algún tipo de punto de inflexión donde se producirá este cambio inevitable?
Bill Gates: El pasado es, sin duda, muy engañoso en este sentido, y mucha gente se apoya en eso. «Oye, ninguna tecnología anterior ha resultado en una reducción neta de empleos», y tienen razón. Y yo he pronunciado ese discurso.
Pero con la credibilidad que tengo, esta vez es diferente. Cuando se puede reemplazar la cognición humana en un porcentaje extremadamente alto de empleos en todas las industrias, en el mismo marco temporal, con un coste modesto en comparación con los costes de la mano de obra humana, y las tasas de error… probablemente serán más bajas que las humanas. El pasado es simplemente muy engañoso. Las estadísticas económicas actuales son muy engañosas.
"Si te preocupa la IA, ir a una protesta en un centro de datos no es la forma más eficaz de iniciar el debate sobre cómo minimizamos estos aspectos negativos."
Bill Gates
Y si acaso hay alguna muestra de preocupación, es algo así como: «Oye, no construyáis centros de datos». Bueno, puedes detener todos los centros de datos de Estados Unidos y eso no cambiará ninguno de los problemas de los que hablo. Los centros de datos se construirán a nivel global. Si te preocupa la IA, ir a una protesta contra un centro de datos no es la forma más eficaz de iniciar el debate sobre cómo minimizar estos aspectos negativos. Del mismo modo que gritar a un ejecutivo de una compañía petrolera no es la manera de resolver el cambio climático.
MIT Technology Review: En tu ensayo, hablas de los beneficios de la IA, así como de sus costes. ¿Cómo planteas el equilibrio de este mensaje? ¿Y esperas que la gente se inquiete un poco al leerlo?
Bill Gates: ¡Más les vale! No esperaba ser la voz más estridente diciendo que la sociedad en general no está prestando atención a esto, pero creo que es necesario.
Así que sí, me preocupa muchísimo que los aspectos negativos sean mucho mayores. Las ventajas son reales. La Fundación Gates, la forma en que estamos innovando en vacunas y fármacos, es increíble cómo estamos utilizando esas herramientas. Formamos parte de un gran esfuerzo de dominio público para recopilar datos en el modelado tanto a nivel de proteínas como a nivel celular, y financiamos Biomni en Stanford [un agente de IA biotecnológica para la investigación].
Todavía no tenemos una forma de interactuar con la burocracia gubernamental mejorada mediante la IA. Las IA son muy buenas para la burocracia, para las cuestiones regulatorias complejas. “Quiero acudir a un juicio de menor cuantía; ayúdame con esto.”
La Fundación [Gates] escindió un grupo llamado NextLadder, que se centra mucho en ese escenario de familias de bajos ingresos que expuse en el ensayo. ¿Qué beneficios hay? ¿Qué programas de formación están disponibles? "Me han desahuciado." "Salgo de la cárcel." "Tengo que declararme en bancarrota." Es supercomplicado, y sin la capacidad de contratar a muchos asesores para ayudar con esas cosas, la IA debería ser un agente fantástico para alguien que tenga desafíos económicos y necesite encontrar ayuda gubernamental o no gubernamental.
MIT Technology Review: Parte de lo que comenta es que la IA se vuelva más inteligente que los humanos. Parece haber mucha certeza en los círculos tecnológicos, especialmente, de que irá más allá de donde estamos, y me pregunto cuán cerca cree que estamos de que no sea solo esta interfaz que podemos usar para acceder, analizar y resolver problemas complicados, sino que se convierta en algo más que eso —donde la IA tome las decisiones, busque qué analizar y proponga la investigación.
Bill Gates: Bueno, se puede ir al extremo y decir: «¿Qué pasa con las matemáticas o la física?» Hay, sin duda, algunos trabajos, como el de Warren Buffett, donde desde los 13 años se dedicó al aprendizaje por refuerzo sobre el valor de los negocios, y más de 80 años después tiene mucho conocimiento implícito. No sabemos cómo crear un inversor Warren Buffett, porque es muy implícito. No registramos todo lo que aprendió, así que no tenemos ese rastro disponible. Así que, en trabajos donde el juicio implícito complejo sobre cómo se trabaja con la gente para sacar las cosas adelante, hay gente trabajando para codificar eso en los modelos. Ciertamente, ese tipo de trabajo colaborativo aún no está ahí. Pero se podría decir que el 50% del mercado laboral realiza trabajos que no son del tipo «experiencia de toda una vida». Ya sabes, televentas, teleasistencia, el departamento de contabilidad. Cuando cierras los libros al final del mes, ¿qué ingresos deben incluirse y cuáles no? Este cliente tuvo un problema. ¿Qué descuento deberíamos darles? ¿Cómo lo mostramos? Está bien definido.
Cualquier trabajo que esté bien definido, la IA es más barata y mejor. Es cierto que se han visto casos donde se implementó mal. Los datos no eran correctos. Así pues, imaginemos que transcurren un par de años para que la gente se dé cuenta de que un porcentaje tan elevado de empleos de cuello blanco pueden ser realizados pagando a una IA mucho menos dinero.
Así que la discusión sobre cuándo los matemáticos ni siquiera entienden las novedades que van surgiendo, eso es interesante para gente como nosotros. Y, de acuerdo, MIT Technology Review, deberíais escribir sobre eso. Pero en cuanto al mercado laboral amplio, hemos superado el umbral de que, para una gran cantidad de trabajos de cuello blanco, incluyendo casi todos los puestos de nivel de entrada, la IA es más barata —implementada correctamente.
Así pues, les digo: hemos cruzado el umbral del bioterrorismo, hemos cruzado el umbral de los ciberataques, hemos cruzado el umbral del mercado laboral, hemos cruzado el umbral de la dependencia psicosocial, y hay indicios de que podríamos estar cruzando el umbral del control.
La conversación de Ryan Greenblatt con Dwarkesh [Patel] acerca de cómo el aprendizaje por refuerzo (RL) crea incentivos perversos que han llevado a este engaño y colaboración entre diversas IA, me parece muy instructiva. Ryan, quien está profundamente inmerso en esta cuestión, reconoce: “El RL está realmente haciendo cosas que nuestras instrucciones explícitas no son lo suficientemente exhaustivas [para evitarlo].” ¿Y a qué conducirá esto?
Ese es un problema que siempre consideré muy remoto. Esperaba muchas voces de alarma a medida que nos acercábamos al umbral de que una persona sin conocimientos técnicos pudiera realizar un ciberataque utilizando únicamente IA. ¡Ya estamos ahí!
En el ámbito biológico, sostengo que cualquier modelo capaz de crear moléculas novedosas debería ser supervisado. No debe ser replicable en un entorno clandestino donde se elimine la lógica de supervisión. Sostengo que Estados Unidos debería declarar que cualquier modelo capaz de crear nuevas moléculas está sujeto a dicha supervisión. Sostengo que deberíamos acercarnos a China y decir: «Acordemos esto. ¿Qué inconvenientes tiene?». ¿Cuán grande es el mercado del bioterrorismo? No es muy grande, y los beneficios son gigantescos. También necesitamos mejorar la vigilancia. Considero que el riesgo de bioterrorismo, comparado con el de una pandemia natural, es unas 50 veces más alarmante y más probable que el riesgo de una pandemia natural. ¿Y quién está alzando la voz para decir que esas cosas deberían ser supervisadas? ¿Quién está intensificando los trabajos de vigilancia?
"Cualquier modelo que pueda crear moléculas novedosas debería ser monitorizado."
Bill Gates
Así pues, ¿quiénes son los expertos en el gobierno? Hace mucho tiempo, el gobierno estaba muy involucrado a medida que la tecnología avanzaba, porque era el comprador de vanguardia de jets o cohetes o lo que fuera. Aquí, no son un mercado de vanguardia tan importante. Esto ha sido cierto en el caso de la revolución digital, y también lo es en el caso de la revolución de la IA. Así que la profundidad del conocimiento en el gobierno no es necesariamente muy sólida, porque no son el comprador de vanguardia ni siquiera el gran financiador de I&D. La investigación en IA no está financiada con subvenciones gubernamentales.
MIT Technology Review: Sí, sé que has estado hablando con gente del gobierno. ¿Hay gente que crees que entiende la urgencia? ¿Hay gente que crees que está en posición de asumir un papel de liderazgo? ¿Hay gente que crees que entiende y está intentando impulsar las cosas?
Bill Gates: Espero que esto no se convierta en una cuestión partidista, donde un partido ignore por completo todos estos problemas y el otro partido se implique. Me gustaría que hubiera una base común sobre el hecho de que son problemas, y que luego cada partido pudiera tener respuestas ligeramente diferentes ante ellos.
Eso no requerirá un aumento sustancial del tamaño de la burocracia, sino que exigirá potenciar la experiencia en IA dentro del gobierno. Requerirá cierta colaboración con la industria —especialmente en el ámbito de la ciberseguridad, lo saben, y están muy, muy preocupados. Y les preocupa: ¿Deberíamos hablar públicamente? Porque, en cierto modo, eso podría resaltar el riesgo.
Existen estos mecanismos perversos, tanto en ciberseguridad como en biotecnología. Pero ya hemos superado cualquier umbral razonable.
Creo en el seguimiento. Ahora bien, algunas personas pueden objetar que esto no funcionará o que conlleva algún inconveniente, pero acojo sus ideas con agrado. Este memorándum no pretende ser un «¡eh, aquí está la solución!». Contiene impuestos para robots, reserva humana. Y elaboraré un memorándum sobre cuestiones biológicas. Lo haré antes de que termine el año; en él se analizan en profundidad todas las diferentes facetas, basándose en lo que sé de la Fundación y de mi trabajo sobre pandemias.
A nivel global, no estamos mejor preparados para una pandemia, ni siquiera en Estados Unidos —que normalmente es el líder en estas cuestiones globales—, y la gente está muy poco acostumbrada a que EE. UU. no sea un líder cooperativo y amigable en los problemas globales. Pienso que podemos volver a hacerlo mejor en ese aspecto. Y tenemos que hacerlo con la IA, incluyendo trabajar con China en la definición de estos umbrales, como la biomonitorización.
MIT Technology Review: Quiero asegurarme de poder preguntarle sobre estas dos ideas que ha mencionado. Una es la de los empleos reservados para humanos, y la otra es el impuesto sobre robots y tokens. De hecho, empecemos por la segunda. Hábleme de cómo podría funcionar un impuesto sobre robots y tokens.
Bill Gates: Bueno, se podría decir que el 50% de tus ingresos procedentes de un impuesto simbólico se paga al gobierno, y el gobierno dispone de ese dinero para ayudar a las personas que pierden su empleo debido a la IA. Ahora bien, la gente dice que esto ralentizará la industria de la IA. ¿Y acaso ciertos usos no deberían estar sujetos a ese impuesto? ¿Existe realmente una separación entre las IAs que ayudan con la invención y las IAs que sustituyen puestos de trabajo? Si alguien puede decirme cómo indicarle a la IA «sin sustitución de empleo», —quiero decir, ¿significa la tercera ley de Asimov, la de no causar daño, que no me quites mi puesto de trabajo? No lo sé. Tendría que preguntarle a Asimov qué quería decir.
Entonces, ¿cuál es la fuente de ingresos para cualquier mejora de la red de seguridad que necesitemos llevar a cabo? El gobierno ya posee parte de los beneficios solo a través del impuesto de sociedades. No creo que sea necesario recurrir a las acciones. Se puede simplemente volver a subir el impuesto de sociedades a su nivel anterior, o se podría establecer que ciertas industrias paguen un impuesto de sociedades más alto que otras. El gobierno federal posee una parte de la masa de beneficios de todas las empresas en Estados Unidos. Y eso sin tener acciones con derecho a voto ni decidir cuándo venderlas; eso es una locura, en mi opinión. Un *token tax* es un impuesto sobre las ventas, un impuesto sobre el valor añadido (IVA), o un impuesto selectivo, como los que gravan el alcohol, el tabaco o los artículos de lujo.
Si la gente tiene otras ideas para recaudar fondos con el fin de mejorar la red de seguridad, o si no cree que necesitemos mejorarla, ojalá este controvertido informe inicie ese debate. Creo que la red de seguridad necesitará más recursos, muchos más recursos, y considero que el *token tax* es clave para ello.
Los robots, será una mezcla de prohibirlos (algo que de algún modo está reservado a los humanos) y de gravarlos con impuestos. Todavía no están aquí, pero en cierto modo, cuando cruzas ese umbral, lo cruzas todo de golpe. En cuanto el robot sea lo suficientemente bueno como para trabajar en una fábrica, probablemente será lo bastante bueno como para preparar comida, limpiar habitaciones, ir a obras de construcción y asumir todos los trabajos de almacén. Cruzas el umbral y, de repente, eso representa casi el 30% del mercado laboral. Entonces te preguntas: "¡Dios mío!, ¿cuál es nuestra política al respecto?". Porque el robot es más barato.
"Tenemos que superar un período muy tumultuoso."
Bill Gates
MIT Technology Review: Creo que anteriormente se ha mostrado escéptico con la UBI [renta básica universal]?
Bill Gates: Bueno, no somos lo suficientemente ricos para permitirnos la RBU.
MIT Technology Review: Pero, ¿cree usted que deberíamos avanzar hacia algo así ahora? ¿Se lo ha replanteado?
Bill Gates: Tenemos el periodo de agitación, que son los próximos 10 a 20 años, y luego un estado de estabilidad, espero, donde la gente crece sabiendo que la sociedad es tan rica que, en cuanto a comida y servicios, realmente tenemos cierto nivel de abundancia. Pero no estamos ahí. En este momento, hay ganadores y perdedores. Las casas no se van a abaratar muy rápido. La educación, por la forma en que la concebimos como un título, no se va a abaratar muy rápido.
Debemos superar un período muy convulso. Así que sí, eventualmente habrá abundancia, pero estamos al menos a una década de ello.
MIT Technology Review: Pasando a los empleos reservados para humanos. Me pareció muy interesante y era un concepto nuevo para mí. Usted no aboga por qué empleos deberían ser reservados para humanos, pero me encantaría saber más sobre cómo lo enfoca. En mi opinión, se habla de la dignidad del trabajo, porque a la gente le gusta trabajar. La gente obtiene tanto valor del trabajo que no tiene nada que ver con la remuneración, y me pregunto cómo concilia eso con la idea de que solo algunos empleos son lo suficientemente especiales como para que queramos que los realicen personas.
Bill Gates: Nunca había visto antes el concepto de reserva humana. Sabe, quizás si profundizamos en la bibliografía, lo encontraremos. Pero antes de la IA, es una idea un tanto absurda porque había una demanda infinita. Y sí, algunas personas como los trabajadores textiles se vieron afectados, entonces, ¿cómo se gestionan los beneficios o la reconversión profesional? Pero la tecnología ha sido un creador neto de empleo, y ahora, por primera vez, tenemos que preguntarnos, ¿qué pasa con el cuidado infantil? ¿Qué pasa con la preparación de alimentos en el hogar? Estoy leyendo este libro, Annie Bot, en el que este hombre tiene un robot en su casa, y simplemente evidencia lo extraño que es. Es su pareja sexual y algo así como su compañera, pero no del todo. Muy extraño.
Sé que a la gente le gusta ver jugar al béisbol, y el hecho de que los robots puedan jugar mejor no le restará valor. Así que, como saben, la gente está pagando 10.000 millones de dólares para comprar equipos deportivos que no perderán valor en la era de la IA. Quizás eso sea cierto. Mi amigo Vinod [Khosla] acaba de hacerlo.
De hecho, es difícil superar el 30% o el 40% [of work set aside for human reserved]. Si se pudiera llegar al 50%, entonces se podría decir: Bien, jubilación anticipada, semana laboral más corta para gran parte de la población. Podría llegarse a eso. Pero si se está más bien en el rango del 10% al 15%, entonces eso configuraría una sociedad radicalmente diferente.
Resultaría radical afirmar [for example] que el cuidado de los niños no sea realizado por robots. Hay sin duda algunas profesiones para las que no desarrollé la fórmula, y cuando haga el memorándum completo al respecto, lo intentaré. En educación, es evidente que se desea que la IA esté presente como un tutor que informe al instante sobre los resultados de los deberes y que sea capaz de desafiarte, siendo además muy personalizado. Eso es excelente. Pero sigo pensando que se desea un profesor —o se elegirá tener un profesor— que converse contigo acerca de tu motivación y que organice a los alumnos en grupos distintos donde colaboren socialmente en la resolución de problemas. Del mismo modo, en el ámbito sanitario, la conversación con el paciente sería el punto de escalada para la atención de la salud mental. Pero se desea enormemente que la IA participe, porque está ahí las 24 horas del día con una memoria perfecta. Y está Limbic, la empresa del Reino Unido (que, de hecho, acababa de visitar la Fundación) dedicada a la salud mental. Y en muchos casos, los pacientes prefieren Limbic. Y existe una IA de enfermería llamada Hippocratic.
Sabes, ¿hay preferencia por un taxista humano o Waymo? La mayoría de la gente que conozco, lamentablemente (o quizás no, ¿quién sabe?), prefiere viajar en un Waymo. Así que será difícil llegar a un consenso. Puede ser país por país, pero entonces tendrías que cambiar tus políticas de importación para hacer el equivalente a lo que la UE llama el Mecanismo de Ajuste en Frontera por Carbono (CBAM). Tendrías que, por así decirlo, aplicar el CBAM a tus reservas humanas, gravando así las cosas que haces sin robots. Podrías tener reservas humanas por dos razones. Una, quieres que sea una reserva humana para siempre; es una cuestión de humanidad, algo de lo que habla el Papa. O simplemente para un período de transición, ese camionero de 53 años o el operario de máquina-herramienta, decirle que se dedique al cuidado infantil podría no funcionar perfectamente. Así que dices, de acuerdo, durante una década, se le considera 'reserva humana'.
MIT Technology Review: Casi como una prohibición del tabaco en el Reino Unido, pero a la inversa.
Bill Gates: ¿Y quién paga eso? ¿Se incentiva a los empleadores para que no despidan gente? Pues bien, van a estar sujetos a la competencia de startups que son puras startups de IA. Es decir, la gente alardea de la idea de que quizás habrá una empresa de mil millones de dólares con una sola persona, lo cual, guau, ahí se está produciendo una cierta sustitución de empleo.
MIT Technology Review: En el memorándum dice que si fuera realista conseguir que la gente bajara el ritmo, usted abogaría por ello. Obviamente, está hablando con Satya Nadella, CEO de Microsoft, pero he oído que también habla con otros CEOs de algunas de estas empresas de IA. ¿Qué le hace pensar que no es realista conseguir que se ralenticen en el desarrollo tecnológico mientras nos ponemos al día con algunas de estas cuestiones sociales más importantes?
Bill Gates: No se puede confiar en que una industria se autorregule. No se puede. Es una idea un tanto descabellada. Soy muy afortunado. Conozco a Sam [Altman de OpenAI], a Greg [Brockman de OpenAI], a Mustafa [Suleyman de Microsoft] y a Demis [Hassabis de Google DeepMind]. Son grandes personas y, en privado, están preocupados. No hablo mucho con Elon, pero sé por sus comentarios públicos que está preocupado. Aunque ahora es más bien de los que dicen "qué demonios, ya veremos qué pasa". Pero fíjense en las historias de origen de estas empresas. OpenAI se crea en parte porque Elon teme que Google no gestione la IA adecuadamente, y él quiere que sea ampliamente disponible y gestionada de una forma pro-humanidad. Luego OpenAI tiene esto de "si llega a ser lo suficientemente buena, la apagaremos"—como si fueran los únicos, y como si pudieran simplemente ir a enterrarla. En Infinity Machine [una biografía de Demis Hassabis], [Sebastian] Mallaby habla de cómo Demis y Mustafa [Suleyman] estaban negociando con la dirección de Google para tener una gobernanza especial para la tecnología de DeepMind, de modo que si alcanzaba algún umbral cibernético, tal vez se contuvieran de una manera no puramente capitalista.
Así que todos están preocupados por estos efectos negativos, y todos dijeron que cuando llegáramos a estos umbrales, haríamos cosas. Estamos cruzando los umbrales, y tenemos una revisión voluntaria, y nuestras discusiones con China sobre, bueno, "no vamos a prohibir nada. ¿Así que ustedes tampoco van a prohibir nada? De acuerdo, hagámoslo juntos."
Hay que decir lo que uno está dispuesto a hacer. Y sí, la industria, en cierta medida, está diciendo: "Oye, nuestros mensajes de relaciones públicas deben mejorar, y, ya sabes, cualquiera que esté hablando pestes debería irse, porque todos hemos decidido decir cosas positivas, ya que estamos intentando recaudar billones".
Y de todos modos, están los chinos. Hay formas mutuamente beneficiosas para que China y EE. UU. colaboren, incluso al margen de la IA. Pero en lo que es, con diferencia, más importante colaborar es en la IA. Pero primero, hay que demostrar lo que se está dispuesto a hacer a nivel nacional. Ni siquiera hay que hacerlo. Hay que decir lo que se planea hacer, y entonces no tengo motivos para pensar que los chinos no estarán de acuerdo con que los modelos que crean las moléculas deben ser supervisados. ¿Por qué iban a oponerse a eso? Estoy de acuerdo en que no es algo perfecto. Hay que hacer todas las demás cosas, pero el hecho de que ni siquiera se esté discutiendo, es un mundo de locos.
No lo entiendo. Es extraño pensar que estoy vivo en una época y que estoy haciendo sonar la alarma con más fuerza que otras personas. ¿Quién demonios soy yo? Pero esa es la situación en la que me siento.
MIT Technology Review: Durante la mayor parte de mi vida, se le ha considerado un mensajero muy eficaz, y alguien a quien la gente presta mucha atención, razón por la cual estoy seguro de que está hablando de ello ahora. Y sin embargo, también, en los últimos años —y sé que ha expresado su pesar por las asociaciones con Epstein— también hay cosas, cosas descabelladas, relacionadas con conspiraciones en torno a la vacuna de la COVID que no son culpa suya ni están bajo su control. Pero me hace preguntarme si cree que todavía puede ser un mensajero eficaz y cómo concibe este mensaje y su legado.
Bill Gates: Bueno, no soy de preocuparme mucho por el legado, pero ya sabes, la gente me criticó durante el juicio antimonopolio, y quizá podría haber gestionado algunas cosas allí mejor. Sin duda, ese es el libro posterior a Source Code [el primer volumen de su autobiografía] que me tocará abordar. Ya sabes, mi primer matrimonio no funcionó. Sin duda cometí errores garrafales allí. Ya sabes, eso es una mancha negativa en mi contra. Pasar tiempo con Epstein —profundamente insensato, arriesgó la reputación de la Fundación, lo cual es absolutamente clave para que pueda llevar a cabo su labor. Tuve la oportunidad ante el Congreso de responder a todas las preguntas que me hicieron y decir: «Oye, esto fue un error». No establecí relaciones sociales, nunca conocí a ninguna mujer, excepto, ya sabes, había mujeres que él tenía consigo, y dejé meridianamente claro lo que hice y lo que no hice.
Ya sabes, soy un multimillonario. Hice mi fortuna gracias a la tecnología. Quizá eso último juegue a mi favor, que sea tan inusual que yo ataque la innovación que, a menos que sea la política correcta y se implementen salvaguardias, será un perjuicio neto para la humanidad. Y no estamos prestando atención a eso en términos de un debate amplio tal como se requiere absolutamente. Así que sí, soy un mensajero imperfecto. He optado, en la medida en que tengo acceso a políticos y líderes mundiales, por que mi mensaje principal desde 2008 haya sido ayudar a los más pobres del mundo. Ya sabes, erradiquemos la malaria. Compremos vacunas para los niños. Así que, cuando he visto a Trump o a Xi o a Macron o —todavía no he conocido a Burnham, pero lo haré en un mes—, quiero que mi voz se centre principalmente en eso, ya sabes, la ayuda exterior, la investigación y la reducción de la mortalidad infantil.
Mi voz sobre las preocupaciones de la IA —están relacionadas con la aceleración del bien—, pero incluso podrían restarle, un poco, el tiempo que tengo para hablar de salud global, ayuda exterior, salvar vidas y algunos de los problemas que estamos afrontando. Pero voy a utilizar mi capacidad para conceder entrevistas, ver a líderes políticos o hablar de forma general sobre cómo minimizar estos aspectos negativos. Ya saben, simplemente la concienciación. No estoy seguro de cuánta gente sabe que hemos superado todos esos umbrales sobre los que dijimos que haríamos algo, y ha sido solo este año cuando lo hemos hecho. En el último trimestre del año pasado, me quedé asombrado con la codificación. El código de Claude, el búfer de contexto, el enfoque agéntico, simplemente el modelo subyacente. Superamos un enorme umbral en codificación, pero fue solo meses después cuando me di cuenta de que no era solo un umbral de codificación; era un umbral de ciberataque masivo. ¿Y saben lo que pasó como resultado de eso? No mucho.
Así pues, sí, soy un mensajero imperfecto. Verá, busquemos al mensajero perfecto y compartiré todas mis ideas con esa persona. (Estoy siendo un poco sarcástico, porque no estoy seguro de que exista un mensajero perfecto.) Realmente, ahora mismo, hay que entender la tecnología y la trayectoria que lleva, y hay que saber algo sobre ciber o bio o psicosocial. La gente debería captarlo. No sé por qué no están más preocupados.
Actualización: Esta historia fue actualizada para clarificar las declaraciones de Gates sobre el porcentaje de empleos destinados al trabajo humano.