En abril, Paul Graham, fundador de la aceleradora de startups tecnológicas Y Combinator, envió un tuit en respuesta al antiguo presidente de Y Combinator y actual CEO de OpenAI, Sam Altman. Altman acababa de despedirse públicamente de GPT-4 en X, y Graham tenía una pregunta de seguimiento.
«Si tuvieras [los pesos del modelo GPT-4] grabados en un trozo de metal de la forma más comprimida», escribió Graham, refiriéndose a los valores que determinan el comportamiento del modelo, «¿qué tamaño tendría que tener el trozo de metal? Se trata de una pregunta muy seria. Estos modelos son historia, y por defecto los datos digitales se evaporan».
No cabe duda de que OpenAI hizo algo histórico con el lanzamiento de ChatGPT 3.5 en 2022. Puso en marcha una carrera armamentística de la IA que ya ha cambiado el mundo de muchas maneras y que parece que tendrá un efecto a largo plazo aún mayor que las alteraciones a corto plazo de cosas como la educación y el empleo que ya estamos empezando a ver. Todavía no sabemos cómo afectará esto a la humanidad, y puede que tengamos que esperar bastante tiempo. Pero un par de libros recientes intentan acercarse a ello con los relatos de lo que dos destacados periodistas tecnológicos vieron en la revolución de la OpenAI.
En Empire of AI: Dreams and Nightmares in Sam Altman’s OpenAI, Karen Hao cuenta la historia del ascenso al poder de la empresa y su trascendental impacto en todo el mundo. Mientras tanto, The Optimist: Sam Altman, OpenAI, and the Race to Invent the Future, de Keach Hagey, del Wall Street Journal, se centra más en la vida personal de Altman, desde su infancia hasta la actualidad, para contar la historia de OpenAI. Ambos retratan situaciones complejas y muestran a Altman en particular como una criatura de Silicon Valley brillantemente eficaz pero profundamente imperfecta, alguien capaz de conseguir siempre lo que quiere, pero a menudo manipulando a los demás.
Hao, ex periodista de MIT Technology Review, empezó a informar sobre OpenAI cuando trabajaba en esta publicación y sigue colaborando ocasionalmente. Un capítulo de su libro surgió directamente de ese reportaje. De hecho, como dice Hao en los agradecimientos de Empire of AI, algunos de sus reportajes para MIT Technology Review, una serie sobre el colonialismo de la IA, «sentaron las bases de la tesis y, en última instancia, del título de este libro». Así que puede entenderse esto como una advertencia de que estamos sesgados para ver con buenos ojos el trabajo de Hao.
Dicho esto, Empire of AI es una obra poderosa, rebosante no sólo de grandes reportajes, sino también de grandes ideas. Esto se pone al servicio de dos temas principales.
La primera es sencilla: es la historia de la ambición por encima de la ética. La historia de OpenAI, tal y como la cuenta Hao (y también Hagey), es en gran medida la historia de una empresa que se fundó con el deseo idealista de crear una inteligencia artificial general centrada en la seguridad, pero que en su lugar se interesó más por ganar. Esta es una historia que hemos visto muchas veces antes en Big Tech. Véase Theranos, que iba a facilitar los diagnósticos, o Uber, que se fundó para romper el cártel del «Gran Taxi». Pero el análogo más cercano podría ser Google, que pasó de «No seas malvado» a (al menos a ojos de los tribunales) monopolista ilegal. Por ejemplo, Google pasó de no lanzar su modelo lingüístico como producto de consumo por precaución a lanzar un chatbot para alcanzar y vencer a OpenAI. En Silicon Valley, no importa cuál sea la intención original, siempre se trata de ganar.
El segundo tema es más complejo y constituye la tesis del libro sobre lo que Hao denomina colonialismo de la IA. La idea es que las grandes empresas de IA actúan como imperios tradicionales, desviando riqueza de los escalones más bajos de la sociedad en forma de mano de obra, trabajos creativos, materias primas y similares para alimentar su ambición y enriquecer a los que están en lo más alto de la escala. «Sólo he encontrado una metáfora que resume la naturaleza de estos poderosos actores de la IA: los imperios«, escribe.
«Durante la larga era del colonialismo europeo, los imperios se apoderaron y extrajeron recursos que no eran suyos y explotaron la mano de obra de los pueblos a los que subyugaron para extraer, cultivar y refinar esos recursos para el enriquecimiento de los imperios». A continuación, relata su creciente desilusión con la industria. «Con creciente claridad», escribe, «me di cuenta de que la misma revolución que prometía traer un futuro mejor estaba, en cambio, reviviendo los restos más oscuros del pasado para la gente a los márgenes de la sociedad «.
Para documentarlo, Hao se aleja de su escritorio y sale al mundo para ver los efectos de este imperio a medida que se extiende por el planeta. Viaja a Colombia para reunirse con etiquetadores de datos encargados de enseñar a la IA lo que muestran varias imágenes, a uno de los cuales describe corriendo de vuelta a su apartamento por la oportunidad de ganar unos dólares. Documenta cómo los trabajadores de Kenia que se encargaron de moderar los contenidos de etiquetado de datos para OpenAI quedaron traumatizados al ver tanto material perturbador. En Chile, documenta cómo la industria extrae recursos preciosos -agua, energía, cobre, litio- para construir centros de datos.
Aterriza en las formas en que la gente está haciendo frente al imperio de la IA en todo el mundo. Hao extrae lecciones de Nueva Zelanda, donde los maoríes intentan salvar su lengua utilizando un pequeño modelo lingüístico creado por ellos mismos. Entrenado con grabaciones de voz de voluntarios y funcionando con sólo dos unidades de procesamiento gráfico (GPU), en lugar de los miles que emplean empresas como OpenAI, su objetivo es beneficiar a la comunidad, no explotarla.
Hao escribe que no está en contra de la IA: «Lo que rechazo es la peligrosa noción de que los amplios beneficios de la IA sólo pueden derivarse -de hecho, surgirán- de una visión de la tecnología que requiera la capitulación completa de nuestra privacidad, nuestra capacidad de decisión y nuestro valor, incluido el valor de nuestro trabajo y arte, hacia un proyecto de centralización en última instancia imperial… [El modelo neozelandés] nos muestra otro camino. Imagina cómo la IA podría ser exactamente lo contrario. Los modelos pueden ser pequeños y específicos para cada tarea, sus datos de entrenamiento contenidos y conocibles, eliminando los incentivos para la explotación generalizada y las prácticas laborales psicológicamente dañinas y el extractivismo que todo lo consume para producir y hacer funcionar superordenadores masivos.»
El libro de Hagey se centra más en la ambición de Altman, que se remonta a su infancia. Sin embargo, también se centra en el intento del CEO de OpenAI de crear un imperio. De hecho, «la salida de Altman de Y Combinator no frenó sus ambiciones de construir una civilización», escribe Hagey. Continúa relatando cómo Altman, que anteriormente había pensado en presentarse a gobernador de California, puso en marcha experimentos con la distribución de ingresos a través de Tools for Humanity, la empresa matriz de Worldcoin. Cita a Altman diciendo al respecto: «Pensé que sería interesante ver hasta qué punto la tecnología podía lograr algunos de los objetivos que antes realizaban las naciones-estado».
En general, The Optimist es la biografía empresarial más directa de las dos. Hagey la ha llenado de primicias y de intrigas entre bastidores. Es inmensamente fácil de leer, sobre todo en la segunda mitad, cuando OpenAI se adueña realmente de la historia. Hagey también parece haber tenido mucho más acceso a Altman y a sus círculos íntimos, personales y profesionales, que Hao, y eso permite contar la historia del CEO de forma más completa en algunos puntos. Por ejemplo, ambos escritores cubren la trágica historia de Annie, la hermana de Altman, su alejamiento de la familia y sus acusaciones, en particular, de haber sufrido abusos sexuales a manos de Sam (algo que él y el resto de la familia Altman niegan vehementemente). El relato de Hagey ofrece una imagen más matizada de la situación, con una mayor comprensión de la dinámica familiar.
Hagey concluye describiendo el reconocimiento de Altman de su papel en el largo arco de la historia humana y lo que significará crear una «superinteligencia». Su lugar en esa historia es algo que claramente ha consumido los pensamientos del CEO. Cuando Paul Graham le preguntó sobre la conservación de la GPT-4, por ejemplo, Altman ya tenía preparada una respuesta. Contestó que la empresa ya se lo había planteado, y que la plancha de metal tendría que tener 100 metros cuadrados.
