Sam Altman, Jeff Bezos, Elon Musk y otros pueden tener objetivos y ambiciones ligeramente diferentes a corto plazo, pero sus grandes visiones para la próxima década y más allá son notablemente similares. Enmarcadas menos como objetivos tecnológicos y más como imperativos existenciales, incluyen alinear la IA con los intereses de la humanidad; crear una superinteligencia artificial que resuelva todos los problemas más acuciantes del mundo; fusionarse con esa superinteligencia para alcanzar la inmortalidad (o algo parecido); establecer una colonia permanente y autosuficiente en Marte; y, en última instancia, expandirse por el cosmos.
Aunque hay un amplio mosaico de ideas y filosofías que alimentan estas visiones, hay tres características que desempeñan un papel central, según Adam Becker, escritor científico y astrofísico: la certeza inquebrantable de que la tecnología puede resolver cualquier problema, la creencia en la necesidad del crecimiento perpetuo y una obsesión cuasi religiosa por trascender nuestros límites físicos y biológicos. En su oportuno nuevo libro, More Everything Forever: AI Overlords, Space Empires, and Silicon Valley’s Crusade to Control the Fate of Humanity (Más de todo para siempre: los señores de la IA, los imperios espaciales y la cruzada de Silicon Valley para controlar el destino de la humanidad), Becker denomina a este trío de creencias la "ideología de la salvación tecnológica" y advierte de que los titanes de la tecnología la están utilizando para conducir a la humanidad por un camino peligroso.
"En la mayoría de estos ismos se encuentra la idea de la evasión y la trascendencia, así como la promesa de un futuro asombroso, lleno de maravillas inimaginables, siempre y cuando no nos interpongamos en el camino del progreso tecnológico"."La credibilidad que los multimillonarios tecnológicos otorgan a estos futuros específicos de ciencia ficción valida su búsqueda de más: presentar el crecimiento de sus negocios como un imperativo moral, reducir los complejos problemas del mundo a simples cuestiones tecnológicas y justificar casi cualquier acción que quieran emprender", escribe. Becker sostiene que la única forma de liberarse de estas visiones es verlas como lo que son: una excusa conveniente para seguir destruyendo el medio ambiente, eludir las regulaciones, acumular más poder y control, y descartar los problemas reales de hoy para centrarse en los imaginarios del mañana.
Muchos críticos, académicos y periodistas han intentado definir o sintetizar el espíritu de Silicon Valley a lo largo de los años. Primero con "la ideología califo iana" a mediados de los años noventa, la era del "muévete rápido y rompe cosas" de principios de la década de 2000 y, más recientemente, las visiones del "libertarismo para mí, feudalismo para ti" o "tecnoautoritarismo". ¿Cómo encaja la "ideología de la salvación tecnológica" en todo esto?
Yo diría que encaja perfectamente con esos primeros intentos de describir la mentalidad de Silicon Valley. Es decir, se puede trazar una línea bastante recta desde los principios del transhumanismo de Max More en los años 90 hasta la ideología califo iana, una mezcla de valores contraculturales, libertarios y neoliberales y hasta lo que yo llamo la ideología de la salvación tecnológica. El hecho es que muchas de las ideas que definen o animan el pensamiento de Silicon Valley nunca han sido un gran misterio: el libertarismo, la antipatía hacia el gobie o y la regulación, la fe ilimitada en la tecnología, la obsesión por la optimización.
Lo que puede resultar difícil es analizar de dónde provienen todas estas ideas y cómo encajan entre sí, o si es que encajan. Se me ocurrió la ideología de la salvación tecnológica como una forma de nombrar y dar forma a un grupo de conceptos y filosofías interrelacionados que, en un primer momento, pueden parecer dispersos y mal definidos, pero que, en realidad, se sitúan en el centro de una visión del mundo compartida por los capitalistas de riesgo, los ejecutivos y otros líderes intelectuales de la industria tecnológica.
Es probable que los lectores estén familiarizados con los multimillonarios tecnológicos que aparecen en su libro y, al menos, con algunas de sus ambiciones. Supongo que estarán menos familiarizados con los diversos "ismos" que, según usted, han influido o guiado su pensamiento. Altruismo eficaz, racionalismo, longtermismo, extropianismo, aceleracionismo eficaz, futurismo, singularitarismo, transhumanismo... Hay muchos. ¿Hay algo que todos ellos tengan en común?
Sin duda están relacionados. En cierto sentido, se podría decir que todas son versiones o manifestaciones de la ideología de la salvación tecnológica, pero también existen conexiones históricas muy profundas entre las personas que integran estos grupos y sus objetivos y creencias. Los extropianos de finales de los años 80 creían en la autotransformación a través de la tecnología y la libertad frente a cualquier tipo de limitación, ideas que Ray Kurzweil acabó popularizando y legitimando para un público más amplio con la singularidad.
En la mayoría de estos ismos se encuentra la idea de la huida y la trascendencia, así como la promesa de un futuro increíble, lleno de maravillas inimaginables, siempre y cuando no obstaculicemos el progreso tecnológico. Debo decir que el investigador en IA Timnit Gebru y el filósofo Émile Torres también han realizado un gran trabajo vinculando estas ideologías entre sí y mostrando cómo todas ellas están relacionadas con el racismo, la misoginia y la eugenesia.
Usted sostiene que la singularidad es la expresión más pura de la ideología de la salvación tecnológica. ¿Por qué?
Bueno, por un lado, es una idea muy simple y directa: la singularidad está llegando y se producirá cuando fusionemos nuestros cerebros con la nube y multipliquemos nuestra inteligencia por un millón. Esto profundizará nuestra conciencia y todo será increíble. En muchos sentidos, es una visión fantástica de una utopía tecnológica perfecta. Todos viviremos tanto como queramos en un paraíso ete o, vigilados por máquinas bondadosas, y todo mejorará exponencialmente para siempre. Fin.
Los otros ismos de los que hablo en el libro tienen un poco más peso no es la palabra adecuada, simplemente tienen más cosas. Hay más en ellos, ¿verdad? Los racionalistas, los altruistas eficaces y los longtermists piensan que algo parecido a una singularidad ocurrirá, o podría ocurrir, pero que existe un peligro realmente grande entre donde estamos ahora y ese evento potencial. Tenemos que abordar el hecho de que una IA todopoderosa podría destruir a la humanidad, el llamado problema de alineación antes de que pueda ocurrir cualquier singularidad.
Luego están los aceleracionistas efectivos, que se parecen más a Kurzweil, pero con un enfoque más tecnológico. Han tomado algunas de las ideas transhumanistas más antiguas de la singularidad y las han actualizado para la cultura de las startups. El «Manifiesto tecno-optimista» de Marc Andreessen de 2023 es un buen ejemplo. Se podría argumentar que todas estas otras filosofías que han ganado terreno en Silicon Valley son solo variaciones de la Singularidad de Kurzweil, cada una de ellas basada en las ideas centrales de la trascendencia, el tecno-optimismo y el crecimiento exponencial.
Al principio del libro, usted apunta a esa idea del crecimiento exponencial, concretamente a la «ley de los rendimientos acelerados» de Kurzweil. ¿Podría explicar en qué consiste y por qué cree que es errónea?
Kurzweil cree que existe una «ley de los rendimientos acelerados» inmutable que rige los asuntos del universo, especialmente en lo que se refiere a la tecnología. Se trata de la idea de que el progreso tecnológico no es lineal, sino exponencial. Los avances en una tecnología impulsan avances aún más rápidos en el futuro, lo que a su vez conduce a una mayor complejidad y un mayor poder tecnológico, y así sucesivamente. Esto es simplemente un error. Kurzweil utiliza la Ley de los Reto os Acelerados para explicar por qué la singularidad es inevitable, pero, para ser claros, no es el único que cree en esta supuesta ley.
"Realmente creo que cuando eres tan rico como algunos de estos tipos, puedes hacer cosas que parecen pensar y nadie te va a corregir ni decirte cosas que no quieres oír".
Mi impresión es que se trata de una idea que surge de fijarse demasiado tiempo en la Ley de Moore. La Ley de Moore es, por supuesto, la famosa predicción de que el número de transistores en un chip se duplicará aproximadamente cada dos años, con un aumento mínimo del coste. Ahora bien, eso es lo que ha ocurrido durante los últimos 50 años, pero no por alguna ley fundamental del universo. Se debe a que la industria tecnológica tomó una decisión y realizó inversiones muy importantes para que así fuera. La Ley de Moore fue, en última instancia, una observación o proyección muy interesante de una tendencia histórica, pero incluso Gordon Moore, quien la formuló por primera vez sabía que no duraría para siempre. De hecho, algunos piensan que ya ha llegado a su fin.
Estas ideologías se inspiran en algunos personajes bastante desagradables. El transhumanismo, según usted, fue popularizado por primera vez por el eugenista Julian Huxley en un discurso en 1951. El «Manifiesto tecno-optimista» de Marc Andreessen menciona al famoso fascista Filippo Tommaso Marinetti y su manifiesto futurista. ¿Tuvo en mente la sensación, mientras investigaba para el libro, de que los titanes de la tecnología que defienden estas ideas comprenden sus peligrosos orígenes?
En la formulación de esa pregunta, estás dando por sentado que hay un pensamiento riguroso detrás de todo esto. Como digo en el libro, el manifiesto de Andreessen se basa casi exclusivamente en sensaciones, no en la lógica. Creo que alguien le habló del manifiesto futurista en algún momento y le gustó el tono general, por eso parafrasea una parte. Quizás aprendió algo sobre Marinetti y lo olvidó. Quizás no le importaba.
Realmente creo que cuando eres tan rico como algunos de estos tipos, puedes hacer cosas que parecen reflexiones y nadie te va a corregir ni decirte cosas que no quieres oír. Para muchos de estos multimillonarios, las vibraciones del fascismo, el autoritarismo y el colonialismo son atractivas porque, en el fondo, se trata de crear una fantasía de control.
Usted sostiene que estas visiones del futuro se están utilizando para acelerar la destrucción del medio ambiente, aumentar el autoritarismo y exacerbar las desigualdades. También admite que atraen a mucha gente que no es multimillonaria. ¿Por qué cree que es así?
Creo que a muchos de nosotros también nos atraen estas ideas por las mismas razones que a los multimillonarios tecnológicos: ofrecen la fantasía de saber lo que nos depara el futuro, de trascender la muerte y la sensación de que alguien o algo ahí fuera tiene el control. Es difícil exagerar lo reconfortante que puede ser una narrativa simple y coherente en un mundo cada vez más complejo y cambiante. Por supuesto, esto es lo que la religión ofrece a muchos de nosotros, y no creo que sea una coincidencia que un número considerable de personas en las comunidades racionalistas y altruistas efectivas sean en realidad ex evangélicos.
Más que cualquier tecnología específica, parece que lo más trascendental que han inventado estos multimillonarios es una sensación de inevitabilidad, de que sus visiones del futuro están de alguna manera predestinadas. ¿Cómo se lucha contra eso?
Es una pregunta difícil. Para mí, la respuesta fue escribir este libro. Supongo que también diría esto: Silicon Valley disfrutó de más de una década sin apenas oposición. Sin duda, eso ha contribuido en gran medida a que nos encontremos en este lío. No había regulación, la cobertura crítica en la prensa era escasa y se generaba mucho mito en to o a sí mismos. Las cosas han empezado a cambiar, sobre todo a medida que se ha hecho más evidente el daño social y medioambiental que las empresas tecnológicas y los líderes del sector han contribuido a facilitar. Comprender esto es esencial para reducir el poder de estos multimillonarios tecnológicos y libera os de sus visiones. Cuando entendamos que esos sueños de futuro son en realidad pesadillas para el resto de nosotros, creo que veremos que esa sensación de inevitabilidad desaparece rápidamente.
Esta entrevista ha sido editada por motivos de extensión y claridad.
Bryan Gardiner es un escritor afincado en Oakland, Califo ia.