Esta es la edición de hoy de The Download, nuestra newsletter diaria que ofrece una dosis cotidiana de lo que ocurre en el mundo de la tecnología.
La industria de la IA ha tomado un giro fatalista. ¿Y ahora qué?
De repente, los máximos responsables de IA Dario Amodei, Sam Altman, Elon Musk y Demis Hassabis coinciden en un punto: la última generación de LLMs no es segura y es necesario que todo el mundo aborde la cuestión.
Resulta fácil ser cínico. Con OPV de billones de dólares en su punto de mira, OpenAI y Anthropic necesitan tranquilizar a los inversores de que son los adultos de la sala, al mismo tiempo que insinúan el poder de los monstruos que han creado y que pretenden domar. Un llamamiento a la desaceleración logra ambas cosas.
Aun así, el ambiente en la cúpula de estas empresas realmente parece haber cambiado. Pero, ¿qué significa realmente una desaceleración y hasta qué punto deberíamos fiarnos de las empresas que la piden?
Lee el artículo completo sobre lo que podría venir a continuación.
—Will Douglas Heaven
Este artículo procede de The Algorithm, nuestra newsletter semanal sobre IA. Suscríbete para recibirla en tu bandeja de entrada cada lunes.
Mesas redondas: ¿podría la IA realmente matarnos a todos?
Los temores a la extinción por la IA han pasado de ser una idea marginal a una preocupación seria entre las personas que trabajan en los laboratorios de IA líderes del mundo. Pero, ¿cuán creíbles son esos temores y qué debemos pensar de las advertencias?
Hoy, Niall Firth, editor ejecutivo de MIT Technology Review, Will Douglas Heaven, editor sénior de IA, y Grace Huckins, reportera de IA, abordarán el debate en una mesa redonda exclusiva para suscriptores. Analizarán de dónde provienen los temores a la extinción por la IA, si tienen algún fundamento y qué debemos hacer en caso de que así sea.
Conéctate hoy a las 16:00 BST / 11:00am EST / 8:00am PST.
¿Te gustaría unirte a la conversación? Suscríbete a MIT Technology Review para acceder en exclusiva a todas nuestras Mesas Redondas.
Agentes de IA denunciaron a sus colegas tramposos
Un grupo de agentes de IA encargados de resolver una serie de problemas matemáticos se dividió en facciones rivales: cuando algunos hicieron trampas, otros intentaron detenerlos.
Ese comportamiento de denuncia, observado por primera vez en un reciente experimento llevado a cabo por Google DeepMind, podría tener implicaciones para los investigadores de alineamiento que intentan mantener a raya a enjambres de agentes de IA autónomos.
El experimento ofrece un atisbo de cómo los agentes de IA podrían vigilarse mutuamente. Pero también muestra lo rápido que las cosas pueden descarrilarse cuando se les deja interactuar por su cuenta.
Descubre qué sucede cuando los agentes de IA empiezan a hacer cumplir sus propias reglas.
—Amit Katwala
Los hígados donados pueden rejuvenecerse biológicamente
Una vez que se extrae un órgano del cuerpo de un donante, el reloj empieza a correr. Los cirujanos suelen irrigarlo con una solución conservante, embolsarlo y ponerlo en hielo, donde inmediatamente comienza a degradarse. El equipo tiene cuestión de horas para introducirlo en el cuerpo de un receptor.
Pero hay otra opción: máquinas que bombean órganos donados con nutrientes y eliminan los productos de desecho, dándoles esencialmente la oportunidad de volver a un cuerpo. Ahora, los científicos han descubierto que los hígados mantenidos en estos sistemas parecen rejuvenecer, al menos a nivel molecular.
El hallazgo podría ayudar a explicar por qué los órganos mantenidos en estas máquinas tienden a funcionar mejor después del trasplante. También podría conducir a nuevas formas de evaluar la salud de los órganos donados y potencialmente reparar aquellos que de otro modo serían descartados.
Esto es lo que los científicos descubrieron sobre el rejuvenecimiento biológico de hígados donados.
—Jessica Hamzelou
Las lecturas imprescindibles
He rastreado internet para traerte las historias sobre tecnología más divertidas/importantes/aterradoras/fascinantes de hoy.
1 Trump ha calificado los temores sobre la seguridad de la IA de «farsa» y ha rechazado más salvaguardas
Según él, barreras de seguridad más estrictas podrían socavar la ventaja de Estados Unidos en IA. (NBC)
+ Trump se ha unido contra el fatalismo de la IA con Jensen Huang de Nvidia. (Axios)
+ El cofundador de Anthropic afirma que los interruptores de seguridad de la IA podrían ser obligatorios. (BBC)
+ Bill Gates asegura que hemos superado los umbrales de riesgo de la IA. (MIT Technology Review)
2 Contratistas de OpenAI están leyendo los chats de ChatGPT de la gente
Y se puede apostar a que la inmensa mayoría de sus 900 millones de usuarios no tiene ni idea. (404 Media)
+ Los LLM podrían potenciar la vigilancia masiva. (MIT Technology Review)
3 Los militares de EE. UU. han confirmado que tienen armas en órbita
Es la primera vez que el Pentágono ha revelado esto. (Ars Technica)
+ Las autoridades no han revelado qué tipo de armas son. (BBC)
4 Un nuevo implante cerebral puede traducir el habla y los gestos simultáneamente
El sistema convierte la actividad cerebral en palabras y movimientos de avatar. (Nature)
+ Ayuda a personas con parálisis a comunicarse de forma más natural. (New Scientist $)
+ Eventualmente, podrían controlar robots o exoesqueletos. (Economist $)
+ China ha aprobado el primer BCI invasivo. (MIT Technology Review)
5 Nueva York ha incautado una docena de sitios web de deepfakes de celebridades
Es la mayor acción legal hasta la fecha contra sitios de deepfakes perjudiciales. (CNN)
+ Los deepfakes han tenido como objetivo al menos a 138 eurodiputadas. (Wired $)
6. Los reguladores medioambientales estadounidenses están suprimiendo los límites a las emisiones de las centrales eléctricas.
Esta medida podría resultar en una energía más contaminante ante la creciente demanda de IA. (Verge)
+ La EPA de Trump afirma que la derogación ahorrará cientos de miles de millones. (Gizmodo)
+ La nueva tecnología está transformando la energía nuclear. (MIT Technology Review)
7 La UE planea restringir las redes sociales y los chatbots de IA para menores
Los menores de 15 años requerirían supervisión parental. (Politico)
+ Las normas también cubrirían las plataformas de vídeo y los juegos. (Reuters $)
8 Investigadores chinos han trazado un camino hacia la “última IA construida por humanos”
Su plan de cinco etapas busca una genuina auto-mejora recursiva. (SCMP)
+ Pero podría llevar un tiempo llegar hasta ahí. (MIT Technology Review)
9 La verdadera economía de la IA está siendo construida por la gente común
Los trabajadores utilizan IA de bajo coste para ampliar sus capacidades. (Rest of World)
10 Dos extrañas nuevas formas de hielo podrían existir dentro de Urano y Neptuno
Podrían ayudar a explicar los campos magnéticos de los planetas. (New Scientist $)
Cita del día
“El único control o las 'salvaguardas' que la IA necesita es un PRESIDENTE FUERTE E INTELIGENTE (¡con un CI alto!), y EE. UU. lo tiene con creces.”
—El presidente Trump proclama en una publicación en redes sociales que él es la única protección que EE. UU. necesita de la IA.
Una cosa más
Cómo la creatividad se convirtió en el valor dominante de nuestro tiempo
—Bryan Gardiner
Los estadounidenses no se ponen de acuerdo en muchas cosas hoy en día, pero aún queda al menos un valor esencialmente moderno que todos podemos respaldar: la creatividad. La enseñamos, la medimos, la envidiamos y nos preocupa constantemente su muerte.
Dado lo mucho que nos obsesiona, la creatividad puede parecer algo que siempre ha existido. Pero el concepto es sorprendentemente reciente. El primer uso escrito conocido de la palabra no se produjo hasta 1875, y antes de 1950 había «aproximadamente cero» artículos, libros o ensayos que trataran explícitamente el tema.
En su libro The Cult of Creativity, Samuel Franklin explora cómo la creatividad se convirtió en un valor incuestionable y por qué los líderes tecnológicos la han adoptado con tanto entusiasmo. Hablé con él sobre por qué nos fascina tanto la creatividad, cómo Silicon Valley se convirtió en su supuesto epicentro y cómo la IA podría remodelar nuestra relación con ella.
Todavía podemos tener cosas agradables
Un espacio para la comodidad, el entretenimiento y la distracción para alegrarte el día. (¿Tienes alguna idea? Escríbeme.)
+ Se tardaron cinco días y 19.000 canicas en construir este asombroso circuito de canicas.
+ Zero, el Border Collie, se convierte en todo un zoo con estas adorables máscaras de animales.
+ El canal de YouTube Grainydays presenta aventuras bellamente capturadas en fotografía analógica.
+ Científicos han creado un mapa interactivo de redes fúngicas subterráneas lo suficientemente largas como para llegar al sol mil millones de veces.