Esta historia apareció originalmente en The Algorithm, nuestro boletín semanal sobre IA. Para recibir primero historias como esta en su bandeja de entrada, regístrese aquí .

Saludos desde Suiza! Acabo de regresar de Ginebra, que la semana pasada fue sede de la Cumbre AI for Good de la ONU, organizada por la Unión Internacional de Telecomunicaciones. El gran foco de la cumbre fue cómo se puede utilizar la IA para cumplir los Objetivos de Desarrollo Sostenible de la ONU, como erradicar la pobreza y el hambre, lograr la igualdad de género, promover la energía limpia y la acción climática, etc.

La conferencia contó con muchos robots (incluido uno que dispensa vino), pero lo que más me gustó fue cómo logró convocar a personas que trabajan en IA de todo el mundo, con oradores de China, Medio Oriente y África también, como como Pelonomi Moiloa, directora ejecutiva de Lelapa AI, una startup que crea inteligencia artificial para idiomas africanos . La IA puede estar muy centrada en Estados Unidos y estar dominada por los hombres, y cualquier esfuerzo por hacer que la conversación sea más global y diversa es loable.

Pero, sinceramente, no salí de la conferencia con la sensación de que la IA iba a desempeñar un papel significativo en el avance de cualquiera de los objetivos de la ONU. De hecho, los discursos más interesantes versaron sobre cómo la IA está haciendo lo contrario. Sage Lenier, un activista climático, habló de cómo no debemos permitir que la IA acelere la destrucción ambiental. Tristan Harris, cofundador del Center for Humane Technology, dio una charla convincente conectando los puntos entre nuestra adicción a las redes sociales, los incentivos financieros del sector tecnológico y nuestra incapacidad para aprender de los auges tecnológicos anteriores. Y todavía hay prejuicios de género profundamente arraigados en la tecnología, nos recordó Mia Shah-Dand, fundadora de Women in AI Ethics.

Entonces, si bien la conferencia en sí trató sobre el uso de la IA para el “bien”, me hubiera gustado ver más conversaciones sobre cómo una mayor transparencia, responsabilidad e inclusión podrían hacer que la IA sea buena desde el desarrollo hasta la implementación.

Ahora sabemos que generar una imagen con IA generativa consume tanta energía como cargar un teléfono inteligente . Me hubiera gustado tener conversaciones más honestas sobre cómo hacer que la tecnología sea más sostenible para cumplir los objetivos climáticos. Y fue desconcertante escuchar debates sobre cómo se puede utilizar la IA para ayudar a reducir las desigualdades cuando sabemos que muchos de los sistemas de IA que utilizamos se basan en moderadores de contenido humanos en el Sur Global que examinan contenido traumatizante mientras se les paga. miseria.

El director ejecutivo de OpenAI, Sam Altman, el orador estrella de la cumbre, defendió el “tremendo beneficio” de la IA. Altman fue entrevistado remotamente por Nicholas Thompson, el CEO de Atlantic, que por cierto acaba de anunciar un acuerdo para que OpenAI comparta su contenido para entrenar nuevos modelos de IA. OpenAI es la empresa que instigó el actual auge de la IA, y hubiera sido una gran oportunidad para preguntarle sobre todas estas cuestiones. En cambio, los dos tuvieron una discusión relativamente vaga y de alto nivel sobre la seguridad, sin que la audiencia supiera qué está haciendo exactamente OpenAI para hacer que sus sistemas sean más seguros. Parecía que se suponía que simplemente debían confiar en la palabra de Altman.

La charla de Altman se produjo aproximadamente una semana después de que Helen Toner, investigadora del Centro de Seguridad y Tecnología Emergente de Georgetown y ex miembro de la junta directiva de OpenAI, dijera en una entrevista que la junta se enteró del lanzamiento de ChatGPT a través de Twitter y que Altman había en múltiples ocasiones le dieron a la junta información inexacta sobre los procesos formales de seguridad de la empresa. También ha argumentado que es una mala idea dejar que las empresas de IA se gobiernen a sí mismas, porque los inmensos incentivos a las ganancias siempre ganarán. (Altman dijo que “no está de acuerdo con su recuerdo de los acontecimientos”).

Cuando Thompson le preguntó a Altman cuál será el primer beneficio de la IA generativa, Altman mencionó la productividad y citó ejemplos como los desarrolladores de software que pueden usar herramientas de IA para hacer su trabajo mucho más rápido. “Veremos diferentes industrias volverse mucho más productivas de lo que solían ser porque pueden utilizar estas herramientas. Y eso repercutirá positivamente en todo”, afirmó. Creo que el jurado todavía está deliberando sobre eso.

Ahora lee el resto de El algoritmo.

Aprendizaje más profundo

Por qué las descripciones generales de IA de Google se equivocan

La nueva función de Google, llamada AI Overviews, proporciona resúmenes breves generados por AI que resaltan información clave y enlaces en la parte superior de los resultados de búsqueda. Desafortunadamente, a los pocos días del lanzamiento de AI Overviews en los EE. UU., los usuarios compartían ejemplos de respuestas que eran, en el mejor de los casos, extrañas. Sugirió que los usuarios agregaran pegamento a la pizza o comieran al menos una piedra pequeña al día.

MIT Technology Review explica: Para entender por qué los motores de búsqueda basados en IA hacen las cosas mal, debemos observar cómo funcionan. Los modelos que los impulsan simplemente predicen la siguiente palabra (o token) en una secuencia, lo que los hace parecer fluidos pero también los deja propensos a inventar cosas. No tienen una verdad fundamental en la que confiar, sino que eligen cada palabra basándose únicamente en un cálculo estadístico. ¿Lo peor de todo? Probablemente no haya manera de arreglar las cosas. Por eso no debes confiar en los motores de búsqueda con IA . Lea más de Rhiannon Williams aquí .

Bits y Bytes

El último error de OpenAI muestra los desafíos que enfrentan los modelos de IA chinos
El conjunto de datos GPT-4o de OpenAI está contaminado por sitios web de spam chinos. Pero este problema es indicativo de un problema mucho más amplio para quienes construyen servicios de IA chinos: encontrar los conjuntos de datos de alta calidad en los que necesitan capacitarse es complicado, debido a la forma en que funciona Internet en China. ( Revisión de tecnología del MIT )

Cinco formas en que los delincuentes utilizan la IA
La inteligencia artificial ha aportado un gran impulso a la productividad en el mundo criminal. La IA generativa ha hecho que el phishing, la estafa y el doxxing sean más fáciles que nunca. ( Revisión de tecnología del MIT )

OpenAI está reiniciando su equipo de robótica
Después de disolver su equipo de robótica en 2020, la empresa lo vuelve a intentar. La resurrección se debe en parte a los rápidos avances en robótica provocados por la IA generativa . ( Forbes )

OpenAI descubrió que grupos rusos y chinos utilizan su tecnología para campañas de propaganda
OpenAI dijo que capturó y eliminó grupos de Rusia, China, Irán e Israel que estaban usando su tecnología para tratar de influir en el discurso político en todo el mundo. Pero esto probablemente sea sólo la punta del iceberg cuando se trata de cómo se está utilizando la IA para afectar el número récord de elecciones de este año. ( El Washington Post )

Inside Anthropic, la empresa de IA que apuesta a que la seguridad puede ser una estrategia ganadora
El laboratorio de inteligencia artificial Anthropic, creador del modelo Claude, fue iniciado por ex empleados de OpenAI que renunciaron por "cuestiones de confianza". Este perfil es un vistazo interesante al interior de uno de los competidores de OpenAI, y muestra cómo la ideología detrás de la seguridad de la IA y el altruismo efectivo guía las decisiones comerciales. ( Tiempo )

Los drones dirigidos por IA podrían ayudar a encontrar más rápido a los excursionistas perdidos
Los drones ya se utilizan para búsqueda y rescate, pero planificar sus rutas de búsqueda es más un arte que una ciencia. La IA podría cambiar eso. ( Revisión de tecnología del MIT )