Esta historia apareció originalmente en The Algorithm, nuestro boletín semanal sobre IA. Para recibir primero historias como esta en su bandeja de entrada, regístrese aquí .

"Este momento en la IA es un momento de inflexión", me dijo recientemente Fei-Fei Li. Li es codirector del Instituto de IA centrado en el ser humano de Stanford y uno de los investigadores en informática más destacados de nuestro tiempo. Es mejor conocida por crear ImageNet, un popular conjunto de datos de imágenes que fue fundamental para permitir a los investigadores entrenar sistemas de inteligencia artificial modernos.

Han sucedido dos cosas, explica Li. La IA generativa ha hecho que el público se dé cuenta de la tecnología de IA, dice, porque está detrás de herramientas concretas, como ChatGPT, que las personas pueden probar por sí mismas. Y como resultado, las empresas se han dado cuenta de que la tecnología de inteligencia artificial, como la generación de texto, puede generar ingresos y han comenzado a implementar estas tecnologías en más productos para el mundo real. "Por eso, impacta a nuestro mundo de una manera más profunda", dice Li.

Li es uno de los líderes tecnológicos que entrevistamos para el último número de MIT Technology Review, dedicado a las preguntas más importantes y los problemas más difíciles que enfrenta el mundo. Les pedimos a grandes pensadores en sus campos que opinaran sobre los problemas desatendidos en la intersección de la tecnología y la sociedad. Lea lo que otras luminarias de la tecnología y pesos pesados de la IA, como Bill Gates, Yoshua Bengio, Andrew Ng, Joelle Pineau, Emily Bender y Meredith Broussard, dijeron aquí .

En sus memorias recién publicadas, Los mundos que veo: curiosidad, exploración y descubrimiento en los albores de la IA, Li relata cómo pasó de ser una inmigrante que vivía en la pobreza a ser el peso pesado de la IA que es hoy. Es una mirada conmovedora a los sacrificios que los inmigrantes tienen que hacer para lograr sus sueños, y un relato de un experto sobre cómo la investigación de la inteligencia artificial alcanzó prominencia.

Cuando hablamos, Li me dijo que tiene los ojos puestos firmemente en el futuro de la IA y los difíciles problemas que le esperan en este campo.

Aquí hay algunos aspectos destacados de nuestra conversación.

Por qué no está de acuerdo con algunos de los “padrinos” de la IA sobre los riesgos catastróficos de la IA: Otros pesos pesados de la IA, como Geoffrey Hinton, Yann LeCun y Yoshua Bengio, han estado discutiendo en público sobre los riesgos de los sistemas de IA y cómo gobernar la tecnología de forma segura. . Hinton, en particular, ha expresado su preocupación de que la IA pueda representar un riesgo existencial para la humanidad. Li está menos convencido. “Respeto absolutamente eso. Creo que, intelectualmente, deberíamos hablar de todo esto. Pero si me preguntas a mí como líder de IA... siento que hay otros riesgos que son lo que yo llamaría riesgos catastróficos para la sociedad que son más apremiantes y urgentes”, dice. Li destaca problemas prácticos, como la desinformación, la interrupción de la fuerza laboral, los prejuicios y las infracciones de la privacidad.

Problemas difíciles: Otro riesgo importante de la IA que preocupa a Li es el poder y el dominio cada vez más concentrados de la industria tecnológica a expensas de la inversión en investigación científica y tecnológica en el sector público. “La IA es muy cara: cientos de millones de dólares por un modelo grande, lo que la hace imposible para el mundo académico. ¿Dónde deja eso a la ciencia para el bien público? ¿O voces diversas más allá del cliente? Estados Unidos necesita un momento de auge en la IA e invertir significativamente en investigación del sector público y capacidades informáticas, incluido un recurso nacional de investigación de IA y laboratorios similares al CERN. Creo firmemente que la IA ayudará a la condición humana, pero no sin un esfuerzo coordinado para garantizar el liderazgo de Estados Unidos en IA”, nos dijo .

Los defectos de ImageNet: ImageNet, que creó Li, ha sido criticado por ser sesgado y contener fotografías inseguras o dañinas, lo que a su vez genera sesgos y resultados dañinos en los sistemas de inteligencia artificial. Li admite que la base de datos no es perfecta. “Se necesita gente para denunciar las imperfecciones de ImageNet y denunciar cuestiones de equidad. Por eso necesitamos voces diversas”, afirma. "Se necesita un pueblo para mejorar la tecnología".

Derechos de autor y datos: Los críticos han dicho que la práctica actual de extraer datos de Internet para crear conjuntos de datos genera sesgos y violaciones de derechos de autor y privacidad, entre otros problemas. Li dice que la comunidad de IA necesita investigar esto. "Nuestra comprensión colectiva del papel que desempeñan los datos es mucho más sofisticada ahora... en comparación con 2009, cuando fuimos los primeros en destacar la importancia de los datos", dice, y agrega que la comunidad de IA necesita seguir desarrollándose y aprendiendo del pasado. errores.

Consejos para cualquiera que quiera dedicarse a la IA: "No importa de dónde vengas, qué experiencia tengas, si te apasiona esto, tienes un lugar [en la IA]", afirma. Ella dice que las personas de diversos orígenes deberían intentar ignorar la forma en que los medios retratan el campo, es decir, muy pálido y masculino.

¿Su mensaje a los jóvenes tecnólogos? “Las matemáticas son limpias, pero el impacto social de la tecnología es confuso. Reconozca ese desorden, porque lo que estamos creando tiene un impacto tanto positivo como negativo”.

Una última cosa antes de irse... Esta semana, MIT Technology Review organiza nuestro evento emblemático EmTech , donde veremos hacia dónde se dirigen la IA y otras tecnologías de vanguardia.

Únase a nosotros del 14 al 15 de noviembre de 2023 en el campus del MIT y en línea. ¡Los suscriptores de The Algorithm obtienen un descuento especial del 30% en entradas! Ingrese el código THAGTH23EM aquí .

Aprendizaje más profundo

Los auriculares con cancelación de ruido podrían permitirle elegir los sonidos que desea escuchar

Las versiones futuras de la tecnología podrían permitir a los usuarios volver a escuchar ciertos sonidos que les gustaría escuchar, como el llanto de bebés, el gorjeo de los pájaros o el sonido de alarmas. La tecnología que lo hace posible, llamada audición semántica, permite al usuario filtrar algunos sonidos mientras potencia otros.

Cómo funciona: El sistema, que todavía está en fase de prototipo, conecta unos auriculares con cancelación de ruido disponibles en el mercado a una aplicación de teléfono inteligente. Los micrófonos integrados en estos auriculares, que se utilizan para cancelar el ruido, están reutilizados para detectar también los sonidos del mundo que rodea al usuario.

El panorama general: Los investigadores llevan mucho tiempo tratando de resolver el “problema del cóctel”, es decir, lograr que una computadora se concentre en una sola voz en una habitación llena de gente, como pueden hacer los humanos. Este nuevo método representa un importante paso adelante y demuestra el potencial de la tecnología. Por ejemplo, podría allanar el camino para la creación de audífonos y auriculares más inteligentes. Lea más de Rhiannon WIlliams aquí .

Bits y Bytes

¿Estamos solos en el universo?
Estamos más cerca que nunca de aprender cuán comunes son en realidad mundos como el nuestro. Nuevas herramientas, incluido el aprendizaje automático y la inteligencia artificial, podrían ayudar a los científicos a mirar más allá de sus nociones preconcebidas sobre lo que constituye la vida. ( Revisión de tecnología del MIT )

Amazon y Musk se han sumado al tren del modelo de lenguaje de IA
ChatGPT cautivó al mundo e inició la carrera armamentista de IA de las grandes tecnologías hace aproximadamente un año. Todavía se están uniendo nuevos jugadores a la carrera con modelos que esperan les ayuden a destacar. Se informa que Amazon está construyendo su propio rival ChatGPT, cuyo nombre en código es Olympus , que sería uno de los modelos más grandes jamás entrenados. Mientras tanto, la nueva empresa de IA de Elon Musk, xAI, estrenó un piloto de su modelo de IA, llamado Grok , que ha sido entrenado con datos de X y está diseñado para responder preguntas “con un poco de ingenio” y “una racha rebelde”, sea lo que sea. eso significa.

La IA generativa ha vuelto extraña la búsqueda en Google
El texto generado por IA está envenenando Internet . Las tonterías generadas por los modelos lingüísticos se están incorporando a los resultados de búsqueda en línea, lo que hace que la búsqueda en Google sea la menos confiable que jamás haya sido para datos claros y accesibles. ( El Atlántico )

¿Podría este pin de IA matar el teléfono inteligente?
Silicon Valley está entusiasmado con un pin de solapa con IA creado por la startup Humane. El dispositivo de 699 dólares se engancha magnéticamente a tu ropa y utiliza una cámara y sensores para registrar su entorno. La idea es que las personas puedan controlarlo usando sus voces y el pin proyectará información en las palmas de las personas. El sistema utiliza modelos de IA para responder preguntas y resumir información. El elemento controlado por voz es el que más me hace detenerme: me gusta hacer doomscroll discretamente en silencio. ( Los New York Times )