.

The Noun Project

Inteligencia Artificial

La falta de sentido común de la IA: una broma que ya no tiene gracia

1

Consciente de que a medida que la inteligencia artificial asume tareas cada vez más críticas como los diagnósticos y la conducción autónoma, un error puede ser fatal, DARPA ha lanzado un nuevo proyecto en el que retará a las máquinas a que comprendan el mundo de verdad

  • por Will Knight | traducido por Ana Milutinovic
  • 23 Octubre, 2018

Sea cual sea el uso que se le dé a la inteligencia artificial (IA), siempre comete algún error divertido. Por ejemplo algunas cómicas traducciones de los algoritmos de traducción automática pueden hacer que algo 'fabricado en Turquía' (made in Turkey, en inglés) se traduzca como que está 'hecho de pavo'.

Pero a medida que la IA se usa en situaciones cada vez más críticas, como conducir coches autónomos, elaborar diagnósticos médicos y sacar conclusiones de vida o muerte, estas equivocaciones dejan de tener gracia. Por eso DARPA, el Departamento de Investigación del Ejército de EE. UU., quiere solucionar el mayor y más básico defecto la inteligencia artificial: no tiene sentido común (ver "Las máquinas son tontísimas, solo intentamos que lo sean un poco menos").

"El sentido común es la materia oscura de la inteligencia artificial. Es un poco inefable, pero su efecto se ve por todas partes", afirma el  CEO del Instituto Allen para la IA, Oren Etzioni, una organización sin ánimo de lucro que está explorando los límites de esta tecnología. Así que DARPA ha lanzado un nuevo programa, bautizado Sentido Común de Máquinas (Machine Common Sense - MCS). A través de él, la agencia lanzará una competición en la que distintos algoritmos de IA deberán usar su sentido común para resolver cuestiones como ésta:

Una estudiante pone dos macetas idénticas en el mismo tipo y cantidad de tierra, y las riega con la misma cantidad de agua. Pone una de estas plantas cerca de una ventana y la otra en una habitación oscura. La planta que está cerca de la ventana producirá más (A) oxígeno, (B) dióxido de carbono, o (C) agua.

Un programa de ordenador necesita cierta comprensión de cómo funciona el mundo, y la fotosíntesis en particular, para poder responder la pregunta. Limitarse a atiborrar a al programa con preguntas no permitirá resolver el problema.

El marco de referencia de la competición se centrará en el lenguaje, ya que esta es el área que puede provocar más confusiones. Además, hace que las pruebas sean relativamente sencillas. Etzioni cree que las preguntas permiten medir el progreso hacia la comprensión del sentido común, algo que será crucial.

Parece que las empresas tecnológicas están más interesadas en vender sus poderosas  técnicas de aprendizaje automático, aunque sus usos estén básicamente limitados a tareas muy concretasEl aprendizaje profundo, por ejemplo, es capaz de reconocer palabras en el habla u objetos en imágenes, a menudo con una precisión increíble. Pero el enfoque se basa en un entrenamiento con grandes cantidades de datos etiquetados en una gran red neuronal. El sistema aprende a identificar los patrones importantes, pero puede cometer errores fácilmente porque no tiene un concepto más amplio del mundo. En cambio, los bebés humanos desarrollan rápidamente una comprensión intuitiva del mundo que sirve de base para su inteligencia (ver La IA busca su próximo gran avance en el cerebro de los niños).

Pero el problema del sentido común no es fácil de resolver. Los intentos anteriores para ayudar a las máquinas a comprender el mundo se han centrado en crear a mano grandes bases de datos de conocimiento. Es una tarea difícil de manejar y esencialmente interminable. El esfuerzo más famoso de este tipo es Cyc, un proyecto que ha estado funcionando durante décadas.

Y lo peor de todo, es que es un asunto de enorme importancia. Al fin y al cabo, la falta de sentido común sería desastrosa en ciertas situaciones críticas, y en última instancia podría contener a la inteligencia artificial. DARPA tiene un historial de inversiones en investigación fundamental para la inteligencia artificial. Sus proyectos anteriores ayudaron a generar los coches autónomos que tenemos actualmente, así como la asistente personal más famosa operada por voz, Siri.

"La ausencia de sentido común impide que un sistema inteligente comprenda su mundo, que se comunique de forma natural con las personas, que se comporte razonablemente en situaciones imprevistas y que aprenda de nuevas experiencias", advirtió el responsable de programas de DARPA, Dave Gunning, en un comunicado emitido. El texto concluía: "Esta ausencia es quizás la barrera más importante entre las aplicaciones de inteligencia artificial estrechamente enfocadas que tenemos hoy y las aplicaciones de inteligencia artificial más generales que nos gustaría crear en el futuro".

Inteligencia Artificial

 

La inteligencia artificial y los robots están transformando nuestra forma de trabajar y nuestro estilo de vida.

  1. El gobierno de EE UU pone bajo la lupa a las empresas de IA por publicidad engañosa

    La Comisión Federal de Comercio (FTC) de Estados Unidos ha tomado medidas contra varias empresas de IA por mentir y realizar publicidad engañosa, una lucha que continuará durante el próximo mandato de Donald Trump

    La Comisión Federal de Comercio (FTC) de Estados Unidos ha tomado medidas contra varias empresas de IA
  2. Las emisiones de la IA están a punto de dispararse aún más

    Las emisiones de los centros de datos se han triplicado desde 2018. A medida que modelos de IA más complejos como Sora de OpenAI comiencen a generalizarse, es probable que esas cifras se disparen

    Ordenador portátil echando humo
  3. La IA llega al campo de batalla para redefinir la toma de decisiones en la guerra moderna

    Anduril, fabricante de drones y misiles con IA, ha firmado un acuerdo con el Pentágono de EE UU para integrar sus sistemas en conflictos armados y optimizar la toma de decisiones, un aspecto que ya ha generado preocupación en organismos internacionales como Human Rights Watch

    La IA llega al campo de batalla