.

The Noun Project

Inteligencia Artificial

La falta de sentido común de la IA: una broma que ya no tiene gracia

1

Consciente de que a medida que la inteligencia artificial asume tareas cada vez más críticas como los diagnósticos y la conducción autónoma, un error puede ser fatal, DARPA ha lanzado un nuevo proyecto en el que retará a las máquinas a que comprendan el mundo de verdad

  • por Will Knight | traducido por Ana Milutinovic
  • 23 Octubre, 2018

Sea cual sea el uso que se le dé a la inteligencia artificial (IA), siempre comete algún error divertido. Por ejemplo algunas cómicas traducciones de los algoritmos de traducción automática pueden hacer que algo 'fabricado en Turquía' (made in Turkey, en inglés) se traduzca como que está 'hecho de pavo'.

Pero a medida que la IA se usa en situaciones cada vez más críticas, como conducir coches autónomos, elaborar diagnósticos médicos y sacar conclusiones de vida o muerte, estas equivocaciones dejan de tener gracia. Por eso DARPA, el Departamento de Investigación del Ejército de EE. UU., quiere solucionar el mayor y más básico defecto la inteligencia artificial: no tiene sentido común (ver "Las máquinas son tontísimas, solo intentamos que lo sean un poco menos").

"El sentido común es la materia oscura de la inteligencia artificial. Es un poco inefable, pero su efecto se ve por todas partes", afirma el  CEO del Instituto Allen para la IA, Oren Etzioni, una organización sin ánimo de lucro que está explorando los límites de esta tecnología. Así que DARPA ha lanzado un nuevo programa, bautizado Sentido Común de Máquinas (Machine Common Sense - MCS). A través de él, la agencia lanzará una competición en la que distintos algoritmos de IA deberán usar su sentido común para resolver cuestiones como ésta:

Una estudiante pone dos macetas idénticas en el mismo tipo y cantidad de tierra, y las riega con la misma cantidad de agua. Pone una de estas plantas cerca de una ventana y la otra en una habitación oscura. La planta que está cerca de la ventana producirá más (A) oxígeno, (B) dióxido de carbono, o (C) agua.

Un programa de ordenador necesita cierta comprensión de cómo funciona el mundo, y la fotosíntesis en particular, para poder responder la pregunta. Limitarse a atiborrar a al programa con preguntas no permitirá resolver el problema.

El marco de referencia de la competición se centrará en el lenguaje, ya que esta es el área que puede provocar más confusiones. Además, hace que las pruebas sean relativamente sencillas. Etzioni cree que las preguntas permiten medir el progreso hacia la comprensión del sentido común, algo que será crucial.

Parece que las empresas tecnológicas están más interesadas en vender sus poderosas  técnicas de aprendizaje automático, aunque sus usos estén básicamente limitados a tareas muy concretasEl aprendizaje profundo, por ejemplo, es capaz de reconocer palabras en el habla u objetos en imágenes, a menudo con una precisión increíble. Pero el enfoque se basa en un entrenamiento con grandes cantidades de datos etiquetados en una gran red neuronal. El sistema aprende a identificar los patrones importantes, pero puede cometer errores fácilmente porque no tiene un concepto más amplio del mundo. En cambio, los bebés humanos desarrollan rápidamente una comprensión intuitiva del mundo que sirve de base para su inteligencia (ver La IA busca su próximo gran avance en el cerebro de los niños).

Pero el problema del sentido común no es fácil de resolver. Los intentos anteriores para ayudar a las máquinas a comprender el mundo se han centrado en crear a mano grandes bases de datos de conocimiento. Es una tarea difícil de manejar y esencialmente interminable. El esfuerzo más famoso de este tipo es Cyc, un proyecto que ha estado funcionando durante décadas.

Y lo peor de todo, es que es un asunto de enorme importancia. Al fin y al cabo, la falta de sentido común sería desastrosa en ciertas situaciones críticas, y en última instancia podría contener a la inteligencia artificial. DARPA tiene un historial de inversiones en investigación fundamental para la inteligencia artificial. Sus proyectos anteriores ayudaron a generar los coches autónomos que tenemos actualmente, así como la asistente personal más famosa operada por voz, Siri.

"La ausencia de sentido común impide que un sistema inteligente comprenda su mundo, que se comunique de forma natural con las personas, que se comporte razonablemente en situaciones imprevistas y que aprenda de nuevas experiencias", advirtió el responsable de programas de DARPA, Dave Gunning, en un comunicado emitido. El texto concluía: "Esta ausencia es quizás la barrera más importante entre las aplicaciones de inteligencia artificial estrechamente enfocadas que tenemos hoy y las aplicaciones de inteligencia artificial más generales que nos gustaría crear en el futuro".

Inteligencia Artificial

 

La inteligencia artificial y los robots están transformando nuestra forma de trabajar y nuestro estilo de vida.

  1. Esta IA ayuda a que los profesores enseñen mejor matemáticas a los niños

    La herramienta, llamada Tutor CoPilot, demuestra cómo la IA podría mejorar, en lugar de sustituir, el trabajo de los educadores

  2. Meta ofrece gratis un gran conjunto de datos para acelerar el descubrimiento de nuevos materiales mediante IA

    Open Materials 2024 (OMat24) es uno de los mayores conjuntos de datos de entrenamiento de IA para la ciencia de materiales y está disponible de forma abierta y gratuita

  3. ChatGPT discrimina por raza y género según el nombre de usuario en el 0,1% de las interacciones

    MIT Technology Review accede en exclusiva a la investigación sobre estereotipos negativos en los grandes modelos lingüísticos de la empresa