Hace dos semanas, los Emiratos Árabes Unidos organizaron Ai Everything, su primera gran conferencia de inteligencia artificial (IA) y una de las mayores del mundo sobre sus aplicaciones. El acontecimiento fue un impresionante testimonio de la amplitud de las industrias en las que ya se usa el aprendizaje automático. También sirvió como importante recordatorio de cómo el mundo de los negocios puede ofuscarse y exagerar las capacidades de la tecnología.

Así que me gustaría resumir brevemente las cinco preguntas que suelo usar para evaluar la calidad y la validez de la tecnología de una empresa:

1. ¿Cuál es el problema que intenta resolver? Siempre empiezo con la definición del problema. ¿Qué intenta hacer la compañía?, y ¿es una misión digna para el aprendizaje automático? Por ejemplo hablamos con Affectiva, que desarrolla la tecnología de reconocimiento de emociones para rastrear y analizar con precisión los estados de ánimo de las personas. Conceptualmente, se trata de un problema de reconocimiento de patrones y, por lo tanto, sería algo que el aprendizaje automático podría abordar (ver  Si quiere saber qué es el aprendizaje automático, mire este gráfico). También sería muy difícil acercarse por otros medios, ya que es demasiado complejo programar un conjunto de reglas.

2. ¿Cuál es el plan de la compañía para resolver el problema con aprendizaje automático? Ahora que tenemos una comprensión conceptual del problema, queremos saber cómo la compañía planea abordarlo. Una empresa de reconocimiento de emociones podría adoptar muchos enfoques para crear su producto. Podría entrenar un sistema de visión artificial para encontrar las expresiones faciales de las personas que coinciden con los patrones o entrenar a un sistema de audio para hacer coincidir el tono de voz de las personas con los patrones. En este punto queremos descubrir cómo la compañía ha reformulado su definición del problema en un problema de aprendizaje automático y determinar qué datos se deberían introducir en sus algoritmos.

3. ¿Cómo obtiene la compañía sus datos para entrenar el sistema? Una vez que sepamos el tipo de datos que necesita la compañía, queremos saber cómo los va a adquirir. La mayoría de las aplicaciones de inteligencia artificial utilizan aprendizaje automático supervisado, que requiere limpios datos etiquetados y de alta calidad. ¿Quién etiquetado los datos? Y si las etiquetas capturan algo subjetivo como las emociones, ¿siguen una norma científica? En el caso de Affectiva, la compañía recopila datos de audio y vídeo de forma voluntaria de los usuarios y contrata a especialistas capacitados para etiquetar los datos de una manera rigurosa y coherente. Conocer los detalles de esta parte del proceso también ayuda a identificar cualquier posible fuente de recopilación de datos o sesgo en el etiquetado (ver Cómo se produce el sesgo algorítmico y por qué es tan difícil detenerlo).

4. ¿Tiene la empresa procesos para auditar sus productos? Lo siguiente que deberíamos averiguar es si la empresa analiza sus productos. ¿Son exactos sus algoritmos? ¿Se controlan por sesgo? ¿Con qué frecuencia reevalúa sus algoritmos para asegurarse de que todavía están funcionando correctamente? Si la empresa aún no cuenta con algoritmos que alcancen la precisión o la imparcialidad deseadas, ¿qué planes tiene para asegurarse de hacerlo antes de la implementación?

5. ¿Debería la empresa utilizar el aprendizaje automático para resolver este problema? Esto es más como una decisión subjetiva. Incluso si un problema puede  resolverse con el aprendizaje automático, es importante preguntarse si debe. El hecho de que se pueda crear una plataforma de reconocimiento de emociones que alcance al menos el 80 % de precisión en diferentes razas y géneros no significa que no se pueda abusar de ella. ¿Los beneficios de tener esta tecnología superan las posibles violaciones de los derechos humanos de la vigilancia emocional? Y, ¿tiene la empresa mecanismos para mitigar cualquier posible impacto negativo?

En mi opinión, una empresa con un producto de aprendizaje automático de calidad debería cubrir todas estas cuestiones: debería abordar un problema adecuado para el aprendizaje automático, contar con procesos sólidos de adquisición de datos y con sistemas de auditoría, tener algoritmos muy precisos o n plan para mejorarlos y enfrentarse de forma directa con cuestiones éticas. A menudo, las empresas tienen respuestas para las cuatro primeras preguntas, pero no para la última. Para mí, esa es una gran línea roja. Demuestra que la compañía no está pensando de manera holística en cómo su tecnología puede afectar la vida de las personas y tiene una alta probabilidad de hacer lo mismo que Facebook en algún momento más adelante. Si usted es un ejecutivo que busca soluciones de aprendizaje automático para su empresa, esto debería advertirle de no asociarse con algún proveedor en particular.