En la semana del 12 al 18 de abril, los 10 principales términos de búsqueda en Amazon.com fueron: papel higiénico, mascarilla facial, desinfectante de manos, papel de cocina, Lysol en aerosol, toallitas Clorox, mascarilla, Lysol, mascarillas para protección contra gérmenes y mascarilla N95. Pero, además de buscar, la gente también los compraba, y en grandes cantidades. La mayoría de las personas que buscaban mascarillas acabaron comprando el nuevo superventas #1 de Amazon, "Mascarilla facial, paquete de 50 unidades".

Con la aparición del coronavirus (COVID-19), empezamos a comprar cosas que nunca antes habíamos comprado. El cambio fue repentino: los pilares de los diez principales productos de Amazon —carcasas para móviles, cargadores de teléfono, Lego— fueron relegados de las listas de los productos más vendidos en cuestión de días. Nozzle, la consultora con sede en Londres (Reino Unido) especializada en la publicidad algorítmica para los vendedores de Amazon, representó ese rápido cambio en este sencillo gráfico.

A finales de febrero, en menos de una semana, los 10 principales términos de búsqueda de Amazon de varios países eran productos relacionados con la COVID-19. Se puede rastrear la propagación de la pandemia en función de lo que compramos: los artículos alcanzaron su punto máximo primero en Italia, seguidos de España, Francia, Canadá y Estados Unidos. Reino Unido y Alemania van un poco por detrás. "Es un increíble cambio solo en cinco días", afirma el CEO de Nozzle, Rael Cline. El efecto dominó se ha notado también en las cadenas de suministro del comercio minorista.

Pero este repentino cambio de comportamiento también ha afectado a la inteligencia artificial (IA), causando problemas para los algoritmos responsables de la gestión de inventario, detección de fraudes, marketing y demás. Los modelos de aprendizaje automático entrenados en el comportamiento humano normal han detectado que lo 'normal' ha cambiado, y algunos ya no funcionan como deberían. 

La situación es más o menos mala, en función de con quién se hable. Según la consultora global de inteligencia artificial Pactera Edge, "la automatización está sufriendo". Otros aseguran que están vigilando con cautela los sistemas automatizados que se mantienen, pero tienen que intervenir para corregirlos de forma manual cuando sea necesario.

Lo que está claro es que la pandemia ha revelado lo entrelazadas que están nuestras vidas con la IA, mostrando una delicada codependencia en la que nuestros cambios de comportamiento influyen en cómo funciona la IA, y eso, a su vez, modifica nuestra conducta. También es un recordatorio de que la participación humana en los sistemas automatizados sigue siendo clave. Cline afirma: "Nunca nos podemos relajar ni olvidar que estamos en unas circunstancias tan extraordinarias".

Los modelos de aprendizaje automático están diseñados para responder a los cambios. Pero la mayoría de los sistemas son frágiles; funcionan mal cuando los datos de entrada difieren mucho de los datos de entrenamiento. Es un error suponer que es posible configurar un sistema de IA y marcharse, asegura el vicepresidente global de Pactera Edge, Rajeev Sharma: "La IA es un motor vivo y activo".

Sharma ha estado hablando con varias compañías que tienen dificultades cuando la IA se vuelve imprevisible. Una empresa que suministra salsas y condimentos a los minoristas de la India necesitaba ayuda para arreglar su sistema automatizado de gestión de inventario cuando los enormes pedidos afectaron sus algoritmos de predicción. Las previsiones de ventas del sistema en las que se basaba la empresa para realizar sus pedidos ya no coincidían con lo que se estaba vendiendo realmente. "Nunca fue entrenado en un pico como este y por eso el sistema estaba fuera de control", explica Sharma.

Otra empresa utiliza IA para analizar los artículos de noticias y ofrece recomendaciones diarias de inversión basadas en los resultados. Pero dado que las noticias en la actualidad son más sombrías de lo habitual, sus consejos están muy sesgados, opina Sharma. Y una gran empresa de streaming, que ha tenido una repentina afluencia de suscriptores de contenido, también está teniendo problemas con sus algoritmos de recomendación, destaca. La compañía utiliza aprendizaje automático para sugerir contenido relevante y personalizado a los espectadores. Pero el cambio repentino en los datos de sus suscriptores ha reducido la precisión de sus recomendaciones.

Muchos de estos problemas con los modelos surgen porque cada vez más empresas están comprando sistemas de aprendizaje automático, pero carecen de los conocimientos internos necesarios para mantenerlos. Volver a entrenar un modelo puede requerir la intervención de un experto.

La crisis actual también demuestra que la situación ser peor que los escenarios más desfavorables incluidos en sus conjuntos de entrenamiento. Sharma cree que la IA no solo debe entrenar con los altibajos de los últimos años, sino también con los acontecimientos extraños como la Gran Depresión de la década de 1930, el colapso del mercado bursátil del Lunes Negro en 1987 y la crisis financiera de 2008. "Una pandemia como esta es un motivo perfecto para crear mejores modelos de aprendizaje automático", subraya.

Aun así, no es posible prepararse para todo. En general, si un sistema de aprendizaje automático no encuentra lo que espera ver, entonces tendrá problemas, asegura el fundador de Featurespace, David Excell, que es una empresa de análisis de comportamiento que utiliza inteligencia artificial para detectar fraudes con tarjetas de crédito. Quizás sorprendentemente, Featurespace no su IA no parece fallar demasiado. La gente sigue comprando en Amazon y suscribiéndose a Netflix como antes, pero no se atreven a comprar artículos de alto precio ni gastan en nuevos sitios, que son los comportamientos que podrían crear sospechas. "Los patrones de gasto de las personas representan una reducción de sus viejos hábitos", sostiene Excell.

Los ingenieros de la empresa solo tuvieron que intervenir para arreglar al aumento de compras de equipos de jardinería y de herramientas eléctricas, afirma Excell. Estos son los tipos de compras anómalas de precio medio que los algoritmos de detección de fraude podrían detectar. Y añade: "Creo que seguramente existe más control. El mundo ha cambiado y los datos también".

Acertar con el tono adecuado

Phrasee, con sede en Londres, es otra empresa de inteligencia artificial que tiene mucho apoyo de campo. Utiliza el procesamiento del lenguaje natural y el aprendizaje automático para generar mensajes de marketing por correo electrónico o anuncios de Facebook en nombre de sus clientes. Asegurarse de que se está expresando en el tono correcto es parte de su trabajo. Su IA funciona generando muchas frases posibles que luego las introduce en una red neuronal, la cual elige las mejores. Pero como la generación del lenguaje natural puede salir muy mal, los trabajadores de Phrasee siempre verifican lo que entra y sale de su IA.

Con la llegada de la COVID-19, Phrasee se dio cuenta de que podría necesitar más de sensibilidad de la habitual y empezó a filtrar el lenguaje de forma adicional. La compañía ha prohibido algunas expresiones específicas, como "hacerse viral", y no permite lenguaje que haga referencia a actividades no recomendadas, como "ropa de fiesta". Incluso ha descartado emojis que podrían interpretarse como demasiado felices o alarmantes. También ha eliminado palabras que podrían avivar la ansiedad, como "Dios mío", "estar preparado", "abastecerse" y "prepararse". "La gente no quiere que el marketing los ponga nerviosos ni que les provoque temores como, por ejemplo, algo que está a punto de agotarse, presión, presión, presión", afirma el CEO de la empresa, Parry Malm. 

Pero, en cuestiones de microcosmos de la industria al por menor, nadie es capaz de superar a Amazon. En su plataforma se están realizando algunos de los ajustes más sutiles detrás de las cámaras. Mientras Amazon y los 2,5 millones de vendedores externos que representa luchan por satisfacer la demanda, se están llevando a cabo algunos pequeños ajustes en sus algoritmos para ayudar a distribuir la carga.

La mayoría de los vendedores de Amazon confían en el gigante para cumplir con sus pedidos. Los vendedores almacenan sus artículos en un almacén de Amazon y Amazon se encarga de toda la logística, entregando los productos a los compradores y gestionando las devoluciones. Luego destaca más a los vendedores cuyos pedidos se encarga de gestionar. Por ejemplo, si buscamos un producto específico, como un Nintendo Switch, es más probable que el resultado que aparece en la parte superior, junto al botón destacado de "Añadir a la cesta", sea de un proveedor que utiliza la logística de Amazon que uno que no lo hace.

Pero, en las últimas semanas, Amazon ha cambiado esta estrategia, según Cline. Para aliviar la demanda en sus propios almacenes, ahora parece más probable que sus algoritmos destaquen a los vendedores que gestionen sus propias entregas. 

Mercados volátiles

Este tipo de ajuste sería difícil de hacer sin intervención manual. Cline detalla: "La situación es muy volátil. Se intenta optimizar la demanda del papel higiénico de la semana pasada, pero esta semana la gente quiere comprar puzles o equipos de deporte".

Los ajustes que Amazon lleva a cabo en sus algoritmos tienen efectos colaterales sobre los algoritmos que los vendedores usan para decidir su inversión en publicidad online. Cada vez que se carga una página web con anuncios, se lleva a cabo una subasta súper rápida en la que los postores automáticos deciden si quieren pagar por cada bloque de anuncios (una técnica conocida como compra programática). La cantidad que estos algoritmos deciden gastar en un anuncio depende de una miríada de variables, pero al final, la decisión se basa en una estimación de cuánto valemos los que consultamos esa la página. Hay muchas maneras de predecir el comportamiento del cliente, incluidos no solo los datos sobre las compras realizadas, sino también el lugar en el que las empresas publicitarias nos ubican en función de nuestra actividad online.

Pero ahora uno de los mejores indicadores de si alguien que entra en un anuncio comprará un producto es el tiempo de entrega, según Cline. Por eso, Nozzle está hablando con sus clientes para ajustar sus algoritmos para que lo tengan en cuenta. Por ejemplo, si cree que no puede realizar la entrega más rápido que un rival, puede que no valga la pena intentar superarlo en una subasta de anuncios. Por otro lado, si sabe que su rival se ha quedado sin existencias, entonces puede participar, apostando que el rival no pujará.

Todo esto solo es posible con un equipo especial que controla las cosas, explica Cline. Piensa que la situación actual es una revelación para muchas personas que asumieron que todos los sistemas automatizados podrían funcionar por sí mismos. "Se necesita un equipo de científicos de datos capaz de relacionar lo que pasa en el mundo con lo que ocurre en los algoritmos. Un algoritmo nunca entendería algunas de estas cosas por sí solo", concluye.

Con todo conectado, el impacto de la pandemia se ha sentido a lo largo y ancho, afectando mecanismos que en tiempos más normales permanecen ocultos. Si queremos ver el lado positivo, ahora es el momento de hacer un balance de esos sistemas recientes y ver cómo podrían diseñarse mejor y de forma más resistente. Si queremos confiar en las máquinas, debemos vigilarlas.