Por: Nicolás Olivares – Arquitecto de Soluciones en Aurys Consulting
En abril de 2024, se dio a conocer la noticia de que Amazon iba a abandonar la tecnología “Just Walk Out” en tiendas físicas. La decisión causó revuelo por muchas razones, entre ellas la revelación de que este servicio, anunciado como uno de los más avanzados por el uso de sensores e inteligencia artificial, dependía de más de 1000 trabajadores en India, poniendo en duda el uso y eficiencia de la inteligencia artificial en Amazon y en particular en este tipo de gestión comercial.
Desde que salió a la luz la controversia, numerosos artículos y publicaciones han abordado el tema. Medios importantes como The Information, Bloomberg y The Verge entre otros, han detallado la evolución, el despliegue y la posterior retirada de esta tecnología, contribuyendo a un considerable cuerpo de trabajo periodístico y analítico sobre el asunto.
Esto llevó al público a cuestionarse si:
- ¿La IA es realmente “inteligente” cuando es dependiente de trabajadores en India?
- ¿Amazon debió ser más transparente sobre la dependencia manual que requería el servicio?
- ¿El sistema era suficientemente robusto y escalable?
¿Pero, hacen sentido estos cuestionamientos? ¿Qué aspectos aplican para otros procesos de implementación de modelos IA?
El servicio y la inteligencia artificial
La tecnología de “Just Walk Out” consiste en ofrecer un servicio de compras presencial sin “tiempos de espera”, donde el cliente entra a la tienda usando biometría o su tarjeta asociada, toma los productos que quiere llevar y luego de salir de la tienda, el cobro se realiza automáticamente. Todo gracias a la combinación de sensores e inteligencia artificial que hacen el seguimiento de los artículos que cada cliente toma de la tienda, permitiendo la factura y cobro de los artículos correspondientes.
Tomando en cuenta este caso, revisaremos los cuestionamientos desde el punto vista del proceso de implementación de IA en las organizaciones.
1. La IA y su dependencia de trabajadores en India
La realidad es que todos los modelos de IA requieren datos de alta calidad para funcionar correctamente y la intervención humana es necesaria para etiquetar, corregir y mejorar los datos de entrenamiento. La supervisión continua y la mejora de la calidad de los datos son esenciales para garantizar el rendimiento óptimo de la IA a lo largo del tiempo. En el servicio “Just Walk Out” la fuerza de trabajo debían etiquetar datos de compra para ir robusteciendo los modelos de IA desarrollados con datos de calidad.
Por otro lado, es esperable que, en periodos de marcha blanca, donde el modelo IA desarrollado lleva poco tiempo en producción, el etiquetado y corrección manual de los datos tenga mayor relevancia.
Dependiendo de la complejidad del proyecto, los periodos de marcha blanca pueden ir de meses, a años. En el caso de Amazon, para este proyecto de escala global, probaron primero el sistema con sus propios empleados y luego fueron abriendo tiendas al público en Estados Unidos, aun así, queda la interrogante si se estaba consiguiendo minimizar la asistencia manual al servicio acorde a lo planificado, considerando que la primera tienda “Just Walk Out” abrió al público en Seattle en 2018.
2. Transparencia de Amazon sobre la dependencia manual del servicio
La implementación de nuevas tecnologías puede generar resistencia al cambio, lo cual puede deberse a múltiples factores, como miedo, desconfianza en el resultado o falta de familiaridad con nuevas herramientas, entre otros. Por todo esto, es fundamental involucrar a los empleados y clientes en el proceso, comunicar los beneficios de la tecnología de forma simple y brindar capacitación y apoyo para facilitar la adopción.
Es importante evaluar y comunicar adecuadamente las condiciones del servicio que puedan impactar las expectativas del cliente y afectar el uso a tiempo.
En este caso, ocurrió que algunos usuarios comenzaron a reclamar por el tiempo que debían esperar para recibir la boleta de compra una vez fuera de la tienda, luego, cuando se reveló las operaciones del equipo de soporte desde India, algunas personas encontraron una explicación a la molestia lógica; “se demora la emisión de la boleta porque la deben revisar manualmente primero”.
Si bien Amazon declara que su equipo sólo etiqueta y limpia datos para retroalimentar al modelo IA, el daño a la confianza ya estaba hecho.
3. Robustez y escalabilidad del sistema
Durante la etapa de diseño se deben tener en consideración el proceso, las necesidades del usuario y los datos, porque permitirá, entre otras cosas, planificar las medidas de mitigación ante posibles errores del modelo y escenarios cambiantes en los cuales se desenvuelve el servicio. A modo de ejemplo, desde el punto de vista del proceso y rutina del usuario, en “Just Walk Out”, una acción natural del cliente como manipular y reponer productos en lugares incorrectos, puede dificultar la tarea de identificar automáticamente los productos que debiesen ser cargados a cada usuario.
Por otro lado, la pandemia, alteró los patrones de compra, lo que pudo haber afectado el rendimiento de “Just Walk Out” dada una baja en la presencialidad y aumento del trabajo remoto. En estas situaciones, el etiquetado manual, y el entrenamiento con nuevos datos históricos son medidas que normalmente se toman para seguir mejorando el modelo IA.
¿Qué lecciones nos deja?
Por todo lo anterior, la capacidad de ajustar el servicio debe ser considerada en la planificación a partir de un correcto levantamiento de datos, procesos y personas.
En conclusión, el caso de “Just Walk Out” de Amazon resalta la importancia de un diseño y planificación exhaustiva para una implementación de IA exitosa en las organizaciones. La comunicación transparente sobre el rol de la IA y el soporte humano es crucial para evitar malentendidos y manejar las expectativas de los usuarios.
Finalmente, el servicio debe considerar la adaptabilidad a cambios en el comportamiento del usuario y el entorno para fortalecer la robustez del servicio a largo plazo. La IA es una herramienta poderosa, pero su éxito depende de una implementación estratégica adecuada contemplando múltiples ámbitos desde el diseño hasta la gestión de cambio post implementación.
