La semana pasada, los principales expertos de la academia, la industria y los orígenes regulatorios se reunieron para discutir las implicaciones legales y comerciales de la explicabilidad de la IA, con un enfoque particular en su impacto en el comercio minorista. Organizado por el profesor Shlomit Yaniski Ravid de Yale Law y Fordham Law, el panel reunió a los líderes de pensamiento para abordar la creciente necesidad de transparencia en la toma de decisiones impulsada por la IA, enfatizando la importancia de garantizar que la IA opera en parámetros éticos y legales y la necesidad de «abrir la caja negra» de la toma de decisiones de AI.
Desafíos reglamentarios y el nuevo ISO 42001 estándar de IA
Tony Porter, ex comisionado de cámaras de vigilancia para el Ministerio del Interior del Reino Unido, proporcionó información sobre los desafíos regulatorios que rodean la transparencia de la IA. Destacó la importancia de ISO 42001, el estándar internacional para los sistemas de gestión de IA que ofrece un marco para la gobernanza responsable de la IA. «Las regulaciones están evolucionando rápidamente, pero estándares como ISO 42001 proporcionan a las organizaciones un enfoque estructurado para equilibrar la innovación con responsabilidad», dijo Porter. La disociación del panel dirigida por el Prof. Yaniski Ravid presentaba representantes de las principales compañías de inteligencia artificial, que compartieron cómo sus organizaciones implementan transparencia en los sistemas de IA, particularmente en aplicaciones minoristas y legales.
Chamelio: Transformación de la toma de decisiones legales con IA explicable
Alex Zilberman de Chamelio, una plataforma de inteligencia legal construida exclusivamente para equipos legales internos, abordó el papel de IA en las operaciones legales corporativas. Chamelio cambia cómo los equipos legales internos operan a través de un agente de IA que aprende y utiliza el conocimiento legal almacenado en su repositorio de contratos, políticas, documentos de cumplimiento, registros corporativos, presentaciones regulatorias y otros documentos legales importantes para el negocio.
El agente de IA de Chamelio realiza tareas legales centrales como extraer obligaciones importantes, optimizar revisiones de contratos, monitorear el cumplimiento y ofrecer ideas procesables que de otro modo permanecerían enterradas en miles de páginas de documentos. La plataforma se integra con las herramientas existentes y se adapta al conocimiento legal de un equipo.
«La confianza es el requisito número uno para construir un sistema que los profesionales puedan usar», dijo Zilberman. “Esta confianza se logra proporcionando tanta transparencia como sea posible. Nuestra solución permite a los usuarios comprender de dónde proviene cada recomendación, asegurando que puedan confirmar y verificar cada información «.
Chamelio evita el modelo de ‘caja negra’ al permitir que los profesionales legales rastreen el razonamiento detrás de las recomendaciones generadas por la IA. Por ejemplo, cuando el sistema encuentra áreas de un contrato que no reconoce, en lugar de adivinar, marca la incertidumbre y solicita la entrada humana. Este enfoque ayuda a los profesionales legales a controlar decisiones importantes, particularmente en escenarios sin precedentes como cláusulas sin precedentes o términos legales conflictivos.
Buffers.ai: cambiando la optimización del inventario
Pini Usha de Buffers.ai compartió ideas sobre la optimización de inventario impulsada por la IA, una aplicación importante en el comercio minorista. Buffers.AI sirve marcas minoristas y de fabricación medianas a grandes, incluidas H&M, P&G y Toshiba, ayudando a los minoristas, particularmente en la industria de la moda, abordar desafíos de optimización de inventario como pronósticos, reposición y planificación de surtido. La compañía ayuda a garantizar que las cantidades correctas del producto se entreguen a las ubicaciones correctas, reduciendo las instancias de desabastecimientos y el exceso de inventario.
Buffers.ai ofrece un complemento ERP completo que se integra con sistemas como SAP y Priority, proporcionando ROI en meses. “La transparencia es clave. Si las empresas no pueden entender cómo la IA predice las fluctuaciones de la demanda o los riesgos de la cadena de suministro, dudarán en confiar en ello ”, dijo Usha.
Buffers.ai integra herramientas de explicación que permiten a los clientes visualizar y ajustar los pronósticos impulsados por la IA, ayudando a garantizar la alineación con las operaciones comerciales y las tendencias del mercado en tiempo real. Por ejemplo, al colocar un nuevo producto sin datos históricos, el sistema analiza tendencias de productos similares, características del almacén y señales de demanda locales. Si una rama ha mostrado históricamente una fuerte demanda de elementos comparables, el sistema podría recomendar una cantidad más alta sin ningún dato existente para el nuevo producto. Del mismo modo, al asignar inventario entre sucursales y tiendas en línea, el sistema detalla factores como el rendimiento de las ventas regionales, los patrones de tráfico de clientes y las tasas de conversión en línea para explicar sus recomendaciones.
Corsight AI: Reconocimiento facial en el comercio minorista y la aplicación de la ley
Matan Noga de Corsight AI discutió el papel de la explicabilidad en la tecnología de reconocimiento facial, que se utiliza cada vez más para la mejora de la seguridad y la experiencia del cliente en el comercio minorista. Corsight AI se especializa en el reconocimiento facial del mundo real y proporciona sus soluciones a la aplicación de la ley, aeropuertos, centros comerciales y minoristas.
La tecnología de la compañía se utiliza para aplicaciones como alerta de la lista de vigilancia, localización de personas desaparecidas e investigaciones forenses. Corsight AI se diferencia al enfocarse en la alta velocidad y el reconocimiento en tiempo real de manera que cumple con las leyes de privacidad en evolución y las directrices éticas de IA. La compañía trabaja con el gobierno y sus clientes comerciales para promover la adopción responsable de la IA, enfatizando la importancia de la explicación en la creación de confianza y garantizar el uso ético.
Imisight: Inteligencia de imágenes con AI
Daphne Tapia de Imisight destacó la importancia de la explicabilidad en la inteligencia de imágenes con IA, particularmente en aplicaciones de alto riesgo como la seguridad fronteriza y el monitoreo ambiental. Imisight se especializa en integración y análisis de sensores múltiples, utilizando algoritmos AI/ML para detectar cambios, anomalías y objetos en sectores como la invasión de la tierra, el monitoreo ambiental y el mantenimiento de la infraestructura. “La explicación de IA significa comprender por qué se detectó un objeto o cambio específico. Priorizamos la trazabilidad y la transparencia para garantizar que los usuarios puedan confiar en las salidas de nuestro sistema ”, dijo Tapia. Imisight refina continuamente sus modelos basados en datos del mundo real y comentarios de los usuarios. La compañía colabora con agencias reguladoras para garantizar que su IA cumpla con los estándares de cumplimiento internacional.
El panel subrayó el importante papel de la explicabilidad de la IA en el fomento de la confianza, la responsabilidad y el uso ético de las tecnologías de IA, particularmente en las industrias minoristas y de alto riesgo. Al priorizar la transparencia y la supervisión humana, las organizaciones pueden garantizar que los sistemas de IA sean efectivos y confiables, alineándose con los estándares regulatorios en evolución y las expectativas públicas.