¿Qué es IA explicable o XAI?

¿Qué es IA explicable o XAI?

La IA explicable es un conjunto de procesos y métodos que permite a los usuarios entender y confiar en los resultados y producción creados por los algoritmos del aprendizaje automático (ML) de la IA. Las explicaciones que acompañan la producción de IA o ML pueden dirigirse a los usuarios, operadores o desarrolladores, y tienen la intención de abordar las preocupaciones y los desafíos que van desde la adopción de los usuarios hasta la gobernanza y el desarrollo de sistemas. Esta "explicabilidad" es central en la capacidad de la IA de obtener la confianza y seguridad necesarias en el mercado para fomentar una amplia adopción y beneficios de la IA. Otras iniciativas relacionadas y emergentes incluyen una IA confiable y responsable.

¿Cómo se implementa la IA explicable?

El Instituto Nacional de Estándares y Tecnología de los Estados Unidos (NIST) afirma que cuatro principios que impulsan la XAI son:

• Explicación: Los sistemas ofrecen evidencia o razón de todo lo que se produce.
• Significado: Los sistemas proporcionan explicaciones que son comprensibles para los usuarios individuales.
• Precisión de las explicaciones: Las explicaciones reflejan correctamente el proceso del sistema para generar la producción.
• Límites del conocimiento: El sistema solo funciona bajo condiciones para las que fue diseñado o cuando su producción ha alcanzado un nivel suficiente de confianza.

NIST señala que las explicaciones pueden ser desde simples hasta complejas y que dependen de los consumidores en cuestión. La agencia ilustra algunos tipos de explicación mediante el uso de las siguientes cinco categorías no exhaustivas de explicabilidad de muestras:

• Beneficio del usuario
• Aceptación social
• Regulación y cumplimiento
• Desarrollo del sistema
• Beneficio del propietario

¿Por qué es importante la IA explicable?

La IA explicable es un componente crucial para crecer, ganar y mantener la confianza en los sistemas automatizados. Sin confianza, la IA y, específicamente, la AI for IT Operations (AIOps), no se adoptará completamente, lo que deja la escala y la complejidad de los sistemas modernos para superar lo que se puede lograr mediante operaciones manuales y automatización tradicional.

Cuando se establece la confianza, la práctica del "lavado de la IA" (que implica que un producto o servicio se basa en la IA cuando el papel de la IA es tenue o ausente) se vuelve aparente, lo que ayuda a los profesionales y a los clientes con su debida diligencia de IA. Establecer la confianza y un sentido de seguridad en la IA afecta el alcance y la velocidad de su adopción, lo que a su vez determina la rapidez y la amplitud de los beneficios que se pueden lograr en la práctica.

Cuando encarga a cualquier sistema que encuentre respuestas o tome decisiones, especialmente las que tienen impacto en el mundo real, es imperativo que podamos explicar cómo un sistema llega a una decisión, cómo influye en un resultado o por qué ciertas acciones se consideraron necesarias.

Beneficios de la IA explicable

Los beneficios de IA explicable son multidimensionales. Se relacionan con la toma de decisiones informada, la reducción de riesgos, una mayor confianza, más adopciones del usuario, una mejor gobernanza, una mejora de sistemas más rápida y la evolución y utilidad generales de la IA en el mundo. 

¿Cuáles problemas resuelve la IA explicable?

Muchos modelos de IA y ML se consideran opacos y sus resultados inexplicables. La capacidad de exponer y explicar por qué se siguieron ciertas rutas o cómo se generaron los resultados es fundamental para la confianza, la evolución y la adopción de tecnologías de IA.

Revelar aspectos de los datos, modelos y procesos les permite a los operadores y usuarios obtener información y observabilidad de estos sistemas para optimizar mediante un razonamiento transparente y válido. Lo más importante es que la explicabilidad permite que cualquier error, sesgo o riesgo sea comunicado más fácilmente y, consecuentemente, mitigado o eliminado.

Cómo la IA explicable crea transparencia y confianza

Para que sean útiles, los datos crudos iniciales eventualmente deben resultar en una acción sugerida o ejecutada. Pedirle a un usuario que confíe en un flujo de trabajo totalmente autónomo suele ser un paso muy grande, por lo que se aconseja que un usuario pase a través de las capas de soporte desde cero. Al profundizar en los eventos nivel por nivel, el flujo de trabajo de la interfaz de usuario (UI) le permite pasar por las capas hasta llegar a los insumos crudos. Esto facilita la transparencia y la confianza.

Un marco que le permita a los expertos en dominios satisfacer su escepticismo al profundizar a la vez que le permite a un novato buscar según los límites de su curiosidad les permite tanto a principiantes como veteranos experimentados establecer la confianza a medida que aumentan su productividad y aprendizaje. Este compromiso también forma un ciclo virtuoso que puede entrenar y perfeccionar los algoritmos de la IA o el ML todavía más para mejorar el sistema de manera continua.

Cómo usar la IA explicable para evaluar y reducir el riesgo

Las redes de datos, con sus protocolos y estructuras de datos bien definidos, implican que la IA puede avanzar increíblemente sin miedo a la discriminación o al sesgo humano. Cuando se le encargan espacios problemáticos neutrales, como la resolución de problemas y la garantía de servicio, las aplicaciones de la IA pueden estar bien consolidadas y pueden ser aceptadas responsablemente.

Es vital que su proveedor responda a algunas preguntas técnicas y operativas básicas para ayudar a desenmascarar la IA y evitar imitaciones. Como con cualquier esfuerzo de diligencia debida y adquisición, el nivel de detalle de las respuestas puede proporcionar información importante. Las respuestas pueden requerir cierta interpretación técnica, pero todavía están recomendadas para ayudar a garantizar que las afirmaciones de los proveedores sean viables.

Al igual que con cualquier tecnología, los equipos de ingeniería y liderazgo fijan criterios para evaluar las compras propuestas y asegurarse de que las decisiones relacionadas estén basadas en la evidencia. Para reducir el riesgo y asistir con la diligencia debida, a continuación se presentan algunas preguntas de ejemplo que los propietarios de IA o ML y los usuarios hacen:

• ¿Cuáles algoritmos constituyen y contribuyen a la solución?
• ¿Cuáles datos se ingieren y cómo se limpian?
• ¿Dónde están los datos obtenidos? ¿Son personalizados por arrendamiento, cuenta o usuario?
• ¿Cómo se diseñan los parámetros y las funciones desde el espacio de la red?
• ¿Cómo se entrenan y reentrenan los modelos, y cómo se mantienen actualizados y relevantes?
• ¿Puede el sistema explicar su razonamiento, sus recomendaciones o sus acciones?
• ¿Cómo se elimina o reduce el sesgo?
• ¿Cómo mejora y evoluciona la solución o la plataforma automáticamente?

Además, los pilotos o las pruebas siempre están recomendados para validar las promesas o afirmaciones acerca de los servicios o sistemas de la IA.

 .

La IA explicable en acción en Juniper

El uso responsable y ético de la IA es un tema complejo, pero las organizaciones deben abordarlo.Los principios de innovación de Mist AI de Juniper guían nuestro uso de la IA en nuestros servicios y productos. También hemos escrito extensamente sobre la IA, el ML y nuestro enfoque de AIOps, incluyendo datos y primitivos de la IA, la resolución de problemas, las interfaces y los chatbots inteligentes, todos los cuales ayudan a detectar y corregir las anomalías de la red a la vez que mejoran las operaciones mediante un conjunto optimizado de herramientas. 

La XAI puede tomar muchas formas. Por ejemplo, las capacidades de Juniper AIOps incluyen hacer una gestión de recursos de radio (RRM) automática en las redes Wi-Fi y detectar problemas, como un cable de red defectuoso. Las herramientas de la XAI de Juniper están disponibles en la interfaz de productos de Mist; puedes ver una demostración en nuestro tour de autoservicio. Regístrese aquí para obtener acceso hoy mismo.

Desde la perspectiva de un usuario y un operador, se busca una gama de nuevas funciones en productos basadas en nuestro motor de Mist AI™ y en Marvis Virtual Network Assistant, que mostrarán una mayor explicabilidad en torno a los métodos, modelos, decisiones y niveles de confianza, con el propósito de aumentar la confianza y la transparencia.