Explicabilidad (XAI)

intermediate

La capacidad de comprender y explicar cómo un sistema de IA llega a sus decisiones. Requisito exigido por la Ley de IA de la UE para los sistemas de alto riesgo: los usuarios deben poder comprender por qué una IA ha formulado una recomendación o tomado una decisión concreta. Entre las técnicas utilizadas se incluyen la importancia de las características, la visualización de la atención y las explicaciones contrafactuales.