Explicando lo inexplicable: consideraciones epistemológicas de la Inteligencia Artificial Explicable (XAI)

Abstract

La opacidad epistémica de los modelos complejos de Machine Learning ha tenido como respuesta el surgimiento del área de XAI, la IA explicable, como un conjunto de herramientas de IA que buscan hacer más transparente la razón por la que se obtienen ciertos outputs desde ciertos inputs. Sin embargo, las herramientas de XAI tienen una serie de limitaciones epistemológicas que no garantizan que su resultado sea realmente explicativo. Este artículo se encarga de esclarecer las principales de esas limitaciones, tanto las externas (sociológicas) como las internas (técnicas/epistémicas) y generaliza algunos motivos por los que se dan esas limitaciones en primer lugar.

The epistemic opacity of complex machine learning models has prompted the emergence of Explainable AI (XAI), a set of tools designed to increase transparency regarding the relationship between specific inputs and their resulting outputs. Nevertheless, XAI tools are subject to various epistemological limitations that prevent their results from being truly explanatory. This article elucidates the primary limitations, both external (sociological) and internal (technical/epistemological), and synthesizes the underlying reasons why these limitations occur in the first place.