Cada vez más decisiones que afectan nuestras vidas son tomadas —o al menos influenciadas— por sistemas de inteligencia artificial. Desde la aprobación de un crédito hasta el diagnóstico de una enfermedad, desde la selección de un candidato hasta la asignación de un subsidio, los algoritmos están detrás operando con velocidad y precisión. Pero ¿quién puede explicar cómo llegaron a esa decisión? ¿Y qué pasa si se equivocan?
El vertiginoso avance de modelos como redes neuronales y sistemas generativos ha traído una paradoja: a mayor precisión técnica, menor comprensión humana. Hoy muchos algoritmos son tan complejos que ni sus propios creadores pueden explicarlos. Esto pone en tensión principios como el derecho a la información, la igualdad, el debido proceso y la rendición de cuentas.
La llamada Inteligencia Artificial Explicable (XAI, por sus siglas en inglés) intenta responder a todas estas preguntas. Es una línea de investigación y desarrollo que busca que los sistemas de inteligencia artificial no solo sean eficientes, sino también comprensibles, auditables y responsables. Porque una máquina que decide sin poder explicar sus razones no solo es peligrosa, sino profundamente antidemocrática.
Como columnista, me interesé en la XAI no por su sofisticación técnica, sino por lo que revela sobre los nuevos riesgos para la justicia, la equidad y los derechos humanos. No se trata de si los algoritmos funcionan (que en general lo hacen). Se trata de si pueden ser cuestionados, entendidos y controlados por quienes somos afectados por sus decisiones.
Imaginemos un juez que aplica una pena porque una herramienta predictiva le indica que hay alto riesgo de reincidencia. ¿Puede ese acusado saber cómo se llegó a esa conclusión? ¿Puede impugnarla? ¿Está ese algoritmo libre de sesgos raciales, de clase o de género? ¿Quién responde si el fallo estuvo mal orientado?
En ese sentido, la XAI interpela directamente al derecho. Es urgente repensar categorías como la responsabilidad, la intención, la prueba y la culpabilidad en un entorno donde las decisiones pueden provenir de modelos no humanos. Entonces, los tribunales deben prepararse para litigar con sistemas opacos, exigir trazabilidad algorítmica, y reconocer el derecho de los ciudadanos a una explicación comprensible sobre las decisiones que los afectan.
Las empresas de tecnología saben que este es un tema sensible. Por eso, IBM, Google, Microsoft y otras han empezado a integrar herramientas de explicabilidad en sus plataformas. Pero ojo: si esta discusión se queda solo en manos del mercado, corremos el riesgo de que la transparencia sea un privilegio, no un derecho. No basta con decir que el sistema es confiable: debe poder ser auditado y entendido por cualquier persona, y especialmente por quienes están en posición de menor poder.
Por eso, desde el mundo del derecho, el periodismo y la opinión pública debemos levantar una bandera clara: la explicabilidad no es un lujo técnico. Es una garantía mínima de justicia. Los algoritmos no pueden ser cajas negras cuando deciden sobre nuestras vidas. Tienen que rendir cuentas. Esto implica reformas. Implica leyes que exijan transparencia algorítmica, marcos regulatorios claros, y una formación ética y técnica para jueces, fiscales, periodistas, abogados, administradores y usuarios. También implica una vigilancia crítica desde los medios y las columnas de opinión: no podemos aceptar sin más la lógica del “lo dijo el algoritmo”.
En síntesis, la Inteligencia Artificial Explicable es un terreno en construcción. Pero su dirección marcará la diferencia entre una sociedad que usa la tecnología para fortalecer la democracia y una que la usa para perpetuar la opacidad, el sesgo y la desigualdad. Por todo esto, la XAI es una oportunidad y un reto. Una oportunidad para fortalecer la transparencia y la confianza en la inteligencia artificial; un reto para construir una sociedad que no se rinda a la opacidad tecnológica, sino que la enfrente con pensamiento crítico, regulación efectiva y compromiso ético. La explicabilidad no puede ser una opción. Debe ser una exigencia.
Como opinadores, como ciudadanos, como profesionales, no podemos permitir que el futuro se decida en silencio.
