La IA ya forma parte del ERP

Durante años, los conflictos relacionados con SAP se centraban en implantaciones fallidas, sobrecostes, incumplimientos funcionales, problemas de rendimiento o defectos en la dirección del proyecto.

La llegada de SAP Joule, el asistente de inteligencia artificial integrado en el ecosistema SAP, añade una nueva dimensión al riesgo. Muchas decisiones dejan de ser exclusivamente humanas y pasan a estar apoyadas —o incluso iniciadas— por un sistema de IA generativa.

Cuando una empresa utiliza Joule para analizar información financiera, proponer acciones de compras, generar informes, ayudar en Recursos Humanos o automatizar procesos, aparecen cuestiones que hasta hace poco no existían:

• ¿Quién tomó realmente la decisión?
• ¿Qué información utilizó la IA?
• ¿Era correcta?
• ¿Se modificó posteriormente?
• ¿Puede reconstruirse el razonamiento seguido?
• ¿Existe evidencia suficiente para un procedimiento judicial?

Estas preguntas convierten a Joule en un nuevo objeto de auditoría y, en determinados casos, de peritaje informático.

¿Qué es exactamente SAP Joule?

SAP Joule es el asistente de inteligencia artificial desarrollado por SAP que se integra con soluciones como:

• SAP S/4HANA
• SAP SuccessFactors
• SAP Ariba
• SAP Concur
• SAP Business Technology Platform (BTP)
• SAP Analytics Cloud
• SAP Build
• SAP Datasphere

Su función consiste en interpretar lenguaje natural, consultar información empresarial y generar respuestas, recomendaciones o acciones dentro del ERP.

A diferencia de un chatbot convencional, Joule tiene acceso al contexto empresarial y puede interactuar con datos de negocio.

Precisamente esa capacidad hace imprescindible establecer mecanismos de control.

¿Por qué puede ser necesaria una auditoría de Joule?

Muchas organizaciones consideran que la IA es únicamente una herramienta de productividad.

Sin embargo, desde un punto de vista técnico y jurídico, Joule puede afectar a aspectos críticos como:

• decisiones económicas;
• procesos de compras;
• gestión financiera;
• recursos humanos;
• cumplimiento normativo;
• protección de datos;
• seguridad de la información;
• evidencia documental.

Una recomendación incorrecta o basada en información incompleta puede generar importantes perjuicios económicos.

En estos casos resulta imprescindible determinar:

• si la IA actuó correctamente;
• si los datos utilizados eran adecuados;
• si existían controles suficientes;
• y si el usuario siguió las recomendaciones sin validarlas.

¿Qué aspectos debería revisar una auditoría de SAP Joule?

Una auditoría especializada debería analizar, entre otros, los siguientes elementos.

Gobierno de la IA

• inventario de casos de uso;
• políticas internas;
• aprobación de nuevos usos;
• responsables del sistema.

Seguridad

• autenticación;
• autorización;
• segregación de funciones;
• acceso a información sensible;
• gestión de privilegios.

Calidad de los datos

La IA únicamente puede ofrecer resultados fiables cuando trabaja con información correcta.

La auditoría debería comprobar:

• calidad del dato;
• información desactualizada;
• duplicidades;
• inconsistencias;
• integridad de la información.

Trazabilidad

Uno de los aspectos más importantes consiste en determinar:

• qué preguntó el usuario;
• qué respondió Joule;
• qué información consultó;
• qué acciones ejecutó;
• quién las aprobó.

Sin esta trazabilidad resulta muy difícil reconstruir posteriormente los hechos.

Evidencias

Debe analizarse la existencia de:

• logs;
• registros de auditoría;
• evidencias de aprobación;
• histórico de conversaciones;
• conservación documental;
• integridad de los registros.

Cumplimiento normativo

Dependiendo del uso realizado, puede ser necesario evaluar el cumplimiento de:

• Reglamento Europeo de IA (AI Act);
• RGPD;
• ISO/IEC 42001;
• ISO 27001;
• políticas internas;
• requisitos sectoriales.

¿Cuándo puede ser necesario un peritaje sobre Joule?

El peritaje aparece cuando existe un conflicto.

Algunos ejemplos podrían ser:

Un informe financiero erróneo

La dirección toma una decisión basándose en un análisis generado por Joule.

Posteriormente se demuestra que el análisis era incorrecto.

Será necesario determinar:

• origen del error;
• datos utilizados;
• configuración del sistema;
• responsabilidad del usuario;
• posibles fallos del proyecto.

Automatización incorrecta

Joule genera automáticamente determinados documentos o recomendaciones.

Posteriormente se descubre que provocaron un perjuicio económico.

El perito deberá analizar:

• configuración;
• entrenamiento;
• permisos;
• evidencias disponibles.

Litigios entre cliente y partner

Puede discutirse si:

• Joule fue correctamente implantado;
• se configuraron adecuadamente los controles;
• existían advertencias suficientes;
• se siguieron las buenas prácticas de SAP.

¿Qué pruebas debería conservar una empresa?

Desde una perspectiva pericial resulta recomendable conservar:

• logs completos;
• conversaciones relevantes;
• prompts utilizados;
• respuestas obtenidas;
• versiones del sistema;
• configuración de Joule;
• usuarios implicados;
• autorizaciones;
• workflows de aprobación;
• evidencias de revisión humana.

Sin esta información resulta muy complicado acreditar posteriormente qué ocurrió realmente.

La importancia de la supervisión humana

El hecho de que una respuesta proceda de una inteligencia artificial no elimina la responsabilidad de la organización.

Las recomendaciones generadas por Joule deben formar parte de un proceso supervisado.

La validación humana continúa siendo un elemento esencial, especialmente cuando las decisiones afectan a aspectos financieros, contractuales, laborales o regulatorios.

Conclusión

SAP Joule representa un avance muy importante en la evolución de los sistemas ERP, permitiendo mejorar la productividad y facilitar el acceso al conocimiento empresarial mediante inteligencia artificial.

No obstante, su incorporación también introduce nuevos riesgos técnicos, jurídicos y probatorios que las organizaciones deben gestionar adecuadamente. La auditoría de SAP Joule ya no debe centrarse únicamente en verificar el correcto funcionamiento de la tecnología, sino también en evaluar la gobernanza de la IA, la calidad de los datos, la trazabilidad de las decisiones, la seguridad de la información y el cumplimiento normativo.

En los procedimientos judiciales, la capacidad de reconstruir qué información utilizó Joule, qué respuesta generó, qué usuario intervino y qué decisiones se adoptaron será determinante para establecer responsabilidades. Por ello, las empresas que incorporen inteligencia artificial en sus procesos SAP deberían implantar desde el inicio mecanismos de auditoría y conservación de evidencias que permitan demostrar un uso diligente y conforme con la normativa aplicable.

Contacta con nosotros en este formulario y estaremos encantados de ayudarle.