En las empresas: ¿quién responde cuando la IA se equivoca?
Según el IBM Institute for Business Value, el 75% de los CEO encuestados considera que una IA confiable es imposible sin una gobernanza efectiva, mientras que el 68% afirma que la gobernanza de la IA generativa debe establecerse desde el diseño de las soluciones. Sin embargo, solo el 39% asegura contar actualmente con una buena gobernanza de IA generativa.
Bogotá, agosto de 2026. La Inteligencia Artificial está entrando en una nueva etapa dentro de las empresas. Después de una primera fase marcada por la experimentación con herramientas capaces de generar textos, imágenes y otros contenidos, las organizaciones avanzan hacia soluciones que pueden integrarse directamente en procesos y operaciones.
Bluetab, compañía del grupo IBM especializada en servicios y soluciones de datos, menciona que la evolución hacia agentes de IA capaces de ejecutar tareas y encadenar acciones dentro de determinados procesos eleva el nivel de autonomía y, con él, el nivel de responsabilidad. Hoy la pregunta para las compañías ya no es qué tan sorprendente puede ser la tecnología, sino una mucho más relevante para la gestión: ¿están preparadas para delegar decisiones clave y asumir sus consecuencias?
Para Rafael Raimondi, Director Comercial Colombia y Perú de Bluetab, el verdadero desafío no está únicamente en conseguir que un sistema tome una decisión, sino en establecer con claridad cuándo y hasta dónde debe permitírsele hacerlo.
El salto de la automatización a la delegación
El mercado empresarial acelera el despliegue de soluciones de IA y agentes capaces de ejecutar tareas, pero los marcos de gobernanza y responsabilidad no siempre avanzan al mismo ritmo. Diversos estudios recientes reflejan esta brecha de madurez.
El mismo estudio evidencia una brecha entre la intención y la capacidad de gobernanza: aunque el 68% de los CEO considera que esta debe establecerse desde el diseño, solo el 39% afirma contar actualmente con una buena gobernanza de IA generativa.
La misma tensión aparece al llevar la IA de la experimentación a la operación. Según McKinsey, el 88% de las organizaciones encuestadas ya utiliza IA en al menos una función de negocio, frente al 72% registrado en 2024. Sin embargo, solo el 7% afirma haber logrado escalarla completamente en su organización.
Esta brecha evidencia que el desafío ya no es únicamente adoptar la tecnología, sino crear las condiciones de datos, procesos, plataformas y gobernanza necesarias para integrarla de forma efectiva en el negocio.
En América Latina, la brecha también se observa en los mecanismos de gobernanza. Según IDC, el 67% de las organizaciones cuenta con principios claros para el desarrollo y uso responsable de la IA, mientras que solo el 45% dispone de un organismo de gobernanza que supervise estos sistemas y el mismo porcentaje cuenta con herramientas para aplicar políticas, monitorear riesgos y garantizar el cumplimiento a lo largo del ciclo de vida de la IA.
Los datos muestran una paradoja empresarial: la adopción de IA avanza más rápido que las capacidades necesarias para gobernarla.
Diseñar el control antes de activar el algoritmo
El verdadero dilema de los agentes de IA no será lograr que decidan, sino definir con claridad cuándo y hasta dónde debemos permitirles hacerlo.
“Conseguir que un agente de IA tome una decisión matemática o logística es la parte simple del trabajo técnico. El verdadero desafío operativo y de gobernanza es determinar cuándo se requiere la intervención humana”, señala Rafael Raimondi, Director Comercial de Bluetab.
El punto de partida está en entender que la responsabilidad no desaparece detrás de la tecnología. Si un algoritmo aprueba un crédito riesgoso, desvía una ruta logística o autoriza una transacción fallida, la responsabilidad permanece en las personas y estructuras de gobierno que definieron los datos, diseñaron la arquitectura, establecieron los límites, autorizaron su uso y deben supervisar sus resultados.
La confianza en la IA empieza por poder responder de dónde viene la información, cómo se transforma y quién es responsable de lo que ocurre con ella. Para Bluetab, avanzar hacia una Inteligencia Artificial responsable no significa frenar la autonomía de estos sistemas, sino establecer las condiciones para que puedan aportar valor de forma trazable, segura y gobernada.
