Por Alejandro Subía, Consultor de Datia.
En el ambiente tecnológico actual, es un reto expresar opiniones sobre temas controversiales de tecnología que no estén debidamente soportadas, es muy fácil cuestionarlas por medio de cualquier herramienta de Inteligencia Artificial y con suerte, se pueden generar discusiones que lo más seguro se sustentan en los criterios que se obtienen de las herramientas de IA de preferencia.
Escribir sobre el Gobierno de Datos y el Gobierno de la IA y aún más afirmar que tienen un futuro común, es el reto que decidí no afrontarlo solo, por esa razón pedí a mis amigas ChatGPT y Gemini me concedan una entrevista para que ellas mismas contesten las preguntas que como entrevistador he seleccionado y creo pueden ser de interés de los lectores.
Sin más preámbulo y con la presencia virtual de mis invitadas pasemos a la entrevista en la que me identifico como ASPrompt y también incluyo mis comentarios
ASPrompt. En la era de la IA ¿se puede considerar al Gobierno de Datos burocracia tecnológica?
ChatGPT: No. El Gobierno de Datos no es burocracia, sino una función de habilitación y control. Bien diseñado, reduce fricciones, elimina reprocesos y permite que los equipos de IA trabajen con datos confiables sin temor a incumplir normas. El problema no es el gobierno, sino cuando se lo implementa sin claridad ni propósito.
Gemini: No. La percepción de burocracia surge cuando se aplican procesos rígidos y manuales. Un Gobierno de Datos moderno es liviano, automatizado y basado en políticas claras que permiten innovar con límites bien definidos. Cuando se diseña correctamente, acelera en lugar de frenar.
Comentario: Las dos IA coinciden en que la burocracia no es inherente al gobierno, sino consecuencia de una mala implementación.
ASPrompt. ¿El Gobierno de IA es dependiente del Gobierno de Datos?
ChatGPT: Totalmente. Sin datos gobernados no hay modelos auditables ni explicables. Todo Gobierno de IA se apoya en datos trazables, protegidos y correctamente definidos.
Gemini: Absolutamente, el Gobierno de IA es una extensión directa del Gobierno de Datos. La calidad, sensibilidad y procedencia del dato determinan la calidad del modelo. Si falla el gobierno de datos, falla el modelo.
ASPrompt. ¿Es determinante para el éxito y el cumplimiento regulatorio?
ChatGPT: Sí. La gobernanza integrada es lo que permite demostrar cómo decide un modelo, justificar su comportamiento y sostenerlo en producción sin riesgos.
Gemini: Sí. El Gobierno de Datos y el Gobierno de IA son indispensables para cumplir IA Act, GDPR, normas sectoriales y auditorías internas. Sin gobernanza, cualquier éxito es temporal.
Comentario: ChatGPT subraya la responsabilidad interna y la operación. Gemini añade el elemento crítico: cumplimiento formal y regulatorio.
ASPrompt. ¿Qué directrices tiene DAMA al respecto?
ChatGPT: DAMA establece los principios centrales: gobernanza, calidad, metadatos, seguridad, privacidad, linaje y arquitectura. Estos dominios son el fundamento técnico sobre el cual se construye cualquier uso de IA responsable.
Gemini: DAMA-DMBOK no regula IA, pero sus disciplinas son esenciales para ella: linaje para rastrear datos de entrenamiento, metadatos para documentar uso, políticas de calidad para evitar sesgo, seguridad para proteger datos sensibles y arquitectura como soporte del ciclo MLOps.
ASPrompt. ¿Cómo se usa hoy el Gobierno de Datos con IA?
ChatGPT: Sirve para garantizar que los modelos consuman datos certificados, con definiciones estandarizadas y umbrales de calidad. También la trazabilidad del dato permite explicar su uso y origen.
Gemini: Hoy se integra con MLOps mediante catálogos de datos, linaje automatizado, clasificación de sensibilidad y controles de acceso. Cada entrenamiento queda asociado a conjuntos de datos gobernados.
Comentario: ChatGPT habla del propósito; Gemini del mecanismo técnico. Juntas ofrecen una visión completa: qué es y cómo se aplica.
ASPrompt. ¿Por qué ahora es más importante?
ChatGPT: Porque la IA amplifica cualquier error: un dato incorrecto puede generar miles de decisiones erróneas automáticamente.
Gemini: Porque reguladores, clientes y auditorías exigen transparencia y explicación sobre el uso. Sin Gobierno de Datos no se puede demostrar cumplimiento.
Comentario: ChatGPT enfatiza el impacto; Gemini la exigencia externa. Las dos explican la urgencia actual de contar con programas de Gobierno de Datos .
ASPrompt. ¿Cómo encaja DAMA en el contexto de IA?
ChatGPT: DAMA funciona como base sobre la cual se implementan marcos de IA como NIST AI RMF e ISO 42001.
Gemini: DAMA es la capa fundamental: sin metadatos sólidos, linaje preciso y gobernanza clara, es imposible operar IA de forma responsable.
Comentario: Destacan la función de DAMA como un prerrequisito, no un complemento.
ASPrompt. ¿Qué cambia para IA respecto al Gobierno de Datos?
ChatGPT: Se gobiernan no solo datos, sino modelos, ciclos de vida, versiones y métricas.
Gemini: Además surgen nuevos activos: datos sintéticos, nuevas métricas de sesgo, degradación del modelo en el tiempo y necesidad de trazabilidad total bajo MLOps.
Comentario: Gemini ofrece la visión más avanzada al incluir datos sintéticos y riesgo algorítmico.
ASPrompt. ¿El Gobierno de Datos frena la IA?
ChatGPT: No. Un gobierno bien diseñado acelera la IA al reducir incertidumbre.
Gemini: Solo frena cuando es reactivo y manual. El gobierno moderno debe ser preventivo, automatizado y orientado a riesgo.
Comentario: Coinciden en que el problema es cómo se implementa, no el gobierno en sí.
ASPrompt. ¿Qué tipo de datos permiten las políticas de IA y qué condiciones deben cumplir?
ChatGPT: Deben ser legales, clasificados, con base normativa para su uso y cumplir estándares mínimos de calidad y trazabilidad.
Gemini: Deben ser lícitos, proporcionales, representativos y con medidas de anonimización para datos personales. El acceso debe ser estrictamente controlado.
ASPrompt. ¿Qué roles RACI adicionales requiere el Gobierno de IA?
ChatGPT: AI Owner, AI Ethics Officer, Model Auditor y Model Risk Manager.
Gemini: AI Ethicist, Algorithmic Risk Owner y MLOps Engineer.
ASPrompt. ¿Cuál es la causa principal del fracaso de la IA en instituciones?
ChatGPT: Falta de gobernanza: datos deficientes, roles indefinidos y procesos débiles.
Gemini: Falta de estrategia: mala calidad de datos, modelos opacos, baja confianza del usuario y falta de alineación con el negocio.
Comentario: ChatGPT aborda lo técnico; Gemini lo organizacional. La combinación explica la mayoría de fracasos reales y la causa se hace muy visible, la falta de un programa de Gobierno de Datos.
ASPrompt. ¿Es recomendado implementar IA privada en la organización?
ChatGPT: Sí, cuando existen datos sensibles, propiedad intelectual o requisitos regulatorios. Permite control total del ciclo de vida del modelo.
Gemini: Sí. La IA privada otorga soberanía del dato, reduce riesgo y mejora cumplimiento. Es una etapa natural de madurez.
ASPrompt. ¿Cómo contribuye la IA privada al Gobierno de Datos?
ChatGPT: Alinea todo procesamiento de IA con las mismas políticas internas de seguridad, calidad y acceso.
Gemini: Cierra el circuito de gobierno: desde la fuente hasta el modelo y sus salidas, todo ocurre dentro del perímetro gobernado.
Comentario: ChatGPT habla de coherencia; Gemini de end-to-end governance, un concepto más potente.
ASPrompt. ¿Cuáles son los beneficios principales de la IA privada?
ChatGPT: Seguridad, personalización profunda, control del modelo y cumplimiento.
Gemini: Soberanía del dato, reducción del riesgo de fuga, auditoría completa y alineación entre negocio, TI y riesgo.
ASPrompt. ¿Hacia dónde evolucionarán el Gobierno de Datos y el Gobierno de IA?
ChatGPT: Hacia una gobernanza inteligente automatizada, con supervisión humana y políticas dinámicas. (Autonomous Data Governance)
Gemini: Hacia un marco unificado de Gobierno de Datos & IA donde se gestionen datos, modelos, riesgos y procesos como un solo sistema. (Self Governed Data Ecosystems)
ASPrompt. ¿Podemos ser exitosos en IA sin Gobierno de Datos?
ChatGPT: No. El éxito sin gobierno es insostenible y no escalable.
Gemini: No. El Gobierno de Datos define las reglas del juego para la IA.
ASPrompt. ¿El Gobierno de Datos será reemplazado por IA?
ChatGPT: No. La IA automatizará tareas del gobierno de datos, pero la responsabilidad seguirá en manos humanas.
Gemini: No. La IA aumentará la gobernanza, pero las decisiones éticas, regulatorias y de riesgo seguirán siendo humanas.
ASPrompt. ¿Cuál es la arquitectura ideal corporativa para IA responsable?
ChatGPT: Un lakehouse gobernado, catálogo con linaje, MLOps integrado, IA privada y seguridad Zero Trust.
Gemini: Un tejido de componentes: DAMA como base, plataforma de datos escalable, IA privada conectada, MLOps integrado, metadatos inteligentes y un modelo claro de roles.
Comentario: ChatGPT ofrece la vista técnica; Gemini la vista sociotécnica, más completa.
CONCLUSIONES:
De las respuestas se puede avizorar que el futuro común es una IA gobernada, trazable y responsable soportada por un Gobierno de Datos moderno; la IA sin Gobierno de Datos es brillante pero ciega; la IA sin Gobierno de IA es poderosa pero peligrosa.
La urgencia de incluir la IA sin riesgo en la gestión de las organizaciones y poder justificar el comportamiento de los modelos y el cumplimiento de las normativas vuelve prioritario el Gobierno de IA y por consiguiente el Gobierno de Datos.
Implementar el programa de Gobierno de Datos se considera complejo, que demanda recursos y que sus resultados solo se ven a largo plazo, sin embargo, otras disciplinas de DAMA son aceptadas y se implementan sin evaluar su integración al programa de Gobierno de Datos del que deberían ser parte.
Soluciones modernas permiten actualmente implementar un programa de Gobierno de Datos y en paralelo, el Gobierno de IA, de manera controlada, con menos recursos, en menor tiempo y enfocada en las áreas prioritarias de la organización, para no limitar el uso de la IA pero manteniendo el control y minimizando el riesgo.
El Gobierno de IA exitoso no se construye desde la tecnología, sino desde la disciplina del dato. El Gobierno de Datos crea el terreno firme y el Gobierno de IA levanta la estructura ética y de control sobre ese terreno.
Por espacio y tiempo de lectura debo terminar la entrevista agradeciendo a las invitadas y reconociendo que aún quedan muchos prompts en el tintero (perdón en el chat) que nos gustaría nos contesten en una próxima entrevista si es que este tema de actualidad lo amerita.
Como referencia debo señalar que la entrevistadas CHaGPT y Gemini se encuentran disponibles para contestar cualquier cuestionamiento de los lectores sobre sus respuestas.
