La inteligencia artificial (IA) está transformando todos los sectores, desde la medicina hasta las finanzas. Pero a medida que los algoritmos ganan protagonismo en la toma de decisiones, también crece la necesidad de garantizar que estas tecnologías sean seguras, éticas y comprensibles.
Este es precisamente el enfoque del episodio del podcast Blue AI, titulado “Regulación y gobernanza de la IA”, donde Lidia, la entrevistadora, conversa con Teresa Jambrina, Directora de Corporate Legal y AI Governance en NTT DATA.
En el episodio se abordan temas esenciales como el papel del derecho en la inteligencia artificial, la regulación europea (IA Act), los riesgos legales en las empresas y la importancia de la transparencia y la confianza en el desarrollo de la IA.
Desde DeepXAI, este episodio nos ha parecido especialmente relevante porque refleja una idea central que también defendemos en nuestro curso XAI aplicada al Deep Learning.
El papel del derecho en la inteligencia artificial
Durante la conversación, Teresa Jambrina pone el foco en un punto clave: el derecho no puede quedarse atrás respecto al avance tecnológico.
La IA introduce dilemas éticos y jurídicos nuevos, como la responsabilidad de una decisión automatizada o la transparencia de los modelos, que requieren nuevos marcos normativos.
El papel del derecho, por tanto, no es solo poner límites, sino ofrecer seguridad jurídica a las empresas y a los usuarios.
La regulación ayuda a definir responsabilidades, proteger derechos y evitar el uso indebido de tecnologías que, por su propia naturaleza, pueden afectar directamente a las personas.
En este sentido, el derecho se convierte en un aliado para el desarrollo responsable de la IA. La clave está en encontrar el equilibrio entre innovación y protección: permitir que la tecnología avance, pero dentro de unos márgenes éticos y legales bien definidos.
El marco europeo: el IA Act
Uno de los temas centrales del podcast es la regulación europea de la inteligencia artificial, conocida como AI Act. Este reglamento, impulsado por la Unión Europea, busca establecer un marco común para el uso seguro, ético y transparente de la IA en los Estados miembros.
El AI Act clasifica los sistemas de IA en función de su nivel de riesgo:
- Riesgo inaceptable: sistemas que suponen una amenaza para los derechos fundamentales (por ejemplo, manipulación cognitiva o vigilancia masiva). Estos quedarán prohibidos.
- Alto riesgo: aplicaciones en ámbitos sensibles como salud, educación o contratación. Deberán cumplir requisitos estrictos de transparencia, documentación y supervisión humana.
- Riesgo limitado o mínimo: sistemas que podrán usarse libremente, aunque se fomentará la autorregulación ética.
Este enfoque basado en el riesgo marca un antes y un después en la gobernanza de la IA.
Por primera vez, una institución global establece criterios claros para evaluar la confianza y la seguridad de los sistemas inteligentes. Incluso, más importante aún, el reglamento impulsa un principio fundamental que también guía nuestro trabajo en DeepXAI: la explicabilidad.
Los sistemas de IA deberán ser comprensibles y auditables, de forma que tanto desarrolladores como usuarios puedan entender por qué un algoritmo toma una determinada decisión.
Gobernanza y riesgos legales en las empresas
Otro de los temas destacados del episodio es la gobernanza de la IA dentro de las organizaciones.
No basta con tener modelos avanzados; las empresas necesitan establecer estructuras de control, políticas internas y protocolos de supervisión que aseguren un uso responsable de la tecnología.
Teresa Jambrina menciona que los principales riesgos legales para las compañías provienen de tres ámbitos:
- Falta de transparencia: cuando las decisiones de los algoritmos no pueden explicarse.
- Sesgos en los datos: que pueden derivar en discriminaciones o resultados injustos.
- Ausencia de supervisión humana: delegar completamente la decisión en una máquina sin una revisión crítica.
Para mitigar estos riesgos, las empresas deben adoptar una gobernanza activa de la IA, que incluya:
- Auditorías periódicas de los modelos.
- Equipos multidisciplinares (legal, técnico y ético).
- Documentación clara del ciclo de vida de los algoritmos.
- Formación interna sobre ética y normativa.
La gobernanza no es un trámite, sino una ventaja competitiva. Las empresas que desarrollan IA confiable y alineada con la regulación serán las que ganen la confianza del mercado y de los usuarios.
Transparencia y confianza: pilares de la IA responsable
Uno de los grandes desafíos de la IA actual es la opacidad de los modelos. Los sistemas de deep learning, en particular, pueden comportarse como “cajas negras”: generan resultados precisos, pero difíciles de explicar.
Aquí es donde entra la explicabilidad (XAI), un campo que busca hacer visible el razonamiento interno de los modelos y permitir que humanos y máquinas trabajen en conjunto.
La transparencia no solo mejora la comprensión técnica, sino que también fortalece la confianza. Si un usuario o regulador puede entender por qué un sistema ha tomado una decisión, será más fácil aceptarla, validarla y mejorarla.
Desde DeepXAI creemos que la confianza no se impone, se construye. Pero se construye combinando tres pilares:
- Ética: usar datos que respeten valores humanos y sociales.
- Regulación: cumplir con las leyes y los marcos normativos vigentes.
- Explicabilidad: garantizar que la IA sea comprensible, trazable y verificable.
Hacia una inteligencia artificial ética y alineada con la normativa
La conversación entre Lidia y Teresa Jambrina en Blue AI pone de manifiesto que el futuro de la IA no depende solo del avance técnico, sino de su capacidad para integrarse en la sociedad de forma ética y regulada.
La regulación europea es un paso importante, pero su éxito dependerá de la colaboración entre tecnólogos, juristas y responsables empresariales.
La gobernanza de la IA no puede quedar en manos de un solo sector: requiere una visión transversal que combine conocimiento técnico, criterio legal y sensibilidad ética.
En este contexto, la formación es clave. Los profesionales que entienden la relación entre explicabilidad, ética y regulación estarán mejor preparados para liderar proyectos de IA que sean transparentes, confiables y sostenibles.
Por eso, en DeepXAI impulsamos iniciativas formativas como el curso XAI aplicada al Deep Learning, donde enseñamos a construir modelos explicables que se ajusten a los principios de confianza y responsabilidad promovidos por la Unión Europea.
Innovación sí, pero con responsabilidad
El debate sobre la regulación de la IA no trata de frenar la innovación, sino de darle dirección y propósito.
Una inteligencia artificial ética, explicable y sujeta a gobernanza legal no es un obstáculo para el progreso: es la base de su legitimidad.
Solo así la tecnología podrá contribuir al desarrollo humano sin vulnerar los derechos fundamentales.
El episodio de Blue AI nos recuerda que el futuro de la IA será tan positivo como la responsabilidad con que lo construyamos.
Ese futuro empieza hoy, con cada decisión ética, cada modelo explicable y cada empresa que apuesta por la transparencia.
Puedes ver el video completo aquí: