La gobernanza de la Inteligencia Artificial: un reto real y necesario

Cuando se habla del Reglamento Europeo de Inteligencia Artificial (AI Act), muchas organizaciones siguen percibiéndolo como una normativa cuyo impacto se materializará en el futuro. Sin embargo, la realidad es bien distinta. Europa ya ha iniciado el camino hacia un modelo regulado de uso de la inteligencia artificial y algunas de las primeras obligaciones derivadas del Reglamento están marcando la agenda de empresas y entidades de todo tipo.

La pregunta ya no es si el AI Act afectará a nuestras organizaciones, sino si estamos preparadas para afrontar los cambios que exige. Y María Cristina Martínez-Tercero, directora Jurídica y Responsable Consultoría Legal en Integra Tecnología, lo aborda en este espacio En Clave Sostenibilidad del área de Sostenibilidad de Cámara de Comercio de Zaragoza.

El AI Act: mucho más que una regulación tecnológica

La irrupción de la inteligencia artificial ha acelerado la adopción de herramientas capaces de transformar la forma en que trabajamos, tomamos decisiones o interactuamos con clientes y usuarios. Sin embargo, esta velocidad de implantación también ha puesto de manifiesto la necesidad de establecer mecanismos de control que permitan garantizar un uso seguro, transparente y responsable de la tecnología.

El AI Act nace precisamente con ese objetivo. No se trata únicamente de una norma técnica dirigida a desarrolladores o fabricantes de sistemas de IA. Su alcance es mucho más amplio y afecta a cualquier organización que utilice esta tecnología en sus procesos de negocio o en su día a día empresarial.

Por ello, más allá de las obligaciones específicas que se irán desplegando progresivamente, el Reglamento introduce un cambio de paradigma: la Inteligencia Artificial deja de ser una cuestión exclusivamente tecnológica para convertirse en un asunto de gestión, gobernanza y responsabilidad organizativa.

La alfabetización en IA: la primera gran obligación

Uno de los aspectos que más está llamando la atención es la denominada alfabetización en inteligencia artificial.

Durante años, la formación en nuevas tecnologías se ha considerado una buena práctica. Con la llegada del AI Act, la capacitación de las personas pasa a convertirse en un elemento esencial para garantizar un uso adecuado de los sistemas de IA. Así, es evidente que, para poder gestionar toda esta tecnología, hay que comprenderla bien, así como conocer sus límites y los usos prohibidos: esto es lo que pretende la
obligación de alfabetización, que las personas que utilizan, supervisan o toman decisiones relacionadas con sistemas de inteligencia artificial dispongan de conocimientos suficientes para entender sus capacidades, limitaciones y riesgos, así como conozcan los principios éticos aplicables para su uso seguro.

No se trata de convertir a toda la plantilla en especialistas técnicos. Se trata de asegurar que quienes interactúan con estas herramientas puedan hacerlo de forma consciente y responsable.

El fin último: gobernar la IA dentro de la organización

La alfabetización es solo el primer paso, ya que el verdadero desafío para las organizaciones consiste en desarrollar una capacidad efectiva de gobernanza sobre el uso de la inteligencia artificial, que aplique principios éticos y normas de seguridad.

La realidad de hoy en día es que, en una misma empresa u organización, diferentes departamentos están utilizando herramientas de IA de manera autónoma, incorporándolas a sus procesos diarios sin que exista una visión global sobre qué sistemas se utilizan, con qué finalidad o bajo qué criterios de supervisión o ética.

Esta situación genera múltiples riesgos, estando entre ellos la falta de control, la excesiva dependencia de herramientas de terceros o la dificultad para supervisar los resultados y decisiones.

Por ello, cada vez resulta más necesario establecer mecanismos que permitan identificar, evaluar y gestionar los usos de IA existentes dentro de la organización. Un marco de gobernanza que incluya políticas de uso o documentos de cumplimiento, que constituya un comité supervisión que coordine el uso y acceso a la IA en la organización, así como una matriz que permita evaluar los riesgos y, en caso de estar ante sistemas de alto riesgo, tomar las medidas oportunas para mantener el cumplimiento de la norma.

Más allá de qué IA usar, la cuestión está en cómo hacerlo.

Más allá del cumplimiento: una cuestión de competitividad

La inteligencia artificial está dejando de ser una tecnología emergente para convertirse en una herramienta habitual dentro de las organizaciones.

Así, y aunque el AI Act introduce nuevas exigencias, limitar el debate al cumplimiento normativo sería un error. Las organizaciones que desarrollen capacidades de gobernanza, formación y supervisión estarán mejor posicionadas para aprovechar todo el potencial de la inteligencia artificial.

La experiencia demuestra que la adopción descontrolada suele generar ineficiencias, duplicidades y riesgos que terminan limitando el valor de la tecnología. Por el contrario, aquellas organizaciones que establezcan políticas claras, promuevan la capacitación de sus equipos y definan criterios de uso responsables podrán acelerar la innovación con mayores garantías.

La gobernanza de la IA no debe entenderse como una barrera, sino como un facilitador de la transformación digital. Las organizaciones que comiencen ahora este proceso no solo estarán mejor preparadas para afrontar las futuras obligaciones regulatorias, sino que contarán con una ventaja diferencial en un entorno donde la confianza, la transparencia y la capacidad de adaptación serán factores cada vez más relevantes.