Gobierno del Dato: un gran aliado para poner límites a la Inteligencia Artificial

31 de octubre de 2023

La Inteligencia Artificial (IA) se ha convertido en una herramienta poderosa donde, a partir de la consulta sobre una necesidad expresada en lenguaje natural, nos construye una respuesta lo más cercana y precisa posible.

Partiendo de este hecho anterior, y entendiendo que la información previamente habrá sido gobernada, podremos preguntar a la IA, a nuestro asistente personal y cerebro digital que nos construya una respuesta compleja a cualquier necesidad.

✅ Por ejemplo, “constrúyeme un listado de conjuntos de datos que pueda exponer al exterior de la compañía en base a la naturaleza de sus metadatos”.

Haciendo alusión a Heráclito:

Día a día, lo que eliges, lo que piensas, y lo que haces, es en quién te conviertes.

La IA va de eso. De ir día a día aprendiendo de la experiencia y el orden para poco a poco ir entrando en nuestras vidas y convertirse en nuestro mejor y más preciso aliado.

Cómo la IA puede ser gobernada

Al igual que gobernar los datos, la gobernanza de la IA es esencial para garantizar la ética y securización de los mismos. En este sentido, existen varios aspectos clave a considerar:

La IA debe ser tratada como un "mayordomo inteligente" al que se le establecen límites naturales para evitar que se comporte de manera indebida.

De hecho, recientemente investigadores de seguridad de IBM consiguieron «hipnotizar» modelos de IA para filtrar información financiera confidencial, generar código malicioso, animar a los usuarios a pagar rescates e incluso aconsejar a los conductores a saltarse semáforos en rojo.

Además, igual que para gobernar los casos de uso con analítica avanzada se inventarían los procesos, las fuentes de datos, se documenta el linaje y se asignan responsabilidades sobre datos, etc.

En el caso de gobernar la IA es, en estos aspectos, muy similar. La gobernanza efectiva de la IA es esencial para aprovechar al máximo una tecnología basada en el intercambio pregunta-respuesta entre el usuario y una máquina, de cara a garantizar que los datos cumplen con la responsabilidad social compartida y el uso ético de los datos en el mundo empresarial.

A continuación, sobre la siguiente figura, se enumeran algunos aspectos indispensables para poder gobernar la IA y evitar así estos comportamientos anteriormente mencionados:

Cómo la Disciplina de Gobierno sirve de palanca a la IA

Tener unos datos bien gobernados y con unos cimientos de estructura, calidad y seguridad en la información, servirá como palanca habilitadora para la IA, que utilizando el Procesamiento de Lenguaje Natural (NPL) permitirá la realización de preguntas al asistente tales como:

Además, gracias a Gobierno del Dato, la IA podrá sugerir documentos con acuerdos de adherencia del tipo Data Sharing Agreements (DSA) o Smart Data Contracts (SDC) para la compartición de datos conocidos los metadatos que los informes o conjuntos de datos pongan a disposición del intercambio.

Con esta información se podrá conocer cuándo un documento por su naturaleza debe ser certificado o no, y aplicar las técnicas más sofisticadas de seguridad que garanticen el no repudio entre emisor y receptor, es decir, que ambos aseguren la confidencialidad, integridad y disponibilidad y sean quienes dicen ser.

Otras de las ventajas de tener los datos gobernados, será posibilitar a la IA la facilidad de generar sugerencias inteligentes que mejoren la experiencia del usuario. En este sentido gracias a patrones de proximidad o expresiones regulares será posible que la IA indique de manera automática qué términos de negocio de un Glosario y qué campos físicos del Diccionario de datos podrían estar altamente relacionados, así como proponer documentos o conceptos relacionados a partir de una búsqueda semántica.

Aplicación de la IA en el framework DAMA

Como resumen del apartado anterior, observamos una correspondencia directa entre la IA y todas las disciplinas que nos encontramos en el framework DAMA.

En definitiva, la IA tiene como objetivo imitar la función cognitiva humana, pero la IA será mejor o peor en base a cómo la hayamos alimentado o entrenado desde el diseño. Es por esto, que, si queremos una IA empoderada, como mínimo hay que entrenarla con cómo es la compañía a todos los niveles, hacerla conocedora de las especificaciones UNE, normativas ISO, GDPR, Euro Órdenes orientadas al dato y a la IA, así como los diferentes libros blancos y manifiestos existentes, como puede ser el manifiesto “Data Centric”.

Para ello, es fundamental que a medida que este tipo de herramientas avancen y sean cada vez más disruptivas en el tiempo, la estrategia de negocio permanezca alineada y exista una fuerte esponsorización que permita obtener las expectativas más justas, aportando a Gobierno del Dato e IA la mejor simbiosis de cara a ofrecer el mejor asesoramiento en sus servicios profesionales.

AUTORES
BLANCA MONFORTE RODRíGUEZ
Specialist of Data Governance Services
RAÚL HERNÁIZ ORTEGA
Senior Specialist of Data Governance Services

* * *

Links de interés