IA Generativa como parte de la estrategia y liderazgo empresarial

20 de septiembre de 2023

La irrupción de la Inteligencia Artificial (IA) Generativa ha supuesto un punto de inflexión a todos los niveles, no sólo por las posibilidades que ofrece sino también por su acceso de forma masiva. En la actualidad, prácticamente todas las grandes empresas tecnológicas están trabajando en soluciones de IA Generativa e incluso ya aparece de forma integrada en diversos productos (como por ejemplo, Bard en Google y ChatGPT en Bing y Office).

La gran característica de la IA Generativa consiste en la capacidad de crear contenido nuevo, de proporcionar una solución o resultado a partir de otros problemas o situaciones, sin que se le haya enseñado o entrenado específicamente sobre ese problema.

Para las empresas la cuestión no debe centrarse en si adoptar o no la IA Generativa, sino en cómo adoptarla.

Ya hemos hablado del cambio de paradigma que supone la IA Generativa, tanto para la sociedad como para la industria. Un estudio realizado por KPMG afirma que el 77% de los líderes empresariales considera que la IA generativa es la tecnología emergente que tendrá el mayor impacto en el negocio en los próximos 3 a 5 años, por delante de otras capacidades tecnológicas como la robótica avanzada, la computación cuántica, la realidad aumentada/realidad virtual (AR/VR), 5G y Blockchain.

A la par, el estudio también refleja que, a pesar de todo el entusiasmo que suscita la IA generativa, la mayoría de líderes empresariales no se sienten preparados para adoptar la tecnología o aprovechar todo su potencial. Según se indica, el 69% prevé pasar los próximos 6 a 12 meses centrados en aumentar la comprensión de los objetivos y estrategias para la adopción generativa, como prioridad absoluta.

Nos centraremos en el presente artículo en analizar las cuestiones que deben tener en cuenta las empresas a la hora de tomar la decisión de utilizar este tipo de herramientas basadas en IA Generativa para poder aprovechar sus beneficios pero gestionando los riesgos que conllevan.

Guía para implantar en las empresas herramientas basadas en IA Generativa (como ChatGPT)

El equipo que lidera el Centro de Competencia de Tecnologías Emergentes de Govertis (y que es parte de Telefónica Tech) ha podido percibir una importante falta de planificación y estudio a la hora de decidir e incorporar este tipo de soluciones en el catálogo de herramientas corporativas, por lo que diseñó una hoja de ruta a modo de guía con los pasos que debería seguir toda entidad que esté pensando en implantar Chat GPT u otras soluciones basadas en IA Generativa.

Se trata de una decisión que no puede tomarse de forma aislada, sino que se ha de adoptar de forma meditada, desarrollando una planificación e implementando un sistema de gobernanza, que permita la gestión de riesgos, tanto técnicos, como legales y también, reputacionales.

En esta línea, el estudio The power of AI and generative AI: what boards should know (2023) de PWC destaca la importancia de desarrollar un enfoque a nivel de Consejo de dirección en materia de IA, precisamente porque existen riesgos que deben ser supervisados y gestionados a nivel de estrategia corporativa.

El 69% de los directivos no se sienten preparados para adoptar la IA Generativa o aprovechar todo su potencial.

Aunque con un ámbito de aplicación determinado, recordemos que la Directiva relativa a las medidas destinadas a garantizar un elevado nivel común de Ciberseguridad y por la que se deroga la Directiva (UE) 2016/1148, conocida como Directiva NIS 2, que actualiza las deficiencias que ha puesto de manifiesto la Directiva NIS ante los nuevos retos fruto de la transformación digital de la sociedad.

Entre sus novedades ha incluido la responsabilidad de los órganos de dirección de las entidades esenciales e importantes en cuanto a la gestión de riesgos de Ciberseguridad, debiendo supervisar su puesta en práctica y responder por el incumplimiento por parte de las entidades de dichas obligaciones. Incluso se establece la obligación de que los miembros de los órganos de dirección de las entidades esenciales e importantes asistan a formaciones sobre la materia.

Por tanto, a la hora de integrar una solución de IA Generativa en la compañía, a nuestro entender deben abordarse las siguientes cuestiones:

1. Enfoque integral y liderazgo a alto nivel

La IA no se trata de una cuestión que debe abordar un determinado departamento o área de la compañía, sino que debe ser liderada al más alto nivel y abordada a partir de una estrategia corporativa que establezca los medios para gestionar los riesgos derivados de su implementación y supervise su gestión.

2. Implantación de las bases necesarias

Adoptar una herramienta de IA generativa implica necesariamente una serie de pasos previos que sienten las bases necesarias para poner en marcha su utilización, tanto a nivel estratégico de Dirección, de capacidades tecnológicas que puedan soportar dicho sistema, como de formación del personal y configuración de equipos.

Resulta muy importante la comunicación interna, de forma que todo el personal de la compañía sea conocedor y partícipe de la estrategia corporativa y de las normas de uso de estas herramientas.

3. Sistema de gobernanza

La adopción de una herramienta de IA Generativa implica múltiples riesgos, de diferente naturaleza, que deben ser gestionados de forma periódica y sistémica. Ello implicará establecer las bases necesarias, a nivel humano y tecnológico, que permitan la toma de decisiones e implantación de un sistema de gobernanza para poder gestionar todos los riesgos asociados.

4. Cumplimiento normativo

Son múltiples las normas que confluyen en un sistema de gobernanza y no es tarea fácil cumplir de manera eficiente con el mapa normativo. Es por ello que debe establecerse una coordinación clara entre los diversos roles responsables del cumplimiento, como el Delegado de Protección de Datos, Responsable de cumplimiento o Compliance Officer, director de seguridad de la información y Ciberseguridad o CISO y sus respectivas áreas de actuación.

Destacar en este punto la propuesta de Reglamento europeo en materia de Inteligencia Artificial que establece diferentes requerimientos normativos en función del sistema de IA que se adopte. En relación a las soluciones de IA Generativa el texto actual establece obligaciones muy similares a las requeridas para los sistemas de alto riesgo.

5. Riesgos que deben gestionarse

Sin ánimo de exhaustividad, los principales riesgos que deben ser abordados son:

Ciberseguridad: Ante el aumento exponencial de las vulnerabilidades de seguridad y la sofisticación de las mismas, la Ciberseguridad ocupa un lugar primordial en la gestión de riesgos.
Protección de datos: Resulta imprescindible establecer las bases necesarias respecto a la información que pueda ser utilizada por el sistema de IA Generativa, para garantizar la no inclusión de datos personales.
Propiedad intelectual e industrial, secretos comerciales: Además de cumplir con la normativa de protección de datos, la información de la compañía es un activo muy importante que debe ser adecuadamente protegido y que debe de asegurarse a la hora de utilizar esta tecnología.
Responsabilidad legal: El uso de IA Generativa puede suscitar cuestiones en materia de propiedad intelectual e Industrial por el uso no autorizado de contenidos protegidos por dicha normativa. De hecho, Microsoft recientemente ha anunciado la ampliación de sus compromisos con el cliente en materia de IA, incluyendo las demandas o reclamaciones en materia de propiedad intelectual por el uso de Copilot.
Información incorrecta o sesgada: Es imprescindible formar a los empleados en el uso de las herramientas de IA Generativa que se pongan a su disposición mediante unas normas de uso claras que especifiquen en qué casos pueden utilizarse y cómo utilizar e interpretar sus resultados.
Riesgos reputacionales: En el caso de que ocurra un problema que impacte directamente en la reputación de la entidad, deben existir planes que gestionen dicha crisis, especialmente a nivel de comunicación.

No hay duda sobre las posibilidades que ofrece la IA Generativa a nivel corporativo, por lo que las cuestiones deben centrarse, no en si abrazar o no el avance tecnológico, sino en cómo abordarlo.

Para ello, es imprescindible que los órganos de gobierno de las empresas lideren y supervisen la adopción e implementación de este tipo de herramientas, desarrollando la debida estrategia, disponiendo los medios necesarios y contando con el asesoramiento y supervisión de los correspondientes responsables internos y profesionales externos que se requieran.

Foto de Steve Johnson en Unsplash.