El CNI publica un informe sobre la intersección entre IA y Ciberseguridad

7 de diciembre de 2023

En este año que termina la convergencia de la Inteligencia Artificial (IA) y la Ciberseguridad ha sido uno de los temas que ha captado la atención de profesionales, expertos y entusiastas de la tecnología y la Ciberseguridad.

Este es precisamente el tema central del informe BP/30 sobre la Aproximación a la Inteligencia Artificial y la Ciberseguridad recientemente publicada por el Centro Criptológico Nacional (CCN-CERT) y que proporciona una visión general de lo que los autores denominan Artificial Intelligence CyberSecurity (AICS), que se centra en la integración de la IA en Ciberseguridad y en Ciberseguridad OT.

◾CCN es el Centro Criptológico Nacional de España, entidad encargada de la seguridad de las tecnologías de la información y las comunicaciones en el ámbito de la Administración General del Estado. Opera bajo la dirección y supervisión del CNI (Centro Nacional de Inteligencia), con el objetivo de garantizar la Ciberseguridad en España.
◾Un CERT (Computer Emergency Response Team / Equipo de Respuesta a Incidentes de Seguridad Informática) es una organización que coordina y responde a incidentes de seguridad informática a nivel nacional o regional.

El informe de CCN-CERT comienza con una introducción que define tanto la IA como la Ciberseguridad y traza una breve historia de su relación en el campo de la seguridad. Estas introducciones ayudan a comprender cómo la IA ha revolucionado la Ciberseguridad, “dos disciplinas con orígenes claramente separados en el tiempo que han visto como sus superficies competenciales se han ido acercando hasta lo que en la actualidad constituye una nueva actividad práctica.”

Aunque las técnicas de aprendizaje automático para detectar intrusiones surgieron en los años 90, fue en la década de 2010 cuando la IA comenzó a jugar un papel significativo en materia de Ciberseguridad.

Fundamentos de la IA en Ciberseguridad

Una de las secciones clave del informe se centra en los fundamentos de la IA. Aquí, se explican conceptos como el aprendizaje automático (Machine Learning, ML), el aprendizaje automático (Deep Learning, DL) los algoritmos de clasificación e IA generativa. Estos conceptos ayudan a comprender cómo la IA puede ser aplicada en la Ciberseguridad.

✅ El aprendizaje automático permite a las máquinas aprender de datos históricos y, a través de algoritmos, tomar decisiones. Esto se traduce en una mayor capacidad para identificar ciberamenazas y comportamientos sospechosos o maliciosos.

Dada la ingente cantidad de datos que las organizaciones manejan diariamente, la automatización mediante la IA se ha convertido en un componente imprescindible para mejorar la eficiencia y precisión de la detección de amenazas. Algoritmos como las Máquinas de vectores de soporte (SVM), los árboles de decisión y las redes neuronales se utilizan para identificar en tiempo patrones de amenazas y comportamientos maliciosos.

Aplicaciones de la IA en Ciberseguridad

El informe destaca varias aplicaciones de la IA en el ámbito de la Ciberseguridad, entre las que se incluyen:

Detectar patrones de ataque y comportamientos sospechosos, lo que puede ayudar a identificar y responder en tiempo real a ciberataques.
Automatizar la respuesta a ciberataques, lo que puede ayudar a acelerar la recuperación y reducir su impacto.
Predecir ciberataques, lo que puede ayudar a las organizaciones a prepararse mejor para hacerles frente.
Identificar y autenticar a los usuarios, lo que puede ayudar a mejorar la seguridad de los sistemas y redes.
Automatizar el análisis de vulnerabilidades y el pentesting, lo que puede ayudar a las organizaciones a identificar y remediar las vulnerabilidades de seguridad de forma más eficiente.
Defenderse contra adversarios automatizados, que utilizan IA para lanzar ataques cibernéticos.

Desafíos y limitaciones de la IA en Ciberseguridad

A pesar de los beneficios que aporta la IA a la Ciberseguridad, el informe también aborda los desafíos y limitaciones en torno a esta tecnología, entre los que se incluyen:

Ataques adversarios contra modelos de IA utilizados en Ciberseguridad, para manipularlos o inutilizarlos.
Dependencia excesiva de soluciones automatizadas, que puede conducir a la negligencia de las medidas de seguridad tradicionales o crear una falsa sensación de seguridad.
Falsos positivos y negativos que pueden conducir a la pérdida de recursos o la exposición a amenazas.
Cuestiones de privacidad y ética, como la recopilación y el uso de datos personales.

✅ Los atacantes pueden intentar engañar a los sistemas de IA introduciendo datos maliciosos para evitar la detección o para adentrarse en un sistema, como la inyección de prompts en chatbots. Esto evidencia la necesidad de desarrollar sistemas de IA robustos y seguros para contrarrestar tales amenazas.

✅ Los ciberdelincuentes pueden utilizar IA Generativa para orquestar ataques de phishing muy sofisticados, con mensajes más convincentes, contextuales y personalizados. Además, facilita los deepfake hiperrealistas, un método de suplantación de identidad con una intencionalidad fraudulenta o maliciosa.

CCN-CERT destaca las tendencias emergentes en IA y su impacto potencial en la industria y la sociedad, lo que hace necesario anticipar cómo la IA seguirá impactando en la Ciberseguridad.

El informe aborda además varios temas de relevancia en el ámbito de la IA y la Ciberseguridad, entre ellos:

Seguridad de los datos: El riesgo de fallos de seguridad que pueden exponer información confidencial es una preocupación constante. La IA desempeña un papel clave en la identificación y mitigación de estos riesgos.
Perfilado: La capacidad de la IA para perfilar a individuos basándose en su comportamiento online plantea cuestiones éticas y de privacidad.
Transparencia y toma de decisiones: La opacidad en la forma en que los modelos de IA toman decisiones puede generar desconfianza y dificultades para verificar sus decisiones.
Sesgo y justicia: La IA puede verse afectada por sesgos inherentes en los datos utilizados para entrenarla, lo que podría conducir a decisiones discriminatorias.
Vigilancia y supervisión: Si bien la IA puede ser una herramienta poderosa en la Ciberseguridad, también plantea preocupaciones sobre el potencial abuso en la vigilancia de usuarios.
Rendición de cuentas y responsabilidad en caso de fallos o errores en sistemas basados en IA es un desafío complejo.
Regulaciones y directrices eticas: La necesidad de marcos regulatorios claros se vuelve cada vez más evidente a medida que la IA se integra más profundamente en la ciberseguridad.

🔵 El informe de CCN-CERT Buenas Prácticas BP/30 sobre aproximación a la Inteligencia Artificial y la ciberseguridad se puede descargar libremente en español. Es una valiosa fuente de conocimiento para todos aquellos interesados en comprender cómo la IA está transformando la Ciberseguridad.

* * *