Evolución de la Ciberseguridad: la IA como herramienta de ataque y defensa

28 de junio de 2023

En la actual era digital la Ciberseguridad se ha convertido en uno de los puntos críticos para las organizaciones y empresas. Con el creciente número de ciberataques y la sofisticación de las técnicas utilizadas por los actores de amenazas, la necesidad de garantizar una defensa efectiva se ha vuelto más importante que nunca.

Relativo a esta casuística, la Inteligencia Artificial (IA) ha emergido como una poderosa herramienta donde las organizaciones y sus diferentes equipos pueden apoyarse para automatizar tareas en el campo de la Ciberseguridad.

Este artículo explica la evolución tanto de los atacantes como de los defensores en el uso de la IA para fortalecer sus estrategias de ataque y proteger sus sistemas.

La evolución de los atacantes

Los ciberatacantes han aprovechado rápidamente las ventajas que ofrece la Inteligencia Artificial para mejorar sus capacidades y evadir las defensas de las organizaciones.

La IA ha permitido a los atacantes automatizar y escalar sus ataques de manera más efectiva, ya sea mediante la generación de ataques de phishing o vishing (estafa de phishing que se produce a través de una llamada telefónica o un mensaje de voz utilizando una voz sintética) más sofisticados, o automatización de tareas como escaneos del perímetro expuesto de una organización, la explotación de vulnerabilidades en tiempo real, y encadenar la ejecución de diferentes exploits según las vulnerabilidades encontradas.

Aquí os dejo un ejemplo de una llamada de la IA Google Assistance, mostrada en la Google I/O de 2018 (si, hace 5 años), donde interactúa con otra persona al otro lado de teléfono, sin que esta se percate de que estaba hablando con una voz sintética de un sistema autónomo.

Por aquí os dejo una herramienta gratuita para crear voces sintéticas que incluso permite clonar voces, aunque esta opción es de pago.

Uno de los usos más comunes la IA por parte de los atacantes es la creación de "ataques autónomos” (que no automáticos, esto ya es old-school). Mediante el uso de algoritmos de aprendizaje automático (machine learning), los atacantes entrenan estos sistemas para identificar, explorar y explotar automáticamente vulnerabilidades en la infraestructura objetivo.

Uno de los usos más comunes la IA por parte de los cibercriminales es la creación de «ataques autónomos» que toman sus propias decisiones para conseguir su objetivo.

Estos consiguen que los ataques puedan llevarse a cabo de manera continua, a gran escala y automatizada, sin la intervención directa de los atacantes, lo que representa una amenaza significativa y constante para la seguridad corporativa y de todos los usuarios.

Entre las posibilidades de los atacantes, está el generar tráfico malicioso con apariencia legítima, o generar malware basado en esta tecnología que va evadiendo los sistemas de defensa y cambiar su comportamiento y su código.

Inteligencia Artificial aplicada a la Ciberseguridad industrial (OT)
AI of Things
Cyber Security
Inteligencia Artificial aplicada a la Ciberseguridad industrial (OT)
25 de abril de 2023

La evolución de los defensores

Dada la creciente sofisticación de los ataques, las corporaciones y sus equipos de ciberseguridad también han adoptado la inteligencia artificial para fortalecer sus estrategias de ciberseguridad. La IA se ha convertido en una aliada valiosa en la detección temprana de amenazas y en la respuesta rápida a incidentes de ciberseguridad.

Una de las aplicaciones más notables de la IA en la defensa cibernética es la detección de anomalías. Los sistemas de IA pueden analizar grandes cantidades de datos en tiempo real y detectar patrones inusuales que podrían indicar un ataque en curso.

Además, mediante el uso de algoritmos de aprendizaje automático (machine learning), los sistemas de defensa pueden mejorar continuamente su capacidad para reconocer y bloquear nuevas amenazas de manera más rápida y efectiva.

Una de las aplicaciones más notables de la IA en Ciberseguridad es la detección de anomalías o actividades sospechosas que puedan revelar tentativas o ataques.

Uno de los ejemplos en los que se utiliza la IA es en los sistemas IDS (sistema de detección de intrusos) y en IPS (sistema de prevención de intrusos).

Otra área en la que la Inteligencia Artificial ha demostrado su utilidad es la automatización de respuestas a incidentes de seguridad. Los equipos de seguridad pueden emplear sistemas de IA para analizar y evaluar rápidamente las amenazas, así como para tomar medidas inmediatas para contener y mitigar los ataques.

Esto reduce significativamente el tiempo de respuesta y permite una defensa más efectiva ante los ataques en curso. Los evolucionados sistemas SOAR (orquestación, automatización y respuesta de seguridad) además de crear automatizaciones creadas por los operadores, también están incluyendo la Inteligencia Artificial como fuente de datos que permita crear nuevas automatizaciones basadas en los eventos recibidos segundos atrás.

Y tú, ¿quién crees que ganará esta batalla automatizada, los chicos buenos o los chicos malos? ¿Quién entrenará y explotará mejor su IA?

Inteligencia Artificial, ChatGPT y Ciberseguridad
Cyber Security
Cloud
Inteligencia Artificial, ChatGPT y Ciberseguridad
15 de febrero de 2023

Imagen principal de vecstock en Freepik.