Edge AI: Inteligencia Artificial fuera de la nube

Edge AI se refiere a la ejecución de modelos de Inteligencia Artificial cerca o en dispositivos como wearables, móviles, cámaras, sensores IoT (Internet of Things) o servidores Edge, entre otros. Dispisitivos que tienen la capacidad de analizar y procesar datos, en tiempo real y sin depender de un servidor en internet.

En comparación, el uso de Inteligencia Artificial en Cloud (Cloud AI) requiere el envío de los datos a un centro de datos o plataforma Cloud donde se almacenan y procesan. Suele necesitar una conexión permanente, robusta y capaz.

Edge AI está por tanto estrechamente relacionada con Edge Computing, que acerca la potencia de cómputo al extremo o “borde” (‘edge’) de la red. Con Edge AI se acortan los tiempos de respuesta y se mejoran la eficiencia y la seguridad cuando se ejecutan modelos de Inteligencia Artificial en dispositivos Edge ('edge devices').

Particularidades de Edge AI

Para que Edge AI sea posible los modelos analíticos y los algoritmos de Inteligencia Artificial tienen que poder ejecutarse en servidores locales o en dispositivos provistos de procesadores con cierta capacidad de cómputo, tal y como recogíamos en el artículo Edge Computing y Machine Learning, una alianza estratégica.

Sin embargo, los dispositivos Edge AI suelen tener limitaciones en cuanto a potencia de cómputo, memoria y espacio para el almacenamiento para los datos. También de autonomía si funcionan con batería, según el caso.

Estas limitaciones pueden requerir optimizar los algoritmos y usar hardware especializado.

• Optimizar los algoritmos aplicando técnicas como la reducción de la complejidad de los modelos, la cuantificación de los parámetros o la eliminación de conexiones innecesarias en la red neuronal ('pruning') para agilizar su funcionamiento. También utilizando arquitecturas específicas para dispositivos de baja potencia.
• Hardware especializado recurriendo a procesadores específicos para aplicaciones de Inteligencia Artificial, como procesadores de visión artificial y de inferencia de redes neuronales. Por ejemplo, la computación neuromórfica de Intel o los chips ASIC (Application-Specific Integrated Circuit) enfocados en Inteligencia Artificial, como el procesador IBM AIU, que ofrecen alto rendimiento y baja latencia en comparación con los procesadores de propósito general o CPU.

El IBM AIU 1.0 es el primer procesador de IBM diseñado para ejecutar y entrenar modelos de aprendizaje automático de forma más rápida y eficiente que una CPU de uso general. Foto: IBM

La seguridad también es un aspecto crítico para los dispositivos Edge AI. Procesar y analizar los datos en un dispositivo local reduce el riesgo de exposición de los datos en su viaje a la nube. Pero los dispositivos Edge AI también son vulnerables y están expuestos a ciberamenazas y ataques.

El uso de Edge AI también pueden tener implicaciones en la privacidad de los usuarios, dependiendo de su función y ubicación. Por todo esto, Edge AI debe aplicar mecanismos para encriptar, autenticar, detectar anomalías y gestionar la privacidad.

Cloud

Latencia y Edge Computing: ¿Por qué es importante?

20 de septiembre de 2022

Diferencias entre Edge AI y Cloud AI

Como hemos comentado, la diferencia principal entre Cloud AI y Edge AI está en dónde se ejecutan los algoritmos:

• En Cloud AI el almacenamiento y procesamiento de los datos sucede en servidores Cloud convencionales y centralizados, a menudo gestionados por un proveedor Cloud.
• Con Edge AI los datos y los algoritmos se almacenan y ejecutan en hardware periférico a la red; desde wearables a vehículos, pasando por dispositivos IoT o servidores Edge, como Snowball de AWS.

Esta diferencia significa que cada enfoque tiene sus ventajas e inconvenientes como veremos más extensamente en un próximo post. Pero se pueden resumir brevemente:

Cloud AI

• Ventajas: suele tener una mayor capacidad y potencia de cálculo, lo que permite procesar y analizar grandes cantidades de datos. Al tratarse de una plataforma Cloud la potencia y capacidad puede ampliarse o reducirse en función de las necesidades.
• Inconvenientes: la necesidad de transferir datos puede causar problemas de velocidad, seguridad y normativos, de residencia de datos o privacidad. La distancia física de cientos o miles de kilómetros o la congestión de la red pueden enlentecer las comunicaciones e incrementar la exposición de la información.

Edge AI

• Ventajas: requiere menos ancho de banda y tiene una latencia casi imperceptible. Ofrece una respuesta inmediata y mayor seguridad para los datos, aunque también tiene un impacto en la privacidad de los usuarios. Puede funcionar en áreas remotas o en entornos aislados, sin conectividad.
• Inconvenientes: como hemos comentado, la limitada potencia de cálculo y memoria puede reducir los tipos y la complejidad de los modelos de Inteligencia Artificial que pueden ejecutar. La necesidad de optimizar los algoritmos y de usar hardware específico puede incrementar los costes de desarrollo e implementación de los dispositivos.

Aplicaciones de Edge AI

Edge AI puede aplicarse en diversos sectores. Algunas de las aplicaciones más evidentes incluyen la vigilancia de seguridad, los asistentes de voz, la Industria Inteligente o los wearables. Algunos casos se uso serían:

• Las cámaras de seguridad con capacidad de visión artificial que analizan el contenido de las imágenes en tiempo real para identificar objetos o personas, eventos o comportamientos.
• Los asistentes de voz aprenden a reconocer la voz de forma local para detectar cuándo deben activarse o para responder a instrucciones simples.
• En la Industria Inteligente, donde sensores o sistemas de visión supervisan la calidad de los procesos de producción, logísticos o de los productos, como la demo que mostramos junto a AWS el pasado MWC.
• Los wearables y los dispositivos médicos, como monitores de frecuencia cardíaca o glucosa, para analizar en tiempo real datos del paciente y alertar de cualquier anomalía.

Edge AI también puede aplicarse a los sistemas de asistencia a la conducción (ADAS). O en los coches autónomos, para procesar los datos capturados por sensores del vehículo, como cámaras o acelerómetros, para detectar y responder a las circunstancias de tráfico.

Conclusión

Edge AI es un enfoque adecuado en casos que requieren analizar y procesar datos y obtener una respuesta inmediata. Sin retardo a causa de la latencia o por no disponer de conectividad o de ancho de banda suficiente. Manteniendo la privacidad y seguridad de los datos con la implementación adecuada.

Con la mejora de las capacidades de procesamiento y almacenamiento en dispositivos IoT y los nuevos desarrollos de hardware específico para Inteligencia Artificial, como los procesadores AIU, Edge AI se encuentra todavía en sus primeras evoluciones.

Además, la combinación entre Edge AI y la conectividad de nueva generación, como 5G y LPWA o NB-IoT vía satélite, está acelerando la innovación y ampliando el alcance de las soluciones con Inteligencia Artificial para que llegue a más sectores y regiones.

Foto de apertura: Luke Chesser / Unsplash. Apple Watch es un ejemplo de dispositivo Edge AI (de consumo) con capacidad para procesar datos y ejecutar modelos de Inteligencia Artificial de forma local.