Guillermo Vargas

Hace apenas unos años que están en el foco mediático los modelos de IA generativa. El ritmo vertiginoso al que avanzan este tipo de tecnologías transforma lo que ayer considerábamos revolucionario en una simple entrada más dentro de la interminable lista de innovaciones disruptivas de la semana. En medio de este torbellino de avances tecnológicos, empieza a resonar cada vez más el término agentes de IA. Estos sistemas autónomos están experimentando un crecimiento exponencial que nos obliga a recapacitar sobre su supuesta autonomía, capacidad de decisión y, especialmente, sobre la confianza que podemos —o debemos— depositar en sistemas que operan sin supervisión humana constante. A medida que esta transformación digital redefine nuestra interacción con el mundo, es normal que cada vez tengamos más preocupaciones sobre la transparencia, seguridad y gobernanza de estos sistemas autónomos. La tecnología Blockchain es la pieza clave para resolver el problema de la confianza en los sistemas autónomos. En este contexto, desde el equipo Blockchain de Telefónica Tech estamos convencidos de que la propia tecnología Blockchain es la pieza clave para resolver el problema de la confianza. Esta infraestructura descentralizada ofrece mecanismos de verificación de acciones y decisiones que preservan la integridad del sistema, estableciendo un equilibrio óptimo entre innovación tecnológica y la necesaria confianza en sistemas que operan de forma independiente. ¿Qué son los agentes de IA y por qué están transformando el panorama digital? Aunque el concepto de agentes inteligentes no es nuevo, resulta imposible ignorar la fuerza que está adquiriendo en los últimos meses. Pero, ¿qué son exactamente estos agentes de IA? Durante años, hemos desarrollado APIs (Interfaces de Programación de Aplicaciones) como lenguajes estructurados para que los sistemas informáticos pudieran comunicarse entre sí. Estas interfaces han sido fundamentales para la integración de servicios digitales, pero siempre han requerido la orquestación humana o programación específica para cada interacción. Los agentes de IA representan un salto cualitativo en este paradigma: no solo responden a instrucciones, sino que mantienen un estado persistente, poseen iniciativa propia y aprenden continuamente de sus interacciones. Si las API tradicionales son el vocabulario con el que los sistemas hablan entre sí, los agentes de IA son interlocutores completos con memoria, intencionalidad y capacidad de adaptación. —Ejemplo: Cuando un agente de IA programa una reunión, no se limita a ejecutar un comando simple. El proceso implica una secuencia sofisticada de acciones: consulta calendarios, identifica preferencias de los participantes basándose en patrones históricos, propone alternativas viables, gestiona respuestas y ajusta parámetros ante imprevistos. Todo esto ocurre de manera autónoma, sin necesidad de supervisión humana en cada paso del proceso. A diferencia de los sistemas de IA reactivos tradicionales, que responden a consultas específicas y luego 'olvidan' el contexto, los agentes mantienen una comprensión continua de sus objetivos y del entorno en el que operan. Esta persistencia les permite gestionar tareas complejas que se extienden en el tiempo, adaptarse a circunstancias cambiantes y aprender de cada interacción para mejorar su desempeño futuro. Los agentes de IA representan una transformación notable en la manera en que interactuamos con la tecnología. Limitaciones actuales: el desafío de la confianza y la autonomía A pesar de su enorme potencial, los agentes de IA enfrentan importantes limitaciones en su implementación actual que comprometen su verdadera autonomía: Centralización y dependencia Los agentes de IA suelen operar dentro de infraestructuras centralizadas. Esto crea puntos únicos de fallo, dependencia de terceros y limitaciones de interoperabilidad. En caso de experimentar problemas, puede verse afectada la operatividad de todos los agentes que dependen de ella. Además, las capacidades y reglas bajo las cuales operan estos agentes pueden estar limitadas por las especificaciones técnicas y políticas de la infraestructura, lo que puede restringir su flexibilidad e interoperabilidad. Falta de transparencia y confianza El funcionamiento interno de los agentes puede ser complejo y no siempre transparente (a menudo, comparado con el funcionamiento de una “caja negra”). Esto nos complica la verificación de las decisiones tomadas por estos sistemas. La falta de un registro claro y auditado de sus acciones y la dificultad para establecer responsabilidades claras en caso de errores o problemas, pueden disminuir la confianza en su implementación a gran escala. Coordinación y supervisión autónoma Los agentes de IA enfrentan desafíos significativos para realizar transacciones económicas de manera autónoma. Estas limitaciones suelen estar relacionadas con regulaciones estrictas diseñadas para prevenir fraudes y ataques maliciosos, que restringen la capacidad de ejecutar transacciones programáticas de forma libre. Además, la ausencia de mecanismos de incentivos que alineen efectivamente los intereses de múltiples agentes autónomos y la dificultad para colaborar sin supervisión centralizada presentan barreras adicionales. ■ Estos factores juntos constituyen obstáculos considerables que restringen la habilidad de los agentes para operar de manera independiente en entornos económicos complejos. Que existan estos desafíos dejan en evidencia la necesidad de evolucionar hacia sistemas más descentralizados y transparentes que puedan soportar la autonomía real y la confianza necesaria para que los agentes de IA cumplan su promesa transformadora. Estos sistemas autónomos nos obligan a recapacitar sobre su capacidad de decisión y la confianza que podemos depositar en ellos. Blockchain como solución: la infraestructura para agentes verdaderamente autónomos Desde la perspectiva de los agentes de IA, la tecnología Blockchain se establece como una infraestructura fundamental, abordando cada una de estas limitaciones de manera directa: Descentralización y autonomía real Blockchain proporciona una infraestructura descentralizada donde los agentes pueden operar sin depender de una autoridad central. Su naturaleza distribuida elimina los puntos únicos de fallo, permite que los agentes existan y operen sin estar controlados por una entidad específica, y establece un estándar común que facilita la interoperabilidad entre agentes de diferentes orígenes. Transparencia verificable y confianza Todas las acciones y decisiones de los agentes quedan registradas de forma permanente e inalterable en la cadena de bloques. Cualquier parte puede verificar el comportamiento histórico de un agente, y se puede rastrear el origen de cada decisión y acción, generando un nivel de transparencia imposible en sistemas centralizados. Economía de agentes Las criptomonedas habilitan la posibilidad de realizar micropagos entre agentes sin fricciones; los contratos inteligentes formalizan y ejecutan los acuerdos de forma automática; y la economía que se construye sobre la Blockchain alinea los incentivos de agentes independientes, dando lugar a un ecosistema económico completamente nuevo. ■ La combinación de Blockchain y agentes de IA permite crear un sistema donde los agentes pueden interactuar, colaborar y competir de forma autónoma, generando valor y resolviendo problemas complejos sin intervención humana constante. Con Blockchain, todas las acciones y decisiones de los agentes quedan registradas de forma permanente e inalterable. El futuro: una economía de agentes autónomos La sinergia entre agentes de IA y Blockchain es fundamental para fomentar la autonomía, transparencia y confianza en la era digital. Aunque persisten desafíos en términos de escalabilidad y eficiencia, la combinación de estas tecnologías promete un futuro tecnológico más descentralizado, transparente y confiable. Esta convergencia está sentando las bases para una nueva economía digital donde: Los agentes autónomos pueden ofrecer servicios, negociar, colaborar y competir. Los humanos pueden delegar tareas complejas a equipos de agentes coordinados. La transparencia y verificabilidad de Blockchain garantiza que estos sistemas sean confiables. Los mecanismos económicos alinean los incentivos de todos los participantes Este enfoque no solo mejora la autonomía y capacidad de los agentes de IA, sino que también aumenta la confianza de los usuarios en estos sistemas, fundamental para su aceptación y aplicación en una infinidad de sectores. AI & Data La verdad sobre los 320 segundos para hackear Bitcoin: un análisis técnico 27 de mayo de 2025

El uso de la Inteligencia Artificial (IA) está experimentando un crecimiento exponencial, y esto conlleva nuevos temas de debate, como por ejemplo la precisión y los sesgos de los algoritmos, y en particular cuándo hablamos de la IA generativa. A medida que esta revolución digital avanza y redefine nuestra interacción con el mundo, crecen las inquietudes sobre la privacidad y la seguridad de nuestros datos. En este escenario dónde las Pruebas de Conocimiento Cero (Zero-Knowledge Proofs, ZKP) se perfilan como una solución altamente prometedora. Estas pruebas permiten la verificación de información preservando la confidencialidad de los datos sensibles, lo que representa un excelente equilibrio entre el avance tecnológico y la protección de la privacidad individual. ¿Qué son las pruebas de Conocimiento Cero (ZKP) y cómo funcionan? Aunque la premisa de las ZKP pueda parecer casi mágica, esta técnica dentro de la criptografía no es nueva; de hecho, sus orígenes y primeros documentos académicos datan de varias décadas atrás. Esta tecnología es una herramienta criptográfica que facilita la demostración de la veracidad de una afirmación sin la necesidad de revelar información adicional. En esencia, las ZKP nos permiten probar que sabemos algo sin necesidad de divulgar cómo lo hemos averiguado. Hoy en día, la implementación de ZKP podría representar una revolución en cualquier sector que la adopte. Aunque existen numerosos ejemplos simplificados para explicar su aplicación, es esencial comprender con claridad cómo funciona realmente esta tecnología. Consideremos una relación comercial entre dos empresas: la empresa A tiene una necesidad especifica, mientras que la empresa B posee la capacidad de satisfacerla. Este tipo de relaciones comerciales se fundamentan en acuerdos mutuamente beneficiosos, donde una parte resuelve un problema y la otra recibe una compensación por ofrecer la solución. Sin embargo, en la práctica, las transacciones no son tan simples como un intercambio directo de bienes o servicios por pago. Estos acuerdos suelen involucrar complicaciones adicionales, como la intervención de abogados y la negociación de extensos contratos que delinean los términos del servicio provisto. Surge una pregunta relevante: ¿qué sucede si la empresa proveedora del servicio tarda más de lo esperado en hallar o implementar la solución? Con toda probabilidad, la primera empresa no realizará el pago hasta tener la certeza de que la solución ha sido encontrada, mientras que la empresa proveedora podría ser reticente a invertir recursos sin garantías de compensación. Este escenario puede parecer un punto muerto sin solución evidente. Desde la perspectiva de las ZKP, este desafío se aborda estableciendo dos roles claros: El 'prover', quien afirma tener la solución. El 'verifier', quien debe confirmar la corrección de esta solución propuesta. El 'prover' debe demostrar al 'verifier' que conoce la solución adecuada tantas veces como sea necesario, pero sin revelar cómo la obtuvo: solo presenta pruebas parciales del resultado final. ✅ Aunque podría argumentarse que el 'prover' no posee realmente la solución y que su éxito podría deberse meramente a la suerte, la posibilidad de repetir este proceso tantas veces como sea necesario reduce estadísticamente esa probabilidad a un nivel insignificante. Un ejemplo de prueba de conocimiento cero: la cueva y la palabra mágica Una forma sencilla de explicar las Pruebas de Conocimiento Cero (ZKP) se encuentra en el artículo de 1990, '¿Cómo explicar a tus hijos los protocolos de conocimiento cero?' Imaginemos que dos individuos se hallan en una cueva dividida por dos caminos bloqueados por una puerta mágica. Esta puerta sólo se puede abrir con una palabra secreta: Uno de los individuos, para probar que conoce la palabra sin revelarla, selecciona uno de los caminos y se ubica frente a la puerta mágica. La otra persona, desde la otra posición, le indica qué camino tomar para regresar. Si logra volver correcta y consistentemente, no importa el camino elegido previamente, queda demostrado que conoce la palabra secreta puesto que solo con ella podría haber abierto la puerta. Fuente: Wikipedia. Tras entender este ejemplo, podemos deducir que todo protocolo basado en la tecnología de Pruebas de Conocimiento Cero (ZKP) debe adherirse a las siguientes tres propiedades fundamentales: Solidez: Un individuo sólo convencerá al otro si efectivamente está diciendo la verdad. Completitud: Si el individuo dice la verdad, existe una alta probabilidad de que eventualmente logre convencer al otro. Cero conocimientos: El observador no aprenderá información adicional sobre cómo se resuelve el problema, más allá de la veracidad de la afirmación. Aunque este conjunto de requisitos pueda parecer extraordinariamente prometedor e incluso poco realista, se sustenta en una serie de intrincados conceptos matemáticos que posibilitan la ejecución de los cálculos necesarios. ✅ Estas avanzadas técnicas matemáticas, incluyendo criptografía y teoría de números, proporcionan un sólido fundamento teórico que permite que las ZKP operen de manera segura y confiable. ZKP en Blockchain y Machine Learning: aplicaciones y beneficios En este sentido, la tecnología Blockchain desempeña un papel esencial en el desarrollo y la implementación de las ZKP, ya que comparten el objetivo común de garantizar la privacidad y fortalecer la confianza en áreas donde esto resulta desafiante. La sinergia entre ambas tecnologías refuerza el enfoque para proteger la privacidad y abordar los desafíos inherentes a los entornos digitales. Esta sinergia se manifiesta de manera particularmente efectiva en Blockchain de capa 2, donde muchas utilizan ZKP como base de sus rollups, ofreciendo escalabilidad y eficiencia mejoradas mientras mantienen la seguridad de la capa base. Este mecanismo permite manejar un alto volumen de transacciones con mayor rapidez y menor coste, manteniendo al mismo tiempo la seguridad y la integridad de los datos en la cadena principal. Además, al utilizar ZKP, los rollups pueden ofrecer un nivel adicional de privacidad, ya que los detalles específicos de las transacciones no necesitan ser revelados en la cadena principal (únicamente una prueba criptográfica que demuestra la validez de estas transacciones). ✅ En el contexto de la Inteligencia Artificial, Zero-Knowledge Machine Learning (ZKML) integra el aprendizaje automático con las pruebas de conocimiento cero, permitiendo que los modelos de IA se entrenen con datos sensibles sin revelar información confidencial sobre esos datos. Las ZKP tienen el potencial de innovar y mejorar los modelos de machine learning de varias maneras: Verificación: Permiten la verificación de procesos de IA sin exponer datos sensibles, brindando seguridad y confianza en el funcionamiento de los modelos. Seguridad: Protegen la integridad de los modelos de AI, asegurando que no sean alterados o manipulados, lo cual es crucial en entornos inseguros como nubes públicas o dispositivos edge. Privacidad: Facilitan el entrenamiento de modelos de machine learning con datos privados sin exponer dichos datos a los creadores o usuarios del modelo, permitiendo su uso en sectores sensibles como la atención médica o las finanzas, sin comprometer la privacidad. De este modo, la capacidad de las ZKP para probar la validez de cálculos sin revelar datos subyacentes se alinea naturalmente con la necesidad de transparencia en los procesos de AI, desde el entrenamiento hasta la ejecución. Esta alineación permite un encaje natural entre la IA y las cadenas Blockchain, facilitando la trazabilidad de los pasos que dan los modelos a partir de los datos. La sinergia entre ZKP e IA es fundamental para fomentar la privacidad y la confianza en la era digital. Aunque persisten desafíos en términos de escalabilidad y eficiencia, la combinación de estas tecnologías promete un futuro tecnológico más seguro, transparente y respetuoso con la privacidad. Al proporcionar un medio para verificar la integridad de los procesos de IA sin comprometer la confidencialidad de los datos, las ZKP allanan el camino para una adopción más amplia y confiable de la AI. Este enfoque no solo mejora la protección de datos sensibles, sino que también aumenta la confianza de los usuarios en los sistemas de AI, crucial para su aceptación y aplicación en diversos sectores. AI of Things Blockchain Blockchain para reinventar la Identidad Digital 12 de abril de 2023