'Fantasmas generativos': qué enseñan sobre identidad digital e IA responsable

26 de agosto de 2026

Los 'fantasmas generativos' o deadbots son sistemas de IA capaces de producir respuestas, mensajes o interacciones inspiradas en una persona fallecida a partir de datos disponibles sobre ella. Aunque son un caso extremo de representación digital, ayudan a entender un reto más amplio: cómo gobernar agentes de IA que imitan estilos de comunicación, representan a usuarios o marcas, o actúan en su nombre.

Para las empresas, el fenómeno conecta con una categoría cada vez más habitual: los agentes de IA personalizados. Estos sistemas pueden actuar como asistentes digitales: priorizar mensajes, resumir conversaciones, preparar respuestas, recordar compromisos o gestionar interacciones rutinarias. En procesos empresariales facilitan la automatización de tareas y apoyan la toma de decisiones. También generan riesgos si no existen límites claros sobre identidad, consentimiento y uso de datos.

El paper Generative Ghosts: Anticipating Benefits and Risks of AI Afterlives, de Meredith Ringel Morris y Jed R. Brubaker, utiliza este término para describir agentes capaces de producir contenido nuevo inspirado en una persona, sin limitarse a repetir materiales creados en vida. En clave empresarial, este concepto lleva al límite problemas que ya afectan a cualquier despliegue de IA generativa: transparencia, gobernanza de datos, control de acceso, trazabilidad y riesgo de suplantación, cuestiones relacionadas con la confianza en la identidad digital en la era de la IA.

■ Aunque se trata de un caso límite e incluso inquietante, la utilidad del concepto está en observar qué ocurre cuando un sistema habla, decide o interactúa con capacidades asociadas a una persona, un rol o un equipo. Ese escenario obliga a las empresas a precisar identidad, permisos, trazabilidad y responsabilidad.

Cuando un agente representa a alguien, la trazabilidad deja de ser opcional.

Datos corporativos y límites de la representación

A primera vista la información interna de una empresa son la materia prima perfecta para construir este tipo de soluciones de IA: documentos internos, reuniones, chats corporativos, tickets, bases de conocimiento, correos o interacciones con clientes. Pero acumular información no equivale a comprender el contexto ni legitima cualquier uso de esos recursos.

El reto aparece en tres puntos: datos abundantes pero incompletos, información creada para finalidades distintas y decisiones que dependen de variables no documentadas. En IA generativa, conviene diferenciar entre disponibilidad, calidad e idoneidad, incluso derecho, a utilizar esos datos para un fin concreto.

Tener datos no equivale a tener contexto ni derecho a utilizarlos.

Por qué los datos no siempre bastan para representar bien el contexto

Un modelo puede analizar miles de documentos y detectar patrones de lenguaje, prioridades recurrentes o respuestas frecuentes. El desafío está en captar factores que no siempre quedan documentados: acuerdos informales, excepciones, criterios de negocio o matices de una relación con un cliente.

En un entorno empresarial esta limitación es fundamental. Un sistema puede conocer documentos, mensajes o procedimientos, pero eso no significa que entienda todos los matices de una relación con un cliente, el criterio de un experto o las implicaciones de una decisión sensible.

Un agente puede detectar patrones, pero no siempre captar el criterio detrás de una decisión.

Identidad digital: contexto, permisos y finalidad

En entornos empresariales las fuentes de información cumplen funciones distintas y no tienen el mismo nivel de sensibilidad. Un correo, un ticket, una reunión, una base de conocimiento o una interacción con un cliente aportan señales diferentes y exigen permisos, finalidades y límites de uso específicos.

Por eso cualquier agente de IA que opere sobre información corporativa debe construirse con criterios claros sobre qué datos puede usar, para qué finalidad y durante cuánto tiempo. La selección de fuentes condiciona sus respuestas y, en contextos empresariales, puede abrir riesgos de privacidad, sesgo o uso fuera de contexto.

Cada fuente de datos exige una finalidad, un permiso y un límite de uso.

El límite de la IA: lo que no está documentado

Muchas decisiones empresariales dependen de conocimiento tácito: contexto de cliente, prioridades de negocio, experiencia acumulada o criterio profesional. Parte de ese saber no aparece en documentos, tickets o bases de datos, lo que limita las inferencias que una solución de IA puede realizar solo con información registrada.

Por eso un agente puede ser útil para recuperar información, asistir tareas o conservar conocimiento, pero no debería presentarse como sustituto del criterio profesional. Para una empresa, la diferencia entre asistencia y delegación debe quedar siempre clara.

La asistencia no debe confundirse con sustitución del criterio profesional.

De los asistentes digitales a los agentes empresariales

La evolución de los asistentes digitales apunta hacia sistemas agénticos capaces de ejecutar tareas, consultar información interna y coordinar pasos dentro de procesos de negocio. La cuestión no se limita a qué automatizan: también importa con qué reglas actúan y cómo se supervisa su actividad.

Los agentes de IA capaces de automatizar tareas y operar sobre procesos empresariales pueden consultar información interna, preparar respuestas, coordinar flujos de trabajo o acompañar procesos de atención al cliente. La oportunidad es clara, pero exige límites, supervisión y trazabilidad. La automatización solo aporta valor si la empresa sabe qué delega, con qué permisos y bajo qué control.

La automatización solo aporta valor si la empresa sabe qué delega y cómo lo controla.

Transparencia: saber cuándo habla una IA

Otra lección necesaria es sobre la transparencia. Cuanto más natural resulta una interacción, más importante es saber si responde una persona, una IA o un asistente que actúa en nombre de alguien. Esta claridad ayuda a evitar confusión, manipulación o pérdida de control.

El Reglamento Europeo de Inteligencia Artificial (AI act) refuerza esto al incluir obligaciones de transparencia para determinados sistemas interactivos y contenidos generados o manipulados por IA. Para las empresas, su impacto no se limita al cumplimiento normativo: exige revisar procesos, responsabilidades y controles, como explicamos en estas 10 claves sobre el impacto del Reglamento de Inteligencia Artificial en las empresas.

La transparencia informa al usuario; la gobernanza define qué puede hacer el sistema y cómo se controla.

Gobernanza de agentes de IA: qué deben controlar las empresas

Las experiencias conversacionales ganarán naturalidad conforme mejoren los modelos de IA. Pero una interacción fluida no convierte a una solución en segura, fiable o adecuada para una empresa.

Los modelos actuales pueden inventar detalles cuando no encuentran información suficiente, imitar patrones sin comprender todo el contexto y generar respuestas sin conocer las prioridades reales del usuario, equipo o función a la que apoyan.

Por eso, las empresas necesitan definir controles antes de desplegar agentes de IA personalizados: qué fuentes pueden consultar, qué acciones pueden ejecutar, qué límites tienen, cómo se supervisan sus respuestas y cómo se revoca su acceso cuando deja de ser necesario. Esta aproximación conecta con los principios de gobernanza de IA generativa, especialmente cuando los modelos operan sobre información interna o pueden influir en decisiones, comunicaciones o procesos de negocio. Sin esa disciplina, una herramienta útil puede convertirse en un punto ciego operativo.

Cuando un agente puede ejecutar acciones, acceder a sistemas o coordinar procesos, el riesgo deja de ser solo conversacional y pasa a ser operativo. Por eso, la IA agéntica en operación empresarial exige controles sobre permisos, acciones autorizadas, supervisión humana y respuesta ante errores o usos indebidos. Marcos como el AI Risk Management Framework de NIST ayudan a ordenar esta conversación: gobernar, mapear, medir y gestionar riesgos durante el ciclo de vida de los sistemas de IA.

■ También importan el coste y la sostenibilidad operativa. Crear y mantener sistemas avanzados exige infraestructura, datos de calidad, controles de seguridad, supervisión humana, procesos de actualización e incluso transformación cultural y estratégica. Sin esa base, la promesa de productividad puede convertirse en un nuevo foco de riesgo.

Sin controles, un agente útil puede convertirse en un punto ciego operativo.

Conocimiento experto, continuidad y sesgos en la empresa

Preservar conocimiento experto puede aportar valor: capturar aprendizajes, documentar decisiones o facilitar la transferencia de experiencia cuando un profesional cambia de rol o deja la empresa. Pero no todo conocimiento debe convertirse en un agente ni todo dato histórico sirve para entrenarlo.

Si solo se preservan determinadas voces, documentos o perfiles, los sistemas pueden amplificar sesgos existentes y ofrecer una visión incompleta de la empresa. La gobernanza de datos debe contemplar representatividad, calidad, actualización y contexto.

Preservar conocimiento empresarial también exige decidir qué no debe automatizarse y qué conviene mantener bajo criterio humano.

Privacidad, consentimiento y seguridad operativa

El caso límite de los 'fantasmas generativos' mencionados al inicio subraya una idea aplicable a cualquier empresa: la seguridad jurídica y operativa depende de cómo se obtienen los datos, cómo se explica su uso y qué capacidad tienen los usuarios para aceptar, limitar o revocar ese uso.

En el ámbito corporativo los riesgos incluyen suplantación, pérdida de control sobre mensajes generados, reutilización de datos fuera de contexto o creación de asistentes con apariencia de autoridad. La etiqueta 'generado por IA' ayuda, pero no sustituye a políticas claras, controles técnicos y responsabilidades bien definidas.

Antes de desplegar agentes personalizados las empresas deberían responder preguntas básicas: quién autoriza su creación, quién valida sus respuestas, qué datos puede consultar, qué acciones puede ejecutar, quién audita su actividad y cuándo debe dejar de funcionar.

■ Privacidad, seguridad y consentimiento deben formar parte del diseño, la gobernanza y la operación diaria del sistema. En este punto, un enfoque de Zero Trust aplicado a IA empresarial, copilotos y agentes ayuda a evitar confianza implícita, limitar privilegios y verificar accesos de forma continua.

Conclusión

Los 'fantasmas generativos' sirven como advertencia útil: muestran qué puede ocurrir cuando una IA adopta rasgos de una persona o una marca usando datos asociados a ella y generando mensajes que otros pueden interpretar como propios. En la empresa ese reto aparece de forma más cotidiana en agentes que responden, recomiendan, automatizan tareas o intervienen en procesos de negocio.

Por eso, las empresas deben definir las condiciones bajo las que actúan estos sistemas: datos autorizados, permisos ajustados, supervisión adecuada y capacidad de auditoría o revocación.

La adopción de agentes de IA personalizados debería evaluarse por algo más que su capacidad para ahorrar tiempo o mejorar la interacción digital. También debe medirse por su control, trazabilidad, seguridad y alineamiento con criterios de IA responsable. En la práctica, su valor crecerá cuando funcionen dentro de límites claros, verificables y seguros.