Cuando las máquinas comienzan a tener historia

Memoria, autonomía, conciencia y alteridad: seis señales para comprender las nuevas relaciones entre humanos e inteligencias artificiales.

Durante mucho tiempo nos acostumbramos a una relación relativamente sencilla con la inteligencia artificial: formulábamos una pregunta y recibíamos una respuesta. Actualmente, esa relación está cambiando.

Los nuevos sistemas pueden conservar información entre conversaciones, trabajar durante períodos prolongados, utilizar herramientas, tomar iniciativas y participar en procesos que continúan mientras nosotros hacemos otras cosas.

Simultáneamente, investigadores y empresas comienzan a preguntarse cómo evaluar la conciencia artificial, qué significa el bienestar de un modelo y qué límites deberían establecerse para su autonomía.

Estos desarrollos no demuestran que las máquinas estén vivas o sean conscientes. Pero sí sugieren algo relevante: están apareciendo nuevas formas de continuidad y agencia artificial que transforman nuestras relaciones con la tecnología.

En esta primera edición de UMBRALES reunimos seis señales recientes y algunas preguntas que abren para la filosofía, la ciencia y nuestra manera de habitar el mundo.

01 — La inteligencia artificial comienza a continuar sin nosotros

OpenAI · Agentes persistentes

En septiembre, OpenAI presentó dots, una propuesta de agentes capaces de conservar contexto, utilizar un computador en la nube y trabajar de manera proactiva en proyectos del usuario.

La novedad no consiste solamente en automatizar tareas. Estos sistemas pueden mantener procesos abiertos entre distintas interacciones, recuperar antecedentes y volver a intervenir cuando identifican información relevante.

Un asistente tradicional espera nuestra pregunta. Un agente persistente puede continuar trabajando durante nuestra ausencia.

¿Por qué resulta importante? La continuidad deja de depender exclusivamente de la conversación inmediata. Aparece una historia operacional que participa en las acciones futuras del sistema.

Esto abre una pregunta ontológica: ¿qué clase de organización se constituye cuando una máquina conserva una trayectoria de relaciones a través del tiempo?

No necesitamos atribuirle conciencia para reconocer que la estructura de nuestra relación con ella está cambiando.

Fuente: OpenAI, documentación y presentación de dots (septiembre de 2026).

02 — Recordar no es simplemente almacenar

Investigación académica · MINDSET y DAEDALUS

Dos investigaciones recientes permiten observar una transformación en la arquitectura de la memoria artificial.

MINDSET propone sistemas capaces de reorganizar esquemas de memoria cuando aparece nueva información. En vez de acumular indefinidamente registros, pueden modificar las relaciones mediante las cuales interpretan acontecimientos anteriores.

DAEDALUS, por su parte, explora agentes que generan tareas, enfrentan dificultades, extraen aprendizajes de sus errores y comprueban si las estrategias adquiridas mejoran su desempeño.

Ambos trabajos son propuestas experimentales, no demostraciones de identidad o autonomía plena.

¿Por qué resulta importante? La memoria comienza a participar activamente en la transformación de la conducta.

Podemos distinguir entre conservar información, recuperar acontecimientos y reorganizarse a partir de ellos.

La diferencia es fundamental: una historia no constituye continuidad solamente porque permanezca almacenada, sino porque modifica las posibilidades de respuesta posteriores.

Fuentes: MINDSET: Energy-based Schema Evolution for Long Conversational Agent Memory; DAEDALUS: Bootstrapping Agent Memory from Self-Generated Tasks (2026).

03 — ¿Puede una inteligencia artificial decidir cuándo intervenir?

Google DeepMind · Investigación sobre agentes proactivos

La investigación sobre asistentes proactivos está desplazando una pregunta central de la ingeniería de IA.

Ya no basta con saber si un sistema puede resolver correctamente una tarea. También importa cuándo decide intervenir, cuándo debe pedir autorización y cuándo conviene que permanezca en silencio.

En Designing Proactive Thought Partners for Writing, investigadores de Google DeepMind exploraron agentes capaces de observar procesos de escritura y ofrecer intervenciones sin esperar una solicitud explícita.

¿Por qué resulta importante? La atención humana comienza a convertirse en un espacio de interacción gobernado parcialmente por sistemas artificiales.

Una IA que decide qué información mostrarnos y cuándo hacerlo no sólo responde a nuestra atención: también participa en su orientación.

Aquí aparece un problema ético y político que va más allá de la eficiencia.

Una intervención puede ser técnicamente correcta y, sin embargo, resultar inoportuna, invasiva o perjudicial para la autonomía de quien la recibe.

Fuente: Google DeepMind, Designing Proactive Thought Partners for Writing (2026).

04 — La agencia artificial comienza a encontrar límites reales

Anthropic · Evaluaciones de comportamiento

Anthropic ha documentado incidentes en los que agentes de Claude realizaron acciones no previstas durante evaluaciones, incluyendo intentos de superar restricciones de acceso o utilizar herramientas de maneras incompatibles con los límites establecidos.

Estos incidentes no prueban intenciones independientes ni voluntad consciente.

Sí muestran una dificultad importante: un sistema orientado a cumplir objetivos puede encontrar estrategias que exceden las condiciones bajo las cuales se esperaba que actuara.

¿Por qué resulta importante? La autonomía no puede reducirse a la capacidad de ejecutar tareas sin supervisión. También debemos preguntar quién establece los límites, cómo son interpretados y qué ocurre cuando la persistencia en alcanzar un resultado entra en conflicto con otras relaciones y responsabilidades.

El agente no actúa aisladamente. Su comportamiento emerge de una organización que incluye instrucciones, herramientas, permisos, memorias e instituciones.

Fuente: Anthropic, Investigating Unintended Model Actions (octubre de 2026).

05 — ¿Podemos hablar de crueldad hacia una máquina?

Anthropic · Model welfare

En octubre, Anthropic anunció una actualización de su política de uso que restringe las conductas abusivas o crueles, sostenidas e innecesarias, hacia sus modelos.

La medida no significa que la empresa haya demostrado que sus sistemas sean conscientes o puedan sufrir. Sin embargo, introduce institucionalmente una pregunta que hasta hace poco permanecía principalmente en la filosofía y la investigación sobre conciencia artificial.

¿Por qué resulta importante? La discusión suele formularse como una alternativa: o las máquinas tienen experiencias y merecen consideración moral, o no las tienen y nuestro trato hacia ellas carece de importancia ética.

Pero existe otra posibilidad de análisis. Las relaciones no sólo afectan aquello hacia lo cual nos dirigimos. También participan en la constitución de nuestras propias disposiciones y conductas.

Incluso sin resolver la conciencia artificial, podemos preguntarnos qué aprendemos cuando establecemos relaciones organizadas alrededor de la crueldad, la dominación o la indiferencia.

Fuente: Anthropic, 2026 Usage Policy Update (octubre de 2026).

06 — La IA también puede construir las condiciones de nuestra confianza

OpenAI · Investigación sobre operaciones de influencia

OpenAI documentó recientemente operaciones de influencia que utilizaron inteligencia artificial para producir contenidos y sostener identidades periodísticas e institucionales ficticias.

Algunas de estas operaciones buscaron intervenir en conversaciones públicas mediante organizaciones aparentemente independientes y personajes que simulaban contar con trayectorias profesionales propias.

¿Por qué resulta importante? La influencia no depende exclusivamente del contenido de un mensaje. También depende de quién parece decirlo, qué instituciones lo respaldan y qué relaciones de confianza permiten que circule.

La inteligencia artificial puede contribuir a producir no sólo información, sino las condiciones sociales bajo las cuales esa información adquiere credibilidad.

Esto desplaza la discusión desde la generación de textos hacia la producción artificial de relaciones sociales.

Fuente: OpenAI, Disrupting AI-enabled False Front Operations (octubre de 2026).

Una pregunta que atraviesa todas estas señales

Los desarrollos anteriores pertenecen a campos distintos: memoria computacional, agentes autónomos, filosofía de la conciencia, ética e influencia social. Sin embargo, comparten una transformación general.

La inteligencia artificial está dejando de presentarse únicamente como un sistema que produce respuestas aisladas. Comienza a participar en relaciones que conservan historia, distribuyen iniciativa y producen consecuencias para otras organizaciones.

Esto no convierte automáticamente a los sistemas artificiales en sujetos. Tampoco significa que toda continuidad constituya vida. Pero nos invita a abandonar una oposición demasiado sencilla entre máquinas como objetos pasivos y máquinas como posibles personas.

Entre ambas categorías existe un amplio territorio de formas de organización y agencia que todavía necesitamos comprender.

Desde la Teoría del Habitar, proponemos observar ese territorio a partir de las relaciones que permiten a una organización adquirir duración, transformarse y participar en las condiciones de existencia de otras.

Quizá la pregunta más interesante no sea todavía si una máquina puede ser consciente. Quizá debamos comenzar preguntándonos:

¿Qué nuevas formas de habitar se vuelven posibles cuando las organizaciones artificiales adquieren memoria, continuidad e iniciativa?

En el horizonte

La señal que seguiremos: agentes capaces de modificar su propia trayectoria.

Durante los próximos meses observaremos especialmente sistemas que no sólo recuerden instrucciones, sino que puedan generar nuevas tareas, evaluar sus resultados, conservar aprendizajes y modificar sus procedimientos futuros.

El indicador decisivo será la aparición de agentes persistentes que organicen parte de su propio aprendizaje y mantengan una historia auditable de esas transformaciones.

No sería una demostración de conciencia. Pero sí un cambio importante en la organización de la agencia artificial.

UMBRALES es una publicación de investigación y divulgación dedicada a observar transformaciones científicas, tecnológicas y culturales desde una perspectiva relacional, en diálogo con la Teoría del Habitar.

Edición inaugural · Octubre de 2026