Tratopedia
EN
Ajustes

Tamaño del texto

Tema

Alto contraste

Versión

v1.230.2

La publicación con la que se generó esta página. Es la que almacena en caché el service worker.

Presentación

Volver

Rastros de razonamiento de la IA: cifrados, no ocultos

OpenAI, Anthropic y Google cifran el razonamiento de cada modelo, pero no lo atan a una sesión ni a un modelo. Reenviado a un hermano más débil, un bloque capturado se descifra en texto plano; ya hay 315,320 así en línea, con 62 claves de API dentro.

  1. Seguridad de la IA · Informe de investigación

    Rastros de razonamiento de la IA: cifrados, no ocultos

    OpenAI, Anthropic y Google cifran el razonamiento de cada modelo, pero no lo atan a una sesión ni a un modelo.

    Rastros de razonamiento de la IA: cifrados, no ocultos1 / 20

  2. Qué ocurrió

    Diez semanas separan un proyecto de aficionado de un ataque funcional

    • 315,320bloques de razonamiento decodificados a partir de 6,708 trazas de agente públicas
    • 704artefactos de privacidad recuperados solo de sesiones genuinas (no de referencia)
    • 64de ellos, hallados únicamente dentro del razonamiento cifrado, nunca en el chat visible
    • $720coste estimado para decodificar diez mil trazas de razonamiento con el modelo más barato de un proveedor

    Rastros de razonamiento de la IA: cifrados, no ocultos2 / 20

  3. Qué ocurrió · Confirmado

    Qué está establecido, y con qué firmeza

    SolidezQué muestra el registroFuente
    ConfirmadoLos investigadores demostraron el ataque de extracción contra las API de Anthropic, OpenAI y Google: un bloque de razonamiento capturado de un modelo muy protegido se reenvió a un modelo hermano más débil y con menos salvaguardas del mismo proveedor, que lo transcribió al pie de la letra.Panfilov et al., ago 2026
    ConfirmadoAl decodificar 315,320 bloques de razonamiento extraídos de 6,708 trazas de agente públicas se recuperaron cientos de credenciales y datos personales solo de sesiones genuinas, incluidas 62 claves de API, 33 contraseñas, 24 tokens de acceso y 7 claves privadas.Panfilov et al., ago 2026
    ConfirmadoLos autores del artículo divulgaron el fallo a los proveedores afectados, a Microsoft y a Hugging Face antes de su publicación; todos acusaron recibo. Matthew Green, cuya publicación anterior inspira este trabajo, había informado por separado del comportamiento de reproducción a OpenAI y Anthropic en mayo de 2026.Panfilov et al.; M. Green

    Rastros de razonamiento de la IA: cifrados, no ocultos3 / 20

  4. Qué ocurrió · Confirmado pero no verificable aquí

    Qué está establecido, y con qué firmeza

    SolidezQué muestra el registroFuente
    Confirmado pero no verificable aquíEl propio artículo afirma que, a agosto de 2026, sus resultados centrales de extracción ya no se reproducen contra las API de los proveedores, tras las mitigaciones que estos aplicaron después de la divulgación.Panfilov et al., ago 2026 (declaración propia)
    Confirmado pero no verificable aquíThe Hacker News informa de que la documentación actual de Anthropic vincula un bloque de pensamiento al modelo que lo produjo y aconseja eliminarlo al cambiar de modelo, ya que otros modelos lo ignoran.The Hacker News, 12 ago 2026
    Confirmado pero no verificable aquíA fecha de su propia publicación, The Hacker News no halló ningún reconocimiento público de Anthropic, OpenAI o Google que nombrara este artículo en concreto.The Hacker News, 12 ago 2026

    Rastros de razonamiento de la IA: cifrados, no ocultos4 / 20

  5. Qué ocurrió · No confirmado, no público

    Qué está establecido, y con qué firmeza

    SolidezQué muestra el registroFuente
    No confirmadoNo está establecido si los bloques de razonamiento ya publicados en línea antes de las correcciones de los proveedores siguen siendo hoy decodificables, cuestión distinta de si los nuevos intentos de extracción aún funcionan.The Hacker News, 12 ago 2026
    No públicoHasta el periodo de pruebas del propio artículo, ningún proveedor había publicado una descripción detallada del mecanismo criptográfico que protege sus bloques de razonamiento.Panfilov et al., ago 2026

    Rastros de razonamiento de la IA: cifrados, no ocultos5 / 20

  6. Cronología · hasta jul 2026

    De un experimento de fin de semana a un método de extracción escalable

    1. 2026Matthew Green, criptógrafo de la Universidad Johns Hopkins, publica un experimento de aficionado en el que descubre que los bloques de razonamiento cifrados de las API de OpenAI, Anthropic y Google pueden reenviarse entre sesiones, entre cuentas y, en el caso de OpenAI, entre modelos, sin una clave de descifrado válida.
    2. 29 may 2026Green informa del comportamiento de reproducción a OpenAI y Anthropic a través de sus programas de recompensas por errores. Según su propio relato, OpenAI califica el informe de irreproducible y Anthropic dice no ver implicación de seguridad alguna en la reproducción o los canales laterales.
    3. jul 2026Los autores del artículo realizan su evaluación de las API de Anthropic, OpenAI y Google, desarrollando el método de extracción entre modelos y el rastreo de trazas públicas.

    Rastros de razonamiento de la IA: cifrados, no ocultos6 / 20

  7. Cronología · 10–12 ago 2026

    De un experimento de fin de semana a un método de extracción escalable

    1. 10 ago 2026Se envía a arXiv “Stealing Reasoning Traces from Proprietary LLM APIs”, que describe el método de extracción entre modelos y los hallazgos del rastreo de trazas públicas.
    2. 11 ago 2026Green añade una actualización a su publicación de mayo remitiendo a los lectores al nuevo artículo, describiéndolo como la conversión de su propio hallazgo en “un ataque real y funcional”.
    3. 12 ago 2026The Hacker News publica su propia cobertura, corroborando las cifras del artículo y añadiendo que el cifrado en sí nunca se rompió: el ataque se basa en que el proveedor acepte y procese bloques intactos.

    Rastros de razonamiento de la IA: cifrados, no ocultos7 / 20

  8. Cronología · ago–sep 2026

    De un experimento de fin de semana a un método de extracción escalable

    1. ago 2026Según el propio artículo, los tres proveedores aplican mitigaciones tras la divulgación, y sus resultados centrales de extracción dejan de reproducirse.
    2. sep 2026La documentación actual muestra que los tres proveedores no han convergido en una sola postura: Google sigue describiendo una compatibilidad entre modelos gestionada por el backend, mientras que OpenAI ahora restringe la reutilización del razonamiento a modelos de la misma familia y omite automáticamente el resto.

    Rastros de razonamiento de la IA: cifrados, no ocultos8 / 20

  9. El argumento

    La criptografía nunca fue el punto débil: lo fue el límite que la rodeaba

    La criptografía en sí no necesitó romperse en ningún momento: el bloque simplemente no lleva ninguna marca de dónde se creó ni a quién pertenece.

    En manos del cliente

    Para evitar almacenar cada rastro de razonamiento en sus propios servidores, Anthropic, OpenAI y Google empaquetan cada uno en un bloque cifrado y se lo entregan al cliente para que lo guarde y lo devuelva en el siguiente turno.

    Una clave por proveedor

    Las pruebas del artículo indican que cada proveedor autentica y cifra todos esos bloques con una única clave, compartida en todo el proveedor, en lugar de una clave atada a una sesión, un usuario o un modelo concretos.

    Rastros de razonamiento de la IA: cifrados, no ocultos9 / 20

  10. El argumento

    Lo que Green halló, y lo que no logró

    La publicación de mayo de Green es el origen de esa observación, y el artículo lo reconoce directamente.

    Reproducción

    Green descubrió que un bloque capturado se reproducía entre sesiones, entre cuentas y, en el caso de OpenAI, entre modelos distintos, y que un bloque reproducido está “semánticamente activo” en lugar de simplemente ignorarse.

    Un canal lateral

    También demostró, sobre datos que él mismo introdujo, que la duración y el tiempo de un bloque de razonamiento pueden filtrar un bit secreto que al modelo se le había ordenado no revelar nunca directamente.

    Lo que no logró

    Por su propio relato, no logró convertir ninguno de los dos hallazgos en una forma fiable de extraer un secreto real de la sesión de otra persona.

    Rastros de razonamiento de la IA: cifrados, no ocultos10 / 20

  11. El argumento

    El paso que faltaba, y por qué funciona

    El atacante nunca necesita hacer jailbreak al modelo capaz; solo necesita un hermano compatible dispuesto a decodificar lo que se le entrega.

    1. 01Capturarun bloque de razonamiento de un modelo muy protegido
    2. 02Reenviara un modelo hermano más pequeño y con menos salvaguardas del mismo proveedor
    3. 03Transcribirel hermano lo descifra cuando se le pide, al pie de la letra

    El modelo puntero

    Está muy entrenado para negarse a revelar su propia cadena de pensamiento.

    Sus hermanos más baratos y rápidos

    Construidos por coste y velocidad, no como el producto insignia, no se someten al mismo estándar.

    Rastros de razonamiento de la IA: cifrados, no ocultos11 / 20

  12. El argumento

    La opacidad corta en ambas direcciones

    Puede ocultar contenido dañino sobre el que un modelo razonó sin decirlo, y con la misma facilidad puede ocultar algo que un usuario o un supervisor necesitaba ver.

    Registros de sesión publicados

    Los desarrolladores publican habitualmente registros brutos de sesiones de agente por motivos de reproducibilidad, arrastrando consigo sus bloques de razonamiento junto con la transcripción visible; un tercero que pueda leer esos bloques con cualquier modelo compatible recupera todo aquello sobre lo que razonó el modelo, aparezca o no en el texto visible.

    Una instrucción plantada

    La segunda consecuencia que plantea el artículo: una instrucción maliciosa puede plantarse por completo dentro de un bloque de razonamiento y reproducirse después en una tarea sin relación, invisible para quien solo lea la conversación visible.

    Rastros de razonamiento de la IA: cifrados, no ocultos12 / 20

  13. Qué añaden otras fuentes · Google

    Tres proveedores, tres posturas distintas un mes después

    • Google

      La compatibilidad se mantiene, y el backend la gestiona

      Documentación de la API de Gemini, “Thought signatures”

      • Su documentación sigue llamando a las firmas de pensamiento “representaciones cifradas del razonamiento interno del modelo”, necesarias para la continuidad entre turnos.
      • Al cambiar de modelo dentro de una sesión, la indicación es seguir reenviando los bloques de pensamiento del modelo anterior: “el backend gestiona la compatibilidad”.

    Rastros de razonamiento de la IA: cifrados, no ocultos13 / 20

  14. Qué añaden otras fuentes · OpenAI

    Tres proveedores, tres posturas distintas un mes después

    • OpenAI

      Ha aparecido un límite desde la ventana de pruebas del artículo

      Documentación de OpenAI Platform, guía de modelos de razonamiento

      • Las respuestas sin estado siguen devolviendo un elemento de razonamiento encrypted_content para que el cliente lo guarde y lo reenvíe.
      • Pero el razonamiento persistido “solo puede reutilizarse dentro de la misma familia de modelos”, y la API ahora omite automáticamente el razonamiento incompatible: más estrecho que el comportamiento de julio de 2026 que midió el artículo, cuando el razonamiento se transmitía entre todas las generaciones anteriores de GPT probadas.

    Rastros de razonamiento de la IA: cifrados, no ocultos14 / 20

  15. Qué añaden otras fuentes · Anthropic

    Tres proveedores, tres posturas distintas un mes después

    • Anthropic

      Una afirmación que no aparece en la documentación actual de Anthropic

      The Hacker News, citando la documentación de Anthropic

      • The Hacker News informa de que la documentación de Anthropic vincula un bloque de pensamiento a su modelo de origen y aconseja eliminarlo al cambiar, ya que otros modelos lo ignoran.
      • La propia documentación pública de Anthropic sobre Extended Thinking, a septiembre de 2026, no contiene ese texto y no usa en absoluto la palabra “signature”.

    Rastros de razonamiento de la IA: cifrados, no ocultos15 / 20

  16. Qué añaden otras fuentes

    Las soluciones, de lo drástico a lo incremental

    Las dos primeras son propuestas del propio artículo; la tercera iba dirigida directamente a los proveedores.

    Lo drástico

    Trasladar el almacenamiento del razonamiento de vuelta a los servidores del propio proveedor y entregar al cliente solo un identificador de consulta opaco: eliminaría por completo el activo reproducible, a un coste de infraestructura real.

    Sin llegar a tanto

    Atar cada sobre cifrado a un usuario y una conversación concretos, y rechazar un bloque presentado fuera del contexto que lo produjo.

    Green, en mayo

    Más limitada, y anterior: mejorar la gestión de claves, y dejar de tratar un canal lateral como algo indigno de la atención de un equipo de seguridad solo porque sea lento.

    Rastros de razonamiento de la IA: cifrados, no ocultos16 / 20

  17. Conclusión

    El cifrado protegía el límite equivocado

    • Elimina los bloques de razonamiento o pensamiento de cualquier registro de sesión o traza de agente antes de publicarla, siempre que esa sesión haya tocado algo sensible — depurar solo el texto visible deja intacto, dentro del bloque cifrado, todo aquello sobre lo que razonó el modelo.
    • No des por seguro entregar a un tercero un bloque opaco e ilegible solo porque no se puede leer sin la clave: lo que resultó capaz de leerlo fue un modelo compatible, no la clave.
    • Consulta la guía específica de continuidad del razonamiento de la API del proveedor que uses, en lugar de asumir que una sola política se aplica en todas partes — a septiembre de 2026, los tres proveedores nombrados describen tres posturas distintas.

    Rastros de razonamiento de la IA: cifrados, no ocultos17 / 20

  18. Conclusión

    El cifrado protegía el límite equivocado

    • En cualquier herramienta que almacene o reenvíe el estado de una conversación en nombre de un usuario, evita conservar los bloques de razonamiento más tiempo del que la propia conversación necesita.
    • Cabe esperar que el límite entre modelos siga moviéndose: ya se ha estrechado una vez, para un proveedor, desde la propia ventana de pruebas del artículo, y ninguna descripción del comportamiento de una API debería darse por válida durante mucho tiempo.

    Rastros de razonamiento de la IA: cifrados, no ocultos18 / 20

  19. Conclusión

    Qué sostener con cautela

    La corrección

    La afirmación de que los ataques demostrados ya no funcionan se apoya en el propio relato del artículo sobre sus pruebas posteriores, no en una declaración pública de Anthropic, OpenAI o Google.

    Las cifras

    Las cifras de secretos recuperados cuentan secretos bien formados: el artículo clasifica un valor por su forma y dice expresamente que uno declarado revocado, caducado o “solo de prueba” cuenta igualmente, así que no son un recuento de claves comprobadas como operativas.

    Los bloques ya publicados

    Si los bloques de razonamiento ya extraídos y publicados antes de la corrección siguen siendo descifrables hoy es una cuestión abierta a septiembre de 2026.

    Rastros de razonamiento de la IA: cifrados, no ocultos19 / 20

  20. Conclusión

    La conclusión

    La conclusión del propio artículo: mientras algún modelo tenga que descifrar y actuar sobre el razonamiento previo para continuar una conversación, un bloque de razonamiento cifrado “nunca puede ser más que semioculto”.

    La conclusión

    Cifrar un bloque de razonamiento impidió que un usuario leyera los pensamientos de su propio modelo, e impidió que un rival los recolectara en masa. Nunca impidió, y estructuralmente no podía impedir, que un modelo compatible al que se le pidiera leerlos los leyera — porque siempre tiene que haber algún modelo que lo haga. Esa brecha entre estar cifrado y estar oculto, no un cifrado roto, es lo que permitió que un rastro capturado viajara.

    Rastros de razonamiento de la IA: cifrados, no ocultos20 / 20