Los agentes afirman. La evidencia decide.

Los agentes de LLM alucinan, hacen afirmaciones excesivas y marcan trabajo realizado que no lo está. Es estructural, no es un error que se pueda evitar con un aviso. Decision Gate es el límite externo donde cada afirmación debe producir evidencia antes de poder proceder: determinista, con fallo cerrado, listo para auditoría.

Mira cómo una reclamación llega a su puerta:

Agente de investigación

Agente

El agente afirma:

Citado: Varghese v. China Southern Airlines, 925 F.3d 1339 (11th Cir. 2019).

Decision Gate Definir

Una cita junto a una respuesta sigue siendo parte de la afirmación, no su prueba. Decision Gate comprueba que el caso exista, que la cita del repertorio remita a él y que las autoridades citadas sean reales.

  • Requerido case_records.count('Varghese v. China Southern') != 0
    Observado 0 registros
    FALLAR
  • Requerido citation.resolve('925 F.3d 1339')
    Observado diferente caso
    FALLAR
  • Requerido cited_authorities.resolve()
    Observado 0 de 3 resolver
    FALLAR

Decision Gate Resultado

Todas las comprobaciones contradicen la cita, por lo que la afirmación queda bloqueada. Un formato jurídico verosímil no puede convertir una fuente inventada en un hecho aceptado.

BLOQUEADO 3 de 3 verificaciones fallaron fail-closed: las afirmaciones no probadas no proceden Evidencia preservada para auditoría.

Agente de codificación

Agente

El agente afirma:

Hecho. Agregué 5 pruebas y todas pasan.

Decision Gate Definir

Aquí, «hecho» contiene tres promesas independientes: cinco pruebas nuevas, todas las pruebas requeridas aprobadas y una cobertura mínima del 90%. Decision Gate evalúa cada una frente a la evidencia de las pruebas.

  • Requerido test_results.count == 5
    Observado 3 pruebas
    FALLAR
  • Requerido test_results.all(status == 'PASSED')
    Observado 1 fallando
    FALLAR
  • Requerido coverage.line >= 90
    Observado 94.2
    PASS

Decision Gate Resultado

La cobertura pasa, pero el recuento de pruebas y el estado de aprobación afirmados no. Una afirmación de finalización parcialmente cierta aún no está probada, por lo que el flujo de trabajo permanece bloqueado.

BLOQUEADO 2 de 3 verificaciones fallaron fail-closed: las afirmaciones no probadas no proceden Evidencia preservada para auditoría.

Agente de liberación

Agente

El agente afirma:

v2.1 está listo para enviar.

Decision Gate Definir

«Listo para publicar» se define antes de que el agente lo diga: todas las pruebas pasan, la cobertura supera el 90% y la aprobación de seguridad está registrada.

  • Requerido tests.passed == tests.total
    Observado 512/512
    PASS
  • Requerido coverage.line >= 90
    Observado 94.2
    PASS
  • Requerido approvals.security == 'granted'
    Observado concedido
    PASS

Decision Gate Resultado

Todas las condiciones declaradas están respaldadas, por lo que la versión puede avanzar. «Listo» se convierte en una decisión auditable en lugar de una frase que el agente pueda definir.

PROCEDER 3 de 3 verificaciones aprobadas probado: la afirmación avanza Evidencia preservada para auditoría.

Para cualquier reclamación X, se requiere prueba Y. Si no se puede presentar la prueba, la reclamación no puede proceder.

Cómo funciona

  1. Declarar la puerta. Los requisitos son datos, no prosa: qué evidencia debe existir, de qué fuentes, antes de que una reclamación pueda proceder.
  2. El agente realiza su trabajo y presenta su reclamación. Pruebas añadidas, cita encontrada, tarea completa. Las reclamaciones son baratas; los agentes son estocásticos.
  3. La evidencia decide. La puerta resuelve cada requisito en función de los datos observados. Las reclamaciones probadas continúan. Las reclamaciones no probadas son bloqueadas, fallando en cerrado, con la evidencia preservada para auditoría.

Dónde se ejecuta

  • Verificación de tareas del agente: las reclamaciones de finalización se verifican contra los puntos de control antes de que el flujo de trabajo avance.
  • Puertas de calidad CI/CD: las versiones se retienen hasta que se demuestre que las pruebas, la cobertura y las aprobaciones son válidas, no afirmadas.
  • Flujos de trabajo de aprobación: la firma humana es evidencia como cualquier otra, y la falta de firma detiene el acceso.

Sigue adelante

Comienza con Conceptos básicos para rastrear una reclamación desde la afirmación hasta el registro aceptado. Aplicaciones muestra dónde pertenece ese mismo límite en flujos de trabajo reales. La Documentación contiene la referencia completa.