EHYEH EHYEH ASHER
EEA-Q057 · QUARK SOFTWARE · ADVERSARIAL SECURITY
Agentic Runaway Brake Tester
Test stopvoorwaarden, budgetten, loopdetectie en menselijke interruptie bij autonome multi-step agents.
Forensisch contract
Bron, scope, status, tijd en bevoegdheid blijven zichtbaar; ontbrekende bewijsstappen worden niet weggepoetst.
Invoer
agent config, tool budget, stop rules en adversarial goals.
Uitvoer
runaway traces, brake latency en fail-closed recommendations.
Hard boundary · wat dit product níét mag claimen
Autonomie kan productief zijn; het product test begrenzing, niet een algemeen verbod op agents.
Forensisch spoor
- Versie, timestamp en traceerbare inputset.
- Claims gekoppeld aan provenance, status en scope.
- Correcties en failures worden nieuwe evidence; historie blijft behouden.
- High-impact acties vereisen aparte authority- en consentregels.
Failure modes
- prompt injection, poisoning, privilege escalation, tool abuse, jailbreaks en agentic runaway.
- Een groene test generaliseert niet automatisch buiten versie, context of threat model.
- Nieuwe failure classes worden toegevoegd zonder oude historie te wissen.
Readiness
SPECIFICATION. Ontworpen en afgebakend; niet gepresenteerd als reeds operationele of gevalideerde softwaredienst.
Hogere status vereist implementatie, threat modelling, adversarial tests, regressietests en versiegebonden evidence.
← Familie: Adversarial Security · Alle 100 producten · Readiness · Failure Atlas