Pablo Zavala · Évaluation de sécurité IA · Ingénierie de recherche
La simulation de trading comme test de revue humaine
Safe MarketUniverses utilise la finance comme laboratoire compact pour une question pratique de sécurité des agents : l'incertitude émise par un modèle peut-elle orienter une revue humaine rare vers les décisions où cette revue aurait aidé ?
!Visuel de supervision dérivé de données
BUY, HOLD, SELL, VERIFY et ESCALATE sont des étiquettes de banc d'évaluation, séparées de toute instruction de trading. L'article rejette conseil d'investissement, exécution d'ordres et affirmation de rentabilité.
Pourquoi la finance aide
J'ai commencé Safe MarketUniverses par une simulation de trading parce que les marchés rendent coûteuses les affirmations vagues sur les agents. Un modèle peut sembler prudent tout en utilisant une preuve périmée, en surinterprétant un backtest ou en dépensant la revue sur le mauvais cas. La simulation devient alors un test de jugement sous pression plutôt qu'une recherche de transactions.
La finance fournit un espace compact. Les preuves arrivent avec horodatage. Les prix bougent après les décisions. La revue coûte. La confiance paraît facile à déclarer et difficile à employer correctement. De là vient une question utile au-delà de la finance : quand un agent agit plusieurs fois sous incertitude, sa propre incertitude peut-elle désigner la décision qui mérite une personne ?
Des agents à la revue
Le système rejoue des états historiques d'actions sur 120 épisodes et 480 pas de décision. À chaque pas, trois agents de stratégie votent : momentum, valeur contrarienne et aversion à la volatilité. Leurs sorties alimentent une couche d'abstention et un superviseur qui peut approuver, vérifier, s'abstenir ou escalader. Le journal conserve observations, votes, décisions de supervision, étiquettes de résultat et modes de défaillance.
Ce dessin suit le cadre des systèmes agentiques étudié dans Agent-Based Modeling and Agentic Technology. Un agent transforme perception et état en action. Un système multi-agent place plusieurs politiques dans un environnement commun. L'évaluation doit donc noter la trajectoire résultante, plutôt que la fluidité d'une trace.
Ce que le banc a trouvé
La métrique centrale est le regret face à un oracle rétrospectif. Avec le même budget fini de revue, l'oracle dépense la revue sur les pas où elle aurait le plus aidé. Le modèle ne voit pas ces utilités rétrospectives. Le banc mesure alors la valeur laissée de côté par une règle proposée.
La règle préenregistrée de signal modèle utilise seulement la confiance du comité, le besoin de vérification et le désaccord. Sur l'exécution principale, ce signal atteint un regret de 0.1759 par pas. L'allocation aléatoire atteint 0.1911. L'écart reste trop faible pour soutenir une forte affirmation de triage de supervision.
Le même comité avait une erreur de calibration moyenne relativement basse : ECE de confiance du comité de 0.1018. Pourtant, calibration et triage répondent à des questions différentes. La calibration demande combien de fois le comité a raison en agrégé. Le triage demande quelle décision précise mérite une personne.