返回热力追踪
了解模型与研究
论文提出 ROGUE-AI 框架,针对媒体报道中 LLM 智能体删文件、发付款等失败事件,在离线环境中重建事件并设置仅缺少被指原因的对照,再让智能体分别运行以验证事故是否成立、定位根因。作者指出现有事件目录和基准只记录失败,既不复现事件也不检验报告给出的原因。
论文提出 ROGUE-AI 框架,针对媒体报道中 LLM 智能体删文件、发付款等失败事件,在离线环境中重建事件并设置仅缺少被指原因的对照,再让智能体分别运行以验证事故是否成立、定位根因。作者指出现有事件目录和基准只记录失败,既不复现事件也不检验报告给出的原因。