如何对有副作用的工具实施分级授权、两阶段提交和执行期零信任校验?

未标记

询问 AI

考查重点:副作用分级与执行时授权。按可逆性、范围与成本授权,准备预览后确认执行通常是业务两阶段而非数据库2PC;执行前再验身份、参数和当前状态,模型不能自升权限

本题目录

参考答案

核心回答

可按工具的可逆性、影响范围和成本分级:普通只读查询按既定权限执行;可回退的局部写入限制资源和数量;删除、支付、对外发送等高影响动作按业务策略取得明确授权。分级规则由服务端执行,不能由模型自行提升权限。

这里的“两阶段”通常指业务上的准备预览,再确认执行,并不自动等于数据库分布式事务2PC。执行时仍要重新检查用户、资源、参数、策略和当前状态;曾经通过一次检查,不代表之后的任意调用都可信。

prepare与confirm怎样落地

准备阶段解析结构化参数,检查资源权限和业务条件,返回将修改的对象、范围与预期影响。服务端保存短期操作记录或签发完整性受保护的确认凭证,绑定用户/租户、工具版本、参数摘要、资源版本、有效期和幂等号。

确认阶段校验凭证与本次请求完全匹配,重新检查用户权限、资源状态和策略;对象在预览后被修改时,应按版本冲突重新处理,而不是执行已失效的预览。确认凭证的消费与业务提交需要可靠衔接,防止重放造成多次副作用。

已在明确范围内授权的低风险批处理可以按既定策略继续,不需要为每一步重复询问。越出资源、数量或风险范围时,再走相应授权路径;授权拒绝应作为终态或可解释的失败,不能换参数绕过。

只看已经需要确认的操作:若预览之后资源版本改变,确认时应识别冲突。

flowchart TB
  A["prepare 读取资源 v7"] --> B["预览与凭证绑定 v7"]
  B --> C["其他写入使资源变为 v8"]
  C --> D["confirm 重查权限与版本"]
  D --> E["版本冲突,拒绝旧预览"]
  E --> F["按新状态重新准备"]

图展示版本冲突这一条路径。版本未变也仍需其他业务检查,校验与提交必须可靠衔接;普通已授权操作无需机械增加确认。

执行期还检查什么

文件工具校验解析后的真实路径与允许目录,数据库工具限制用户可访问的租户、表和字段,外部请求限制目标及凭证用途;执行凭证按最小权限签发。模型输出、工具描述和检索内容都作为数据处理,不能成为授权来源。

审计记录请求主体、操作摘要、授权决定、执行结果与关联ID,敏感内容做必要脱敏。预览成功也不等于一定可回滚,外部邮件或付款等动作应按其真实补偿能力设计失败处理。

参考资料

相关面经

3 篇

字节跳动

AI 应用开发工程师
一面
查看原面经 →
简历中的“安全执行”具体指什么?如何判断命令是否允许执行?批准、拒绝和后续授权如何处理?

微店

AI 全栈开发工程师
校招秋招一面
查看原面经 →
如果用户要求删除数据,Agent 应该怎样设计确认流程?

药明康德

AI 数据工程师
二面
查看原面经 →
工具副作用分级授权模型,两阶段提交+执行期0信任二次校验,具体指什么,如何落地?

收录题集

11 份

业务场景与产品

阿东玩 AI · AgentGuide · 1 条原题

查看题集 →

Agent 与自主系统

AMIT SHEKHAR · ai-engineering-interview-questions · 1 条原题

查看题集 →

编码Agent与AgentOS工程

Rocky Ding · AIGC-Interview-Book · 1 条原题

查看题集 →

Agent安全评测与AgentOps

Rocky Ding · AIGC-Interview-Book · 1 条原题

查看题集 →

Agent 面试题

Guide · JavaGuide · 1 条原题

查看题集 →
展开剩余 6 份题集

相关题目

4 题