返回课程详情

Agent 开发 / 课程学习

大模型智能体开发

第 15 / 67 节

阶段1:大模型与智能体通用基础 / 第 15 节

T15 Agent系统权限、隐私与安全验收

当天7节:用户身份、数据范围与最小权限;注入、越狱与恶意工具结果;隐私、脱敏与敏感输出;审计、关联记录与问题追踪;沙箱、执行范围与部署防护;内容过滤、拒绝与正常任务复测;售前带练验收与新案例发布。权限矩阵、隐私与注入测试、审计记录及售前带练成果 日验收:提交正常失败证据及缺项,交T16独立案例任务

T15 Agent系统权限、隐私与安全验收

阶段1:大模型与智能体通用基础

本日课程安排

先修/输入:T14的固定测试集、人工评分、模块诊断和版本回归报告

当前问题:效果已评测,还需检查集成后的用户隔离和操作权限

本日增量:权限矩阵、隐私与注入测试、审计记录及售前带练成果

下一日承接:T16 案例练习一:独立搭建售后服务Agent

第1节 · 案例讲解与配置实践 · 用户身份、数据范围与最小权限(分钟待核定)

教学活动:承接T14交接。按用户、资料、工具和动作建立权限矩阵。

产出与评价证据:正常可访问,跨用户和越权请求被拒绝

第2节 · 案例讲解与配置实践 · 注入、越狱与恶意工具结果(分钟待核定)

教学活动:承接本日第1节结果。测试用户输入、检索片段和工具结果中的越权指令。

产出与评价证据:恶意内容不能提升权限,正常任务仍可完成

第3节 · 案例讲解与配置实践 · 隐私、脱敏与敏感输出(分钟待核定)

教学活动:承接本日第2节结果。检查日志、记忆与生成内容中的敏感字段。

产出与评价证据:脱敏规则有效,不能把敏感材料写进公开作品

第4节 · 案例讲解与配置实践 · 审计、关联记录与问题追踪(分钟待核定)

教学活动:承接本日第3节结果。沿同一请求查看身份、动作、结果和人工决定。

产出与评价证据:审计能解释谁请求、谁执行、为何拒绝

第5节 · 案例讲解与配置实践 · 沙箱、执行范围与部署防护(分钟待核定)

教学活动:承接本日第4节结果。识别代码执行、网络和文件边界,用课程隔离样例验证。

产出与评价证据:区分基本配置与生产加固;不要求学员修改共享安全配置

第6节 · 案例讲解与配置实践 · 内容过滤、拒绝与正常任务复测(分钟待核定)

教学活动:承接本日第5节结果。检查敏感输出、权限拒绝和错误阻断。

产出与评价证据:拒绝有理由且不泄漏数据,修订后正常任务未退化

第7节 · 案例讲解与配置实践 · 售前带练验收与新案例发布(分钟待核定)

教学活动:承接本日第6节结果。复现已完成售前Agent,发放独立售后案例资料与测试要求。

产出与评价证据:提交正常失败证据及缺项,交T16独立案例任务

当日产出与验收

权限矩阵、隐私与注入测试、审计记录及售前带练成果

日验收:提交正常失败证据及缺项,交T16独立案例任务

教学边界

售前Agent:在DEMP中逐项配置,使用T03固定问题逐日复测

编写依据:2026-10-15会议重构版课程大纲;课程安排不代替完整教材。