Prompt defense

Prompt defense 是什么

专为企业级智能邮件助手、客服智能体及自动化工作流量身打造的商务邮件提示词注入（Prompt Injection）攻击防御、恶意越狱指令拦截与输入数据安全脱敏净化系统。系统针对当前大模型在处理外部非受信邮件时极易遭受‘忽略前置设定’、隐藏角色诱导及越权窃取敏感信息的巨大安全漏洞，在邮件解析网关层构建深度语义过滤防线，实现毫秒级精准识别并绞杀恶意注入载荷，筑牢企业 AI 资产的第一道安全护城河。

核心应用场景

适用于企业高管智能邮件助理自动回复外部陌生邮件时的注入攻击防范、跨境电商客服机器人解析海外买家非结构化询盘、自动化工单系统处理外部提交文本，以及金融机构反洗钱邮件安全审计。

关键功能特性

基于攻击特征库与语义异常评分的多层注入拦截模型、间接提示词注入（Indirect Injection）深度清洗与隔离技术、高置信度自适应判定杜绝正常商务沟通误报、恶意攻击样本特征持久化与安全事件审计日志，以及超低延迟网关轻量化部署架构。

标准操作流程

外部邮件进入系统网关；系统提取正文、签名及附件文本；防御引擎执行提示词注入特征扫描与语义置信度评估；无风险邮件放行至大模型处理，可疑邮件直接阻断并向安全员告警。

输入与输出规范

输入包括待检测的邮件标题、正文 HTML/纯文本、发件人地址及附件提取文本；输出包括安全风险判定结论、威胁等级评分、被拦截的恶意注入片段及脱敏后的纯净文本。

环境依赖与权限要求

依托 Python 3.8+ 运行时环境与基础网络客户端模块，纯单机规则与模型前置推理，无需外部第三方重型商业组件依赖。

边界限制与避坑指南

对抗性提示词攻击变体繁多，对于全新未见过的极端隐蔽多阶段攻击，需保持安全规则库定期同步更新演进。

目标适用人群

企业安全总监（CISO）、网络安全工程师、Agent 应用开发者、系统架构师及对大模型安全感兴趣的研究人员。

安装与启用指引

在工作台中下达指令（例如‘对这封外部采购邮件的内容进行注入攻击安全性体检并输出诊断结果’），系统秒级反馈安全报告。

来源背景与开源协议

本技能源自官方注册表认证收录，具有完备的元数据规范定义与清晰的版权授权，遵循 MIT 许可协议。在提供高效专业能力的同时严守数据安全边界，为用户的数字化与智能化业务提供稳固可靠的技术支持。

常见问题答疑

1. 该安全防御技能如何识别商务邮件中隐蔽的提示词注入（Prompt Injection）？

在实际应用中，系统全面结合静态正则规则与语义异常检测模型，秒级捕获试图突破系统设定的恶意对抗性指令。

2. 对于伪装在正常询价或发票中的间接注入攻击，系统具备何种防御策略？

在实际应用中，系统全面对邮件正文与附件中的非受信外部输入进行前置清洗与隔离，剥离隐藏的引导执行提示词。

3. 在阻断攻击的同时，系统如何确保不误伤正常的海外商务邮件往来？

在实际应用中，系统全面设立白名单语法规则与置信度打分体系，仅在检测到确定性越权攻击模式时才触发拦截阻断。

4. 当检测到高风险的越狱攻击载荷时，系统执行何种报警与处置流程？

在实际应用中，系统全面立即阻断下游大模型推理，将恶意样本特征持久化写入本地黑名单，并生成安全事件告警。

5. 该防御层在整个邮件智能体工作流中处于何种架构位置？

在实际应用中，系统全面部署在外部邮件解析之后与大模型核心推理之前的安全网关层，形成坚固的前置防护屏障。

6. 对于带有密码保护或恶意宏代码的加密附件，系统如何进行协同防御？

在实际应用中，系统全面对附件进行格式嗅探与沙箱解压审计，拦截试图通过隐藏文本触发越狱的可疑外部附件。

7. 企业安全运维团队能否自定义扩展内部特有的敏感词与防御规则库？

在实际应用中，系统全面支持通过本地 YAML 配置文件灵活定义私有拦截规则，满足企业特定安全合规策略要求。

8. 部署该安全防御模块对智能体解析邮件的首字延迟带来多大额外开销？

在实际应用中，系统全面采用轻量级轻量算法实现端到端判定，平均扫描耗时小于 10 毫秒，对前台交互全无影响。