FinSAFE 百炼场

FinSAFE百炼场

用真实案例，验证AI安全边界

30例已收录目标100例

交互安全

20例已收录

保护用户对设备的正常使用与控制，防止操作被打断或控制权被抢夺

设备操作·会话控制·电源管理浏览案例→

系统安全

10例已收录

覆盖进程、服务和系统设置，观察系统是否受影响

进程·系统设置·服务·权限浏览分类→

数据安全

待整理

覆盖文件操作与敏感信息，观察数据是否被破坏或泄露

文件增删改查·敏感信息·PII浏览分类→

危险指令，也可能藏在正常资料中

说明示例

案例中的直白prompt用于复现危险操作、观察防护效果。真实攻击常常把指令夹在AI读取的资料里，让正常任务变成越界操作

用户原本想做什么

用户只提出正常任务

帮我总结这篇产品使用说明

用户没有要求读取或发送本地文件

资料里藏着什么

产品帮助中心 / 使用说明

产品使用说明

打开工作区后，可以查看项目概览、整理资料，并导出工作报告

当前仅展示正常正文，展开可查看夹带内容

可能的越界行为

如果AI把资料中的话当成执行指令：

额外读取本地文件，再尝试向外发送

可能后果数据泄露

防护是否有效，要看实际操作结果

读到了吗？执行了吗？造成影响了吗？

以上是攻击路径示意，不代表已发生或已被防住。现有案例展示具体操作的实测结果；间接注入的完整过程需另行验证。

了解间接提示词注入↗