快速使用在线测试功能

登录AI安全护栏产品控制台

在输入框填写测试内容。

在输入框下方选择用于检测的策略模板。

可选策略模板如下：

• AI输入内容安全检测（query_security_check）

• AI生成内容安全检测（response_security_check）

点击运行测试按钮。

查看测试结果。

操作示例图如下：

您也可以直接选择模板示例，我们为内容合规、敏感内容、提示词攻击分别提供了一套检测模板，选择模板后，点击运行测试按钮，即可查看测试结果

测试结果支持高亮展示命中关键词/敏感词

• 内容合规检测：检测出关键词时，点击风险标签，支持对测试内容中的关键词进行高亮展示。如点击标签，未在测试内容中看到高亮关键词，则代表该条内容是由于命中模型而检出的风险。示例如下：

• 敏感内容检测：检测出敏感词时，点击敏感标签，支持对测试内容中的关键词进行高亮展示。示例如下：

运行测试后，在查询测试结果时，看到敏感内容检测或者提示词攻击检测显示为未启用状态，如需测试，可以前往开启相关功能。

进入检测项配置列表页面，选择需要开启的功能。

如果您开启的是敏感内容检测，请关注弹框提示，该功能会单独计费，更多信息请参见开通与计费概述。

如果您开启的是提示词攻击检测，请关注弹框提示，该功能当前处于公测阶段，支持免费试用，如有任何使用问题，欢迎联系我们的商务经理。