ContentMod
面向应用内容安全的文本与图像审核 API
工具介绍
ContentMod 是面向应用内容安全的文本与图像审核服务。开发者可通过 RESTful API 或 SDK 将审核接入应用，提交内容后获取结果；也可在网页 playground 输入内容查看审核效果。它适合需要处理用户投稿的社交媒体、电商、教育及企业通信工具，用于识别不当文字或受限制图像，并配合审核队列处理待审内容。
核心功能
- 文本审核：识别并标记仇恨言论、脏话和个人数据泄露等内容。
- 图像审核：识别露骨、冒犯性及其他受限制的视觉内容。
- 审核信息提取：获取标记关键词、图像标签、情感分析结果和元数据。
- 规则与词表过滤：调整审核参数，并提交禁用词列表过滤不需要的内容。
- 审核队列：将内容放入队列，进行手动或自动审核。
- 结果回调：提供回调 URL，通过 webhook 接收审核结果。
使用方法
- 1从 ContentMod 官方入口了解 API 或 SDK 接入方式，将审核能力接入应用。
- 2向 API 提交需要审核的文本或图像。
- 3接收并查看审核结果，判断内容是否需要采取处理措施。
常见问题
ContentMod 能审核哪些文本内容？
可标记仇恨言论、脏话及个人数据泄露等不当或不合规文本。
图像审核可以识别什么？
可识别露骨、冒犯性或其他受限制的视觉内容。
如何将审核用于应用中的用户投稿？
应用可通过 RESTful API 或 SDK 提交文本或图像，接收审核结果后决定如何处理内容。
除了直接获取审核结果，还能怎样处理待审内容？
支持将内容放入审核队列，进行手动或自动审核；也支持提交禁用词列表过滤不需要的内容。
不接入应用也能查看审核效果吗？
官方提供网页 playground，可输入内容并查看审核结果；另提供用于扫描服务器消息和图像的 Discord 机器人。
