Lasso Moderation
面向用户内容平台的可定制 AI 内容审核工具
工具介绍
Lasso Moderation 是面向用户内容平台的 AI 内容审核工具，帮助运营团队按社区规则识别和处理有害内容。它覆盖文本、图像、视频与音频，也支持直播流和语音聊天等实时内容。客户平台可通过 API 或集成传入内容，选择发布前同步获取审核决策，或在内容提交后接收异步决策；需要进一步判断的内容和用户可交由审核员在控制台复核。
核心功能
- 实时内容处理：标记并移除有害内容，团队可控制适用于社区的审核规则。
- 多类型内容审核：处理文本、图像、视频和音频，包括直播流与语音聊天。
- 细分风险检测：识别文本中的恶意言论、仇恨言论及垃圾信息，并检测图片中隐藏的联系方式等文字。
- 语音与视频内容审核：审核视频音轨中的内容，并检测实时语音聊天中的骚扰、仇恨和威胁。
- 审核决策对接：通过 API 接收平台内容，支持同步返回预审核决策或通过 webhook 回传异步决策。
- 人工复核：将自动化标记的内容和用户交给审核员在控制台进一步判断。
使用方法
- 1从 Lasso Moderation 官方产品入口了解审核服务，确定客户平台要处理的用户内容及审核规则。
- 2通过 Lasso API 或集成，将待审核内容和相关用户信息传入平台。
- 3对于先审核后发布的内容，使用同步预审核获取自动检查的决策。
- 4查看返回的审核决策；对自动化标记、需要进一步判断的内容和用户，由审核员在控制台复核。
常见问题
Lasso Moderation 能审核哪些内容？
支持文本、图像、视频和音频，也包括直播流与语音聊天。文本审核可检测恶意言论、仇恨言论、垃圾信息和规避行为。
它如何与现有内容平台配合？
客户平台可通过 Lasso API 或集成传入内容及用户信息；审核规则和 AI 审核员处理传入内容，相关操作可通过 webhook 回传客户平台。
发布前审核和发布后审核有什么区别？
同步预审核会等待自动检查并在响应中返回决策，适用于先审核后发布；异步后置审核先接收内容，再通过 webhook 返回决策。
所有内容都能自动完成审核吗？
不能。自动化标记、需要进一步判断的内容和用户可交由审核员在控制台复核。
