安全文本API旨在分析和分类文本片段中的毒性。该API通过准确评估潜在有害内容,帮助维护安全和尊重的对话空间。当任何文本作为输入提交时,系统将返回一个整体毒性评分、清晰的分类(如“非毒性”或“毒性”)以及按类别的详细分解,包括一般毒性、严重毒性、 obscene 语言、威胁、侮辱和基于身份的仇恨。
得益于先进的自然语言处理(NLP)模型,该API能够识别语言中的微妙差异,甚至能够检测伪装成滥用、被动攻击或两极化语言的表达。每次分析都包含置信水平,以支持自动决策或人类辅助的审核。
要使用此端点,您必须指定一个文本以分析毒性水平
毒性检测 - 端点功能
| 对象 | 描述 |
|---|---|
请求体 |
[必需] Json |
{"request_id":"a92c6fa4-2649-4a1b-9c2e-0af536a77e17","overall_score":0.2841,"classification":"toxic","confidence":0.2841,"category_scores":{"toxic":0.2841,"severe_toxic":0.003,"obscene":0.0075,"threat":0.0313,"insult":0.0505,"identity_hate":0.0417}}
curl --location --request POST 'https://zylalabs.com/api/7800/safe+text+api/12773/toxicity+detection' --header 'Authorization: Bearer YOUR_API_KEY'
--data-raw '{
"text": "I hate you.."
}'
| 标头 | 描述 |
|---|---|
授权
|
[必需] 应为 Bearer access_key. 订阅后,请查看上方的"您的 API 访问密钥"。 |
无长期承诺。随时升级、降级或取消。 免费试用包括最多 50 个请求。
该API返回一个总体毒性评分一个分类标签(例如“非毒性”或“毒性”)以及毒性类别的详细细分例如一般毒性严重毒性淫秽语言威胁侮辱和基于身份的仇恨
响应中的关键字段包括“毒性得分”“分类”和类别细分如“总体毒性”“严重毒性”“淫秽”“威胁”“侮辱”和“仇恨言论”每个字段都伴有置信水平
响应数据采用JSON格式结构,包含一个主对象,其中包含总体毒性评分和分类,后面是每个毒性类别的嵌套对象,详细说明评分和置信水平
POST端点的主要参数是"text"字段,用户在此输入他们想要分析的毒性文本。其他参数可能包括语言设置或特定的毒性类别以供关注
数据准确性通过先进的自然语言处理(NLP)模型得以维持,这些模型定期更新并在多样化的数据集上进行训练,以识别语言的细微差别和不断演变的有毒表达
典型的用例包括管理在线论坛 分析用户生成的内容以识别有害语言 加强社区指南和开发安全通信的工具在聊天应用中
用户可以通过将毒性评分和分类整合到管理工作流程中来利用返回的数据,触发高毒性水平的警报,或生成报告以评估社区健康和安全
质量检查包括针对真实数据的持续模型评估 用户反馈循环和绩效指标 确保API能够准确检测和分类各种背景和语言中的毒性
服务级别:
100%
响应时间:
1,301ms
服务级别:
100%
响应时间:
1,877ms
服务级别:
100%
响应时间:
1,429ms
服务级别:
100%
响应时间:
229ms
服务级别:
100%
响应时间:
1,402ms
服务级别:
100%
响应时间:
1,463ms
服务级别:
100%
响应时间:
4,621ms
服务级别:
100%
响应时间:
7,847ms
服务级别:
100%
响应时间:
259ms
服务级别:
100%
响应时间:
4,048ms
服务级别:
100%
响应时间:
323ms
服务级别:
100%
响应时间:
1,035ms
服务级别:
100%
响应时间:
369ms
服务级别:
100%
响应时间:
636ms
服务级别:
100%
响应时间:
904ms
服务级别:
100%
响应时间:
627ms
服务级别:
100%
响应时间:
1,746ms
服务级别:
100%
响应时间:
833ms
服务级别:
100%
响应时间:
3,054ms
服务级别:
100%
响应时间:
1,021ms