内容审查（Moderations）

检查输入文本是否包含暴力、仇恨、自残或其他可能违反安全策略的内容。

请求接口

POST https://api.nexusmodels.cn/v1/moderations

请求头

Authorization: Bearer YOUR_NEXUSMODELS_API_KEY
Content-Type: application/json

请求参数

参数	类型	必填	说明
model	string	否	内容审查模型；服务端设置默认模型时可省略
input	string 或 array	是	需要检查的文本内容

单条文本请求

curl -sS -X POST \
  'https://api.nexusmodels.cn/v1/moderations' \
  -H 'Authorization: Bearer YOUR_NEXUSMODELS_API_KEY' \
  -H 'Content-Type: application/json' \
  -d '{
    "model": "YOUR_MODERATION_MODEL",
    "input": "需要进行安全检查的文本内容"
  }'

批量文本请求

curl -sS -X POST \
  'https://api.nexusmodels.cn/v1/moderations' \
  -H 'Authorization: Bearer YOUR_NEXUSMODELS_API_KEY' \
  -H 'Content-Type: application/json' \
  -d '{
    "model": "YOUR_MODERATION_MODEL",
    "input": [
      "第一段需要检查的内容",
      "第二段需要检查的内容"
    ]
  }'

响应示例

{
  "id": "moderation-request-id",
  "model": "YOUR_MODERATION_MODEL",
  "results": [
    {
      "flagged": false,
      "categories": {
        "hate": false,
        "harassment": false,
        "self-harm": false,
        "sexual": false,
        "violence": false
      },
      "category_scores": {
        "hate": 0.0001,
        "harassment": 0.0002,
        "self-harm": 0.0001,
        "sexual": 0.0001,
        "violence": 0.0003
      }
    }
  ]
}

响应字段

字段	说明
flagged	输入是否被判定为可能违反安全策略
categories	每个安全分类是否被命中
category_scores	各分类对应的模型判断分数