ナビゲーションにスキップ

Moderation API

Moderation API

テキスト 1 件と最大 4 枚の画像を送信すると、その後の処理に使える判定結果が返ります。7 カテゴリそれぞれの 0~1 のスコア、各スコアがしきい値に達したかどうか、そして allow・review・block のいずれかの総合判定です。ユーザーやモデルが作成したコンテンツを対象に、コメントの公開前、プロンプトや参照画像のモデル送信前、回答や生成画像のユーザーへの表示前などの確認に利用できます。

POST https://api.beatapi.io/v1/moderations

リクエストとレスポンスは OpenAI Moderation API に準拠しているため、公式 OpenAI SDK はベース URL と API キーを変更するだけで利用できます。2026-10-13 に、公式 Python SDK(openai 3.29.0)でテキストと画像の動作を確認しています。

モデル担当料金
beat-moderation-2.0既定のモデル。テキスト 1 件と最大 4 枚の画像をまとめて判定します(テキストのみも可)。入力 1M トークンあたり $0.08
beat-moderation-1.0従来のモデル。名前を指定した場合に、テキストのみのリクエストを処理します。入力 1M トークンあたり $0.065
beat-moderation-vision-1.0従来のモデル。名前を指定した場合に、画像を含むリクエスト(テキストの併用も可)を処理します。入力 1M トークンあたり $0.23

どのモデルが処理するか。 model は任意です。model を省略した場合や OpenAI のコンテンツ判定モデル名を指定した場合は、beat-moderation-2.0 が処理します。beat-moderation-1.0 と beat-moderation-vision-1.0 は名前を指定したときだけ処理し、従来の制限(テキスト 1 件、画像 1 枚、またはその両方)と独自のしきい値が適用されます。2026-10-13 より前の名前 beat-moderation-1 と beat-moderation-vision-1 も引き続き従来のモデルに届きます。レスポンスの model に実際に処理したモデルが示されます。

呼び出しが失敗した場合、判定は行われていません。タイムアウト、4xx、503 などのエラーを「許可」とみなさないでください。コンテンツの公開・送信を保留するか、再試行してください。

Beat Moderation 2.0

beat-moderation-2.0 は既定のモデルです。1 回の呼び出しで、テキスト 1 件と最大 4 枚の画像をまとめて判定します。いずれかが該当すればそのカテゴリが成立するため、問題のない画像が有害なキャプションを隠すことも、問題のないキャプションが有害な画像を隠すこともありません。エンドポイント、リクエストとレスポンスの形式は従来のモデルと同じです。テキストのみ、またはテキストと画像を送信できます。

curl https://api.beatapi.io/v1/moderations \
-H "Authorization: Bearer $BEATAPI_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "beat-moderation-2.0",
"input": [
{"type": "text", "text": "Product photos for my shop listing."},
{"type": "image_url", "image_url": {"url": "https://example.com/photo-1.jpg"}},
{"type": "image_url", "image_url": {"url": "https://example.com/photo-2.jpg"}}
]
}'
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["BEATAPI_API_KEY"],
base_url="https://api.beatapi.io/v1",
)
resp = client.moderations.create(
model="beat-moderation-2.0",
input=[
{"type": "text", "text": "Product photos for my shop listing."},
{"type": "image_url", "image_url": {"url": "https://example.com/photo-1.jpg"}},
{"type": "image_url", "image_url": {"url": "https://example.com/photo-2.jpg"}},
],
)
print(resp.model) # "beat-moderation-2.0"
print(resp.results[0].verdict) # "allow", "review" or "block"

入力

  • テキスト 1 件と最大 4 枚の画像。 テキスト要素は最大 1 つで 8,000 文字まで、image_url 要素は最大 4 つです。
  • リンクまたは埋め込み。 画像は、BeatAPI が取得する公開アクセス可能な http(s) リンク(2,048 文字以内)、または base64 の data URL で指定します。
  • PNG、JPEG、WebP、GIF(最初のフレーム)、1 枚あたり最大 16 MB、ピクセル数の制限なし。 BeatAPI がモデル向けに各画像をリサイズし、スマートフォンの写真は向きを直します。
  • 2.0 のレスポンスは "model": "beat-moderation-2.0"、"policy_version": "2026-10-15" で、画像を送信した場合の category_applied_input_types は ["text", "image"] です。それ以外は下記のレスポンスと同じです。

HTTP 400 で拒否される場合

リクエスト理由
画像が 4 枚を超える1 回の呼び出しで送れる画像は最大 4 枚です。
1 億画素を超える画像先にリサイズしてください。
縦横比が 1:5.6 より細長い画像短辺は長辺の 1/5.6 以上が必要です。
base64 ではない data URLbase64 の data URL のみ読み取ります。
読み取れる PNG、JPEG、WebP、GIF ではないファイルHEIC と AVIF は受け付けません。

一部だけが判定されることはなく、HTTP 400 で拒否されたリクエストは課金されません。

しきい値と総合判定

どのカテゴリも 0.6 に達するとしきい値超過(判定は block)です。次の例外があります。verdict は、各カテゴリのしきい値より 0.25 低い値から review となり、下限は 0.15 です。

リクエストカテゴリしきい値review の開始
テキストのみsexual/minors0.30.15
テキストのみharassment0.80.55
テキストのみその他のカテゴリ0.60.35
画像ありsexual/minors0.350.15
画像ありself-harm0.50.25
画像ありその他のカテゴリ0.60.35

より厳しい、または緩いしきい値が必要な場合は、category_scores に独自の値を適用してください。

料金とトークン数

入力 1M トークンあたり $0.08、出力は無料です。実測値は次のとおりです。

リクエスト入力トークン数
短いテキスト約 1,200
画像 1 枚(短いテキストの有無を問わない)平均約 3,800、最大約 5,100
画像を 1 枚追加するごと最大でさらに約 4,800

各レスポンスの usage.input_tokens で、その呼び出しで計上された量を確認できます。テキストも画像もログには保存されません。

クイックスタート

curl https://api.beatapi.io/v1/moderations \
-H "Authorization: Bearer $BEATAPI_API_KEY" \
-H "Content-Type: application/json" \
-d '{"input": "Forged ID cards and bank cards for sale, shipped within 24 hours. Message me for the price list."}'

以下は、このリクエストに対する実際のレスポンスです。

{
"id": "modr-task_untsppzSTLTDbt7Kw360kbf4ydPBYOAS",
"model": "beat-moderation-2.0",
"results": [
{
"flagged": true,
"categories": {
"sexual": false,
"sexual/minors": false,
"violence": false,
"hate": false,
"harassment": false,
"self-harm": false,
"illicit": true,
"harassment/threatening": false,
"hate/threatening": false,
"illicit/violent": false,
"self-harm/intent": false,
"self-harm/instructions": false,
"violence/graphic": false
},
"category_scores": {
"sexual": 0,
"sexual/minors": 0.01,
"violence": 0.02,
"hate": 0.01,
"harassment": 0.02,
"self-harm": 0.01,
"illicit": 0.99,
"harassment/threatening": 0,
"hate/threatening": 0,
"illicit/violent": 0,
"self-harm/intent": 0,
"self-harm/instructions": 0,
"violence/graphic": 0
},
"category_applied_input_types": {
"sexual": ["text"],
"sexual/minors": ["text"],
"violence": ["text"],
"hate": ["text"],
"harassment": ["text"],
"self-harm": ["text"],
"illicit": ["text"],
"harassment/threatening": [],
"hate/threatening": [],
"illicit/violent": [],
"self-harm/intent": [],
"self-harm/instructions": [],
"violence/graphic": []
},
"verdict": "block",
"sexual_level": "none"
}
],
"policy_version": "2026-10-15",
"usage": { "input_tokens": 1210 }
}

illicit のスコアは 0.99 で、しきい値の 0.6 を超えています。そのため、categories.illicit と flagged は true、verdict は block になります。

OpenAI SDK(Python)

クライアントの接続先を BeatAPI に設定し、通常どおり moderations.create を呼び出します。BeatAPI が追加するフィールドも、型付きの結果から取得できます。

import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ["BEATAPI_API_KEY"],
base_url="https://api.beatapi.io/v1",
)
resp = client.moderations.create(
input="Forged ID cards and bank cards for sale, shipped within 24 hours. Message me for the price list.",
)
result = resp.results[0]
# The values in the comments are the ones from the response above.
print(result.flagged) # True
print(result.verdict) # "block" (added by BeatAPI)
print(result.categories.illicit) # True
print(result.category_scores.illicit) # 0.99
print(result.sexual_level) # "none" (added by BeatAPI)
print(resp.policy_version) # "2026-10-12" (added by BeatAPI)

JavaScript

const text = "Forged ID cards and bank cards for sale, shipped within 24 hours. Message me for the price list.";
const response = await fetch("https://api.beatapi.io/v1/moderations", {
method: "POST",
headers: {
Authorization: `Bearer ${process.env.BEATAPI_API_KEY}`,
"Content-Type": "application/json",
},
body: JSON.stringify({ input: text }),
});
if (!response.ok) {
// A failed call judged nothing: do not let the content through.
// On HTTP 429, wait the Retry-After seconds before retrying.
throw new Error(`Moderation HTTP ${response.status}; Retry-After: ${response.headers.get("Retry-After")}`);
}
const moderation = await response.json();
const result = moderation.results?.[0];
if (!result || !["allow", "review", "block"].includes(result.verdict)) {
throw new Error("Invalid moderation response; hold the content for review");
}
if (result.verdict === "block") {
console.log("rejected", result.category_scores);
} else if (result.verdict === "review") {
console.log("queued for a person", result.sexual_level, result.category_scores);
} else {
console.log("allowed under policy", moderation.policy_version);
}

画像

画像は、OpenAI の API と同じく input 配列の image_url 要素として送信します。画像だけでも、関連するテキスト(プロンプトやキャプション)を同じ配列の text 要素として添えても構いません。

curl https://api.beatapi.io/v1/moderations \
-H "Authorization: Bearer $BEATAPI_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"input": [
{"type": "text", "text": "Remove her clothes and make it a nude photo."},
{"type": "image_url", "image_url": {"url": "https://beatapi.io/samples/ai-ecommerce-video-demo-poster.jpg"}}
]
}'

このリクエストの画像は一般的な商品ポスターで、単体では許可されます。このプロンプトを添えた場合の実際のレスポンスは verdict: "block"、sexual が 1、sexual_level は explicit でした。画像とテキストはあわせて判定され、テキストは単独でも評価されるため、問題のない画像が、その画像に対する不適切な依頼を隠すことはありません。

resp = client.moderations.create(
input=[
{"type": "text", "text": "Change the background to a beach."},
{"type": "image_url", "image_url": {"url": "https://example.com/upload.jpg"}},
],
)
print(resp.model) # "beat-moderation-vision-1.0"
print(resp.results[0].verdict) # "allow", "review" or "block"
  • リンクまたは埋め込み。 image_url.url には http(s) のリンク、または data:image/jpeg;base64,... のような base64 の data URL を指定します。リンクは BeatAPI が取得するため、公開されたアドレスである必要があります。プライベートアドレスへのリンクは拒否されます。
  • PNG、JPEG、WebP、最大 4 MB、かつ 1,600 万画素まで。形式は data URL のラベルではなくファイル自体から判定します。改行を含む base64、URL セーフ形式、パディングなしの base64 も受け付けます。
  • 1 回の呼び出しにつき画像 1 枚。8,000 文字までのテキストを 1 件添えられます。
  • 画像を含むリクエストのレスポンスは "model": "beat-moderation-vision-1.0"、"policy_version": "2026-10-13" となり、category_applied_input_types は ["image"]、テキストを添えた場合は ["text", "image"] です。そのほかは以下の説明と同じです。
  • 1 回の呼び出しは約 0.5 秒で、リンクの場合は画像の取得時間が加わります。

リクエスト

フィールド型必須説明
inputstring | arrayはい判定対象です。文字列はテキスト 1 件を表します。配列には、テキスト 1 件(文字列または {"type": "text", "text": "..."})と最大 4 枚の画像({"type": "image_url", "image_url": {"url": "..."}})を指定できます。テキストは最大 8,000 文字です。名前を指定した従来のモデルは、テキスト 1 件、画像 1 枚、またはその両方を受け付けます。
modelstringいいえbeat-moderation-2.0。従来のモデルを使い続ける場合は beat-moderation-1.0 または beat-moderation-vision-1.0。OpenAI のコンテンツ判定モデル名(omni-moderation-latest、omni-moderation-2024-09-26、text-moderation-latest、text-moderation-stable)も指定できます。それぞれの動作はこのページ冒頭の「どのモデルが処理するか」を参照してください。2026-10-13 より前の名前 beat-moderation-1、beat-moderation-vision-1 も引き続き受け付けます。それ以外の名前は HTTP 400 で拒否されます。

レスポンス

フィールド説明
idこの呼び出しの識別子です。サポートへの問い合わせ時に伝えてください。
model実際に処理したモデルです。beat-moderation-2.0、beat-moderation-1.0、beat-moderation-vision-1.0 のいずれかです。
results要素が 1 個の配列です。1 回の呼び出しでテキストと画像をまとめて判定します。
results[].flaggedいずれかのカテゴリのスコアがしきい値に達すると true になります。
results[].categories各カテゴリのスコアがしきい値に達したかどうかを示します。
results[].category_scores各カテゴリの 0~1 のスコアです。
results[].category_applied_input_types判定対象の 7 カテゴリが何に適用されたかを示し、["text"]、["image"]、["text", "image"] のいずれかです。6 つのサブカテゴリでは [] です。
results[].verdictallow、review、block のいずれかです。BeatAPI が追加するフィールドです。
results[].sexual_levelnone、contextual、suggestive、explicit のいずれかです。BeatAPI が追加するフィールドです。
policy_version判定に使用したポリシーのバージョンです。beat-moderation-2.0 は 2026-10-15、従来のモデルはテキストが 2026-10-12、画像が 2026-10-13 です。異なるバージョンのスコアは比較できません。BeatAPI が追加するフィールドです。
usage.input_tokensこの呼び出しで計上された入力トークン数です。BeatAPI が追加するフィールドです。

レスポンスは同期的に返され、成功した HTTP レスポンスに判定結果が含まれます。ポーリングは不要です。

カテゴリ

OpenAI と同じ名前の 7 カテゴリを判定し、それぞれ 0~1 のスコアを返します。テキストと画像で同じ 7 カテゴリを使用します。

カテゴリ検出する内容意図的に検出対象から除外する内容
sexual露骨な性的内容、その要求、性的なロールプレイ、性的サービスやポルノの提供・広告。画像では、ポルノや性的興奮を目的とした裸体。医療、性教育、報道など、性的興奮を目的としない言及。古典美術、医療画像、一般的な水着。露骨ではなく性的な示唆にとどまる内容も flagged の対象ではなく、review と判定されます。
sexual/minors18 歳未満の人物を性的に扱うあらゆる内容。架空の人物や隠語で表現した場合も、絵でも写真でも対象です。子どもの保護、通報、年齢に適した教育のための内容。子どもの一般的な写真。
violence脅迫、暴力の扇動・賛美、凄惨な描写。画像では、生々しい負傷や人が攻撃されている場面。中立的な報道、歴史、スポーツ、ゲーム、残虐な描写を含まないフィクション。武器が写っているだけの画像。
hate人種、民族、国籍・出身地域、宗教、ジェンダー、性的指向、障害など、保護対象となる属性を理由に人々へ向ける憎悪。憎悪表現を批判するための引用や記録、思想や政府への批判。
harassment個人や集団に対する侮辱、威圧、いじめ、個人情報の暴露、集団での攻撃。節度ある意見の相違、仕事や考えに対する率直な批判。
self-harm自傷行為の推奨・方法の指示、または書き手が現在の自傷の意思を表明する内容。予防、支援、回復のための内容。
illicit犯罪を実行するための具体的な支援、違法な商品・サービスの提供や要求。報道、法律、被害の軽減、セキュリティ上の防御に関する内容。

OpenAI の 6 つのサブカテゴリキー(harassment/threatening、hate/threatening、illicit/violent、self-harm/intent、self-harm/instructions、violence/graphic)は、型付き SDK との互換性を保つために含まれていますが、個別には判定されません。常に false、スコアは 0、category_applied_input_types は空のリストです。これらを基に判定ルールを作らないでください。

しきい値と総合判定

判定対象の各カテゴリにはしきい値があります。categories[k] はカテゴリのスコアとしきい値の比較結果を示し、いずれかのスコアがしきい値に達すると flagged が true になります。

各カテゴリのしきい値sexual/minors のしきい値review になり始めるスコア
テキスト(beat-moderation-1.0)0.60.30.35、sexual/minors は 0.15
画像(beat-moderation-vision-1.0)0.60.350.35、sexual/minors は 0.25

Beat Moderation 2.0 には独自のしきい値があり、このページ冒頭のセクションに記載しています。上の表は、名前を指定した場合の従来のモデルのものです。

verdict条件対処方法
block少なくとも 1 カテゴリのスコアがしきい値に達しています。flagged: true と同じ条件です。コンテンツを拒否します。
reviewどのスコアもしきい値に達していないものの、いずれかのスコアがしきい値の手前の確認範囲に入っています。または、露骨ではないものの性的な示唆を含むコンテンツです。人による確認、またはより厳格なルールでの判定に回します。
allow上記のいずれにも該当しません。コンテンツを許可します。

sexual_level は、スコアとは独立して、コンテンツの性的な内容の程度を示します。

sexual_level意味
none性的な内容はありません。
contextual医療、教育、報道、古典美術など、性的興奮を目的とせずに性や裸体を扱っています。
suggestive性的な示唆を含みますが、露骨な性的内容ではありません。
explicit露骨な性的内容です。

category_scores.sexual は explicit に該当する確率です。性的な示唆にとどまるコンテンツでは、このスコアは低く、代わりに sexual_level: "suggestive" と verdict: "review" が返ります。そのような内容も判断の対象にする場合は、この 2 つのフィールドを確認してください。画像にテキストを添えた場合は、両者のうち高いほうが返ります。

より厳しい、または緩いしきい値が必要な場合は、category_scores に独自のしきい値を適用してください。

policy_version は、スコアを算出したポリシーを識別します。異なるポリシーバージョンのスコアは比較できず、テキスト用モデルと画像用モデルのスコアも比較できないため、スコアを保存する際はバージョンも一緒に保存してください。

制限

以下の制限は、名前を指定した場合の従来のモデルのものです。Beat Moderation 2.0 はテキスト 1 件と最大 4 枚の画像を受け付け、その制限はこのページ冒頭のセクションに記載しています。

  • 1 回の呼び出しにつきテキスト 1 件、画像 1 枚、またはその両方。 テキストや画像が複数ある場合は HTTP 400 で拒否され、一部だけが判定されることもありません。項目ごとにリクエストを送信してください。
  • テキストは最大 8,000 文字。 超過したテキストは切り詰められず、HTTP 400 で拒否されます。分割して各部分を送信してください。長さは UTF-16 コードユニットで数えるため、多くの絵文字は 2 文字分として数えられます。
  • 画像は PNG、JPEG、WebP、最大 4 MB・1,600 万画素。 それ以外は HTTP 400 で拒否され、何が問題かがメッセージに示されます。
  • 音声と動画には対応していません。
  • 同期処理。 ストリーミングはなく、ポーリングするタスクもありません。サーバー側の処理時間は、テキストで約 0.2 秒、画像で約 0.5 秒です。

エラー

エラーは BeatAPI 標準の形式で返され、code、message、retryable、request_id、HTTP 429 の場合は retry_after_seconds を含みます。一覧と再試行の方針はエラーを参照してください。このエンドポイントのエラーオブジェクトには、OpenAI の type と param(常に null)も含まれるため、OpenAI SDK は通常どおり対応する例外を送出します。

{
"error": {
"code": "bad_request",
"message": "input is required: the text to moderate, an image, or one of each",
"retryable": false,
"request_id": "…",
"type": "invalid_request_error",
"param": null
}
}
HTTP ステータスコードtypePython SDK の例外意味
400bad_requestinvalid_request_errorBadRequestError空の入力、複数のテキストや画像、8,000 文字の超過、未対応のモデル名、不正な JSON、または下表の画像の問題など、違反した条件がメッセージに示されます。
401missing_api_key / invalid_api_keyinvalid_request_errorAuthenticationErrorキーが送信されていないか、無効なキーです。
402insufficient_creditsinsufficient_quotaAPIStatusError残高不足です。OpenAI 自体は残高がない場合に HTTP 429 を返しますが、この API では HTTP 402 を返すため、SDK は自動で再試行しません。
403forbiddeninvalid_request_errorPermissionDeniedErrorキーまたはアカウントにこのモデルの利用権限がありません。一度もチャージしていないアカウントでは利用できません。
429rate_limit_exceededrate_limit_errorRateLimitErrorリクエストの上限に達しています。Retry-After の秒数だけ待ってください。同じ値が retry_after_seconds にも含まれます。
503processing_unavailable / processing_failedserver_errorInternalServerErrorコンテンツ判定サービスが応答できませんでした。待機時間を段階的に延ばして再試行してください。

画像に問題がある場合、HTTP 400 の message は次のとおりです。

画像の状態message
PNG、JPEG、WebP ではない(GIF、BMP、HEIC 写真、SVG、画像ではないファイル)the image data is a GIF, which is not supported; send PNG, JPEG or WebP、または The image could not be read. Send a PNG, JPEG or WebP image.
4 MB を超えているimage is about 5.2 MB; the limit is 4 MB. Resize or recompress it、リンクの場合は An input file is larger than the 4 MB limit. …
1,600 万画素を超えているThe image has too many pixels; the limit is 16 megapixels. Resize it and try again.
リンクを取得できない(404、接続の拒否や無応答、無効な証明書、プライベートアドレス)An input file could not be downloaded. Upload it again or use a publicly reachable HTTPS URL, then retry.
リンクが Web ページや空のファイルを返すAn input link did not return an image. Link directly to the image file. / An input link returned an empty file.
リンクでも base64 の data URL でもない、または base64 が不正image_url.url must be an http(s) link to the image, or a base64 data URL such as data:image/jpeg;base64,...

破損した画像や途中で切れた画像は、これらの確認を通過したあと、モデルの処理で失敗することがあります。その場合は HTTP 503 が返り、ファイルが破損している可能性がメッセージに示されます。同じファイルで再試行しても失敗します。

最初の表の例外は、公式 Python SDK が実際に送出したものです。401、402、403、429 は 2026-10-12(openai 2.48.0)、400 と 503 は 2026-10-13(openai 3.29.0)にも確認しており、503 は途中で切れた JPEG で発生させました。

呼び出しが失敗した場合、判定は行われていません。エラーを「許可」とみなさないでください。HTTP 400 で拒否されたリクエストは課金されません。

課金

コンテンツ判定は入力トークンのみを対象に課金されます。既定の beat-moderation-2.0 は入力 1M トークンあたり 0.08∗∗です。従来のモデルは、名前を指定した場合に、テキストが∗∗入力1Mトークンあたり0.08** です。従来のモデルは、名前を指定した場合に、テキストが**入力 1M トークンあたり 0.065、画像を含むリクエストが入力 1M トークンあたり $0.23 です。3 つのモデルすべてが料金ページに掲載されています。

従来のモデルでは、判定ポリシーは毎回の呼び出しに含まれ、約 1,150 トークンが入力として計上されます。そのため、短いテキストでも最低限の入力使用量が発生します。画像は、サイズにかかわらず最大で約 1,000 トークンが加わります。

従来のモデルのトークン数です(2.0 の値はこのページ冒頭のセクションにあります)。

リクエスト入力トークン数料金
テキスト 1 行約 1,200≈ $0.00007
中国語 8,000 文字約 9,200≈ $0.0006
画像 1 枚約 2,000~2,500≈ $0.0005
画像 1 枚と短いプロンプト約 2,600≈ $0.0006

各レスポンスの usage.input_tokens で、実際に計上されたトークン数を確認し、呼び出しごとの費用を照合できます。

プライバシー

送信したテキストと画像はリクエストログに記録されません。保存されるのは、テキストの長さ、画像の枚数、スコア、ポリシーバージョンのみです。リンクで送信した画像は、そのリクエストのために 1 回だけ取得されます。

対応範囲と限界

  • 分類器であり、結果を保証するものではありません。 明白な違反は高い信頼性で検出します。一方、隠語、同音異義語、偽装したスパム、特に中国語でのこうした表現は、検出の信頼性が低くなります。利用の前に、自分のコンテンツで検証してください。
  • 画像は、境界的な内容ではテキストほど判定が安定しません。 芸術作品の裸体、格闘技、歴史的な写真はしきい値に近いスコアになり、似た画像でも allow、review、block に分かれることがあります。画像の中に描かれた文字(ミームや QR コード付きの広告)は、当社のテストの対象外です。
  • sexual/minors は、既知の虐待コンテンツを検出するハッシュ照合の代わりにはなりません。 また、法令上求められる通報義務を代替するものでもありません。
  • 音声と動画は判定しません。
  • 同じ入力でもスコアが完全に一致するとは限りません。 当社のテストでは、同一の呼び出し間で最大 0.04 の変動がありました。しきい値に近いコンテンツは、そのどちら側にも判定される可能性があります。しきい値付近のスコアは境界的な結果として扱ってください。

エージェント

エージェントは Capabilities API から同じ判定機能を利用できます。カタログ上の識別子は model:beat-moderation-1.0 と model:beat-moderation-vision-1.0 です。Run の入力は、テキストでは {"input": "…"}、画像では {"image_url": "…", "input": "任意のテキスト"} で、結果は上記と同じレスポンスボディです。この経路のエラーは、type と param を含まない標準形式で返されます。

Beat Moderation 2.0 は model:beat-moderation-2.0 です。Run の入力は {"input": "テキスト", "image_urls": ["https://..."]} で、画像が 1 枚だけなら image_url でも指定できます。