投稿画像の不適切コンテンツを自動検出
利用者が投稿した画像を公開する前に、不適切なコンテンツが含まれていないかをAIが判定する機能です。性的な表現や暴力表現など、あらかじめ指定したカテゴリごとに評価を数値で自動的に返します。
オンラインで実行
アカウントでログインし、当社のサーバー上で実行します。無料ツールはブラウザ内で動作しますが、これは上記の料金がKIT残高から差し引かれます。
判定する内容
性的な表現や暴力表現など、あらかじめ定めたカテゴリごとに評価を返します。単純な合格・不合格の判定ではなく、カテゴリごとのリスクの度合いを数値で示します。
自動チェックが必要な理由
利用者が画像を投稿できる掲示板やマーケットプレイスでは、投稿数が多いほど1枚ずつ人が確認するのが難しくなります。自動判定で明らかに問題のある投稿を先に絞り込み、判断が難しいものだけを人による確認に回す運用に向いています。
重要な留意点
この機能は判定の補助であり、法的な判断や最終的な公開可否の決定に代わるものではありません。境界線上の投稿については、最終的な判断を人が行う運用をおすすめします。
活用例
フリマアプリの出品画像チェック
個人間売買のプラットフォームを運営する事業者は、出品される商品画像を公開前に自動でチェックし、明らかに規約違反の画像だけを先に止めています。
コミュニティサイトの投稿確認
合同会社みどりデザインが運営するコミュニティサイトでは、会員が投稿する画像を公開前に自動判定し、判断が難しいものだけ運営が個別に確認しています。
ニュースサイトのコメント欄
読者投稿を受け付けるニュースサイトでは、コメント欄に添付される画像を自動チェックし、ボランティアだけに頼らない運用にしています。
よくある質問
人による確認をすべて置き換えられますか?
いいえ。明らかに問題のある投稿を絞り込み、判断の難しいものを人による確認に回す使い方を想定しています。最終判断は引き続き人が行うことをおすすめします。
どのカテゴリを判定できますか?
性的な表現や暴力表現が標準的なカテゴリです。用途に応じて対象カテゴリを調整できます。
チェックした画像は保存されますか?
いいえ。判定処理にのみ使用され、処理後は削除されます。
大量の画像をまとめて処理する場合の料金は?
1リクエストあたり$0.010(米ドル)に加えて、画像1枚ごとに$0.0575です。5000枚を処理する場合、合計は約$337.50になります。
結果はどのくらいの速さで返ってきますか?
処理は非同期で行われ、依頼後すぐに受付番号が発行されます。多くの場合数秒程度で結果を取得できます。
しきい値は自由に設定できますか?
はい。どの程度のリスクから自動的に非公開にするか、しきい値を運用側で決められます。
開発者向け — APIアクセス
このページの機能はすべてAPIからも利用できます。自社システムに組み込みたいチーム向けのセクションです。それ以外の方は上のツールをそのままお使いください。
エンドポイント
Bearerトークンで認証し、POST1回でタスクをキューに登録します。結果はWebhookまたは署名付きリンクで受け取れます。
お使いのスタックから呼び出す
curl -X POST https://api.kit.forhosting.com/image/moderate \
-H "Authorization: Bearer $KIT_KEY" \
-H "Content-Type: application/json" \
-d '{"image":"https://ejemplo.com/imagen.jpg"}'const res = await fetch("https://api.kit.forhosting.com/image/moderate", {
method: "POST",
headers: {
"Authorization": `Bearer ${process.env.KIT_KEY}`,
"Content-Type": "application/json"
},
body: JSON.stringify({
"image": "https://ejemplo.com/imagen.jpg"
})
});
const { task_id } = await res.json();import os, requests
res = requests.post(
"https://api.kit.forhosting.com/image/moderate",
headers={"Authorization": f"Bearer {os.environ['KIT_KEY']}"},
json={
"image": "https://ejemplo.com/imagen.jpg"
},
)
task_id = res.json()["task_id"]<?php
$res = file_get_contents("https://api.kit.forhosting.com/image/moderate", false, stream_context_create([
"http" => [
"method" => "POST",
"header" => "Authorization: Bearer " . getenv("KIT_KEY") . "\r\nContent-Type: application/json",
"content" => '{"image":"https://ejemplo.com/imagen.jpg"}',
],
]));
$task = json_decode($res, true);body := bytes.NewBufferString(`{"image":"https://ejemplo.com/imagen.jpg"}`)
req, _ := http.NewRequest("POST", "https://api.kit.forhosting.com/image/moderate", body)
req.Header.Set("Authorization", "Bearer "+os.Getenv("KIT_KEY"))
req.Header.Set("Content-Type", "application/json")
res, _ := http.DefaultClient.Do(req)リクエスト例
{
"image": "https://ejemplo.com/imagen.jpg"
}レスポンス例
{
"task_id": "tsk_a1b2c3d4e5f6a1b2c3d4e5f6",
"type": "image.moderate",
"status": "queued",
"_links": {
"result": "/tasks/tsk_…/result"
}
}非同期APIです。task_idは即時に返ります。ポーリングは1秒あたり1リクエストまでです。
料金
単価はすべて公開しています。トークン換算や独自クレジットはありません。失敗したタスクは課金されません。
制限
max_mb | 15 |
max_megapixels | 12 |
エラー
| HTTP | コード | 意味 |
|---|---|---|
401 | unauthorized | APIキーが無効か、指定されていません。Authorizationヘッダーを確認してください。 |
402 | insufficient_balance | 残高が不足しています。チャージ後に再度お試しください。 |
404 | unknown_type | 指定されたタスクタイプは存在しません。タイプ名を確認してください。 |
429 | rate_limited | リクエストが多すぎます。しばらく待ってから再度お試しください。 |
422 | task_failed | タスクの処理に失敗しました。このタスクは課金されません。 |