ForHosting KIT · 文章作成・要約AI

【投稿前チェック】不適切な文章を検出

コンテンツモデレーションは、投稿やコメントの文章に誹謗中傷、差別的な表現、規約違反の可能性がある内容が含まれていないかを検出するツールです。公開前の確認に使います。

● 安定提供中件あたり$0.003

実行 — $0.003 + $0.0135/件 API仕様を見る

ご利用方法ウェブAPIメールアプリ近日Telegram 近日

オンラインで実行

アカウントでログインし、当社のサーバー上で実行します。無料ツールはブラウザ内で動作しますが、これは上記の料金がKIT残高から差し引かれます。

検出される内容

誹謗中傷、差別的な表現、成人向けの内容、規約違反につながる可能性のある表現などを検出し、該当箇所とともに結果を返します。最終的な公開判断は運用側で行います。

使い方

投稿やコメントの文章を貼り付けて実行すると、問題となりうる箇所が一覧で返ります。掲示板やコメント欄への投稿を自動でチェックする仕組みにも組み込めます。

向いている場面

ユーザー投稿型のサービスのコメント欄、社内の匿名アンケート、口コミ投稿の一次確認などに使われています。

運用上の注意

検出結果は判断の補助としてお使いください。文脈によって適切・不適切の判断が分かれる場合があるため、最終確認は人の目で行うことをおすすめします。

料金

料金は1件につき$0.003（米ドル）、加えて1件ごとに$0.0135です。100件のコメントをまとめてチェックする場合、合計はおよそ$1.68です。

活用例

コメント欄の自動一次チェック

合同会社みどりデザインが運営するコミュニティサイトでは、投稿されたコメントを公開前にこのツールでチェックし、問題のありそうなものだけ人が確認しています。

社内匿名アンケートの一次確認

株式会社山田商事の人事部は、社内匿名アンケートの自由記述をこのツールで確認し、誹謗中傷にあたる内容が含まれていないかを事前にチェックしています。

口コミ投稿の公開前確認

山本翔太が運営するレビューサイトでは、投稿された口コミをこのツールにかけ、差別的な表現が含まれる投稿を公開前に止めています。

よくある質問

チェックにかけた投稿文は保存されますか

チェックの処理にのみ使用し、公開や第三者への提供、長期保管は行いません。

検出結果だけで自動的に投稿が非公開になりますか

なりません。検出結果は判断の材料として返され、最終的な公開・非公開の判断は運用側で行っていただきます。

一度に処理できる文章の長さに上限はありますか

1回のリクエストで扱えるのは最大20,000トークンです。

誤検出はありますか

文脈によっては、問題のない投稿が検出される場合があります。最終判断は人の目での確認をおすすめします。

日本語のサポートはありますか

申し訳ありませんが、日本語での問い合わせ対応は行っておりません。サポートは英語またはスペイン語のみです。

会員登録は必要ですか

必要ありません。登録なしでこのページからそのままご利用いただけます。

開発者向け — APIアクセス

このページの機能はすべてAPIからも利用できます。自社システムに組み込みたいチーム向けのセクションです。それ以外の方は上のツールをそのままお使いください。

エンドポイント

POSThttps://api.kit.forhosting.com/text/moderate

Bearerトークンで認証し、POST1回でタスクをキューに登録します。結果はWebhookまたは署名付きリンクで受け取れます。

お使いのスタックから呼び出す

curl -X POST https://api.kit.forhosting.com/text/moderate \
  -H "Authorization: Bearer $KIT_KEY" \
  -H "Content-Type: application/json" \
  -d &#39;{"items":["valor-1","valor-2"]}'

const res = await fetch("https://api.kit.forhosting.com/text/moderate", {
  method: "POST",
  headers: {
    "Authorization": `Bearer ${process.env.KIT_KEY}`,
    "Content-Type": "application/json"
  },
  body: JSON.stringify({
    "items": [
      "valor-1",
      "valor-2"
    ]
  })
});
const { task_id } = await res.json();

import os, requests

res = requests.post(
    "https://api.kit.forhosting.com/text/moderate",
    headers={"Authorization": f"Bearer {os.environ[&#39;KIT_KEY']}"},
    json={
    "items": [
        "valor-1",
        "valor-2"
    ]
},
)
task_id = res.json()["task_id"]

<?php
$res = file_get_contents("https://api.kit.forhosting.com/text/moderate", false, stream_context_create([
  "http" => [
    "method"  => "POST",
    "header"  => "Authorization: Bearer " . getenv("KIT_KEY") . "\r\nContent-Type: application/json",
    "content" => &#39;{"items":["valor-1","valor-2"]}',
  ],
]));
$task = json_decode($res, true);

body := bytes.NewBufferString(`{"items":["valor-1","valor-2"]}`)
req, _ := http.NewRequest("POST", "https://api.kit.forhosting.com/text/moderate", body)
req.Header.Set("Authorization", "Bearer "+os.Getenv("KIT_KEY"))
req.Header.Set("Content-Type", "application/json")
res, _ := http.DefaultClient.Do(req)

リクエスト例

{
  "items": [
    "valor-1",
    "valor-2"
  ]
}

レスポンス例

{
  "task_id": "tsk_a1b2c3d4e5f6a1b2c3d4e5f6",
  "type": "text.moderate",
  "status": "queued",
  "_links": {
    "result": "/tasks/tsk_…/result"
  }
}

非同期APIです。task_idは即時に返ります。ポーリングは1秒あたり1リクエストまでです。

料金

1リクエストあたり$0.003

件あたり$0.0135

単価はすべて公開しています。トークン換算や独自クレジットはありません。失敗したタスクは課金されません。

制限

max_tokens 20000

エラー

HTTP	コード	意味
`401`	`unauthorized`	APIキーが無効か、指定されていません。Authorizationヘッダーを確認してください。
`402`	`insufficient_balance`	残高が不足しています。チャージ後に再度お試しください。
`404`	`unknown_type`	指定されたタスクタイプは存在しません。タイプ名を確認してください。
`429`	`rate_limited`	リクエストが多すぎます。しばらく待ってから再度お試しください。
`422`	`task_failed`	タスクの処理に失敗しました。このタスクは課金されません。

KITの完全なドキュメントを見る →