JSONスキーマ指定でWebページを抽出
KITはJSONスキーマで項目名と型をあらかじめ指定し、その形式に沿ってWebページからデータを抽出するツールです。抽出結果の形式を固定して、後続のシステムにそのまま取り込みたい担当者向けに使えます。
オンラインで実行
アカウントでログインし、当社のサーバー上で実行します。無料ツールはブラウザ内で動作しますが、これは上記の料金がKIT残高から差し引かれます。
スキーマとは何を指定するのか
抽出したい項目の名前と型(文字列、数値など)をJSON形式で指定します。指定した通りの構造でデータが返されるため、ページごとに出力形式がばらつくことがありません。
AI抽出との違い
項目を自由に指示する別の機能とは異なり、出力の形式そのものを固定できるのが特徴です。データベースへの取り込みや、既存システムの入力形式に合わせたい場合に向いています。
該当データがない場合
指定した項目に該当するデータがページ内に見つからない場合、その項目はnullとして返されます。エラーにはならず、処理は続行されます。
料金と制限
ブラウザでの描画とAIによる抽出を組み合わせるため、料金は1リクエストあたり$0.046(米ドル)に1件$0.0145を加えた金額です。処理は30秒以内に完了する必要があります。
活用例
商品データのDB取り込み
開発者の佐藤健一が、複数の仕入れ先サイトから同じJSON形式で商品データを抽出し、そのまま社内のデータベースに取り込んでいる。
取引先サイトの情報取得
情報システム担当の高橋恵子が、取引先サイトの公開情報を社内システムの入力形式に合わせたスキーマで取得している。
複数サイトの横断比較
データ分析担当の鈴木美咲が、調査対象の複数サイトから同じ項目を同じ形式で抽出し、比較表を作成している。
よくある質問
スキーマはどのように指定しますか。
抽出したい項目の名前と型をJSON形式で指定します。指定した構造でデータが返されます。
該当するデータが見つからない場合はどうなりますか。
その項目はnullとして返され、処理はエラーにならず続行されます。
AIが判断して抽出する機能との違いは何ですか。
こちらは出力の形式(項目名と型)をあらかじめ固定できる点が異なります。システムへの取り込みに向いています。
他社サイトを対象にしても問題ありませんか。
対象サイトの利用規約に従ってご利用ください。
料金体系を教えてください。
1リクエストあたり$0.046に、処理件数1件ごと$0.0145を加えた金額です。
日本語のサポートはありますか。
申し訳ありませんが、日本語でのサポートは行っておりません。サポートは英語またはスペイン語で、担当者が直接対応します。ツール自体は日本語で問題なくご利用いただけます。
開発者向け — APIアクセス
このページの機能はすべてAPIからも利用できます。自社システムに組み込みたいチーム向けのセクションです。それ以外の方は上のツールをそのままお使いください。
エンドポイント
Bearerトークンで認証し、POST1回でタスクをキューに登録します。結果はWebhookまたは署名付きリンクで受け取れます。
お使いのスタックから呼び出す
curl -X POST https://api.kit.forhosting.com/web/scrape-schema \
-H "Authorization: Bearer $KIT_KEY" \
-H "Content-Type: application/json" \
-d '{"url":"https://ejemplo.com"}'const res = await fetch("https://api.kit.forhosting.com/web/scrape-schema", {
method: "POST",
headers: {
"Authorization": `Bearer ${process.env.KIT_KEY}`,
"Content-Type": "application/json"
},
body: JSON.stringify({
"url": "https://ejemplo.com"
})
});
const { task_id } = await res.json();import os, requests
res = requests.post(
"https://api.kit.forhosting.com/web/scrape-schema",
headers={"Authorization": f"Bearer {os.environ['KIT_KEY']}"},
json={
"url": "https://ejemplo.com"
},
)
task_id = res.json()["task_id"]<?php
$res = file_get_contents("https://api.kit.forhosting.com/web/scrape-schema", false, stream_context_create([
"http" => [
"method" => "POST",
"header" => "Authorization: Bearer " . getenv("KIT_KEY") . "\r\nContent-Type: application/json",
"content" => '{"url":"https://ejemplo.com"}',
],
]));
$task = json_decode($res, true);body := bytes.NewBufferString(`{"url":"https://ejemplo.com"}`)
req, _ := http.NewRequest("POST", "https://api.kit.forhosting.com/web/scrape-schema", body)
req.Header.Set("Authorization", "Bearer "+os.Getenv("KIT_KEY"))
req.Header.Set("Content-Type", "application/json")
res, _ := http.DefaultClient.Do(req)リクエスト例
{
"url": "https://ejemplo.com"
}レスポンス例
{
"task_id": "tsk_a1b2c3d4e5f6a1b2c3d4e5f6",
"type": "web.scrape_schema",
"status": "queued",
"_links": {
"result": "/tasks/tsk_…/result"
}
}非同期APIです。task_idは即時に返ります。ポーリングは1秒あたり1リクエストまでです。
料金
単価はすべて公開しています。トークン換算や独自クレジットはありません。失敗したタスクは課金されません。
制限
timeout_sec | 30 |
max_crawl_pages | 25 |
エラー
| HTTP | コード | 意味 |
|---|---|---|
401 | unauthorized | APIキーが無効か、指定されていません。Authorizationヘッダーを確認してください。 |
402 | insufficient_balance | 残高が不足しています。チャージ後に再度お試しください。 |
404 | unknown_type | 指定されたタスクタイプは存在しません。タイプ名を確認してください。 |
429 | rate_limited | リクエストが多すぎます。しばらく待ってから再度お試しください。 |
422 | task_failed | タスクの処理に失敗しました。このタスクは課金されません。 |