ForHosting KIT · Texte et IA

Modération de commentaires

La modération analyse un texte pour repérer les contenus problématiques : insultes, propos haineux, menaces, contenu sexuel ou violent, spam manifeste. Elle signale ce qui pose problème et pourquoi, sans supprimer ni publier à votre place. Sur des commentaires, des messages ou des avis, elle fait un premier tri avant qu’un contenu déplacé n’apparaisse en public.

● Stablepar requête + par élément$0.003

Lancer — $0.003 + $0.0135/élément Voir l’API

Utilisez-le depuis WebAPIE-mailApp bientôtTelegram bientôt

Exécuter en ligne

Exécutez cette tâche sur nos serveurs, avec votre compte. Les outils gratuits tournent dans votre navigateur ; celui-ci est facturé sur votre solde KIT au prix affiché ci-dessus.

Ce que la modération repère

L’outil examine un texte et signale les catégories sensibles qu’il contient : insulte, haine visant une personne ou un groupe, menace, harcèlement, contenu sexuel explicite, incitation à la violence, spam. Il ne se contente pas d’un oui ou non : il indique la ou les catégories concernées, ce qui vous permet d’appliquer des règles différentes selon les cas. Un juron isolé et une menace précise n’appellent pas la même réaction, et la modération vous laisse faire cette distinction.

Elle signale, vous décidez

La modération ne supprime rien et ne bloque personne à votre place. Elle remonte un signalement ; la décision — masquer, valider, avertir l’auteur — reste entre vos mains ou celles de votre équipe. Ce fonctionnement est important : le contexte échappe parfois à une machine, et une décision de suppression sur un espace public engage votre responsabilité. L’outil accélère le tri du flux entrant ; il ne remplace pas le jugement humain sur les cas délicats.

À l’échelle d’un fil de commentaires

Sur une poignée de commentaires, une relecture manuelle suffit. Sur des centaines par jour, elle devient impossible à tenir. La modération passe chaque contribution au filtre avant qu’elle n’apparaisse, et ne fait remonter à un humain que ce qui mérite un regard. Depuis cette page, vous testez un texte ; par API, vous branchez la modération sur le flux de votre site. Les canaux e-mail et messagerie viendront élargir ces usages.

Les limites : contexte et faux positifs

Aucune modération automatique n’est parfaite. Un mot cru employé au second degré entre amis peut être signalé à tort ; une formulation détournée peut au contraire passer. C’est pourquoi le signalement n’est jamais une sanction automatique. En réglant votre seuil de tolérance et en gardant l’humain sur les cas limites, vous obtenez un filtre efficace sans transformer votre espace en zone censurée à l’excès.

Cas d’usage

Filtrer les commentaires d’un blog associatif

Une association ouvre les commentaires sous ses articles. Faute de temps pour tout surveiller, elle branche la modération : les contributions contenant insultes ou propos haineux sont retenues pour vérification, les autres passent. Les bénévoles ne relisent plus que les cas signalés, au lieu de tout lire.

Protéger un forum communautaire

Sur un forum actif, les débordements arrivent surtout le soir, quand personne ne surveille. La modération met en attente les messages problématiques jusqu’à ce qu’un animateur les examine, ce qui évite qu’une menace ou une attaque personnelle ne reste visible des heures durant.

Vérifier les avis avant mise en ligne

Une boutique publie les avis de ses clients. Avant affichage, chaque avis passe en modération : les rares messages injurieux ou hors sujet sont écartés, sans bloquer les critiques légitimes, même sévères, qui ont toute leur place.

Questions fréquentes

L’outil supprime-t-il automatiquement les contenus signalés ?

Non. Il signale et indique la catégorie du problème ; la décision de masquer, valider ou avertir reste la vôtre. Ce choix protège votre responsabilité sur les cas où le contexte compte.

Quelles catégories sont détectées ?

Insultes, propos haineux, menaces, harcèlement, contenu sexuel explicite, incitation à la violence et spam manifeste. L’outil précise la ou les catégories concernées, pour que vous appliquiez des règles adaptées à chacune.

Y a-t-il des erreurs de jugement ?

Oui, comme toute modération automatique. Un second degré peut être signalé à tort, une formulation détournée peut passer. C’est pourquoi le signalement n’entraîne pas de sanction automatique et laisse l’humain trancher les cas limites.

Puis-je régler le niveau de sévérité ?

Vous gardez la main sur le seuil : ce que vous laissez passer ou retenez dépend de vos règles. Un espace grand public et un forum entre adultes n’appellent pas la même tolérance.

Combien coûte la modération ?

$0.003 par requête et $0.0135 par élément analysé, soit par commentaire ou message. Le coût suit le volume, s’affiche avant l’envoi et ne suppose aucun abonnement.

Les messages modérés sont-ils conservés ?

Non. Chaque texte est analysé pour renvoyer le signalement, puis n’est pas conservé sur nos serveurs, ni réutilisé pour un autre usage.

Pour les développeurs — accès API

Tout sur cette page est disponible par programmation. Cette section s'adresse aux équipes qui veulent l'intégrer à leurs systèmes ; les autres peuvent simplement utiliser l'outil ci-dessus.

Endpoint

POSThttps://api.kit.forhosting.com/text/moderate

Authentification par jeton Bearer : un seul POST met la tâche en file d’attente, et le résultat vous parvient par webhook ou lien signé.

Appeler depuis votre stack

curl -X POST https://api.kit.forhosting.com/text/moderate \
  -H "Authorization: Bearer $KIT_KEY" \
  -H "Content-Type: application/json" \
  -d &#39;{"items":["valor-1","valor-2"]}'

const res = await fetch("https://api.kit.forhosting.com/text/moderate", {
  method: "POST",
  headers: {
    "Authorization": `Bearer ${process.env.KIT_KEY}`,
    "Content-Type": "application/json"
  },
  body: JSON.stringify({
    "items": [
      "valor-1",
      "valor-2"
    ]
  })
});
const { task_id } = await res.json();

import os, requests

res = requests.post(
    "https://api.kit.forhosting.com/text/moderate",
    headers={"Authorization": f"Bearer {os.environ[&#39;KIT_KEY']}"},
    json={
    "items": [
        "valor-1",
        "valor-2"
    ]
},
)
task_id = res.json()["task_id"]

<?php
$res = file_get_contents("https://api.kit.forhosting.com/text/moderate", false, stream_context_create([
  "http" => [
    "method"  => "POST",
    "header"  => "Authorization: Bearer " . getenv("KIT_KEY") . "\r\nContent-Type: application/json",
    "content" => &#39;{"items":["valor-1","valor-2"]}',
  ],
]));
$task = json_decode($res, true);

body := bytes.NewBufferString(`{"items":["valor-1","valor-2"]}`)
req, _ := http.NewRequest("POST", "https://api.kit.forhosting.com/text/moderate", body)
req.Header.Set("Authorization", "Bearer "+os.Getenv("KIT_KEY"))
req.Header.Set("Content-Type", "application/json")
res, _ := http.DefaultClient.Do(req)

Exemple de requête

{
  "items": [
    "valor-1",
    "valor-2"
  ]
}

Exemple de réponse

{
  "task_id": "tsk_a1b2c3d4e5f6a1b2c3d4e5f6",
  "type": "text.moderate",
  "status": "queued",
  "_links": {
    "result": "/tasks/tsk_…/result"
  }
}

L’API est asynchrone : chaque appel renvoie un task_id immédiatement, puis vous interrogez l’état à raison d’une requête par seconde.

Tarifs

par requête$0.003

par élément$0.0135

Le prix est publié, sans tokens ni crédits. Une tâche qui échoue n’est pas facturée.

Limites

max_tokens 20000

Erreurs

HTTP	Code	Signification
`401`	`unauthorized`	Clé API absente ou invalide : vérifiez l’en-tête Authorization.
`402`	`insufficient_balance`	Solde insuffisant : rechargez votre compte pour lancer cette tâche.
`404`	`unknown_type`	Type de tâche inconnu : vérifiez le champ type de votre requête.
`429`	`rate_limited`	Trop de requêtes : ralentissez la cadence, puis réessayez.
`422`	`task_failed`	La tâche a échoué : elle ne vous est pas facturée.

Consulter la documentation complète du KIT →