ForHosting KIT · Texto e IA

Moderação de conteúdo

A ferramenta analisa textos enviados por usuários — comentários, avaliações, posts, mensagens — e sinaliza conteúdo problemático antes de ele ir ao ar: ofensa, discurso de ódio, assédio, ameaça, conteúdo sexual. Cada texto volta com as categorias violadas e a severidade, para o seu fluxo decidir o que publicar, segurar ou revisar.

● Estávelpor itemUS$ 0,003

Executar — US$ 0,003 + US$ 0,0135/item Ver a API

Use pelo WebAPIE-mailApp em breveTelegram em breve

Rode online

Rode nos nossos servidores com a sua conta. As ferramentas grátis rodam no seu navegador; esta aqui é descontada do seu saldo do KIT pelo preço acima.

O que a moderação sinaliza

A análise cobre as categorias que derrubam comunidades: ataque pessoal e ofensa direta, discurso de ódio contra grupos, assédio e intimidação, ameaça, conteúdo sexual, incitação à violência e automutilação. A resposta não é um “reprovado” seco: vem por categoria, com grau de severidade — porque o comentário ácido dentro da regra e a ameaça explícita não podem receber o mesmo tratamento, e quem define a régua de cada categoria é você.

Filtro de palavrão não modera nada

A lista de palavras proibidas falha nos dois sentidos: bloqueia “assinatura” por conter palavrão escondido e deixa passar a ofensa escrita com asteriscos, com trocadinha de letras ou em gíria regional que nasceu ontem. A análise contextual lê a frase inteira: distingue o palavrão de desabafo (“que jogo bom, caramba”) do ataque dirigido a alguém — e pega a agressão polida, aquela sem nenhuma palavra feia, que lista nenhuma pegaria.

A máquina sinaliza; a régua é sua

Moderação automática bem usada é triagem, não tribunal. O desenho saudável: severidade alta segura a publicação na hora; faixa intermediária vai para revisão humana; o resto publica direto. Assim o moderador humano deixa de ler mil textos inofensivos para se concentrar nos vinte duvidosos — e a decisão sensível, aquela que define a cultura da sua comunidade, continua sendo tomada por gente, com contexto.

Custo por item moderado

US$ 0,003 por chamada, mais US$ 0,0135 por texto analisado, em dólar americano, com até 20.000 tokens por chamada. Um portal com 2.000 comentários mensais gasta cerca de US$ 27 por mês; um fórum menor, centavos por dia. Pagamento por uso, sem contrato de volume — a moderação escala junto com a comunidade, para cima e para baixo, e o custo de proteger o espaço fica visível na conta, item por item.

Casos de uso

Comentários de portal sem plantão da madrugada

Um portal de notícias de Belo Horizonte modera comentários 24 horas sem equipe noturna: severidade alta fica retida na hora, casos duvidosos aguardam o moderador da manhã. O caso de difamação que antes ficava seis horas no ar hoje não chega a ser publicado.

Perguntas e respostas de marketplace

Thiago Barbosa Lima vende em marketplace próprio com campo de perguntas aberto. A moderação barra xingamento e tentativa de golpe no campo público — e deixa passar a crítica dura ao produto, que é legítima e ele prefere responder à vista de todos.

Comunidade escolar protegida

Um aplicativo de escola em Recife tem mural aberto a alunos e famílias. Toda postagem passa pela análise antes de publicar; intimidação entre alunos gera alerta imediato à coordenação — que age no caso real em vez de fiscalizar o mural o dia inteiro.

Perguntas frequentes

Entende gíria e ofensa disfarçada em português do Brasil?

O contexto da frase é analisado por inteiro, o que cobre gíria regional, grafias com asterisco e trocas de letra usadas para driblar filtros. Linguagem ofensiva recém-inventada é corrida de gato e rato em qualquer sistema — por isso a faixa de revisão humana existe.

Crítica pesada ao meu produto é sinalizada?

Crítica, por mais dura, não é violação: “o produto é péssimo e me arrependi” passa. A sinalização mira ataque a pessoas e grupos, ameaça e conteúdo das categorias de risco — não desagrado com a marca.

Posso decidir o que acontece com cada nível de severidade?

Sim, e deve: a resposta traz categoria e grau, e o seu sistema aplica a política — reter, publicar, mandar para fila humana. A ferramenta informa; a regra da casa é sua.

Quantos falsos positivos devo esperar?

Nenhum sistema automático — nem humano — modera sem erro. A prática que funciona: publicar o que vier limpo, reter só severidade alta e revisar a faixa do meio. Auditar uma amostra por semana mantém a régua calibrada com a sua comunidade.

Como fica o preço num fórum com picos de tráfego?

A cobrança acompanha o volume real: US$ 0,0135 por texto mais US$ 0,003 por chamada, em dólar. No mês de pico você paga o pico; no mês morno, quase nada. Não existe franquia a estourar.

Os textos moderados alimentam algum banco de vocês?

Não: o texto entra, a classificação sai, e o serviço não retém acervo dos seus usuários. Conteúdo de comunidade identifica pessoas — pela LGPD, envie o texto da postagem, sem o perfil completo do autor junto.

Para desenvolvedores — acesso via API

Tudo nesta página está disponível via API. Esta seção é para equipes que querem integrar a ferramenta aos próprios sistemas; quem não precisa disso pode simplesmente usar a ferramenta acima.

Endpoint

POSThttps://api.kit.forhosting.com/text/moderate

Autenticação por token Bearer. Um único POST coloca a tarefa na fila; o resultado chega por webhook ou link assinado.

Chame do seu código

curl -X POST https://api.kit.forhosting.com/text/moderate \
  -H "Authorization: Bearer $KIT_KEY" \
  -H "Content-Type: application/json" \
  -d &#39;{"items":["valor-1","valor-2"]}'

const res = await fetch("https://api.kit.forhosting.com/text/moderate", {
  method: "POST",
  headers: {
    "Authorization": `Bearer ${process.env.KIT_KEY}`,
    "Content-Type": "application/json"
  },
  body: JSON.stringify({
    "items": [
      "valor-1",
      "valor-2"
    ]
  })
});
const { task_id } = await res.json();

import os, requests

res = requests.post(
    "https://api.kit.forhosting.com/text/moderate",
    headers={"Authorization": f"Bearer {os.environ[&#39;KIT_KEY']}"},
    json={
    "items": [
        "valor-1",
        "valor-2"
    ]
},
)
task_id = res.json()["task_id"]

<?php
$res = file_get_contents("https://api.kit.forhosting.com/text/moderate", false, stream_context_create([
  "http" => [
    "method"  => "POST",
    "header"  => "Authorization: Bearer " . getenv("KIT_KEY") . "\r\nContent-Type: application/json",
    "content" => &#39;{"items":["valor-1","valor-2"]}',
  ],
]));
$task = json_decode($res, true);

body := bytes.NewBufferString(`{"items":["valor-1","valor-2"]}`)
req, _ := http.NewRequest("POST", "https://api.kit.forhosting.com/text/moderate", body)
req.Header.Set("Authorization", "Bearer "+os.Getenv("KIT_KEY"))
req.Header.Set("Content-Type", "application/json")
res, _ := http.DefaultClient.Do(req)

Exemplo de requisição

{
  "items": [
    "valor-1",
    "valor-2"
  ]
}

Exemplo de resposta

{
  "task_id": "tsk_a1b2c3d4e5f6a1b2c3d4e5f6",
  "type": "text.moderate",
  "status": "queued",
  "_links": {
    "result": "/tasks/tsk_…/result"
  }
}

A API é assíncrona: cada chamada devolve um task_id na hora. Se preferir polling, consulte o status a até 1 requisição por segundo.

Preço

por chamadaUS$ 0,003

por itemUS$ 0,0135

Preço publicado, sem tokens nem créditos escondidos. Tarefa que falha não é cobrada.

Limites

max_tokens 20000

Erros

HTTP	Código	O que significa
`401`	`unauthorized`	Token ausente ou inválido. Confira o header Authorization.
`402`	`insufficient_balance`	Saldo insuficiente para esta tarefa. Faça uma recarga e tente de novo.
`404`	`unknown_type`	Esse tipo de tarefa não existe. Confira o campo type no catálogo.
`429`	`rate_limited`	Muitas requisições em pouco tempo. Espere um instante e tente de novo.
`422`	`task_failed`	A tarefa falhou do nosso lado. Você não paga nada por ela.

Ver a documentação completa do KIT →