PT ▾
Obter chave de API

EmbeddingApisGuia

API de texto sem censura para seu pipeline

Crie um chatbot baseado em LLM com API estilo OpenAI

Um bot de chat baseado em LLM é um laço: pegar a mensagem do usuário, adicioná-la ao histórico armazenado, enviar esse histórico para um modelo e postar a resposta. Este guia constrói esse laço em Python, depois o envolve para o Discord e cobre limites e custo.

Atualizado

Pontos principais

  • O modelo é sem estado, então seu bot deve armazenar e reenviar o histórico.

  • Use o modelo uncensored com o SDK da OpenAI e a base URL do site.

  • Limite a concorrência em 8 e coloque o resto em fila para evitar erros 429.

  • Uma rodada típica de chat custa uma fração de centavo.

Balões de fala em loop ao redor de um console conectado a um cubo de servidor, ilustrando um chatbot construído em uma API LLM

O que o bot precisa fazer

A API não lembra nada entre chamadas. Cada requisição deve conter toda a conversa que você quer que o modelo veja. Então, o trabalho de um chatbot é principalmente contabilidade: manter uma lista de mensagens por usuário ou canal, adicionar a nova mensagem, enviar a lista, armazenar a resposta e repetir.

Este serviço é uma API compatível com OpenAI, apenas de texto. Ele executa um modelo de pesos abertos, operado por um provedor independente e ajustado para responder sem recusas de conteúdo para uso adulto legal. Não há endpoint de imagem, áudio ou embeddings, apesar do que o nome do domínio possa sugerir, então tudo abaixo é sobre completions de chat. Conteúdo sexual envolvendo menores de idade não é permitido.

O laço principal em Python

Instale o SDK com pip install openai, exporte sua chave como API_KEY e comece com uma versão de console. Se você ainda não tem uma chave, a página da chave de API oferece $0,50 de crédito de teste no registro.

import os
from openai import OpenAI

client = OpenAI(base_url="https://api.embeddingapis.com/v1", api_key=os.environ["API_KEY"])

SYSTEM = "You are Mira, a friendly assistant for a game community. Keep answers short."
history = [{"role": "system", "content": SYSTEM}]

def reply(user_text: str) -> str:
    history.append({"role": "user", "content": user_text})
    resp = client.chat.completions.create(
        model="uncensored",
        messages=history,
        temperature=0.8,
        max_tokens=400,
    )
    text = resp.choices[0].message.content
    history.append({"role": "assistant", "content": text})
    return text

while True:
    print(reply(input("you> ")))

Este é um bot funcional. Tudo o mais neste artigo o torna seguro para rodar para muitas pessoas ao mesmo tempo.

Escreva um prompt de sistema que se mantenha

A mensagem de sistema é onde o bot ganha seu nome, tom e limites. Alguns hábitos fazem com que ele se mantenha em conversas longas:

  • Declare o papel e o público em uma ou duas frases.
  • Dê regras de formato: comprimento, idioma, se deve usar listas.
  • Liste o que o bot deve fazer quando não sabe algo, por exemplo, fazer uma pergunta.
  • Coloque fatos duradouros, como regras do servidor ou detalhes do produto, na mensagem de sistema e não nas rodadas de chat.

Para bots de ficção, roleplay e companheiros para adultos, adicione o cenário e a voz do personagem aqui, e diga que o personagem permanece no papel a menos que o usuário saia dele. Teste o prompt com dez ou quinze mensagens difíceis antes de publicar o bot.

Mantenha um histórico por conversa

Uma lista global como a acima misturaria todos os usuários. Armazene um histórico separado por canal do Discord, ID de chat do Telegram ou sessão web. Um dicionário funciona para um protótipo; use um banco de dados quando o bot precisar sobreviver a reinicializações.

O contexto é grande: 100.000 tokens cobrindo prompt e resposta juntos. Mesmo assim, não envie tudo para sempre. Históricos longos custam mais em cada rodada e retardam a resposta. Uma política simples é manter a mensagem de sistema mais as últimas 20 mensagens:

histories = {}

def trim(msgs, keep=20):
    return [msgs[0]] + msgs[1:][-keep:]

def reply_for(chat_id, user_text):
    msgs = histories.setdefault(chat_id, [{"role": "system", "content": SYSTEM}])
    msgs.append({"role": "user", "content": user_text})
    msgs[:] = trim(msgs)
    resp = client.chat.completions.create(model="uncensored", messages=msgs)
    text = resp.choices[0].message.content
    msgs.append({"role": "assistant", "content": text})
    return text

Para bots que precisam de memória longa, como companheiros, resuma mensagens antigas em uma nota curta periodicamente e mantenha a nota perto do topo do histórico.

Uma versão para o Discord

Com a biblioteca discord.py, o bot responde quando é mencionado. As chamadas à API são bloqueantes, então execute-as em uma thread para manter a conexão do Discord ativa.

import asyncio, os
import discord
from openai import OpenAI

client = OpenAI(base_url="https://api.embeddingapis.com/v1", api_key=os.environ["API_KEY"])
intents = discord.Intents.default()
intents.message_content = True
bot = discord.Client(intents=intents)
slots = asyncio.Semaphore(8)
histories = {}
SYSTEM = "You are Mira, a friendly assistant. Keep answers under 120 words."

def ask(chat_id, text):
    msgs = histories.setdefault(chat_id, [{"role": "system", "content": SYSTEM}])
    msgs.append({"role": "user", "content": text})
    msgs[:] = [msgs[0]] + msgs[1:][-20:]
    r = client.chat.completions.create(model="uncensored", messages=msgs, max_tokens=300)
    out = r.choices[0].message.content
    msgs.append({"role": "assistant", "content": out})
    return out

@bot.event
async def on_message(message):
    if message.author.bot or bot.user not in message.mentions:
        return
    async with slots:
        async with message.channel.typing():
            text = await asyncio.to_thread(ask, message.channel.id, message.clean_content)
    await message.reply(text[:1900])

bot.run(os.environ["DISCORD_TOKEN"])

A mesma função ask se encaixa em um bot do Telegram (python-telegram-bot) ou em um endpoint web pequeno sem alterações. Apenas a parte que recebe e envia mensagens difere.

Limites, streaming e erros

Uma chave completa permite 8 requisições simultâneas e 300 requisições por minuto. Uma chave de teste permite 2 e 60. O semáforo no exemplo do Discord mantém você abaixo do limite de concorrência fazendo mensagens extras esperarem. Se você ainda vir HTTP 429, leia o código de erro: rate_limited significa muitos por minuto, concurrency significa muitos ao mesmo tempo, e um cabeçalho Retry-After: 5 significa sobrecarga temporária. Aguarde 5 segundos e tente novamente.

Para uma janela de chat web, defina stream como true e envie tokens para o navegador conforme chegam, para que os usuários vejam o texto aparecer em vez de esperar. Uma stream ocupa um slot de concorrência até o fim, então feche-a quando o visitante sair. Requisições falhas ou recusadas não são cobradas, e cada resposta inclui X-Balance-USD, que você pode usar para avisar a si mesmo antes que o crédito acabe.

Regras para sua comunidade

Um modelo sem censura responde mais abertamente que a maioria dos assistentes hospedados, então decida o que seu próprio bot deve fazer. O modelo é para uso adulto legal, e conteúdo sexual envolvendo menores de idade é um limite rígido do serviço. Se seu bot roda em um servidor público do Discord ou em um grupo do Telegram, adicione o seguinte você mesmo:

  • Uma verificação de idade ou restrição a canais marcados para adultos quando o bot está configurado para ficção madura.
  • Uma linha no prompt de sistema que define os tópicos e o tom permitidos naquele espaço.
  • Um comando curto, como /reset, que limpa o histórico armazenado para que os usuários possam começar de novo.
  • Limitação de taxa básica por usuário, por exemplo, uma requisição a cada poucos segundos, para que uma pessoa não use todos os 8 slots de concorrência.

As regras da plataforma do Discord, Telegram ou seu provedor web ainda se aplicam ao bot. Leia-as antes de convidá-lo para um servidor.

Execute de verdade

Um protótipo no seu laptop torna-se um serviço quando sobrevive a reinicializações e avisa quando algo quebra. Uma lista de verificação razoável:

  1. Mantenha a chave em uma variável de ambiente ou loja de segredos, nunca no repositório.
  2. Persista históricos no SQLite ou Redis, indexados por ID de chat, e descarte os que estão inativos por dias.
  3. Registre X-Request-Id e o status HTTP para cada chamada para que você possa rastrear respostas estranhas.
  4. Leia X-Balance-USD dos cabeçalhos de resposta e alerte-se quando o saldo cair abaixo de um nível que você escolher.
  5. Defina um tempo limite no cliente, por exemplo 60 segundos, e envie uma mensagem de desculpas curta se ele disparar.
client = OpenAI(base_url="https://api.embeddingapis.com/v1", api_key=os.environ["API_KEY"], timeout=60, max_retries=2)

Ajuste duas configurações primeiro quando as respostas parecerem erradas. Diminua temperature para 0,5 para ajudantes factuais, e aumente para 1,0 para personagens criativos. Use sequências stop se o modelo tende a escrever a próxima linha do usuário, e um pequeno frequency_penalty se ele se repete.

Quanto custa um chat

O preço é $0,15 por 1M de tokens de entrada e $0,50 por 1M de tokens de saída. Considere um bot que lida com 1.000 turnos por dia, onde cada turno envia cerca de 2.000 tokens de entrada (prompt do sistema mais histórico) e retorna cerca de 300 tokens.

  • Entrada: 1.000 × 2.000 = 2.000.000 tokens, que é 2 × $0,15 = $0,30.
  • Saída: 1.000 × 300 = 300.000 tokens, que é 0,3 × $0,50 = $0,15.
  • Total: $0,45 por dia para 1.000 turnos.

Reduzir o histórico é a principal alavanca, já que os tokens de entrada dominam. O crédito é pré-pago, nunca expira e não há assinatura. Recarregue com qualquer valor inteiro de $20 a $500, por cripto (USDT na TRC20, USDC na Base), com bônus de +5% a partir de $50, +10% a partir de $100 e +15% a partir de $200. Veja a página de preços para detalhes e a documentação para a lista completa de parâmetros. Os prompts não são usados para treinamento.

Perguntas e respostas

Preciso de uma biblioteca especial para criar um chatbot de LLM com esta API?

Não. Os SDKs oficiais da OpenAI funcionam depois que você define a URL base e a chave. Use o ID do modelo uncensored.

A API lembra as mensagens anteriores?

Não. Você deve enviar o histórico da conversa com cada requisição. Armazene-o por chat e remova mensagens conforme ele cresce.

Quantos usuários o bot pode atender ao mesmo tempo?

Uma chave completa permite 8 requisições simultâneas e 300 por minuto. Coloque mensagens extras na fila para manter seu bot dentro desses limites.

Posso pagar com cartão?

Sim. Recargas aceitam apenas cripto (USDT na TRC20, USDC na Base), de $20 a $500.

O mesmo bot também pode criar embeddings ou imagens?

Não. O serviço é apenas de texto, sem endpoints de embeddings, imagem, áudio ou vídeo.

Sua chave está a um formulário de distância

Crie uma conta, copie a chave e altere a URL base. Essa é toda a configuração.

Obter chave de APILer a documentação