EmbeddingApis/Guida
API di testo senza censura per la tua pipeline
Crea un chatbot basato su LLM con API stile OpenAI
Un chatbot basato su LLM è un ciclo: prendi il messaggio dell'utente, aggiungilo a una cronologia salvata, invia questa cronologia a un modello e pubblica la risposta. Questa guida costruisce quel ciclo in Python, poi lo avvolge per Discord e copre limiti e costi.
Aggiornato
Punti chiave
Il modello è senza stato, quindi il tuo bot deve memorizzare e reinviare la cronologia.
Usa il modello uncensored con l'SDK di OpenAI e l'URL di base del sito.
Limita la concorrenza a 8 e accoda il resto per evitare errori 429.
Un tipico turno di chat costa una frazione di centesimo.

Cosa deve fare il bot
L'API non ricorda nulla tra una chiamata e l'altra. Ogni richiesta deve contenere l'intera conversazione che vuoi che il modello veda. Quindi il lavoro di un chatbot è soprattutto gestione: tieni una lista di messaggi per utente o canale, aggiungi il nuovo messaggio, invia la lista, salva la risposta e ripeti.
Questo servizio è un'API compatibile con OpenAI, solo testo. Esegue un modello a pesi aperti, gestito da un provider indipendente e ottimizzato per rispondere senza rifiuti sui contenuti per uso adulto legale. Non ci sono endpoint per immagini, audio o embedding, nonostante ciò che il nome del dominio potrebbe suggerire, quindi tutto quanto segue riguarda le chat completions. I contenuti sessuali che coinvolgono minorenni non sono ammessi.
Il ciclo principale in Python
Installa l'SDK con pip install openai, esporta la tua chiave come API_KEY e inizia con una versione console. Se non hai ancora una chiave, la pagina chiave API offre $0,50 di credito di prova gratuito alla registrazione.
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.embeddingapis.com/v1", api_key=os.environ["API_KEY"])
SYSTEM = "You are Mira, a friendly assistant for a game community. Keep answers short."
history = [{"role": "system", "content": SYSTEM}]
def reply(user_text: str) -> str:
history.append({"role": "user", "content": user_text})
resp = client.chat.completions.create(
model="uncensored",
messages=history,
temperature=0.8,
max_tokens=400,
)
text = resp.choices[0].message.content
history.append({"role": "assistant", "content": text})
return text
while True:
print(reply(input("you> ")))
Questo è un bot funzionante. Tutto il resto in questo articolo lo rende sicuro da eseguire per molte persone contemporaneamente.
Scrivi un prompt di sistema che resista
Il messaggio di sistema è dove il bot riceve il suo nome, tono e limiti. Alcune abitudini lo fanno resistere nelle chat lunghe:
- Indica il ruolo e il pubblico in una o due frasi.
- Dai regole di formato: lunghezza, lingua, se usare elenchi.
- Elenca cosa deve fare il bot quando non sa qualcosa, ad esempio fare una domanda.
- Inserisci i fatti duraturi, come le regole del server o i dettagli del prodotto, nel messaggio di sistema e non nei turni di chat.
Per bot di narrativa, roleplay e compagni per adulti, aggiungi qui l'ambientazione e la voce del personaggio, e specifica che il personaggio rimane in ruolo a meno che l'utente non esca da esso. Testa il prompt con dieci o quindici messaggi difficili prima di pubblicare il bot.
Tieni una cronologia per conversazione
Una lista globale come quella sopra mescolerebbe tutti gli utenti. Memorizza una cronologia separata per canale Discord, ID chat Telegram o sessione web. Un dizionario funziona per un prototipo; usa un database quando il bot deve sopravvivere ai riavvii.
Il contesto è grande: 100.000 token che coprono prompt e risposta insieme. Tuttavia, non inviare tutto per sempre. Cronologie lunghe costano di più in ogni turno e rallentano la risposta. Una politica semplice è mantenere il messaggio di sistema più gli ultimi 20 messaggi:
histories = {}
def trim(msgs, keep=20):
return [msgs[0]] + msgs[1:][-keep:]
def reply_for(chat_id, user_text):
msgs = histories.setdefault(chat_id, [{"role": "system", "content": SYSTEM}])
msgs.append({"role": "user", "content": user_text})
msgs[:] = trim(msgs)
resp = client.chat.completions.create(model="uncensored", messages=msgs)
text = resp.choices[0].message.content
msgs.append({"role": "assistant", "content": text})
return text
Per bot che richiedono una lunga memoria, come i compagni, riassumi i messaggi più vecchi in una breve nota ogni tanto e tieni la nota vicino all'inizio della cronologia.
Una versione per Discord
Con la libreria discord.py, il bot risponde quando viene menzionato. Le chiamate all'API sono bloccanti, quindi eseguile in un thread per mantenere viva la connessione Discord.
import asyncio, os
import discord
from openai import OpenAI
client = OpenAI(base_url="https://api.embeddingapis.com/v1", api_key=os.environ["API_KEY"])
intents = discord.Intents.default()
intents.message_content = True
bot = discord.Client(intents=intents)
slots = asyncio.Semaphore(8)
histories = {}
SYSTEM = "You are Mira, a friendly assistant. Keep answers under 120 words."
def ask(chat_id, text):
msgs = histories.setdefault(chat_id, [{"role": "system", "content": SYSTEM}])
msgs.append({"role": "user", "content": text})
msgs[:] = [msgs[0]] + msgs[1:][-20:]
r = client.chat.completions.create(model="uncensored", messages=msgs, max_tokens=300)
out = r.choices[0].message.content
msgs.append({"role": "assistant", "content": out})
return out
@bot.event
async def on_message(message):
if message.author.bot or bot.user not in message.mentions:
return
async with slots:
async with message.channel.typing():
text = await asyncio.to_thread(ask, message.channel.id, message.clean_content)
await message.reply(text[:1900])
bot.run(os.environ["DISCORD_TOKEN"])
La stessa funzione ask si integra in un bot Telegram (python-telegram-bot) o in un piccolo endpoint web senza modifiche. Solo la parte che riceve e invia messaggi differisce.
Limiti, streaming ed errori
Una chiave completa permette 8 richieste parallele e 300 richieste al minuto. Una chiave di prova permette 2 e 60. Il semaforo nell'esempio Discord ti mantiene sotto il limite di concorrenza facendo aspettare i messaggi extra. Se vedi ancora HTTP 429, leggi il codice di errore: rate_limited significa troppe al minuto, concurrency significa troppe contemporaneamente, e un'intestazione Retry-After: 5 significa sovraccarico temporaneo. Attendi 5 secondi e riprova.
Per una finestra di chat web, imposta stream a true e invia i token al browser man mano che arrivano, così gli utenti vedono il testo apparire invece di aspettare. Uno streaming occupa uno slot di concorrenza fino alla fine, quindi chiudilo quando il visitatore se ne va. Le richieste fallite o rifiutate non vengono addebitate e ogni risposta include X-Balance-USD, che puoi usare per avvisarti prima che il credito si esaurisca.
Regole per la tua community
Un modello senza censura risponde più apertamente della maggior parte degli assistenti ospitati, quindi decidi cosa dovrebbe fare il tuo bot. Il modello è pensato per uso adulto legale, e i contenuti sessuali che coinvolgono minorenni sono un limite rigido del servizio. Se il tuo bot gira su un server Discord pubblico o in un gruppo Telegram, aggiungi quanto segue:
- Un controllo dell'età o una restrizione ai canali marcati per adulti quando il bot è configurato per narrativa per adulti.
- Una riga nel prompt di sistema che stabilisce gli argomenti e il tono consentiti in quello spazio.
- Un comando breve, come
/reset, che cancella la cronologia salvata così gli utenti possono ricominciare. - Un rate limiting di base per utente, ad esempio una richiesta ogni pochi secondi, così una persona non può usare tutti gli 8 slot di concorrenza.
Le regole della piattaforma di Discord, Telegram o del tuo host web si applicano ancora al bot. Leggile prima di invitarlo in un server.
Eseguilo sul serio
Un prototipo sul tuo laptop diventa un servizio quando sopravvive ai riavvii e ti avvisa quando qualcosa si rompe. Una checklist ragionevole:
- Tieni la chiave in una variabile d'ambiente o in un archivio segreti, mai nel repository.
- Persisti le cronologie in SQLite o Redis, indicizzate per ID chat, ed elimina quelle inattive da giorni.
- Registra
X-Request-Ide lo stato HTTP per ogni chiamata così puoi tracciare risposte strane. - Leggi
X-Balance-USDdalle intestazioni di risposta e avvisati quando il saldo scende sotto un livello che scegli. - Imposta un timeout sul client, ad esempio 60 secondi, e invia un breve messaggio di scusa se scatta.
client = OpenAI(base_url="https://api.embeddingapis.com/v1", api_key=os.environ["API_KEY"], timeout=60, max_retries=2)
Regola prima due impostazioni quando le risposte sembrano sbagliate. Abbassa temperature verso 0,5 per helper fattuali, e aumentalo verso 1,0 per personaggi creativi. Usa sequenze stop se il modello tende a scrivere la prossima riga dell'utente, e un piccolo frequency_penalty se si ripete.
Quanto costa una chat
La tariffazione è $0,15 per 1M token di input e $0,50 per 1M token di output. Prendi un bot che gestisce 1.000 turni al giorno, dove ogni turno invia circa 2.000 token di input (prompt di sistema più cronologia) e restituisce circa 300 token.
- Input: 1.000 × 2.000 = 2.000.000 token, che sono 2 × $0,15 = $0,30.
- Output: 1.000 × 300 = 300.000 token, che corrispondono a 0,3 × $0,50 = $0,15.
- Totale: $0,45 al giorno per 1.000 turni.
Ridurre la cronologia è la leva principale, poiché i token di input dominano. Il credito è prepagato, non scade mai e non c'è abbonamento. Ricarica con qualsiasi importo intero da $20 a $500, con cripto (USDT su TRC20, USDC su Base), con bonus del +5% da $50, +10% da $100 e +15% da $200. Vedi la pagina dei prezzi per i dettagli e la documentazione per l'elenco completo dei parametri. I prompt non vengono utilizzati per l'addestramento.
Altre guide
Domande e risposte
Ho bisogno di una libreria speciale per creare un chatbot LLM con questa API?
No. Gli SDK ufficiali di OpenAI funzionano dopo aver impostato l'URL di base e la chiave. Usa l'ID del modello uncensored.
L'API ricorda i messaggi precedenti?
No. Devi inviare la cronologia della conversazione con ogni richiesta. Salvala per chat e riducila man mano che cresce.
Quanti utenti può servire il bot contemporaneamente?
Una chiave completa permette 8 richieste concorrenti e 300 al minuto. Metti in coda i messaggi extra in modo che il tuo bot rimanga entro quei limiti.
Posso pagare con carta?
Sì. Le ricariche accettano cripto (USDT su TRC20, USDC su Base), da $20 a $500.
Lo stesso bot può anche creare embedding o immagini?
No. Il servizio è solo testo, senza endpoint per embedding, immagini, audio o video.
La tua chiave è a un modulo di distanza
Crea un account, copia la chiave, modifica l'URL di base. È tutta la configurazione.