EmbeddingApis/Przewodnik
API tekstu bez cenzury do Twojego pipeline'u
Zbuduj czatbota opartego na LLM z API w stylu OpenAI
Czatbot oparty na LLM to pętla: pobierz wiadomość użytkownika, dodaj ją do przechowywanej historii, wyślij tę historię do modelu i opublikuj odpowiedź. Ten poradnik buduje tę pętlę w Pythonie, następnie opakowuje ją dla Discorda i omawia limity oraz koszty.
Zaktualizowano
Kluczowe punkty
Model jest bezstanowy, więc Twój bot musi przechowywać i wysyłać historię.
Użyj modelu uncensored z SDK OpenAI i base URL strony.
Ogranicz współbieżność do 8 i kolejkuj resztę, aby uniknąć błędów 429.
Typowa tura czatu kosztuje ułamek centa.

Co musi robić bot
API nie pamięta niczego między wywołaniami. Każde zapytanie musi zawierać całą rozmowę, którą model ma zobaczyć. Praca czatbota to więc głównie księgowość: utrzymuj listę wiadomości dla każdego użytkownika lub kanału, dodaj nową wiadomość, wyślij listę, zapisz odpowiedź i powtórz.
Usługa to API kompatybilne z OpenAI, obsługujące wyłącznie tekst. Działa na jednym modelu o otwartych wagach, prowadzonym przez niezależnego dostawcę i dostrojonym do odpowiadania bez odmów treści dla legalnego użytku przez dorosłych. Nie ma endpointu do obrazów, audio ani embeddingów, mimo że nazwa domeny może sugerować inaczej, więc wszystko poniżej dotyczy chat completions. Treści seksualne z udziałem nieletnich są niedozwolone.
Podstawowa pętla w Pythonie
Zainstaluj SDK przez pip install openai, wyeksportuj swój klucz jako API_KEY i zacznij od wersji konsolowej. Jeśli jeszcze nie masz klucza, strona klucz API oferuje $0,50 darmowego kredytu próbnego przy rejestracji.
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.embeddingapis.com/v1", api_key=os.environ["API_KEY"])
SYSTEM = "You are Mira, a friendly assistant for a game community. Keep answers short."
history = [{"role": "system", "content": SYSTEM}]
def reply(user_text: str) -> str:
history.append({"role": "user", "content": user_text})
resp = client.chat.completions.create(
model="uncensored",
messages=history,
temperature=0.8,
max_tokens=400,
)
text = resp.choices[0].message.content
history.append({"role": "assistant", "content": text})
return text
while True:
print(reply(input("you> ")))
To działający bot. Wszystko inne w tym artykule sprawia, że jest bezpieczny do uruchomienia dla wielu osób jednocześnie.
Napisz prompt systemowy, który się sprawdza
Komunikat systemowy to miejsce, w którym bot zyskuje nazwę, ton i granice. Kilka nawyków sprawia, że przetrwa długie rozmowy:
- Określ rolę i odbiorców w jednym lub dwóch zdaniach.
- Podaj zasady formatowania: długość, język, czy używać list.
- Wymień, co bot powinien zrobić, gdy nie wie odpowiedzi, np. zadać pytanie.
- Umieść trwałe fakty, takie jak zasady serwera lub szczegóły produktu, w komunikacie systemowym, a nie w turach czatu.
Dla botów do fikcji, roleplayu i botów-towarzyszy dla dorosłych dodaj tu miejsce akcji i styl wypowiedzi postaci oraz wskaż, że postać pozostaje w roli, chyba że użytkownik z niej wyjdzie. Przetestuj prompt dziesięcioma lub piętnastoma trudnymi wiadomościami przed opublikowaniem bota.
Przechowuj jedną historię na rozmowę
Globalna lista jak powyżej wymieszałaby wszystkich użytkowników. Przechowuj osobną historię dla każdego kanału Discord, ID czatu Telegram lub sesji internetowej. Słownik sprawdzi się w prototypie; użyj bazy danych, gdy bot musi przetrwać restarty.
Okno kontekstu jest duże: 100 000 tokenów obejmujących razem prompt i odpowiedź. Mimo to nie wysyłaj wszystkiego bez końca. Długie historie kosztują więcej przy każdej turze i spowalniają odpowiedź. Prosta zasada to utrzymanie wiadomości systemowej plus ostatnich 20 wiadomości:
histories = {}
def trim(msgs, keep=20):
return [msgs[0]] + msgs[1:][-keep:]
def reply_for(chat_id, user_text):
msgs = histories.setdefault(chat_id, [{"role": "system", "content": SYSTEM}])
msgs.append({"role": "user", "content": user_text})
msgs[:] = trim(msgs)
resp = client.chat.completions.create(model="uncensored", messages=msgs)
text = resp.choices[0].message.content
msgs.append({"role": "assistant", "content": text})
return text
Dla botów wymagających długiej pamięci, np. towarzyskich, podsumowuj starsze wiadomości w krótką notatkę od czasu do czasu i trzymaj notatkę na początku historii.
Wersja na Discorda
Z biblioteką discord.py bot odpowiada, gdy zostanie wspomniany. Wywołania API są blokujące, więc uruchamiaj je w wątku, aby utrzymać połączenie z Discordem.
import asyncio, os
import discord
from openai import OpenAI
client = OpenAI(base_url="https://api.embeddingapis.com/v1", api_key=os.environ["API_KEY"])
intents = discord.Intents.default()
intents.message_content = True
bot = discord.Client(intents=intents)
slots = asyncio.Semaphore(8)
histories = {}
SYSTEM = "You are Mira, a friendly assistant. Keep answers under 120 words."
def ask(chat_id, text):
msgs = histories.setdefault(chat_id, [{"role": "system", "content": SYSTEM}])
msgs.append({"role": "user", "content": text})
msgs[:] = [msgs[0]] + msgs[1:][-20:]
r = client.chat.completions.create(model="uncensored", messages=msgs, max_tokens=300)
out = r.choices[0].message.content
msgs.append({"role": "assistant", "content": out})
return out
@bot.event
async def on_message(message):
if message.author.bot or bot.user not in message.mentions:
return
async with slots:
async with message.channel.typing():
text = await asyncio.to_thread(ask, message.channel.id, message.clean_content)
await message.reply(text[:1900])
bot.run(os.environ["DISCORD_TOKEN"])
Ta sama funkcja ask integruje się z botem Telegrama (python-telegram-bot) lub małym endpointem bez zmian. Różni się tylko część odbierająca i wysyłająca wiadomości.
Limity, strumieniowanie i błędy
Pełny klucz pozwala na 8 równoległych zapytań i 300 zapytań na minutę. Klucz próbny pozwala na 2 i 60. Semafor w przykładzie na Discordzie utrzymuje Cię poniżej limitu współbieżności, zmuszając dodatkowe wiadomości do czekania. Jeśli nadal widzisz HTTP 429, przeczytaj kod błędu: rate_limited oznacza za dużo na minutę, concurrency oznacza za dużo naraz, a nagłówek Retry-After: 5 oznacza tymczasowe przeciążenie. Poczekaj 5 sekund i spróbuj ponownie.
Dla okna czatu webowego ustaw stream na true i wysyłaj tokeny do przeglądarki, gdy przybywają, aby użytkownicy widzieli pojawiający się tekst zamiast czekać. Strumień zajmuje slot współbieżności do końca, więc zamknij go, gdy odwiedzający odejdzie. Nieudane lub odrzucone zapytania nie są rozliczane, a każda odpowiedź zawiera X-Balance-USD, którego możesz użyć do ostrzeżenia się przed wyczerpaniem kredytu.
Zasady dla Twojej społeczności
Model bez cenzury odpowiada bardziej otwarcie niż większość asystentów hostowanych, więc zdecyduj, co powinien robić Twój własny bot. Model jest przeznaczony do legalnego użytku przez dorosłych, a treści seksualne z udziałem nieletnich to twardy limit usługi. Jeśli Twój bot działa na publicznym serwerze Discord lub w grupie Telegram, dodaj następujące:
- Weryfikację wieku lub ograniczenie do kanałów oznaczonych dla dorosłych, gdy bot jest skonfigurowany do dojrzałej fikcji.
- Linia w promptie systemowym, która określa dozwolone tematy i ton w tym miejscu.
- Krótkie polecenie, np.
/reset, które czyści przechowywaną historię, aby użytkownicy mogli zacząć od nowa. - Podstawowe limitowanie zapytań na użytkownika, np. jedno zapytanie co kilka sekund, aby jedna osoba nie zajęła wszystkich 8 slotów współbieżności.
Zasady platformy z Discorda, Telegrama lub Twojego hosta webowego nadal obowiązują bota. Przeczytaj je przed zaproszeniem go na serwer.
Uruchom to na poważnie
Prototyp na Twoim laptopie staje się usługą, gdy przetrwa restarty i poinformuje Cię, gdy coś się zepsuje. Rozsądna lista kontrolna:
- Trzymaj klucz w zmiennej środowiskowej lub magazynie sekretów, nigdy w repozytorium.
- Zapisuj historie w SQLite lub Redis, indeksowane według ID czatu, i usuwaj te, które są nieaktywne od kilku dni.
- Loguj
X-Request-Idi status HTTP dla każdego wywołania, aby móc śledzić dziwne odpowiedzi. - Odczytaj nagłówek odpowiedzi
X-Balance-USDi ustaw powiadomienie, gdy saldo spadnie poniżej wybranego przez Ciebie poziomu. - Ustaw limit czasu po stronie klienta, na przykład 60 sekund, i wyślij krótką wiadomość z przeprosinami, jeśli wystąpi.
client = OpenAI(base_url="https://api.embeddingapis.com/v1", api_key=os.environ["API_KEY"], timeout=60, max_retries=2)
Najpierw zmień dwa ustawienia, gdy odpowiedzi są nieadekwatne. Obniż temperature w kierunku 0,5 dla pomocników faktograficznych i podnieś go w kierunku 1,0 dla postaci kreatywnych. Użyj sekwencji stop, jeśli model ma tendencję do pisania kolejnej linii użytkownika, oraz małego frequency_penalty, jeśli się powtarza.
Ile kosztuje czat
Ceny to $0.15 za 1M tokenów wejściowych i $0,50 za 1M tokenów wyjściowych. Weź bota obsługującego 1 000 tur dziennie, gdzie każda tura wysyła około 2 000 tokenów wejściowych (prompt systemowy plus historia) i zwraca około 300 tokenów.
- Wejście: 1 000 × 2 000 = 2 000 000 tokenów, co daje 2 × $0,15 = $0,30.
- Wyjście: 1 000 × 300 = 300 000 tokenów, co daje 0.3 × $0,50 = $0.15.
- Suma: $0,45 dziennie za 1 000 tur.
Przycinanie historii to główna dźwignia, ponieważ tokeny wejściowe dominują. Kredyt jest przedpłacony, nie wygasa i nie ma subskrypcji. Doładuj dowolną kwotą całkowitą od $20 do $500 kryptowalutami (USDT na TRC20, USDC na Base), z bonusem +5% od $50, +10% od $100 i +15% od $200. Szczegóły znajdziesz na stronie z cenami, a pełną listę parametrów w dokumentacji. Prompty nie są używane do trenowania.
Więcej przewodników
Pytania i odpowiedzi
Czy potrzebuję specjalnej biblioteki do zbudowania czatbota opartego na LLM za pomocą tego API?
Nie. Oficjalne SDK OpenAI działają po ustawieniu Base URL i klucza. Użyj ID modelu uncensored.
Czy API zapamiętuje wcześniejsze wiadomości?
Nie. Musisz wysyłać historię rozmowy z każdym zapytaniem. Przechowuj ją dla każdej rozmowy i skracaj ją, gdy rośnie.
Ile użytkowników bot może obsłużyć jednocześnie?
Pełny klucz pozwala na 8 równoległych zapytań i 300 na minutę. Kolejkuj dodatkowe wiadomości, aby Twój bot mieścił się w tych limitach.
Czy mogę zapłacić kartą?
Doładowania akceptują kryptowaluty (USDT na TRC20, USDC na Base), od $20 do $500.
Czy ten sam bot może również tworzyć embeddingi lub obrazy?
Nie. Usługa jest tylko tekstowa, bez endpointów embeddingów, obrazów, audio lub wideo.
Twój klucz jest o jeden formularz stąd
Utwórz konto, skopiuj klucz, zmień base URL. To cała konfiguracja.