Specyfikacja modelu
- Kontekst
- 131 072 tokens
- Maksymalne wyjście
- 117 964 tokens
- Architektura
- text->text
- Tokenizer
- Llama3
- Granica wiedzy
- 2023-12-31
- Moderowany
- Nie
Pełny cennik
Stawki zsynchronizowane z OpenRouter, za milion tokenów.
- Wejście
- $0.02 /M tokens
- Wyjście
- $0.04 /M tokens
Szybki start
Wywołaj ten model przez zgodne z OpenAI API OpenRouter.
curl https://openrouter.ai/api/v1/chat/completions \
-H "Authorization: Bearer $OPENROUTER_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"meta-llama/llama-3.1-8b-instruct","messages":[{"role":"user","content":"Hello!"}]}'Wejście → Wyjście
Obsługiwane parametry API
frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_p5 dostawców
Dostępność, opóźnienie, przepustowość i routing stale się zmieniają. Aktualne dane są na stronie źródłowej.
DeepInfra
fp8- Kontekst
- 131K
- Maksymalne wyjście
- 16K
- Wejście
- $0.020
- Wyjście
- $0.040
- Odczyt pamięci podręcznej
- Brak danych
- Zapis pamięci podręcznej
- Brak danych
Novita
fp8- Kontekst
- 16K
- Maksymalne wyjście
- 15K
- Wejście
- $0.020
- Wyjście
- $0.050
- Odczyt pamięci podręcznej
- Brak danych
- Zapis pamięci podręcznej
- Brak danych
Groq
unknown- Kontekst
- 131K
- Maksymalne wyjście
- 118K
- Wejście
- $0.050
- Wyjście
- $0.080
- Odczyt pamięci podręcznej
- $0.025
- Zapis pamięci podręcznej
- Brak danych
Cloudflare
fp8- Kontekst
- 32K
- Maksymalne wyjście
- 29K
- Wejście
- $0.152
- Wyjście
- $0.287
- Odczyt pamięci podręcznej
- Brak danych
- Zapis pamięci podręcznej
- Brak danych
CoreWeave
bf16- Kontekst
- 131K
- Maksymalne wyjście
- 118K
- Wejście
- $0.220
- Wyjście
- $0.220
- Odczyt pamięci podręcznej
- $0.220
- Zapis pamięci podręcznej
- Brak danych