meta-llama logo
meta-llama

Meta: Llama 3.1 8B Instruct

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. $0.02 per million input tokens, $0.04 per million output tokens. 131,072 token context window, maximum output of 16,384 tokens. Higher uptime with 5 providers. Includes independent benchmarks from Artificial Analysis.

Przegląd

Specyfikacja modelu

Kontekst
131 072 tokens
Maksymalne wyjście
117 964 tokens
Architektura
text->text
Tokenizer
Llama3
Granica wiedzy
2023-12-31
Moderowany
Nie
OPENROUTER

Pełny cennik

Stawki zsynchronizowane z OpenRouter, za milion tokenów.

Wejście
$0.02
/M tokens
Wyjście
$0.04
/M tokens
API

Szybki start

Wywołaj ten model przez zgodne z OpenAI API OpenRouter.

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"meta-llama/llama-3.1-8b-instruct","messages":[{"role":"user","content":"Hello!"}]}'
Możliwości i modalności

WejścieWyjście

Wejście
text
Wyjście
text
API

Obsługiwane parametry API

frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_p
Dostępni dostawcy

5 dostawców

Dostawcy na żywo w OpenRouter

Dostępność, opóźnienie, przepustowość i routing stale się zmieniają. Aktualne dane są na stronie źródłowej.

OpenRouter

DeepInfra

fp8
Kontekst
131K
Maksymalne wyjście
16K
Wejście
$0.020
Wyjście
$0.040
Odczyt pamięci podręcznej
Brak danych
Zapis pamięci podręcznej
Brak danych

Novita

fp8
Kontekst
16K
Maksymalne wyjście
15K
Wejście
$0.020
Wyjście
$0.050
Odczyt pamięci podręcznej
Brak danych
Zapis pamięci podręcznej
Brak danych

Groq

unknown
Kontekst
131K
Maksymalne wyjście
118K
Wejście
$0.050
Wyjście
$0.080
Odczyt pamięci podręcznej
$0.025
Zapis pamięci podręcznej
Brak danych

Cloudflare

fp8
Kontekst
32K
Maksymalne wyjście
29K
Wejście
$0.152
Wyjście
$0.287
Odczyt pamięci podręcznej
Brak danych
Zapis pamięci podręcznej
Brak danych

CoreWeave

bf16
Kontekst
131K
Maksymalne wyjście
118K
Wejście
$0.220
Wyjście
$0.220
Odczyt pamięci podręcznej
$0.220
Zapis pamięci podręcznej
Brak danych
meta-llama

modele

Wszystkie modele