meta-llama logo
meta-llama

Meta: Llama 3.1 70B Instruct

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. $0.40 per million input tokens, $0.40 per million output tokens. 131,072 token context window, maximum output of 16,384 tokens. Higher uptime with 3 providers. Includes independent benchmarks from Artificial Analysis.

Przegląd

Specyfikacja modelu

Kontekst
131 072 tokens
Maksymalne wyjście
16 384 tokens
Architektura
text->text
Tokenizer
Llama3
Granica wiedzy
2023-12-31
Moderowany
Nie
OPENROUTER

Pełny cennik

Stawki zsynchronizowane z OpenRouter, za milion tokenów.

Wejście
$0.4
/M tokens
Wyjście
$0.4
/M tokens
API

Szybki start

Wywołaj ten model przez zgodne z OpenAI API OpenRouter.

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"meta-llama/llama-3.1-70b-instruct","messages":[{"role":"user","content":"Hello!"}]}'
Możliwości i modalności

WejścieWyjście

Wejście
text
Wyjście
text
API

Obsługiwane parametry API

frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_p
Dostępni dostawcy

3 dostawców

Dostawcy na żywo w OpenRouter

Dostępność, opóźnienie, przepustowość i routing stale się zmieniają. Aktualne dane są na stronie źródłowej.

OpenRouter

DeepInfra

fp8
Kontekst
131K
Maksymalne wyjście
16K
Wejście
$0.400
Wyjście
$0.400
Odczyt pamięci podręcznej
Brak danych
Zapis pamięci podręcznej
Brak danych

Amazon Bedrock

unknown
Kontekst
131K
Maksymalne wyjście
8K
Wejście
$0.720
Wyjście
$0.720
Odczyt pamięci podręcznej
Brak danych
Zapis pamięci podręcznej
Brak danych

CoreWeave

bf16
Kontekst
131K
Maksymalne wyjście
118K
Wejście
$0.800
Wyjście
$0.800
Odczyt pamięci podręcznej
$0.800
Zapis pamięci podręcznej
Brak danych
meta-llama

modele

Wszystkie modele