meta-llama logo
meta-llama

Meta: Llama 3.1 70B Instruct

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. $0.40 per million input tokens, $0.40 per million output tokens. 131,072 token context window, maximum output of 16,384 tokens. Higher uptime with 3 providers. Includes independent benchmarks from Artificial Analysis.

Visão geral

Especificações do modelo

Contexto
131.072 tokens
Saída máxima
16.384 tokens
Arquitetura
text->text
Tokenizador
Llama3
Limite de conhecimento
2023-12-31
Moderado
Não
OPENROUTER

Preços completos

Tarifas sincronizadas do OpenRouter, por milhão de tokens.

Entrada
$0.4
/M tokens
Saída
$0.4
/M tokens
API

Início rápido

Use este modelo pela API compatível com OpenAI do OpenRouter.

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"meta-llama/llama-3.1-70b-instruct","messages":[{"role":"user","content":"Hello!"}]}'
Recursos e modalidades

EntradaSaída

Entrada
text
Saída
text
API

Parâmetros de API compatíveis

frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_p
Provedores disponíveis

3 provedores

Provedores ao vivo no OpenRouter

Disponibilidade, latência, throughput e roteamento mudam continuamente. Consulte a fonte para dados atuais.

OpenRouter

DeepInfra

fp8
Contexto
131K
Saída máxima
16K
Entrada
$0.400
Saída
$0.400
Leitura de cache
Não informado
Gravação de cache
Não informado

Amazon Bedrock

unknown
Contexto
131K
Saída máxima
8K
Entrada
$0.720
Saída
$0.720
Leitura de cache
Não informado
Gravação de cache
Não informado

CoreWeave

bf16
Contexto
131K
Saída máxima
118K
Entrada
$0.800
Saída
$0.800
Leitura de cache
$0.800
Gravação de cache
Não informado
meta-llama

modelos

Todos os modelos