meta-llama logo
meta-llama

Meta: Llama 3.1 8B Instruct

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. $0.02 per million input tokens, $0.04 per million output tokens. 131,072 token context window, maximum output of 16,384 tokens. Higher uptime with 5 providers. Includes independent benchmarks from Artificial Analysis.

Visão geral

Especificações do modelo

Contexto
131.072 tokens
Saída máxima
117.964 tokens
Arquitetura
text->text
Tokenizador
Llama3
Limite de conhecimento
2023-12-31
Moderado
Não
OPENROUTER

Preços completos

Tarifas sincronizadas do OpenRouter, por milhão de tokens.

Entrada
$0.02
/M tokens
Saída
$0.04
/M tokens
API

Início rápido

Use este modelo pela API compatível com OpenAI do OpenRouter.

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"meta-llama/llama-3.1-8b-instruct","messages":[{"role":"user","content":"Hello!"}]}'
Recursos e modalidades

EntradaSaída

Entrada
text
Saída
text
API

Parâmetros de API compatíveis

frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_p
Provedores disponíveis

5 provedores

Provedores ao vivo no OpenRouter

Disponibilidade, latência, throughput e roteamento mudam continuamente. Consulte a fonte para dados atuais.

OpenRouter

DeepInfra

fp8
Contexto
131K
Saída máxima
16K
Entrada
$0.020
Saída
$0.040
Leitura de cache
Não informado
Gravação de cache
Não informado

Novita

fp8
Contexto
16K
Saída máxima
15K
Entrada
$0.020
Saída
$0.050
Leitura de cache
Não informado
Gravação de cache
Não informado

Groq

unknown
Contexto
131K
Saída máxima
118K
Entrada
$0.050
Saída
$0.080
Leitura de cache
$0.025
Gravação de cache
Não informado

Cloudflare

fp8
Contexto
32K
Saída máxima
29K
Entrada
$0.152
Saída
$0.287
Leitura de cache
Não informado
Gravação de cache
Não informado

CoreWeave

bf16
Contexto
131K
Saída máxima
118K
Entrada
$0.220
Saída
$0.220
Leitura de cache
$0.220
Gravação de cache
Não informado
meta-llama

modelos

Todos os modelos