Especificações do modelo
- Contexto
- 131.072 tokens
- Saída máxima
- 117.964 tokens
- Arquitetura
- text->text
- Tokenizador
- Llama3
- Limite de conhecimento
- 2023-12-31
- Moderado
- Não
Preços completos
Tarifas sincronizadas do OpenRouter, por milhão de tokens.
- Entrada
- $0.02 /M tokens
- Saída
- $0.04 /M tokens
Início rápido
Use este modelo pela API compatível com OpenAI do OpenRouter.
curl https://openrouter.ai/api/v1/chat/completions \
-H "Authorization: Bearer $OPENROUTER_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"meta-llama/llama-3.1-8b-instruct","messages":[{"role":"user","content":"Hello!"}]}'Entrada → Saída
Parâmetros de API compatíveis
frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_p5 provedores
Disponibilidade, latência, throughput e roteamento mudam continuamente. Consulte a fonte para dados atuais.
DeepInfra
fp8- Contexto
- 131K
- Saída máxima
- 16K
- Entrada
- $0.020
- Saída
- $0.040
- Leitura de cache
- Não informado
- Gravação de cache
- Não informado
Novita
fp8- Contexto
- 16K
- Saída máxima
- 15K
- Entrada
- $0.020
- Saída
- $0.050
- Leitura de cache
- Não informado
- Gravação de cache
- Não informado
Groq
unknown- Contexto
- 131K
- Saída máxima
- 118K
- Entrada
- $0.050
- Saída
- $0.080
- Leitura de cache
- $0.025
- Gravação de cache
- Não informado
Cloudflare
fp8- Contexto
- 32K
- Saída máxima
- 29K
- Entrada
- $0.152
- Saída
- $0.287
- Leitura de cache
- Não informado
- Gravação de cache
- Não informado
CoreWeave
bf16- Contexto
- 131K
- Saída máxima
- 118K
- Entrada
- $0.220
- Saída
- $0.220
- Leitura de cache
- $0.220
- Gravação de cache
- Não informado