Especificações do modelo
- Contexto
- 131.072 tokens
- Saída máxima
- 16.384 tokens
- Arquitetura
- text->text
- Tokenizador
- Llama3
- Limite de conhecimento
- 2023-12-31
- Moderado
- Não
Preços completos
Tarifas sincronizadas do OpenRouter, por milhão de tokens.
- Entrada
- $0.4 /M tokens
- Saída
- $0.4 /M tokens
Início rápido
Use este modelo pela API compatível com OpenAI do OpenRouter.
curl https://openrouter.ai/api/v1/chat/completions \
-H "Authorization: Bearer $OPENROUTER_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"meta-llama/llama-3.1-70b-instruct","messages":[{"role":"user","content":"Hello!"}]}'Entrada → Saída
Parâmetros de API compatíveis
frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_p3 provedores
Disponibilidade, latência, throughput e roteamento mudam continuamente. Consulte a fonte para dados atuais.
DeepInfra
fp8- Contexto
- 131K
- Saída máxima
- 16K
- Entrada
- $0.400
- Saída
- $0.400
- Leitura de cache
- Não informado
- Gravação de cache
- Não informado
Amazon Bedrock
unknown- Contexto
- 131K
- Saída máxima
- 8K
- Entrada
- $0.720
- Saída
- $0.720
- Leitura de cache
- Não informado
- Gravação de cache
- Não informado
CoreWeave
bf16- Contexto
- 131K
- Saída máxima
- 118K
- Entrada
- $0.800
- Saída
- $0.800
- Leitura de cache
- $0.800
- Gravação de cache
- Não informado