meta-llama logo
meta-llama

Meta: Llama 3.1 70B Instruct

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. $0.40 per million input tokens, $0.40 per million output tokens. 131,072 token context window, maximum output of 16,384 tokens. Higher uptime with 3 providers. Includes independent benchmarks from Artificial Analysis.

Panoramica

Specifiche del modello

Contesto
131.072 tokens
Output massimo
16.384 tokens
Architettura
text->text
Tokenizer
Llama3
Limite di conoscenza
2023-12-31
Moderato
No
OPENROUTER

Prezzi completi

Tariffe sincronizzate da OpenRouter, per milione di token.

Input
$0.4
/M tokens
Output
$0.4
/M tokens
API

Avvio rapido

Chiama questo modello tramite l’API compatibile OpenAI di OpenRouter.

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"meta-llama/llama-3.1-70b-instruct","messages":[{"role":"user","content":"Hello!"}]}'
Capacità e modalità

InputOutput

Input
text
Output
text
API

Parametri API supportati

frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_p
Provider disponibili

3 provider

Provider live su OpenRouter

Disponibilità, latenza, throughput e routing cambiano continuamente. Consulta la fonte per i dati correnti.

OpenRouter

DeepInfra

fp8
Contesto
131K
Output massimo
16K
Input
$0.400
Output
$0.400
Lettura cache
Non indicato
Scrittura cache
Non indicato

Amazon Bedrock

unknown
Contesto
131K
Output massimo
8K
Input
$0.720
Output
$0.720
Lettura cache
Non indicato
Scrittura cache
Non indicato

CoreWeave

bf16
Contesto
131K
Output massimo
118K
Input
$0.800
Output
$0.800
Lettura cache
$0.800
Scrittura cache
Non indicato
meta-llama

modelli

Tutti i modelli