meta-llama logo
meta-llama

Meta: Llama 3.1 8B Instruct

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. $0.02 per million input tokens, $0.04 per million output tokens. 131,072 token context window, maximum output of 16,384 tokens. Higher uptime with 5 providers. Includes independent benchmarks from Artificial Analysis.

Présentation

Caractéristiques du modèle

Contexte
131 072 tokens
Sortie maximale
117 964 tokens
Architecture
text->text
Tokenizer
Llama3
Limite des connaissances
2023-12-31
Modéré
Non
OPENROUTER

Tarification complète

Tarifs synchronisés depuis OpenRouter, par million de tokens.

Entrée
$0.02
/M tokens
Sortie
$0.04
/M tokens
API

Démarrage rapide

Appelez ce modèle via l’API compatible OpenAI d’OpenRouter.

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"meta-llama/llama-3.1-8b-instruct","messages":[{"role":"user","content":"Hello!"}]}'
Capacités et modalités

EntréeSortie

Entrée
text
Sortie
text
API

Paramètres API pris en charge

frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_p
Fournisseurs disponibles

5 fournisseurs

Fournisseurs en direct sur OpenRouter

Disponibilité, latence, débit et routage évoluent en continu. Consultez la source pour les données en temps réel.

OpenRouter

DeepInfra

fp8
Contexte
131K
Sortie maximale
16K
Entrée
$0.020
Sortie
$0.040
Lecture du cache
Non indiqué
Écriture du cache
Non indiqué

Novita

fp8
Contexte
16K
Sortie maximale
15K
Entrée
$0.020
Sortie
$0.050
Lecture du cache
Non indiqué
Écriture du cache
Non indiqué

Groq

unknown
Contexte
131K
Sortie maximale
118K
Entrée
$0.050
Sortie
$0.080
Lecture du cache
$0.025
Écriture du cache
Non indiqué

Cloudflare

fp8
Contexte
32K
Sortie maximale
29K
Entrée
$0.152
Sortie
$0.287
Lecture du cache
Non indiqué
Écriture du cache
Non indiqué

CoreWeave

bf16
Contexte
131K
Sortie maximale
118K
Entrée
$0.220
Sortie
$0.220
Lecture du cache
$0.220
Écriture du cache
Non indiqué
meta-llama

modèles

Tous les modèles