meta-llama logo
meta-llama

Meta: Llama 3.1 70B Instruct

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. $0.40 per million input tokens, $0.40 per million output tokens. 131,072 token context window, maximum output of 16,384 tokens. Higher uptime with 3 providers. Includes independent benchmarks from Artificial Analysis.

Überblick

Modellspezifikationen

Kontext
131.072 tokens
Maximale Ausgabe
16.384 tokens
Architektur
text->text
Tokenizer
Llama3
Wissensstand
2023-12-31
Moderiert
Nein
OPENROUTER

Vollständige Preise

Mit OpenRouter synchronisierte Preise; Tokenpreise gelten pro eine Million Token.

Eingabe
$0.4
/M tokens
Ausgabe
$0.4
/M tokens
API

Schnellstart

Dieses Modell über die OpenAI-kompatible API von OpenRouter aufrufen.

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"meta-llama/llama-3.1-70b-instruct","messages":[{"role":"user","content":"Hello!"}]}'
Fähigkeiten und Modalitäten

EingabeAusgabe

Eingabe
text
Ausgabe
text
API

Unterstützte API-Parameter

frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_p
Verfügbare Anbieter

3 Anbieter

Live-Anbieter bei OpenRouter

Verfügbarkeit, Latenz, Durchsatz und Routing ändern sich laufend. Aktuelle Betriebsdaten stehen auf der Quellseite.

OpenRouter

DeepInfra

fp8
Kontext
131K
Maximale Ausgabe
16K
Eingabe
$0.400
Ausgabe
$0.400
Cache-Lesen
Nicht angegeben
Cache-Schreiben
Nicht angegeben

Amazon Bedrock

unknown
Kontext
131K
Maximale Ausgabe
8K
Eingabe
$0.720
Ausgabe
$0.720
Cache-Lesen
Nicht angegeben
Cache-Schreiben
Nicht angegeben

CoreWeave

bf16
Kontext
131K
Maximale Ausgabe
118K
Eingabe
$0.800
Ausgabe
$0.800
Cache-Lesen
$0.800
Cache-Schreiben
Nicht angegeben
meta-llama

Modelle

Alle Modelle