Überblick

Modellspezifikationen

Kontext: 8.192 tokens
Maximale Ausgabe: 3.686 tokens
Architektur: text->text
Tokenizer: Llama2
Wissensstand: 2023-06-30
Moderiert: Nein

OPENROUTER

Vollständige Preise

Mit OpenRouter synchronisierte Preise; Tokenpreise gelten pro eine Million Token.

Eingabe: $0.06
Ausgabe: $0.06

API

Schnellstart

Dieses Modell über die OpenAI-kompatible API von OpenRouter aufrufen.

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"gryphe/mythomax-l2-13b","messages":[{"role":"user","content":"Hello!"}]}'

Fähigkeiten und Modalitäten

Eingabe → Ausgabe

Eingabe

text

Ausgabe

text

API

Unterstützte API-Parameter

frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetop_atop_ktop_logprobstop_p

Verfügbare Anbieter

4 Anbieter

Live-Anbieter bei OpenRouter

Verfügbarkeit, Latenz, Durchsatz und Routing ändern sich laufend. Aktuelle Betriebsdaten stehen auf der Quellseite.

OpenRouter

NextBit

int4

Kontext: 4K
Maximale Ausgabe: 4K
Eingabe: $0.060
Ausgabe: $0.060
Cache-Lesen: Nicht angegeben
Cache-Schreiben: Nicht angegeben

Parasail

fp16

Kontext: 4K
Maximale Ausgabe: 4K
Eingabe: $0.080
Ausgabe: $0.110
Cache-Lesen: Nicht angegeben
Cache-Schreiben: Nicht angegeben

DeepInfra