meta-llama logo
meta-llama

Meta: Llama 3.1 8B Instruct

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. $0.02 per million input tokens, $0.04 per million output tokens. 131,072 token context window, maximum output of 16,384 tokens. Higher uptime with 5 providers. Includes independent benchmarks from Artificial Analysis.

模型概览

模型规格

上下文
131,072 tokens
最大输出
117,964 tokens
架构
text->text
分词器
Llama3
知识截止时间
2023-12-31
内容审核
OPENROUTER

完整价格

同步自 OpenRouter。Token 价格均按每百万 Token 展示。

输入
$0.02
/M tokens
输出
$0.04
/M tokens
API

快速调用

通过 OpenRouter 的 OpenAI 兼容 API 调用这个确切的模型 ID。

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"meta-llama/llama-3.1-8b-instruct","messages":[{"role":"user","content":"Hello!"}]}'
能力与模态

输入输出

输入
text
输出
text
API

支持的 API 参数

frequency_penaltylogit_biaslogprobsmax_tokensmin_ppresence_penaltyrepetition_penaltyresponse_formatseedstopstructured_outputstemperaturetool_choicetoolstop_ktop_logprobstop_p
可用提供方

5 个提供方

在 OpenRouter 查看实时 Provider

Provider 可用性、延迟、吞吐量和路由会持续变化,请前往来源页面查看实时运行数据。

OpenRouter

DeepInfra

fp8
上下文
131K
最大输出
16K
输入
$0.020
输出
$0.040
缓存读取
暂未提供
缓存写入
暂未提供

Novita

fp8
上下文
16K
最大输出
15K
输入
$0.020
输出
$0.050
缓存读取
暂未提供
缓存写入
暂未提供

Groq

unknown
上下文
131K
最大输出
118K
输入
$0.050
输出
$0.080
缓存读取
$0.025
缓存写入
暂未提供

Cloudflare

fp8
上下文
32K
最大输出
29K
输入
$0.152
输出
$0.287
缓存读取
暂未提供
缓存写入
暂未提供

CoreWeave

bf16
上下文
131K
最大输出
118K
输入
$0.220
输出
$0.220
缓存读取
$0.220
缓存写入
暂未提供
meta-llama

个模型

全部模型