大语言模型

Bitdeer AI 文本生成模型的使用指南——能力、参数与进阶特性。

模型能力

Bitdeer AI 的大语言模型通过 Chat Completions HTTP API（POST /v1/chat/completions）访问，支持：

文本生成 — 为各类任务生成连贯、有上下文的文本
代码生成 — 编写、解释和调试 Python、JavaScript 等 30+ 种语言的代码
摘要与翻译 — 压缩文档或在语言之间翻译
多轮对话 — 在多轮用户/助手交互中保持上下文
工具调用 — 通过 Function Calling 调用外部函数与 API

可用模型

模型	提供方	模态	特点
`zai-org/GLM-5.2`	智谱	文本	代码与工具调用；可开关 thinking
`moonshotai/Kimi-K2.6`	Moonshot AI	文本 + 视觉 + 视频	中英文表现均衡
`Qwen/Qwen3.5-397B-A17B`	阿里通义	文本 + 视觉 + 视频	混合思考；旗舰 Qwen
`MiniMaxAI/MiniMax-M2.5`	MiniMax	文本	通用对话
`nvidia/NVIDIA-Nemotron-3-Super-120B-A12B`	NVIDIA	文本	高效 MoE
`nvidia/Nemotron-3-Nano-Omni-30B-A3B`	NVIDIA	文本 + 视觉 + 音频 + 视频	支持音频输入
`deepseek-ai/DeepSeek-V4-Pro`	DeepSeek	文本	最新旗舰推理
`XiaomiMiMo/MiMo-V2.5-Pro`	小米	文本	通用对话
`nvidia/NVIDIA-Nemotron-3-Ultra-550B-A55B`	NVIDIA	文本	超大规模 MoE

完整列表见模型目录。

API 集成

请求与响应字段见 API 参考。简要步骤：

Base URL：https://api-inference.bitdeer.ai/v1
请求头：Authorization: Bearer <你的 Bitdeer Key>

以下示例使用 SDK 中的 Python 辅助库；等价于向 HTTPS 端点发送 JSON POST。

from openai import OpenAI

client = OpenAI(
    base_url="https://api-inference.bitdeer.ai/v1",
    api_key="YOUR_BITDEER_API_KEY",
)

response = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V4-Pro",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "What is serverless inference?"},
    ],
    stream=True,
    max_tokens=512,
)

for chunk in response:
    print(chunk.choices[0].delta.content or "", end="")

功能指南

流式输出

通过 Server-Sent Events 实时接收 token。

视觉

在 messages 中同时发送图像与文本。

音频

通过 input_audio 发送音频进行转写与分析。

函数调用

让模型调用外部工具与 API。

结构化输出

强制模型输出符合 JSON Schema。

关键参数

参数	类型	说明
`model`	string	必填。模型目录中的模型 ID。
`messages`	array	必填。对话历史，包含 `system`、`user`、`assistant` 消息。
`max_tokens`	integer	回复的最大 token 数。
`temperature`	float	控制随机性。`0` = 确定性，`2` = 高创造性。默认 `1`。
`top_p`	float	核采样，控制累积概率。默认 `1`。
`stream`	boolean	是否流式返回。默认 `false`。
`stop`	string 或 array	遇到这些序列时停止生成。
`frequency_penalty`	float	惩罚重复 token。范围 `[-2, 2]`。
`presence_penalty`	float	鼓励话题多样性。范围 `[-2, 2]`。