大语言模型
Bitdeer AI 文本生成模型使用指南——功能、参数及高级特性。
模型能力
Bitdeer AI 上的大语言模型(LLM)通过 Chat Completions HTTP API(POST /v1/chat/completions)进行访问。它们支持:
- 文本生成 — 为任何任务生成连贯且符合上下文的文本
- 代码生成 — 使用 Python、JavaScript 等 30 多种语言编写、解释和调试代码
- 摘要与翻译 — 压缩文档内容或在不同语言之间进行翻译
- 多轮对话 — 在多次用户/助手交互中保持上下文
- 工具调用 — 通过 Function Calling 调用外部函数和 API
要查看所有可用模型的列表,请查看 模型目录
API 集成
请求和响应字段请参考 API 参考。简要说明如下:
- Base URL:
https://api-inference.bitdeer.ai/v1 - 发送
Authorization: Bearer <your Bitdeer key>
下面的代码片段使用了来自 SDK 的 Python 辅助函数;相同的调用也可以通过 HTTPS 发送 JSON POST 请求实现。
功能指南
流式输出
通过 Server-Sent Events 实时接收 token。
视觉
将图像与文本一起发送给视觉语言模型。
音频
通过 input_audio 发送音频以进行转录和分析。
函数调用
让模型调用外部工具和 API。
结构化输出
强制模型响应符合 JSON Schema。
关键参数
| 参数 | 类型 | 描述 |
|---|---|---|
model | string | 必填。 来自 模型目录 的模型 ID。 |
messages | array | 必填。 对话历史——包括 system、user 和 assistant 消息。 |
max_tokens | integer | 响应中的最大 token 数。 |
temperature | float | 控制随机性。0 = 确定性输出,2 = 高度创造性。默认值为 1。 |
top_p | float | 核采样。控制累积概率。默认值为 1。 |
stream | boolean | 是否以流式方式返回响应。默认值为 false。 |
stop | string or array | 用于终止生成的序列。 |
frequency_penalty | float | 对重复 token 进行惩罚。取值范围为 [-2, 2]。 |
presence_penalty | float | 鼓励话题多样性。取值范围为 [-2, 2]。 |
最后更新于