术语表

AI 和 MyTokenGate 文档中的关键术语和概念。

AI 模型术语

LLM（大语言模型）

一种在海量文本数据上训练的 AI 模型，能够理解和生成类似人类的文本。例如 GPT-4、Claude 和 Llama。

Token（词元）

LLM 文本处理的基本单位。大约：

• 1 token ≈ 4 个英文字符
• 1 token ≈ 0.75 个单词
• Token 数量因语言而异

上下文窗口

模型在单次请求中可以处理的最大文本量（以 token 计）。更大的窗口允许更长的对话和文档。

Temperature（温度）

控制输出随机性的参数（0-2）：

• 0：确定性、一致的输出
• 0.7：平衡的创造性
• 1.5+：高随机性、创造性输出

Embeddings（嵌入）

捕获语义含义的文本向量表示。用于相似性搜索、聚类和检索。

API 术语

Chat Completion（聊天补全）

用于对话式 AI 交互的 API 端点。发送消息列表并接收模型生成的响应。

Streaming（流式传输）

一种实时逐段接收响应的方法，而不是等待完整响应。

Function Calling（函数调用）

允许模型在响应生成过程中调用外部函数/工具的功能。

Rate Limiting（限流）

在时间周期内限制 API 请求数量，以防止滥用并确保公平使用。

MyTokenGate 术语

API Key（API 密钥）

用于验证 API 请求的唯一标识符。请保密，切勿公开分享。

Base URL（基础 URL）

API 端点地址：https://gateway.mytokengate.com/v1

Model Router（模型路由器）

MyTokenGate 的智能路由系统，将请求导向适当的 AI 提供商。

Billing Meter（计费计量）

实时跟踪 token 使用量，用于成本计算和发票生成。

协议术语

OpenAI 协议

最初由 OpenAI 定义的 API 格式，现已成为行业标准。许多 AI 服务使用它来实现兼容性。

Anthropic 协议

Claude 的原生 API 格式（Messages API）。支持工具使用和扩展思考等高级功能。