FIM 补全 - MyTokenGate

1. 使用场景

FIM (Fill In the Middle) 补全中，用户提供希望输入的前后内容，模型来补全中间的内容，典型用于代码补全、文本中间内容补全等场景中。

2. 使用方式

2.1 在 chat/completions 接口中使用


from openai import OpenAI
 
client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://gateway.mytokengate.com/v1"
)
 
response = client.chat.completions.create(
    model="deepseek-v4-flash",
    messages=[
        {"role": "user", "content": "完成这段代码"}
    ],
    extra_body={
        "prefix": "def quick_sort(arr):\n    if len(arr) <= 1:\n        return arr\n    else:\n",
        "suffix": "\n# 测试\narr = [3, 6, 8, 10, 1, 2, 1]\nsorted_arr = quick_sort(arr)\nprint(sorted_arr)"
    }
)
 
print(response.choices[0].message.content)

2.2 在 completions 接口中使用


from openai import OpenAI
 
client = OpenAI(
    api_key="YOUR_API_KEY",
    base_url="https://gateway.mytokengate.com/v1"
)
 
response = client.completions.create(
    model="deepseek-v4-flash",
    prompt="def quick_sort(arr):\n    if len(arr) <= 1:\n        return arr\n    else:\n",
    suffix="\n# 测试\narr = [3, 6, 8, 10, 1, 2, 1]\nsorted_arr = quick_sort(arr)\nprint(sorted_arr)",
    max_tokens=4096
)
 
print(response.choices[0].text)

3. 支持模型列表

以下模型支持 FIM 补全功能：

deepseek-r1 - DeepSeek 推理模型
deepseek-v4-flash - DeepSeek 快速模型
qwen3-coder-30b-a3b-instruct - Qwen 代码模型

查看完整模型列表请访问模型列表