基于Ollama本地部署DeepSeek模型的API开发实践

思考#

自从上次用Ollama本地部署了DeepSeek后，我就想能不能自己做个API，然后自己使用？然后就开始瞎琢磨，琢磨出了以下内容。

API代码展示#

这里用了deepseek-r1:1.5b作为示例。

1
from flask import Flask, request, jsonify
2
import requests
3

4
app = Flask(__name__)
5
OLLAMA_API = "http://localhost:11434/api/generate"
6

7
def query_deepseek(prompt, model="deepseek-r1:1.5b", stream=False):
8
    headers = {"Content-Type": "application/json"}
9
    data = {
10
        "model": model,
11
        "prompt": prompt,
12
        "stream": stream
13
    }
14
    try:
15
        response = requests.post(OLLAMA_API, headers=headers, json=data)
16
        response.raise_for_status()
17
        return response.json()
18
    except Exception as e:
19
        return {"error": str(e)}
20

21
@app.route('/chat', methods=['POST'])
22
def chat():
23
    data = request.json
24
    prompt = data.get("prompt", "")
25
    if not prompt:
26
        return jsonify({"error": "Prompt is required"}), 400
27
    result = query_deepseek(prompt)
28
    if "error" in result:
29
        return jsonify(result), 500
30
    return jsonify({"response": result.get("response", "")})
31

32
if __name__ == '__main__':
33
    app.run(host='0.0.0.0', port=5000)

处理发问和回答代码展示#

1
import requests
2
import json
3

4
def call_deepseek(prompt, model="deepseek-r1:1.5b"):
5
    url = "http://localhost:11434/api/generate"
6
    headers = {"Content-Type": "application/json"}
7
    data = {
8
        "model": model,
9
        "prompt": prompt,
10
        "stream": True  # 保持流式输出
11
    }
12

13
    full_response = ""
14
    try:
15
        response = requests.post(url, headers=headers, json=data, stream=True)
16
        response.raise_for_status()
17

18
        for line in response.iter_lines():
19
            if line:
20
                chunk = json.loads(line.decode('utf-8'))
21
                # 处理Unicode转义字符
22
                text = chunk['response'].encode('utf-8').decode('unicode_escape')
23
                full_response += text
24

25
    except Exception as e:
26
        return f"Error: {str(e)}"
27

28
    return full_response
29

30
# 测试调用
31
if __name__ == "__main__":
32
    response = call_deepseek("你好，介绍一下你自己")
33
    print("完整回复：\n", response)

回顾#

目前代码有很多槽点，不过因为我所学不多，暂时就这样子吧

目前进度如下：#

已完成以下关键步骤：

本地模型部署：通过Ollama成功运行DeepSeek-1.5B模型
API基础调用：验证了通过cURL直接调用 http://localhost:11434/api/generate 接口的可行性
初步响应获取：已获得模型的分块流式响应（streaming response）

咨询了DeepSeek，了解到下一步操作:

处理流式响应（关键步骤）
客户端测试
完善API功能
部署准备

后面再来了。。。