大模型开发入门v3.0
🤖第 4 章/基于 Python 构建聊天机器人

4.4 项目后端模型对话

📑 本页目录

4.4 项目后端模型对话#

一、基于Ollama模块调用大模型#

需求: python调用本地大模型实现聊天对话

1 示例代码如下:#

    # 1.导包
    # 注意: 必须提前安装ollama: pip install ollama
    import ollama
    
    # 2.ollama调用本地大模型
    # 老版本ollama默认直接访问: http://127.0.0.1:11434/
    # 新版本需要创建客户端对象
    new_ollama = ollama.Client(host="http://127.0.0.1:11434")
    # 发送请求获取响应
    result = new_ollama.chat(
        model="qwen2.5:7b",
        messages=[
            {"role": "user", "content": "给我讲一个笑话"}
        ]
    )
    # 解析响应结果
    print(result.message.content)
    

2 控制台效果如下:#

image-20251016200833146