4.4 项目后端模型对话#
一、基于Ollama模块调用大模型#
需求: python调用本地大模型实现聊天对话
1 示例代码如下:#
# 1.导包
# 注意: 必须提前安装ollama: pip install ollama
import ollama
# 2.ollama调用本地大模型
# 老版本ollama默认直接访问: http://127.0.0.1:11434/
# 新版本需要创建客户端对象
new_ollama = ollama.Client(host="http://127.0.0.1:11434")
# 发送请求获取响应
result = new_ollama.chat(
model="qwen2.5:7b",
messages=[
{"role": "user", "content": "给我讲一个笑话"}
]
)
# 解析响应结果
print(result.message.content)
2 控制台效果如下:#
