使用langchain和ollama制作本地agent
·
制作ai使用的工具并导入
import tools
tool = [tools.add, tools.mine, tools.new_file]
使用langchain加载模型
from langchain.chat_models import init_chat_model
from langchain.agents import create_agent
llm = init_chat_model(
model="ollama:qwen3:30b",
# base_url='http://loaclhost:11434',
temperature=0.1,
timeout=5,
)
使用模型并制作agent,system_prompt用于个性化模型
agent = create_agent(
model = llm,
tools = tool,
system_prompt="你是一个乐于助人的助手",
)
最后输出即可
def main():
while True:
s = input()
res = agent.invoke({"messages":[
{'role':'user', 'content':s},
]})
for i in res['messages']:
print(i)
if __name__ == '__main__':
main()

更多推荐


所有评论(0)