Ollama
官方网址: https://ollama.com/
介绍
Ollama是一款开源跨平台工具,支持本地部署和运行多种大语言模型(如Llama、DeepSeek-R1、Mistral等),提供命令行工具与Python SDK简化集成。其优势包括:
- 灵活部署:支持多操作系统与硬件加速(如Apple Silicon),可离线运行;
- 模型多样性:兼容Qwen、Phi-4等先进模型,支持模型量化降低显存需求;
- 易用性:通过Modelfile快速配置模型,简化本地开发流程。 需注意其默认配置存在未授权访问和数据泄露风险,需手动加固安全设置。