资源介绍
通过命令行和 API 管理、运行模型,为本地聊天、开发实验和其他应用提供模型调用接口。
Ollama 将模型下载、运行与调用整合在一起,并提供 Python、JavaScript 等接入方式。可作为本地应用的模型运行入口;具体模型能否流畅运行取决于内存、显存与模型规模。
主要能力
- 下载与管理模型
- 提供聊天与模型管理 API
- 可连接桌面客户端及开发工具
如何开始
- 01
按操作系统阅读官方安装说明。
- 02
根据机器配置选择合适的小型模型。
- 03
先验证对话,再通过 API 接入自己的应用。
使用要点
软件许可与模型权重许可不同;运行前应分别核对。