Ollama公司是连接开发者与开源模型的最大AI平台,近日宣布完成6500万美元新一轮融资,本轮融资由Theory Ventures领投。
Benchmark、8VC、Y Combinator、Pace Capital、49 Palms、GTMFund及其他投资机构和天使投资人也参与了本轮B轮融资。至此,公司累计融资总额达到8800万美元。
Ollama为AI开发者和工程师提供了一款易于本地使用的工具。用户只需一条命令,即可在本地硬件上下载并部署AI模型,或在Ollama云端运行更强大的模型。
创始人兼首席执行官Jeffrey Morgan表示:"开源模型应该易于运行、易于构建,并且随时随地可用——无论是在本地机器、云端,还是两者兼用。Ollama最初是一个开源项目,如今已发展成为一个拥有数百万开发者的庞大社区。"
自2023年上线以来,该工具每月活跃开发者数量已超过890万,成为开源模型生态中规模最大的平台,累计集成数量超过67,000个。公司表示,其用户覆盖了85%的《财富》500强企业,客户广泛分布于政府、医疗和金融等强监管行业。
在前端层面,Ollama提供图形用户界面和命令行界面,让用户能够方便地在本地和云端激活、测试模型。
Ollama的云端推理定价模式与Together Computer、Fireworks AI、Groq等面向开发者的AI云推理服务商形成竞争,这些服务商均以按Token计费的方式提供大模型访问服务。
Ollama的差异化优势在于,其云端服务是本地运行工具的延伸。开发者可以使用同一条命令、同一套兼容OpenAI接口的API,仅通过修改一个参数,就能从本地7B模型无缝切换至400B云端模型,实现工作流的连贯衔接,无需另行建立独立的云端接入关系。
通过广泛的合作伙伴网络,Ollama能够在新模型发布当天为开发者提供访问权限,用于实验、测试和应用构建。目前平台收录的开源模型包括GLM、Nemotron、DeepSeek、Kimi和MiniMax等。
公司表示,云端Token处理量平均每月实现翻倍增长。
不过,GPU使用时长计费方式较难预测,相较之下,按Token计费更易于成本管控。Fireworks等专业服务商还提供极高速、低延迟的访问体验,而Groq和Together等大目录服务商则在前沿模型的高可用性方面更具优势。
Ollama的直接竞争对手包括LM Studio——一款界面精良、支持模型浏览、对话和可视化调优的图形工具。许多开发者将Ollama用作底层运行时,用于脚本编写、服务器搭建和应用开发;而LM Studio则更受偏好图形界面的用户青睐,常用于探索和实验。其他竞品还包括:llama.cpp(Ollama本身所基于的底层推理引擎)、vLLM(面向生产环境的多GPU推理工具)、Jan(一款完全开源、类ChatGPT风格的云AI桌面应用),以及MLX(专为苹果芯片设计的AI工具)。
此外,许多开发者将Ollama用作应用后端或其他界面的驱动引擎,例如AnythingLLM(一款按项目配置的检索增强生成工作区,集成了完整的对话和智能体客户端)、Open WebUI(一款广受欢迎的Ollama客户端,可自托管类ChatGPT界面,支持RAG、语音和插件功能),以及OpenClaw、Hermes等本地AI智能体工具。
Q&A
Q1:Ollama是什么?主要面向哪些用户?
A:Ollama是一款面向AI开发者和工程师的开源工具平台,用户只需一条命令即可在本地硬件上下载并运行AI模型,也可切换至云端运行更大规模的模型。它支持图形界面和命令行两种操作方式,广泛适用于脚本编写、服务器搭建和应用开发等场景,目前每月活跃开发者超过890万。
Q2:Ollama的云端推理服务怎么收费?
Q3:Ollama和LM Studio有什么区别?
A:两者定位不同。Ollama更偏向底层运行时,适合用于脚本、服务器和应用开发,是开发者构建AI应用的"引擎";LM Studio则提供精美的图形用户界面,适合用于模型浏览、对话测试和可视化参数调整,更适合偏好GUI操作的用户进行探索和实验。两者可互补使用。