官網(wǎng)
https://ollama.com/

開源地址
https://github.com/ollama/ollama

特點
啟動并運行大型語言模型。 運行 Llama 3、Phi 3、Mistral、Gemma 和其他模型。自定義并創(chuàng)建自己的。

支持本地知識庫

使用說明
下載安裝ollama
下載地址：
https://ollama.com/download

用ollama下載模型
例如：

ollama pull llama3
開始使用
例如：

ollama run llama3

搭配

您應(yīng)該至少有8 GB的RAM用于運行7B模型，16 GB用于運行13B模型，32 GB用于運行33B模型。

普通的家用電腦上也可以運行本地大模型了。

搭配網(wǎng)頁或桌面客戶端，可以想訪問“豆包”、“chatgpt”一樣使用自己電腦上的大模型。

Open WebUI
Enchanted (macOS native)
Hollama
Lollms-Webui
LibreChat
Bionic GPT
HTML UI
Saddle
Chatbot UI
Chatbot UI v2
Typescript UI
Minimalistic React UI for Ollama Models
Ollamac
big-AGI
Cheshire Cat assistant framework
Amica
chatd
Ollama-SwiftUI
Dify.AI
MindMac
NextJS Web Interface for Ollama
Msty
Chatbox
WinForm Ollama Copilot
NextChat with Get Started Doc
Alpaca WebUI
OllamaGUI
OpenAOE
Odin Runes
LLM-X (Progressive Web App)
AnythingLLM (Docker + MacOs/Windows/Linux native app)
Ollama Basic Chat: Uses HyperDiv Reactive UI
Ollama-chats RPG
QA-Pilot (Chat with Code Repository)
ChatOllama (Open Source Chatbot based on Ollama with Knowledge Bases)
CRAG Ollama Chat (Simple Web Search with Corrective RAG)
RAGFlow (Open-source Retrieval-Augmented Generation engine based on deep document understanding)
StreamDeploy (LLM Application Scaffold)
chat (chat web app for teams)
Lobe Chat with Integrating Doc
Ollama RAG Chatbot (Local Chat with multiple PDFs using Ollama and RAG)
BrainSoup (Flexible native client with RAG & multi-agent automation)
macai (macOS client for Ollama, ChatGPT, and other compatible API back-ends)