以下以官方 Ollama 為例。Ollama 主要負責在本機下載、執行大型語言模型；新版通常附有桌面圖形介面，若版本沒有內建聊天頁面，也可搭配 Open WebUI 等前端使用。 ## 一、Windows 安裝 Ollama ### 1. 下載 1. 開啟官方網站：<https://ollama.com/download> 2. 選擇 **Windows**，下載 `OllamaSetup.exe`。 3. 也可以直接從下載頁面取得最新版安裝程式。 ### 2. 安裝 1. 執行 `OllamaSetup.exe`。 2. 依照畫面指示完成安裝。 3. 安裝完成後，Ollama 通常會在背景啟動服務，並出現在工作列右下角的通知區域。 4. 第一次使用時，Windows 可能詢問防火牆權限，若要讓本機程式存取 Ollama，可允許私人網路連線。 ### 3. 確認是否安裝成功 開啟 **PowerShell** 或 **命令提示字元**，輸入： ```powershell ollama --version ``` 若能顯示版本號，表示安裝成功。 --- ## 二、Mac 安裝 Ollama ### 1. 下載 1. 前往官方網站：<https://ollama.com/download> 2. 選擇 **macOS**。 3. 下載適合電腦的版本。較新的 Mac 通常是 Apple Silicon（M 系列）；較舊的 Mac 則可能是 Intel 版本。 ### 2. 安裝 1. 開啟下載的 `.dmg` 檔案。 2. 將 **Ollama** 拖曳到 **Applications／應用程式** 資料夾。 3. 從「應用程式」或 Launchpad 開啟 Ollama。 4. Ollama 啟動後，通常會顯示在 macOS 選單列中，並在背景執行本機服務。 若 macOS 顯示安全性警告，可到： **系統設定 → 隱私權與安全性** 確認是否允許開啟 Ollama。 ### 3. 確認是否安裝成功 開啟「終端機」，輸入： ```bash ollama --version ``` --- ## 三、下載並執行模型 Ollama 安裝完成後，還需要下載至少一個模型，例如 `llama3.2`： ```bash ollama run llama3.2 ``` 第一次執行時，Ollama 會自動下載模型，完成後即可在終端機中對話。 常用指令： ```bash # 查看已安裝的模型 ollama list # 下載模型但不立即對話 ollama pull llama3.2 # 執行模型 ollama run llama3.2 # 刪除模型 ollama rm llama3.2 ``` 模型大小可能從數 GB 到數十 GB 不等，請確認硬碟空間與記憶體足夠。模型通常會儲存在使用者目錄下的 Ollama 資料夾中。 --- ## 四、使用圖形介面進行對話 ### 方法 A：使用 Ollama 官方桌面介面 不同版本的 Ollama 介面可能略有差異，基本流程如下： 1. 啟動 Ollama： - Windows：從開始功能表開啟 Ollama。 - Mac：從「應用程式」或選單列開啟 Ollama。 2. 在模型選擇區選擇已下載的模型，例如 `llama3.2`。 3. 若模型尚未下載，介面通常會提供下載或安裝選項。 4. 在下方輸入框輸入問題。 5. 按下 **Enter** 或「送出」。 6. 等待模型產生回答。 7. 按「New Chat／新對話」即可開始新的對話。 8. 可在設定中調整模型、對話紀錄、模型管理等選項。 對話內容通常是在本機處理，不需要將問題傳送到雲端服務；但若使用第三方整合工具，仍應查看該工具的資料處理方式。 ### 方法 B：若官方版本沒有聊天介面 部分版本的 Ollama 主要是背景服務或命令列工具，可使用瀏覽器圖形介面，例如 Open WebUI。 安裝 Docker Desktop 後，可執行： ```bash docker run -d \ -p 3000:8080 \ --add-host=host.docker.internal:host-gateway \ -v open-webui:/app/backend/data \ --name open-webui \ --restart always \ ghcr.io/open-webui/open-webui:main ``` 接著用瀏覽器開啟： ```text http://localhost:3000 ``` 首次進入時建立帳號，選擇 Ollama 模型即可開始聊天。若 Open WebUI 找不到 Ollama，請確認 Ollama 正在執行，或在設定中將連線位址設為： ```text http://host.docker.internal:11434 ``` --- ## 五、基本使用建議 - **記憶體不足**：改用較小模型，例如 3B、7B 或 8B 模型。 - **執行速度慢**：關閉其他大量使用記憶體的程式，並選擇適合電腦硬體的模型。 - **查詢模型清單**：可到 <https://ollama.com/library> 查看可用模型。 - **停止目前對話**：在命令列按 `Ctrl+C`。 - **Ollama 的本機 API**：通常位於： ```text http://localhost:11434 ``` 簡單來說，安裝流程是：**下載 Ollama → 安裝並啟動 → 下載模型 → 用官方介面或其他圖形前端開始對話**。