零基礎玩 AI Agent:免費用 Hermes Agent Windows Desktop,不用 API 也能跑本機模型?

近年 AI Agent 工具愈來愈多,但如果你真正想自己落手試,往往很快就會遇到幾個門檻:要申請 API key、要綁定信用卡、要理解模型設定,甚至還要考慮 token 成本。

對於只是想入門了解 AI Agent 運作方式的新手來說,這些門檻其實不算低。

所以今次我想測試一個比較低成本,甚至可以說是免費的玩法:透過 Hermes Agent Windows Desktop 配合 Ollama,在 Windows 電腦上直接運行本機 LLM 模型,嘗試建立一個屬於自己的 local AI Agent 工作流。

這條影片並不是單純介紹一個 AI 工具,而是實際示範:如果不用 ChatGPT API、不用一開始付費訂閱平台,是否仍然可以在自己電腦上試玩 AI Agent?

為甚麼要試 Hermes Agent + Ollama?

很多人聽到 AI Agent,第一時間可能會想到雲端平台、API、自動化工具,甚至是比較複雜的開發環境。

但其實對新手來說,最重要未必是立即做到很複雜的自動化,而是先理解幾件事:

  • AI Agent 如何接收任務
  • Local LLM 可以怎樣被接入工具
  • 本機模型與雲端模型有甚麼分別
  • 免費工具是否真的足夠入門
  • 安裝、設定和實際使用會不會太困難

Hermes Agent Windows Desktop 加上 Ollama 的組合,正好可以作為一個入門實驗場景。你可以在 Windows 電腦上下載本機模型,然後嘗試讓 Hermes Agent 使用這個 local model 進行對話或任務處理。

這個過程的價值,不只是「成功安裝一個工具」,而是讓你親手感受 AI Agent 背後的工作流程。

不用 API,是否真的比較適合新手?

「不用 API」聽起來很吸引,因為少了一個常見門檻。

不用申請 OpenAI API key,不用一開始輸入信用卡,也不用每次使用都擔心 token 成本。對於只是想測試、學習、實驗 AI Agent 的用戶來說,這確實是一個比較友善的起點。

不過,我不會說這代表完全零門檻。

因為即使不用 API,你仍然需要處理一些基本設定,例如安裝 Ollama、下載模型、確認模型是否正常運行,以及將本機模型接入 Hermes Agent。這些步驟對有技術背景的人來說不算太難,但對完全新手來說,仍然需要跟著示範一步一步做。

所以今次影片的重點,就是以新手角度由零開始示範整個流程,而不是只展示完成後的畫面。

Local LLM 的效果,是否足夠實用?

本機 LLM 最大的吸引力,是可以在自己電腦上運行模型,某程度上有更高的私有化感和可控性。

但要留意的是,local model 的表現會受幾個因素影響:

  • 你選擇的模型大小
  • 電腦的 RAM / VRAM
  • 處理器與顯示卡效能
  • 任務本身是否需要較強推理能力
  • 模型是否適合中文或多語言任務

簡單來說,local LLM 很適合用來做測試、學習、簡單對話和入門實驗;但如果你要處理複雜推理、多步任務,或者正式工作場景,雲端大模型通常仍然會更加穩定。

這亦是我在影片中想強調的一點:免費、本機、免 API,確實降低了入門成本,但並不代表它可以完全取代 ChatGPT、Claude 或其他雲端 AI 工具。

今次影片會示範甚麼?

今次影片會重點示範以下幾個部分:

  • 如何安裝 Hermes Agent Windows Desktop
  • 如何安裝及使用 Ollama
  • 如何下載並運行本機 LLM model
  • 如何將 local model 接入 Hermes Agent
  • 實測免費本機 AI Agent 的基本效果
  • 新手使用時需要注意的地方

如果你想實際跟著做,可以直接觀看完整影片。

這個玩法適合誰?

我覺得這個 Hermes Agent + Ollama 的玩法,特別適合以下幾類人:

第一,是想入門 AI Agent,但不想一開始就申請 API 或付費平台的人。

第二,是想了解 local LLM、本機模型、Ollama 如何運作的人。

第三,是想用比較低成本的方法,親手測試 AI Agent workflow 的人。

第四,是本身對 AI 自動化、私有化 AI、開源模型有興趣,但仍未正式開始實驗的人。

如果你期待的是一個安裝完就能立即完全取代雲端 AI 的方案,可能會有落差。但如果你的目標是「入門、理解、測試、建立概念」,這個組合就相當值得一試。

總結:免費 AI Agent 值得試,但要有合理預期

今次實測最大的感受是:Hermes Agent Windows Desktop 配合 Ollama,的確提供了一個相對低成本的 AI Agent 入門方式。

它未必是最強、最穩定、最適合正式工作部署的方案,但對於想理解 AI Agent、Local LLM 和本機模型運作方式的新手來說,是一個很不錯的開始。

最重要的是,你可以不用一開始就處理 API、信用卡和 token 成本,而是先用自己的 Windows 電腦,親手試一次 AI Agent 到底是怎樣運作。


追蹤以下平台,獲得最新AI資訊:
Facebook: https://www.facebook.com/drjackeiwong/
Instagram: https://www.instagram.com/drjackeiwong/
Threads: https://www.threads.net/@drjackeiwong/
YouTube: https://www.youtube.com/@drjackeiwong/
Website: https://drjackeiwong.com/

Dr. Jackei Wong

擁有超過15年的人工智能研究及教學經驗,我結合學術理論與實際應用,設計專業的AI學習體驗。無論是生成式AI、數據分析,還是日常工作的AI應用,我都會以簡單易懂的方式引導您深入了解,讓您快速上手技術,應對數碼化時代的挑戰。

喜歡請分享