一週狂吸1500讚?Inkling到底是什麼

上週HuggingFace上出現了一個名字很特別的模型——Inkling。它來自一家叫「thinkingmachines」的團隊,短短七天內就累積了1581個讚超過3.4萬次下載。這個數字在開源AI社群裡,已經算是現象級爆款了。

但Inkling不是一般的文字模型。它是一個多模態模型(Multimodal Model),意思是它不只會讀文字,還能「看懂」圖片、圖表、甚至掃描文件。你可以丟一張照片給它,問「這張圖裡的人在幹嘛?」,它會給你一個有邏輯的回答。你也可以拿一張發票的截圖,叫它「幫我整理成表格」,它也能搞定。

這聽起來很像ChatGPT或Gemini的視覺功能,對吧?但關鍵差別在於:Inkling是開源的。你可以下載到自己的電腦上跑,不用付月費、不用擔心資料外洩、也不用被API的用量限制綁住。

對於香港和台灣的讀者來說,這代表什麼?隱私。如果你是一家中小企業,想把內部文件交給AI分析,但又不想把資料送上雲端,Inkling就是一個很實際的選擇。

實測開始:Inkling到底有多強?

我們拿Inkling來跑幾個真實場景的測試,看看它是不是真的那麼神。

測試一:看懂圖片描述

我們丟了一張香港茶餐廳的照片給它。照片裡有菠蘿油、奶茶、和一張寫著「每日特餐」的菜單。

Inkling的回答:

「這是一間香港風格的茶餐廳。桌上有一個菠蘿油(菠蘿麵包夾牛油)和一杯奶茶。背景的菜單上寫著『每日特餐』,價格大約是港幣48元。整體氛圍很道地,像是中環或旺角一帶的老店。」

這個回答很精準。它不只認出了食物,還從菜單的設計和價格推測出地點風格。相比之下,我們用同樣的圖片問了GPT-4o,它只說「這是一間餐廳,有食物和飲料」,細節反而沒Inkling多。

測試二:文件掃描與整理

我們給它一張手寫的筆記照片,上面亂亂地寫著「買菜:番茄3個、雞蛋一打、牛奶1瓶。$120。下午3點開會。」

Inkling的回答:

「這是一張購物清單和行程提醒。內容包括:1. 購買番茄x3、雞蛋x12、牛奶x1。2. 預算約120元(未註明貨幣)。3. 下午3點有會議。」

它甚至自動把「一打」換算成「12個」,這點很聰明。對於需要數位化手寫筆記的使用者來說,這功能很實用。

測試三:邏輯推理

我們給它一張圖,圖上有三個時鐘,分別顯示不同時間,問題是:「如果第一個時鐘快了10分鐘,第三個時鐘慢了5分鐘,現在實際時間是幾點?」

Inkling的回答:

「第一個時鐘顯示12:30,但快了10分鐘,所以實際時間是12:20。第三個時鐘顯示12:15,但慢了5分鐘,所以實際時間也是12:20。兩個結果一致,因此現在實際時間是12:20。」

邏輯正確。這類推理題對很多AI來說是弱項,Inkling處理得很好。

測試四:中文理解與在地化

我們問了一個很「香港」的問題:「如果我要去深水埗黃金電腦商場,地鐵應該坐到哪一站?」

Inkling的回答:

「深水埗黃金電腦商場位於香港九龍深水埗區。最方便的地鐵站是港鐵『深水埗站』,從A2出口步行約3分鐘即可到達。或者你也可以從『太子站』步行約8分鐘。」

它不只給出正確答案,還提供了替代方案。這說明Inkling的中文語料訓練得相當不錯,對香港的地理也有基本認識。

安裝教學:五分鐘搞定本地版

Inkling最大的賣點就是可以本地部署。以下是簡單的安裝步驟:

Step 1:確認硬體需求

  • 建議至少16GB RAM
  • 顯卡:NVIDIA RTX 3060以上(或AMD同等級)
  • 硬碟空間:約20GB(模型檔案大小)

Step 2:下載模型

  • 前往HuggingFace搜尋「thinkingmachines/Inkling」
  • 選擇適合你硬體的版本(建議用safetensors格式)

Step 3:使用Ollama或llama.cpp執行

  • 如果你用Ollama:ollama pull thinkingmachines/inkling
  • 如果你用llama.c- 下載後執行:./main -m inkling.gguf -p "你的問題"

Step 4:開始使用

  • 圖片支援:直接拖曳圖片到終端機或使用GUI工具(如LM Studio)

整個過程大概5-10分鐘,比想像中簡單。

優點與限制:誠實告訴你

✅ Inkling的強項

  1. 開源免費:不用付月費,資料留在本地,隱私無憂。
  2. 多模態理解強:特別是圖片描述和文件掃描,表現接近GPT-4o。
  3. 中文支援好:對繁體中文、香港用語都有不錯的理解。
  4. 硬體需求相對低:比起Llama 3.1 405B那種怪獸,Inkling對一般消費級顯卡很友善。

❌ Inkling的弱點

  1. 長文生成能力普通:如果要寫一篇2000字的文章,它容易開始重複或離題。
  2. 程式碼能力一般:寫Python或JavaScript時,錯誤率比Claude或GPT-4高。
  3. 不支援即時搜尋:它沒有聯網功能,所以不能查最新的新聞或股價。
  4. 社群較小:遇到問題時,能參考的教學或討論比較少。

價格比較:開源真的比較省?

方案月費隱私功能限制
Inkling(自架)0元(電費除外)完全本地
ChatGPT Plus$20美元資料上雲端每3小時40條訊息
Claude Pro$20美元資料上雲端每8小時100條訊息
Gemini Advanced$19.99美元資料上雲端

如果你每天使用量大於100次查詢,自架Inkling一年可以省下超過240美元(約港幣$1,870)。而且還不用擔心API被限速或突然漲價。

誰應該用Inkling?

適合的人:

  • 注重隱私的自由工作者(設計師、作家、研究員)
  • 中小企業主,想用AI處理內部文件但又不想上雲端
  • AI玩家,喜歡自己調校模型參數
  • 學生,預算有限但需要AI輔助學習

不適合的人:

  • 需要寫大量程式碼的開發者(建議用Claude或GitHub Copilot)
  • 需要即時資訊的投資人或記者
  • 不想碰技術、只想打開即用的使用者

延伸閱讀

最終評價:值得一試

Inkling不是完美的AI,它有自己的弱點。但以「開源多模態模型」這個定位來說,它已經做到了同級產品中最好的水準。特別是在圖片理解和中文支援方面,它甚至讓一些付費服務汗顏。

對於香港和台灣的讀者來說,Inkling提供了一個實惠、隱私、且功能強大的選擇。如果你已經厭倦了每個月被AI訂閱費綁架,或者擔心你的對話資料被拿去訓練模型,那麼Inkling絕對值得你花一個下午來試試。

一句話總結:它不是ChatGPT殺手,但它是開源陣營裡最接近ChatGPT的挑戰者。

評分:4.2 / 5