跳至主要內容
Mark Ku's Blog

開場白

這週開源圈最狂的聲量在 Ollaya 身上,把按量計費的 Jev 判斷模型整套搬回本機跑,衝出 HN 509 分、126 則討論。同一週還有 Jared Palmer 開源的 kev,準確率只跟閉源模型差一個百分點;想找 Mac 版 Photoshop 免費替代品的人,等一下告訴你 Compositor 為何 30 天衝上 5.7k 星。

本週開源好物

1. Ollaya:把按量計費的 Jev 判斷模型整套搬回本機跑

  • 它是什麼:Ollaya 把最近爆紅但要按量付費的 TypeSafe Jev「判斷模型」整套搬到本機跑,給重視自架、不想把資料送出去的工程師用。Apache-2.0 授權,連 Windows 都支援。
  • 本週聲量:在 Hacker News 拿下 509 分、126 則討論,是這週聲量最高的專案。
  • 亮點功能:CLI 指令完全照抄 Ollama(serve / run / pull / list / ps / show / rm / cp / stop / create),用過 Ollama 的人零學習成本;端點 wire-identical 對齊 TypeSafe(/v1/systemone、/v1/decisions、/v1/models),原本打雲端 API 的程式碼改個 base URL 就能跑;本體只有約 3 MB 的 ONNX graph,真正的權重直接讀 Hugging Face 上的 safetensors,並用 commit pin 加 sha256 驗證,官方數據 laya:en 在 RTX 4090 上五題只要 8 到 10 毫秒。
  • 快速上手:Linux / macOS 一行 curl -fsSL https://ollaya.dev/install.sh | sh,Windows 用 irm https://ollaya.dev/install.ps1 | iex,裝完直接 ollaya run laya --preset triage "I was charged twice..." 就有結果。
  • 跟同類比:跟 Ollama 的差別在模型型態,Ollama 跑生成式 LLM 逐字吐 token,Ollaya 跑的是單次 forward 就回傳校準機率的判斷模型。跟 TypeSafe 官方 Jev 雲端 API 比,免了 API 帳單、資料留在自己機器上,但 HN 討論串也有人直言複雜題目上仍明顯落後 Jev。
  • 適合誰:重視自架與資料不外送、想拿判斷模型做分類、路由、審核工作的工程師。
  • 連結:https://ollaya.dev/

2. kev(jaredpalmer/kev):自己也能訓一個接近 Jev 的判斷模型

  • 它是什麼:Turborepo、Formik 作者 Jared Palmer 開源的判斷模型,主打「閉源雲端模型你也能自己訓一個」,權重可下載,還附完整訓練腳本。
  • 本週聲量:30 天內衝上 GitHub 7.1k 星,作者背景讓這個新專案格外受矚目。
  • 亮點功能:四種尺寸從 0.8B 到 27B,涵蓋筆電到資料中心;一次請求可以混問是非題、多選題、評分題三種題型,每個 checkpoint 都附溫度校正讓信心值可信;介面對齊 TypeSafe System One,既有 client 不用改就能接,還能一行指令從現成 checkpoint 續訓,另附 Modal 部署腳本可拉出自動擴縮的私有 HTTPS 端點。
  • 快速上手:需要 Python 3.12+,git clone https://github.com/jaredpalmer/kev.git && cd kev,接著 uv sync --extra serve,再 uv run --extra serve python -m kev.serve --run jaredpalmer/kev-4b --port 8009 就能本機起服務,0.8B 版在 Apple Silicon Mac 上也跑得動。
  • 跟同類比:對手就是 TypeSafe 的閉源 Jev,README 自己列出 Kev-27B 在新來源上 0.848 對 Jev 的 0.857,只差一個百分點,但知識型任務仍有差距(MMLU:Kev-27B 0.84、Jev 0.90)。跟同期的 Ollaya 則是互補,Ollaya 負責把模型拉下來跑,Kev 給你可以再訓練的權重。
  • 適合誰:想用自己標註資料微調判斷模型、或需要可訓練權重而不是黑盒 API 的團隊。
  • 連結:https://github.com/jaredpalmer/kev

3. Compositor:MIT 授權的 Mac 原生 Photoshop 替代品

  • 它是什麼:Swift 原生的 Mac 影像編輯器,作者的動機很直白,Photoshop 太貴、GIMP 用不慣,做給要修圖、去背、出封面的人用,完全免費。
  • 本週聲量:30 天內衝上 GitHub 5.7k 星。
  • 亮點功能:完整圖層體系,資料夾、Photoshop 混合模式、可繪製 / 填色 / 模糊 / 羽化的圖層遮罩、剪裁遮罩,還有 Hue/Saturation、Curves、Levels、Gaussian Blur 等調整圖層;可直接匯入 PSD / PSB,另支援 JPEG、PNG、HEIC、TIFF、SVG 與 RAW,選取修圖工具一應俱全(仿製印章、汙點修復筆刷、魔術棒),濾鏡含 Camera Raw、去背,全部即時預覽;非破壞性變形並支援對齊邊緣與參考線。
  • 快速上手:brew install --cask robbietilton-compositor 一行裝好,或到 GitHub Releases 下載,需要 macOS 26.5 以上。
  • 跟同類比:定位就是 Photoshop 的免費替代品,差在 Photoshop 要訂閱、Compositor 是 MIT 授權完全免費。跟 GIMP 比,GIMP 是通用影像編輯器、介面自成一格,Compositor 從一開始就照合成與後製流程設計,對 Mac 使用者手感更接近原本習慣的那一套。
  • 適合誰:想免費修圖、去背、出部落格封面的 Mac 使用者。
  • 連結:https://github.com/robbietilton/Compositor

結尾段落

這週三個工具剛好對上兩種痛點,Ollaya 跟 kev 都在把原本要按量付費的判斷式 AI 搬進自己的機器,Compositor 則是把要訂閱的創意工具換成免費版。如果只能裝一個,我會挑 Ollaya,一行安裝就能接手原本打 API 的程式碼,馬上省下帳單。下週沐妍再挖新的開源好物給你們。

作者

Mark Ku

10 年以上的軟體工程師,做過北美電商與 AI SaaS 訂閱收費系統。現在經營貳陸資訊有限公司(www.226network.com),幫小公司做系統、網站、LINE BOT 與 AI 自動化,也在這裡分享開發筆記與開源工具。閱讀更多

覺得這篇有幫助?

作者做的免費工具、每日 Podcast 與電子報,都在這裡。

Mark Ku · 本文採用 CC BY 4.0 授權,轉載請註明作者並附上原文連結。

留言

訂閱電子報

訂閱後即時收到新文章通知,不錯過任何技術分享。

提交即表示同意接收電子報,隨時可。

熱門文章

View all
Mark Ku
··636

Oracle Cloud 永久免費方案 Linux 主機及固定 IP :0 元打造雲端解決方案

Oracle Cloud 永久免費方案 Linux 主機及固定 IP :0 元打造雲端解決方案
Mark Ku
··487

告別 Postman 收費陷阱!開源 Git 原生 API 測試神器 Bruno 實戰指南

告別 Postman 收費陷阱!開源 Git 原生 API 測試神器 Bruno 實戰指南
Mark Ku
··307

一款免費開源類似於 Notion 類知識庫系統 — Outline Wiki 佈署與備份全攻略

一款免費開源類似於 Notion 類知識庫系統 — Outline Wiki 佈署與備份全攻略
Mark Ku
··230

在 Ubuntu 上設置 Samba 來共享資料夾,讓 Windows 11 用戶可以存取

在 Ubuntu 上設置 Samba 來共享資料夾,讓 Windows 11 用戶可以存取
Mark Ku
··229

打造高效 API 管理平台:從 0 開始部署 Kong Gateway - Part 1

打造高效 API 管理平台:從 0 開始部署 Kong Gateway - Part 1
Mark Ku
··224

訓練自己的 AI 語音:硬體門檻、開源模型比較與 LoRA 微調

訓練自己的 AI 語音:硬體門檻、開源模型比較與 LoRA 微調