HongKongNews.com.hk 香港新聞
市場
科技

Jev AI 模型速度快 200 倍成本低 400 倍但有局限

由 TypeSafe AI 研發的 Jev 模型獲約 4000 萬美元種子資金,創辦人為前 OpenAI 研究員。Jev 不生成文字,而是直接輸出選擇或分數,聲稱比傳統模型快 200 倍、成本低 400 倍,但專家指其無法取代前沿推理模型。

Jev AI 模型速度快 200 倍成本低 400 倍但有局限

由 TypeSafe AI 研發的 Jev 模型近期備受關注,該初創獲約 4000 萬美元(約 3.12 億港元)種子資金。Jev 並非傳統的大型語言模型,不會逐個 token 生成文字,而是由前 OpenAI 研究員 Diogo Almeida 設計的決策引擎。用家只需輸入電郵、查詢及少量問題,模型便會直接輸出選項、評分或機率,而非長篇回覆。

AI 業界對此感到振奮,因為傳統聊天模型在小決策上浪費昂貴的 token,而用戶往往只想知道結論,例如「用戶是否憤怒?」、「下一步用哪個工具?」或「垃圾郵件還是真郵件?」。TypeSafe 聲稱 Jev 比傳統模型快 200 倍,成本低 400 倍。

然而,從技術角度看,Jev 屬小眾應用,難以與 Anthropic 或 OpenAI 的前沿模型競爭。前沿模型如 Claude 及 GPT 表現出色,因為它們採用思維鏈推理,逐步思考細節並排除誤解。這個過程需要消耗 token,但並非浪費;若去掉推理痕跡,模型反而會變得更淺薄。

此外,OpenAI 及 Gemini 已推出 Flash 及 Mini 模型,同樣快速且成本低廉,並可鎖定輸出格式。Flash 模型仍是逐 token 生成,而 Jev 則一次性評分,因此速度更快且不為輸出文字收費。但這優勢僅在大量小決策場景下有意義,且用戶無法承受額外時間成本。

Jev 或可作為推理模型前的廉價過濾器,但無法取代前沿模型成為可靠判斷工具。若良好判斷需要思考,思考需要 token,而 Flash 已覆蓋低成本應用,Jev 只是針對已被定價的小眾問題的新架構。

資料來源:The Standard。 閱讀原文報道 →
財
財經版

報道港股、樓市、匯市及上市公司動向。