你可能以為 AI 是按「問了幾個問題」收費。其實帳單是按 token 算的，而在長時間運作的 AI 工作裡，反覆重讀同一份背景資料，可能就是帳單的大宗（Anthropic 2026/09/24 的 Claude 部落格指出，快取讀取占了 agentic 與寫程式工作成本的大部分；查核日 2026/09/30）。
如果你是負責評估 AI 工具的主管，看懂下面三件事，就知道錢花在哪、又能從哪裡省。
01 / 觀點與拆解秘密 1｜上下文窗口：桌子越大，不代表要攤滿
上下文窗口可以想像成 AI 的辦公桌：桌子越大，能同時攤開越多文件一起看。它的單位是 token，不是字數，中英文換算比例也不同。
目前的旗艦模型，例如 Claude Fable 5.1，能一次讀進大約 100 萬 token（Anthropic 文件〈What's new in Claude Fable 5.1〉，查核日 2026/09/30）；有些模型的上下文窗口也在這個等級。
隱藏成本在這裡：桌子大，不代表每次都該攤滿。有些模型的單次輸入超過一定長度，整筆請求就會改用較高費率。日常的制度問答，先找出相關段落再交給 AI（業界稱為 RAG，檢索增強生成），可能更準也更省。
02 / 觀點與拆解秘密 2｜推理：模型「想」的過程也要付錢
一般模型收到問題就直接回答；推理模型會先拆解問題、檢查條件、比較可能答案，再給結果。適合邏輯推演、資料分析、規則複雜的判斷。
隱藏成本在這裡：思考過程也算錢。有些模型的輸出價格就包含思考用掉的 token，越難的題目可能用得越多。翻譯、潤稿、分類這類工作，用一般模型就夠了。
03 / 觀點與拆解秘密 3｜快取：重讀同一份資料，可以打很大的折
如果每次都要讓 AI 重讀同一份產品手冊、同一段系統指令，快取就是「讀過的部分打折」。
隱藏成本在這裡：不同模型的折扣可能差很多。Claude Fable 5.1 的快取讀取只收標準輸入價的 2.5%，其他 Claude 模型則是 10%（Anthropic 文件〈What's new in Claude Fable 5.1〉，查核日 2026/09/30）。客服知識庫、內部制度問答、長時間運作的 AI Agent，這類會反覆讀同樣背景資料的工作，快取設計得好不好，帳單可能差很多。
別忘了：快取不代表不用管資料安全。資料保留多久、能不能選擇不保留，都要另外確認。
04 / 觀點與拆解達美觀點：我們也曾把每一頁都用了最貴的處理方式
達美智創所屬集團的服務部門，要把設備維修手冊做成 AI 問答庫，讓外勤工程師遇到問題先問 AI。第一版做法是把整頁 PDF 轉成圖片，文字和圖片一起交給多模態模型理解。測試下來，建庫每頁約 NT$1，一整批手冊可能超過一萬元；建好之後，每次問答約 NT$0.06。（以上為內部測試觀察值，非固定報價。）
回頭檢查，問題不在模型太貴，而在「建庫」這一步，每一頁都用了最貴的處理方式。所以我們在內部教材裡提出另一種做法：先用程式抽出文字、清掉無效頁面、切好段落，只有真正需要看懂的工程圖才交給視覺模型；回答問題時也只取相關片段。這是建議的做法，改流程後的成本目前還沒有實測數據。
日常使用也有同樣的現象。我們內部觀察到，長對話一路追加任務、反覆附上同一份大檔案時，額度消耗特別快。換主題就開新對話、一次把需求說清楚，可能比換更便宜的模型更有效。
產業動態
產業動態
產業動態