學習中心/術語一次搞懂·7 分鐘

AI 的 token 是什麼?為什麼跟費用有關?

// 一句話回答

在 AI 裡,token(詞元)是 AI 處理文字的最小單位 —— AI 不是一個字一個字讀,而是把文字切成一塊塊 token 來理解與生成。它同時是 AI 的「計費單位」和「記憶長度單位」:用多少 token、能記多少 token,都直接影響成本與效果。

AI 怎麼「讀」文字

人是一個字一個字讀,AI 不是。AI 會先把句子「切成一塊塊」再處理,每一塊就叫一個「token(詞元)」。這個切的動作,技術上叫「分詞」——你不用記這個詞,只要知道「AI 會把文字拆成小塊來讀」就好。

一個 token 可能是一個字、半個詞,或一個標點符號。粗略換算:英文大約每 4 個字元≈1 個 token;中文大約 1 個字≈1~2 個 token(依不同 AI 的分詞方式而異)。所以 token 數跟你直覺的「字數」不會完全一樣。

為什麼 token 跟你的荷包有關(計費)

AI 服務幾乎都「按 token 計費」,而且分成兩種:「輸入 token」(你餵給它的內容,例如你的問題、你貼進去的資料)和「輸出 token」(它回給你的內容)。通常輸出比輸入貴。

所以餵越長的資料、要越長的回答,就用掉越多 token=花越多錢。這也是為什麼「精準給重點、要它講重點」往往比「整包塞給它、讓它長篇大論」更省錢。

token 也是「記憶長度」:認識 context window

AI 一次能處理的 token 有上限,這個上限有個名字叫「context window(上下文視窗)」。你可以把它想成 AI 的「短期記憶容量」——它一次能「同時記在腦子裡」的內容有多少。

把對話和檔案不斷塞進去,一旦超過這個視窗的上限,最前面的內容就會被擠掉,或需要被「壓縮」(濃縮成摘要)。視窗越大,代表 AI 一次能讀進、記住越多資料,越適合處理長文件。

對企業使用的實際意義

  • 想省錢/提速:別無腦把整份大檔塞進去,先篩出重點再給;重複用到的同一段長內容,可考慮用「快取」(把處理過的結果先存起來、下次直接重用,省時省錢)
  • 想讓 AI 讀長報告、長合約:要挑 context window(一次能記住的量)夠大的 AI
  • 這兩件事,本質上都是「token」這個概念的直接應用——懂了 token,你就懂了 AI 的成本結構

⚠️ 另一個同名的「token」:存取憑證

這裡要特別提醒,避免搞混:在「API/登入」的語境裡,token 指的是完全不同的東西——一段用來證明你身分的「存取憑證(access token)」,功能類似一組臨時密碼。

所以看到「API token」「存取 token」時,講的是這個「憑證」,不是 AI 的詞元。它們只是剛好同名。判斷方式很簡單:講 AI 讀多少字、算多少錢,是「詞元」;講登入、身分、金鑰,是「憑證」。

常見問題

中文和英文哪個比較耗 token?

通常中文每個字換算的 token 會比英文多一些,所以同一段意思,中文往往比英文吃更多 token。實際仍依各家 AI 的分詞方式而定。

怎麼粗估一段文字大概幾個 token?

英文可抓「字數 ÷ 0.75」或「字元數 ÷ 4」;中文可抓「字數 × 1~2」。要精確就用該 AI 官方提供的 token 計算工具實際算。

context window(上下文視窗)越大越好嗎?

大視窗能一次讀更多資料很方便,但塞進越多 token 通常也越貴,有時內容太雜反而稀釋重點。夠用就好,不是越大越划算。

token 和「字數」是一樣的嗎?

不一樣。token 是 AI 的切分單位,跟人類算的「字數」不一定對得起來,尤其在中英混雜或含程式碼時,差距會更明顯。

延伸閱讀

想讓整個團隊真的會用 AI?

我把自己經營公司在用的 AI 實戰,做成企業內訓 —— 帶團隊用真實任務當場做出成果。

看企業 AI 內訓