例如 Token（詞元），再將 Token 轉換成數字或向量。接著依需求使用 8-bit、4-bit 等較低精度來表示這些數值，以減少模型的記憶體使用量與運算成本，同時盡量維持模型的準確度。

簡單來說就是：

文字 → Token → 數值／向量 → 降低數值精度（如 INT8、INT4） → 模型運算。

文字量化就是先把文字切成字或詞，再用出現次數、TF-IDF，或現在常見的 Embedding 字詞向量，把文字轉成電腦可以計算的數字。這樣 AI 才能去比較不同文字之間的關係，進一步理解或分析文字。

實務上，一般文字的量化處理通常是先將文字進行清理與整理，再依研究目的轉換成可以分析的數值，例如計算詞頻、使用 TF-IDF 或將文字轉成向量（embedding），也可以進一步將文字分類成情緒、主題或其他類別，最後透過統計方法分析不同文字內容之間的差異、關聯或趨勢。

1.文字切塊（Chunking）與標記化（Tokenization）。
2.轉為語意向量（Embedding）並存入向量資料庫（Vector DB）。
3.提問時進行相似度檢索，並將相關段落餵給 LLM 生成回答。

在實務上，將人類的「文字（自然語言）」轉換成電腦看得懂的「數字（向量）」的過程，我們稱為文字向量化（Text Vectorization）或文字嵌入（Text Embedding）。
其核心目標，就是把文字中的「語義」和「前後文關係」，壓縮成一串由數字組成的陣列。實務上的做法演進主要分為三個世代，目前業界最常用的是第三代（深度學習模型）。