Home » Tags

NLP

AI Systems

Token 是什麼？LLM 為何只讀 Token？

Token 是什麼？LLM 為何不直接處理完整字詞：解析字級、字元級、子詞級三種 tokenization 方法，包含 BPE 示範程式碼，以及 token 數量對計費和上下文長度的影響。

NLP

See all 7
AI Systems看中文版

Why Does AI Forget What You Said Earlier?

Chat with an AI long enough and it ignores the rules you set up top; open a new chat and it's blank. It isn't 'forgetting' — it has no memory. Every reply, it re-reads the whole conversation from scratch. Here's what the context window is, and how it differs from ChatGPT's 'memory' feature.

AI SystemsRead in English

為什麼 AI 會忘記我前面說過的話？

跟 AI 聊久了，它就忘記你開頭交代的事；開新對話更是整個忘光。其實它不是「忘記」，是它根本沒有記憶——每次回你都是把整段對話重讀一遍。用一個失憶但讀很快的人的畫面，聊聊 context window 是什麼，還有它跟 ChatGPT 那個「記憶」功能差在哪。

AI Systems

Token 是什麼？LLM 為何只讀 Token？

Token 是什麼？LLM 為何不直接處理完整字詞：解析字級、字元級、子詞級三種 tokenization 方法，包含 BPE 示範程式碼，以及 token 數量對計費和上下文長度的影響。

Machine Learning

Google NLP API parsing

使用 Google Cloud Natural Language API 進行中英文語意分析：從 GCP API Key 設定、JSON 請求格式，到解讀 partOfSpeech、lemma 和 dependencyEdge 結果。

Machine Learning

Keras IMDb

Keras LSTM 情感分析：用 IMDb 電影評論資料訓練文字分類模型，使用 Tokenizer 編碼、Word Embedding 轉向量，搭配三層 LSTM 達到 0.8543 準確率。

LLM

AI Systems看中文版

Why Does AI Forget What You Said Earlier?

Chat with an AI long enough and it ignores the rules you set up top; open a new chat and it's blank. It isn't 'forgetting' — it has no memory. Every reply, it re-reads the whole conversation from scratch. Here's what the context window is, and how it differs from ChatGPT's 'memory' feature.

AI SystemsRead in English

為什麼 AI 會忘記我前面說過的話？

跟 AI 聊久了，它就忘記你開頭交代的事；開新對話更是整個忘光。其實它不是「忘記」，是它根本沒有記憶——每次回你都是把整段對話重讀一遍。用一個失憶但讀很快的人的畫面，聊聊 context window 是什麼，還有它跟 ChatGPT 那個「記憶」功能差在哪。

AI Systems

Token 是什麼？LLM 為何只讀 Token？

Token 是什麼？LLM 為何不直接處理完整字詞：解析字級、字元級、子詞級三種 tokenization 方法，包含 BPE 示範程式碼，以及 token 數量對計費和上下文長度的影響。

Context Window

AI Systems看中文版

Why Does AI Forget What You Said Earlier?

Chat with an AI long enough and it ignores the rules you set up top; open a new chat and it's blank. It isn't 'forgetting' — it has no memory. Every reply, it re-reads the whole conversation from scratch. Here's what the context window is, and how it differs from ChatGPT's 'memory' feature.

AI SystemsRead in English

為什麼 AI 會忘記我前面說過的話？

跟 AI 聊久了，它就忘記你開頭交代的事；開新對話更是整個忘光。其實它不是「忘記」，是它根本沒有記憶——每次回你都是把整段對話重讀一遍。用一個失憶但讀很快的人的畫面，聊聊 context window 是什麼，還有它跟 ChatGPT 那個「記憶」功能差在哪。

All posts (7)

Support My Work

Buy Me a Coffee