LLM

All posts (67)

• How FlashAttention computes softmax one block at a time
• Setting effort on Claude Haiku 5.5
• Claude Haiku 5.5 超過 100,000 tokens 的請求怎麼計價
• Passing back reasoning items in the OpenAI Responses API
• OpenAI 的 reasoning tokens 怎麼計費
• AI 為什麼愛附和使用者？RLHF 訓練中的阿諛奉承現象
• LLM sycophancy, RLHF and preference models
• Sparse autoencoders and Claude's Golden Gate Bridge feature
• 金門大橋 Claude 與稀疏自編碼器：把單一特徵調大會發生什麼事
• DeepSeek-V3's auxiliary-loss-free load balancing and multi-token prediction
• DeepSeek-V3 的 Multi-head Latent Attention 如何壓縮 KV 快取
• How constrained decoding works for JSON
• JSON schema 怎麼限制 LLM 的輸出
• How tool call arguments stream in the Claude API
• Claude API 串流時的工具呼叫與不完整的 JSON
• Where the cache_control breakpoint goes in Claude prompt caching
• Claude API 的 prompt caching：cache_control 放在哪裡
• GPT-6 Astra 評測與價格：跟 GPT-5.6 Sol、Fable 5.1 的比較
• The Assisted-by trailer in GCC, the Linux kernel and QEMU
• What GPT-6 Astra Costs Per Token and Per Task
• What Claude's text watermark attaches to
• Claude 的文字浮水印怎麼運作
• Google 幫你打電話問店家有沒有貨，實際上是怎麼跑的
• What the parameter count in a model's name means
• 7B、70B 是什麼意思？看懂模型名字裡的參數量
• How the KV cache speeds up LLM generation
• Kimi K3 Benchmarks vs Claude Fable 5 and GPT-5.6 Sol
• Kimi K3 適合什麼任務？跟 Fable 5、GPT-5.6 Sol 的對照表怎麼看
• Before an incident, test whether your AI provider will accept attack logs
• Tokenization 到底佔多少成本？從 0.1% 到 99% 的落差是怎麼來的
• How temperature, top-k, and top-p shape an LLM's output
• Claude Projects 新手教學：從零設一個專案，指令跟知識庫該放什麼
• How to Use Claude Projects: A First-Time Setup
• Anthropic Reverses Course: Claude Fable 5 Stays in Subscription Plans
• Claude Fable 5 要留在訂閱裡了：從限時免費到永久包含，一個多月的來回
• The Same GLM 5.2 Has Different Prices Across Providers
• OpenRouter 上，美國公司使用中國 AI 模型的 token 佔比升到每週 30% 以上
• 只會 Prompt 已經不夠了：從「下指令」到「蓋系統」的思維進化
• What Makes an AI Skill Different from a Prompt?
• What Are GPT-5.6's Sol, Terra, and Luna?
• GPT-5.6 的 Sol、Terra、Luna 是什麼
• Embedding 是什麼？AI 怎麼知道兩句話意思一樣
• How Embeddings Work: How AI Knows Two Sentences Mean the Same Thing
• How Many Tokens Is Your Prompt Actually Using?
• 你的 Prompt 到底花掉多少 Token？
• Does Saying 'Thank You' to ChatGPT Actually Cost Anything?
• 跟 AI 說「請」和「謝謝」，到底有沒有差？
• Why Does AI Forget What You Said Earlier?
• 為什麼 AI 會忘記我前面說過的話？
• 把 temperature 設成 0，AI 就會每次都一樣嗎？
• Why Does AI Give a Different Answer Every Time You Ask?
• 為什麼同一個問題問 AI，每次答案都不一樣？
• Claude Fable 5: First Public Mythos-Class Model, One Day In
• Claude Fable 5 是什麼？第一個公開的 Mythos 級模型，加上我第一天的使用心得
• Claude Code 多了個 dynamic workflows，我打開那段 JS 看了一下
• How Claude Code's Dynamic Workflows Run 1,000 Subagents
• AI 連草莓有幾個 r 都數錯，是它笨嗎？
• Why Does AI Sound So Confident When It's Wrong?
• How I Use ChatGPT, Claude, and Gemini Day to Day
• 為什麼 AI 唬爛的時候，口氣跟講真話一模一樣？
• 我每天開著三個 AI 聊天視窗，這陣子摸出來的幾個小習慣
• Benchmark 飽和，其實是個驗證問題
• LLM Benchmark Saturation Is a Verification Problem
• The Skill Your Annoyed Prompt Becomes
• What a 13-Line Skill Leaves Out
• Token 是什麼？LLM 為何只讀 Token？
• 《大語言模型 LLM：其實做的事情比你想像中更單純》