Embedding 是什麼?AI 怎麼知道兩句話意思一樣
打「貓」「小貓」「喵星人」,AI 怎麼知道講的是同一種東西?答案是 embedding:把文字變成座標,再用夾角量意思相不相近。這篇拆開它怎麼運作,順便聊聊「king − man + woman = queen」那個經典其實灌了點水。
打「貓」「小貓」「喵星人」,AI 怎麼知道講的是同一種東西?答案是 embedding:把文字變成座標,再用夾角量意思相不相近。這篇拆開它怎麼運作,順便聊聊「king − man + woman = queen」那個經典其實灌了點水。
Search for 'make my laptop quieter' and get a page about 'reducing fan noise' with zero words in common. That's embeddings: text turned into coordinates, with meaning measured as the angle between two points. Here's how the trick works, and where it's oversold.
從 2017 年那支用 Scipy 手刻的 k-NN 出發:iris 對半切、for 迴圈掃過全部訓練資料,再看 KD tree 怎麼把 75 萬筆的精確查詢壓到毫秒等級,以及維度上到 768 之後樹狀索引為什麼失效、向量檢索為什麼改用 HNSW 這類近似索引。