Tensorflow2 -- MNIST
Machine Learning

Tensorflow2 -- MNIST

TensorFlow 2.x 實作 MNIST 手寫數字辨識:比較繼承 tf.keras.Model 與 Sequential API 兩種建模方式,以及 GradientTape 自訂訓練迴圈的完整程式碼。

2020-09-26 · 1 min read · 476 words · KbWen · ZH
LSTM 是什麼:三個閘門怎麼運作
Machine Learning

LSTM 是什麼:三個閘門怎麼運作

LSTM 用遺忘門、輸入門、輸出門三道閘控制 cell state,讓資訊靠加法而不是連乘往前傳,避開一般 RNN 的梯度消失。這篇把當年只列了名字的閘門部分補完,並交代它在 Transformer 之後的位置。

2017-06-29 · 4 min read · 1561 words · KbWen · ZH
Kaggle Titanic 入門:資料裡的訊號在哪裡
Machine Learning

Kaggle Titanic 入門:資料裡的訊號在哪裡

Kaggle Titanic 解題紀錄:2017 年用 Logistic Regression 拿到 0.76555,加上回頭讀那支程式的筆記。preprocessing 先把 Age 正規化才跑 Age 小於 16 的規則,Sex 整欄變成同一個值;0.76555 換算回去是 418 題裡答對 320 題。

2017-06-09 · 7 min read · 3036 words · KbWen · ZH
TensorFlow 練習 4:word2vec
Machine Learning

TensorFlow 練習 4:word2vec

TensorFlow 練習:用 skip-gram 實作 word2vec 詞向量,並拆開 nce_loss 那一行:訓練時為什麼不掃整張詞彙表,改抽 K 個負面樣本問是非題,以及那些負面樣本是怎麼抽出來的。

2017-05-12 · 4 min read · 1654 words · KbWen · ZH
TensorFlow 練習 2:CNN
Machine Learning

TensorFlow 練習 2:CNN

TensorFlow 練習:用卷積神經網路 CNN 辨識 MNIST 手寫數字,實作兩層 convolution + max pooling + dropout 架構,準確率達 97%~99%。

2017-05-07 · 2 min read · 581 words · KbWen · ZH
TensorFlow 練習 1:Polynomial Regression
Machine Learning

TensorFlow 練習 1:Polynomial Regression

TensorFlow 練習:用神經網路擬合二維四次多項式 Polynomial Regression,介紹 tf.placeholder、tf.Variable、square error loss 和梯度下降優化器的基礎用法。

2017-04-13 · 1 min read · 332 words · KbWen · ZH