Posts

Keras 實作 CIFAR-10 圖像分類：兩層 CNN 卷積（3x3 kernel）加 Max Pooling，接全連接層（4096→1024→10），搭配 confusion matrix 分析各類別混淆情況，準確率 0.732。

K-Nearest Neighbor (KNN) 演算法介紹：監督式學習中的 KNN 原理、用 Scipy 手刻距離計算，以及與 sklearn KNN 的準確率比較（0.9467 vs 0.9733）。

LSTM 長短期記憶網路入門：解析 input gate、output gate、forget gate 的運作原理，如何解決 RNN 的長期依賴梯度消失問題，以及在 TensorFlow 中的實際應用。

Kaggle PM2.5 空氣品質預測：使用豐原站觀測資料，以 sklearn Linear Regression 為基礎，分析前九小時特徵預測第十小時 PM2.5 濃度，排名略高於 Baseline。

Kaggle Titanic 生存預測解題紀錄：使用 Logistic Regression（sigmoid + cross entropy）進行二元分類，分析 overfitting 原因並提出 feature engineering 改善方向。

Kaggle Digit Recognizer 解題紀錄：用 CNN 卷積神經網路辨識手寫 MNIST 數字，兩層卷積加一層隱藏層搭配 SGD，達成 0.98614 準確率。

TensorFlow 練習：用 Skip-gram 模型實作 Word2Vec 詞向量，學習詞語間語意關聯（king-queen=man-woman），搭配 NCE loss 和 t-SNE 降維視覺化相似詞。

TensorFlow 練習：用神經網路解 FizzBuzz 問題，兩層隱藏層（512+256）搭配 ReLU，分析 batch size 對 local minimum 的影響，加入 dropout 後訓練測試準確率同步達 1.0。

TensorFlow 練習：用卷積神經網路 CNN 辨識 MNIST 手寫數字，實作兩層 convolution + max pooling + dropout 架構，準確率達 97%~99%。

實作 Perceptron Learning Algorithm (PLA)：根據林軒田機器學習基石課程，從零實作 Naive PLA 與 Pocket PLA，解決 linear separable 二元分類問題。