Kaggle Grandmaster 学習記録

🟡 Phase 6 — SOTA手法の追跡・論文実装・カスタムアーキテクチャ・高度なアンサンブル

Day 126 –

2026-08-18

Day 128 — SOTA手法の追跡・論文実装③ — 学習を安定させるExponential Moving Average（EMA）

理論→コーディング

2026-08-17

Day 127 — SOTA手法の追跡・論文実装② — 汎化性能を高めるOptimizerの工夫（SAM: Sharpness-Aware Minimization）

理論→コーディング

2026-08-16

Day 126 — SOTA手法の追跡・論文実装① — 論文の数式をコードに落とし込むワークフロー（Label Smoothing）

理論→コーディング

🟣 Phase 5 — ディープラーニング・NLP・CV・時系列

Day 110 – 125

2026-08-15

Day 125 — ソロGold戦略 — Phase4×Phase5武器庫を統合したGold圏内到達フレームワーク

戦略→コーディング

2026-08-14

Day 124 — マルチモーダル学習入門 — 数値×テキストのIntermediate Fusion

理論→コーディング

2026-08-13

Day 123 — Temporal Fusion Transformer入門 — Attention＋分位点予測

コーディング

2026-08-12

Day 122 — Prophet入門 — トレンド・季節性・祝日効果の分解

理論→コーディング

2026-08-11

Day 121 — 時系列ディープラーニング入門 — LSTM

理論→コーディング

2026-08-10

Day 120 — CVブロック総括 — 実践的なバックボーン選定戦略

戦略

2026-08-09

Day 119 — Data Augmentation応用 — RandAugment・Mixup・CutMix

コーディング

2026-08-08

Day 118 — EfficientNet・timmライブラリ入門 — 統一APIでのバックボーン選定

コーディング

2026-08-07

Day 117 — 転移学習入門 — 事前学習済みResNetの活用・Feature ExtractionとFine-tuningの違い

理論→コーディング

2026-08-06

Day 116 — CNN入門③ — Data Augmentation・学習曲線の可視化・過学習の兆候の見つけ方

理論→コーディング

2026-08-05

Day 115 — CNN入門② — 実データセットでの学習・DataLoader前処理・学習ループ

コーディング

2026-08-04

Day 114 — CNN入門① — 畳み込み・プーリングの直感、画像データの扱い方

理論→コーディング

2026-08-03

Day 113 — PyTorch入門③ — GPU学習・モデルの保存/読み込み・チェックポイント

理論→コーディング

2026-08-02

Day 112 — PyTorch入門② — Dataset・DataLoader・本格的な学習ループ

コーディング

2026-08-01

Day 111 — PyTorch入門① — Tensor・自動微分の仕組み

コーディング

2026-07-31

Day 110 — ニューラルネットワークとは何か — パーセプトロン・活性化関数・誤差逆伝播の直感

理論→コーディング

🔵 Phase 4 — GBDT・アンサンブル・Optuna・上位特徴量工学

Day 090 – 109

2026-07-30

Day 109 — Phase 4 総復習 — Tabularコンペで上位10%（Silverメダル）を目指す

戦略

2026-07-29

Day 108 — SHAP値の解釈 — グローバル/ローカル解釈・Kaggleでの活用

コーディング→戦略

2026-07-28

Day 107 — 特徴量選択の高度手法 — SHAP・Boruta・PermutationImportance

コーディング

2026-07-27

Day 106 — 不均衡データ対策 — SMOTE・class_weight・閾値調整

コーディング

2026-07-26

Day 105 — 外れ値の影響と対策 — Huber Loss・量子回帰

理論→コーディング

2026-07-25

Day 104 — アンサンブル③（Blending）— hold-outベースの軽量Stacking

コーディング→分析

2026-07-24

Day 103 — アンサンブル②（Stacking）— Level-1/Level-2・リーク防止

コーディング

2026-07-23

Day 102 — アンサンブル①（Averaging）— Simple Average・Rank Average・重み最適化

コーディング

2026-07-22

Day 101 — NestedCV — チューニングとCV評価の分離

理論→コーディング

2026-07-21

Day 100 — 高度なTargetEncoding — LeaveOneOut・Smoothing係数最適化

コーディング

2026-07-20

Day 099 — Rolling・Lag特徴量 — 時系列データへの応用

コーディング

2026-07-19

Day 098 — Aggregation特徴量 — groupby統計量・差分・比率特徴量

理論→コーディング

2026-07-18

Day 097 — Optuna高度な使い方 — Pruning・並列化・可視化

コーディング

2026-07-16

Day 096 — Optuna基礎 — Study・Trial・パラメータ空間定義

コーディング

2026-07-15

Day 095 — CatBoost — Ordered Boosting・Ordered Target Statistics・対称木

理論→コーディング

2026-07-14

Day 094 — LightGBM② 高度な使い方 — DART・GOSS・カテゴリ変数のネイティブ対応

コーディング

2026-07-13

Day 093 — LightGBM① 実装 — XGBoostとの違い・高速化の理由

コーディング

2026-07-12

Day 092 — XGBoost② パラメータ — max_depth・eta・subsample の意味

理論→コーディング

2026-07-11

Day 091 — XGBoost① 実装 — DMatrix・早期終了・CVの基本

コーディング

2026-07-10

Day 090 — Gradient Boostingとは何か — 勾配ブースティングの直感

理論

💧 Phase 3 — EDA・特徴量エンジニアリング・Kaggle入門コンペ

Day 069 –

2026-07-09

Day 089 — Phase 3 総復習 — Kaggleコンペで Bronze 圏内を目指す

分析

2026-07-08

Day 088 — コンペ選定基準 — 自分に合ったコンペの見つけ方

戦略

2026-07-07

Day 087 — Kaggle API — データダウンロード・提出の自動化

コーディング

2026-07-06

Day 086 — AutoML活用 — AutoGluon・PyCaretで素早くベースライン構築

コーディング

2026-07-05

Day 085 — House Prices EDA — 回帰コンペの特徴量工学入門

コーディング

2026-07-04

Day 084 — Playground Series 活用法 — 月次コンペでBronzeメダルを取る戦略

戦略

2026-07-03

Day 083 — Titanic攻略② — アンサンブルで上位25%を目指す

コーディング

2026-07-01

Day 082 — 特徴量エンジニアリング応用 — Titanic の隠れた特徴量を掘り起こす

分析

2026-07-02

Day 081 — Titanicベースライン構築 — ロジスティック回帰でKaggle初提出

コーディング

2026-06-30

Day 080 — CV設計戦略 — Stratified K-Fold で Titanic を正確に評価する

理論

2026-06-29

Day 079 — Kaggle ノートブックの読み方 — 上位ノートブック精読の手順

コーディング

2026-06-28

Day 078 — Kaggleのコンペ構造 — データ・評価指標・提出形式の読み方

戦略

2026-06-27

Day 077 — データリークとは何か — リークの種類・防ぎ方・実例

理論→戦略

2026-06-26

Day 076 — Target Encoding 基礎 — 実装・リーク防止・Smoothing

コーディング

2026-06-25

Day 075 — EDA体系的手法⑦ — カテゴリ変数のエンコーディング手法比較

コーディング

2026-06-24

Day 074 — EDA体系的手法⑥ — 目的変数の変換（log変換・Box-Cox）

分析

2026-06-23

Day 073 — EDA体系的手法⑤ — 相関行列と多重共線性の検出・VIF計算

コーディング

2026-06-22

Day 072 — EDA体系的手法④ — 外れ値の検出と処理戦略

理論

2026-06-21

Day 071 — EDA体系的手法③ — 欠損値パターンの分析と可視化

コーディング

2026-06-20

Day 070 — EDA体系的手法② — カテゴリ変数の分布・目的変数との関係

分析

2026-06-19

Day 069 — EDA体系的手法① — 数値変数の分布・歪度・尖度

分析

📈 Phase 2 — 線形回帰・評価指標・交差検証・ロジスティック回帰

Day 049 – 068

2026-06-18

Day 068 — Phase 2 総復習 — Kaggle初コンペ出場戦略（提出からスコア改善まで）

戦略

2026-06-17

Day 067 — 特徴量重要度と SHAP — GBDTの予測根拠を解釈する

分析

2026-06-16

Day 066 — ブレンディング（Blending）とアンサンブル実践 — 加重平均・多数決・スタッキングの選択基準

コーディング

2026-06-15

Day 065 — スタッキング（Stacking Ensemble）— OOF予測でメタモデルを学習する

理論

2026-06-14

Day 064 — Optuna ハイパーパラメータ最適化 — GBDTの自動チューニング（XGBoost / LightGBM / CatBoost）

コーディング

2026-06-13

Day 063 — CatBoost 入門 — 順序付きブースティング・カテゴリカル処理・3大GBDT最終比較

理論

2026-06-12

Day 062 — LightGBM 入門 — leaf-wise成長・カテゴリカル処理・XGBoostとの速度比較

コーディング

2026-06-11

Day 061 — 勾配ブースティング入門 — XGBoost の仕組みと基本パラメータ

理論

2026-06-10

Day 060 — ランダムフォレスト — バギング・特徴量重要度・OOBスコア

コーディング

2026-06-09

Day 059 — 決定木（Decision Tree）— 情報利得・木の深さ・過学習の直感

理論→コーディング

2026-06-08

Day 058 — 交差検証の深掘り — Stratified K-Fold・繰り返し CV・Leave-One-Out の使い分け

コーディング

2026-06-07

Day 057 — PR曲線と Average Precision — 不均衡データの評価

分析

2026-06-06

Day 056 — Confusion Matrix の可視化と詳細分析（heatmap・FP/FN のビジネス解釈）

コーディング

2026-06-05

Day 055 — ROC曲線と AUC — 閾値・感度・特異度の関係

理論

2026-06-04

Day 054 — 評価指標の深掘り（多クラス版）— Macro / Micro / Weighted F1

コーディング

2026-06-03

Day 053 — ロジスティック回帰の正則化と多クラス分類（C パラメータ・Iris）

分析

2026-06-02

Day 052 — ロジスティック回帰入門（シグモイド・確率予測・係数の解釈）

コーディング

2026-06-01

Day 051 — 交差検証の基礎（K-Fold CV・Stratified K-Fold）

理論

2026-05-31

Day 050 — 評価指標の深掘り（MAE / RMSE / R² / MAPE）

コーディング

2026-05-30

Day 049 — 線形回帰入門（最小二乗法・単回帰・重回帰）

理論

🐼 pandas入門 / データ確認 / 欠損値処理 / 可視化 / 相関係数

Day 040 –

2026-05-29

Day 048 — Phase 1 総復習（記述統計〜相関係数）

分析

2026-05-28

Day 047 — 相関係数と散布図（散布図行列・回帰直線）

コーディング

2026-05-27

Day 046 — 相関係数と散布図

理論

2026-05-25

Day 045 — データの可視化（matplotlib / seaborn）

コーディング

2026-05-24

Day 044 — 欠損値の確認と対処（isna・fillna・dropna）

分析

2026-05-23

Day 043 — データの読み込みと基本確認（shape・dtypes・describe）

コーディング

2026-05-22

Day 042 — pandas入門（loc・iloc・apply）

理論

2026-05-21

Day 041 — pandas入門（groupby・集計・ピボット）

コーディング

2026-05-20

Day 040 — pandas入門（DataFrame・Series）

理論＋コーディング

📊 記述統計入門

Day 001 – 004

2026-04-09

Day 001 — 記述統計入門（平均・中央値・最頻値）

理論＋コーディング

2026-04-10

Day 002 — 記述統計入門（外れ値と平均・pandas活用）

コーディング

2026-04-11

Day 003 — 記述統計入門（Titanicデータ分析）

分析

2026-04-12

Day 004 — 記述統計入門（外れ値が代表値に与える影響）

コーディング

📉 分散・標準偏差・外れ値

Day 005 – 019

2026-04-13

Day 005 — 分散・標準偏差・外れ値（理論）

理論

2026-04-15

Day 006 — 分散・標準偏差・外れ値（IQR法コーディング）

コーディング

2026-04-16

Day 007 — 分散・標準偏差・外れ値（理論編）

理論

2026-04-17

Day 008 — 分散・標準偏差・外れ値（コーディング編）

コーディング

2026-04-18

Day 009 — 分散・標準偏差・外れ値（理論編）

理論

2026-04-19

Day 010 — 分散・標準偏差・外れ値（Zスコア法）

コーディング

2026-04-20

Day 011 — 分散・標準偏差・外れ値（分析）

分析

2026-04-21

Day 012 — 分散・標準偏差・外れ値（IQR+Zスコア実践）

コーディング

2026-04-22

Day 013 — 分散・標準偏差・外れ値（分析）

分析

2026-04-23

Day 014 — 分散・標準偏差・外れ値（コーディング実践）

コーディング

2026-04-24

Day 015 — 分散・標準偏差・外れ値（IQR+Zスコア比較）

分析

2026-04-25

Day 016 — 分散・標準偏差・外れ値（実装編）

コーディング

2026-04-26

Day 017 — 分散・標準偏差・外れ値（理論編）

理論

2026-04-27

Day 018 — 分散・標準偏差・外れ値（Titanicデータ）

コーディング

2026-04-28

Day 019 — 分散・標準偏差・外れ値（分析編）

分析

🎲 確率の基礎

Day 020 – 024

2026-04-29

Day 020 — 確率の基礎（頻度主義 vs ベイズ主義）

理論

2026-04-30

Day 021 — 確率の基礎（サイコロとシミュレーション）

コーディング

2026-05-01

Day 022 — 確率の基礎（条件付き確率・ベイズの定理）

理論＋コーディング

2026-05-02

Day 023 — 確率の基礎（ベイズ定理応用・スパムフィルター）

理論＋コーディング

2026-05-03

Day 024 — 確率分布（正規分布・二項分布）

コーディング＋理論

🔢 numpy入門

Day 025 – 039

2026-05-04

Day 025 — numpy入門（配列操作・欠損値処理）

コーディング

2026-05-05

Day 026 — numpy入門（理論・属性・ブロードキャスト）

理論

2026-05-06

Day 027 — numpy入門（reshape・axis操作）

コーディング

2026-05-07

Day 028 — numpy入門（欠損補完・np.where）

分析

2026-05-08

Day 029 — numpy入門（偏差値変換・ブールインデックス）

コーディング

2026-05-09

Day 030 — numpy入門（多次元配列・axis集計）

分析

2026-05-10

Day 031 — numpy入門（正規化・週次集計）

コーディング

2026-05-11

Day 032 — numpy入門（年代分類・Min-Max正規化）

分析

2026-05-12

Day 033 — numpy入門（ブール配列マスク・欠損処理）

コーディング

2026-05-13

Day 034 — numpy入門（shape・dtype・ブロードキャスト理論）

理論

2026-05-14

Day 035 — numpy入門（スコア分析・ランキング）

コーディング

2026-05-15

Day 036 — numpy入門（次元・arange・linspace 理論）

理論

2026-05-16

Day 037 — numpy入門（Titanic風データ前処理）

コーディング

2026-05-17

Day 038 — numpy ブロードキャスト・ユニバーサル関数

理論

2026-05-19

Day 039 — numpy クリッピング・条件分類・ソート

コーディング