Day 125 — ソロGold戦略 — Phase4×Phase5武器庫を統合した個人参加Gold圏内到達フレームワーク

📚 背景知識（読んでから問題へ）

正式な閾値はKaggle公式Progression Systemページで確認する必要があるが、「Goldはチーム数が多いほど絶対人数ベースの狭き門になる」という傾向は共通している。

🎯 問題

架空のKaggleコンペ「Retail Demand & Anomaly 2026」（店舗×商品ごとの日次需要予測、評価指標はSMAPE（小さいほど良い））に、あなたはチームを組まずソロで参加しています。

📊 順位とメダル圏の可視化（640チーム中の現在地）

💡 ヒント

def recommend_solo_gold_final_push(
    days_left, current_rank, gold_rank_threshold,
    cv_score, lb_score, cv_lb_gap_history,
    tried_methods, modalities_available, modalities_used,
):
    actions = []
    rank_gap = current_rank - gold_rank_threshold

    # 縮小/拡大傾向の判定（直近4値の差分がすべて負なら縮小傾向）
    gap_diffs = [cv_lb_gap_history[i] - cv_lb_gap_history[i-1] for i in range(1, len(cv_lb_gap_history))]
    gap_widening = any(d > 0 for d in gap_diffs)

    # ... 順位差が大きければ特徴量エンジニアリングを優先、
    # 未使用モダリティ×残り日数7日以上でモデル多様性を追加、
    # GBDT単系統ならモデル系統を追加、残り3日以下は新規禁止 ...

    actions.append({"action": "select_final_2_submissions", "priority": "must"})
    return actions

✅ 模範解答

タスク1: 優先度順の打ち手リスト（残り18日・Gold圏まで34人分）

1. 1
   特徴量エンジニアリングの深掘り（Phase3-4） — 34人分の差は小手先のチューニングでは埋まりにくい。ラグ・ローリング統計量の粒度追加や店舗×商品の交互作用特徴量を優先する
2. 2
   テキストモダリティ用のマルチモーダルNN追加（Day124） — 未活用の商品説明文をIntermediate Fusionで取り込み、GBDT単体では拾えない誤差パターンを補う
3. 3
   CatBoostまたはNN系モデルの追加（Phase4/5） — LightGBM単系統から脱し、アンサンブルの前提となる「誤差の相関が低い2つ目のモデル」を用意する
4. 4
   アンサンブル重みの最適化（Day102 Averaging） — 複数モデルが揃った段階でRank Average/重み最適化を行う
5. 5
   残り3日を切ったらシード平均のみに専念し、最終2サブミットを選定 — 新規モデル追加を凍結し、CVベスト＋CVとの乖離が小さいLBベストを選ぶ

タスク2: recommend_solo_gold_final_push の実装

def recommend_solo_gold_final_push(
    days_left: int,
    current_rank: int,
    gold_rank_threshold: int,
    cv_score: float,
    lb_score: float,
    cv_lb_gap_history: list[float],
    tried_methods: list[str],
    modalities_available: list[str],
    modalities_used: list[str],
) -> list[dict]:
    """残り日数・現状のスコア/順位・試行済み手法から、ソロGoldに向けた次の一手を優先度順に返す。"""
    actions = []
    rank_gap = current_rank - gold_rank_threshold

    # --- CV-LBギャップの傾向判定（直近の差分がすべて負なら縮小傾向） ---
    gap_diffs = [cv_lb_gap_history[i] - cv_lb_gap_history[i - 1] for i in range(1, len(cv_lb_gap_history))]
    gap_widening = any(d > 0 for d in gap_diffs)

    # --- ルール1: 残り日数3日以下なら新規モデル追加を禁止 ---
    freeze_new_models = days_left <= 3

    # --- 順位差が大きい場合は根本的な打ち手を最優先に ---
    if rank_gap > 20 and not freeze_new_models:
        actions.append({
            "action": "feature_engineering_deep_dive",
            "priority": "high",
            "reason": f"Gold圏まで{rank_gap}人分の差があり、特徴量エンジニアリング(Phase3-4)を優先する",
        })

    # --- ルール2: 未使用モダリティ×残り日数7日以上でモデル多様性を追加 ---
    unused_modalities = [m for m in modalities_available if m not in modalities_used]
    if unused_modalities and days_left >= 7 and not freeze_new_models:
        target = unused_modalities[0]
        actions.append({
            "action": f"add_multimodal_branch_for_{target}",
            "priority": "high",
            "reason": f"「{target}」が未活用。Day124のIntermediate Fusionでモデル多様性を補う",
        })

    # --- ルール3: GBDT単系統のみならモデル系統を追加 ---
    gbdt_family = {"lightgbm", "xgboost", "catboost"}
    nn_family = {"neural_net", "cnn", "lstm", "tft", "multimodal_nn"}
    has_gbdt_diversity = len(gbdt_family & set(tried_methods)) >= 2
    has_nn = len(nn_family & set(tried_methods)) >= 1
    if not (has_gbdt_diversity or has_nn) and not freeze_new_models:
        actions.append({
            "action": "add_second_model_family",
            "priority": "medium",
            "reason": "LightGBM単系統のみ。CatBoardかNN系を追加し誤差相関の低いモデルを揃える",
        })

    # --- ルール4: CV-LBギャップが拡大傾向なら警告（今回は縮小傾向のため発火しない） ---
    if gap_widening:
        actions.append({
            "action": "distrust_public_lb",
            "priority": "high",
            "reason": "CV-LBギャップ拡大。Public LBよりCVスコアを重視する",
        })

    if freeze_new_models:
        actions.append({
            "action": "seed_averaging_and_weight_tuning_only",
            "priority": "high",
            "reason": "残り日数僅少。新規モデルはリスクが高いためシード平均・重み最適化のみ",
        })

    # --- ルール5: 最終2サブミットの選び方は必ず提案 ---
    actions.append({
        "action": "select_final_2_submissions",
        "priority": "must",
        "reason": "1つ目はCVベスト、2つ目はCVとの乖離が小さいLBベストを選ぶ",
    })
    return actions


# --- 動作確認: 「Retail Demand & Anomaly 2026」の現在の状況 ---
plan = recommend_solo_gold_final_push(
    days_left=18, current_rank=54, gold_rank_threshold=20,
    cv_score=12.55, lb_score=12.83,
    cv_lb_gap_history=[1.20, 0.95, 0.61, 0.28],
    tried_methods=["lightgbm", "feature_engineering_lag_rolling", "optuna_tuning"],
    modalities_available=["tabular", "timeseries", "text"],
    modalities_used=["tabular", "timeseries"],
)
for i, a in enumerate(plan, 1):
    print(f"{i}. [{a['priority']}] {a['action']}")
# 出力例:
# 1. [high] feature_engineering_deep_dive
# 2. [high] add_multimodal_branch_for_text
# 3. [medium] add_second_model_family
# 4. [must] select_final_2_submissions
# （CV-LBギャップは1.20→0.95→0.61→0.28と一貫して縮小 → distrust_public_lb は発火しない）

タスク3: 順位・ギャップ推移の分析と最終結論

📉 CV-LBギャップの推移（縮小傾向＝良い兆候）

🪜 Step-by-Step 解説

1「モダリティの多様性」と「モデル系統の多様性」を分けて判定する

unused_modalities = [m for m in modalities_available if m not in modalities_used]
...
has_gbdt_diversity = len(gbdt_family & set(tried_methods)) >= 2
has_nn = len(nn_family & set(tried_methods)) >= 1

2CV-LBギャップの「傾向」を差分の符号で判定する

gap_diffs = [cv_lb_gap_history[i] - cv_lb_gap_history[i - 1] for i in range(1, len(cv_lb_gap_history))]
gap_widening = any(d > 0 for d in gap_diffs)

3残り日数3日以下では新規モデルの提案を機械的に止める

freeze_new_models = days_left <= 3
if rank_gap > 20 and not freeze_new_models:
    ...

4「最終2サブミットの選び方」だけは条件によらず必ず返す

actions.append({"action": "select_final_2_submissions", "priority": "must", ...})

🧮 数学・統計の補足（文系向け）

🏆 Kaggleでの実践的な使い方

よく使われるコンペカテゴリ: ☑ 表形式データ（Tabular） / ☐ 自然言語処理（NLP） / ☐ 画像認識（CV） / ☑ 時系列（Time Series）

⚠️ よくある誤解・ミス

🚀 次のステップ

• 発展: recommend_solo_gold_final_pushに、Day107（SHAP）を使い「GBDTとNNのどちらが重視している特徴量が異なるか」を定量比較するcompare_feature_attribution(gbdt_shap, nn_gradient_importance)を追加してみましょう。2つのモデルが本当に異なる情報源を見ているかを検証でき、アンサンブルの多様性を数値で裏付けられます
• 次回予告: Day 126 — Phase 6突入（Grandmaster）。本日でPhase 5（テーマ20/20）が完全に完了しました。次のPhase 6ではSOTA手法の追跡・論文実装から始まり、カスタムアーキテクチャ設計、Pseudo Labeling・TTAといった高度なアンサンブル、そして最終的に「Gold 3枚達成プラン」というコンペ戦略まで、Grandmaster到達に向けた最終段階に入ります

Phase 5 の学習マップ（全20テーマ・本日完了）

Day110〜125の16日間でDL基礎・CV・時系列DL・マルチモーダル・ソロGold戦略までを一通り学び、Phase5が完了した。次はPhase6（Grandmaster）へ進む。

📝 自己評価（解いた後に記入）