Day 142 — コンペ戦略② — 探索と活用のトレードオフ（CVが伸び悩んだときの意思決定）

📚 背景知識（読んでから問題へ）

🎯 問題

タスクA（戦略・記述）

検証フェーズ（残り提出予算20回）に入ったところ、直近5回の提出でCVスコアがほぼ横ばい（停滞）になっているとする。次の1回で「探索」と「活用」のどちらを選ぶかを、以下3点を踏まえて3〜4文で説明する。

タスクB（実装・シミュレーション）

import numpy as np
rng = np.random.default_rng(0)

N_STEPS = 20
N_SIM = 20000
BASE = 0.800

P_HIT = 0.20
EXPLORE_GAIN_LOW, EXPLORE_GAIN_HIGH = 0.003, 0.008

EXPLOIT_BASE_GAIN = 0.0015
EXPLOIT_DECAY = 0.75

K_ADAPTIVE = 3

💡 ヒント

def run_policy(policy, rng):
    cv = BASE
    exploit_streak = 0
    n_explore = 0
    n_hit = 0
    for step in range(N_STEPS):
        if policy == "always_exploit":
            action = "exploit"
        elif policy == "always_explore":
            action = "explore"
        elif policy == "fixed_half":
            action = "explore" if step < N_STEPS // 2 else "exploit"
        elif policy == "adaptive":
            action = "explore" if exploit_streak >= K_ADAPTIVE else "exploit"

        if action == "explore":
            n_explore += 1
            if rng.random() < P_HIT:
                cv += rng.uniform(EXPLORE_GAIN_LOW, EXPLORE_GAIN_HIGH)
                n_hit += 1
                exploit_streak = 0
            # 外れた場合はcv変化なし
        else:
            cv += EXPLOIT_BASE_GAIN * (EXPLOIT_DECAY ** exploit_streak)
            exploit_streak += 1

    return cv, n_explore, n_hit

✅ 模範解答

# --- 4戦略×N_SIM回のモンテカルロシミュレーション（ヒント3のrun_policyを実行） ---
policies = ["always_exploit", "always_explore", "fixed_half", "adaptive"]
results = {p: [] for p in policies}
n_explore_used = {p: [] for p in policies}
n_hit_used = {p: [] for p in policies}

for sim in range(N_SIM):
    for p in policies:
        cv, n_explore, n_hit = run_policy(p, rng)
        results[p].append(cv)
        n_explore_used[p].append(n_explore)
        n_hit_used[p].append(n_hit)

for p in policies:
    arr = np.array(results[p])
    gain = arr - BASE
    print(f"{p:16s} mean_gain={gain.mean():.5f}  std={arr.std():.5f}")

# ============ 実測結果 ============
# always_exploit   mean_final_cv=0.80598  mean_gain=0.00598  n_explore=0.00   n_hit=0.00   std=0.00000
# always_explore   mean_final_cv=0.82201  mean_gain=0.02201  n_explore=20.00  n_hit=4.00   std=0.01034
# fixed_half       mean_final_cv=0.81662  mean_gain=0.01662  n_explore=10.00  n_hit=1.99   std=0.00723
# adaptive         mean_final_cv=0.82257  mean_gain=0.02257  n_explore=11.10  n_hit=2.22   std=0.00781

📊 結果の可視化

🪜 Step-by-Step 解説

1なぜ「活用」に逓減を組み込むのか

cv += EXPLOIT_BASE_GAIN * (EXPLOIT_DECAY ** exploit_streak)
exploit_streak += 1

2なぜ探索の当たりでexploit_streakをリセットするのか

if rng.random() < P_HIT:
    cv += rng.uniform(EXPLORE_GAIN_LOW, EXPLORE_GAIN_HIGH)
    n_hit += 1
    exploit_streak = 0

3なぜ適応的ルールが常に探索する戦略に勝てるのか

# always_explore  mean_gain=0.02201  mean_n_explore=20.00  mean_n_hit=4.00
# adaptive        mean_gain=0.02257  mean_n_explore=11.10  mean_n_hit=2.22

🔁 追加検証（K_ADAPTIVEを変化させた場合）

適応的ルールの「何回連続で活用したら探索に切り替えるか」を決めるK_ADAPTIVEを1〜10まで変化させ、平均改善幅と標準偏差(リスク)がどう変化するかを確認した。

# K= 1  mean_gain=0.02371  std=0.00967
# K= 2  mean_gain=0.02348  std=0.00866
# K= 3  mean_gain=0.02254  std=0.00776   ← 今日のメイン設定
# K= 4  mean_gain=0.02137  std=0.00696
# K= 5  mean_gain=0.02010  std=0.00618
# K= 7  mean_gain=0.01761  std=0.00520
# K=10  mean_gain=0.01474  std=0.00361

🧮 数学・統計の補足（文系向け）

total = EXPLOIT_BASE_GAIN * sum(EXPLOIT_DECAY**i for i in range(N_STEPS))
      = 0.0015 * (1 - 0.75**20) / (1 - 0.75)
      = 0.0015 * 3.9873...
      = 0.005981...

🏆 Kaggleでの実践的な使い方

よく使われるコンペカテゴリ: ☑ 表形式データ（Tabular） / ☑ 自然言語処理（NLP） / ☑ 画像認識（CV） / ☑ 時系列（Time Series）

⚠️ よくある誤解・ミス

🚀 次のステップ

• 発展: 今日はP_HIT=0.20(探索の当たり確率)を固定したが、コンペの種類によってはもっと低い場合もある。P_HITを0.05〜0.30の範囲で変化させたとき、常に探索する戦略と適応的ルールの優劣がどう変わるか試してみましょう。探索が外れた場合に何らかのペナルティ(余分な提出消費・作業時間の圧迫)を加えたシミュレーションへの拡張も可能です
• 次回予告: Phase6テーマ4「コンペ戦略・Gold 3枚達成プラン」の3日目に入ります。次回はチーム戦(チームマージ)の意思決定、1人で最後まで戦うか途中で他の参加者とチームを組むかの判断を、スコアの伸びと労力配分の観点から扱う予定です

Phase 6 の学習マップ（全20テーマ）

Day141で最終提出の選び方（CV vs Public LB）、Day142で進行中の探索/活用トレードオフを実測。次回以降、チームマージ判断や提出予算の実務判断に進む。

📝 自己評価（解いた後に記入）