Day 087 — Kaggle API — データダウンロード・提出の自動化

📚 背景知識（読んでから問題へ）

Kaggle API でできること

ブラウザ操作を Python スクリプト1行に置き換えられます。

API キーの取得方法

⚙️ API セットアップ — 環境別の手順

🗂️ データスキーマ — Titanic（API でダウンロードした後のファイル構成）

特徴量一覧（モデルに投入するカラム）

🎯 問題

タスク1: Kaggle API のセットアップと動作確認

タスク2: モデル学習・予測・提出

タスク3: 提出履歴の取得と実験ログ記録

📊 5-Fold CV AUC — 目標スコア感（参考値）

今回の特徴量（FamilySize / IsAlone 追加）で期待される各フォールドの AUC スコア

🗺️ 完全自動提出パイプライン図

Python スクリプト1本で「データ取得 → 学習 → 提出 → ログ記録」を完結させる

💡 ヒント

import subprocess, os
os.makedirs('./data/titanic', exist_ok=True)

# データダウンロード
subprocess.run(['kaggle', 'competitions', 'download',
    '-c', 'titanic', '-p', './data/titanic/', '--unzip'])

# FamilySize 特徴量
df['FamilySize'] = df['SibSp'] + df['Parch'] + 1
df['IsAlone']    = (df['FamilySize'] == 1).astype(int)

# 自動提出
subprocess.run(['kaggle', 'competitions', 'submit',
    '-c', 'titanic', '-f', './submission.csv',
    '-m', 'lgbm-baseline-day087'])

✅ 模範解答

# ===== インストール（Colabでは実行が必要） =====
# !pip install kaggle lightgbm -q

import os, subprocess, warnings, json
import numpy as np
import pandas as pd
from sklearn.model_selection import StratifiedKFold
from sklearn.metrics import roc_auc_score
warnings.filterwarnings('ignore')

# ━━━ タスク1: データダウンロード ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
os.makedirs('./data/titanic', exist_ok=True)
subprocess.run([
    'kaggle', 'competitions', 'download',
    '-c', 'titanic', '-p', './data/titanic/', '--unzip'
], check=True)

train = pd.read_csv('./data/titanic/train.csv')
test  = pd.read_csv('./data/titanic/test.csv')
print(f"train: {train.shape}, test: {test.shape}")


# ━━━ タスク2: 特徴量工学 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
def feature_engineering(df):
    df = df.copy()
    df['Sex']        = df['Sex'].map({'male': 0, 'female': 1})
    df['Age']        = df['Age'].fillna(df['Age'].median())
    df['Fare']       = df['Fare'].fillna(df['Fare'].median())
    df['Embarked']   = df['Embarked'].fillna('S')
    df               = pd.get_dummies(df, columns=['Embarked'], prefix='Emb')
    df['FamilySize'] = df['SibSp'] + df['Parch'] + 1
    df['IsAlone']    = (df['FamilySize'] == 1).astype(int)
    return df

features = ['Pclass', 'Sex', 'Age', 'Fare',
            'SibSp', 'Parch', 'FamilySize', 'IsAlone',
            'Emb_C', 'Emb_Q', 'Emb_S']

train_fe = feature_engineering(train)
test_fe  = feature_engineering(test)
for col in features:
    if col not in test_fe.columns:
        test_fe[col] = 0

X      = train_fe[features].values
y      = train['Survived'].values
X_test = test_fe[features].values


# ━━━ LightGBM 5-Fold CV ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
import lightgbm as lgb

params = {
    'objective':       'binary',
    'metric':          'auc',
    'num_leaves':      31,
    'learning_rate':   0.05,
    'feature_fraction': 0.9,
    'bagging_fraction': 0.8,
    'bagging_freq':    5,
    'verbosity':       -1,
    'random_state':    42,
}

skf        = StratifiedKFold(n_splits=5, shuffle=True, random_state=42)
oof_preds  = np.zeros(len(X))
test_preds = np.zeros(len(X_test))
fold_scores = []

for fold, (tr_idx, val_idx) in enumerate(skf.split(X, y)):
    X_tr, X_val = X[tr_idx], X[val_idx]
    y_tr, y_val = y[tr_idx], y[val_idx]

    model = lgb.train(
        params,
        lgb.Dataset(X_tr, label=y_tr),
        num_boost_round=500,
        valid_sets=[lgb.Dataset(X_val, label=y_val)],
        callbacks=[lgb.early_stopping(50, verbose=False),
                   lgb.log_evaluation(period=-1)],
    )
    val_pred = model.predict(X_val, num_iteration=model.best_iteration)
    oof_preds[val_idx] = val_pred
    test_preds += model.predict(X_test, num_iteration=model.best_iteration) / 5

    auc = roc_auc_score(y_val, val_pred)
    fold_scores.append(auc)
    print(f"  Fold {fold+1}: AUC = {auc:.4f}")

cv_mean = np.mean(fold_scores)
oof_auc = roc_auc_score(y, oof_preds)
print(f"\nCV AUC: {cv_mean:.4f}  |  OOF AUC: {oof_auc:.4f}")


# ━━━ submission.csv 作成 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
submission = pd.DataFrame({
    'PassengerId': test['PassengerId'],
    'Survived':    (test_preds >= 0.5).astype(int)
})
submission.to_csv('./submission.csv', index=False)
print(f"\nsubmission.csv: {submission.shape}")
print(f"生存予測率: {submission['Survived'].mean():.2%}")


# ━━━ 自動提出（実際に提出する場合はコメントを外す） ━━━━━━━━━━━━━
# subprocess.run(['kaggle', 'competitions', 'submit',
#     '-c', 'titanic', '-f', './submission.csv',
#     '-m', f'lgbm-5fold-cv{cv_mean:.4f}-day087'])


# ━━━ 実験ログ記録 ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
log = {
    'date':    '2026-07-07',
    'day':     87,
    'model':   'LightGBM',
    'cv_auc':  round(cv_mean, 4),
    'oof_auc': round(oof_auc, 4),
    'n_feat':  len(features),
    'message': f'lgbm-5fold-cv{cv_mean:.4f}',
}
with open('./experiment_log.jsonl', 'a') as f:
    f.write(json.dumps(log, ensure_ascii=False) + '\n')
print("\n実験ログ:", json.dumps(log, indent=2, ensure_ascii=False))

🪜 Step-by-Step 解説

1Kaggle API の設定とデータ取得

2FamilySize と IsAlone の意味

df['FamilySize'] = df['SibSp'] + df['Parch'] + 1  # +1 は自分自身
df['IsAlone']    = (df['FamilySize'] == 1).astype(int)

この非線形な関係を LightGBM は木構造で自然に捉えます。線形回帰では表現が難しい特徴量です。

3OOF（Out-of-Fold）予測の仕組み

4提出コマンドとメッセージの書き方

5実験ログを JSONL で記録する

with open('./experiment_log.jsonl', 'a') as f:
    f.write(json.dumps(log) + '\n')

# 後から DataFrame として読める
df_log = pd.read_json('./experiment_log.jsonl', lines=True)
df_log.sort_values('cv_auc', ascending=False)

🧮 OOF（Out-of-Fold）の直感（文系向け）

🏆 Kaggleでの実践的な使い方

提出回数の戦略的な使い方

Titanic は1日5回まで提出できます。Expert 以上はこう使います：

# run_submit.py — コンペを変えても使い回せるテンプレート
import subprocess, sys

COMPETITION = "titanic"        # コンペIDだけ変える
SUBMISSION  = "./submission.csv"
MESSAGE     = sys.argv[1] if len(sys.argv) > 1 else "auto-submit"

result = subprocess.run([
    'kaggle', 'competitions', 'submit',
    '-c', COMPETITION,
    '-f', SUBMISSION,
    '-m', MESSAGE,
], capture_output=True, text=True)

print(result.stdout)
if result.returncode != 0:
    print("エラー:", result.stderr)

⚠️ よくある誤解・ミス

🚀 次のステップ

• 発展: kaggle kernels list --competition titanic --sort-by voteCount で上位ノートブックをダウンロードし、自分のモデルと比較する
• 次回予告: Phase 3 最終テーマ「コンペ選定基準 — 自分に合ったコンペの見つけ方」（Day 088）

📝 自己評価（解いた後に記入）