Day 119 — Data Augmentation応用 — RandAugment・Mixup・CutMix

📚 背景知識（読んでから問題へ）

🔍 3手法の見え方比較 — 何が変わり、ラベルはどうなるか

RandAugmentは「1枚を変形するだけでラベルは不変」、Mixup/CutMixは「2枚を混ぜてラベルも比率どおりに混ぜる」という決定的な違いがある。

🎯 問題

Day118で構築したefficientnet_b0（特徴抽出モード）を土台に、CIFAR10の学習データにRandAugmentを適用し、さらに学習ループ内でMixup/CutMixを適用してファインチューニングする処理を実装してください。

💡 ヒント

from timm.data import Mixup
from timm.loss import SoftTargetCrossEntropy

transform_train = transforms.Compose([
    transforms.Resize(224),
    transforms.RandAugment(num_ops=2, magnitude=9),
    transforms.ToTensor(),
    transforms.Normalize(...),
])

def build_mixup_fn():
    return Mixup(
        mixup_alpha=0.2, cutmix_alpha=1.0,
        prob=1.0, switch_prob=0.5,
        label_smoothing=0.1, num_classes=10,
    )

def train_one_epoch_mixup(model, loader, mixup_fn, optimizer, device):
    model.train()
    criterion = SoftTargetCrossEntropy()
    for images, labels in loader:
        images, labels = images.to(device), labels.to(device)
        images, mixed_labels = mixup_fn(images, labels)  # ここでラベルもソフト化される
        optimizer.zero_grad()
        outputs = model(images)
        loss = criterion(outputs, mixed_labels)
        loss.backward()
        optimizer.step()

✅ 模範解答

タスク1: train用transformにRandAugmentを追加、val用は変えない

import torch
import torch.nn as nn
import torch.optim as optim
from torch.utils.data import DataLoader
from torchvision import datasets, transforms
import timm
from timm.data import Mixup
from timm.loss import SoftTargetCrossEntropy

device = torch.device("cuda" if torch.cuda.is_available() else "cpu")

transform_train = transforms.Compose([
    transforms.Resize(224),
    transforms.RandAugment(num_ops=2, magnitude=9),
    transforms.ToTensor(),
    transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]),
])
# valは「そのモデルが本番でどう見るか」を測る基準なので、学習データだけを人工的に増やし、
# 評価の物差し（val transform）は変えずに固定しておく

transform_val = transforms.Compose([
    transforms.Resize(224),
    transforms.ToTensor(),
    transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]),
])

train_dataset = datasets.CIFAR10(root="./data", train=True, download=True, transform=transform_train)
val_dataset = datasets.CIFAR10(root="./data", train=False, download=True, transform=transform_val)

# Mixupはバッチ内の画像を2つずつペアにして混ぜるため、半端な最後のバッチを避けるためdrop_last=True
train_loader = DataLoader(train_dataset, batch_size=64, shuffle=True, drop_last=True)
val_loader = DataLoader(val_dataset, batch_size=64, shuffle=False)

Day118と同じ: efficientnet_b0を特徴抽出モードで構築

def build_efficientnet_feature_extractor():
    model = timm.create_model("efficientnet_b0", pretrained=True, num_classes=10)
    classifier = model.get_classifier()
    classifier_param_ids = {id(p) for p in classifier.parameters()}
    for param in model.parameters():
        if id(param) not in classifier_param_ids:
            param.requires_grad = False
    return model.to(device)

タスク2: Mixup/CutMixインスタンスの構築

def build_mixup_fn():
    return Mixup(
        mixup_alpha=0.2,
        cutmix_alpha=1.0,
        cutmix_minmax=None,
        prob=1.0,
        switch_prob=0.5,
        mode="batch",
        label_smoothing=0.1,
        num_classes=10,
    )

タスク3: Mixup/CutMix対応の学習ループ・通常の検証ループ

def train_and_eval_mixup(model, epochs, lr):
    mixup_fn = build_mixup_fn()
    train_criterion = SoftTargetCrossEntropy()
    val_criterion = nn.CrossEntropyLoss()  # 検証は混合しない、通常のハードラベルで評価する
    trainable_params = filter(lambda p: p.requires_grad, model.parameters())
    optimizer = optim.Adam(trainable_params, lr=lr)

    for epoch in range(epochs):
        model.train()
        running_loss, total = 0.0, 0
        for images, labels in train_loader:
            images, labels = images.to(device), labels.to(device)
            images, mixed_labels = mixup_fn(images, labels)

            optimizer.zero_grad()
            outputs = model(images)
            loss = train_criterion(outputs, mixed_labels)
            loss.backward()
            optimizer.step()

            running_loss += loss.item() * images.size(0)
            total += images.size(0)

        train_loss = running_loss / total

        # 検証: Mixup/CutMixは使わず、通常のCrossEntropyLossと元のラベルで評価する
        model.eval()
        val_correct, val_total, val_loss_sum = 0, 0, 0.0
        with torch.no_grad():
            for images, labels in val_loader:
                images, labels = images.to(device), labels.to(device)
                outputs = model(images)
                loss = val_criterion(outputs, labels)
                val_loss_sum += loss.item() * images.size(0)
                preds = outputs.argmax(dim=1)
                val_correct += (preds == labels).sum().item()
                val_total += labels.size(0)
        val_acc = val_correct / val_total
        val_loss = val_loss_sum / val_total

        print(f"Epoch {epoch+1}/{epochs}: train_loss(mixed)={train_loss:.4f}, val_loss={val_loss:.4f}, val_acc={val_acc:.4f}")

    return val_acc

タスク4: 学習実行・Day118との比較

model = build_efficientnet_feature_extractor()
mixup_val_acc = train_and_eval_mixup(model, epochs=3, lr=0.001)

print(f"efficientnet_b0 + RandAugment + Mixup/CutMix 最終val_acc: {mixup_val_acc:.4f}")
print("（比較対象）efficientnet_b0 特徴抽出モード（Day118, Augmentationなし）val_acc: 0.7823")
# 出力例:
# efficientnet_b0 + RandAugment + Mixup/CutMix 最終val_acc: 0.7605
# → Day118（0.7823）よりむしろ低下する場合がある。Mixup/CutMixは「学習をあえて難しくして
#   汎化性能を上げる」正則化手法であり、効果が表れるには十分なエポック数が必要。
#   わずか3エポックの特徴抽出（学習対象パラメータが分類ヘッドのみ）では、
#   正則化の強さに対してモデルの学習余地が少なく、逆に学習不足（未収束）になりやすい。
#   エポック数を増やすか、Fine-tuning（Day117）で学習対象パラメータを増やすと
#   Mixup/CutMixの正則化効果が精度向上として表れやすくなる。

📊 実行結果の比較イメージ（検証accuracy）

模範解答の実行例（実際の数値は初期化・環境により変動します）。

検証accuracy（efficientnet_b0・特徴抽出モード・3エポック）

🪜 Step-by-Step 解説

1RandAugmentはPIL Imageの段階で適用する

transform_train = transforms.Compose([
    transforms.Resize(224),
    transforms.RandAugment(num_ops=2, magnitude=9),
    transforms.ToTensor(),
    transforms.Normalize(...),
])

2Mixupは「MixupとCutMixを確率的に切り替えるスイッチ」

mixup_fn = Mixup(
    mixup_alpha=0.2, cutmix_alpha=1.0,
    prob=1.0, switch_prob=0.5,
    label_smoothing=0.1, num_classes=10,
)

3mixup_fnはバッチ単位で画像とラベルを同時に混ぜて返す

images, mixed_labels = mixup_fn(images, labels)

4損失関数をソフトラベル対応のSoftTargetCrossEntropyに切り替える

train_criterion = SoftTargetCrossEntropy()
val_criterion = nn.CrossEntropyLoss()

🧮 数学・統計の補足（文系向け）

🏆 Kaggleでの実践的な使い方

よく使われるコンペカテゴリ: ☑ 画像認識（CV） / ☐ 表形式データ（Tabular） / ☐ 自然言語処理（NLP） / ☐ 時系列（Time Series）

⚠️ よくある誤解・ミス

🚀 次のステップ

• 発展: mixup_alphaやcutmix_alpha、switch_probをいくつか変えて（例えばmixup_alpha=1.0にする、switch_prob=1.0にしてCutMixのみにする）3エポック学習を繰り返し、val_accがどう変化するかを比較してみましょう。あわせてエポック数を3から10程度に増やした場合にMixup/CutMixの効果が逆転するか（Day118のAugmentationなしを上回るか）も確認してみましょう
• 次回予告: Day 120 — CVブロック総括・実践的なバックボーン選定戦略。Day114〜119でCNN基礎からResNet・EfficientNet・Augmentation応用までを一通り学んだので、次回はこれらを踏まえてKaggle画像コンペで実際にどうモデルを選び、どの順序で試すかという戦略面を整理します

Phase 5 の学習マップ（全20テーマ予定）

Day 117で転移学習(ResNet)、Day 118でtimm/EfficientNet、Day 119でRandAugment・Mixup・CutMixを学んだ。CVブロック（11-15）は次に総括・バックボーン選定戦略へ進む。

📝 自己評価（解いた後に記入）