Day 114 — CNN入門① — 畳み込み・プーリングの直感、画像データの扱い方

📚 背景知識（読んでから問題へ）

🧩 画像データのTensorスキーマ: (N, C, H, W)

表形式データの(N, 特徴量数)という2次元Tensorとは違い、画像は縦横の空間的な位置関係を持つため4次元になります。

📐 出力サイズの計算式（今日いちばん使う道具）

タスク2のスクラッチ実装で使う6×6画像に3×3フィルタを当てるイメージ（出力は4×4）:

左半分が暗い(0)・右半分が明るい(5)の6×6画像。縦のエッジ検出フィルタを当てると、境界線付近だけ値が大きくなる（模範解答参照）。

🎯 問題

💡 ヒント

def conv2d_scratch(image, kernel):
    kh, kw = kernel.shape
    ih, iw = image.shape
    oh, ow = ih - kh + 1, iw - kw + 1
    output = np.zeros((oh, ow))
    for i in range(oh):
        for j in range(ow):
            region = image[i:i+kh, j:j+kw]
            output[i, j] = np.sum(region * kernel)
    return output

# nn.Conv2d / nn.MaxPool2d
x = torch.randn(4, 1, 28, 28)
conv = nn.Conv2d(in_channels=1, out_channels=8, kernel_size=3)
pool = nn.MaxPool2d(kernel_size=2)
x1 = conv(x)
print(x1.shape)   # (4, 8, 26, 26)
x2 = pool(x1)
print(x2.shape)   # (4, 8, 13, 13)

# SimpleCNN
class SimpleCNN(nn.Module):
    def __init__(self):
        super().__init__()
        self.conv1 = nn.Conv2d(1, 8, kernel_size=3)
        self.conv2 = nn.Conv2d(8, 16, kernel_size=3)
        self.pool = nn.MaxPool2d(2)
        self.relu = nn.ReLU()
        self.flatten = nn.Flatten()
        self.fc = nn.Linear(16 * 5 * 5, 10)  # ← forwardで確認して埋める

    def forward(self, x):
        x = self.pool(self.relu(self.conv1(x)))
        x = self.pool(self.relu(self.conv2(x)))
        x = self.flatten(x)
        x = self.fc(x)
        return x

✅ 模範解答

タスク1: なぜCNNは画像に強いのか

タスク2: numpyで畳み込みをスクラッチ実装

import numpy as np

def conv2d_scratch(image, kernel):
    kh, kw = kernel.shape
    ih, iw = image.shape
    oh, ow = ih - kh + 1, iw - kw + 1
    output = np.zeros((oh, ow))
    for i in range(oh):
        for j in range(ow):
            region = image[i:i+kh, j:j+kw]
            output[i, j] = np.sum(region * kernel)
    return output

# 左半分が暗い(0)・右半分が明るい(5) = 縦のエッジがある6x6画像
image = np.array([
    [0, 0, 0, 5, 5, 5],
    [0, 0, 0, 5, 5, 5],
    [0, 0, 0, 5, 5, 5],
    [0, 0, 0, 5, 5, 5],
    [0, 0, 0, 5, 5, 5],
    [0, 0, 0, 5, 5, 5],
], dtype=float)

# 縦方向のエッジを検出するフィルタ
kernel = np.array([
    [1, 0, -1],
    [1, 0, -1],
    [1, 0, -1],
], dtype=float)

feature_map = conv2d_scratch(image, kernel)
print(feature_map.shape)  # (4, 4)
print(feature_map)
# [[ 0. 15. 15.  0.]
#  [ 0. 15. 15.  0.]
#  [ 0. 15. 15.  0.]
#  [ 0. 15. 15.  0.]]
# 画像の左右の境界（縦のエッジ）付近で値が大きくなっている = フィルタがエッジに反応した

タスク3: nn.Conv2d / nn.MaxPool2d の出力サイズ確認

import torch
import torch.nn as nn

x = torch.randn(4, 1, 28, 28)
print(x.shape)  # torch.Size([4, 1, 28, 28])

conv = nn.Conv2d(in_channels=1, out_channels=8, kernel_size=3)
x1 = conv(x)
print(x1.shape)  # torch.Size([4, 8, 26, 26])
# 手計算: (28 - 3) // 1 + 1 = 26 → 一致

pool = nn.MaxPool2d(kernel_size=2)
x2 = pool(x1)
print(x2.shape)  # torch.Size([4, 8, 13, 13])
# 手計算: (26 - 2) // 2 + 1 = 13 → 一致

タスク4: SimpleCNNクラスの実装

import torch
import torch.nn as nn

class SimpleCNN(nn.Module):
    def __init__(self):
        super().__init__()
        self.conv1 = nn.Conv2d(1, 8, kernel_size=3)   # (N,1,28,28) → (N,8,26,26)
        self.conv2 = nn.Conv2d(8, 16, kernel_size=3)  # (N,8,13,13) → (N,16,11,11)
        self.pool = nn.MaxPool2d(2)
        self.relu = nn.ReLU()
        self.flatten = nn.Flatten()
        # conv2+pool後: (N,16,11,11) → pool → (N,16,5,5) → flatten → (N, 16*5*5=400)
        self.fc = nn.Linear(16 * 5 * 5, 10)

    def forward(self, x):
        x = self.pool(self.relu(self.conv1(x)))  # (N,8,26,26) → (N,8,13,13)
        x = self.pool(self.relu(self.conv2(x)))  # (N,16,11,11) → (N,16,5,5)
        x = self.flatten(x)                       # (N, 400)
        x = self.fc(x)                             # (N, 10)
        return x

model = SimpleCNN()
dummy_input = torch.randn(4, 1, 28, 28)
output = model(dummy_input)
print(output.shape)  # torch.Size([4, 10])

🏗️ SimpleCNNの構造（データがどう形を変えていくか）

📊 パラメータ数のイメージ比較（概念図）

100×100×3チャンネルの画像を1000ニューロンの層につなぐ場合の概念的な比較です（実際の数値は構成により変わります）。

🪜 Step-by-Step 解説

1画像を4次元Tensor (N, C, H, W) として扱う

x = torch.randn(4, 1, 28, 28)

2nn.Conv2d で特徴マップを作る

conv = nn.Conv2d(in_channels=1, out_channels=8, kernel_size=3)
x1 = conv(x)  # (4, 1, 28, 28) → (4, 8, 26, 26)

3nn.MaxPool2d で情報を圧縮する

pool = nn.MaxPool2d(kernel_size=2)
x2 = pool(x1)  # (4, 8, 26, 26) → (4, 8, 13, 13)

4Flatten で4次元を2次元に戻し Linear に渡す

x = self.flatten(x)  # (N, 16, 5, 5) → (N, 400)
x = self.fc(x)        # (N, 400) → (N, 10)

🧮 数学・統計の補足（文系向け）

🏆 Kaggleでの実践的な使い方

よく使われるコンペカテゴリ: ☑ 画像認識（CV） / ☐ 表形式データ（Tabular） / ☐ 自然言語処理（NLP） / ☐ 時系列（Time Series）

⚠️ よくある誤解・ミス

🚀 次のステップ

• 発展: タスク2のフィルタを[[1,1,1],[0,0,0],[-1,-1,-1]]（横エッジ検出用）に変えて、縦エッジ用フィルタとの出力の違いを比較してみましょう
• 次回予告: Day 115 — CNN入門②（実際の画像データセットでの学習・DataLoaderへの画像前処理・簡易的な学習ループ）。今日組み立てたSimpleCNNの構造を使い、実際に手を動かして画像分類の学習ループを回します

Phase 5 の学習マップ（全20テーマ予定）

Day 113で「1-5 DL基礎」が完了。Phase 5内では順序を入れ替え、NLPより先に画像認識（CV）のCNNから着手する。

📝 自己評価（解いた後に記入）