セクション3 問題集 — プロトタイプから ML モデルへのスケール
★最重要セクション。20 問でモデル選定・訓練・分散・ファインチューニング・ハードウェアを総ざらい。
問題 1
時系列予測モデルを BigQuery で完結させたい。最適は？
A. linear_reg
B. ARIMA_PLUS
C. boosted_tree_classifier
D. kmeans
解答と解説
正解：B
- BigQuery ML の時系列特化モデルは ARIMA_PLUS。季節性・トレンド・休日効果を自動考慮
問題 2
100 B パラメータの LLM を訓練したい。Google Cloud で最適な構成は？
A. NVIDIA A100 単機 GPU B. TPU v5p Multislice + Pathways (JAX) C. CPU 高性能インスタンス D. Cloud Functions の並列
解答と解説
正解：B
- 100 B 級の超大規模 LLM は TPU v5p Multislice + Pathways が Google の標準
- A の単機は不可能（メモリ・計算不足）
- C/D は無関係
問題 3
PyTorch で 7 B LLM をドメイン特化させたい。チーム予算は限定的。最適手法は？
A. Full Fine-tuning B. LoRA / PEFT C. プロンプトのみで頑張る D. RLHF
解答と解説
正解：B
- 7 B モデルのドメイン特化 + 予算限定 = LoRA / PEFT が現実解
- 計算量・メモリを 1/10〜1/100 に抑えつつフル FT 同等近い精度
- A は高コスト
- C は精度頭打ち
- D は人手フィードバックの大量収集が必要
問題 4
ハイパーパラメータ探索を ベイズ最適化 で自動化したい Google サービスは？
A. Vizier (HyperparameterTuningJob) B. Grid Search Job C. Pub/Sub D. AutoML
解答と解説
正解：A
- Vizier は Google 製ベイズ最適化サービス、Agent Platform の
HyperparameterTuningJobで利用
問題 5
訓練ジョブが OOM (Out of Memory) で頻発する。対策の組合せとして適切は？（複数選択 — 2 つ選べ）
A. バッチサイズを下げる B. 勾配蓄積 (gradient accumulation) C. 学習率を上げる D. データ量を増やす
解答と解説
正解：A, B
- A：直接的にメモリ使用量を減らす
- B：実効バッチサイズを保ちながら 1 ステップのメモリを減らす
- C は精度に影響、OOM 対策ではない
- D は逆に悪化
問題 6
訓練のコストを 50% 削減したい。最大のレバーは？
A. Spot VM / Preemptible + チェックポイント保存 B. リージョン変更 C. インスタンスサイズアップ D. 訓練データ削減
解答と解説
正解：A
- Spot VM は通常の 60〜80% 安。終了リスクがあるので チェックポイント必須
- B は効果限定
- C は逆効果
- D は精度低下リスク
問題 7
JAX フレームワークで開発した大規模モデルを訓練したい。ハードウェアの第一候補は？
A. CPU B. GPU C. TPU D. Edge TPU
解答と解説
正解：C
- JAX は TPU との相性が最強。XLA コンパイラと密結合で TPU の性能を最大化
- A/B は劣る選択
- D は推論用
問題 8
データが BigQuery にあり、ML 専門家のいない小規模チームが テーブルデータの分類モデルで高精度 を求めている。最適は？
A. Custom Training + XGBoost B. AutoML Tables / Tabular Workflows C. BigQuery ML logistic_reg のみ D. Vertex AI Workbench で手動で sklearn
解答と解説
正解：B
- コードレスで高精度 = AutoML Tables / Tabular Workflows（NAS 含む自動最適化）
- A/D は ML 専門家が必要
- C はベースラインとしては良いが「高精度」要件には弱い
問題 9（複数選択 — 2 つ選べ）
分散訓練の並列化戦略の正しい組合せ：
A. Data Parallelism = 同じモデル × 異なるデータ B. Tensor Parallelism = モデル内のテンソルを分割 C. Pipeline Parallelism = データを順番に処理する 1 ノード版 D. Random Parallelism = ランダム分割
解答と解説
正解：A, B
- A：データ並列の正しい定義
- B：テンソル並列（モデル並列の一種）の正しい定義
- C：Pipeline は層を分割（誤った説明）
- D：そんな戦略はない
問題 10
3D 並列 (Data + Tensor + Pipeline) は何の場面で使う？
A. 単一 GPU で完結する中小モデル B. 1 GPU に乗らない超大規模 LLM C. 単純な前処理 D. バッチ推論のみ
解答と解説
正解：B
- 3D 並列は 1 GPU に乗らない超大規模 LLM（数十〜数百 B）のための標準戦略
問題 11
Spot 枠が確保できないジョブを優先的に確保するための Google サービスは？
A. Dynamic Workload Scheduler (DWS) B. Cloud Scheduler C. Cloud Composer D. Cloud Tasks
解答と解説
正解：A
- DWS はバッチ性ワークロード（訓練・実験など）の容量確保を効率化
問題 12
訓練時の loss が NaN になった。最も典型的な原因 2 つは？（複数選択 — 2 つ選べ）
A. 学習率が高すぎる B. 混合精度 (fp16) で overflow C. データ量が多すぎる D. GPU が古い
解答と解説
正解：A, B
- A：学習率を 1/10 に、Warmup を追加
- B：bf16 に変更 or loss scaling を導入
問題 13
Agent Platform Custom Training で TensorFlow 2.x モデル を訓練する。コンテナはどう選ぶ？
A. Pre-built TensorFlow GPU コンテナを指定 B. 自作 Dockerfile を必ず書く C. Kubeflow on GKE で自作 D. BigQuery ML
解答と解説
正解：A
- Agent Platform は TF / PyTorch / sklearn / XGBoost など Pre-built Container を提供。標準ユースケースなら即使える
問題 14
Tabular Workflows と AutoML Tables の違いは？
A. Tabular Workflows はパイプライン化された AutoML の上位互換でカスタマイズ可 B. Tabular Workflows は時系列専用 C. Tabular Workflows は GCS 専用 D. 同じもの
解答と解説
正解：A
- Tabular Workflows = E2E パイプライン化された AutoML、各ステップ（前処理・モデル選択・チューニング）を 個別に制御可能
問題 15
訓練の I/O ボトルネックを解消する典型策は？（複数選択 — 2 つ選べ）
A. TFRecord で sequential read B. tf.data.Dataset の prefetch / cache C. CSV を 1 行ずつ open D. GCS から 1 ファイルずつ DL
解答と解説
正解：A, B
- A：TFRecord はシリアライズされていて高速
- B：prefetch でデータ準備と計算をオーバーラップ
- C/D は最悪のパターン
問題 16
複数 TPU を 単一プログラム で扱う Google 製ランタイムは？
A. Pathways B. NCCL C. Horovod D. DeepSpeed
解答と解説
正解：A
- Pathways は Google 製、JAX と相性が良い。複数 TPU を単一プログラムで扱える
- B/C/D は GPU 系の分散ライブラリ
問題 17
Vertex AI Vizier (HyperparameterTuningJob) で同時試行数を上げると？
A. 高速化するが探索効率は下がる B. 探索効率が必ず上がる C. コストが下がる D. 精度が必ず上がる
解答と解説
正解：A
- 並列度を上げると壁時計時間は短いが、過去結果を活かせず 探索効率は下がる
- 早期停止（Median Stopping）と組み合わせて無駄を減らす
問題 18
ファインチューニングを検討すべきタイミングとして適切なもの 2 つは？（複数選択）
A. プロンプト + few-shot で精度頭打ち B. ドメイン固有用語・出力形式が必要 C. データが 10 件しかない D. 推論コストを下げたい（小モデル + チューニング）
解答と解説
正解：A, B, D（B, D が確実、A も該当）→ 解答は最重要 2 つで A と B または A と D。試験では「不適切」を排除して残る選択肢を選ぶ
- C は不適切（データ少なすぎ）
- A/B/D はファインチューニング検討のサイン
問題 19
推論コストを抑えながらレイテンシも下げたい LLM のハードウェア選定は？
A. A100 80GB B. H100 C. L4 GPU または TPU v5e D. CPU only
解答と解説
正解：C
- 推論コスト最適: L4 GPU（Ada Lovelace世代、生成 AI 推論特化）または TPU v5e
- A/B は訓練向け、推論コスト高
- D は LLM には能力不足
問題 20
Gemini を BigQuery 上から Supervised Fine-tuning したい。最低限必要なものは？
A. 入力（プロンプト）と期待出力のペアの訓練データセット B. RLHF のための報酬モデル C. 強化学習用の environment D. 数万 GPU クラスタ
解答と解説
正解：A
- SFT (Supervised Fine-tuning) は 入力 - 期待出力ペア のラベル付きデータがあれば実行可能
- B は RLHF、C は RL、D は不要（Google 側のインフラで実行）
全 20 問。