セクション4 問題集 — モデルのサービングとスケール
問題 1
夜間に全顧客の解約スコアを計算する。最適な推論方式は？
A. オンライン推論 (Agent Platform Endpoint) B. バッチ推論 (Batch Prediction Job) C. Cloud Run D. Cloud Functions
解答と解説
正解：B
- 大量データを定期的に処理 = Batch Prediction Job がコスト最適
- A は常時起動コスト
- C/D は単発リクエスト向け
問題 2
EC サイトの商品推薦で < 50ms のレイテンシ要件。最適は？
A. Batch Prediction B. Agent Platform Endpoint + Feature Store Online C. BigQuery クエリで毎リクエスト D. Cloud Composer DAG
解答と解説
正解：B
- リアルタイム要件 = Endpoint + Feature Store の組合せ
- C はレイテンシ要件満たせない
問題 3
新モデルを 5% から段階展開 したい。最適な戦略は？
A. ブルー/グリーン B. カナリアデプロイ C. シャドウデプロイ D. ローリングアップデート
解答と解説
正解：B
- 段階的トラフィック拡大 = カナリア（5% → 25% → 50% → 100%）
- A は一括切替
- C は本番影響ゼロ
- D はインフラ更新向け
問題 4
新モデルの性能を 本番ユーザーに影響ゼロ で計測したい。最適は？
A. A/B テスト 50/50 B. カナリア 1% C. シャドウデプロイ（並行で新モデルにも入力、結果は返さない） D. ローリング更新
解答と解説
正解：C
- シャドウデプロイ：本番には旧モデル結果を返し、新モデルにも並行で入力 → ログ比較のみ
- A/B は両方ユーザーに影響
問題 5
軽量モデル、アイドル時間が長い、コスト最優先。最適は？
A. Endpoint min_replicas=1 B. Cloud Run min-instances=0 C. GKE 常時起動 D. Compute Engine 常時起動
解答と解説
正解：B
- スケールゼロでコスト最適 = Cloud Run
- A はアイドル時もコスト発生
問題 6（複数選択 — 2 つ選べ）
オンライン LLM 推論のコスト最適化として効果的なもの 2 つ：
A. プロンプトキャッシング B. Batch API への移行（適切なジョブのみ） C. Pro モデルを使い続ける D. リージョンを全部使う
解答と解説
正解：A, B
- A：固定プレフィックス再利用で 75% 割引
- B：非同期可なジョブは Batch API で約 50% 割引
- C/D はコスト増
問題 7
IoT カメラでオフライン物体検出を行いたい。最適なハードウェアは？
A. Cloud GPU を呼び出す B. Edge TPU (Coral) C. CPU クラウドで API D. Vision API のリアルタイム呼び出し
解答と解説
正解：B
- オフライン + 低消費電力 = Edge TPU (Coral)
- 量子化された TFLite モデルが必要
問題 8
機密データを処理する LLM 推論。インターネット非経由 が必須。最適は？
A. Public Endpoint で IAM 制御のみ B. Private Endpoint + Private Service Connect C. Cloud Functions 公開 D. VPN 経由で Public API
解答と解説
正解：B
- 機密データ + 非インターネット = Private Endpoint with PSC（または VPC Peering）
- A はインターネット経由
問題 9
複数モデルバージョン (v1, v2, v3) を 同じ Endpoint 上 で A/B テストしたい。設定は？
A. 別々の Endpoint にデプロイして手動切替
B. Endpoint の traffic_split で 33/33/34 等の比率を設定
C. Cloud Load Balancer で URL ベースルーティング
D. Cloud Functions でリクエスト分割
解答と解説
正解：B
- 同一 Endpoint で
traffic_splitによりトラフィック比率を設定するのが標準
問題 10
100 B クラスの大規模 LLM の 高スループット推論 に最適なバックエンドは？
A. CPU クラスタ B. T4 GPU C. A100/H100 もしくは TPU v5e + vLLM D. Cloud Functions
解答と解説
正解：C
- 大規模 LLM の高スループットは 大型 GPU/TPU + vLLM（連続バッチング）が標準
- B はメモリ不足
問題 11
Endpoint のコールドスタートが長くて UX に支障。最適な対策は？
A. min_replicas を 1 以上に設定 B. リージョンを変える C. CPU 数を増やす D. 何もしない
解答と解説
正解：A
- min_replicas ≥ 1 で常時 1 つは起動 → コールドスタート発生せず
- イメージ最適化も補助的に有効
問題 12（複数選択 — 2 つ選べ）
PyTorch と TensorFlow のモデルを 同じ Endpoint で同居させたい。実装は？
A. それぞれのカスタムコンテナで DeployedModel を 2 つ作る
B. Endpoint の traffic_split で振り分け
C. PyTorch を ONNX に変換して TF Serving で出す
D. 両方を 1 ファイルに統合
解答と解説
正解：A, B
- A：別フレームワークなら 別 DeployedModel + 別カスタムコンテナ
- B：トラフィック振り分けは
traffic_split - C はオプションだが必須ではない
- D は技術的に不可能
問題 13
訓練と推論の前処理が 微妙にずれて精度低下 した。最適な対策は？
A. クライアント側で全部前処理 B. TFT (TensorFlow Transform) または Feature Store で前処理コードを統一 C. 全てを推論サーバに移植 D. ML エンジニアが毎週コード同期
解答と解説
正解：B
- 訓練/推論の skew 防止は TFT か Feature Store が定石
問題 14
Edge デバイスにデプロイする前に 必須 の処理は？
A. INT8 / Float16 への量子化 B. 全層 freeze C. 学習率を上げる D. データ拡張
解答と解説
正解：A
- Edge デプロイには 量子化 が必須。サイズ縮小・推論高速化・消費電力削減
- TFLite Converter で post-training quantization
問題 15
Gemini Nano は何のためのモデル？
A. クラウドの最高性能 LLM B. オンデバイス（モバイル）推論向け軽量 LLM C. 画像生成 D. 動画認識
解答と解説
正解：B
- Gemini Nano = オンデバイス推論用（Android Edge AI 経由）
問題 16
オンライン推論で 特徴量が DB から 300ms かかる。レイテンシ要件は 100ms。最適な対策は？
A. Feature Store Online Store で ms 級取得 B. DB をスケールアップ C. 推論を Cloud Functions に移す D. キャッシュなしで再実行
解答と解説
正解：A
- Feature Store Online Store は ms 級アクセスを保証
- B は限界がある
問題 17
Cloud Run で 生成 AI 推論サーバ を動かす利点は？（複数選択 — 2 つ選べ）
A. スケールゼロ可能（アイドル時無料） B. GPU 対応（最新） C. 自前で Kubernetes 管理が必要 D. リクエスト同時数で課金
解答と解説
正解：A, B
- A：min-instances=0 でアイドル無料
- B：GPU 付き Cloud Run も登場、小〜中 LLM 推論に有用
- C は逆（Cloud Run は K8s 管理不要）
- D は誤り（リクエスト時間で課金が中心）
問題 18
新モデルを 即ロールバック可能 な戦略は？
A. ローリング B. ブルー/グリーン C. カナリア（小規模） D. 全置換
解答と解説
正解：B
- ブルー/グリーン は旧 (Blue) と新 (Green) を並行稼働、ルーティング切替で 即ロールバック可能
問題 19
推論前に 複雑な前処理（例: 画像のリサイズ・正規化）を行う必要がある。実装は？
A. クライアント側で実装 B. カスタムコンテナ内で前処理 + 推論を実装 C. 別の Cloud Function を経由 D. 推論しない
解答と解説
正解：B
- 複雑な前処理 + 一貫性確保 = カスタムコンテナで前処理を内包
- A は skew リスク
- C はレイテンシ追加
問題 20
ECサイトの推薦エンジン。95% のアクセスは標準的、5% はバースト。最適なスケール構成は？
A. Endpoint min=高、max=高で固定 B. Endpoint min=1〜中、max=高でオートスケール C. Cloud Run min=0 D. GKE 永続クラスタ
解答と解説
正解：B
- ベース負荷あり + バースト = Endpoint with min≥1 + max を高めに（オートスケール）
- A は過剰、C はベース負荷に弱い、D は運用負荷大
全 20 問。