今日のフォーカス
介入した後(Q1)、指標を管理に使った後(Q2)、数字を賭け方に変えるとき(Q3)の3つで、数字の読み方を直す。先週金曜(9/25)のバークソン・結果バイアス・体感の生産性とは重ならない。
平均への回帰(Galton 1886 / Kahneman & Tversky 1973)
相関が1でないかぎり、極端な集団は次回に平均へ戻る。戻る量の目安は (1−相関)×平均からの離れ。
Campbell の法則(1979)
意思決定に使う定量指標は、使われるほど歪む圧力を受け、測ろうとした過程を歪める。
ケリー基準・非エルゴード性(Kelly 1956 / Peters 2019)
掛け算で増減する量は、平均と1回の道が別物。成長率を最大にする賭け率は期待値の最大化とは違う。
数値の出所ラベル:仮定 架空値 / シミュレーション 乱数 / 導出 Python で計算 / 文献は Crossref で 2026-10-02 に確認(Galton のみ書誌のみ)。
全国80拠点のサポート拠点を束ねる部門長・田村さんは、第1四半期の応対品質スコア(顧客アンケート、100点満点)が下位10拠点に集中研修(2日間)を実施した。第2四半期のスコアが出た仮定シミュレーション(実力 N(60,8)・測定誤差 N(0,8)、乱数シード262)。
| 集団 | 第1四半期 | 第2四半期 | 変化 |
|---|---|---|---|
| 全80拠点 | 60.3 | 60.0 | −0.3 |
| 下位10拠点(研修あり) | 44.0 | 53.9 | +9.9(7/10が上昇) |
| 上位10拠点(研修なし) | 76.0 | 69.3 | −6.7(8/10が低下) |
| 中位60拠点(研修なし) | 60.3 | 59.5 | −0.8 |
2つの四半期のスコアの相関係数は 0.42。田村さんは取締役会にこう報告しようとしている。
- 「+9.9点」のうち、研修がなくても起きていたと考えられる分を、表だけから見積もれ。研修の効果として主張できる点数はいくつか
- 上位10拠点が下がっていることは何を示唆するか。「上位は慢心した」という説明との違いを述べよ
- 次の四半期に研修の効果を本当に測るには、割り当てと評価をどう設計するか。10拠点では何が測れて何が測れないかを数字で答えよ
① 回帰で説明できる分導出
予測 = 全体平均 + 相関 × (集団の第1四半期平均 − 全体平均)。下位:60.0 + 0.42 × (44.0 − 60.3) = 53.2。上位:60.0 + 0.42 × (76.0 − 60.3) = 66.6。
② 上位が下がっていること
上位10は「選ばれたときに運が良かった」拠点を含むので同じ理屈で下がる。何もしていない上位が下がることは、下位の上昇も同じ仕組みで説明がつく直接の証拠。「慢心した」は「下位は奮起した」とセットで語れてしまい、どちらの結果でも同じ物語で説明できる説明は何も検証していない。
③ 設計導出
- 第2四半期の下位20拠点をくじで10対10に分け、片方は次期に実施。評価は「(研修群の変化)−(対照群の変化)」
- 拠点ごとの四半期変化の標準偏差は約11.3(=√2×8)。10対10の平均差の標準誤差は 11.3×√(2/10) ≒ 5.1点、80%の確率で見つけられるのは 2.8×5.1 ≒ 約14点以上。期待できる数点の効果は、この設計では測れない
- 寄せ方:スコアを3か月平均にして誤差を下げる/全拠点で開始月をくじで決める段階導入/「何点以上なら全社展開」を先に決める
採らなかった案(トレードオフ)
- 「効果は0」と報告:+0.7 は判別不能で、ゼロの証明ではない。研修打ち切りの根拠にもならない
- +0.7 を効果として報告:相関 0.42 自体が推定値で誤差がある。1つの数字が独り歩きする
- 下位10だけで追試(10対10):約14点以上でないと測れず、費用をかけて「判別不能」をもう一度得るだけ
前提が変わったら:拠点が300なら約8点まで下がり無作為割り当てで測れる。相関が0.9なら回帰分は小さく、+9.9 の大半が効果と読める。
実践への応用
- 営業の下位10%へのコーチング、不具合が多かった月の品質施策、炎上案件への増員は同じ形。選んだ時点の極端さの一部は運
- ピボット後の数字は、前月でなく前の数か月の平均と比べる
- 拠点ごとに評価基準が違えば回帰の大きさも違う。相関は拠点群ごとに出す
- 回帰で戻る分を「(1−相関)×離れ」で自分で引いたか
- 上位が下がることを「慢心」でなく回帰として読めたか
- 10対10で測れる効果の大きさを数字で言えたか
BtoB SaaS 企業(契約顧客約2,000社)の CTO・坂本さんは、4四半期前に「重大障害(SEV1/2)の件数」を各部門長の四半期目標にし、第3四半期から賞与の10%に連動させた。取締役会向けの表仮定:
| 項目 | Q1 | Q2 | Q3(KPI開始) | Q4 |
|---|---|---|---|---|
| 重大障害 SEV1/2(件) | 18 | 17 | 11 | 9 |
| 軽微な障害 SEV3(件) | 31 | 33 | 52 | 61 |
| 障害関連の顧客問い合わせ(件) | 412 | 405 | 431 | 440 |
| 契約顧客数(社) | 1,980 | 2,010 | 2,030 | 2,060 |
| 起票された障害のうち顧客の問い合わせが先だった割合 | 22% | 21% | 38% | 49% |
| 検知から起票までの中央値(分) | 9 | 8 | 41 | 68 |
| SEV1/2 のうちポストモーテム実施(件) | 16 | 15 | 6 | 4 |
| デプロイ回数(回) | 640 | 655 | 648 | 660 |
資料の見出しは「重大障害 半減(18→9件)。信頼性は大きく向上」。
- 「半減」を信頼性の向上と言ってよいか。3つ以上の仮説を立て、表のどの行がどの仮説を支持/否定するか示せ(計算できるものは計算)
- 第5四半期以降の指標を設計し直せ。何を目標から外し何を足すか。賞与連動はどうするか。採らなかった案と理由も残せ
- すでに賞与連動を説明した部門長たちに、見直しをどう伝えるか。誰も責めず、数字の読み替えははっきり伝える言い方を示せ
① 目標でない行を読む導出
| 仮説 | 支持する行 | 否定する行 |
|---|---|---|
| A 本当に減った | SEV1/2 の件数 | 顧客の問い合わせ(減らず)/顧客先発の割合が倍増/SEV3 の増加 |
| B 重大度の格下げ(SEV2→SEV3) | SEV3 33→61件(+28)に対し SEV1/2 は 17→9件(−8)。合計 50→70件で増加。SEV1/2 の割合 34.0%→12.9% | (直接否定する行なし) |
| C 起票の遅れ | 検知〜起票 8→68分(8.5倍)/顧客先発 21%→49% | 合計件数は増えており、「報告が全体として減った」は否定 |
| D 振り返りの省略 | 実施 15→4件。実施率 15/17=88% → 4/9=44% | — |
| E 負荷・使い方の変化 | — | デプロイ回数・顧客数はほぼ同じで説明できない |
判定:B・C・D が同時に出ている。ただし表だけでは格下げされた個別の障害は特定できない。第3〜第4四半期の SEV3 のうち顧客影響があったもの約30件を無作為に抜き、基準に照らして再分類して確かめる。
② 指標の設計
- 外す:SEV1/2 の件数(賞与連動も止める。連動は圧力が最大)
- 足す:①顧客1,000社あたりの障害関連の問い合わせ ②顧客が先に気づいた割合(報告を遅らせると悪化する) ③検知〜起票の中央値 ④ポストモーテム実施率とアクション完了率
- 重大度の判定は報告者でなく別の人(SRE・品質担当)が行う。目標を持つ人が自分の障害を格下げできない構造にする
- 賞与には連動させず、経営会議で表を並べて「動きが逆向きにならないか」を見る。賞与への組み入れは次の見直しまで保留
採らなかった案
- 目標を0件に:圧力が強まり、格下げと遅延が増える。0件は報告されない障害でしか達成できない
- 外部監査を毎四半期:費用が大きい。抜き取りの再分類(約30件)で足りる
- 部門長を処分:数字を作らせたのは自分の設計。次の指標でも同じことが起きる
- 指標を全部やめる:何も見えなくなる。やめるのは「件数だけを目標にして賞与に連動」の部分
前提が変わったら:問い合わせが自動分類されるなら指標①を主指標にできる。抜き取りで再分類が1割以下なら B は弱まり、C・D の対策に絞る。
③ 伝え方
実践への応用
- コード行数・コミット数・チケット消化数・カバレッジ率・MTTR を個人や部門の評価に使うと同じ形で歪む。DORA の4指標もチーム改善の目安で個人評価には使わない
- 営業・採用の「面談件数」「応募者数」は質を落とす。受注・内定承諾のような結果に近い指標と組み合わせる
- 国ごとに失敗の報告の文化が違い、目標の効き方も違う
- 目標でない行(問い合わせ・SEV3・検知〜起票)を使って仮説を当てたか
- 「ごまかし」でなく指標の設計の問題として解いたか
- 自分の責任として伝える言い方になっているか
シリーズB後の創業CEO・深澤さんの会社の手元資金は30億円、月の支出は1.5億円(残り20か月)仮定。取締役の1人(元ヘッジファンド)が、海外大手との共同開発案件への投資を提案した。
調達条件仮定:手元資金が12か月分の支出(18億円)を下回ると、次の資金調達は大幅に不利な条件(もしくは不能)になる。
- 毎回、手元資金の100%・50%・16%を投じる場合に、4回後の平均・中央値・18億円を下回る確率を求めよ。「期待値がプラスなら全力」はなぜ誤りか、数字で示せ
- ケリー基準では毎回何%が成長率最大か。成功確率の見積りが40〜60%でずれたとき、この数字はどう変わるか。ケリー基準がそのまま使えない理由をこの案件の性質から3つ挙げよ
- 取締役会に、何%を、どんな条件で、どの順番で投じるかを提案せよ。「やらない」も含めて比べ、撤退の基準を先に決めよ
① 4回後の結果導出
| 毎回の投入割合 | 平均 | 中央値 | 18億円を下回る確率 |
|---|---|---|---|
| 100% | 51.6億円 | 1.2億円 | 60.9% |
| 50% | 39.7億円 | 20.4億円 | 24.1% |
| 30% | 35.6億円 | 27.0億円 | 24.1% |
| 16% | 32.9億円 | 29.6億円 | 4.1% |
| 0%(やらない) | 30.0億円 | 30.0億円 | 0% |
- 100%の平均は 30×1.145⁴=51.6億円。1回失敗した時点で手元は3億円(残り2か月)。平均を押し上げるのは4回全成功する9.2%の世界(480億円)だけ
- 50%でも1回失敗で16.5億円(残り11か月)、2回失敗で9.1億円(残り6か月)
② ケリー基準と感度導出
成功で +b、失敗で −a、勝率 p のとき f* = p/a − (1−p)/b。ここで b=1.0、a=0.9。p=55% なら f* = 0.55/0.9 − 0.45 = 16.1%。
| 成功確率 | 1円あたり期待値 | ケリー f* | 50%投入で閾値割れ | 16%投入で閾値割れ |
|---|---|---|---|---|
| 40% | −0.140 | −15.6%(賭けない) | 47.7% | 13.1% |
| 45% | −0.045 | −5.0%(賭けない) | 39.4% | 9.3% |
| 50% | +0.050 | 5.6% | 31.5% | 6.3% |
| 55% | +0.145 | 16.1% | 24.3% | 4.1% |
| 60% | +0.240 | 26.7% | 18.0% | 2.6% |
見積りが5ポイントずれる(55→50%)だけで f* は約3分の1。ケリーは見積りに非常に敏感なので、実務ではケリーの半分以下を使う。
そのまま使えない理由:①成功確率が未知で誤差が大きい(過去の勝率のような頻度で測れず主観に近い) ②賭けは独立でも均質でもない(同じ相手・市場に依存し、失敗後の判断も変わる) ③失われるのはお金だけでなく選択肢(閾値を割ると調達条件が変わる。ケリーは滑らかな資金を仮定し閾値を扱えない)。
③ 取締役会への提案
| 案 | 長所 | 短所 |
|---|---|---|
| 0. やらない | 閾値割れ0% | 学びも成長もなし。本業が頭打ちなら20か月で資金が尽きる |
| 1. 毎回100% | 平均51.6億円 | 中央値1.2億円・60.9%で閾値割れ。却下 |
| 2. 毎回50% | 平均39.7億円 | 24.1%で閾値割れ・1回目の失敗で11か月。却下 |
| 3. 段階投入(推奨) | 初回5億円(約16.7%)。失敗しても手元25.5億円・残り17.0か月で、閾値の18億円を割らず続行/縮小/撤退を選べる | 平均の伸びは小さい |
- 初回は上限5億円。見積りが50%に落ちても(f*=5.6%)大きく外れない水準
- 成功確率の見積りを検証に使う。1回目の結果と相手の過去の共同開発の実績で更新し、45%以下なら賭けない
- 撤退の基準を先に決める:手元資金が約22億円(残り約15か月)を下回れば新規投入を止める/失敗の原因が自社の実行力なら続行しない/上限の変更は半期に1回
- 提案者の経験(多数の賭けの分散)は、1社で1回だけ生きる会社とは前提が違う。意見として聞き、割合の決定は創業者と取締役会全体で行う
採らなかった考え方・前提が変わったら
- 「確率を55%と置けるなら賭ける」:根拠が主観なら、感度(40〜60%)の表で結論が変わらない案を選ぶ。16%前後は40〜60%のどこでも閾値割れ13%以下
- 「全部やらない」:小さい投入は情報を買う行為でもあり、学びと選択肢を捨てない
- 手元資金が100億円、または失敗の損失が10%程度なら f* はもっと大きく積極的でよい。失敗が評判や重要顧客の喪失まで伴うなら、損失 a を0.9より大きく見積もり直す
実践への応用
- 新規事業・海外展開・M&A は同じ賭けを繰り返せない。1回の失敗で選択肢が消えない額から始める
- 個人の資産・キャリア:期待年収が高いだけで生活費を割る選択(全財産の投資、ストックオプション偏重)をしない
- 為替・規制リスクのある市場は確率の誤差が大きく、投入割合をさらに小さく始める
- 平均だけでなく中央値と閾値を割る確率を並べたか
- 成功確率の見積りがずれたときの感度を見たか
- 撤退の基準を投入の前に決めたか
扱わなかった範囲・参照文献
| 問 | 扱わなかった範囲 |
|---|---|
| Q1 | 階層モデル・ベイズ収縮。暗算できる「(1−相関)×離れ」に絞った。シード262は3,000シード平均(下位 +9.1/上位 −9.2/相関 0.50)に近い1回を選んだもので、選び方に恣意性がある |
| Q2 | 差の差・合成コントロールなどの因果推論(4四半期では不安定)。報酬設計の経済学(principal–agent) |
| Q3 | 税・希薄化・ダウンラウンドの条項、案件間の相関のモデル化、連続時間のケリー。成功・失敗の2値の近似で、実際の損益はもっと連続的 |
- Galton (1886), "Regression towards mediocrity in hereditary stature", J. Anthropological Institute, 15, 246–263(書誌のみ、DOI 未確認)
- Kahneman & Tversky (1973), "On the psychology of prediction", Psychological Review, 80(4), 237–251 — doi:10.1037/h0034747
- Campbell (1979), "Assessing the impact of planned social change", Evaluation and Program Planning, 2(1), 67–90 — doi:10.1016/0149-7189(79)90048-X
- Kelly (1956), "A New Interpretation of Information Rate", Bell System Technical Journal, 35(4), 917–926 — doi:10.1002/j.1538-7305.1956.tb03809.x
- Peters (2019), "The ergodicity problem in economics", Nature Physics, 15(12), 1216–1221 — doi:10.1038/s41567-019-0732-0
- Kahneman (2011), Thinking, Fast and Slow, 第17章(書誌のみ)。DORA の注意は 9/28 のログで dora.dev を確認した内容に依る
今日のまとめ・次回へ
今日の数字の読み方を、誰に・どの順番で・何を示して伝え、戦略を決めるところまで広げる。Q2 の「見直しの伝え方」と Q3 の「取締役会への提案」は、交渉と説得の設計として扱う。