1. はじめに
Google Optimizeの検定方法から、必要サンプル数、テスト期間についてまとめます。※自分用のメモ
2. 引用Google資料
1)Google Optimizeのレポートの概要
2)Google :ベイズ推定
3. Google Optimize レポートの各部説明
3-1. 概要ヘッダー
レポートの上部にある概要ヘッダーには、テストのメインの目標に関連する情報(ステータス、セッション、推奨事項など)が表示されます。下記の例のように、テストのステータス(実行中)、テスト セッションの数、推奨事項(テストを続けてください)、開始時刻と終了時刻が表示されます。
3-2. ステータスメッセージ
4. 有意差検定:ベイズ推定
Google Optimizeのテスト結果では統計的有意性を判断する手法としてベイズ推定が使用されており、行動の変化と蓄積データに応じて結果が判定されますため、サンプルサイズの最小要件はございません。
-
ベイズ推定はデータが蓄積されるにつれ分析の精度が向上するという性質を備えています。計算が複雑で高い処理能力が求められるという面もありますが、ベイズ推定には従来のアプローチと比べて、次のような 4 つのメリットがあります。
-
確率を直接計算することができるため、「新しいパターンがオリジナルより優れた成果を上げる確率はどのくらいか」などの問いに対して、より適切な回答を示すことができます。
-
誤って確率と混同されることの多い p 値の使用を避け、すぐに活用できる有用なデータをユーザーに提供できます。
-
仮説検定のアプローチに伴うさまざまな問題を回避しつつ、あるパターンが総合的に最善である確率を示すことができます。
-
それ以上テストを続行しても有用なデータが得られないと判明した時点で、テストを終了できます。
-
-
ベイズ推定およびオプティマイズで使用される統計手法について詳しくは、一般的な方法論をご覧ください。
5. テスト期間について
テストの実施期間については、少なくとも次のいずれかの条件が成立するまで続けることが推奨されております。
-
トラフィックが少ない場合でも、コンバージョン率が一定であれば(コンバージョン率の推移に一貫性があれば)有効なテスト結果が得られるとされております。そのため、テスト開始より1週間経過(曜日の影響を考慮)した後、ベースラインを上回る確率が95%に達していれば、2週間以内でもオプティマイズでのテスト結果は得られたとして停止していただけます。
6. 同じURLで同時に複数テストをする
1ページに対して同時に複数テストが配信された場合、以下のようにパターン配信失敗や計測精度の懸念があるため、避けていただく
6-1. 複数テストの懸念点
-
同じ要素やコンテンツに対するパターン変更が、一部しか反映されない(例:処理のタイミングが後になった変更のみ反映される等)
-
パターン変更が衝突し、意図したパターン変更が適用されない
-
テストの相互の影響が生じる可能性があり、個別のテスト結果が正確に計測できない
6-2. それでも同じURLで複数テストを実施する方法
上記をご考慮いただいた上で、以下のように複数テストを実施する方法は検討いただけます。
-
同一ユーザーに複数テストが当たらないようにターゲティング条件を分ける
-
例1:デバイスPC、SPで適用されるテストを分ける
-
例2:ユーザーID末尾数字が偶数か奇数かにより適用されるテストを分ける
-
-
ページ内の複数要素の組み合わせをテストされる場合は、多変量テスト(MVT)もご検討できます
*Appendix
GA4とGoogle Optimizeの連携
GA4とGoogle Optimizeの連携方法について説明しています。プロパティのリンクや、目標の設定など管理画面の設定内容と。GAとGA4の違いなどを説明
ランディングページのURLパラメータをリンク先に引き継ぐJavaScript
特定のサービスのリード獲得のためのラインディングページ。広告を出稿することもあります。その際に、Web2Appの遷移や、別ドメインに立てたランディングページの場合、広告のトラッキングコードがコンバージョンまで引き継げないケースがある。ランディングページの特定のURLパラメータを引き継ぐJavaScript
ABテスト設計ガイド
ABテストを行う際に事前に確認して言語化しておくべき内容を設計書としてまとめました。実験を成功に導くため見切り発車しないように設計書を事前に準備しましょう。
GA4/ABテストツールの選定
2023年9月30日をもって、Google Optimizeはサービス終了します。GA4と連携するABテストツールとして、候補に挙がるサービスをどのように選定していくかがとても重要
コメント