兩版數據丟進來——是真的贏了,還是樣本太少的雜訊?
A:2.00%(40/2000)vs B:2.90%(58/2000) 領先:B 版,相對差距 45% 差距夠明顯,可以換上領先版——但留 10% 流量繼續驗證一週。
使用前先知道
轉換率差異可能來自隨機誤差,尤其樣本數小時。統計顯著性會考量流量與波動幅度,若樣本不足或差異不夠大,工具會判定無法確認B版真正優於A版。
沒有固定數字,要看原始轉換率與你想偵測的差異大小。通常若轉換率在1-5%左右,每版至少幾百到上千流量;差異越小,所需樣本越大。流量低於一百時,結果僅供參考。
不建議。若結果不顯著,選高的版本只是賭運氣,下次測試可能翻盤。實務上應繼續收集數據,或重新設計測試(如加大差異、鎖定特定受眾)。貿然上線高版本反而可能損失轉換。
這個工具每天都會自動測試一次;如果壞掉,系統狀態頁會寫出來。 我們不會為了拿你的 Email 而擋住結果。
你卡在哪?打一句話,我幫你找工具。
不記錄、不留 email。答案只是指路,數字請用工具自己算。