實驗設計與 A/B 測試

A/B 測試

一種線上隨機實驗:同一時間把產品的一個版本(A)給某些使用者、另一個版本(B)給另一些使用者,再衡量哪個版本在選定指標上表現較好。它本質上就是穿上產品外衣的隨機對照實驗(randomized controlled experiment)。

A/B 測試是公司用來判斷「新的按鈕顏色、標題或推薦演算法是不是真的有改進」的方法,而不是靠意見或猜測。難的不是跑測試——那很簡單——而是跑出一個「值得信任」的測試:正確的隨機分派、足夠的流量、對的指標、不偷看,這些才是多數團隊跌倒的地方。

「A/B/n」只是指同時比較超過兩個版本(A、B、C…)。

又称
split testonline controlled experiment