實驗設計與 A/B 測試

隨機分派單位

你實際上「擲硬幣」決定要分到實驗組還是對照組的那個對象——最常見的是「使用者」,但也可能是一次造訪(session)、一台裝置、一次頁面瀏覽,甚至一整座城市。屬於同一個單位的一切,都必須留在實驗的同一邊。

選擇單位是個低調卻關鍵的決定。如果你以「頁面瀏覽」為單位隨機分派,但同一位使用者在這一頁看到新設計、下一頁看到舊設計,他的體驗就不一致,你的量測也會被搞混。原則是:單位要粗到剛好滿足你指標的需求、不要更粗,因為單位越大、數量越少,統計檢定力(statistical power)就越低。

分析單位應與隨機分派單位一致;混用(例如以使用者隨機分派卻去計算點擊次數)會破壞標準誤(standard error)的計算。

又称
unit of randomizationexperimental unit