支持抖音、今日頭條等產品增長迭代的A/B測試工具，如今被字節(jié)跳動投入企業(yè)級市場。
在4月20日召開的火山引擎技術開放日活動中，字節(jié)跳動副總裁、算法和數(shù)據(jù)技術負責人楊震原首次揭秘了字節(jié)跳動如何使用A/B測試。火山引擎是字節(jié)跳動旗下為企業(yè)服務的智能科技品牌，字節(jié)跳動的A/B測試工具也已通過火山引擎開放給企業(yè)客戶。
A/B測試是指對不同策略進行對比實驗，根據(jù)結果選擇最優(yōu)方案。A/B測試不是互聯(lián)網(wǎng)公司發(fā)明的，而是最早應用在醫(yī)學領域。十八世紀，一位英國醫(yī)生把患有壞血病的水手隨機分成六組，用不同方法進行治療，從而確定了檸檬和橘子能有效治療壞血病，這是人類有記載最早的A/B測試。在互聯(lián)網(wǎng)時代，A/B測試被谷歌等巨頭廣泛使用在產品開發(fā)和運營中，有研究者也把A/B測試視為字節(jié)跳動快速增長的重要因素。
據(jù)楊震原介紹，公司成立之初，今日頭條就在做策略推薦類的A/B測試。2016年，字節(jié)跳動建立了支持大規(guī)模產品實驗的A/B測試平臺，之后陸續(xù)接入抖音、西瓜視頻等全線業(yè)務，把A/B測試應用在產品命名、交互設計、推薦算法、用戶增長、廣告優(yōu)化和市場活動等方方面面的決策上。
最新數(shù)據(jù)顯示，字節(jié)跳動每天同時進行的A/B測試達到上萬場，單日新增實驗數(shù)量超過1500個，覆蓋400多個大大小小的業(yè)務。隨著公司發(fā)展，這些數(shù)字還在不斷擴大。截至今年3月底，字節(jié)跳動累計已經做了70多萬次A/B測試。
圖：字節(jié)跳動副總裁楊震原
楊震原表示，字節(jié)跳動積累的技術能力和增長方法，會通過火山引擎提供給企業(yè)客戶。火山引擎產品體系包括基礎服務、技術中臺、智能應用和行業(yè)解決方案，字節(jié)跳動的視頻編輯、特效、文字識別、圖像識別、個性化推薦等技術能力，都已在火山引擎上為企業(yè)服務，A/B測試也是其中一款重要的數(shù)據(jù)產品，能夠幫助企業(yè)提高決策質量，促進業(yè)務增長。
據(jù)相關產品負責人介紹，火山引擎A/B測試支持客戶端、服務端、推送、網(wǎng)頁、可視化建站等多種實驗形式，具有功能全面、高度自動化的特點，操作非常簡單，即使不會編程的人也能輕松做實驗，而且有內容豐富的實驗報表，可智能產出實驗結論，讓決策鏈清晰完備。
火山引擎A/B測試的使用效果得到了客戶認可。以悟空租車為例，該公司已通過火山引擎進行了70多次A/B測試，約有60%為正向實驗，提升產品轉換率約40%，以往需要一周時間的需求復盤數(shù)據(jù)分析，現(xiàn)在只要一天就能得到數(shù)據(jù)結論，更直觀地量化了需求價值，極大地提升了效率。
在積極為火山引擎“帶貨”的同時，楊震原表示A/B測試并不是萬能的，它也有很多局限性，比如提高商品推薦門檻、不推薦評分低的商品，如果做A/B測試，短期內交易量肯定會降低，但長期來看結論有可能逐漸反轉，這是長周期影響和目標設定的問題。此外，獨立的實驗條件、統(tǒng)計置信度等問題都是做A/B測試需要考慮的。
楊震原說，企業(yè)應充分意識到A/B測試的優(yōu)勢和缺陷，對目標選擇適合的評估方法。比如戰(zhàn)略型決策，需要專家角色進行長期的思考；很多細節(jié)的決策，如果能做A/B測試，要盡量做A/B測試，并且要關注到量化分析的執(zhí)行能力，真正做到數(shù)據(jù)驅動科學決策。
