分享嘉賓： 天師 阿里巴巴 高級(jí)算法專家

編輯整理：王洪達(dá)

出品平臺(tái)：DataFunTalk

導(dǎo)讀：本文主要從偏向底層的推薦算法角度來(lái)闡述信息流推薦系統(tǒng)升級(jí)如何助力用戶增長(zhǎng)。我們知道，內(nèi)容信息流實(shí)際上已經(jīng)算是信息流中比較小的概念，其中包含圖文信息流、短視頻信息流和內(nèi)容+電商信息流，而對(duì)于用戶來(lái)講實(shí)際上是一個(gè)消費(fèi)時(shí)間的產(chǎn)品體驗(yàn)，從而對(duì)內(nèi)容生態(tài)產(chǎn)生很大的助力 ( 包括PGC、UGC的短內(nèi)容生態(tài) )，這就是本文主要的問(wèn)題——內(nèi)容信息流。本文旨在解決的問(wèn)題是：基于推薦算法視角，來(lái)解決信息流產(chǎn)品用戶增長(zhǎng)的問(wèn)題。其中，主要問(wèn)題就是如何提升留存率。

01

關(guān)于用戶增長(zhǎng)

做過(guò)推薦系統(tǒng)方面工作的同學(xué)應(yīng)該清楚的知道，推薦工程里面主要包含推薦算法和搜索算法。 而我們往往關(guān)注的是Stoptime這樣的指標(biāo)，使用有監(jiān)督的模型來(lái)解決一系列問(wèn)題，例如點(diǎn)擊率、單次時(shí)長(zhǎng)等。 對(duì)于留存問(wèn)題和大盤規(guī)模問(wèn)題在機(jī)制上，有很大的不足，比如： 推薦新的篇章，從用戶方面和生態(tài)方面都存在著雙邊的幸存者偏差問(wèn)題。

1.?問(wèn)題分析

首先看下大的背景，目前是移動(dòng)互聯(lián)網(wǎng)進(jìn)入下半場(chǎng)的大趨勢(shì)，過(guò)去粗放式的買量、廠商合作等模式越來(lái)越受到掣肘，未來(lái)將更加依賴精細(xì)化的用戶增長(zhǎng)策略、產(chǎn)品和用戶體驗(yàn)的細(xì)致打磨。經(jīng)典的AARRR模式會(huì)逐步轉(zhuǎn)向RARRA模式，提升產(chǎn)品留存、拉活、分享傳播等方式是構(gòu)建增長(zhǎng)的主要戰(zhàn)場(chǎng)，對(duì)于一個(gè)內(nèi)容型產(chǎn)品來(lái)說(shuō)，個(gè)性化算法對(duì)于用戶留存、拉活起到了決定性的作用。

在信息流產(chǎn)品增長(zhǎng)上，有三種比較成功的模式：

• 頭部?jī)?nèi)容模式：一種比較"重"的模式，該類產(chǎn)品利用精準(zhǔn)的內(nèi)容采買，引入優(yōu)質(zhì)的頭部?jī)?nèi)容創(chuàng)作者，利用頭部?jī)?nèi)容的流量聚焦效應(yīng)，迅速圈定大批用戶，并形成內(nèi)容APP特有的用戶心智；但是由于內(nèi)容頭部化，個(gè)性化算法在其中發(fā)揮的空間和作用較小，產(chǎn)品模式趨于同質(zhì)化。

• 下沉/激勵(lì)模式：該類產(chǎn)品參考了網(wǎng)絡(luò)游戲模式，從各個(gè)環(huán)節(jié)設(shè)計(jì)用戶里程碑和激勵(lì)，不斷引導(dǎo)新用戶一步步完成點(diǎn)擊、下刷、完整閱讀、分享、關(guān)注等目標(biāo)里程碑，并給予虛擬貨幣和真實(shí)貨幣的激勵(lì)，在短時(shí)間內(nèi)可以獲取大量下沉用戶。???????????

• 生態(tài)構(gòu)建模式：該類產(chǎn)品構(gòu)建了完善的內(nèi)容生產(chǎn)和消費(fèi)生態(tài)，旨在通過(guò)推薦系統(tǒng)同時(shí)刺激生產(chǎn)和消費(fèi)，實(shí)現(xiàn)兩端的同時(shí)增長(zhǎng)。

因此，個(gè)性化的核心問(wèn)題主要分為兩個(gè)：

• 用戶狀態(tài)建模：深度建模用戶狀態(tài)和行為，通過(guò)對(duì)于大數(shù)據(jù)集中分析，找到使用戶從低階狀態(tài)到高階狀態(tài)轉(zhuǎn)化的干預(yù)因子。也就是如何把新用戶轉(zhuǎn)化成低階用戶，然后從低階用戶轉(zhuǎn)化到高階用戶，用戶流失后如何召回，類似這樣的用戶狀態(tài)轉(zhuǎn)化。
• 個(gè)性化分發(fā)的升級(jí)：將用戶行為建模后，在多個(gè)場(chǎng)景下將這些干預(yù)動(dòng)作轉(zhuǎn)化為個(gè)性化推薦和營(yíng)銷，滿足用戶的消費(fèi)需求。

2. 增長(zhǎng)要素

什么樣的內(nèi)容會(huì)讓用戶覺得好？我們來(lái)看看用戶增長(zhǎng)的要素：

• 優(yōu)質(zhì)內(nèi)容/時(shí)效性：內(nèi)容的更新頻率以及內(nèi)容的質(zhì)量是用戶增長(zhǎng)的關(guān)鍵。

• 個(gè)性化體驗(yàn)：千人千面，推薦的內(nèi)容符合當(dāng)下的需求。

• 多渠道獲客：多渠道獲客的能力也是增長(zhǎng)的一個(gè)關(guān)鍵因素。

• CPC vs LTV：維持CPC ( 按點(diǎn)擊收費(fèi) ) 和LTV ( 用戶對(duì)系統(tǒng)的長(zhǎng)期價(jià)值 ) 的一個(gè)平衡。

算法如何助力增長(zhǎng)呢？主要有以下幾點(diǎn)：

• 精細(xì)化買量/外投；

• 提升留存；

• 衡量推薦這樣Action的效用；

• 消除幸存者偏差。

02

關(guān)于推薦算法

推薦系統(tǒng)在國(guó)內(nèi)大概已經(jīng)有十多年的應(yīng)用，模型架構(gòu)和算法都有很大的升級(jí)。

1. 推薦系統(tǒng)回顧

首先回顧下推薦系統(tǒng)：

• 劣質(zhì)系統(tǒng)：只會(huì)推薦一些低俗 ( 只滿足低層次需求 )、興趣受窄、搬運(yùn)內(nèi)容 ( 無(wú)稀缺性 )、陳舊內(nèi)容的信息。
• 良性系統(tǒng)：區(qū)別于劣質(zhì)系統(tǒng)，在各個(gè)環(huán)節(jié)都會(huì)不斷增加信息量 ( 多樣性 )，不同層次的用戶引入 ( 用戶多樣性 )，各類高質(zhì)量?jī)?nèi)容的引入 ( 內(nèi)容多樣性 )，內(nèi)容更具時(shí)效性 ( 提升媒體屬性 )，探索出用戶中長(zhǎng)尾興趣：當(dāng)頭部?jī)?nèi)容過(guò)期時(shí)從而更合理的承接。
• 問(wèn)題在哪兒？主要存在以下問(wèn)題：統(tǒng)計(jì)機(jī)器學(xué)習(xí)模型存在缺陷；長(zhǎng)期的指標(biāo)觀測(cè)體系匱乏以及業(yè)務(wù)短視；缺乏合理的機(jī)制設(shè)計(jì)和產(chǎn)品視角。

2. 信息流推薦的增長(zhǎng)目標(biāo)

用戶滿意度的衡量：

• 衡量用戶滿意度的指標(biāo)有很多，但主要集中在三大方面：內(nèi)容相關(guān)性、內(nèi)容質(zhì)量和內(nèi)容時(shí)效性，時(shí)效性一定程度上代表內(nèi)容的稀缺性。
• ctr代表什么：一定需要ctr嗎？對(duì)內(nèi)容無(wú)認(rèn)知的用戶需要衡量用戶對(duì)列表頁(yè)素材的滿意度，對(duì)內(nèi)容有認(rèn)知的用戶還需要衡量用戶對(duì)內(nèi)容本身的滿意度。
• 用戶對(duì)內(nèi)容真正的認(rèn)可是通過(guò)點(diǎn)贊、分享、評(píng)論這種互動(dòng)的方式來(lái)表現(xiàn)的，目前很多產(chǎn)品注重對(duì)互動(dòng)的引導(dǎo)。

信息流推薦的增長(zhǎng)目標(biāo)，主要包括：

• 提升用戶留存、LTV
• 通過(guò)分發(fā)篩選出優(yōu)質(zhì)內(nèi)容、優(yōu)質(zhì)生產(chǎn)者：在傳統(tǒng)的認(rèn)知中，喜歡什么就給什么；但是更新后的認(rèn)知是創(chuàng)造需求和玩法，持續(xù)優(yōu)質(zhì)內(nèi)容生產(chǎn)
• 構(gòu)建內(nèi)容生態(tài)：提高分發(fā)時(shí)效性；增加對(duì)upgc主的激勵(lì) ( 曝光、點(diǎn)擊、粉絲、分成 )；通過(guò)準(zhǔn)入、扶持打壓、激勵(lì)這種機(jī)制維持一個(gè)好的生態(tài)和增長(zhǎng)。只有通過(guò)用戶和生態(tài)兩端的同時(shí)增長(zhǎng)，才能讓產(chǎn)品得到一個(gè)飛輪效應(yīng)，良性發(fā)展

03

核心增長(zhǎng)機(jī)制

1. 雙邊冷啟動(dòng)與流轉(zhuǎn)機(jī)制

① 概述

在管理上也有這樣的一種思想，就是新人做老事、老人做新事，促進(jìn)事情穩(wěn)定向前推進(jìn)，這就是流轉(zhuǎn)機(jī)制設(shè)計(jì)的主要思想。因此，如何對(duì)新用戶和新內(nèi)容做雙邊冷啟動(dòng)就成了核心的問(wèn)題。從算法來(lái)看，這是兩個(gè)不太相同的問(wèn)題，但從整體設(shè)計(jì)思想來(lái)講，兩者又比較相近。新內(nèi)容通過(guò)相關(guān)性分析可以達(dá)到探索、分發(fā)、推廣的效果。進(jìn)而 新用戶如何探索他的興趣？ 比如推薦股票，一定會(huì)先推薦近期走勢(shì)最好的股票； 推薦科幻片，大概也是這樣，推薦評(píng)分最高的，這樣就可以實(shí)現(xiàn)新用戶規(guī)模本身的增長(zhǎng)。 對(duì)于新內(nèi)容來(lái)講，通過(guò)老用戶面對(duì)熱內(nèi)容的探索分析，也可以逐步推進(jìn)內(nèi)容生態(tài)的增長(zhǎng)，其實(shí)這并不完全是算法的問(wèn)題，這同樣是貫穿從內(nèi)容運(yùn)營(yíng)到產(chǎn)品設(shè)計(jì)整個(gè)體系的一個(gè)哲學(xué)思想。

對(duì)于新和舊的定義是通過(guò)置信度對(duì)應(yīng)到多峰興趣級(jí)別，同時(shí)對(duì)應(yīng)到topic興趣的級(jí)別；對(duì)于新和老的準(zhǔn)確定義應(yīng)該是經(jīng)過(guò)某些流量的分發(fā)驗(yàn)證，而不是簡(jiǎn)單通過(guò)來(lái)的早晚；新內(nèi)容冷啟機(jī)制也叫爬坡機(jī)制。

這里面帶來(lái)的技術(shù)問(wèn)題包含：

• 基于表征學(xué)習(xí)的排序技術(shù)，難以表達(dá)置信度；神經(jīng)網(wǎng)絡(luò)技術(shù)很難表達(dá)最重要的概念。
• 新內(nèi)容冷啟動(dòng)技術(shù)選型業(yè)內(nèi)有很多的方案：隨機(jī)保量 ( 短期降效、對(duì)生態(tài)fairness問(wèn)題相對(duì)友好、構(gòu)建寶貴的無(wú)偏數(shù)據(jù)集，消偏應(yīng)用 ) +Bandit類算法 ( 短程收斂性有一定劣勢(shì) ) +uncertainty預(yù)估 ( 個(gè)人推薦 )
• 新用戶冷啟動(dòng)的技術(shù)選型和新內(nèi)容還是有很大差別的，其主要是通過(guò)強(qiáng)化學(xué)習(xí)、聯(lián)邦學(xué)習(xí)這種人工智能的方式進(jìn)行分析，而通過(guò)統(tǒng)計(jì)學(xué)，很難分析出人的偏好。

② 詳細(xì)實(shí)現(xiàn)

雙邊冷啟動(dòng)與流轉(zhuǎn)機(jī)制的實(shí)現(xiàn)，主要包括：

a. 早期以顯式標(biāo)簽+統(tǒng)計(jì)連續(xù)值為主的推薦系統(tǒng)

• Rank = pRelevance(topic | user)^ cu * pCTR( item | topic)^ ci ?一方面用主題到用戶的相關(guān)性，另一方面用item到主題的統(tǒng)計(jì)值或者模型的估分，這里面會(huì)有兩個(gè)置信的概念，一個(gè)是用戶興趣的置信度，一個(gè)是item本身的置信度；
  

• 新item冷啟探索：ci低會(huì)提高cu，側(cè)重主題到用戶的相關(guān)性值以及預(yù)估穩(wěn)定性；

• 新用戶冷啟/興趣探索：cu低會(huì)提高ci，側(cè)重item到主題的統(tǒng)計(jì)值以及預(yù)估穩(wěn)定性；
  

• 純利用：對(duì)于老人做老事，ci高，cu也高，推薦的短期效率指標(biāo)是最高的，但是長(zhǎng)期來(lái)看，如果只注重這種推薦的短期效率指標(biāo)，不對(duì)新用戶和新內(nèi)容進(jìn)行探索，那長(zhǎng)期就很難發(fā)展下去。

b. 以表征學(xué)習(xí)為主的推薦系統(tǒng)，這塊主要是思考如何做成Risk-aware recommendation，目前構(gòu)建排序模型uncertainty的一種方式如下：

c. 超參學(xué)習(xí)/調(diào)控的目標(biāo)→系統(tǒng)全局E&E

3. 消偏與因果推斷： 背景介紹

對(duì)于幸存者偏差問(wèn)題，我們是通過(guò)因果推斷的方式解決的。推薦系統(tǒng)其實(shí)是一個(gè)因果推斷的問(wèn)題，通過(guò)用戶是什么樣的人，從而推測(cè)用戶會(huì)喜歡什么樣的item；對(duì)于推薦的causal effect，用戶會(huì)不會(huì)喜歡？效用有多大？會(huì)不會(huì)成為高價(jià)值客戶？如果推薦后，用戶會(huì)有hot moment，我們可以判定，推薦效果是好的。

為什么會(huì)存在幸存者偏差呢？

• 推薦模型本身的樣本就是有偏的，user和item偏同時(shí)存在，比如用戶沒看喜歡的部分沒有參與到模型訓(xùn)練中。
• 對(duì)應(yīng)到item，就是selection-bias和fairness問(wèn)題。比較典型的案例是youtube net，user embedding average pooling本質(zhì)上，依然是item-embased，后續(xù)諸多改進(jìn)沒有本質(zhì)的解決消偏問(wèn)題。這樣就會(huì)導(dǎo)致后續(xù)推的東西比較類似，如果第一次推的好就會(huì)留下用戶，推得不好用戶就會(huì)很快流失。

4. 消除幸存者偏差：Casual Inference推薦框架

假設(shè)：

在因果推斷的推薦框架中，假設(shè)用戶變成低活、沉默的原因主要是用戶對(duì)之前推薦的內(nèi)容不滿意。

方法：

• 構(gòu)建反事實(shí)鏡像人：利用無(wú)偏信息構(gòu)建相似度量，構(gòu)建低活user到高活user的匹配 ( Matching / Propensity Score / IPW，Causal Embedding )
• 去除低活、沉默用戶的leavecause，推薦高活鏡像人的stay causes

經(jīng)過(guò)實(shí)踐探索后發(fā)現(xiàn)，causal inference框架將成為用戶增長(zhǎng)方向的理論基石，對(duì)于消偏、效用衡量、歸因和生態(tài)公平性問(wèn)題都有解法；同時(shí)，causal inference也為經(jīng)典推薦算法難題提供解法，如selection-bias、低活用戶畫像和推薦可解釋性等問(wèn)題。

5. 面向增長(zhǎng)的用戶畫像

①?狀態(tài)里程碑表示法

經(jīng)典用戶畫像，主要要服務(wù)于運(yùn)營(yíng)的可解釋性、推薦或廣告系統(tǒng)的模型預(yù)估； 通常建模成向量： 高維離散、低維稠密以及多峰e(cuò)mbedding。 由于信息流產(chǎn)品具備連續(xù)型消費(fèi)的特點(diǎn) ( 同主題下的消費(fèi)，upgc關(guān)注、直播 )，用戶消費(fèi)行為可以 在 連續(xù)的時(shí)間上進(jìn)行切分，因此狀態(tài)表示法是對(duì)向量表示法的有力補(bǔ)充，狀態(tài)表示法主要包含活躍度、置信度，多峰興趣的置信度、活躍度； 這樣將難度較大的"促留存"問(wèn)題拆分為"目標(biāo)達(dá)成"問(wèn)題，通過(guò)策略不斷使得用戶完成高階里程碑，將"促留存"的抓手聚焦在用戶狀態(tài)躍遷速度的提升上。

② 全生命周期因果推斷

全生命周期的因果推斷：

在構(gòu)建面向增長(zhǎng)的用戶畫像時(shí)，需要采用全生命周期因果推斷：

• 狀態(tài)躍遷效用衡量

• 找到使用戶從低階到高階狀態(tài)轉(zhuǎn)化的干預(yù)因子：

  · 內(nèi)容變化：新內(nèi)容上下架、熱點(diǎn)事件的產(chǎn)生和消逝

  · 捕捉興趣的變化

  · 分發(fā)幸存者偏差問(wèn)題

根據(jù)causes的actions：

• 推斷后的數(shù)據(jù)統(tǒng)計(jì)到內(nèi)容采買和生產(chǎn)

• 干預(yù)場(chǎng)的設(shè)計(jì)和頁(yè)面組織

• 內(nèi)容供給指導(dǎo)?( 2b供應(yīng)鏈 )

• 構(gòu)建時(shí)間線上的的推薦系統(tǒng)來(lái)推斷個(gè)性化排序機(jī)制

6. 效用理論應(yīng)用

①?個(gè)性化排序機(jī)制

對(duì)于效用的普遍認(rèn)知是：

• 新用戶首次滿意消費(fèi)和活動(dòng) ( 內(nèi)容質(zhì)量控制 )
• 低活用戶瀏覽深度和ctr ( 內(nèi)容質(zhì)量控制 )
• 高活用戶要增加新穎性和多樣性

個(gè)性化排序機(jī)制通過(guò)multi-task learning、強(qiáng)化學(xué)習(xí)和causal effect的方式，來(lái)進(jìn)行分狀態(tài)差異化的對(duì)用戶進(jìn)行躍遷效用最大化地排序推薦，無(wú)論是新用戶、低活還是各個(gè)細(xì)分狀態(tài)的用戶，都會(huì)讓用戶在平臺(tái)中覺得不是興趣收窄的，承擔(dān)著各自的職責(zé)。 這些內(nèi)容在阿里都有落地并取得了很大的收益。

② 生態(tài)效用技術(shù)

效用理論應(yīng)用是一個(gè)比較開放的課題，對(duì)于電商、短內(nèi)容的生態(tài)是不一樣的。

供給歸因：

• 興趣覆蓋度、興趣點(diǎn)下的內(nèi)容質(zhì)量、時(shí)效性、競(jìng)爭(zhēng)激烈程度
• 內(nèi)容供給知道（2B供應(yīng)鏈->內(nèi)容采買/生產(chǎn)/激勵(lì)機(jī)制）

up主激勵(lì)機(jī)制：

• up主質(zhì)量體系：關(guān)注量曲線、生產(chǎn)效率、生產(chǎn)質(zhì)量，內(nèi)容正負(fù)反饋

• 輸入就是歷史分發(fā)數(shù)據(jù)（曝光量、點(diǎn)擊量、關(guān)注量、up主質(zhì)量體系）

• 計(jì)算：

  · 曝光量->爆款成功率

  · 最大化效用：激勵(lì)函數(shù)->內(nèi)容質(zhì)量和生產(chǎn)效率的擬合

• 輸出就是一定時(shí)間內(nèi)up主內(nèi)容的保量、限量range->在線排序的調(diào)控約束機(jī)制

未來(lái)方向：

• 流量貨幣化
• 更多經(jīng)濟(jì)學(xué)、機(jī)制設(shè)計(jì)理論的引入
  · 演化博弈論分析
  · 競(jìng)對(duì)分析

以上就是針對(duì)面向用戶增長(zhǎng)的信息流分發(fā)機(jī)制的分享，特別是短內(nèi)容領(lǐng)域利用推薦算法推動(dòng)用戶增長(zhǎng)的思考，分享比較偏技術(shù)，是在阿里多年積累所沉淀下來(lái)的東西，沒有太多強(qiáng)調(diào)推薦算法模型的部分，更多是以整體的算法架構(gòu)和算法機(jī)制設(shè)計(jì)角度考量生態(tài)和用戶增長(zhǎng)，里面很多問(wèn)題也是特別難、特別開放的，歡迎大家一起交流探討。

今天的分享就到這里，謝謝大家。

特別推薦一個(gè)分享架構(gòu)+算法的優(yōu)質(zhì)內(nèi)容，還沒關(guān)注的小伙伴，可以長(zhǎng)按關(guān)注一下：

長(zhǎng)按訂閱更多精彩▼
如有收獲，點(diǎn)個(gè)在看，誠(chéng)摯感謝