DOI：10.16667/j.issn.2095-1302.2019.12.020

引 言

本課題基于商業(yè) O2O 優(yōu)惠券發(fā)放問題與機器學習相結合，使用經過特征提取的往期數(shù)據(jù)訓練數(shù)學模型，通過訓練好的數(shù)學模型對優(yōu)惠券核銷二分類問題進行精準預測。隨機投放優(yōu)惠券這種行為方式不僅會對無需求的用戶造成無意義的干擾，還可能致使商家品牌聲譽降低、營銷成本增高。個性化投放是提高優(yōu)惠券核銷率的重要技術 [1]，利用該技術不僅可以讓具有一定偏好的消費者從中獲利，同時還可以使商家獲得更好的營銷效果。數(shù)據(jù)來源于天池大數(shù)據(jù)比賽《生活大實惠 ：O2O 優(yōu)惠券使用預測》，比賽提供 O2O 相關場景的豐富數(shù)據(jù)，通過分析建模，精準預測用戶是否會在規(guī)定時間內使用相應優(yōu)惠券。

1 研究背景及意義

O2O 是 Online To Offline（在線離線 / 線上線下）的簡稱，是將線下商業(yè)機會與線上平臺相結合的一種電商發(fā)展方式 [2]，將線上平臺作為線下消費的前站。為了吸引互聯(lián)網(wǎng)用戶在線上瀏覽商業(yè)信息，商家采取發(fā)送優(yōu)惠券（團購，如GroupOn）、提供優(yōu)惠信息、服務（預定，如 Opentable）等方式吸引顧客 [3]。線下商店推送的消息會被互聯(lián)網(wǎng)用戶收到，從而增大網(wǎng)民轉化為自家店鋪線下消費者的幾率。同時店鋪的線下服務可以用于線上攬客，消費者又可以從線上平臺篩選線下服務，并在線結算，店鋪能夠很快達到規(guī)模 [4]。該模式最重要的特點是推廣效果可觀，交易流水可跟蹤。O2O 作為下一代新興電子商務模式，其使命是把電子商務的效力引入目前消費中占比 90% 以上的本地消費中去 [5-6]。除此之外，線上與線下的對接將打破電商、店商擠兌份額的競爭格局，兩者將化敵為友，相互彌補、相互促進，并且使整體消費市場迎來一個全新發(fā)展的局面。

2 研究現(xiàn)狀

很多學者對消費預測問題進行了研究， 例如 Zhu Zhenfeng等（2018）基 于 傳 統(tǒng) GBDT（GradientBoosting DecisionTree）算法，提出了一種具有層次化集成的改進預測模型（HGBDT）。該模型通過分析往期商品數(shù)據(jù)來預測商品未來的銷售趨勢 [7]。Jain（2017）等通過使用 XGBoost（eXtremeGradientBoosting）模型來預測和估計歐洲主要藥店的零售額。與傳統(tǒng)的回歸算法相比，XGBoost模型算法性能優(yōu)于傳統(tǒng)的建模方法 [8]。國內學者郭倩（2018）對農村人均生活消費進行預測，運用 BP神經網(wǎng)絡對農村居民的人均消費支出進行分析，結合數(shù)據(jù)擬合和精度檢驗，對農村居民未來三年的生活消費支出進行預測 [9]。學者魏艷華（2015） 通過對甘肅省農村居民在 1978～2011年中支出與收入的數(shù)據(jù)進行分析，建立以 ARIMAX模型為基礎的消費支出預測模型，通過此模型對甘肅省農村居民未來一年的消費支出進行了預測研究 [10]。Qiumei Pu 使用 XGBoost 模型對陜西省氣象干旱情況進行預測，分別以人工神經網(wǎng)絡算法和 XGBoost算法構建數(shù)學模型，預測結果表明 XGBoost 模型比 DLNM和人工神經網(wǎng)絡能更精確地預測 SPEI[11]。Junqi Guo 等學者在研究青少年身體體質情況時，使用 XGBoost 算法對每個青年的身體健康水平進行分類，并通過貝葉斯優(yōu)化自適應調整參數(shù)。實驗結果表明，該模型不僅比現(xiàn)有參考模型具有更高的評估精度，相較于傳統(tǒng)的經驗模型，通過 XGBoost 模型可以更好地為未來青少年的體質評估提供有效的解決方案 [12]。

由上述論述可知，邏輯回歸、GBDT 及 XGBoost 模型早已被用于實際應用中，很多學者在各領域中的研究均使用了這幾種模型和兩兩融合后的模型，預測效果得到顯著提升。在商品預測領域，這些模型在顧客行為和數(shù)據(jù)挖掘競賽中得到了深度使用 [13]。將數(shù)學模型引入實際問題進行分析研究已成為預測產業(yè)發(fā)展走向的一種新的研究方式，并且在實際預測中得到了驗證[14]。

3 研究路線

本文利用天池大數(shù)據(jù)眾智平臺賽題《生活大實惠 ：O2O 優(yōu)惠券使用預測》中的真實消費者行為數(shù)據(jù)進行研究的步驟如下 ：

(1)對原始數(shù)據(jù)集中的字段進行解釋、數(shù)據(jù)探查、數(shù)據(jù)處理等操作。

(2)利用特征工程對線下消費和優(yōu)惠券領取行為數(shù)據(jù)集構造提取出用戶（User）、商家（Merchan）、優(yōu)惠券（Coupon）、用戶 - 商家（User-Merchan）、其他特征（Other）等五大特征群，共 96個特征值的線下特征集，再利用特征工程對用戶線上點擊 / 消費和優(yōu)惠券領取行為數(shù)據(jù)集構造提取出 13 個用戶（User）特征值的線上特征集。

(3)通過線下特征集共 96個特征值及線上和線下特征集共 109 個特征值，構建兩組不同的預測模型。

研究流程如圖 1 所示。

4 數(shù)據(jù)處理

4.1 數(shù)據(jù)介紹

根據(jù)天池大數(shù)據(jù)眾智平臺賽題《生活大實惠 ：O2O優(yōu)惠券使用預測》提供的相關真實消費數(shù)據(jù) ：2016年 1月 1日至 2016年 6月 30日，O2O場景相關的消費者線上和線下發(fā)生行為數(shù)據(jù)，通過訓練模型預測 2016 年 7 月 1 日至 2016 年7 月 31 日消費者領取優(yōu)惠券后 15 天內優(yōu)惠券的核銷情況。

模型預測結果的評判標準 ：使用數(shù)學模型對優(yōu)惠券預測的概率值取平均 AUC 值。

賽題共提供 4 個數(shù)據(jù)集，分別對 4 個數(shù)據(jù)集進行數(shù)據(jù)分析。

用戶線下消費和優(yōu)惠券領取行為數(shù)據(jù)集（后面稱為線下數(shù)據(jù)集）中共有 1 754 884 條消費者行為數(shù)據(jù)，其中1 053 282 條數(shù)據(jù)對優(yōu)惠券有操作行為，包含 539 438 個用戶，8 415 個商家，9 738 種優(yōu)惠券，消費者領取優(yōu)惠券的日期為2016 年 1 月 1 日至 2016 年 6 月 15 日，消費者的消費日期為2016 年 1 月 1 日至 2016 年 6 月 30 日。

用戶線上點擊 / 消費和優(yōu)惠券領取行為數(shù)據(jù)集（后面稱為線上數(shù)據(jù)集）中共有 11 429 826 條數(shù)據(jù)，其中 872 357 條數(shù)據(jù)有優(yōu)惠券 ID，表明消費者對優(yōu)惠券有操作行為，線上數(shù)據(jù)集中含 762 858 個用戶（其中 267 448 用戶在線下集）。

用戶 O2O 線下優(yōu)惠券使用預測集（后面稱為預測集）中包含 2 050 種優(yōu)惠券，領取日期為 2016 年 7 月 1 日至2016 年 7 月 31 日，有 76 309 個用戶（其中 76 307 個在線下數(shù)據(jù)集，35 965 個在線上數(shù)據(jù)集，線上與線下數(shù)據(jù)集中存在用戶交叉），1 559 家商鋪（其中 1 558 家在用戶線下數(shù)據(jù)集）。

預測集提交字段和字段說明，選手提交文件字段。其 中 use_id，coupon_id 與 date_received 均來自數(shù)據(jù)集，Probability 字段為通過機器學習建立數(shù)學模型預測得到的預測值。

4.2 特征工程

“數(shù)據(jù)決定了機器學習的上限，而算法只是盡可能逼近這個上限”[15]，這句話中數(shù)據(jù)的含義是對原始數(shù)據(jù)經特征工程轉換和處理等一系列操作而得到的數(shù)據(jù)。特征工程流程如圖 2 所示。

圖 3 所示為特征群分布情況。

5 算法介紹

本文所使用的算法為邏輯規(guī)模，GBDT，XGBoost。

5.1 邏輯回歸

Logistic回歸是一種廣義線性回歸（GeneralizedLinear Model），它是一個分類算法而不是回歸算法[16]。其核心思想是 ：線性回歸的輸出結果是一個連續(xù)且范圍無法確定的值，如果 出現(xiàn)需要利用結果值映射為判斷結果的情況，并且輸出結果 是一個概率值，則可通過 Sigmoid 函數(shù)確定，所以 Logistic 函數(shù)又稱 Sigmoid 函數(shù)。Sigmoid函數(shù)曲線如圖 4所示。

圖 4 Sigmoid 函數(shù)曲線

通常情況下，將一個已知的自變量預測成一個離散型因變量的值（如二進制值 0/1，對 / 錯，男 / 女）?？煽紤]利用邏輯函數(shù)（logit fuction）建立的數(shù)學模型對事件發(fā)生的概率進行計算，得到一個預估值。而該預估值一般為概率值，因此輸出結果值在 0 ～ 1 范圍內。

5.2 GBDT

GBDT（Gradient Boosting Decision Tree）是一種基于迭代構造的決策樹算法，該算法是將決策樹賦予集成算法思想得到的一種數(shù)學模型。回歸決策樹、Gradient Boosting 與縮減共同組成了 GBDT 模型 [1]。

5.2.1 回歸決策樹

GBDT 模型中的決策樹為回歸決策樹，而非分類決策樹?；貧w決策樹可預測數(shù)值，如員工薪金、大樹高度等，對回歸樹得到的數(shù)值進行加減計算是有意義的，例如 12 歲 +4 歲 -4 歲 =12 歲，而這也是回歸樹區(qū)別于分類樹的一個顯著特征。GBDT 正是利用回歸樹得到數(shù)值的性質，匯總所有樹的結果， 從而輸出最終結果。

5.2.2 梯度上升

“Boosting”意為迭代，迭代多棵樹對結果值進行共同決策 [17]。采用弱學習器的結論進行綜合評判，進而得到 GBDT模型。整個過程采用增量思想對每個弱學習器進行累加。

5.2.3 縮減

縮減（Shrinkage）的思想 ：逐漸逼近實際結果值，該操作方式比快速逼近結果值的方式更容易降低出現(xiàn)過擬合的概率。因為每一個殘差弱學習器只學到了真理的一小部分，并且都有可能出現(xiàn)過擬合現(xiàn)象，但在這個學習過程中增加弱學習器的數(shù)量，使用多個弱學習器進行學習可以彌補上述不足。

5.3 XGBoost

GBDT 算法的運行往往要生成一定數(shù)量的樹才能達到令人滿意的準確率。當面對的數(shù)據(jù)集結果較為龐大且復雜時， 可能需要進行上千次迭代運算，還會造成一定的計算瓶頸， 并增加計算空間的消耗。華盛頓大學的陳天奇博士研發(fā)出的XGBoost（eXtreme Gradient Boosting）解決了這一技術難點， 此算法基于Gradient Boosting Machine 框架，并使用c++ 實現(xiàn)， 從而極大地提升了模型訓練速度和預測精度 [18]。

XGBoost 是一個優(yōu)化的分布式梯度增強庫，作為 GBDT 模型的升級版，集高效性、靈活性和便攜性等特點于一身。利用 XGBoost 模型可以在較短周期內解決數(shù)據(jù)科學問題，得到較高精度的實驗結果。利用 XGBoost 算法構建的數(shù)學模型單臺機運行速度比當下使用的數(shù)學模型訓練速度快十倍以上，并且當分布式模式或內存設置需要限制時仍可獲得較為準確的實驗結果。

6 實驗結果6 實驗結果

6.1 評判標準

在一些二分類問題中給出預測結果的同時也會給出相應的預測概率，例如假定 0.6 為正確的判定閾值，那么若預測概率大于 0.7，則判定為正確值，否則為錯誤值 ；若閾值降低到 0.5，則可以判斷出更多的正確值。數(shù)據(jù)中正確數(shù)占比提高的同時，也導致實際為真實值但判定為錯誤值的數(shù)量的升高。為了直觀表示該變化，引入 ROC（Receiver Operating Characteristic Curve）。ROC 曲線的橫坐標為 FPR，縱坐標為 TPR，ROC 曲線下的面積即為 AUC[19]。

6.2 實驗結果分析

通過提取特征數(shù)量和不同模型兩個角度總結實驗。

6.2.1 從特征數(shù)量分析實驗結果

通過圖 5 可以看到，邏輯回歸、GBDT+ 邏輯回歸融合模型、XGBoost 單模型僅含受線下特征集訓練后的預測效果， 沒有經線下和線上特征訓練后模型的預測效果好。說明特征數(shù)量適量增加可以提升數(shù)學模型的預測能力和實驗效果。

6.2.2 從模型的角度分析實驗結果

經過線上和線下特征模型訓練，XGBoost 模型的預測效果最好，GBDT+ 邏輯回歸模型的效果次之，邏輯回歸模型的預測效果相對較差。在經線下模型的特征模型訓練后，GBDT+ 邏輯回歸模型的預測效果最好，XGBoost 模型的預測效果次之，邏輯回歸模型的預測效果相比較差。說明先利用訓練完成的 GBDT 模型輸出邏輯回歸模型訓練所需要的實驗結果和實驗結果值，再將這些實驗結果和實驗結果值作為訓練邏輯回歸模型的特征值輸入到邏輯回歸模型中進行學習后，預測效率得到明顯提高。但總體來說，GBDT+ 邏輯回歸，XGBoost 模型對此課題的預測有較好的準確性和穩(wěn)定性。并且使用 GBDT+ 邏輯回歸模型比傳統(tǒng)邏輯回歸模型有更好的預測效果、更高的預測精度。GBDT+ 邏輯回歸，XGBoost模型是比較理想的消費預測研究模型。圖 6 所示為不同模型對比預測集提交測試 AUC 值。

7 結 語

本論文研究基于簡單的集成模型，以 O2O 優(yōu)惠券為數(shù)據(jù)載體對消費者領取優(yōu)惠券（15 天內）后對優(yōu)惠券是否核銷進行了精確預測。采用簡單的集成學習模型預測用戶在領取優(yōu)惠券后 15 天內的使用情況。

除此之外，對于大量往期數(shù)據(jù)，實際數(shù)據(jù)中無實際特征可直接使用，但這些數(shù)據(jù)中含有大量可以提取的特征，所以如何科學合理地利用應用特征工程是一個重點問題。如果沒有合理的特征工程，將極大地限制數(shù)學模型預測精度的提高。

在科技越來越發(fā)達的今天，數(shù)學模型已被大量用于醫(yī)療、餐飲、工業(yè)等領域，比如在醫(yī)學中使用數(shù)學模型對人體檢測數(shù)據(jù)進行掃描，使用數(shù)學模型預測餐飲店中的消費人數(shù)等。通過這種方式，精確預測行業(yè)運營及行業(yè)日常的管理對于后期事物的良性發(fā)展具有重要意義。