1. 算法的發(fā)展階段
個(gè)性化推薦不是產(chǎn)品首次發(fā)布時(shí)就能帶的,無(wú)論是基于用戶行為的個(gè)性化,還是基于內(nèi)容相似度的個(gè)性化,都建立在大量的用戶數(shù)和內(nèi)容的基礎(chǔ)上。產(chǎn)品發(fā)布之初,一般兩邊的數(shù)據(jù)都有殘缺,因此個(gè)性化推薦也無(wú)法開(kāi)展。 所以在產(chǎn)品發(fā)展的初期,推薦內(nèi)容一般采用更加聚合的“熱度算法”,顧名思義就是把熱點(diǎn)的內(nèi)容優(yōu)先推薦給用戶。雖然無(wú)法做到基于興趣和習(xí)慣為每一個(gè)用戶做到精準(zhǔn)化的推薦,但能覆蓋到大部分的內(nèi)容需求,而且啟動(dòng)成本比個(gè)性化推薦算法低太多。 因此內(nèi)容型產(chǎn)品,推薦在發(fā)布初期用熱度算法實(shí)現(xiàn)冷啟動(dòng),積累了一定量級(jí)以后,才能逐漸開(kāi)展個(gè)性化推薦算法。2. 熱度算法
2.1 熱度算法基本原理
需要了解的是,熱度算法也是需要不斷優(yōu)化去完善的,基本原理:新聞熱度分 = 初始熱度分 + 用戶交互產(chǎn)生的熱度分 – 隨時(shí)間衰減的熱度分 Score = S0 + S(Users) – S(Time)新聞入庫(kù)后,系統(tǒng)為之賦予一個(gè)初始熱度值,該新聞就進(jìn)入了推薦列表進(jìn)行排序;隨著新聞不斷被用戶點(diǎn)擊閱讀,收藏,分享等,這些用戶行為被視作幫助新聞提升熱度,系統(tǒng)需要為每一種新聞賦予熱度值;同時(shí),新聞是有較強(qiáng)時(shí)效性的內(nèi)容,因此新聞發(fā)布之后,熱度必須隨著新聞變得陳舊而衰減。 新聞的熱度就在這些算法的綜合作用下不斷變化,推薦列表的排序也就不斷變化。
2.2 初始熱度不應(yīng)該一致
上面的算法為每一條入庫(kù)的新聞賦予了同樣的熱度值,但在現(xiàn)實(shí)使用后發(fā)現(xiàn)行不通,例如娛樂(lè)類別比文化類別受歡迎程度本身就高很多;或者突發(fā)了嚴(yán)重的災(zāi)害或事故;或是奧運(yùn)會(huì)期間,體育類別的關(guān)注度突然高了起來(lái);而此時(shí)如果還是每條新聞給同樣的熱度就不能貼合實(shí)際了。 解決辦法就是把初始熱度設(shè)置為變量: (1)按照新聞?lì)悇e給予新聞不同的初始熱度,讓用戶關(guān)注度高的類別獲得更高的初始熱度分,從而獲得更多的曝光,例如:
2.3 用戶行為分規(guī)則不是固定不變的
解決了新聞入庫(kù)的初始分之后,接下來(lái)是新聞熱度分的變化。先要明確用戶的的哪些行為會(huì)提高新聞的熱度值,然后對(duì)這些行為賦予一定的得分規(guī)則。例如對(duì)于單條新聞,用戶可以點(diǎn)擊閱讀(click),收藏(favor),分享(share),評(píng)論(comment)這四種行為,我們?yōu)椴煌男袨橘x予分?jǐn)?shù),就能得到新聞的實(shí)時(shí)用戶行為分為:S(Users) = 1*click + 5*favor + 10*comment + 20*share
這里對(duì)不同行為賦予的分?jǐn)?shù)為1,5,10,20,但這個(gè)值不能是一成不變的;當(dāng)用戶規(guī)模小的時(shí)候,各項(xiàng)事件都小,此時(shí)需要提高每個(gè)事件的行為分來(lái)提升用戶行為的影響力;當(dāng)用戶規(guī)模變大時(shí),行為分也應(yīng)該慢慢降低,因此做內(nèi)容運(yùn)營(yíng)時(shí),應(yīng)該對(duì)行為分不斷調(diào)整。 當(dāng)然也有偷懶的辦法,那就是把用戶規(guī)模考慮進(jìn)去,算固定用戶數(shù)的行為分,即:S(Users) = (1*click + 5*favor + 10*comment + 20*share)/DAU * N(固定數(shù))
這樣就保證了在不同用戶規(guī)模下,用戶行為產(chǎn)生的行為分基本穩(wěn)定。2.4 熱度隨時(shí)間的衰減不是線性的
由于新聞的強(qiáng)時(shí)效性,已經(jīng)發(fā)布的新聞的熱度值必須隨著時(shí)間流逝而衰減,并且趨勢(shì)應(yīng)該是衰減越來(lái)越快,直至趨近于零熱度。換句話說(shuō),如果一條新聞要一直處于很靠前的位置,隨著時(shí)間的推移它必須要有越來(lái)越多的用戶來(lái)維持。
T(Time) = e ^ (k*(T1 – T0))?
其中T0是新聞發(fā)布時(shí)間,T1是當(dāng)前時(shí)間。 而由于熱度的發(fā)展最終是一個(gè)無(wú)限趨近于零熱度的結(jié)果,最終的新聞的熱度算法也調(diào)整為:Score = ( S0(Type) + S(Users) ) / T(Time)
2.5 其他影響因素
很多新聞產(chǎn)品會(huì)給用戶“贊”,“踩”或“不在推薦此類”的選項(xiàng),這些功能不僅適用于個(gè)性化推薦,對(duì)熱度算法也有一定的作用。 新聞的推送會(huì)造成大量的打開(kāi),在計(jì)算熱度的時(shí)候需要排除掉相關(guān)的影響。類似于這樣的因素,都會(huì)對(duì)熱度算法產(chǎn)生影響,因此熱度算法上線后,依然需要不斷地“調(diào)教”。建議把所有的調(diào)整指標(biāo)做成可配項(xiàng),例如初始熱度分,行為事件分,衰減因子等,從而讓產(chǎn)品和運(yùn)營(yíng)能實(shí)時(shí)調(diào)整和驗(yàn)證效果,達(dá)到最佳狀態(tài)。3. 基于內(nèi)容的推薦算法
現(xiàn)在,你的內(nèi)容產(chǎn)品順利度過(guò)了早期階段,擁有了幾萬(wàn)甚至十幾萬(wàn)級(jí)別的日活。這時(shí)候,你發(fā)現(xiàn)熱度算法導(dǎo)致用戶的閱讀內(nèi)容過(guò)于集中,而個(gè)性化和長(zhǎng)尾化的內(nèi)容卻鮮有人看,看來(lái)是時(shí)候開(kāi)展個(gè)性化推薦,讓用戶不僅能讀到大家都喜歡的內(nèi)容,也能讀到只有自己感興趣的內(nèi)容。 個(gè)性化推薦一般有兩種通用的解決方案,一是基于內(nèi)容的相關(guān)推薦,二是基于用戶的協(xié)同過(guò)濾。由于基于用戶的協(xié)同過(guò)濾對(duì)用戶規(guī)模有較高要求,因此更多使用基于內(nèi)容的相關(guān)推薦來(lái)切入。 這里引入一個(gè)概念叫“新聞特征向量”來(lái)標(biāo)識(shí)新聞的屬性,以及用來(lái)對(duì)比新聞之間的相似度。我們把新聞看作是所有關(guān)鍵詞(標(biāo)簽)的合集,理論上,如果兩個(gè)新聞的關(guān)鍵詞越類似,那兩個(gè)新聞是相關(guān)內(nèi)容的可能性更高。 新聞特征向量是由新聞包含的所有關(guān)鍵詞決定的。得到新聞特征向量的第一步,是要對(duì)新聞內(nèi)容進(jìn)行到關(guān)鍵詞級(jí)別的拆分。3.1 分詞
分詞需要有兩個(gè)庫(kù),即正常的詞庫(kù)和停用詞庫(kù)。正常詞庫(kù)類似于一本詞典,是把內(nèi)容拆解為詞語(yǔ)的標(biāo)準(zhǔn);停用詞庫(kù)則是在分詞過(guò)程中需要首先棄掉的內(nèi)容。 停用詞主要是沒(méi)有實(shí)際含義的,例如“The”,“That”,“are”之類的助詞;表達(dá)兩個(gè)詞直接關(guān)系的,例如“behind”,“under”之類的介詞,以及很多常用的高頻但沒(méi)有偏向性的動(dòng)詞,例如“think”“give”之類。顯而易見(jiàn),這些詞語(yǔ)對(duì)于分詞沒(méi)有任何作用,因此在分詞前,先把這些內(nèi)容剔除。 剩下對(duì)的內(nèi)容則使用標(biāo)準(zhǔn)詞庫(kù)進(jìn)行拆詞,拆詞方法包含正向匹配拆分,逆向匹配拆分,最少切分等常用算法,這里不做展開(kāi)。 因?yàn)榫W(wǎng)絡(luò)世界熱詞頻出, 標(biāo)準(zhǔn)詞庫(kù)和停用詞庫(kù)也需要不斷更新和維護(hù),例如“藍(lán)瘦香菇”,“套路滿滿”之類的詞語(yǔ),可能對(duì)最終的效果會(huì)產(chǎn)生影響,如果不及時(shí)更新到詞庫(kù)里,算法就會(huì)“一臉懵逼”了。 因此,推薦在網(wǎng)上查找或購(gòu)買(mǎi)那些能隨時(shí)更新的詞庫(kù),各種語(yǔ)種都有。3.2 關(guān)鍵詞指標(biāo)
前面已經(jīng)說(shuō)過(guò),新聞特征向量是該新聞的關(guān)鍵詞合集,那關(guān)鍵詞的重合度就是非常重要的衡量指標(biāo)了。 那么問(wèn)題來(lái)了,如果兩條新聞的關(guān)鍵詞重合度達(dá)到80%,是否說(shuō)明兩條新聞?dòng)?0%的相關(guān)性呢? 其實(shí)不是,舉個(gè)例子:(1)一條“廣州摩拜單車(chē)投放量激增”的新聞,主要講摩拜單車(chē)的投放情況,這篇新聞里“摩拜單車(chē)”是一個(gè)非常高頻的詞匯,新聞在結(jié)尾有一句“最近廣州天氣不錯(cuò),大家可以騎單車(chē)出去散心”。因此“廣州天氣”這個(gè)關(guān)鍵詞也被收錄進(jìn)了特征向量。 (2)另外一條新聞“廣州回南天即將結(jié)束,天氣持續(xù)好轉(zhuǎn)”,這篇新聞結(jié)尾有一句“天氣好轉(zhuǎn),大家可以騎個(gè)摩拜單車(chē)出門(mén)溜溜啦”,新聞里面“廣州天氣”是非常高頻的詞匯,“摩拜單車(chē)”盡管被收錄,但只出現(xiàn)了一次。這兩個(gè)新聞的關(guān)鍵詞雖然類似,講的卻是完全不同的內(nèi)容,相關(guān)性很弱。如果只是看關(guān)鍵詞重合度,出現(xiàn)錯(cuò)誤判斷的可能性就很高;所以特征向量還需要有第二個(gè)關(guān)鍵詞的指標(biāo),叫新聞內(nèi)頻率,稱之為T(mén)F(Term Frequency),衡量每個(gè)關(guān)鍵詞在新聞里面是否高頻。 那么問(wèn)題來(lái)了,如果兩條新聞的關(guān)鍵詞重合度高,新聞中關(guān)鍵詞的頻率也相差無(wú)幾,是否說(shuō)明相關(guān)性很強(qiáng)呢? 理論上是的,但又存在另外一種情況:如果我們新聞庫(kù)里所有的新聞都是講廣州的,廣州天氣,廣州交通,廣州經(jīng)濟(jì),廣州體育等,他們都是講廣州相關(guān)的情況,關(guān)鍵詞都包含廣州,天河,越秀,海珠(廣州各區(qū))等,并且有著類似的頻率,因此算法很容易將它們判斷為強(qiáng)相關(guān)新聞;從地域角度講,這種相關(guān)性確實(shí)很強(qiáng),但從內(nèi)容類別層面,其實(shí)沒(méi)有太多相關(guān)性,如果我是一個(gè)體育迷,你給我推薦天氣,交通之類的內(nèi)容,就沒(méi)多大意義了。 因此引入第三個(gè)關(guān)鍵詞的指標(biāo),即關(guān)鍵詞在在所有文檔中出現(xiàn)的頻率的相反值,稱之為IDF(Inverse Document Frequency)。為什么會(huì)是相反值?因?yàn)橐粋€(gè)關(guān)鍵詞在某條新聞出現(xiàn)的頻率最大,在所有文檔中出現(xiàn)的頻率越小,該關(guān)鍵詞對(duì)這條新聞的特征標(biāo)識(shí)作用越大。 這樣每個(gè)關(guān)鍵詞對(duì)新聞的作用就能被衡量出來(lái)即TFIDF=TF * IDF,這也就是著名的TF-IDF模型。
3.3 相關(guān)性算法
做完分詞和關(guān)鍵詞指標(biāo)后,每一篇新聞的特征就能用關(guān)鍵詞的集合來(lái)標(biāo)識(shí)了:


3.4 用戶特征
得到新聞特征以后,還需要得到用戶特征才能對(duì)兩者進(jìn)行匹配和推薦,那怎么獲得用戶特征呢? 需要通過(guò)用戶的行為來(lái)獲得,用戶通過(guò)閱讀,點(diǎn)贊,評(píng)論,分享來(lái)表達(dá)自己對(duì)新聞內(nèi)容的喜愛(ài);跟熱度排名類似,我們對(duì)用戶的各種行為賦予一定的“喜愛(ài)分”,例如閱讀1分,點(diǎn)贊2分,評(píng)論5分等,這樣新聞特征跟用戶行為結(jié)合后,就能得到用戶的特征分。
3.5?其他運(yùn)用
除了個(gè)性化推薦,基于內(nèi)容的相關(guān)性算法能精準(zhǔn)地給出一篇新聞的相關(guān)推薦列表,對(duì)相關(guān)閱讀的實(shí)現(xiàn)非常有意義。此外,標(biāo)簽系統(tǒng)對(duì)新聞分類的實(shí)現(xiàn)和提升準(zhǔn)確性,也有重要的意義。3.6?優(yōu)缺點(diǎn)
基于內(nèi)容的推薦算法有幾個(gè)明顯優(yōu)點(diǎn):- 對(duì)用戶數(shù)量沒(méi)有要求,無(wú)論日活幾千或是幾百萬(wàn),均可以采用;因此個(gè)性化推薦早期一般采用這種方式;
- 每個(gè)用戶的特征都是由自己的行為來(lái)決定的,是獨(dú)立存在的,不會(huì)有互相干擾,因此惡意刷閱讀等新聞不會(huì)影響到推薦算法。
4.?基于用戶的協(xié)同推薦
終于,經(jīng)過(guò)團(tuán)隊(duì)的努力,你的產(chǎn)品已經(jīng)有了大量活躍用戶了,這時(shí)候你開(kāi)始不滿足于現(xiàn)有的算法。雖然基于內(nèi)容的推薦已經(jīng)很精準(zhǔn)了,但總是少了那么一點(diǎn)性感。因?yàn)槟闼薪o用戶的內(nèi)容都是基于他們的閱讀習(xí)慣推薦的,沒(méi)能給用戶“不期而遇”的感覺(jué)。 于是,你就開(kāi)始做基于用戶的協(xié)同過(guò)濾了。 基于用戶的協(xié)同過(guò)濾推薦算法,簡(jiǎn)單來(lái)講就是依據(jù)用戶A的閱讀喜好,為A找到與他興趣最接近的群體,所謂“人以群分”,然后把這個(gè)群體里其他人喜歡的,但是A沒(méi)有閱讀過(guò)的內(nèi)容推薦給A;舉例我是一個(gè)足球迷,系統(tǒng)找到與我類似的用戶都是足球的重度閱讀者,但與此同時(shí),這些“足球群體”中有一部分人有看NBA新聞的習(xí)慣,系統(tǒng)就可能會(huì)給我推薦NBA內(nèi)容,很可能我也對(duì)NBA也感興趣,這樣我在后臺(tái)的興趣圖譜就更完善了。4.1 用戶群體劃分
做基于用戶的協(xié)同過(guò)濾,首先就要做用戶的劃分,可以從三方面著手: (1)外部數(shù)據(jù)的借用 這里使用社交平臺(tái)數(shù)據(jù)的居多,現(xiàn)在產(chǎn)品的登錄體系一般都借用第三方社媒的登錄體系,如國(guó)外的Facebook、Twitter,國(guó)內(nèi)的微信、微博,借用第三方賬戶的好處多多,例如降低門(mén)檻,方便傳播等,還能對(duì)個(gè)性化推薦起到重要作用。因?yàn)榈谌劫~戶都是授權(quán)獲取部分用戶信息的,往往包括性別,年齡,工作甚至社交關(guān)系等,這些信息對(duì)用戶群劃分很有意義。 此外還有其他的一些數(shù)據(jù)也能借用,例如IP地址,手機(jī)語(yǔ)種等。 使用這些數(shù)據(jù),你很容易就能得到一個(gè)用戶是北京的還是上海的,是大學(xué)生還是創(chuàng)業(yè)者,并依據(jù)這些屬性做準(zhǔn)確的大類劃分。比如一篇行業(yè)投資分析出來(lái)后,“上海創(chuàng)業(yè)圈”這個(gè)群體80%的用戶都看過(guò),那就可以推薦給剩下的20%。 (2)產(chǎn)品內(nèi)主動(dòng)詢問(wèn) 常見(jiàn)在產(chǎn)品首次啟動(dòng)的時(shí)候,彈框詢問(wèn)用戶是男是女,職業(yè)等,這樣能對(duì)內(nèi)容推薦的冷啟動(dòng)提供一些幫助。但總體來(lái)說(shuō),性價(jià)比偏低,只能詢問(wèn)兩三個(gè)問(wèn)題并對(duì)用戶的推薦內(nèi)容做非常粗略的劃分,同時(shí)要避免打擾到用戶;這種做法算是基于用戶個(gè)性化的雛形。 (3)對(duì)比用戶特征 前文已經(jīng)提到過(guò),新聞的特征加用戶的閱讀數(shù)據(jù)能得到用戶的特征,那就可以通過(guò)用戶特征的相似性來(lái)劃分群體。4.2 內(nèi)容推薦實(shí)施
我們結(jié)合一個(gè)很小的實(shí)例來(lái)了解用戶協(xié)同過(guò)濾的原理,包括如何計(jì)算用戶之間的相似性和如何做出推薦。假設(shè)有A、B、C、D和E共5個(gè)用戶,他們各自閱讀了幾篇新聞并做出了閱讀,贊,收藏,評(píng)論,分享操作,我們對(duì)這幾種行為賦予的分?jǐn)?shù)分別為1分、2分、3分、4分和5分,這樣用戶對(duì)每條新聞都有自己的得分,其中“-”表示未閱讀,得分如下:


- distance(E,A)=4.123 (用戶A沒(méi)有閱讀news2,因此news2的數(shù)據(jù)不能用來(lái)計(jì)算與用戶E的相似度,這里取1,3)
- distance(E,B)=3.162
- distance(E,C)=3.742
- distance(E,D)=1.414
4.3 內(nèi)容選取
我們通過(guò)閱讀特征向量把用戶做群體劃分后,接下來(lái)就是如何獲取新聞推薦的優(yōu)先級(jí)。上面的例子里面只需要選出一個(gè)相似用戶,并且用戶A,B,C,D都只閱讀news4,5,6中的一條,所以比較簡(jiǎn)單,但現(xiàn)實(shí)情況中,同一個(gè)用戶群體閱讀的新聞多且隨機(jī),用戶交互更是錯(cuò)綜復(fù)雜,如何得出推薦新聞的優(yōu)先級(jí)呢? 假設(shè)用戶X在系統(tǒng)歸屬于群體A,這個(gè)群體有n個(gè)用戶,分別為A0,A1,A2……An,這些用戶的集合用S(X,n)表示。- 首先,我們需要把集合中所有用戶交互過(guò)(閱讀,評(píng)論等)的新聞提取出來(lái);
- 需要剔除掉用戶X已經(jīng)看過(guò)的新聞,這些就不用再推薦了,剩下的新聞集合有m條,用N(X,m)來(lái)表示;
- 對(duì)余下的新聞進(jìn)行評(píng)分和相似度加權(quán)的計(jì)算,計(jì)算包括兩部分,一是用戶X與S(X,n) 每一個(gè)用戶的相似性,二是每個(gè)用戶對(duì)新聞集N(X,m)中每條新聞的喜好,這樣就能得到每條新聞相對(duì)于用戶X的最終得分;
- 將N(X,m)中的新聞列表按照得分高低的順序推薦給用戶。
4.4 優(yōu)缺點(diǎn)
相比于基于內(nèi)容的推薦算法,基于用戶的協(xié)同過(guò)濾同樣優(yōu)缺點(diǎn)明顯。 優(yōu)點(diǎn)主要在于對(duì)分詞等算法的精確度無(wú)太大要求,推薦都是基于用戶的行為數(shù)據(jù)去不斷學(xué)習(xí)和完善;同時(shí)能發(fā)現(xiàn)用戶的潛在閱讀興趣,能“制造驚喜”。 而缺點(diǎn)則是啟動(dòng)的門(mén)檻高,用戶量不夠時(shí)幾乎無(wú)法開(kāi)展;并且學(xué)習(xí)量不夠時(shí)推薦結(jié)果較差。5. 總結(jié)
關(guān)于個(gè)性化推薦的算法,在網(wǎng)上有很多資料,也有很多其他的實(shí)現(xiàn)方法,因?yàn)楣P者了解也有限,所以也不敢描述。如有興趣可以自行搜索。熱度和個(gè)性化推薦算法,作為大部分內(nèi)容型產(chǎn)品的核心賣(mài)點(diǎn)之一,依然在不斷地進(jìn)化和完善中。沒(méi)有哪種算法是完美的,甚至沒(méi)有哪種算法是一定優(yōu)于其他的,在實(shí)際使用中,很多產(chǎn)品都是多算法結(jié)合去做好內(nèi)容推薦。 而產(chǎn)品經(jīng)理在算法的實(shí)施中,絕對(duì)不是一句“我們要做個(gè)性化推薦”就完事的,必須深入算法內(nèi)部,對(duì)算法的原理做深入了解,然后結(jié)合自己的產(chǎn)品特征來(lái)部署和優(yōu)化。 因此我站在產(chǎn)品經(jīng)理的角度,整理了這一篇初步的算法相關(guān)的介紹,如有對(duì)文中內(nèi)容感興趣的,歡迎探討!如有描述不當(dāng)之初,敬請(qǐng)指正,感激不盡! 最后,需要對(duì)我的團(tuán)隊(duì)表示感謝,飛哥在算法的研究中打了頭陣并給出了細(xì)致的分享,宗榮對(duì)算法進(jìn)行了無(wú)數(shù)輪的調(diào)整和優(yōu)化,凱華在關(guān)鍵詞的部署和效果驗(yàn)證中付出了很多心血……喜歡那些日子里大家一起從零開(kāi)始學(xué)習(xí)和實(shí)現(xiàn)算法,讓推薦效果越來(lái)越好。 本文由 @盧爭(zhēng)超?原創(chuàng)。【轉(zhuǎn)載說(shuō)明】  若上述素材出現(xiàn)侵權(quán),請(qǐng)及時(shí)聯(lián)系我們刪除及進(jìn)行處理:[email protected]