近日，國(guó)家互聯(lián)網(wǎng)信息辦公室就《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定(征求意見(jiàn)稿)》公開(kāi)征求意見(jiàn)。征求意見(jiàn)稿提出，算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶(hù)提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向用戶(hù)提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。用戶(hù)選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應(yīng)當(dāng)立即停止提供相關(guān)服務(wù)。

被算法蒙在鼓里，離真相的偏差越來(lái)越大

算法推薦如硬幣兩面，一面是方便公民于信息過(guò)載中找尋所需、所想的信息，一面是阻礙公民于海量信息中尋求新知、跳出包圍圈，一體兩面，相克相生。本以為歲月靜好，互不逾界，然而，隨著資本的幕后操縱和平臺(tái)的唯利是圖，算法推薦的“繭房病毒”逐漸蠶食其僅存的一絲利好?！澳愕氖謾C(jī)不再是你做主”“看似是你在上網(wǎng)，其實(shí)是算法幫你上網(wǎng)”，算法推薦強(qiáng)占了公民自主選擇權(quán)，看似自主可控的行為，其實(shí)是被算法蒙在鼓里，無(wú)處不在的“隱形之手”控制著我們前行。如果說(shuō)互聯(lián)網(wǎng)是一塊大蛋糕，那么算法推薦就好似一把刀，將其四分五裂，而參與其中的互聯(lián)網(wǎng)網(wǎng)民僅僅食得一小塊而已。

據(jù)不完全統(tǒng)計(jì),當(dāng)前基于算法的個(gè)性化內(nèi)容推送已超過(guò)整個(gè)互聯(lián)網(wǎng)信息內(nèi)容分發(fā)的70%。運(yùn)用算法技術(shù)確實(shí)提高了信息分發(fā)的效率，但弊端也顯而易見(jiàn)——不管是上述的哪種推薦機(jī)制，都很少考慮信息的基本價(jià)值理性。人在技術(shù)面前不斷被客體化，其背后是資本至上的“流量法則”，與之相伴而生的必然是一系列“算法焦慮”。

這種行為就是在充分利用人性的弱點(diǎn)，平臺(tái)或許借此獲取了流量，但也在無(wú)形中給受眾筑起“選擇性接觸”和“選擇性接受”的信息壁壘。置身其中，個(gè)體只能接觸跟自己意見(jiàn)一致的信息，越來(lái)越難接觸跟自己意見(jiàn)相左的信息。在這種日漸同化、窄化、極化的信息通道中，人們離真相的偏差越來(lái)越大，價(jià)值觀(guān)異化越來(lái)越快，達(dá)成社會(huì)共識(shí)也越來(lái)越難。

打破算法推薦“圍城”，確保用戶(hù)自由“沖浪”

從算法推薦的載體上來(lái)分析，算法推薦服務(wù)是基于大數(shù)據(jù)分析下進(jìn)行的推送服務(wù)，可見(jiàn)，算法推薦服務(wù)離不開(kāi)互聯(lián)網(wǎng)技術(shù)，亦離不開(kāi)平臺(tái)或者移動(dòng)終端對(duì)于用戶(hù)信息的采集、歸納和打包。算法推薦服務(wù)能夠“手張得如此大，伸得如此遠(yuǎn)”，歸根結(jié)底是用戶(hù)失去對(duì)平臺(tái)或者資本如何使用個(gè)人信息的知曉權(quán)以及否決權(quán)。平臺(tái)肆意收取用戶(hù)個(gè)人信息，才能知曉用戶(hù)個(gè)人特征，才能為用戶(hù)畫(huà)像，進(jìn)而實(shí)現(xiàn)算法推薦服務(wù)，這是資本或者平臺(tái)通過(guò)算法推薦服務(wù)控制用戶(hù)上網(wǎng)行為的完整閉環(huán)。因此，欲阻斷算法推薦服務(wù)，還需從平臺(tái)或者資本違法違規(guī)收集用戶(hù)個(gè)人信息入手，切斷算法推薦服務(wù)“源頭活水”，才能更好的維護(hù)用戶(hù)權(quán)利，確保用戶(hù)自由的“沖浪”。

當(dāng)然，作為算法治理的重要組成部分，同時(shí)也是一項(xiàng)新的制度，算法備案仍有待進(jìn)一步健全與完善，優(yōu)化細(xì)化相關(guān)內(nèi)容，以提高科學(xué)性、合理性及合法性。

日前，多家互聯(lián)網(wǎng)大廠(chǎng)的30條算法機(jī)制按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(以下簡(jiǎn)稱(chēng)《規(guī)定》)，在互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)(以下簡(jiǎn)稱(chēng)“系統(tǒng)”)完成備案。國(guó)家互聯(lián)網(wǎng)信息辦公室(以下簡(jiǎn)稱(chēng)“網(wǎng)信辦”)表示，新的備案信息還將持續(xù)更新。

這是《規(guī)定》自2022年3月1日正式實(shí)施以來(lái)，網(wǎng)信辦首次集中公布完成算法備案的互聯(lián)網(wǎng)企業(yè)產(chǎn)品信息?！兑?guī)定》第二十四條明確要求，具有輿論屬性或者社會(huì)動(dòng)員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個(gè)工作日內(nèi)通過(guò)互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報(bào)服務(wù)提供者的名稱(chēng)、服務(wù)形式、應(yīng)用領(lǐng)域、算法類(lèi)型、算法自評(píng)估報(bào)告、擬公示內(nèi)容等信息，履行備案手續(xù)。

本次公開(kāi)，把算法分為個(gè)性化推送類(lèi)、檢索過(guò)濾類(lèi)、排序精選類(lèi)、調(diào)度決策類(lèi)、生成合成類(lèi)五大類(lèi)。個(gè)性化推送類(lèi)是大頭，有18個(gè)備案。

在個(gè)性推薦類(lèi)算法方面，不少平臺(tái)會(huì)強(qiáng)調(diào)，采取措施避免同類(lèi)型內(nèi)容過(guò)度集中、造成信息繭房。比如，抖音算法備案顯示：一方面，每次推薦都會(huì)選擇用戶(hù)過(guò)去不常觀(guān)看的內(nèi)容類(lèi)目，進(jìn)行一定比例的推薦;另一方面，每次獲取推薦內(nèi)容的過(guò)程中，會(huì)特別增加一條隨機(jī)內(nèi)容，來(lái)保障用戶(hù)可見(jiàn)內(nèi)容的多樣性。

使用某個(gè)應(yīng)用程序后，它就能“猜”到你喜歡什么，并且精準(zhǔn)推送相關(guān)內(nèi)容，滋生“信息繭房”、大數(shù)據(jù)“殺熟”等問(wèn)題。這樣的情況最近終于開(kāi)始有了改變。隨著國(guó)家網(wǎng)信辦等4部門(mén)聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》近日正式施行，很多APP先后上線(xiàn)算法關(guān)閉鍵，允許用戶(hù)在后臺(tái)一鍵關(guān)閉“個(gè)性化推薦”。專(zhuān)家表示，要繼續(xù)壓實(shí)平臺(tái)責(zé)任，促進(jìn)算法應(yīng)用向上向善，讓算法更好地為用戶(hù)服務(wù)，推動(dòng)信息服務(wù)行業(yè)長(zhǎng)遠(yuǎn)、健康發(fā)展。可一鍵關(guān)閉“個(gè)性化推薦”通過(guò)參考互聯(lián)網(wǎng)上的“攻略”，北京的王女士最近終于將一款社交應(yīng)用中的“個(gè)性化推薦”服務(wù)選項(xiàng)關(guān)閉，“再打開(kāi)這個(gè)APP，感覺(jué)安心不少”。王女士之所以下決心關(guān)掉“個(gè)性化推薦”服務(wù)，源于此前遇到的一些糟心經(jīng)歷。她在這款應(yīng)用里曾發(fā)表過(guò)皮膚干燥的言論，此后便在各個(gè)平臺(tái)不斷收到面部“保鮮”秘笈的文章、美容產(chǎn)品的推銷(xiāo)廣告，讓王女士不堪其擾。在移動(dòng)互聯(lián)網(wǎng)時(shí)代，每一個(gè)人都在生產(chǎn)“數(shù)據(jù)”。

此前，這些“數(shù)據(jù)”被平臺(tái)以各種方式采集，然后通過(guò)算法分析出用戶(hù)行為、習(xí)慣和喜好，進(jìn)而精準(zhǔn)地提供信息、娛樂(lè)、消費(fèi)等各類(lèi)服務(wù)。這種基于算法的技術(shù)創(chuàng)新在為用戶(hù)提供精準(zhǔn)信息服務(wù)的同時(shí)，也滋生出不少問(wèn)題?！痘ヂ?lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》(以下簡(jiǎn)稱(chēng)《管理規(guī)定》)近日正式施行，將算法推薦服務(wù)全面納入監(jiān)管?！豆芾硪?guī)定》提出，算法推薦服務(wù)提供者應(yīng)當(dāng)向用戶(hù)提供不針對(duì)其個(gè)人特征的選項(xiàng)，或者向用戶(hù)提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)。《管理規(guī)定》出臺(tái)后，多家平臺(tái)先后上線(xiàn)算法關(guān)閉鍵，允許用戶(hù)在后臺(tái)一鍵關(guān)閉“個(gè)性化推薦”。

用戶(hù)關(guān)閉“個(gè)性化推薦”后，平臺(tái)會(huì)根據(jù)內(nèi)容的熱門(mén)程度進(jìn)行分發(fā)，推送內(nèi)容更加體現(xiàn)應(yīng)用特色。很多網(wǎng)友表示，以前總是被“安排”看一些內(nèi)容，關(guān)閉“個(gè)性化推薦”后，感覺(jué)看到了更廣闊的世界。記者在體驗(yàn)后發(fā)現(xiàn)，目前多數(shù)APP還是默認(rèn)打開(kāi)“個(gè)性化推薦”，要找到“個(gè)性化推薦”關(guān)閉鍵并不太容易。以一款電商應(yīng)用為例，需先后點(diǎn)擊進(jìn)入數(shù)個(gè)頁(yè)面，然后在呈現(xiàn)的10多個(gè)選項(xiàng)里找到“個(gè)性化推薦”的關(guān)閉按鈕。有用戶(hù)認(rèn)為，這樣的設(shè)置方式難言“便捷”，其目的是讓用戶(hù)“知難而退”。

關(guān)閉個(gè)性化推薦，是否意味著算法推薦技術(shù)走到盡頭?中國(guó)人民大學(xué)信息學(xué)院教授程絮森分析，隨著新規(guī)實(shí)施，如何使個(gè)性化推薦更加規(guī)范，是很大的挑戰(zhàn)，但也相應(yīng)促進(jìn)了各互聯(lián)網(wǎng)平臺(tái)的技術(shù)發(fā)展進(jìn)步，有利于加速推進(jìn)相關(guān)行業(yè)的數(shù)字化轉(zhuǎn)型與平臺(tái)經(jīng)濟(jì)的健康發(fā)展。

在以大數(shù)據(jù)為基礎(chǔ)、以算法模型創(chuàng)新為內(nèi)核、以計(jì)算能力為支撐的智能浪潮中，規(guī)范算法顯得尤為重要。如何防止算法淪為“算計(jì)”，成為近年來(lái)日益受到關(guān)注的話(huà)題。特別是，由于信息占有、技術(shù)應(yīng)用等差異，平臺(tái)相較消費(fèi)者往往處于強(qiáng)勢(shì)地位。因此，算法規(guī)制不能僅靠平臺(tái)自覺(jué)，需要建立從國(guó)家法律到行業(yè)規(guī)范再到社會(huì)參與的全方位監(jiān)督體系，讓算法應(yīng)用有章可循，讓消費(fèi)者權(quán)益保護(hù)有法可依。

目前，針對(duì)算法應(yīng)用這一全新的治理課題，我國(guó)先后出臺(tái)并完善了有關(guān)制度，加強(qiáng)相關(guān)領(lǐng)域的規(guī)范。比如，《數(shù)據(jù)安全管理辦法(征求意見(jiàn)稿)》規(guī)定“網(wǎng)絡(luò)運(yùn)營(yíng)者不得違反收集使用規(guī)則使用個(gè)人信息。因業(yè)務(wù)需要，確需擴(kuò)大個(gè)人信息使用范圍的，應(yīng)當(dāng)征得個(gè)人信息主體同意”。又如，《法治社會(huì)建設(shè)實(shí)施綱要(2020—2025年)》提出“制定完善對(duì)網(wǎng)絡(luò)直播、自媒體、知識(shí)社區(qū)問(wèn)答等新媒體業(yè)態(tài)和算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法”“加強(qiáng)對(duì)大數(shù)據(jù)、云計(jì)算和人工智能等新技術(shù)研發(fā)應(yīng)用的規(guī)范引導(dǎo)”。這些政策舉措，充分彰顯了我國(guó)加強(qiáng)算法規(guī)制、保障消費(fèi)者權(quán)益、促進(jìn)數(shù)字經(jīng)濟(jì)健康發(fā)展的決心。

規(guī)范算法應(yīng)用，行業(yè)組織、企業(yè)自身和消費(fèi)者也不能缺位。前不久，中國(guó)消費(fèi)者協(xié)會(huì)召開(kāi)“網(wǎng)絡(luò)消費(fèi)領(lǐng)域算法規(guī)制與消費(fèi)者保護(hù)座談會(huì)”，推動(dòng)形成加強(qiáng)算法應(yīng)用有效規(guī)制的共識(shí)。共識(shí)引導(dǎo)行動(dòng)，行動(dòng)夯實(shí)共識(shí)。為此，行業(yè)組織需要加強(qiáng)引領(lǐng)和督導(dǎo)，凈化行業(yè)風(fēng)氣，有效維護(hù)消費(fèi)者合法權(quán)益。消費(fèi)者也應(yīng)增強(qiáng)個(gè)人信息保護(hù)和依法維權(quán)意識(shí)，共同參與治理。作為掌握技術(shù)的企業(yè)，更應(yīng)加強(qiáng)自律，切實(shí)承擔(dān)應(yīng)盡義務(wù)和責(zé)任，堅(jiān)持正確導(dǎo)向，嚴(yán)格遵守法律規(guī)定，誠(chéng)信應(yīng)用算法。相關(guān)各方各司其職、各盡其責(zé)，才能共同推動(dòng)算法應(yīng)用規(guī)范有序發(fā)展。

可以預(yù)見(jiàn)，隨著監(jiān)管體系的建立和算法規(guī)制的完善，算法應(yīng)用及相關(guān)行業(yè)將會(huì)迎來(lái)更加光明的發(fā)展前景。讓算法應(yīng)用規(guī)范起來(lái)，實(shí)現(xiàn)技術(shù)運(yùn)用與商業(yè)倫理、社會(huì)價(jià)值的良性互動(dòng)，才能提升用戶(hù)消費(fèi)體驗(yàn)，為推動(dòng)我國(guó)經(jīng)濟(jì)社會(huì)高質(zhì)量發(fā)展提供新助力。