給算法套上“緊箍咒”

　　點開購物軟件搜索某樣商品，相關(guān)產(chǎn)品就會在首頁推薦頻頻出現(xiàn)；刷一會兒短視頻，平臺便會接連推送同類視頻……在移動互聯(lián)網(wǎng)時代，算法讓人們獲取信息變得更容易，卻也引發(fā)了“信息繭房”等問題。

　　日前，國家網(wǎng)信辦公布互聯(lián)網(wǎng)信息服務算法備案信息，對微博、手機淘寶、微信等應用產(chǎn)品的共30種算法進行備案。專家認為，此舉旨在將算法機制公開透明化，讓其更好、更健康地服務于用戶。

　　警覺算法“鉗制”

　　95后趙陽是某短視頻平臺的資深用戶，常常通過觀看短視頻獲取信息、消遣娛樂，“算法能清楚‘記住’我的喜好。比如在短視頻平臺上搜索‘萌寵’，再打開軟件時首頁就會推薦很多萌寵類視頻，幫我省去了過濾信息的時間。”

　　伴隨大數(shù)據(jù)、人工智能等技術(shù)的廣泛應用，用戶的行為習慣也作為“數(shù)據(jù)”被記錄下來，借由個性化推薦算法，用戶偏好的資訊內(nèi)容、娛樂信息得以精準推送。然而，算法“過濾”在降低人們獲取信息成本的同時，也造成了“信息繭房”“大數(shù)據(jù)殺熟”等問題。

　　“總算關(guān)掉了！”北京市民李先生最近參照網(wǎng)絡上的相關(guān)攻略，關(guān)閉了手機里多款應用程序的“個性化推薦”服務選項，“我之前在一個社交軟件上評論過喜歡某款車型，緊接著就收到手機里各種平臺關(guān)于該車型的資訊、廣告，被算法‘算計’真不舒服。”

　　中國人民大學新聞學院教授彭蘭認為，算法可以看作用計算機程序?qū)崿F(xiàn)、基于數(shù)據(jù)分析、面向特定目標的一套指令或方案。與人們生活緊密相關(guān)的算法包括個性化推薦算法、決策算法，也有各種平臺的算法、各種管理目標下的治理算法等。但個體在享受算法帶來便利的同時是否會受到算法的“鉗制”，仍需思考和警覺。

　　加強規(guī)范是關(guān)鍵

　　為了抵御算法服務可能帶來的不利影響，相關(guān)法律法規(guī)紛紛“亮劍”，給算法念起“緊箍咒”。

　　去年12月，國家網(wǎng)信辦、工業(yè)和信息化部、公安部、國家市場監(jiān)管總局聯(lián)合公布《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》，對算法推薦服務提供者的信息服務規(guī)范、用戶權(quán)益保護等作了規(guī)定。

　　“算法應用日益普及深化，在給經(jīng)濟社會發(fā)展等方面注入新動能的同時，算法歧視、‘大數(shù)據(jù)殺熟’、誘導沉迷等算法不合理應用導致的問題也深刻影響著正常的傳播秩序、市場秩序和社會秩序，給維護意識形態(tài)安全、社會公平公正和網(wǎng)民合法權(quán)益帶來挑戰(zhàn)。”國家網(wǎng)信辦有關(guān)負責人說，迫切需要對算法推薦服務建章立制、加強規(guī)范，著力提升防范化解算法推薦安全風險的能力，促進算法相關(guān)行業(yè)健康有序發(fā)展。

　　值得注意的是，上述規(guī)定對“算法備案”提出了明確要求：具有輿論屬性或者社會動員能力的算法推薦服務提供者應當在提供服務之日起十個工作日內(nèi)通過互聯(lián)網(wǎng)信息服務算法備案系統(tǒng)填報服務提供者的名稱、應用領(lǐng)域、算法類型、算法自評估報告、擬公示內(nèi)容等信息，履行備案手續(xù)。這意味著算法運行機制將公開透明地向用戶呈現(xiàn)，幫助用戶更清楚地認知相關(guān)平臺算法服務應用情況，進而規(guī)避算法服務可能帶來的風險。

　　打開算法“黑箱”

　　今年3月，互聯(lián)網(wǎng)信息服務算法備案系統(tǒng)正式上線。通過該系統(tǒng)，用戶可以清楚查詢到各備案平臺的算法原理和運行機制、應用場景等信息。

　　算法備案到底“備”了哪些信息？根據(jù)國家網(wǎng)信辦8月12日公開發(fā)布的互聯(lián)網(wǎng)信息服務算法備案信息，騰訊、百度、抖音、淘寶、美團等各大互聯(lián)網(wǎng)平臺共公示了30條備案；算法類別包括個性化推送類、檢索過濾類、排序精選類、調(diào)度決策類、生成合成類。其中個性化推送類占比最多，共有18個備案。

　　以短視頻平臺抖音為例，記者查詢互聯(lián)網(wǎng)信息服務算法備案系統(tǒng)發(fā)現(xiàn)，抖音擬公示的算法機制機理內(nèi)容包括算法基本原理、運行機制、應用場景、目的意圖等。平臺主動申明自身為避免算法技術(shù)產(chǎn)生不利影響所做的嘗試。比如抖音的備案信息中提到，為了避免“信息繭房”，抖音個性化推薦算法專門設計了“興趣探索”機制。一方面每次推薦都會選擇用戶過去不常觀看的內(nèi)容類目進行一定比例的推薦；另一方面每次獲取推薦內(nèi)容的過程中會特別增加一條隨機內(nèi)容來保障用戶可見內(nèi)容的多樣性。

　　復旦大學新聞學院教授張志安認為，算法原理備案公開是壓實平臺責任、保障用戶權(quán)益的重要一步。不過，用戶對算法推薦可能帶來的負面影響雖心存擔憂，卻未必真的關(guān)注算法“暗箱”的技術(shù)原理。打開算法“黑箱”還需多方共同努力。

　　專家建議，未來仍需加強政府部門對算法治理的監(jiān)管作用，推動平臺積極落實算法治理責任。同時，引導更多人關(guān)注算法問題，讓算法服務真正實現(xiàn)趨利避害。