新華社北京1月6日電 題：聚焦《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》五大看點(diǎn)

 

 

    新華社“新華視點(diǎn)”記者

 

 

    通過(guò)大數(shù)據(jù)“殺熟”實(shí)施不合理差別待遇，利用算法誘導(dǎo)用戶(hù)沉迷網(wǎng)絡(luò)、過(guò)度消費(fèi)……當(dāng)前，算法技術(shù)廣泛滲入互聯(lián)網(wǎng)應(yīng)用，在給用戶(hù)帶來(lái)一定程度便利的同時(shí)，由算法引發(fā)的侵害用戶(hù)權(quán)益問(wèn)題也屢屢出現(xiàn)。

 

 

    算法推薦是指利用生成合成類(lèi)、個(gè)性化推送類(lèi)、排序精選類(lèi)、檢索過(guò)濾類(lèi)、調(diào)度決策類(lèi)等技術(shù)向用戶(hù)提供信息。

 

 

    近日，國(guó)家網(wǎng)信辦等四部門(mén)出臺(tái)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，針對(duì)被詬病已久的問(wèn)題提出明確要求。

 

 

    大數(shù)據(jù)“殺熟”如何解？不得實(shí)施差別待遇

 

 

    同樣的送餐時(shí)間、地點(diǎn)、訂單、外賣(mài)平臺(tái)，會(huì)員卻比非會(huì)員多付錢(qián)；同時(shí)同地打同類(lèi)型車(chē)到同一目的地，某打車(chē)平臺(tái)曾被用戶(hù)發(fā)現(xiàn)熟客反而收費(fèi)更高。

 

 

    當(dāng)前，越來(lái)越多的企業(yè)利用大數(shù)據(jù)分析評(píng)估消費(fèi)者的個(gè)人特征用于商業(yè)營(yíng)銷(xiāo)。但也有一些企業(yè)利用個(gè)人信息搞大數(shù)據(jù)“殺熟”,對(duì)不同群體進(jìn)行差別定價(jià)，實(shí)行“價(jià)格歧視”.

 

 

    規(guī)定提出，算法推薦服務(wù)提供者向消費(fèi)者銷(xiāo)售商品或者提供服務(wù)的，應(yīng)當(dāng)保護(hù)消費(fèi)者公平交易的權(quán)利，不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征，利用算法在交易價(jià)格等交易條件上實(shí)施不合理的差別待遇等違法行為。

 

 

    去年10月，騰訊、華為等20余家App運(yùn)營(yíng)企業(yè)承諾將嚴(yán)守用戶(hù)個(gè)人隱私邊界，保護(hù)用戶(hù)公平交易權(quán)，不利用大數(shù)據(jù)“殺熟”.

 

 

    中國(guó)信息安全研究院副院長(zhǎng)左曉棟認(rèn)為，大數(shù)據(jù)“殺熟”等頑疾歸根結(jié)底是濫用用戶(hù)個(gè)人信息導(dǎo)致的。解決這類(lèi)問(wèn)題，首先要在治理違法違規(guī)收集用戶(hù)個(gè)人信息上下功夫，其次要保障用戶(hù)的選擇權(quán)、刪除權(quán)等權(quán)益。例如，要向用戶(hù)提供不針對(duì)其個(gè)人特征的選項(xiàng)，或向用戶(hù)提供便捷的關(guān)閉算法推薦服務(wù)的選項(xiàng)，并提供選擇或刪除針對(duì)其個(gè)人特征的用戶(hù)標(biāo)簽的功能。

 

 

    誘導(dǎo)用戶(hù)沉迷、過(guò)度消費(fèi)？促進(jìn)算法應(yīng)用向上向善

 

 

    設(shè)置誘導(dǎo)用戶(hù)沉迷、過(guò)度消費(fèi)的算法模型，已成為備受詬病的網(wǎng)絡(luò)消費(fèi)和娛樂(lè)現(xiàn)象。

 

 

    “有的游戲你玩不過(guò)去它就給你放點(diǎn)水，導(dǎo)致你像中毒一樣停不下來(lái)；或者看你反復(fù)瀏覽某件商品，它就顯示兩件八折、三件七五折這樣的優(yōu)惠，讓你盡可能多買(mǎi)。”中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院網(wǎng)安中心測(cè)評(píng)實(shí)驗(yàn)室副主任何延哲說(shuō)。

 

 

    規(guī)定提出，算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評(píng)估、驗(yàn)證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等，不得設(shè)置誘導(dǎo)用戶(hù)沉迷、過(guò)度消費(fèi)等違反法律法規(guī)或者違背倫理道德的算法模型。

 

 

    中國(guó)政法大學(xué)數(shù)據(jù)法治研究院教授王立梅認(rèn)為，算法推薦服務(wù)提供者應(yīng)當(dāng)堅(jiān)持主流價(jià)值導(dǎo)向、促進(jìn)算法應(yīng)用向上向善的基本要求。規(guī)定提出不得設(shè)置誘導(dǎo)用戶(hù)沉迷、過(guò)度消費(fèi)等算法模型，正是將科技向善理念落實(shí)為具體業(yè)務(wù)要求的體現(xiàn)。

 

 

    “規(guī)定提出了要防范出現(xiàn)此類(lèi)情形，需要相關(guān)企業(yè)切實(shí)做好算法的評(píng)估工作，從算法推薦的邏輯、面向的用戶(hù)群體、瀏覽和消費(fèi)行為等多個(gè)角度出發(fā)進(jìn)行綜合分析。”何延哲建議，為防止算法導(dǎo)致的沉迷或過(guò)度消費(fèi)，必要時(shí)還應(yīng)引入第三方進(jìn)行評(píng)價(jià)和評(píng)議，以保證評(píng)估的中立性。

 

 

    刷量控評(píng)影響網(wǎng)絡(luò)輿論？確保算法公開(kāi)透明

 

 

    利用算法注冊(cè)虛假賬號(hào)、雇傭網(wǎng)絡(luò)“水軍”,實(shí)施虛假點(diǎn)贊、轉(zhuǎn)發(fā)等流量造假，或者鼓動(dòng)“飯圈”粉絲互撕謾罵、刷量控評(píng)；屏蔽信息、過(guò)度推薦，操縱干預(yù)熱搜、榜單或檢索結(jié)果排序……一些算法推薦服務(wù)提供者在開(kāi)展個(gè)性化推薦、熱點(diǎn)榜單、信息發(fā)布等活動(dòng)時(shí)，還存在影響網(wǎng)絡(luò)輿論的現(xiàn)象。

 

 

    根據(jù)規(guī)定，算法推薦服務(wù)應(yīng)遵循公開(kāi)透明的原則，鼓勵(lì)算法推薦服務(wù)提供者綜合運(yùn)用內(nèi)容去重、打散干預(yù)等策略，優(yōu)化規(guī)則透明度和可解釋性。建立健全算法機(jī)制機(jī)理審核、科技倫理審查、用戶(hù)注冊(cè)、信息發(fā)布審核等管理制度，不得利用算法操縱榜單、控制熱搜等干預(yù)信息呈現(xiàn)。

 

 

    “針對(duì)微博存在的刷量、刷榜、控評(píng)等干擾、扭曲真實(shí)的用戶(hù)聲音和信息傳播等問(wèn)題，我們一直在努力整治。”微博有關(guān)負(fù)責(zé)人坦言，這些問(wèn)題屢禁難絕的背后，也有真人刷榜行為比較難發(fā)現(xiàn)、對(duì)已形成完整產(chǎn)業(yè)鏈的相關(guān)黑灰產(chǎn)難以從技術(shù)上禁絕等困難的存在。

 

 

    世輝律師事務(wù)所合伙人王新銳認(rèn)為，規(guī)定要求網(wǎng)絡(luò)平臺(tái)以顯著方式告知用戶(hù)其提供算法推薦服務(wù)的情況，同時(shí)要求具有輿論屬性或者社會(huì)動(dòng)員能力的平臺(tái)將算法相關(guān)情況予以備案，通過(guò)這種“普遍公開(kāi)+部分備案”的方式來(lái)解決算法不透明帶來(lái)的現(xiàn)實(shí)問(wèn)題和普遍憂(yōu)慮。

 

 

    未成年人等特殊群體權(quán)益如何保護(hù)？精細(xì)化滿(mǎn)足不同群體訴求

 

 

    近年來(lái)，一些App接連被曝出傳播兒童軟色情表情包、利用未成年人性暗示短視頻引流等問(wèn)題，嚴(yán)重?fù)p害未成年人身心健康，影響網(wǎng)絡(luò)傳播秩序。

 

 

    “網(wǎng)絡(luò)為未成年人帶來(lái)了嶄新的生活方式，也產(chǎn)生了未成年人網(wǎng)絡(luò)保護(hù)問(wèn)題。”中國(guó)社會(huì)科學(xué)院大學(xué)副校長(zhǎng)林維認(rèn)為，未成年人存在認(rèn)知、判斷能力較弱，價(jià)值觀(guān)尚未成型等特點(diǎn)，針對(duì)性過(guò)強(qiáng)的算法推送內(nèi)容有可能引發(fā)各種不良效果，也可能導(dǎo)致沉迷網(wǎng)絡(luò)現(xiàn)象。

 

 

    對(duì)此，規(guī)定提出，算法推薦服務(wù)提供者不得向未成年人推送可能引發(fā)未成年人模仿不安全行為和違反社會(huì)公德行為、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的信息，不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)。

 

 

    此外，針對(duì)一些平臺(tái)未充分考慮老年人適老化需求等問(wèn)題，規(guī)定還要求，算法推薦服務(wù)提供者向老年人提供服務(wù)的，應(yīng)當(dāng)保障老年人依法享有的權(quán)益，充分考慮老年人出行、就醫(yī)、消費(fèi)、辦事等需求，按照國(guó)家有關(guān)規(guī)定提供智能化適老服務(wù)。

 

 

    專(zhuān)家指出，在互聯(lián)網(wǎng)信息服務(wù)日益多元化、基礎(chǔ)化、普及化的情況下，規(guī)定精細(xì)化、有側(cè)重地滿(mǎn)足不同群體的利益訴求，將更好保障未成年人、老年人、勞動(dòng)者等群體權(quán)益，引導(dǎo)算法應(yīng)用遵守社會(huì)公德和倫理，遵守商業(yè)道德和職業(yè)道德。

 

 

    監(jiān)管如何落地落實(shí)？著力完善治理體系

 

 

    當(dāng)前，算法等新技術(shù)新應(yīng)用已經(jīng)成為推動(dòng)企業(yè)數(shù)字化轉(zhuǎn)型和國(guó)家治理能力現(xiàn)代化的重要力量。專(zhuān)家認(rèn)為，規(guī)定有利于建立健全科學(xué)的監(jiān)管體系，統(tǒng)籌各方建立完整制度鏈條，形成算法治理長(zhǎng)效機(jī)制。

 

 

    “事前監(jiān)管，確立算法備案、算法評(píng)估等制度；區(qū)分監(jiān)管，確立分級(jí)分類(lèi)的思路；系統(tǒng)監(jiān)管，建立多元共治的局面。”中國(guó)信息通信研究院副總工程師王愛(ài)華認(rèn)為，規(guī)定著力完善治理體系，通過(guò)優(yōu)化監(jiān)管框架，實(shí)現(xiàn)事前事中事后全流程、全鏈條監(jiān)管，增強(qiáng)監(jiān)管系統(tǒng)性和權(quán)威性。

 

 

    星瀚律師事務(wù)所主任律師衛(wèi)新認(rèn)為，當(dāng)前算法技術(shù)的應(yīng)用越來(lái)越廣泛，對(duì)算法的監(jiān)管需要迎頭跟上，未來(lái)在具體執(zhí)行過(guò)程中還需形成各類(lèi)具備可操作性的細(xì)則。

 

 

    “算法推薦作為一種新技術(shù)模式，面臨一些新型技術(shù)安全、應(yīng)用安全甚至倫理安全風(fēng)險(xiǎn)。”中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院黨委書(shū)記楊建軍建議，為支撐規(guī)定落地實(shí)施，亟須加強(qiáng)算法安全技術(shù)能力建設(shè)，建設(shè)算法推薦服務(wù)備案、算法安全評(píng)估、算法安全風(fēng)險(xiǎn)監(jiān)測(cè)等平臺(tái)，提升算法推薦技術(shù)監(jiān)管能力。（記者王思北、陽(yáng)娜、周琳、顏之宏）