通過大數(shù)據(jù)“殺熟”實施不合理差別待遇，利用算法誘導(dǎo)用戶沉迷網(wǎng)絡(luò)、過度消費(fèi)……當(dāng)前，算法技術(shù)廣泛滲入互聯(lián)網(wǎng)應(yīng)用，在給用戶帶來一定程度便利的同時，由算法引發(fā)的侵害用戶權(quán)益問題也屢屢出現(xiàn)。
算法推薦是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、調(diào)度決策類等技術(shù)向用戶提供信息。
近日，國家網(wǎng)信辦等四部門出臺《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，針對被詬病已久的問題提出明確要求。
大數(shù)據(jù)“殺熟”如何解？不得實施差別待遇
當(dāng)前，越來越多的企業(yè)利用大數(shù)據(jù)分析評估消費(fèi)者的個人特征用于商業(yè)營銷。但也有一些企業(yè)利用個人信息搞大數(shù)據(jù)“殺熟”，對不同群體進(jìn)行差別定價，實行“價格歧視”。
規(guī)定提出，算法推薦服務(wù)提供者向消費(fèi)者銷售商品或者提供服務(wù)的，應(yīng)當(dāng)保護(hù)消費(fèi)者公平交易的權(quán)利，不得根據(jù)消費(fèi)者的偏好、交易習(xí)慣等特征，利用算法在交易價格等交易條件上實施不合理的差別待遇等違法行為。
中國信息安全研究院副院長左曉棟認(rèn)為，大數(shù)據(jù)“殺熟”等頑疾歸根結(jié)底是濫用用戶個人信息導(dǎo)致的。解決這類問題，首先要在治理違法違規(guī)收集用戶個人信息上下功夫，其次要保障用戶的選擇權(quán)、刪除權(quán)等權(quán)益。例如，要向用戶提供不針對其個人特征的選項，或向用戶提供便捷的關(guān)閉算法推薦服務(wù)的選項，并提供選擇或刪除針對其個人特征的用戶標(biāo)簽的功能。
誘導(dǎo)用戶沉迷、過度消費(fèi)？促進(jìn)算法應(yīng)用向上向善
規(guī)定提出，算法推薦服務(wù)提供者應(yīng)當(dāng)定期審核、評估、驗證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等，不得設(shè)置誘導(dǎo)用戶沉迷、過度消費(fèi)等違反法律法規(guī)或者違背倫理道德的算法模型。
中國政法大學(xué)數(shù)據(jù)法治研究院教授王立梅認(rèn)為，算法推薦服務(wù)提供者應(yīng)當(dāng)堅持主流價值導(dǎo)向、促進(jìn)算法應(yīng)用向上向善的基本要求。規(guī)定提出不得設(shè)置誘導(dǎo)用戶沉迷、過度消費(fèi)等算法模型，正是將科技向善理念落實為具體業(yè)務(wù)要求的體現(xiàn)。
刷量控評影響網(wǎng)絡(luò)輿論？確保算法公開透明
利用算法注冊虛假賬號、雇傭網(wǎng)絡(luò)“水軍”，實施虛假點贊、轉(zhuǎn)發(fā)等流量造假，或者鼓動“飯圈”粉絲互撕謾罵、刷量控評；屏蔽信息、過度推薦，操縱干預(yù)熱搜、榜單或檢索結(jié)果排序……一些算法推薦服務(wù)提供者在開展個性化推薦、熱點榜單、信息發(fā)布等活動時，還存在影響網(wǎng)絡(luò)輿論的現(xiàn)象。
根據(jù)規(guī)定，算法推薦服務(wù)應(yīng)遵循公開透明的原則，鼓勵算法推薦服務(wù)提供者綜合運(yùn)用內(nèi)容去重、打散干預(yù)等策略，優(yōu)化規(guī)則透明度和可解釋性。建立健全算法機(jī)制機(jī)理審核、科技倫理審查、用戶注冊、信息發(fā)布審核等管理制度，不得利用算法操縱榜單、控制熱搜等干預(yù)信息呈現(xiàn)。
未成年人等特殊群體權(quán)益如何保護(hù)？精細(xì)化滿足不同群體訴求
“網(wǎng)絡(luò)為未成年人帶來了嶄新的生活方式，也產(chǎn)生了未成年人網(wǎng)絡(luò)保護(hù)問題?！敝袊鐣茖W(xué)院大學(xué)副校長林維認(rèn)為，未成年人存在認(rèn)知、判斷能力較弱，價值觀尚未成型等特點，針對性過強(qiáng)的算法推送內(nèi)容有可能引發(fā)各種不良效果，也可能導(dǎo)致沉迷網(wǎng)絡(luò)現(xiàn)象。
對此，規(guī)定提出，算法推薦服務(wù)提供者不得向未成年人推送可能引發(fā)未成年人模仿不安全行為和違反社會公德行為、誘導(dǎo)未成年人不良嗜好等可能影響未成年人身心健康的信息，不得利用算法推薦服務(wù)誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)。
此外，針對一些平臺未充分考慮老年人適老化需求等問題，規(guī)定還要求，算法推薦服務(wù)提供者向老年人提供服務(wù)的，應(yīng)當(dāng)保障老年人依法享有的權(quán)益，充分考慮老年人出行、就醫(yī)、消費(fèi)、辦事等需求，按照國家有關(guān)規(guī)定提供智能化適老服務(wù)。
監(jiān)管如何落地落實？著力完善治理體系
當(dāng)前，算法等新技術(shù)新應(yīng)用已經(jīng)成為推動企業(yè)數(shù)字化轉(zhuǎn)型和國家治理能力現(xiàn)代化的重要力量。專家認(rèn)為，規(guī)定有利于建立健全科學(xué)的監(jiān)管體系，統(tǒng)籌各方建立完整制度鏈條，形成算法治理長效機(jī)制。
“事前監(jiān)管，確立算法備案、算法評估等制度；區(qū)分監(jiān)管，確立分級分類的思路；系統(tǒng)監(jiān)管，建立多元共治的局面?！敝袊畔⑼ㄐ叛芯吭焊笨偣こ處熗鯋廴A認(rèn)為，規(guī)定著力完善治理體系，通過優(yōu)化監(jiān)管框架，實現(xiàn)事前事中事后全流程、全鏈條監(jiān)管，增強(qiáng)監(jiān)管系統(tǒng)性和權(quán)威性。
據(jù)新華社北京1月6日電
