算法正深刻影響著每一個(gè)人的生活：內(nèi)容平臺(tái)的算法勾勒著我們的興趣圖譜、外賣平臺(tái)的算法對(duì)平臺(tái)、騎手與用戶之間的利益分配進(jìn)行動(dòng)態(tài)調(diào)節(jié)、導(dǎo)航軟件的算法為出行規(guī)劃最優(yōu)路徑……然而，算法在帶來便利的同時(shí)，也帶來治理難題。
為持續(xù)提升屬地網(wǎng)站平臺(tái)算法典型問題治理能力，分享交流先進(jìn)治理經(jīng)驗(yàn)，集中展示階段性工作成果，6月24日，北京市網(wǎng)信辦、首都互聯(lián)網(wǎng)協(xié)會(huì)共同召開“清朗京華·智算未來”首都算法治理成果評(píng)議會(huì)，政府管理部門、互聯(lián)網(wǎng)企業(yè)、行業(yè)專家及網(wǎng)民四方代表參會(huì)。
新京報(bào)貝殼財(cái)經(jīng)記者從會(huì)上了解到，針對(duì)虛假信息、信息繭房等算法治理痛點(diǎn)，抖音和快手兩家平臺(tái)通過推進(jìn)算法公開透明、升級(jí)內(nèi)容管理工具、優(yōu)化內(nèi)容多樣性和加強(qiáng)審核等舉措，致力于構(gòu)建優(yōu)質(zhì)的內(nèi)容生態(tài)和算法治理共同體。而美團(tuán)先后召開百余次騎手懇談會(huì)，通過推出超時(shí)免罰和8小時(shí)預(yù)警、12小時(shí)強(qiáng)制休息機(jī)制，并結(jié)合算法和規(guī)則，力求達(dá)到各方利益平衡。
優(yōu)化技術(shù)、公開算法、支持使用管理，平臺(tái)算法治理多管齊下
算法不僅決定了用戶獲取信息的質(zhì)量和效率，更影響著平臺(tái)生態(tài)的健康，對(duì)內(nèi)容平臺(tái)有著重要影響。在算法治理中，抖音與快手作為內(nèi)容平臺(tái)的代表，在算法治理中既展現(xiàn)出共性策略，也基于平臺(tái)定位形成了差異化實(shí)踐。
抖音相關(guān)負(fù)責(zé)人介紹，在算法公開透明方面，今年3月，抖音正式上線“抖音安全與信任中心”網(wǎng)站，面向社會(huì)公開抖音算法原理、社區(qū)規(guī)范、治理體系和用戶服務(wù)機(jī)制，“我們每篇文章都經(jīng)過了深入的調(diào)研，與內(nèi)部的資深算法工程師進(jìn)行訪談，最后用通俗易懂的語言披露算法的原理?！痹撠?fù)責(zé)人表示。
在用戶賦權(quán)方面，抖音升級(jí)的“使用管理助手”可通過色彩圓環(huán)圖直觀展示用戶興趣偏好，并支持“探索更多”按鈕拓展內(nèi)容類型。在保障內(nèi)容真實(shí)性等重點(diǎn)環(huán)節(jié)，抖音重點(diǎn)落實(shí)當(dāng)事人限時(shí)核實(shí)和熱點(diǎn)實(shí)時(shí)監(jiān)測(cè)機(jī)制。
快手相關(guān)負(fù)責(zé)人則介紹，快手通過技術(shù)構(gòu)建優(yōu)質(zhì)內(nèi)容生態(tài)、推動(dòng)算法透明化和組建算法治理共同體三方面，打造向善的算法生態(tài)。如快手通過自主研發(fā)的智能分發(fā)系統(tǒng)，避免推薦內(nèi)容過度集中和低質(zhì)量?jī)?nèi)容蔓延。通過建立AI審核和人工干預(yù)雙重審核機(jī)制，以及綠色算法和內(nèi)容推薦去重，提高內(nèi)容安全性和多樣性。
值得關(guān)注的是，快手新上線的推薦大模型“OneRec”，可有效捕捉用戶的情緒、愛好以及不同時(shí)間段的興趣轉(zhuǎn)折，將用戶長(zhǎng)期瀏覽偏好整合成完整興趣序列，實(shí)現(xiàn)從“分層篩選”到“直接生成推薦列表”的變革。
美團(tuán)的算法治理同樣聚焦算法的公開透明、治理改進(jìn)以及社會(huì)化共治。美團(tuán)相關(guān)負(fù)責(zé)人介紹，在騎手疲勞管理方面，美團(tuán)考慮到騎手在線時(shí)間長(zhǎng)但非持續(xù)接單的工作特性，推出“騎手防疲勞機(jī)制”：當(dāng)識(shí)別到騎手跑單超過8小時(shí)，騎手App會(huì)彈出提醒，跑單12小時(shí)將強(qiáng)制下線。除此之外，“等燈等燈”計(jì)劃通過正向激勵(lì)培養(yǎng)騎手安全習(xí)慣，試點(diǎn)城市超2萬名騎手因遵守交通規(guī)則獲得獎(jiǎng)勵(lì)。
據(jù)悉，美團(tuán)還聯(lián)動(dòng)街道、社區(qū)、物業(yè)企業(yè)等，在全國150多個(gè)城市打造了27620個(gè)“騎手友好社區(qū)”，騎手可通過掃碼等方式快速進(jìn)入小區(qū)，有效解決了“進(jìn)門難”和客訴高的問題。
美團(tuán)相關(guān)負(fù)責(zé)人向貝殼財(cái)經(jīng)記者表示，對(duì)于新場(chǎng)景配送困難，平臺(tái)會(huì)通過騎手上報(bào)數(shù)據(jù)或算法抓取數(shù)據(jù)發(fā)現(xiàn)履約難題，進(jìn)而優(yōu)化配送時(shí)間?！捌脚_(tái)會(huì)平衡商戶、騎手、消費(fèi)者三方利益，參考周邊同等距離平均配送時(shí)長(zhǎng)，以及商戶出餐速度、騎手履約交付難度等綜合因素，配合商戶出餐后騎手再到店等舉措，合理規(guī)劃配送時(shí)間?！?/p>
專家多維建言，內(nèi)外治理優(yōu)化算法生態(tài)
此次成果評(píng)議會(huì)上，參會(huì)專家、學(xué)者們充分肯定了北京各平臺(tái)在算法治理上的經(jīng)驗(yàn)做法，并從法律、管理和技術(shù)等多角度建言獻(xiàn)策。
北京大學(xué)法學(xué)院教授葉靜漪指出，在平臺(tái)經(jīng)濟(jì)重塑勞動(dòng)關(guān)系的背景下，算法治理需要平衡效率與公平，將企業(yè)創(chuàng)新嵌入法治框架，企業(yè)自律行動(dòng)也需要轉(zhuǎn)化為制度化實(shí)踐。深入剖析零工經(jīng)濟(jì)帶來的勞動(dòng)基準(zhǔn)模糊化、算法偏見隱蔽化等挑戰(zhàn)，建議建立“算法透明、數(shù)據(jù)保護(hù)、影響評(píng)估、反歧視治理”四條通用路徑，并與勞動(dòng)法的“基準(zhǔn)保障、民主程序、集體協(xié)商”形成合力。
中國人民大學(xué)商學(xué)院教授周禹表示，算法公開性、算法能動(dòng)性、算法參與性、算法交互生態(tài)共同構(gòu)成了算法包容性治理的實(shí)踐內(nèi)涵，也是應(yīng)持續(xù)深化推進(jìn)的發(fā)展方向。
周禹建議，相關(guān)政策部門應(yīng)及時(shí)吸收標(biāo)桿平臺(tái)在算法治理的先進(jìn)經(jīng)驗(yàn)，將其轉(zhuǎn)化為公共政策。一方面，強(qiáng)化分類指導(dǎo)，針對(duì)生活服務(wù)平臺(tái)的配單算法與內(nèi)容平臺(tái)的推薦、審核算法等不同算法，實(shí)施具有針對(duì)性的治理政策。另一方面，在算法治理政策上應(yīng)對(duì)成熟大平臺(tái)和新加入平臺(tái)一視同仁，提高政策公共治理的穿透性，以牽引、助推和規(guī)范整個(gè)行業(yè)的發(fā)展。
中國科學(xué)院信息工程研究所張瀟丹研究員在會(huì)上提出了算法“外治內(nèi)巡”的治理思路：對(duì)外，強(qiáng)調(diào)算法生態(tài)的公平、公示與透明度；對(duì)內(nèi)，平臺(tái)需強(qiáng)化自我巡查與約束，在日常算法管理中繃緊安全弦。張瀟丹還提到，隨著大模型與傳統(tǒng)算法融合，可能引發(fā)新的算法風(fēng)險(xiǎn)和生態(tài)問題，算法治理是循序漸進(jìn)的過程，需要各方共同努力。
北京市網(wǎng)信辦相關(guān)負(fù)責(zé)人指出，屬地網(wǎng)站平臺(tái)要強(qiáng)化合規(guī)意識(shí)，堅(jiān)決筑牢安全防線；要強(qiáng)化技術(shù)創(chuàng)新，堅(jiān)決破解治理難題；要強(qiáng)化價(jià)值引領(lǐng)，堅(jiān)決推動(dòng)算法向善。下一步，北京市網(wǎng)信辦將結(jié)合評(píng)議會(huì)創(chuàng)新案例和專家觀點(diǎn)，進(jìn)一步深入研究推動(dòng)算法治理的具體舉措、有效途徑，堅(jiān)決鞏固算法集中治理成果，全力推動(dòng)算法治理向常態(tài)化治理轉(zhuǎn)變。
新京報(bào)貝殼財(cái)經(jīng)記者 韋博雅
編輯 楊娟娟
校對(duì) 穆祥桐
