□ 郭旨龍（中國(guó)政法大學(xué)刑事司法學(xué)院教授）

隨著信息技術(shù)的深度發(fā)展，個(gè)性化算法推薦已經(jīng)深入公民生活的方方面面，改變了人們?cè)诨ヂ?lián)網(wǎng)世界中獲取信息的方式。作為數(shù)字原住民，算法推薦的個(gè)性化信息匹配為未成年人高效娛樂(lè)、學(xué)習(xí)與社交提供了便利。但與此同時(shí)，由于未成年人身心尚未發(fā)育成熟的特殊性，加上算法推薦機(jī)制本身的技術(shù)局限、平臺(tái)企業(yè)的價(jià)值觀錯(cuò)位與法律責(zé)任的落實(shí)不力等多層次原因，未成年人在強(qiáng)算法推薦的網(wǎng)絡(luò)環(huán)境中正面臨過(guò)度娛樂(lè)化推送和不良信息推送等問(wèn)題的沖擊。

算法是人工智能技術(shù)的基石之一，其治理效能已經(jīng)成為衡量數(shù)字時(shí)代國(guó)家治理能力的關(guān)鍵維度。特別是《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》通過(guò)設(shè)置未成年人保護(hù)專(zhuān)條凸顯了重點(diǎn)關(guān)注青少年群體網(wǎng)絡(luò)權(quán)益的價(jià)值立場(chǎng)后，如何增強(qiáng)平臺(tái)涉及未成年人算法推薦的合法性和合規(guī)性，成為法律界和社會(huì)熱議的焦點(diǎn)。

算法推薦的技術(shù)機(jī)制與問(wèn)題

算法推薦是指利用生成合成類(lèi)、個(gè)性化推送類(lèi)、排序精選類(lèi)、檢索過(guò)濾類(lèi)、調(diào)度決策類(lèi)等算法向用戶(hù)提供信息的技術(shù)機(jī)制。盡管技術(shù)開(kāi)發(fā)者、企業(yè)或行業(yè)組織所發(fā)布的技術(shù)白皮書(shū)中常將算法推薦表述為“價(jià)值中立”的技術(shù)工具，但其在實(shí)際運(yùn)作中對(duì)未成年人的影響已超越單純的技術(shù)應(yīng)用范疇，誘發(fā)網(wǎng)絡(luò)沉迷、制造信息繭房和危害未成年人身心健康等多個(gè)痛點(diǎn)日益凸顯。

第一，算法推薦易誘發(fā)未成年人網(wǎng)絡(luò)沉迷。算法推薦通過(guò)即時(shí)反饋機(jī)制和成癮性設(shè)計(jì)使未成年人陷入“觀看—反饋—持續(xù)觀看”的無(wú)意識(shí)行為循環(huán)當(dāng)中。部分平臺(tái)甚至強(qiáng)制用戶(hù)選擇興趣標(biāo)簽以延長(zhǎng)使用時(shí)長(zhǎng)，使未成年人在持續(xù)“刷屏”中形成高頻次、高黏性的使用習(xí)慣。網(wǎng)絡(luò)沉迷不僅會(huì)擠占未成年人的學(xué)習(xí)、社交與運(yùn)動(dòng)時(shí)間，還可能引發(fā)視力下降、注意力分散、睡眠障礙等生理問(wèn)題。

第二，算法推薦易導(dǎo)致未成年人受困于信息繭房。研發(fā)及使用算法推薦系統(tǒng)的互聯(lián)網(wǎng)平臺(tái)企業(yè)的出發(fā)點(diǎn)在于追求用戶(hù)的高留存率和高使用時(shí)長(zhǎng)，往往傾向于不斷優(yōu)化推送策略，通過(guò)“點(diǎn)擊越多—推送越類(lèi)似”的閉環(huán)來(lái)強(qiáng)化既有興趣標(biāo)簽。一方面使得信息推送的高度同質(zhì)化，另一方面將點(diǎn)擊量作為評(píng)判推送價(jià)值的唯一標(biāo)準(zhǔn)會(huì)使得益于青少年成長(zhǎng)的有價(jià)值內(nèi)容占比不斷衰減。被困于推薦算法所制造的“圍城”中的未成年用戶(hù)很難突破被技術(shù)性設(shè)定的興趣邊界，批判性思考的能力被削弱，最終成為“單向度的人”。

第三，算法推薦易導(dǎo)致未成年人身心健康受到侵害。網(wǎng)絡(luò)世界的信息良莠不齊，低俗信息、虛假合成信息、煽動(dòng)性信息等有害信息可能通過(guò)算法推薦機(jī)制呈現(xiàn)在青少年的智能終端。一方面，部分平臺(tái)為提高用戶(hù)黏性，對(duì)具有感官刺激性但又語(yǔ)義模糊、圖像隱晦，能夠逃避監(jiān)管的有害內(nèi)容實(shí)施流量?jī)A斜，使這些有害內(nèi)容呈現(xiàn)在未成年人面前。另一方面，利用生成式人工智能技術(shù)生成的深度偽造視頻、虛假科普內(nèi)容、虛假新聞等內(nèi)容在相關(guān)標(biāo)識(shí)及傳播規(guī)則尚未得到充分落實(shí)的情況下，借助算法被大肆推送，極易擾亂未成年人對(duì)真實(shí)世界的感知。此外，平臺(tái)為攫取流量或來(lái)自第三方的經(jīng)濟(jì)利益，通過(guò)炒作和推送熱點(diǎn)來(lái)放大煽動(dòng)性信息的情況也可能加劇未成年人的焦慮抑郁情緒或引發(fā)模仿行為。

算法推薦問(wèn)題的主要原因

第一，算法推薦風(fēng)險(xiǎn)的滋生來(lái)源于算法黑箱的技術(shù)局限與制度庇護(hù)。技術(shù)性黑箱導(dǎo)致平臺(tái)即便有治理意愿，也難以徹底規(guī)避算法偏差。更深層的矛盾在于制度性黑箱，平臺(tái)?；谒惴ā吧虡I(yè)秘密”的定性而拒絕公開(kāi)算法參數(shù)，將其作為規(guī)避透明度及可解釋性義務(wù)的理由。

第二，算法推薦風(fēng)險(xiǎn)的裂變被資本邏輯主導(dǎo)下的價(jià)值沖突加劇。平臺(tái)從商業(yè)利益出發(fā)，將利潤(rùn)追求置于對(duì)未成年人身心健康的保護(hù)之上，在算法倫理建設(shè)滯后于技術(shù)創(chuàng)新時(shí)，資本主導(dǎo)下的價(jià)值異化會(huì)加大電子游戲、短劇等高商業(yè)價(jià)值內(nèi)容的投放。

第三，算法推薦風(fēng)險(xiǎn)治理未能得到充分保障的根源是現(xiàn)有相關(guān)法律規(guī)范的適用邏輯未予充分厘清。網(wǎng)絡(luò)安全法、《未成年人網(wǎng)絡(luò)保護(hù)條例》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等一系列規(guī)定中的部分條文較為籠統(tǒng)和模糊，導(dǎo)致實(shí)際落地存在困難，還需進(jìn)一步細(xì)化和挖掘可操作性標(biāo)準(zhǔn)。

算法推薦問(wèn)題的完善建議

算法推薦技術(shù)對(duì)未成年人網(wǎng)絡(luò)權(quán)益的侵蝕背后存在多維復(fù)雜成因，難以通過(guò)單一維度的治理模式得到破解。有必要依托現(xiàn)有算法規(guī)范，著力構(gòu)建技術(shù)突破、社會(huì)協(xié)同與法律規(guī)制有機(jī)聯(lián)動(dòng)的協(xié)同治理機(jī)制。

（一）優(yōu)化平臺(tái)技術(shù)治理路徑

第一，平臺(tái)應(yīng)完善算法推薦機(jī)制下的防沉迷技術(shù)性措施。在平臺(tái)的娛樂(lè)領(lǐng)域嵌入有效的未成年人識(shí)別機(jī)制，進(jìn)而在準(zhǔn)確識(shí)別身份的基礎(chǔ)上限制其使用時(shí)長(zhǎng)，以抵消算法推薦的成癮性所帶來(lái)的不利影響。

第二，平臺(tái)應(yīng)在技術(shù)上保障算法推薦信息的合法性、合規(guī)性，并滿足基本的內(nèi)容推送質(zhì)量要求。一方面，平臺(tái)應(yīng)加大對(duì)有害信息的技術(shù)性審查及過(guò)濾力度。及時(shí)發(fā)現(xiàn)有害及違法信息并予以處理，及時(shí)發(fā)現(xiàn)生成合成信息并予以顯著標(biāo)識(shí)。另一方面，平臺(tái)應(yīng)通過(guò)技術(shù)性設(shè)計(jì)，提高推送內(nèi)容的多樣性，防止信息過(guò)度同質(zhì)化和低質(zhì)化傾向。

第三，平臺(tái)應(yīng)在技術(shù)上保障未成年用戶(hù)就算法推薦服務(wù)的知情權(quán)和自主選擇權(quán)。最低限度是平臺(tái)不得將違法和不良信息關(guān)鍵詞設(shè)置為用戶(hù)標(biāo)簽。在此基礎(chǔ)上，可考慮要求平臺(tái)提供針對(duì)用于內(nèi)容推送的個(gè)人興趣標(biāo)簽的編輯功能。同時(shí)，平臺(tái)應(yīng)設(shè)定針對(duì)未成年用戶(hù)默認(rèn)關(guān)閉算法推薦服務(wù)的義務(wù)，或至少應(yīng)提供易于未成年用戶(hù)發(fā)現(xiàn)的關(guān)閉入口及易于操作的關(guān)閉流程，以保障其自主選擇是否使用個(gè)性化推薦服務(wù)的權(quán)利。

（二）構(gòu)筑社會(huì)協(xié)同治理屏障

第一，家庭作為影響青少年網(wǎng)絡(luò)行為的第一道防線，需在數(shù)字時(shí)代相對(duì)應(yīng)地提升監(jiān)護(hù)能力。監(jiān)護(hù)人應(yīng)通過(guò)掌握基礎(chǔ)設(shè)置工具主動(dòng)介入算法推薦環(huán)境的管理，建立與青少年數(shù)字成長(zhǎng)需求相匹配的監(jiān)護(hù)模式，實(shí)現(xiàn)從被動(dòng)應(yīng)對(duì)到主動(dòng)引導(dǎo)的角色轉(zhuǎn)變。

第二，對(duì)于學(xué)校而言，應(yīng)當(dāng)將網(wǎng)絡(luò)素養(yǎng)教育納入學(xué)校素質(zhì)教育內(nèi)容。在基礎(chǔ)教育階段可開(kāi)設(shè)網(wǎng)絡(luò)素養(yǎng)通識(shí)課程，引導(dǎo)未成年人建立對(duì)算法操縱的警惕性與防護(hù)能力。高等教育機(jī)構(gòu)則應(yīng)對(duì)計(jì)算機(jī)相關(guān)專(zhuān)業(yè)的學(xué)生加強(qiáng)算法倫理教育。

第三，互聯(lián)網(wǎng)行業(yè)組織應(yīng)加強(qiáng)行業(yè)自律，考慮將未成年人網(wǎng)絡(luò)權(quán)益及發(fā)展權(quán)保護(hù)作為制定相關(guān)行業(yè)規(guī)范或行業(yè)標(biāo)準(zhǔn)的理念指引，推動(dòng)形成“底線合規(guī)+倫理引領(lǐng)”的行業(yè)治理范式。

（三）強(qiáng)化算法權(quán)力制度約束

第一，作為破解“黑箱”的利器，算法透明原則要求平臺(tái)推薦算法在涉及未成年用戶(hù)時(shí)實(shí)施強(qiáng)制性透明度及可解釋性標(biāo)準(zhǔn)。

第二，作為算法透明義務(wù)的延伸和履行途徑之一，算法備案原則要求，將以未成年人為主要或重要服務(wù)對(duì)象的算法推薦服務(wù)提供者納入應(yīng)履行備案義務(wù)的主體范圍。

第三，作為當(dāng)前算法治理的重要工具，算法影響評(píng)估制度要求建立算法分級(jí)分類(lèi)安全管理制度。其中，涉及未成年人的推薦算法具有敏感性，應(yīng)被歸于高風(fēng)險(xiǎn)級(jí)別，進(jìn)而匹配更為嚴(yán)格和完整的影響評(píng)估程序。