姚前表示，算法催生了新的經(jīng)濟模式，帶來社會整體效益的提升，但近年來算法濫用、算法作惡、算法道德、算法倫理等問題已引起廣泛關(guān)注

文｜《財經(jīng)》記者 陳洪杰

編輯 | 袁滿

“算法經(jīng)濟大幅改善市場經(jīng)濟的匹配效率和交易成本。人們一方面歡迎和享受智能算法帶來的便利，另一方面卻擔(dān)心被智能算法替代，導(dǎo)致個人價值喪失。不僅如此，隨著算法經(jīng)濟的快速發(fā)展，算法的滲透力和影響力越趨強大，其背后隱含的風(fēng)險以及作惡的可能引起了關(guān)注?！?021年9月3日，中國證監(jiān)會科技監(jiān)管局局長姚前在2021年服貿(mào)會金融服務(wù)專題展期間舉行的“2021中國國際金融科技論壇”上表示。

姚前稱，首先是算法濫用。算法規(guī)則的背后是商業(yè)利益。為了追求利益最大化，算法有可能違背社會公平、道德和人性，比如大數(shù)據(jù)殺熟，同樣的商品或服務(wù)，老客戶的價格反而比新客戶要貴。只推薦給人們能潛在帶來商業(yè)利益的東西，而不是最適合、最恰當(dāng)?shù)臇|西?？赡転E用人性弱點，過度激發(fā)、勸服、誘導(dǎo)客戶，使人習(xí)慣于被喂養(yǎng)，不自覺地對算法投放的產(chǎn)品沉迷上癮。只有算法邏輯，沒有考慮人性，將人“異化”為簡單的數(shù)據(jù)、商品和工具。算法的具體原理和參數(shù)只有運營企業(yè)的少部分人才能知道，有可能產(chǎn)生利益侵占問題。有的企業(yè)可能利用算法作惡，比如為了擴大流量，推送聳人聽聞的虛假信息；推薦虛假產(chǎn)品。

其次是算法偏見。算法的數(shù)據(jù)可能不一定全面，片面的數(shù)據(jù)得到的結(jié)果必然導(dǎo)致某種偏見。算法的設(shè)計者是人，算法設(shè)計師乃至企業(yè)管理者、價值觀的偏見可能被嵌入算法。算法的“技術(shù)光環(huán)”容易讓人盲從所謂的“科學(xué)”，但實質(zhì)上有些算法卻存在很大程度的不可解釋性，比如類似“黑箱子”的機器學(xué)習(xí)算法；機器學(xué)習(xí)算法側(cè)重于相關(guān)性分析，而不是因果分析，可能產(chǎn)生錯誤的勾連與判斷；基于歷史數(shù)據(jù)的機器學(xué)習(xí)算法隱含著“過去決定未來”邏輯，以歷史宿命論定義和標簽每個人，某種程度上也是一種偏見。

另外，算法鴻溝也值得重視。算法通常是隱秘的，或是專利，或是商業(yè)秘密。即便公開，也因技術(shù)門檻，也不是每個人都能看懂。這就形成新的數(shù)字鴻溝。不懂算法的人群在利益受損時有可能并不知情，即便知情，也可能無力舉證和對抗。

姚前還表示，在特定領(lǐng)域，算法還可能引致特定風(fēng)險。比如在金融領(lǐng)域，智能算法給出的資產(chǎn)配置建議有可能是推薦了與金融機構(gòu)自身利益高度攸關(guān)的產(chǎn)品，涉嫌利益侵占；智能算法形成信息繭房，強化投資者偏見，容易掩蓋金融風(fēng)險復(fù)雜性，引誘過度消費和負債，甚至誤導(dǎo)投資者；智能算法若存在歧視，則損害投資者公平性；智能算法趨同導(dǎo)致“羊群效應(yīng)”，加大金融順周期風(fēng)險等。

因算法背后有一些風(fēng)險，各國的監(jiān)管部門高度關(guān)注算法隱含的風(fēng)險。例如，歐盟《一般數(shù)據(jù)保護條例》（GDPR）第22條對自動化決策加以限制，如果某種包括數(shù)據(jù)分析在內(nèi)的自動化決策會對數(shù)據(jù)主體產(chǎn)生法律效力或?qū)ζ湓斐深愃频闹卮笥绊懀瑪?shù)據(jù)主體有權(quán)不受上述決策的限制。又例如，針對智能算法在投資顧問中的應(yīng)用，美國證券交易委員會（SEC）、英國金融業(yè)監(jiān)管局（FINRA）、澳大利亞證券和投資委員會（ASIC）出臺了具體的智能投顧監(jiān)管指引。

對于中國而言，也采取也一些措施。2018年發(fā)布的《關(guān)于規(guī)范金融機構(gòu)資產(chǎn)管理業(yè)務(wù)的指導(dǎo)意見》也提出，要避免智能算法順周期性風(fēng)險、羊群效應(yīng)等相關(guān)規(guī)定。2020年12月，中共中央印發(fā)《法治社會建設(shè)實施綱要（2020-2025年）》，提出要制定完善算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法，要加強對大數(shù)據(jù)、云計算和人工智能等新技術(shù)研發(fā)應(yīng)用的規(guī)范引導(dǎo)。網(wǎng)信辦就《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》向社會公開征求意見指出，算法推薦服務(wù)提供者應(yīng)當(dāng)落實算法安全主體責(zé)任，建立健全相應(yīng)管理制度，制定并公開算法推薦相關(guān)服務(wù)規(guī)則，配備與算法推薦服務(wù)規(guī)模相適應(yīng)的專業(yè)人員和技術(shù)支撐。應(yīng)當(dāng)堅持主流價值導(dǎo)向，加強信息內(nèi)容管理，同時，算法推薦服務(wù)提供者不得利用算法實施自我優(yōu)待、不正當(dāng)競爭、影響網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)管。

“總的來說，智能算法已在很多行業(yè)大量采用，考慮到其生態(tài)規(guī)模巨大、潛在風(fēng)險和社會影響不容忽視。而我國算法監(jiān)管制度正逐步完善和健全，但具體內(nèi)容有待細化完善。從機理看，算法監(jiān)管的具體內(nèi)容至少包括以下內(nèi)容?！币η氨硎?。

一是信息披露，即作為算法的設(shè)計者和控制方，相關(guān)主體及利益相關(guān)者應(yīng)該披露算法設(shè)計、執(zhí)行、使用過程中可能存在的偏見和漏洞、數(shù)據(jù)來源以及可能對個人和社會造成的潛在危害。

二是解釋，即作為采用算法自動化決策的機構(gòu)，相關(guān)主體及利益相關(guān)者有義務(wù)解釋算法運行原理以及算法具體決策結(jié)果。

三是留痕與可審計，即算法系統(tǒng)的設(shè)計、測試、運行表現(xiàn)及變動留有記錄，全程監(jiān)測，并可審計。

四是質(zhì)詢和申訴，即確保受到算法決策負面影響的個人或組織享有對算法進行質(zhì)疑并申訴的權(quán)力。

五是內(nèi)部治理。相關(guān)主體應(yīng)建立清晰、有效的內(nèi)部治理框架、內(nèi)部控制機制和責(zé)任體系，防止算法濫用，防范算法風(fēng)險，并提高算法對抗性，避免算法攻擊。

六是加強行業(yè)自律。通過行業(yè)自律機制，加強算法道德和算法倫理建設(shè)。

姚前表示，不可否認，算法催生了新的經(jīng)濟模式，帶來社會整體效益的提升，有其獨特優(yōu)勢，但“有一利必有一弊”，近年來算法濫用、算法作惡、算法道德、算法倫理等問題已引起廣泛關(guān)注。馬克思曾在《1844年經(jīng)濟學(xué)哲學(xué)手稿》中對機器工業(yè)化時代人類“異化”現(xiàn)象提出警示，就像機器流水線凌駕于工人之上，算法亦有可能凌駕于蕓蕓眾生之上，其中風(fēng)險同樣值得關(guān)注與警惕。為此，加強算法監(jiān)管，以監(jiān)管科技應(yīng)對新型科技，既是順應(yīng)之策，又是必然之舉。