隨著數(shù)字化的深入發(fā)展,智能算法已經(jīng)成為基礎(chǔ)性、通用性的技術(shù),持續(xù)在經(jīng)濟社會的各個領(lǐng)域應(yīng)用發(fā)展。從互聯(lián)網(wǎng)領(lǐng)域中的推薦算法、AI生成內(nèi)容(AIGC),到產(chǎn)業(yè)領(lǐng)域中的自動駕駛汽車、醫(yī)療AI、工業(yè)質(zhì)檢AI,再到社會公共服務(wù)中的便民應(yīng)用,可見算法為數(shù)字經(jīng)濟和社會的高質(zhì)量發(fā)展“提質(zhì)增效”。
與此同時,算法的廣泛應(yīng)用也帶來一些負(fù)面問題,諸如信息繭房、隱私侵犯、大數(shù)據(jù)殺熟、算法濫用等。為此,國內(nèi)外開始探索建立算法治理的新路徑新舉措,更好地保障可信的、負(fù)責(zé)任的、以人為本的算法技術(shù)創(chuàng)新與應(yīng)用。
在這些背景下,騰訊研究院法律研究中心研究推出了《人工智能時代的算法治理報告2022——構(gòu)建法律、倫理、技術(shù)協(xié)同的算法治理格局》。報告立足于算法的技術(shù)趨勢和行業(yè)應(yīng)用現(xiàn)狀,從法律監(jiān)管、倫理治理、技術(shù)治理三個層面梳理總結(jié)國內(nèi)外在算法治理方面的實踐做法,以期通過多元參與、敏捷靈活、精準(zhǔn)有效的算法治理,保障算法技術(shù)創(chuàng)新與應(yīng)用健康、有序、繁榮發(fā)展。
當(dāng)前,在算法技術(shù)創(chuàng)新中,主要有大模型、合成數(shù)據(jù)和生成性AI三個趨勢。其中,大模型無疑是最為重要的發(fā)展趨勢之一。相較于過去功能較為單一的算法模型而言,大模型具有更強的通用性。因此,大模型也意味著“AI工業(yè)化”的到來。AI工業(yè)化是指,AI具備了標(biāo)準(zhǔn)化、模塊化、自動化的特征,能夠大規(guī)模地在產(chǎn)業(yè)中落地應(yīng)用。大模型正體現(xiàn)了AI標(biāo)準(zhǔn)化、模塊化、自動化的實現(xiàn)路徑,并且大模型形成的成本邊際效應(yīng),極大地節(jié)約了AI應(yīng)用成本。
附件:2022人工智能時代的算法治理報告-構(gòu)建法律、倫理、技術(shù)協(xié)同的算法治理格局
受基層影像醫(yī)師學(xué)歷偏低和經(jīng)驗不足等因素影響,基層影像設(shè)備診療能力并未被完全釋放,為人工智能醫(yī)學(xué)影像產(chǎn)品在基層落地提供巨大市場機遇
第一級銀行業(yè)金融機構(gòu)未在任何業(yè)務(wù)建立模型分級方法/流程;第二級銀行業(yè)金融機構(gòu)從業(yè)務(wù)和技術(shù)層面;第三級銀行業(yè)金融機構(gòu)明確模型分級原則方法和操作要求
OpenAI提出DALLE模型,可以根據(jù)用戶輸入的文本生成對應(yīng)的圖像,Imagen模型,CogView,VQ-Diffusion 模型以及 NUWA-infinity 等效果同樣出色
谷歌CVPR 2022擁有18億參數(shù),并使用30億的 標(biāo)注圖像進行訓(xùn)練,在ImageNet上取得了新的記錄90.45%,證明了視覺大模型(30億參數(shù))在廣泛視覺問題上的有效性
多模態(tài)數(shù)據(jù)具有異構(gòu)性 多模態(tài)數(shù)據(jù)的關(guān)聯(lián)難度表示較大 多模態(tài)知識融合困難 多模態(tài)問答大多只能處理簡單的問題 多模態(tài)知識問答推理能力弱 可解釋性差
我國新一代人工智能治理工作框架應(yīng)整合社會各界對AI社會技術(shù)復(fù)合體的離散性認(rèn)知,突破AI包容審慎實踐的探索,建立基于“邏輯-秩序-監(jiān)管“的人工智能治理工作框架
高增長:未來五年全球人工智能市場規(guī)模平均增速將超過20%;高集中:軟件占比近40%硬件產(chǎn)品占比接近35%;高壁壘:滲透率還不到4%
在規(guī)劃設(shè)計階段機器學(xué)習(xí)場景中固有的不可預(yù)測性,傳達(dá)實施偏差會進一步加劇;在研發(fā)部署階段模型運行之后的動態(tài)更新缺乏足夠驗證等挑戰(zhàn)
構(gòu)建面向可持續(xù)發(fā)展的人工智能技術(shù)體系,推動人工智能技術(shù)可用、可靠、可信,其內(nèi)涵包括提升技術(shù)安全和構(gòu)建技術(shù)管理機制兩個層面工作
企業(yè)作為落實人工智能治理原則的重要主體,形成覆蓋人工智能產(chǎn)品全生命周期的風(fēng)險管理機制,提出了面向可持續(xù)發(fā)展的人工智能治理基本框架
數(shù)據(jù)不完備和濫用風(fēng)險突出而損害用戶的權(quán)益;人工智能算法存在固有缺陷在可解釋性魯棒性偏見歧視等方面尚存在局限;企業(yè)人工智能管理體系不完善
調(diào)度決策外賣調(diào)度系統(tǒng)困住騎手;個性化推薦電商場景下的信息繭房和馬太效應(yīng);內(nèi)容治理如何守護清朗健康的網(wǎng)絡(luò)環(huán)境;人工智能可以放心使用嗎
全球人工智能市場收支規(guī)模達(dá)850廳美元,預(yù)測,2022年該市場規(guī)模將同比增長約20%至 1017廳美元,并將于2025年突破2000廳美元大關(guān), CAGR 達(dá)24.5%
頭部科技企業(yè)先后發(fā)布了AI治理戰(zhàn)略和治理體系,成立了相關(guān)委員會和工作組,聚焦企業(yè)層面的AI治理和風(fēng)險管理體系,可信AI技術(shù)和保障工具也在蓬勃發(fā)展