人工智能（AI）的快速發(fā)展正在眾多行業(yè)領域掀起一場顛覆性的技術與模式革新。

一方面，AI技術的應用展現(xiàn)了巨大的商業(yè)價值，在降低成本、提升效率、加速創(chuàng)新等方面發(fā)揮了關鍵作用。另一方面，人們面臨的科技倫理挑戰(zhàn)也日益嚴峻。例如，AI及算法應用對就業(yè)市場造成了沖擊，“外賣騎手被困在系統(tǒng)里”等現(xiàn)象，都是AI推廣過程中客觀存在且不容忽視的現(xiàn)實。長期來看，可能會引發(fā)更多非效率性的社會問題，逐漸惡化社會對人工智能的接受度和容忍度，阻礙友好型人工智能社會的建設。

AI作為引領新一輪科技革命和產業(yè)變革的戰(zhàn)略性技術，是推動我國生產力整體躍升的重要戰(zhàn)略資源。我們需要制定有針對性的政策措施，加快構建適應AI產業(yè)發(fā)展的制度環(huán)境。對于AI帶來的發(fā)展機遇及其伴隨的科技倫理治理挑戰(zhàn)，我們應給予辯證的理解，急需重新審視科學技術的倫理底線與合法性邊界。

明確AI規(guī)制目標與重點

AI技術的發(fā)展邏輯顛覆了傳統(tǒng)的社會治理模式，全新的治理模式期待全新的規(guī)制和監(jiān)管路徑。當前的規(guī)制目標在于實現(xiàn)以規(guī)制促發(fā)展，堅持安全可信的法治之維、科技向善的倫理之維、創(chuàng)新發(fā)展的技術之維，圍繞“社會—人類—機器”等要素，從“法律—倫理—技術”等維度展開規(guī)制，在法治軌道上鼓勵技術創(chuàng)新。

首先，從法治維度出發(fā)，應建立負責任的AI治理機制，建立AI安全可信的標準和評價體系，筑牢安全底線，促進AI健康發(fā)展。應對AI應用的安全性、可信性、倫理合規(guī)性等方面進行量化評估，為AI技術的發(fā)展提供明確的方向和參考。為進一步推進AI治理法治化，應樹立完善的技術發(fā)展與應用理念，保證AI應用在面對攻擊和威脅時能夠保持正常運行和數(shù)據(jù)安全，加快推動完善針對AI的法律地位、AI成果權利歸屬、AI損害后果的責任劃分、AI風險的法律控制等重點問題的法律規(guī)范，著力平衡AI產業(yè)發(fā)展和社會安全，保證AI輸出結果是可預測的、可解釋的，并且符合人類的價值觀和倫理準則，防止技術在利益的裹挾下無序應用，以法治保障AI健康發(fā)展。

其次，從科技倫理維度出發(fā)，應建立一整套相對完整的制度規(guī)范體系，這一體系應基于增進人類福祉、促進公平公正、保護隱私安全、確保可控可信、強化責任擔當以及提升倫理素養(yǎng)這六項基本倫理要求，推動AI朝著通用、可信、負責任的方向發(fā)展。一方面，應為AI產品研發(fā)設計人員制定道德規(guī)范和行為守則；另一方面，應構建多層次的倫理道德判斷結構以及人機協(xié)作的倫理框架。

最后，從技術維度出發(fā)，應在確保AI安全可信、科技向善、符合倫理的前提下，積極鼓勵AI技術的融合與創(chuàng)新，不斷拓展其應用場景，并努力嘗試跨學科交叉融合，以推動AI應用的可持續(xù)發(fā)展。具體而言，AI技術應進一步與物聯(lián)網(wǎng)、云計算、大數(shù)據(jù)等深度融合，構建更加智能、高效、便捷的服務體系。同時，還應不斷拓展AI在智能家居、自動駕駛、醫(yī)療診斷、金融分析等多個領域的應用，加強跨學科交叉融合。例如，在醫(yī)療診斷領域，AI技術可以輔助醫(yī)生進行疾病診斷、制定治療方案；在金融分析領域，AI技術可以實現(xiàn)風險評估、優(yōu)化投資策略等功能。

完善AI相關制度設計與實踐進路

科技法治是鼓勵與規(guī)范科技創(chuàng)新的基石，而科技倫理則致力于優(yōu)化和改善科技創(chuàng)新。無論是科技倫理還是科技法治，都旨在推動科技創(chuàng)新的同時，遏制科技不端行為和科技濫用違法現(xiàn)象。為此，應完善相關法律制度的設計與實踐路徑，加強行業(yè)監(jiān)管，明確行為底線，多方協(xié)作，對AI應用中的不法行為進行有效監(jiān)管，確保AI技術的健康與可持續(xù)發(fā)展。

首先，加強數(shù)據(jù)保護與隱私立法。應完善數(shù)據(jù)相關法律法規(guī)，明確數(shù)據(jù)收集、存儲、處理和共享的規(guī)范，為AI技術開發(fā)與應用中的數(shù)據(jù)相關行為提供法律指引?！渡墒饺斯ぶ悄芊展芾頃盒修k法》對數(shù)據(jù)安全和隱私保護作出了具體規(guī)定，包括服務提供者需確保數(shù)據(jù)來源的合法性，以及關于訓練數(shù)據(jù)的特性、個人信息與知識產權的保護規(guī)定。該辦法還將相關監(jiān)督檢查和法律責任納入我國網(wǎng)絡安全和數(shù)據(jù)隱私保護的基礎性法律框架內。在不斷完善法律規(guī)范的同時，還應加大監(jiān)管執(zhí)法力度，嚴厲打擊侵犯個人隱私的行為，確保法律的有效實施。此外，應加強在數(shù)據(jù)保護和隱私立法方面的國際合作，消除數(shù)據(jù)跨境傳輸過程中存在的數(shù)據(jù)泄露和隱私侵犯的隱患，共同維護全球數(shù)據(jù)安全和隱私權益。

其次，優(yōu)化算法設計與公平性審查。算法是AI發(fā)展的核心技術工具，只有合規(guī)、良善的算法才能更好地促進AI的安全、可信、負責任發(fā)展。

第一，優(yōu)化法律體系配置，重點關注算法偏見問題，并加強法律法規(guī)間的協(xié)同，構建全方位、多層次、立體化的算法偏見規(guī)制體系，涵蓋法律、行政規(guī)章及地方性法規(guī)，為個人提供充分的數(shù)據(jù)權利保障，為抵御算法偏見侵害提供堅實法律支撐。

第二，實施算法分類分級管理，細化《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》中的分類標準，并制定相應的風險等級和監(jiān)管舉措，完善基于算法分類分級的算法備案、算法評估、算法安全風險監(jiān)測和算法審計制度，提升制度的明確性和可操作性。

第三，探索建立算法偏見公益訴訟制度，結合民事與行政公益訴訟，完善救濟途徑，保障公共利益，引導算法在法治框架內有序發(fā)展，推動數(shù)字化進程更加成熟完善。

再次，提高AI決策的透明度與可解釋性。透明度是AI確保其內部算法可見性的關鍵屬性，包括公開數(shù)據(jù)、特征、模型、算法、訓練方法和質量保證程序，以便外部監(jiān)督和審查。可解釋性的目標是增強理解，使目標受眾更好地理解AI的行動與決策。應建立公開透明、可解釋的AI監(jiān)管體系。

第一，提升AI模型技術和數(shù)據(jù)源的透明度，公開AI在系統(tǒng)開發(fā)、數(shù)據(jù)收集、管理、結果可操作化等過程的信息，使用戶了解AI模型決策的過程、依據(jù)和規(guī)則，打破黑箱壁壘，增強用戶對模型的信任。

第二，強化公眾審查和監(jiān)督，落實算法備案、算法審計等制度，協(xié)助用戶追溯數(shù)據(jù)輸入、輸出、運行過程與自動化決策結果間的因果關系，全面審視數(shù)據(jù)收集方法、自我審核流程、價值承諾及利益相關者參與等過程。當利益相關者的權益可能因自動化決策受損時，可解釋性能及時解答疑問，提供救濟。

第三，完善AI備案制度，優(yōu)化互聯(lián)網(wǎng)信息服務算法備案系統(tǒng)，拓展備案信息范圍，要求備案主體公開更多技術要素，如運作原理、系統(tǒng)架構、數(shù)據(jù)集、訓練模型及參數(shù)等，并闡述其價值觀和要解決的技術問題。同時，也要將相關外國主體納入備案范疇，確保其遵守我國相關規(guī)定。

最后，明確責任主體與加大監(jiān)管力度。雖然AI應用帶來了傳統(tǒng)“主體—行為—責任”理論下的“責任鴻溝”問題，但AI算法技術的應用，如算法的設計與部署，都蘊含了價值觀和主觀意圖，這是法律追責的核心，也是判定法律責任的關鍵。因此，應尊重技術邏輯，構建機器/人—機聯(lián)合體，并根據(jù)侵權場景的類型化，確立多方責任主體的識別路徑，聚焦行為正當性的判斷。以AI算法設計部署中的主觀過錯作為追責的基礎，結合聯(lián)合體內的責任與經(jīng)濟利益的關聯(lián)，實現(xiàn)責任分配的公正性。

此外，還需增強《中華人民共和國民法典》《中華人民共和國刑法》等法律在AI應用場景中對主體責任和產品質量缺陷等問題的適用性，強化對AI設計和應用監(jiān)督的雙重監(jiān)管。在責任判定中，應綜合考慮行為人和AI服務提供商在侵權行為及損害后果中的實際作用。如果發(fā)生損害，可參考《中華人民共和國民法典》中的產品生產者責任條款，即產品缺陷造成他人損害的，生產者應承擔侵權責任，被侵權人有權向產品提供者索賠。這要求AI提供者，通常是平臺主體，履行高度注意義務。賦予AI提供者相應責任義務，有助于規(guī)范生成內容的合法性。當然，若平臺已履行其義務，鑒于其對創(chuàng)新發(fā)展的貢獻，在責任承擔上不宜過于嚴苛，以免阻礙AI技術發(fā)展和未來商業(yè)應用。

（陳兵系南開大學競爭法研究中心主任、法學院副院長，數(shù)字經(jīng)濟交叉科學中心研究員；傅小鷗系南開大學競爭法研究中心研究助理）

相關知識

智能制造，驅動工業(yè)經(jīng)濟高質量發(fā)展的核心動力
新時代新征程新偉業(yè)丨“為經(jīng)濟高質量發(fā)展貢獻企業(yè)力量”
數(shù)智化創(chuàng)新 促進衛(wèi)生健康事業(yè)高質量發(fā)展
省政協(xié)“加快推進我省醫(yī)養(yǎng)結合產業(yè)高質量發(fā)展”月協(xié)商座談會發(fā)言摘登
以優(yōu)質供給引領消費 家居產業(yè)邁向高質量發(fā)展
促進醫(yī)藥產業(yè)高質量發(fā)展
中國食藥促進會智慧健康美容分會成立：促進美業(yè)高質量發(fā)展，推動生活服務品質升級
中國發(fā)展高層論壇2024丨為大健康產業(yè)高質量發(fā)展貢獻更多力量
國家衛(wèi)生健康委：促進兒童健康高質量發(fā)展（發(fā)布會實錄）
人工智能（AI）+醫(yī)療發(fā)展受益于政策支持和技術進步的快速發(fā)展

網(wǎng)址: 加快高質量制度供給，促進人工智能健康發(fā)展丨法經(jīng)兵言 http://www.u1s5d6.cn/newsview824974.html