|
來源： 中國信通院 伴隨人工智能的迅速發展和廣泛應用，人類正在進入一個“人機物”相融合的萬物智能互聯時代。人工智能技術應用在帶來機遇的同時，也引發了系列倫理挑戰。為應對人工智能技術應用帶來的風險，世界各國積極推動人工智能倫理治理與合作。我國不斷健全人工智能倫理治理體系和機制，加快推動人工智能倫理治理技術化、工程化、標準化落地，促進人工智能向善發展。 2023年12月26日，中國信息通信研究院（簡稱“中國信通院”）在“2024中國信通院ICT深度觀察報告會”科技倫理治理分論壇上發布了《人工智能倫理治理研究報告（2023年）》。 報告在總結人工智能倫理治理有關概念和特點的基礎上，對人工智能生成內容、自動駕駛、智慧醫療三個典型應用場景的倫理風險進行分析，并結合國內外人工智能倫理治理實踐，提出人工智能倫理治理的四點展望，以期為更加廣泛深入的討論提供參考。 報告核心觀點 1. 人工智能倫理風險挑戰亟需關注 目前，人工智能引發的倫理挑戰已從理論研討變為現實風險。在技術研發階段，由于人工智能技術開發主體在數據獲取和使用、算法設計、模型調優等方面還存在技術能力和管理方式的不足，可能產生偏見歧視、隱私泄露、錯誤信息、不可解釋等倫理風險。在產品研發與應用階段，人工智能產品所面向的具體領域、人工智能系統的部署應用范圍等將影響人工智能倫理風險程度，并可能產生誤用濫用、過度依賴、沖擊教育與就業等倫理風險。對于人工智能生成內容、自動駕駛、智慧醫療等典型應用場景，需要根據風險發生頻率、影響范圍、影響程度等評估主要風險。 2. 人工智能倫理治理是應對人工智能風險的有效機制 人工智能倫理治理是人工智能治理的重要組成部分，是應對人工智能風險挑戰的主要機制。人工智能倫理治理把以人為本、公平非歧視、透明可解釋、人類可控制、責任可追溯、可持續發展等作為核心內容，并根據人工智能技術發展和應用情況，及時提出調整人與人工智能關系和應對人工智能風險的方法。 3. 各國積極推進人工智能倫理治理 為應對人工智能技術應用帶來的風險，世界各國積極推動人工智能倫理國際治理合作。各國政府通過出臺人工智能倫理原則、發布人工智能倫理治理指引、提供技術治理工具等加強本國本地區的人工智能倫理治理監管。我國通過積極完善人工智能倫理制度規范，探索人工智能倫理治理技術化、工程化、標準化落地措施，引導行業自律，加強人工智能治理國際合作等舉措推動人工智能向善發展。 4. 人工智能倫理治理四點展望 在治理理念方面，堅持促進創新與防范風險相統一，統籌發展與安全。在治理舉措方面，健全多學科多主體合作、探索分類分級治理、推動治理技術工具開發。在能力建設方面，重視科研人員、開發人員、社會公眾等各主體科技倫理素養提升。在開放合作方面，積極參與全球人工智能倫理治理合作，推動人工智能技術造福人類。 |
