【兩會提案】 關于規范人工智能安全健康發展的提案
發布時間 2019-03-05
全國政協委員、啟明星辰信息技術集團股份有限公司首席執行官嚴望佳第二份提案傾情為您奉上。
人工智能是驅動新一輪科技革命與產業變革的戰略性技術力量。近年來，在黨中央、國務院的戰略政策引導下，我國人工智能發展迅速，已經有力地推動了社會經濟的發展和人民生活水平的提升。然而必須注意到，由于人工智能技術仍處于快速發展中，若不注意有效地安全控制和管理，則可能留下難以估量的安全隱患。習近平總書記在主持中共中央政治局第九次集體學習時指出：“要加強人工智能發展的潛在風險研判和防范，維護人民利益和國家安全，確保人工智能安全、可靠、可控?！睘榱诉_到這一目標，在法律規范、監督管理、學術研究等方面都需要做出相應的努力。
具體看來，當前人工智能技術的發展主要存在如下安全方面的問題：
1）人工智能安全健康發展法規和倫理道德研究不足。當前人工智能應用越來越廣泛，但其在法律主體、權利、義務和責任方面還存在很多研究和應用空白。隨著人工智能的應用推廣，其在法律、社會規范和道德倫理的挑戰將越來越明顯?？傮w來看，目前針對人工智能的發展主要以戰略、政策的形式進行引導激勵，而相應的法律法規以及道德規范要求還不健全，尚不能有效防范控制潛在的安全風險。
2）多種因素可能導致人工智能產品和應用存在缺陷。在從算法原理、設計編碼、生產實現以及到應用部署等等多個階段中，由于算法本身未考慮公平性、程序員編碼漏洞、用于模型訓練的數據樣本存在偏差等因素，均可能導致實際應用中人工智能算法決策出現錯誤、偏差或帶來歧視性問題。如果問題發生在涉及國計民生的重要領域（如自動駕駛、醫療、金融等）中，將會帶來嚴重的危害。
3）人工智能產品和應用的安全評估工作進展緩慢。當前，針對爆發式的人工智能產品和應用，不少研究機構在熟悉的技術點方面發現了多個安全漏洞，但幾乎都缺乏全面和系統性的安全評價?？傮w上，由于存在技術融合多、使用環境復雜、應用領域廣等方面的原因，目前針對人工智能產品和應用的安全評估工作尚處于研究探索階段，在系統性評估技術、評估標準規范、測評工作組織方面進展較為緩慢。
為了進一步加強全行業對人工智能安全的重視，規范引導人工智能技術安全健康發展，確保其成為驅動社會經濟發展和人民生活水平提升的可靠戰略性力量，應在大力推動新技術研發的同時健全安全管控措施，以達到習近平總書記的“安全、可靠、可控”要求。
具體建議如下：
1）加快開展人工智能安全應用法規和倫理道德的研究
除了要繼續落實和加強對人工智能的激勵引導措施之外，建議還加快安全應用規章和規范的研究，確保其沿著良性健康發展之路前進。具體的安全規范機制包括研究出臺相關法律法規，界定人工智能應用的法律主體及相應的權利和義務；開展人工智能倫理道德的探討，約束人工智能研究與實際應用的范圍界限。
2）建立關鍵領域內的人工智能應用安全審查機制
在一些直接影響國計民生和公共安全的關鍵領域中，例如醫療、金融、交通和教育等，人工智能應用和人身安全、社會穩定和國家安全密切相關，一旦發生安全事件將會造成嚴重的后果。因此在這些領域內，建議建立人工智能應用的準入審查機制，加強人工智能算法及應用的安全性、可控性和透明性的審查。
3）展開人工智能安全評估技術研究，健全完善測評機制
提案二：
關于規范人工智能安全健康發展的提案
01 問題及原因分析
人工智能是驅動新一輪科技革命與產業變革的戰略性技術力量。近年來，在黨中央、國務院的戰略政策引導下，我國人工智能發展迅速，已經有力地推動了社會經濟的發展和人民生活水平的提升。然而必須注意到，由于人工智能技術仍處于快速發展中，若不注意有效地安全控制和管理，則可能留下難以估量的安全隱患。習近平總書記在主持中共中央政治局第九次集體學習時指出：“要加強人工智能發展的潛在風險研判和防范，維護人民利益和國家安全，確保人工智能安全、可靠、可控?！睘榱诉_到這一目標，在法律規范、監督管理、學術研究等方面都需要做出相應的努力。
具體看來，當前人工智能技術的發展主要存在如下安全方面的問題：
1）人工智能安全健康發展法規和倫理道德研究不足。當前人工智能應用越來越廣泛，但其在法律主體、權利、義務和責任方面還存在很多研究和應用空白。隨著人工智能的應用推廣，其在法律、社會規范和道德倫理的挑戰將越來越明顯?？傮w來看，目前針對人工智能的發展主要以戰略、政策的形式進行引導激勵，而相應的法律法規以及道德規范要求還不健全，尚不能有效防范控制潛在的安全風險。
2）多種因素可能導致人工智能產品和應用存在缺陷。在從算法原理、設計編碼、生產實現以及到應用部署等等多個階段中，由于算法本身未考慮公平性、程序員編碼漏洞、用于模型訓練的數據樣本存在偏差等因素，均可能導致實際應用中人工智能算法決策出現錯誤、偏差或帶來歧視性問題。如果問題發生在涉及國計民生的重要領域（如自動駕駛、醫療、金融等）中，將會帶來嚴重的危害。
3）人工智能產品和應用的安全評估工作進展緩慢。當前，針對爆發式的人工智能產品和應用，不少研究機構在熟悉的技術點方面發現了多個安全漏洞，但幾乎都缺乏全面和系統性的安全評價?？傮w上，由于存在技術融合多、使用環境復雜、應用領域廣等方面的原因，目前針對人工智能產品和應用的安全評估工作尚處于研究探索階段，在系統性評估技術、評估標準規范、測評工作組織方面進展較為緩慢。
02 具體建議
為了進一步加強全行業對人工智能安全的重視，規范引導人工智能技術安全健康發展，確保其成為驅動社會經濟發展和人民生活水平提升的可靠戰略性力量，應在大力推動新技術研發的同時健全安全管控措施，以達到習近平總書記的“安全、可靠、可控”要求。
具體建議如下：
1）加快開展人工智能安全應用法規和倫理道德的研究
除了要繼續落實和加強對人工智能的激勵引導措施之外，建議還加快安全應用規章和規范的研究，確保其沿著良性健康發展之路前進。具體的安全規范機制包括研究出臺相關法律法規，界定人工智能應用的法律主體及相應的權利和義務；開展人工智能倫理道德的探討，約束人工智能研究與實際應用的范圍界限。
2）建立關鍵領域內的人工智能應用安全審查機制
在一些直接影響國計民生和公共安全的關鍵領域中，例如醫療、金融、交通和教育等，人工智能應用和人身安全、社會穩定和國家安全密切相關，一旦發生安全事件將會造成嚴重的后果。因此在這些領域內，建議建立人工智能應用的準入審查機制，加強人工智能算法及應用的安全性、可控性和透明性的審查。
3）展開人工智能安全評估技術研究，健全完善測評機制
建議通過產業政策引導和組織管理措施，一方面引導加快研究人工智能產品和應用的安全評估評測技術，逐步積累安全檢測樣例庫、測試樣本庫等知識資源和研發測試工具集，提高人工智能產品和應用的安全評估評測能力；另一方面推動人工智能安全相關的國家標準和行業標準的制定工作，明確相關安全評估指標、方法和要求，建立安全測評流程和管理規范，健全人工智能產品和應用安全測評機制。
其他提案內容將會陸續發布,請繼續關注！
京公網安備11010802024551號