在近日中國計算機學會計算法學分會舉辦的首屆年會上，商湯科技副總裁、倫理與治理委員會主席張望，受邀在主論壇發表演講，面向國內外百名專家學者和企業領導者，分享了“商湯科技AI倫理與治理前沿實踐”的主題報告，從組織建設、倫理研究、治理實踐、生態合作四方面重點介紹了商湯科技在人工智能倫理與治理方面的實踐探索。

▎推進人工智能倫理治理工作體系建設

演講中，張望首先介紹了商湯人工智能倫理治理的組織建設。

商湯在2020年1月正式成立“人工智能倫理與治理委員會”，是業界最先組建人工智能倫理與治理委員會，并將倫理治理工作作為公司戰略級方向的科技創新企業之一。

同時，商湯與多所知名高校建立密切的倫理研究合作機制，積極開展合作課題，推動AI技術向負責任且可持續的方向發展。

▎堅持“平衡發展”的人工智能治理實踐

在人工智能倫理治理實踐中，張望闡述商湯科技堅持“平衡發展”的倫理觀，把“可持續發展、以人為本、技術可控”的倫理原則落實到實際工作中，四年來不斷推動倫理治理工作迭代升級。

商湯科技致力于將倫理原則嵌入到產品設計、開發、部署的全生命周期，今年在業界首次提出發展“負責任且可評估”的人工智能，并將其作為開展人工智能治理的愿景目標。

為實現這一目標，著力推進三方面的人工智能倫理治理實踐：一是建立覆蓋產品全生命周期的風險控制機制；二是開發一系列流程工具和技術平臺；三是做好公司內部的科技倫理宣貫。

目前，商湯已建立起覆蓋產品全生命周期的風險控制機制，針對人工智能領域面臨的數據、算法及應用管理風險，初步形成了人工智能治理閉環。

例如，在應對算法風險上，商湯通過建立“算法定級備案管理與安全評估機制”，成立“算法安全管理工作組”，從技術局限、算法設計、軟件缺陷、數據安全、框架安全等多個維度對算法風險進行安全評估。

同時，商湯與多所知名高校建立密切的倫理研究合作機制，積極開展合作課題，推動AI技術向負責任且可持續的方向發展。

▎堅持“平衡發展”的人工智能治理實踐

在人工智能倫理治理實踐中，張望闡述商湯科技堅持“平衡發展”的倫理觀，把“可持續發展、以人為本、技術可控”的倫理原則落實到實際工作中，四年來不斷推動倫理治理工作迭代升級。

商湯科技致力于將倫理原則嵌入到產品設計、開發、部署的全生命周期，今年在業界首次提出發展“負責任且可評估”的人工智能，并將其作為開展人工智能治理的愿景目標。

為實現這一目標，著力推進三方面的人工智能倫理治理實踐：一是建立覆蓋產品全生命周期的風險控制機制；二是開發一系列流程工具和技術平臺；三是做好公司內部的科技倫理宣貫。

目前，商湯已建立起覆蓋產品全生命周期的風險控制機制，針對人工智能領域面臨的數據、算法及應用管理風險，初步形成了人工智能治理閉環。

例如，在應對算法風險上，商湯通過建立“算法定級備案管理與安全評估機制”，成立“算法安全管理工作組”，從技術局限、算法設計、軟件缺陷、數據安全、框架安全等多個維度對算法風險進行安全評估。

委員會統籌推進人工智能倫理治理工作體系建設，日常職責包括制定倫理領域戰略發展規劃、產品倫理審核和風險把控、內部倫理通識培訓與宣傳，倫理治理生態體系建設、參與倫理標準討論與制定、開展倫理聯合研究等六個方面。特別是在倫理聯合研究方面，商湯早在2019年即開始持續推進人工智能倫理研究，并提出平衡發展的倫理觀，倡導“可持續發展、以人為本、技術可控”的倫理原則。