在本次論壇上，上海市委統戰部二級巡視員、上海市歐美同學會黨組書記李霞為上海標準《信息技術人工智能系統生命周期治理指南》（以下簡稱《治理指南》）工作組核心編寫成員頒發聘書，核心成員來自上海市人工智能行業協會、市軟件開發中心、信通院華東分院、商湯科技、華東師范大學等五家單位。

“AIGC的快速發展推動‘基礎模型即服務’模式加快落地普及。”田豐院長在《AIGC倫理與治理初探》演講開篇中這樣講到，AIGC發展進入快車道，市場規模也正加速擴大，有分析預計，2023年至2032年全球生成AI市場將以27.02%的復合年增長率增長，2032年將達到1180.6億美元左右。

田豐認為，在以AIGC為代表的人工智能產業高速發展的同時，其倫理治理風險也應受到關注，比如國內外多家核心期刊對學術發表中使用人工智能工具做出了嚴正回應，而除了學術造假和作弊等問題外，AIGC還會引發版權和虛假信息等問題。綜合來看，AIGC倫理治理風險主要涉及應用風險、模型風險和數據風險。具體來看，應用風險主要包括濫用風險、就業替代、倫理沖突和不公平競爭；模型風險主要包括算法偏見、算法黑箱、后門嵌入和代碼漏洞；數據風險主要包括版權保護、隱私保護、數據偏差和數據投毒。

田豐表示，商湯長期高度重視AI倫理治理，多年來成功建設倫理風險庫，成立“人工智能倫理與治理委員會”，全面建立產品倫理風險審查機制，實現產品倫理風險分級分類管理，并建設倫理治理技術與管理工具箱。

對于實踐方面的探索，田豐結合六個應用實例對商湯的AI倫理治理進行了介紹：比如數字水印技術，可實現對多圖層(PSD)格式文件添加水印，在無損視覺效果的基礎上，還保障了文件的真實性和可溯源性；而結合數據投毒技術，對創作者作品添加不可見擾動，可以使其風格無法被深度學習模型擬合，從而對作者獨特的創作風格進行保護；創新性的數據沙箱模式可以在保護數據隱私的前提下，通過隱私傳輸，聯合計算，讓數據發揮最大價值等。

此外，商湯還建立了覆蓋產品全生命周期的倫理審查體系，從設計階段的自我審查、開發階段的風險評估、部署階段的倫理風險審核到產品上線后的跟蹤審查，提供可信任的全棧AI倫理審查服務。

面對AIGC、大模型創新浪潮，倫理風險與安全機制尤為重要，商湯科技智能產業研究院院長田豐透露將會推出人工智能安全開放平臺。該平臺的目標是打造廣泛驗證使用的可信任的全棧AI安全服務，在深度模型安全上，平臺提供模型體檢(涵蓋對抗安全、魯棒性以及后門安全評估)和開源的防御解決方案。在內容創作保護上，平臺提數字水印功能，并且利用投毒技術保護圖片信息不被深度生成模型所利用。

展望未來，商湯將繼續在AI倫理治理道路上貢獻自己的力量，作為一家人工智能企業，我們也誠摯邀請各界共同打造開放、可信的人工智能創新生態，讓技術賦能產業升級和創新發展。