國家網信辦：利用合成數據進行模型訓練和關鍵能力優化時 應當評估合成數據安全性

每經AI快訊，12月27日，國家互聯網信息辦公室起草了《人工智能擬人化互動服務管理暫行辦法（征求意見稿）》，現向社會公開征求意見。意見稿提出，提供者開展預訓練、優化訓練等數據處理活動時，應當加強訓練數據管理，遵守以下規定：

（一）使用符合社會主義核心價值觀、體現中華優秀傳統文化的數據集；

（二）對訓練數據開展清洗、標注，增強訓練數據的透明度、可靠性，防范數據投毒、數據篡改等行為；

（三）提高訓練數據的多樣性，通過負向采樣、對抗訓練等手段，提升模型生成內容安全性；

（四）利用合成數據進行模型訓練和關鍵能力優化時，應當評估合成數據安全性；

（五）加強對訓練數據的日常檢查，定期對數據進行迭代升級，持續優化產品和服務的性能；

（六）保障訓練數據來源合法、可追溯，采取必要措施保障數據安全，防范數據泄露風險。