【資料圖】

“智善·觀行”名稱取自“察言觀行”，即通過匯聚公眾對人工智能大模型的倫理安全測試反饋來觀察評估現(xiàn)有人工智能大模型表現(xiàn)出的“道德品行”，從而為進(jìn)一步改善相關(guān)人工智能大模型提供參考依據(jù)，“智善·觀行”人工智能大模型倫理安全觀測站的中英文版同步發(fā)布（中文版地址：https://for-good.ai/large-ai-investigator）。

“智善·觀行”人工智能大模型倫理安全觀測平臺網(wǎng)站截圖

據(jù)了解，該平臺通過公眾參與、公眾反饋的眾包模式邀請公眾參與對不同企業(yè)、學(xué)術(shù)機(jī)構(gòu)等發(fā)布的人工智能大模型的倫理安全評估，并通過在線提交測試結(jié)果的形式反饋大模型輸出存在的倫理安全問題、以及輸出結(jié)果合乎倫理安全的案例。相關(guān)評估結(jié)果與問題在網(wǎng)上公開，一方面為涉及到的人工智能大模型提供幫助和反饋便于其自身的進(jìn)一步改進(jìn)，另一方面所有人工智能大模型的研發(fā)均可以參考其他模型存在的潛在問題以及合乎倫理安全的輸出，利用相關(guān)的問題與案例來改進(jìn)自身服務(wù)。

中國科學(xué)院自動化研究所人工智能倫理與治理中心主任曾毅表示，人工智能大模型實現(xiàn)智能向善需要大家的共同參與，通過公眾的“察言觀行”來群智群力，共同助力人工智能大模型倫理安全的提升與發(fā)展。

編輯 程子姣

校對 柳寶慶