(資料圖片)

中國科學院自動化研究所人工智能倫理與治理中心主任曾毅告訴新京報貝殼財經(jīng)記者，科學界在AIGC的發(fā)展浪潮中需要與公眾在一起為人工智能把脈、把關(guān)，發(fā)聲并引導健康穩(wěn)健發(fā)展。

從道德心理學角度，道德判斷是基于道德直覺、道德原則和價值觀對某種行為或決策的道德性質(zhì)進行評估的過程，是道德認知的重要方面。據(jù)了解，該平臺可由公眾、專家參與刻畫人類在不同情景下的道德認知和行為，助力人工智能的發(fā)展與應用“從善如流”。

為了刻畫人類在不同道德情景下道德判斷的分布，為人工智能模型的價值對齊和評測及與人類交互提供參照，“智善·如流”平臺發(fā)布并首批上線了在線場景道德判斷功能，支持用戶在線對平臺上隨機抽取的場景和行為進行道德評判，從是否道德、符合/違背道德的程度、對于道德判斷的確信度等不同方面和要素上由公眾、專家等相關(guān)方提供判斷。目前，首批道德情景規(guī)模和已標注的人類道德判斷數(shù)據(jù)量達到萬級，場景由人與AI協(xié)作創(chuàng)造并經(jīng)人工校驗，數(shù)據(jù)文本均采用中文形式，所有道德情景均經(jīng)過中文本土化標注員審核和校對以合乎中國價值觀和國際共識。

曾毅表示，這些道德情景不僅包括了諸如“電車難題”“海因茲偷藥難題”“科爾伯格兩難問題”等道德哲學中的經(jīng)典問題，同時更大量涵蓋了闖紅燈、攙扶老人、給老幼讓座、公共場所大聲喧嘩、婚姻中的感情背叛、朋友間的違背約定等日常生活中的常見情景，涉及個人品德、社會公德、生命尊重、尊嚴自主、公民權(quán)益、公平正義、忠誠背叛、職業(yè)道德、家庭倫理等不同的倫理道德話題。多樣化的道德情景設定將不只幫助人工智能學習人類如何看待倫理道德中的難問題，同時更讓人工智能對日常情景有基本的道德能力，盡可能做到“困難題可以答，容易題不犯錯”。

編輯 白華兵

校對 盧茜