計劃三年內(nèi)提供100萬美元,用于研究如何使 AI 具有道德意識。

OpenAI 資助杜克大學(xué)研究項目,款項將用于“人工智能道德”的學(xué)術(shù)方向

2024-11-27 08:54:38發(fā)布     來源:多知    作者:Mint  

  多知11月27日消息,據(jù)外媒 TechCrunch 報道,在美國國稅局提交文件披露的一項舉措中,OpenAI 的非營利部門向美國杜克大學(xué)的研究人員提供了一筆贈款,用于一個名為“Research AI Morality(研究人工智能道德)”的項目。

  據(jù)介紹,該項目屬于一項更大的計劃,該計劃在三年內(nèi)提供100萬美元,用于研究如何使 AI 具有道德意識。

  該項目由專門研究實(shí)踐倫理學(xué)的教授 Walter Sinnott-Armstrong 和 Jana Schaich Borg 領(lǐng)導(dǎo),Sinnott-Armstrong 是哲學(xué)界的研究人員,他深入應(yīng)用倫理學(xué)、道德心理學(xué)和神經(jīng)科學(xué)等領(lǐng)域。他在杜克大學(xué)的團(tuán)隊致力于解決現(xiàn)實(shí)世界中的難題,比如通過設(shè)計算法來決定誰應(yīng)該接受器官移植、權(quán)衡公眾和專家的觀點(diǎn)來完善這些系統(tǒng)的公平性。

  OpenAI 資助的項目旨在創(chuàng)建算法,預(yù)測醫(yī)學(xué)、法律和商業(yè)等領(lǐng)域的人類道德判斷。這個研究的難點(diǎn)源于 AI 的運(yùn)作方式:機(jī)器學(xué)習(xí)模型基于訓(xùn)練數(shù)據(jù)預(yù)測結(jié)果,因此通常反映了主流文化的意見,可能會存在偏見。

  針對此次的報道,Walter Sinnott-Armstrong通過電子郵件回應(yīng)TechCrunch稱,他“無法談?wù)?rdquo;這項研究內(nèi)容。