計算機科學和哲學雙學位旨在推進人工智能倫理領(lǐng)域。

Matthew Kearney 被麻省理工學院的越野團隊文化所吸引。他在得克薩斯州奧斯汀長大，喜歡在戶外度過時光和踢足球，但到了高中，跑步已成為他的主要運動。在看大學時，他想找到一個既有強大的學術(shù)能力又有強大的團隊社區(qū)的地方。在與越野隊進行正式訪問后，他知道麻省理工學院是適合他的地方。

“這確實是我在麻省理工學院經(jīng)歷中決定性的一部分，”科爾尼說。“我喜歡每個人以的方式表現(xiàn)出的古怪、有趣和怪異，以及那種做事方式有點不同的氛圍。除了明顯的學術(shù)和研究原因外，這就是賣給我的原因?！?/span>

科爾尼現(xiàn)在是一名大四學生和隊長，他充分利用了他的運動和學術(shù)經(jīng)驗。他來到麻省理工學院原本希望主修電氣工程和計算機科學，但在修讀 24.02（道德問題與美好生活）后愛上了哲學。他主修這兩個專業(yè)，同時還完成了計算機科學與工程碩士學位。

“哲學中讓我感興趣的部分是思考我們希望如何過我們的生活，什么對我們重要，什么對我們有價值，以及我們?nèi)绾我宰鹬貙λ酥匾膬r值觀的方式來做， ”科爾尼說。“我真的很喜歡更抽象但更有目的性的思考，以補充我計算機科學專業(yè)的技術(shù)嚴謹性?！?/span>

科爾尼的興趣在人工智能倫理領(lǐng)域有交集，他希望利用他的跨學科教育來深思熟慮地檢查和設(shè)計人工智能系統(tǒng)。畢業(yè)后，他將作為羅德學者在牛津大學攻讀計算機科學博士學位。

“從道德哲學的抽象原則一直到實際構(gòu)建人工智能工具來解決問題的對話并不多，”科爾尼說。“在我的 DPhil 中，我想問的是，我們?nèi)绾尾拍軓膶⒛承┑赖略瓌t構(gòu)建到 AI 中的目標開始，以及我們?nèi)绾尾拍軐⑵浣档统橄髮?，直到我們了解我們可以?gòu)建哪些技術(shù)工具來幫助實現(xiàn)這些目標。 ”

在課堂之外，科爾尼也表現(xiàn)。越野隊在秋季獲得了全國——這不僅是項目歷史上的個，也是麻省理工學院運動隊的個 NCAA 團體——科爾尼也獲得了全美個人榮譽。

以人為本的人工智能設(shè)計

科爾尼目前正在進行兩項研究工作。個是人類系統(tǒng)實驗室的一個項目，他正在設(shè)計降尺度方法以應用于氣候數(shù)據(jù)。大多數(shù)模型都在全球范圍內(nèi)，但能夠預測局部地區(qū)將如何受到影響可能有助于指導有效的政策并為生活在該地區(qū)的人們提供洞察力。

在他的碩士論文中，科爾尼正在幫助加深對大型語言模型的理解，這些模型用于構(gòu)建 ChatGPT 等工具。除了獲得技術(shù)知識外，科爾尼還一直在思考這些工具的倫理后果。

“在幕后，人們并不完全確定為什么這些模型會做出某些決定，”科爾尼說。“他們從數(shù)學上理解它是如何工作的，但他們不知道為什么模型會做出個人決定。我的研究重點一直是試圖了解概念在網(wǎng)絡(luò)中的位置，以及它們是如何在整個網(wǎng)絡(luò)中被識別和轉(zhuǎn)換的。然后我們就可以開始了解有關(guān)該模型的公平性和道德問題?！?/span>

在高層次上，科爾尼有興趣將這些模型分開，以便從各個角度理解它們。他認識到人工智能必須影響許多不同領(lǐng)域的巨大潛力，但他也認識到需要深思熟慮地運用技術(shù)。這一見解是由 6.882 課程（人類部署中的道德機器學習）引發(fā)的，這是由助理教授 Marzyeh Ghassemi 于 2022 年春季開設(shè)的一門專題課程。

“我的技術(shù)教育告訴我，如果我們投入足夠的工程和技術(shù)，任何問題都可以解決，”科爾尼說，并補充說他相信他和許多其他人在他們的技術(shù)研究中存在盲點。“這門課真的幫助我走出了頂空，看到這些問題只能通過以社會為中心的、經(jīng)濟的或政治的方法來解決。我們需要考慮如何使用其他學科的工具來思考我們?nèi)绾问褂眠@些技術(shù)。”

科爾尼 (Kearney) 認為他的工作有機會在從醫(yī)療保健到銀行貸款等一系列領(lǐng)域產(chǎn)生影響。

“在我們知道模型中已經(jīng)系統(tǒng)地存在偏差的應用領(lǐng)域，他們有可能將其帶入所做的模型決策中，”Kearney 說。“盡管如此，這些模型將繼續(xù)被使用和制造，重要的是它們的制造方式，一是我們可以了解它們的實際工作方式，二是我們可以保證更公平的結(jié)果?！?/span>

科爾尼發(fā)現(xiàn)計算機科學和哲學在不斷地相互對話，并受到 AI 倫理領(lǐng)域先驅(qū)的啟發(fā)，繼續(xù)構(gòu)建對世界產(chǎn)生積極影響的深思熟慮的系統(tǒng)。

在結(jié)束他在麻省理工學院的時光時，科爾尼也期待著在越野隊取得成功后結(jié)束他的田徑賽季。

“今年秋天是團隊有史以來親密、緊密的一次，”科爾尼說。“今年我們在教練方面擁有如此令人難以置信的天賦，而且已經(jīng)有比以往任何時候都多的預選賽。我很高興看到它會發(fā)生什么，并大放異彩。”