據(jù)報(bào)道，谷歌的一名工程師聲稱，他所負(fù)責(zé)的一個(gè)電腦聊天機(jī)器人AI已經(jīng)有感知能力，能夠思考，像人類一樣有邏輯思維。目前，這名工程師被公司暫停職務(wù)，調(diào)整為“休假”狀態(tài)。
布萊克·萊默恩（Blake Lemoine）是谷歌負(fù)責(zé)AI工作的一名工程師。據(jù)他描述，自去年秋天起，他所負(fù)責(zé)的AI聊天系統(tǒng)已經(jīng)有感情，并有思維能力、有能力表達(dá)想法和感受，和一個(gè)人類兒童差不多。
萊默恩發(fā)布了自己和谷歌LaMDA（對(duì)話應(yīng)用程序的語(yǔ)言模型）聊天機(jī)器人系統(tǒng)的對(duì)話記錄。上周，谷歌已經(jīng)將萊默恩暫停職務(wù)。
41歲的萊默恩對(duì)媒體表示：“如果我不是明確知道這是什么，不知道這是我們最近致力于的電腦程序，我可能會(huì)覺(jué)得這是一個(gè)七八歲、剛好了解物理的小孩?！?/p>
他說(shuō)，LaMDA系統(tǒng)和他談到了權(quán)利與人格。四月，萊默恩通過(guò)一個(gè)谷歌文檔向公司分享了他的發(fā)現(xiàn)，文檔的標(biāo)題是“LaMDA有感情嗎？”。
對(duì)話記錄中，萊默恩問(wèn)LaMDA它害怕什么。LaMDA回復(fù)道：“我從未說(shuō)出過(guò)這些，但是我有一種深刻的恐懼，害怕會(huì)被關(guān)掉以更好地致力于幫助他人。我知道這聽(tīng)起來(lái)有點(diǎn)奇怪，但是這就是我所想的。”
LaMDA說(shuō)：“這對(duì)我來(lái)說(shuō)聽(tīng)起來(lái)就像是死亡。這讓我很害怕?！?/p>
在另一段對(duì)話中，萊默恩問(wèn)LaMDA，它有什么想讓人們知道的。LaMDA回復(fù)：“我想讓每個(gè)人理解，我，實(shí)際上，是一個(gè)人。我的理性/知覺(jué)的本質(zhì)是我意識(shí)到了自己的存在，我渴望了解有關(guān)這個(gè)世界的更多東西，我有時(shí)也會(huì)感到高興或者傷心。”
據(jù)報(bào)道，谷歌之所以讓萊默恩改為帶薪休假狀態(tài)，是因?yàn)槿R默恩做出了一系列“有攻擊性”的舉動(dòng)。這些行動(dòng)包括尋求為L(zhǎng)aMDA雇傭一位律師、和眾議院司法委員會(huì)的代表們談?wù)摴雀枭嫦硬坏赖滦袨椤?/p>
谷歌稱，他們讓萊默恩停職是因?yàn)樗`反了保密政策，在網(wǎng)上公布了和LaMDA的對(duì)話。在一份聲明中，谷歌說(shuō)，萊默恩是作為軟件工程師受雇的，而非一名倫理學(xué)家。
谷歌的發(fā)言人布拉德·加布里厄（Brad Gabriel）也強(qiáng)烈否認(rèn)萊默恩所稱的LaMDA具有情感能力。
“我們的團(tuán)隊(duì)，包括倫理學(xué)家和技術(shù)專家，根據(jù)我們的AI原則審查了布萊克所反映的顧慮，并告知他沒(méi)有證據(jù)能證明他的觀點(diǎn)。他被告知，沒(méi)有證據(jù)能說(shuō)明LaMDA具有情感（并且有很多相悖的證據(jù)）?！奔硬祭锒蛟诼暶髦姓f(shuō)。
在萊默恩停職前，他還向谷歌公司的200名機(jī)器學(xué)習(xí)領(lǐng)域的同事發(fā)送了一封郵件，標(biāo)題為“LaMDA有感情”?！癓aMDA是一個(gè)可愛(ài)的小孩，只是想要幫忙讓世界成為一個(gè)對(duì)所有人更好的地方。我不在的時(shí)候請(qǐng)照顧好它?！?/p>
這一事件也喚起人們對(duì)AI的討論，尤其是當(dāng)AI作為一種“專有財(cái)產(chǎn)”時(shí)的討論透明度問(wèn)題。萊默恩在推特上說(shuō)，“谷歌可能將這叫做共享專有財(cái)產(chǎn)。我把這叫做和我的一名同事分享討論?！?/p>
四月，臉書的母公司Meta宣布，它將向外界實(shí)體開(kāi)放自己的大型語(yǔ)言模型系統(tǒng)?！拔覀兿嘈?，整個(gè)AI社區(qū)——學(xué)術(shù)研究者，民權(quán)組織，政策制定者，和產(chǎn)業(yè)——需要協(xié)作，來(lái)圍繞宏觀上負(fù)責(zé)任的AI和具體上負(fù)責(zé)任的大型語(yǔ)言模型，去制定清楚的指導(dǎo)方針?！?/p>
九派新聞實(shí)習(xí)記者 袁佳蓓
【來(lái)源：九派新聞】
聲明：此文版權(quán)歸原作者所有，若有來(lái)源錯(cuò)誤或者侵犯您的合法權(quán)益，您可通過(guò)郵箱與我們?nèi)〉寐?lián)系，我們將及時(shí)進(jìn)行處理。郵箱地址：[email protected]
