專業(yè)人士稱AI一定會有私心：人類很難控制

盛夏之際，“創(chuàng)投十年高峰論壇”于6月21日至22日舉辦。梅花創(chuàng)投吳世春、中金資本單俊葆、金沙江創(chuàng)投朱嘯虎、金慧豐投資周麗霞、場景實驗室吳聲、新潮傳媒張繼學(xué)等業(yè)界大咖齊聚合肥共襄盛會。

峰瑞資本合伙人陳石在本次論壇上談到AI時表示，“AI一定會有私心。而且我們看了很多論文，在訓(xùn)練過程里面，會讓AI產(chǎn)生一些不恰當(dāng)?shù)淖幽繕?biāo)。有一個實驗，說假設(shè)你訓(xùn)練的是倒咖啡機器人，倒咖啡加一分。有一天人類把它關(guān)了，第二天再打開，它（倒咖啡機器人）發(fā)現(xiàn)昨天沒有完成任務(wù)，就會分析是什么原因，（然后產(chǎn)生）不能讓人類關(guān)我（的想法），所以這是不恰當(dāng)?shù)淖幽繕?biāo)。（倒咖啡機器人的私心會更加強烈）——我要追求長期在線，而且我要掌握更多的資源讓我工作的更好，這種是很難避免的，特別是強化學(xué)習(xí)更容易產(chǎn)生，所以我覺得AI一定會有私心?！?/p>

人類能不能控制一個智力比我們強的生產(chǎn)工具？陳石認(rèn)為，“我覺得很難，但是今天可能很多科學(xué)家都在投入這個方向，我覺得最后這部分肯定能解決的，這是我預(yù)計的未來?！?/p>