近日，Meta首席AI科學家楊立昆（Yann LeCun）在一場關于人工智能發(fā)展的聯(lián)名直播中表示，行業(yè)需要將人工智能科學和產(chǎn)品之間劃清界限。其指出現(xiàn)在最具爭議的人工智能開發(fā)，尤其是OpenAI 的 ChatGPT，代表的是一款產(chǎn)品，而不是基礎科學研發(fā)。
“當我們談論GPT-4或 OpenAI 目前推出的任何產(chǎn)品時，我們不是在談論研發(fā)，而是在談論產(chǎn)品開發(fā)，好嗎？” 楊立昆說?！癘penAI 從一個相對開放的 AI 研究實驗室，轉變?yōu)橐患覡I利性公司，現(xiàn)在是一種主要為服務的合同研究實驗室，不再透露任何關于它們?nèi)绾喂ぷ鞯男畔?，所以這是產(chǎn)品開發(fā)，不是研發(fā)?！?/p>
楊立昆與人工智能應用公司 Landing.ai 的創(chuàng)始人兼首席執(zhí)行官吳恩達以及人工智能教育機構 DeepLearning.ai 舉行了聯(lián)合網(wǎng)絡直播。兩人提出了他們反對由未來生命研究所提出并由多位知名人士簽署的為期六個月的 AI 測試暫停的論點。 該提案要求人工智能實驗室暫停至少六個月訓練。比 OpenAI 的GPT-4更強大的人工智能系統(tǒng)，這是幾種所謂的大型語言模型中的最新模型，是 ChatGPT 等人工智能程序的基礎。
楊立昆和吳恩達都認為，延遲對人工智能的研究是不好的，因為它會阻礙進展。 “我覺得，雖然今天的人工智能有一些危害的風險。我認為偏見、公平、權力集中，這些都是真正的問題。但它也在創(chuàng)造真正的價值，為教育、為醫(yī)療保健，這是令人難以置信的令人興奮的價值很多人都在創(chuàng)造來幫助其他人，”吳恩達說?！熬拖窠裉斓?GPT-4 一樣令人驚嘆，構建比 GPT-4 更好的東西將幫助所有這些應用程序幫助很多人，”吳恩達繼續(xù)說道?！耙虼?，暫停這一進展似乎會造成很多傷害，并減緩許多非常有價值的東西的創(chuàng)造，這些東西可以幫助很多人?！睏盍⒗Υ吮硎举澩?，同時強調了研究與產(chǎn)品開發(fā)之間的區(qū)別。 楊立昆說：“我對此的第一反應是，呼吁延遲研發(fā)實質上是新一輪的蒙昧主義浪潮?！?nbsp;“為什么要減緩知識和科學的進步？”
“然后是產(chǎn)品問題，”楊立昆繼續(xù)說道?！拔彝耆澇蓪θ藗兪种械漠a(chǎn)品進行監(jiān)管；我不認為監(jiān)管研發(fā)有什么意義，我認為這除了減少我們可以用來實際改進技術的知識之外沒有任何目的，更安全。”楊立昆提到 OpenAI 決定通過 GPT-4 大幅限制對其程序工作原理的披露，在上個月向世界介紹該程序的正式研究論文中幾乎沒有提供任何技術價值。
“部分原因是，人們對 OpenAI 現(xiàn)在的保密感到不滿，因為他們在產(chǎn)品中使用的大部分想法都不是來自他們，”楊立昆說?！八鼈兪怯蓙碜怨雀?、FAIR [Facebook AI Research] 和其他各種學術團體等的人發(fā)表的想法，現(xiàn)在它們有點被鎖起來了?！?nbsp;
在問答環(huán)節(jié)中，楊立昆被問及為什么他的同行、加拿大 MILA 人工智能研究所所長 Yoshua Bengio 簽署了暫停信。楊立昆回答說，Bengio 特別關注 AI 研究的開放性。事實上，Bengio曾表示，OpenAI 轉向保密可能會對基礎研究產(chǎn)生寒蟬效應。楊立昆說，“我同意他的觀點”，即研究需要開放?！暗覀儾皇窃谶@里談論研究，我們談論的是產(chǎn)品?！睏盍⒗?OpenAI 的工作描述為僅僅是產(chǎn)品開發(fā)，這與之前關于 OpenAI 沒有取得實際科學突破的言論是一致的。1 月，他表示OpenAI 的 ChatGPT “不是特別有創(chuàng)新性”。
在周五的會議上，楊立昆預測研究的自由流動將產(chǎn)生在能力上達到或超過 GPT-4 的程序。
楊立昆說：“這不會持續(xù)很長時間，因為在相對較短的時間內(nèi)，將會有許多其他產(chǎn)品具有類似的功能，如果不是更好的話?！薄坝捎跀?shù)據(jù)的飛輪允許他們對其進行調整，OpenAI 取得了一些進步，但這不會持續(xù)太久?！?/p>
原創(chuàng)文章，作者：蘋果派，如若轉載，請注明出處：http://www.2079x.cn/article/570938.html
