·“我認(rèn)為，就激發(fā)人類潛能的手段而言，該工具將與之前發(fā)生的任何重大技術(shù)革命一樣重要。”

·“我也對(duì)（人工智能的）這種速度和步伐表示擔(dān)憂。我們做了很多決定來(lái)阻止事情發(fā)生，放慢速度。但我們可能已經(jīng)為一些強(qiáng)大的模型準(zhǔn)備了很長(zhǎng)時(shí)間，由于這些原因，我們還沒有發(fā)布。”

OpenAI聯(lián)合創(chuàng)始人兼首席執(zhí)行官山姆·奧特曼。

OpenAI聯(lián)合創(chuàng)始人兼首席執(zhí)行官山姆·奧特曼（Sam Altman）近日在一次采訪中承認(rèn)ChatGPT是個(gè)“可怕的產(chǎn)品”。

在紐約時(shí)報(bào)科技播客“Hard Fork”2月10日播出的節(jié)目中，奧特曼引用ChatGPT頻繁出現(xiàn)的錯(cuò)誤消息時(shí)說(shuō)：“人們真的只是去訪問一個(gè)有時(shí)能正常工作有時(shí)會(huì)宕機(jī)的網(wǎng)站。”

“他們正在輸入一些東西。他們一直在嘗試直到做對(duì)為止，然后復(fù)制那個(gè)答案并將其粘貼到其他地方——然后嘗試將其與搜索結(jié)果或其他工作流程整合。”他補(bǔ)充道。

自去年11月推出以來(lái)，ChatGPT 在互聯(lián)網(wǎng)上掀起了一場(chǎng)風(fēng)暴。它已經(jīng)顛覆了教育領(lǐng)域，幫助學(xué)生寫論文和通過考試。該機(jī)器人還相當(dāng)擅長(zhǎng)編寫求職信、代碼行和內(nèi)幕文章。比爾·蓋茨甚至表示，ChatGPT中的技術(shù)將“改變我們的世界”。

在接受Hard Fork采訪時(shí)，奧特曼承認(rèn)，ChatGPT的人工智能技術(shù)確實(shí)很酷。“人們真的很喜歡它，這讓我們很開心。但目前還沒有人會(huì)說(shuō)這是一款出色的、集成良好的產(chǎn)品……但這里有如此多的價(jià)值，人們?cè)敢馊淌芩！眾W特曼說(shuō)。

奧特曼還透露：“我們可能已經(jīng)為一些強(qiáng)大的模型準(zhǔn)備了很長(zhǎng)時(shí)間。”“當(dāng)我們準(zhǔn)備好時(shí)，當(dāng)我們認(rèn)為我們已經(jīng)完成了校準(zhǔn)工作和所有安全方面的思考，并與外部審計(jì)員和其他AGI實(shí)驗(yàn)室合作時(shí)，我們就會(huì)發(fā)布這些東西。”

澎湃科技（www.kxwhcb.com）編譯了部分節(jié)目?jī)?nèi)容：

凱西·牛頓（Casey Newton，著名科技媒體人）：山姆，當(dāng)我看到新的Bing搜索結(jié)果頁(yè)面，左側(cè)是藍(lán)色鏈接，右側(cè)是AI生成的答案時(shí)，我的想法是，a，太酷了，b，出版商要輸了，因?yàn)楫?dāng)我可以在另一側(cè)獲得自然語(yǔ)言答案時(shí)，作為消費(fèi)者，為什么我要單擊藍(lán)色鏈接？搜索引擎優(yōu)化以及如何出現(xiàn)在結(jié)果中更高的位置中，背后是一整個(gè)行業(yè)。那么你們?nèi)绾慰创蕾嚾藗凕c(diǎn)擊藍(lán)色鏈接的公司可能會(huì)對(duì)此做出的反應(yīng)？

山姆·奧特曼（OpenAI聯(lián)合創(chuàng)始人兼首席執(zhí)行官）：我認(rèn)為微軟在將鏈接放入生成的內(nèi)容中做得非常好，就在右側(cè)，如你所見。批評(píng)之一——對(duì)ChatGPT公平的批評(píng)是，你不確定它是否準(zhǔn)確。因此，通過添加微軟所做的引用，我認(rèn)為這將引導(dǎo)流量。

而且，如果在購(gòu)買電視的示例中，最后發(fā)生的點(diǎn)擊是電視評(píng)測(cè)，那么你會(huì)從他們那里購(gòu)買，并且你的意圖和可能通過它購(gòu)買的幾率要高得多，我認(rèn)為推薦流量的質(zhì)量應(yīng)該非常高。

凱西·牛頓：凱文，你怎么看？

凱文·斯科特（微軟首席技術(shù)官）：出版商、廣告商和用戶都有新的機(jī)會(huì)以不同的方式使用該技術(shù)。所以我認(rèn)為，在山姆看來(lái)，那里會(huì)有很多價(jià)值，出版商有很多分發(fā)渠道，人們可以通過很多方式參與這個(gè)新市場(chǎng)。

凱西·牛頓：山姆，自從ChatGPT推出以來(lái)，我們已經(jīng)看到一件事，那就是它并非萬(wàn)無(wú)一失。它犯了很多錯(cuò)誤，包括數(shù)學(xué)錯(cuò)誤，只是憑空捏造東西。你說(shuō)過不應(yīng)該將ChatGPT用于任何重要的事情。你如何考慮這一點(diǎn)，并將其插入可能成為每天被大量人使用的巨大、流行的搜索引擎中？你擔(dān)心這個(gè)人工智能可能犯的錯(cuò)誤嗎？

山姆·奧特曼：首先，這是一個(gè)錯(cuò)誤更少的更好的模型。但是基本模型仍然存在很多錯(cuò)誤。但正如微軟今天所經(jīng)歷的那樣，以及他們置于其上的所有層級(jí)，和圍繞它構(gòu)建的所有技術(shù)，仍然會(huì)出現(xiàn)錯(cuò)誤。但是準(zhǔn)確性和實(shí)用性——自己檢查一下。不要相信我的話。但我認(rèn)為它比ChatGPT的體驗(yàn)有了顯著改善。隨著時(shí)間的推移，它會(huì)迅速好轉(zhuǎn)。

凱西·牛頓：人們使用Bing時(shí)是否有更應(yīng)謹(jǐn)慎對(duì)待的搜索類別，它們可能比其他搜索更容易出錯(cuò)？

山姆·奧特曼：我還沒有答案。顯然，我們將嘗試真正“中和”所有類別的查詢，因?yàn)槟憧梢韵胂笏鼈兛赡軒?lái)的一些危害。

我認(rèn)為我們將很快了解模型所犯的實(shí)際錯(cuò)誤所在。每次我們發(fā)布一些東西時(shí)，我們都會(huì)學(xué)到很多東西，通過發(fā)布它并了解用戶如何與之交互。ChatGPT進(jìn)行了大量的學(xué)習(xí)。我要指出的一件事是所有這些技術(shù)的新穎性。3年前，GPT-3還沒有推出。我認(rèn)為很少有人曾相信有意義的AI進(jìn)步將會(huì)發(fā)生。

我認(rèn)為這真的只是兩個(gè)多月的時(shí)間，已經(jīng)引起了主流的關(guān)注和興趣，并試圖弄清楚我們將如何使用所有這些東西，如何適應(yīng)。對(duì)于任何新技術(shù)，你都無(wú)法完美地預(yù)測(cè)所有問題和緩解措施。但如果你運(yùn)行一個(gè)非常緊密的反饋循環(huán)，按照事情發(fā)展的速度，我認(rèn)為我們可以非常快地獲得非常可靠的產(chǎn)品。

凱西·牛頓：據(jù)推測(cè)，你們已經(jīng)使用這項(xiàng)技術(shù)，或者使用新的Bing，至少幾個(gè)星期了。我很好奇。它如何改變了你的搜索方式？或者你用它來(lái)做什么，也許覺得以前的搜索工具可能不行？

山姆·奧特曼：它很快就變得不可或缺。當(dāng)我無(wú)法訪問它時(shí)，我會(huì)想念它。一切都很異想天開——我有個(gè)14歲的女兒，她喜歡說(shuō)“riz”和“bussing”之類的話。我不知道她在說(shuō)什么。你可以輸入這個(gè)，比如，嘿，我有一個(gè)十幾歲的孩子，她在說(shuō)這些話，我不明白。

凱西·牛頓：你有Z世代翻譯器？

山姆·奧特曼：對(duì)。它真的非常擅長(zhǎng)這樣的事情。我喜歡做東西，我一直在尋找工業(yè)用的套結(jié)縫紉機(jī)，之前進(jìn)行了大量研究。使用新的Bing，它向我展示了我以前在任何其他搜索中從未見過的東西。它實(shí)際上確定了我認(rèn)為我要購(gòu)買的機(jī)器。

凱西·牛頓：ChatGPT推出后，我與谷歌的人聊，他們顯然非常嫉妒，他們會(huì)對(duì)我說(shuō)，好吧，你必須明白，ChatGPT是一個(gè)演示。言外之意是，我們正在這里建造真正的東西，總有一天你會(huì)看到的。

但是兩個(gè)月后你再看，沒有人把ChatGPT當(dāng)作一個(gè)演示來(lái)對(duì)待。人們絕對(duì)會(huì)將其用作日常生活的一部分。我想我們會(huì)看到與Bing類似的東西。

山姆·奧特曼：是的，ChatGPT是個(gè)可怕的產(chǎn)品。而且它真的不是設(shè)計(jì)用于人們的……

凱西·牛頓：不過，怎么說(shuō)呢，山姆？因?yàn)樗且粋€(gè)你可以輸入的框，所以你幾乎可以得到任何你想要的東西。

山姆·奧特曼：當(dāng)然。但是如果你想一想人們想要將它集成到工作流程中的方式，你希望它能夠使用自己數(shù)據(jù)的方式，與你的其他應(yīng)用程序和服務(wù)集成的方式，人們真的只是去訪問一個(gè)有時(shí)能正常工作有時(shí)會(huì)宕機(jī)的網(wǎng)站。他們正在輸入一些東西。他們一直在嘗試直到做對(duì)為止，然后復(fù)制那個(gè)答案并將其粘貼到其他地方——然后嘗試將其與搜索結(jié)果或其他工作流程整合。

當(dāng)然，這很酷。人們真的很喜歡它，這讓我們很開心。但目前還沒有人會(huì)說(shuō)這是一款出色的、集成良好的產(chǎn)品。

凱西·牛頓：這不是1.0版本。

山姆·奧特曼：是的，它是0.7版本之類的東西。但這里有如此多的價(jià)值，人們?cè)敢馊淌芩，F(xiàn)在，它是一個(gè)真正的產(chǎn)品了。

凱西·牛頓：我今天想了很多，因?yàn)槲衣牭轿④浉吖苷務(wù)撊斯ぶ悄埽P(guān)于Tay，這是2016年臭名昭著的聊天機(jī)器人。

山姆·奧特曼：這是我很久很久沒有聽到的名字了。

凱文·斯科特：這個(gè)聊天機(jī)器人出來(lái)后，幾乎立即被噴子抓住，教給它可怕的東西，把它變成了一場(chǎng)種族主義、否認(rèn)大屠殺的災(zāi)難。它被下架了。

我認(rèn)為這對(duì)人工智能行業(yè)的很多人來(lái)說(shuō)都是一個(gè)警示。我認(rèn)為實(shí)際上，如果你與這些大型AI公司的人交談，這就是他們沒有像現(xiàn)在這樣迅速推出產(chǎn)品的很多原因，因?yàn)樗麄冇浀媚且豢蹋叮炷模覀冏隽松丁?/p>

為此，在微軟內(nèi)部很難獲得支持？有人說(shuō)，等一下。上次發(fā)布AI聊天機(jī)器人，我們不是吸取了教訓(xùn)嗎？傷疤好了嗎？

山姆·奧特曼：我懷疑還有傷疤。不過，有趣的是，我們從中學(xué)到的不是，哦，天哪，我們永遠(yuǎn)不應(yīng)該再這樣做了。而是，哦，天哪，我們需要真正認(rèn)真對(duì)待負(fù)責(zé)任的AI安全和道德規(guī)范。這是催化劑之一，因?yàn)槲覀內(nèi)匀环浅７浅ＵJ(rèn)真地對(duì)待人工智能，并且堅(jiān)信它將成為我們所有人見過的最重要的技術(shù)之一，如果不是最重要的技術(shù)，我們必須去解決所有這些問題，以避免再次犯類似的錯(cuò)誤。這并不是說(shuō)我們不會(huì)犯錯(cuò)誤。但在過去的5年半里，我們一直在努力——不僅僅是闡明一套原則，以便我們可以將它們作為營(yíng)銷材料推出，而是我們?nèi)绾卧诿刻斓墓ぷ髦袑⑺鼈兏吨T實(shí)踐？

所以從這個(gè)意義上說(shuō)，當(dāng)這個(gè)新的突破來(lái)自O(shè)penAI時(shí)，我們并沒有像你想象的那樣遇到那么大的阻力。他們知道他們要鍛煉什么肌肉，以確保我們可以自信地啟動(dòng)它，我們是安全和負(fù)責(zé)任的。

凱文·斯科特：山姆，有些人，包括OpenAI的一些人，擔(dān)心人工智能部署到數(shù)十億人使用的工具中的速度，人們擔(dān)心它可能進(jìn)展太快，讓人大跌眼鏡，一些安全工作并不像它應(yīng)該的那樣穩(wěn)健。那么，對(duì)于那些擔(dān)心這一切太快以至于社會(huì)無(wú)法調(diào)整或需要設(shè)置必要護(hù)欄的人，你有什么看法？

山姆·奧特曼：我也對(duì)這種速度和步伐表示擔(dān)憂。我們做了很多決定來(lái)阻止事情發(fā)生，放慢速度。關(guān)于傳言，你可以隨心所欲地相信，也可以不相信。但我們可能已經(jīng)為一些強(qiáng)大的模型準(zhǔn)備了很長(zhǎng)時(shí)間，由于這些原因，我們還沒有發(fā)布。

但我對(duì)兩件事情感覺非常強(qiáng)烈。第一，每個(gè)人都必須有機(jī)會(huì)了解這些工具，它的優(yōu)點(diǎn)缺點(diǎn)、好處壞處，它們將如何被使用，決定未來(lái)是什么樣子，共同創(chuàng)造它。有想法認(rèn)為，這種技術(shù)應(yīng)該保留在科技行業(yè)的一小部分中，因?yàn)檫@些人是我們可以信任的人，而其他人還沒有準(zhǔn)備好，你會(huì)在人工智能社區(qū)的各個(gè)角落聽到不同的說(shuō)法。

但我強(qiáng)烈拒絕。我認(rèn)為這不是一個(gè)我們應(yīng)該感到興奮的世界。鑒于我堅(jiān)信這將改變?cè)S多，也許是社會(huì)的絕大多數(shù)方面，人們需要盡早參與進(jìn)來(lái)。

隨著我們變得更好，他們需要看到它，不完美之處，等等，并參與討論它的發(fā)展方向，我們應(yīng)該改變什么，我們應(yīng)該改進(jìn)什么，我們不應(yīng)該做什么。把它藏在實(shí)驗(yàn)室的板凳上，只展示給我們認(rèn)為準(zhǔn)備好的人，這感覺不對(duì)。

第二，在我所看到的所有技術(shù)史中，如果不與現(xiàn)實(shí)接觸，你無(wú)法預(yù)測(cè)所有將要發(fā)生的美好事物及其誤用。因此，通過部署這些系統(tǒng)，通過學(xué)習(xí)，并通過獲得人類反饋來(lái)改進(jìn)，我們已經(jīng)做出了非常非常好的模型。

我希望我們部署的一切都能達(dá)到越來(lái)越高的一致性。在微軟和OpenAI，我們不是那些匆忙推出這些東西的公司。多年來(lái)，我們一直致力于此并進(jìn)行研究。我認(rèn)為，我們有一個(gè)非常負(fù)責(zé)任的方法。但我們確實(shí)相信必須盡早將全社會(huì)帶入帳篷。

凱西·牛頓：我很好奇你是否可以描述，即使只是一種模糊的方式，你正在探索什么樣的能力，感覺有點(diǎn)太強(qiáng)大而無(wú)法分享，或者沒有經(jīng)過適當(dāng)?shù)臏y(cè)試？因?yàn)檫@東西感覺——

山姆·奧特曼：你是說(shuō)，你對(duì)加速事情感到緊張嗎，你能告訴我們一些瘋狂的事情嗎？

凱西·牛頓：我問的原因是因?yàn)槲蚁胗行┤讼肓私狻Ｋ麄兪褂昧薈hatGPT，認(rèn)為這真的很強(qiáng)大。他們可能認(rèn)為這真的很酷。他們知道你們也在研究更多東西。但它確實(shí)聽起來(lái)，我不知道，神秘或怪異，我們一直在研究這些技術(shù)，它們更強(qiáng)大。

山姆·奧特曼：不馬上把這些東西拿出來(lái)的另一個(gè)缺點(diǎn)是，人們會(huì)認(rèn)為我們有一個(gè)完整的通用人工智能（AGI），準(zhǔn)備好按下按鈕，這還差得遠(yuǎn)。

我們提供了你們看到的更強(qiáng)大的版本，以及一些我認(rèn)為大體上符合你們期望的新內(nèi)容。當(dāng)我們準(zhǔn)備好時(shí)，當(dāng)我們認(rèn)為我們已經(jīng)完成了校準(zhǔn)工作和所有安全方面的思考，并與外部審計(jì)員和其他AGI實(shí)驗(yàn)室合作時(shí)，我們就會(huì)發(fā)布這些東西。

但是距離超級(jí)強(qiáng)大的系統(tǒng)肯定還有一些主要的想法缺失。我們還沒有弄清楚這些。據(jù)我所知，其他人也沒有。

凱西·牛頓：在安全和責(zé)任問題上，我們一直在嚴(yán)厲敲打你們。但我想知道你是否想在這里勾勒出更多的烏托邦愿景，因?yàn)橐坏┠惆堰@些東西送到億萬(wàn)人民的手中，這確實(shí)成為他們?nèi)粘Ｉ畹囊徊糠郑歉饷鞯奈磥?lái)是什么？你希望看到這些東西創(chuàng)造出來(lái)嗎？

山姆·奧特曼：我認(rèn)為凱文和我都深信，如果你給人們更好的工具，如果你讓他們更有創(chuàng)造力，幫助他們更好、更快地思考，能夠做更多的事情，建立能夠擴(kuò)展人類意志的技術(shù)，人們就會(huì)以令人難以置信的積極方式改變世界。世界上將有大量先進(jìn)的人工智能成果。

我們將貢獻(xiàn)其中之一。其他人也將貢獻(xiàn)。微軟將以各種方式部署它。我認(rèn)為，就激發(fā)人類潛能的手段而言，該工具將與之前發(fā)生的任何重大技術(shù)革命一樣重要。

而經(jīng)濟(jì)賦能、創(chuàng)造性與成就賦能將會(huì)實(shí)現(xiàn)，我認(rèn)為這可能會(huì)令人驚訝的積極。我們可能會(huì)在技術(shù)上碰壁，不想承諾我們已經(jīng)解決了所有問題。我們當(dāng)然不知道。但是軌跡看起來(lái)真的很好。

凱文·斯科特：軌跡是朝著更容易接近的方向發(fā)展。我一遍又一遍想到的是，我20年前寫的第一個(gè)機(jī)器學(xué)習(xí)代碼，獲得了研究生學(xué)位，一堆研究生教科書，一堆研究論文，還有耗費(fèi)六個(gè)月的工作。要產(chǎn)生我當(dāng)時(shí)的成果，一個(gè)積極進(jìn)取的高中生現(xiàn)在可以在周末的幾個(gè)小時(shí)內(nèi)完成。

因此，這些工具將更多的權(quán)力交到人們手中。所以現(xiàn)在，你甚至不必?fù)碛杏?jì)算機(jī)科學(xué)學(xué)位就可以用技術(shù)做非常復(fù)雜的事情。你可以接近它——

山姆·奧特曼：你可以用自然語(yǔ)言編程，這太酷了……

我在弗吉尼亞州中部的農(nóng)村長(zhǎng)大。人們是聰明的、有創(chuàng)業(yè)精神的和雄心勃勃的。你給他們強(qiáng)大的工具，他們就會(huì)去做有趣的事情。