·OpenAI首席執(zhí)行官山姆·奧特曼說，“我認(rèn)為，如果這項(xiàng)技術(shù)出了問題，它可能會大錯特錯”，“鑒于我們明年將面臨選舉，而這些模型正在變得更好，我認(rèn)為這是一個值得關(guān)注的重要領(lǐng)域”。

·參議員迪克·杜賓表示，大公司來到參議院“懇求我們對其進(jìn)行監(jiān)管”是很了不起的。

當(dāng)?shù)貢r間5月16日，OpenAI首席執(zhí)行官山姆·奧特曼在美國國會作證。

當(dāng)?shù)貢r間5月16日，OpenAI首席執(zhí)行官山姆·奧特曼在美國參議院就人工智能技術(shù)的潛在危險(xiǎn)作證，敦促立法者對開發(fā)GPT-4等先進(jìn)人工智能系統(tǒng)的組織實(shí)施許可要求和其他法規(guī)。

“我們認(rèn)為政府的監(jiān)管干預(yù)對于減輕日益強(qiáng)大的模型的風(fēng)險(xiǎn)至關(guān)重要。”奧特曼說，“例如，對開發(fā)和發(fā)布超過能力門檻的AI模型，美國政府可以考慮把實(shí)施許可和測試要求結(jié)合起來。”

出庭作證的還有IBM的首席隱私和信任官克里斯蒂娜·蒙哥馬利（Christina Montgomery）和著名AI專家加里·馬庫斯（Gary Marcus）。馬庫斯指出，美國政府可能需要一個擁有技術(shù)專長的“內(nèi)閣級組織”專門監(jiān)督人工智能。

近年來，以科技高管為主題的國會聽證會的基調(diào)一般會用“敵對”來形容，F(xiàn)acebook創(chuàng)始人馬克·扎克伯格、亞馬遜創(chuàng)始人杰夫·貝索斯等科技名人都曾在國會山被對其公司不滿的立法者訓(xùn)斥。但奧特曼在聽證會上受到了議員的表揚(yáng)。

參議員使用ChatGPT發(fā)表開場白

奧特曼是在參議院司法委員會隱私、技術(shù)和法律小組委員會舉行的聽證會上發(fā)表上述講話的。

小組委員會主席、參議員理查德·布魯門撒爾（Richard Blumenthal，康涅狄格州民主黨）在聽證會上發(fā)表開場白，“我們經(jīng)常看到技術(shù)超出監(jiān)管時會發(fā)生什么。”他說，“對個人數(shù)據(jù)的無節(jié)制利用、虛假信息的泛濫和社會不平等的加深。”

開場白的文字由ChatGPT撰寫，語音應(yīng)用程序根據(jù)布魯門撒爾在參議院的演講訓(xùn)練生成音頻。

這時候，所有目光都轉(zhuǎn)向了坐在證人席上準(zhǔn)備提供證詞的奧特曼。布魯門撒爾發(fā)出笑聲，說人工智能能夠制作出如此逼真的音頻片段真是太神奇了。他接著用自己真正的聲音閱讀了開場白的其余部分。

布魯門撒爾支持成立一個機(jī)構(gòu)來監(jiān)管AI的想法，但他警告說，如果新機(jī)構(gòu)得不到足夠的資金和科學(xué)專業(yè)知識，科技公司“將繞著他們轉(zhuǎn)圈子”。他指出，美國公司通常反對任何新規(guī)定，但就人工智能制造商而言，“我感覺到這里有一種真正的參與意愿。”

據(jù)參加前一天晚宴和會議的人士透露，奧特曼在當(dāng)?shù)貢r間5月15日晚與數(shù)十名眾議院議員共進(jìn)晚餐，并在聽證會前與多位參議員私下會面。

幾位立法者對OpenAI和IBM愿意面對新監(jiān)管發(fā)表了評論，伊利諾伊州民主黨人迪克·杜賓（Dick Durbin）表示，大公司來到參議院“懇求我們對其進(jìn)行監(jiān)管”是很了不起的。新澤西州民主黨人科里·布克（Cory Booker）甚至多次直接稱呼奧特曼的名字山姆。

奧特曼建議國會成立新機(jī)構(gòu)，定義能力門檻

雖然奧特曼強(qiáng)調(diào)人工智能的好處，但他在聽證會上表示，OpenAI“非常擔(dān)心”選舉受到人工智能生成的內(nèi)容的影響。他擔(dān)心人工智能行業(yè)可能“對世界造成重大傷害”。“我認(rèn)為，如果這項(xiàng)技術(shù)出了問題，它可能會大錯特錯，我們希望對此直言不諱。” “我們希望與政府合作，防止這種情況發(fā)生。”

“鑒于我們明年將面臨選舉，而這些模型正在變得更好，我認(rèn)為這是一個值得關(guān)注的重要領(lǐng)域……我確實(shí)認(rèn)為在這個話題上進(jìn)行一些監(jiān)管是非常明智的。”他說。

奧特曼建議國會成立一個新機(jī)構(gòu)，為“超過一定規(guī)模的能力”的人工智能技術(shù)頒發(fā)許可證，在向公眾發(fā)布AI系統(tǒng)之前，應(yīng)該由可以判斷該模型是否符合這些規(guī)定的專家進(jìn)行獨(dú)立審計(jì)。

不過，奧特曼認(rèn)為繁瑣的要求不應(yīng)該適用于模型遠(yuǎn)不如OpenAI先進(jìn)的公司和研究人員。他建議國會“定義能力門檻”，并將能夠執(zhí)行某些功能的人工智能模型納入嚴(yán)格的許可制度。

例如，奧特曼說，“可以說服、操縱、影響一個人的行為、信仰”或“幫助創(chuàng)造新型生物制劑”的人工智能模型可能需要獲得許可。為任何超過特定計(jì)算能力閾值的系統(tǒng)要求許可會更簡單，但他更愿意根據(jù)特定功能劃定監(jiān)管界限。

OpenAI由非營利和營利實(shí)體組成。奧特曼表示，OpenAI的GPT-4模型“比具有類似功能的任何其他模型更有可能做出有益和真實(shí)的響應(yīng)并拒絕有害請求”，部分原因是廣泛的預(yù)發(fā)布測試和審計(jì)：在發(fā)布任何新系統(tǒng)之前，OpenAI會進(jìn)行廣泛的測試，聘請外部專家進(jìn)行詳細(xì)審查和獨(dú)立審計(jì)，改進(jìn)模型的行為，并實(shí)施強(qiáng)大的安全和監(jiān)控系統(tǒng)。在發(fā)布最新模型GPT-4之前，他們花了六個月時間進(jìn)行廣泛的評估、外部紅隊(duì)測試和危險(xiǎn)能力的測試。

奧特曼還表示，人們應(yīng)該能夠選擇不將他們的個人數(shù)據(jù)用于訓(xùn)練AI模型。OpenAI上個月宣布，ChatGPT用戶現(xiàn)在可以關(guān)閉聊天記錄，以防止對話被用于訓(xùn)練AI模型。

IBM提出透明度要求，建議參考?xì)W洲

蒙哥馬利在聽證會上表示，IBM敦促國會對人工智能采取精確的監(jiān)管方法。“從本質(zhì)上講，AI只是一種工具，工具可以服務(wù)于不同的目的。”她說，“這意味著建立規(guī)則來管理人工智能在特定用例中的部署，而不是監(jiān)管技術(shù)本身。”

蒙哥馬利呼吁擬議類似歐洲的法規(guī)，其中概述了不同級別的風(fēng)險(xiǎn)。她提出，國會應(yīng)該明確定義人工智能的風(fēng)險(xiǎn)，并“針對不同的風(fēng)險(xiǎn)制定不同的規(guī)則”，最嚴(yán)格的規(guī)則“適用于對人類和社會風(fēng)險(xiǎn)最大的用例”。

蒙哥馬利提出了透明度要求，稱消費(fèi)者應(yīng)該知道他們何時與人工智能互動。“任何地方的人都不應(yīng)該被誘騙與人工智能系統(tǒng)互動……人工智能時代不能成為另一個快速行動和破壞事物的時代。”她說。

蒙哥馬利還表示，美國應(yīng)該迅速讓公司對部署“在選舉等方面?zhèn)鞑ュe誤信息”的人工智能負(fù)責(zé)。

馬庫斯擔(dān)心新聞質(zhì)量下降，批評微軟

參議員們還聽取了加里·馬庫斯的說法，馬庫斯是一位創(chuàng)辦了兩家人工智能和機(jī)器學(xué)習(xí)公司的作家，也是紐約大學(xué)心理學(xué)和神經(jīng)科學(xué)名譽(yù)教授。他在聽證會上說，人工智能可以制造具有說服力的謊言并提供有害的醫(yī)療建議。他批評微軟在“悉尼”聊天機(jī)器人（新必應(yīng)聊天機(jī)器人的內(nèi)部名稱）表現(xiàn)出令人震驚的行為后沒有立即將其撤下。

AI大牛加里·馬庫斯（左）與山姆·奧特曼在作證前宣誓。

“悉尼顯然有問題......我會暫時將其從市場上撤回，但他們沒有。”馬庫斯說。“這給我敲響了警鐘，提醒我即使有像OpenAI這樣的非營利性公司……其他人也可以收購這些公司并隨心所欲。也許現(xiàn)在我們有一組穩(wěn)定的參與者，但這些系統(tǒng)在塑造我們的觀點(diǎn)和生活方面所擁有的力量確實(shí)非常重要，而且這甚至沒有考慮到有人可能故意將它們重新用于各種不良目的的風(fēng)險(xiǎn)。”

人工智能生成的新聞文章是馬庫斯討論的另一個問題。他說，隨著越來越多的新聞由人工智能撰寫，“整個新聞市場的質(zhì)量將會下降”。

馬庫斯說，美國政府可能需要一個擁有技術(shù)專長的“內(nèi)閣級組織”，其全職工作是監(jiān)督人工智能。他說，在廣泛部署人工智能系統(tǒng)之前，應(yīng)該進(jìn)行類似食品和藥物管理局（FDA）的安全審查，并在產(chǎn)品發(fā)布后再進(jìn)行審查。

但馬庫斯也警告參議員們要提防濫用監(jiān)管的可能性。 “如果我們讓監(jiān)管看起來好像我們在做什么，但它更像是綠色外衣（greenwashing，指機(jī)構(gòu)為樹立對環(huán)境負(fù)責(zé)的公共形象而散布虛假信息），實(shí)際上什么都沒有發(fā)生，我們就會把小玩家拒之門外，因?yàn)槲覀兘o他們施加了太多的負(fù)擔(dān)，以至于只有大玩家才能做到。”他說。

“阻止人工智能發(fā)展沒有意義”

一些人工智能評論家呼吁暫停開發(fā)，有非營利性人工智能研究小組指責(zé)OpenAI在沒有適當(dāng)考慮其風(fēng)險(xiǎn)的情況下發(fā)布GPT-4。奧特曼表示，迭代發(fā)布更好，因?yàn)椤拔艺J(rèn)為，秘密構(gòu)建一個超級強(qiáng)大的AI系統(tǒng)，然后一次性將它投放到世界上，并不會有好結(jié)果。”

奧特曼說：“我們戰(zhàn)略的很大一部分是在這些系統(tǒng)相對薄弱且非常不完善的情況下找到讓人們體驗(yàn)它們的方法……并弄清楚我們需要做些什么才能讓它更安全、更好。”

參議員布魯門撒爾說，試圖阻止人工智能的發(fā)展是沒有意義的，“世界不會等待，全球科學(xué)界的其他成員也不會停下來。我們的對手正在前進(jìn)，把頭埋在沙子里不是答案。”

布魯門撒爾表示，“人工智能公司應(yīng)該被要求測試他們的系統(tǒng)，披露已知風(fēng)險(xiǎn)，并允許獨(dú)立研究人員訪問。”“在某些地方，人工智能的風(fēng)險(xiǎn)如此之大，以至于我們應(yīng)該施加限制甚至禁止它們的使用，尤其是在涉及商業(yè)性侵犯隱私以謀取利益和影響人們生計(jì)的決策時。”

參議員喬希·霍利（Josh Hawley）建議，人工智能的危害可以通過集體訴訟和其他訴訟來處理，國會可以“建立聯(lián)邦訴訟權(quán)，允許受到這項(xiàng)技術(shù)傷害的個人”起訴公司。

奧特曼指出，人們已經(jīng)可以就技術(shù)造成的危害起訴OpenAI。馬庫斯說，訴訟是不夠的，可能需要十年或更長時間，霍利的建議“肯定會讓很多律師變得富有，但我認(rèn)為它太慢了，無法影響我們關(guān)心的很多事情。”

聽證會上還討論了人工智能對工作的影響。 IBM首席執(zhí)行官阿溫德·克里希納（Arvind Krishna）最近透露，計(jì)劃暫停招聘約7800個可能被人工智能系統(tǒng)取代的工作崗位。蒙哥馬利表示，“將創(chuàng)造新的工作崗位，更多的工作崗位將被轉(zhuǎn)變，一些工作崗位將被轉(zhuǎn)移。”奧特曼告訴參議員們，“GPT-4將完全自動化一些工作，并將創(chuàng)造我們認(rèn)為會更好的新工作。”

聽證會上的一些立法者仍然表現(xiàn)出華盛頓和硅谷之間在技術(shù)知識方面的持續(xù)差距。南卡羅來納州共和黨人林賽·格雷厄姆（Lindsey Graham）反復(fù)詢問證人，針對Facebook和谷歌等在線平臺的言論責(zé)任保護(hù)是否也適用于人工智能。奧特曼表現(xiàn)鎮(zhèn)定，多次嘗試區(qū)分人工智能和和社交媒體。 “我們需要共同努力尋找一種全新的方法。”他說。