·美國總統科技顧問委員會成立的生成式AI工作組旨在幫助評估人工智能領域的關鍵機遇和風險，并就盡可能確保公平、安全、負責地開發和部署這些技術向美國總統提供意見。

·AMD的首席執行官蘇姿豐（Lisa Su）和谷歌云首席信息安全官菲爾·維納布爾斯（Phil Venables）也是這個工作組的成員。

華裔數學家、菲爾茨獎獲得者陶哲軒。

當地時間5月13日，華裔數學家、菲爾茨獎獲得者陶哲軒公布消息，他和物理學家勞拉·格林（Laura Greene）共同領導美國總統科技顧問委員會（PCAST）的生成式人工智能工作組。該小組將于當地時間5月19日在PCAST會議期間舉行公開會議，AlphaGo之父、DeepMind創始人德米斯·哈薩比斯（Demis Hassabis）及斯坦福大學教授李飛飛等將在會上演講。 

美國總統科技顧問委員會（PCAST）生成式人工智能工作組將于當地時間5月19日舉行公開會議。

華裔數學家、菲爾茨獎獲得者陶哲軒在自己的博客公布消息。

據陶哲軒在博客中透露，生成式人工智能工作組主要研究生成式人工智能技術在科學及社會領域的影響，包括ChatGPT等基于文本的大型語言模型，DALL-E 2、Midjourney等圖像生成器，以及蛋白質設計或天氣預報等科學應用模型。值得一提的是，AMD的首席執行官蘇姿豐（Lisa Su）和谷歌云首席信息安全官菲爾·維納布爾斯（Phil Venables）也是這個工作組的成員。

美國總統科技顧問委員會（PCAST）生成式人工智能工作組成員。

據美國白宮在官網發布的文章介紹，PCAST成立的生成式人工智能工作組旨在幫助評估人工智能領域的關鍵機遇和風險，并就盡可能確保公平、安全、負責地開發和部署這些技術向美國總統提供意見。

文章中將生成式人工智能定義為，在對大型數據集進行訓練后，可用于根據給定提示生成文本、圖像、視頻或其他輸出的一類AI系統。這些技術發展迅速，有可能徹底改變現代生活的許多方面。在科學領域，這些工具被用于設計新藥、蛋白質或材料，并有望加快科學發現的步伐。在醫學領域，生成式人工智能有可能為醫療保健專業人員提供建議。在工作場所，這些工具可以加快計算機代碼的編寫速度，幫助撰寫演示文稿和進行總結。

但同時，文章指出，生成式人工智能模型也可被用于惡意目的，如制造虛假信息、推送錯誤信息和冒充個人。如果在沒有保障的情況下使用，生成式人工智能可能會引發社會分化，加劇社會中的偏見和不平等，更普遍的是，通過讓公民難以理解世界上發生的事情來威脅民主。此外，生成式人工智能系統可能會侵犯隱私并破壞知識產權。

PCAST??生成式人工智能工作組通過確定額外的需求和機會，并就如何最好地解決這些問題向總統提出建議。

在19日舉行的會議中，生成式人工智能工作組的兩個專家小組將介紹當下該領域的情況，發言者包括：

人工智能賦能科學（AI Enabling Science）:

Anima Anandkumar （英偉達機器學習研究總監、加州理工學院計算機與數學科學教授）

Demis Hassabis（DeepMind創始人）

李飛飛（斯坦福大學計算機科學教授）

人工智能的社會影響（Al Impacts on Society）:

Sendhil Mullainathan（芝加哥大學布斯商學院計算與行為科學教授）

Daron Acemoglu（麻省理工學院經濟學教授）

Sarah Kreps（康奈爾大學政府學教授）

陶哲軒表示，工作組正在就如何識別和促進生成式人工智能的有益部署以及如何最好地降低風險征求公眾意見?！拔覀冏畛醯闹攸c是如何檢測、抵制和減輕人工智能生成的虛假信息和深度造假這一具有挑戰性的話題，同時又不犧牲健康民主運作所需的言論自由和與民選官員的公眾參與；未來我們還可能會圍繞生成人工智能的其他方面發出進一步的請求?！?/p>

在ChatGPT出現后，像陶哲軒這樣的頂尖數學家也對其極為關注，開始探索人工智能如何幫助他們完成工作。在《自然》雜志的一篇《AI如何改變數學？聊天機器人的興起突出了對話的重要性》中，加拿大蒙特利爾大學的數論學家安德魯·格蘭維爾（Andrew Granville）也表示，“我們正在研究一個非常具體的問題：機器會改變數學嗎？”數學家凱文·巴扎德（Kevin Buzzard）表示同意，“事實上，現在像菲爾茲獎得主和其他非常著名的大數學家都對這個領域感興趣，這表明它以一種前所未有的方式變得‘熱門’。”

此前，陶哲軒在去中心化社交網絡Mastodon上寫道，“我可以明確地說，今天是GPT-4為我節省了大量繁瑣工作的第一天。”在嘗試中，陶哲軒發現了ChatGPT的很多隱藏功能，如搜索公式、解析帶代碼格式的文檔、改寫學術論文中的句子等，有時ChatGPT還可以對未完成的數學問題進行語義搜索以生成一些提示。

他還對比了自己和當前生成式人工智能工具之間的比較優勢：

對于每天執行的任務，我已經開發了足夠的技術來優化我的工作流程，人工智能工具對我來說并沒有太多的增值價值。最明顯的是在研究數學方面，但也包括撰寫電子郵件。我安裝了一個插件，讓GPT-4在我點擊按鈕時寫電子郵件回復，但我幾乎從未使用它，因為經過幾十年的實踐，我已經可以快速寫出合適的電子郵件回復。

對于那些我有一些專業知識但很少實踐的任務，人工智能工具是有幫助的：通常我可以用它們來創建輸出的初稿，然后我可以驗證和修改，或至少作為靈感來源使用。（在某些情況下，靈感是來源于AI的不足，這符合坎寧安法則的精神，但它仍然比我自己嘗試解決問題更有成效。）這一類的例子包括數據處理、翻譯，或以我很少使用的格式寫文本（如公開演講、規則文件等）。

對于那些我沒有什么專業知識也不需要極高質量和可靠性的任務，可以簡單地詢問人工智能工具，并或多或少地聽從其建議。在這里，人工智能的功能是作為傳統搜索引擎的一個稍微方便些的版本。

最后，對于那些我不具備專業知識但又需要質量和可靠性的任務，人工智能和我自己都無法解決，我必須咨詢人類專家，如修理一個復雜、昂貴、精致的設備。

一個有趣的嘗試是，陶哲軒要求ChatGPT從描述中識別“庫默爾定理”（用于描述在約束條件下如何找到最優解），雖然ChatGPT不能給出正確答案，但其還是能根據勒讓德公式（Legendre's formula）給出一個大概的答案。對于ChatGPT的表現，陶哲軒表示，人工智能在數學中發揮了作用，提供了一個初步的近似答案，再與傳統搜索引擎相結合就可以輕松找到正確答案。