▓成人丝瓜视频▓无码免费,99精品国产一区二区三区不卡 ,大长腿白丝被c到爽哭视频 ,高清无码内谢

澎湃Logo
下載客戶端

登錄

  • +1

Nutanix CEO談混合云、AI和GPU Direct支持

2024-07-19 11:39
來源:澎湃新聞·澎湃號·湃客
字號

Nutanix的增長得益于轉向混合云和生成式AI,以及即將支持Nvidia GPU Direct高速數據反饋協議。

Nutanix公司首席執行官Rajiv Ramaswami在接受采訪時表示,他認為Nutanix的兩位數增長還可以持續一段時間——因為Nutanix擁有卓越的混合云軟件,而且生成式AI是他們的另一個增長動力。

Nutanix表示,已經將自己的本地企業基礎架構功能遷移到了公共云,以便為運行虛擬機或容器的人員提供一致的混合云體驗。我們探討了這些話題的方方面面。

您能描述一下Nutanix在本地環境和公有云環境中的Kubernetes設施嗎?

Rajiv Ramaswami:我們在多云世界中管理Kubernetes,我們希望客戶在任何地方運行這些應用,應用可能是在原生EKS或AKS上運行的,而且我們在所有這些(本地環境和公有云原生環境)上都擁有統一的管理平面,包括亞馬遜的服務、Kubernetes服務、我們的Azure Kubernetes服務程序,其中一些可能是運行在我們自己的平臺上。

我們的愿景是人們可以在任何地方使用和運行Kubernetes集群,我們將成為管理者。我們還為塊、文件和對象提供存儲。……如果有人在AWS上構建應用,他們將能夠使用我們的存儲,并且這種存儲完全是云原生的。客戶可以在公有云中使用我們的存儲服務器作為EBS的替代方案。

優勢是雙重的。首先,相同的Nutanix平臺可以在任何地方使用:云、跨多個云、本地等。因此,如果你考慮以這種方式工作的話,則不必重做平臺應用。第二,AOS具有許多內置的企業級彈性功能。我們跨云和全球進行災難恢復,我們進行同步復制。現在,所有這些功能都可以在公共云中使用。而AWS(例如EBS)則不提供這些服務。

在這些情況下,通常發生的情況是,如果有人在云中構建應用,他們必須在應用層管理所有彈性,必須將其構建到應用中,而典型的企業是依賴于底層基礎設施的。因此,我們基本上在公有云中提供了相同的企業關鍵任務存儲,這與企業本地環境是相同的。

我相信您也希望讓企業更容易在混合云中運行數據庫對嗎?

Rajiv Ramaswami:這是關于基礎設施層,也就是平臺的。這與大多數應用需要使用數據庫的其他組件有關,這些組件是使用緩存的,例如,使用消息傳遞或流媒體。這是我們的宏偉愿景,具有前瞻性。

目前,Nutanix已經提供了數據庫管理服務。因此,人們可以使用我們的平臺管理各種數據庫,例如Oracle、SQL、Mongo、Postgres。我們想要做的就是擴展它,首先,讓它在公有云中可用,然后擴展服務范圍。

因此,我們可以管理Kafka流或Redis進行緩存。展望未來,我們的想法是,我們要么自己提供,要么與外部合作。我們對EDB Postgres有很多了解,能夠提供一系列所謂的平臺層數據服務,人們可以使用這些服務來構建應用。一旦我們這樣做了,這些服務就將是隨處可用的。

這些數據庫服務未來會包括矢量數據庫嗎?

Rajiv Ramaswami:愿景是很廣泛的。我們沒有涵蓋了一切事情的路線圖。我現在專注于事務型數據庫。而且,我知道人們關注什么,AI和GPT in a Box。所以,絕對是的——但從長遠來看,我們還沒有宣布時間表或類似的東西,我們的愿景是真正打造一套隨處可用的服務。

我們不是數據庫引擎提供商。是的,我們可能會選擇在未來某個時候這樣做,但目前我們是和其他數據庫提供商合作的。

無論客戶的數據位于何處,您都會為客戶存儲大量信息,在本地環境或者是任何公有云中。大型語言模型將需要這些信息,檢索增強生成(RAG)會為其提供幫助。您將采取什么措施來幫助實現這一目標?

Rajiv Ramaswami:我不會宣布新的路線圖,但愿景是正確的。

這正是我們的目標。正如您所說的,我們的數據是可用的,我們可以成為管理數據的平臺,我們確實認為數據將無處不在——不僅僅是在公有云中,也不僅僅是在本地環境中,而整個GPT in a Box的推出,正是為了嘗試簡化我們平臺上AI應用的部署。

目前,這個范圍稍微有限一些,也就是說,我們有一個平臺,為我們提供所有存儲的部分。最重要的是,我們能夠提供的是自動工作場所連接到模型存儲庫,這樣我們就可以接入Hugging Tree,可以連接到即時存儲庫。只需單擊一下,人們就可以下載他們想要的模型,在硬件上實例化,并將其與GPU連接。...創建一個推理端點并將其導出到API進行開發——這樣人們就可以實現自動化。

好的,這將承載AI推理和微調,那么訓練方面怎么樣?因為還是那一點,你有大量的信息,你會把哪些信息給到GPU?

Rajiv Ramaswami:GPU Direct在我們的路線圖上,我們將擁有GPU Direct,特別是針對文件——這才是你真正需要GPU Direct的地方,它已經在路線圖上了——我們知道需要什么。另一個需要的是高帶寬I/O。我們現在支持100千兆NIC。顯然,你需要能夠非常快速地獲取大量數據。我們理解這一點,我們正在實現這一點,我們正在做高帶寬,然后是一臺具有大內存的機器,所有這些都將發揮作用。

您認為AI推理必須提供準確的、完整的、不是虛假的結果嗎?

Rajiv Ramaswami:當然。你需要在模型中保持準確性,當然,要確保這種準確性,就需要大量的工作。

生成式AI有很多早期用例都是輔助用例……也就是我們廣義上所說的Copilot。換句話說,使用它,但在實際使用之前要對其進行驗證。所以我給你舉一個我們內部使用的例子,是在客戶支持方面的。

我們使用我們的設計文檔和知識庫文章部署了模型。當支持工程師收到客戶請求的時候,他或她會將其輸入到我們的GPT引擎中,它會提出建議,比如“這可能是這里的問題,這是你可能想要做的。”它加快了我們的響應時間,提高了我們支持工程師的工作效率,這樣就可以更好地為客戶服務,這對我們來說也是更好的。

而且效果很好。我們剛剛為他們完成了試點,但我們在這里要做的最重要的事情是繼續訓練和微調,直到我們能夠獲得合理的準確性。

我的想法是,總的來說,RAG方法絕對必須有效,否則AI推理就會消亡。

    本文為澎湃號作者或機構在澎湃新聞上傳并發布,僅代表該作者或機構觀點,不代表澎湃新聞的觀點或立場,澎湃新聞僅提供信息發布平臺。申請澎湃號請用電腦訪問http://renzheng.thepaper.cn。

    +1
    收藏
    我要舉報
            查看更多

            掃碼下載澎湃新聞客戶端

            滬ICP備14003370號

            滬公網安備31010602000299號

            互聯網新聞信息服務許可證:31120170006

            增值電信業務經營許可證:滬B2-2017116

            ? 2014-2025 上海東方報業有限公司

            反饋
            主站蜘蛛池模板: 惠东县| 望都县| 延寿县| 汾阳市| 富蕴县| 永和县| 北川| 高要市| 德兴市| 东乡族自治县| 许昌市| 开江县| 沧源| 盈江县| 吕梁市| 谷城县| 天水市| 许昌县| 元阳县| 封丘县| 南投市| 林西县| 普定县| 翁源县| 五莲县| 双城市| 新竹县| 隆安县| 漳平市| 天津市| 福海县| 泗水县| 成安县| 道孚县| 泸溪县| 闵行区| 高雄县| 资溪县| 天气| 恩平市| 甘肃省|