Nvidia發布AI新工具簡化大型語言模型訓練與部署

,除了能夠自定義模型的服務NeMo LLM,以及擴展大型語言模型在製藥和生物技術產業的科學用服務BioNeMo,同時Nvidia也推出NeMo Megatron端到端框架公開測試版,供開發人員訓練和部署大型語言模型。

NeMo LLM服務讓用戶能夠方便地利用Nvidia託管雲端API,或是在公有雲和私有雲,大規模自定義和部署大型語言模型,無論是由Nvidia還是社群建置的基礎模型,都能藉由該服務的即時學習功能進行自定義。Nvidia將會透過NeMo LLM服務對外開放Megatron 530B模型,該模型是基於GPT-3架構,擁有5.3兆個參數的超大型模型。

官方提到,NeMo LLM是一種計算效率很高的服務,能夠將脈絡嵌入到用戶查詢中,使得特定案例能夠實現更高的準確性,只要數百個樣本就能夠獲得高精準度。開發人員可以將NeMo LLM服務用於建構特定領域和用例的應用程式,像是文本摘要、釋義甚至是故事生成等。

而Nvidia同時也發布NeMo Megatron端到端框架,可用來訓練和部署數兆參數的大型語言模型,NeMo Megatron現在於Azure、AWS、甲骨文雲端上提供公開測試板。官方解釋,NeMo Megatron提供一種簡單且高效的建構和部署大型語言模型方法,由自動化分散式資料處理的端到端工作流程組成,可用來訓練大規模自定義的GPT-3、T5和多語言T5模型,以及部署大規模推理模型。

回頭車貨運收費標準

宇安交通關係企業,自成立迄今,即秉持著「以誠待人」、「以實處事」的企業信念

網頁設計公司推薦不同的風格,搶佔消費者視覺第一線

透過選單樣式的調整、圖片的縮放比例、文字的放大及段落的排版對應來給使用者最佳的瀏覽體驗,所以不用擔心有手機版網站兩個後台的問題,而視覺效果也是透過我們前端設計師優秀的空間比例設計,不會因為畫面變大變小而影響到整體視覺的美感。

好山好水露營車漫遊體驗

露營車x公路旅行的十一個出遊特色。走到哪、玩到哪,彈性的出遊方案,行程跟出發地也可客製

住家的頂樓裝太陽光電聽說可發揮隔熱功效一線

推薦東陽能源擁有核心技術、產品研發、系統規劃設置、專業團隊的太陽能發電廠商。

最熱情、專業有口碑的網頁設計公司讓您的網站改頭換面。

請問台中電動車哪裡在賣比較便宜可以到台中景泰電動車門市去看看總店:臺中市潭子區潭秀里雅潭路一段102-1號。

電動車補助

推薦評價好的iphone維修中心

擁有專業的維修技術團隊,同時聘請資深iphone手機維修專家,現場說明手機問題,快速修理,沒修好不收錢

台中搬家公司教你幾個打包小技巧,輕鬆整理裝箱!

還在煩惱搬家費用要多少哪?台中大展搬家線上試算搬家費用,從此不再擔心「物品怎麼計費」、「多少車才能裝完」

想知道最厲害的網頁設計公司嚨底家!

RWD(響應式網頁設計)是透過瀏覽器的解析度來判斷要給使用者看到的樣貌

台中搬家公司費用怎麼算?

擁有20年純熟搬遷經驗,提供免費估價且流程透明更是5星評價的搬家公司

如何讓商品強力曝光呢? 網頁設計公司幫您建置最吸引人的網站,提高曝光率!

以設計的實用美學觀點,規劃出舒適、美觀的視覺畫面,有效提昇使用者的心理期待,營造出輕鬆、愉悅的網站瀏覽體驗。

NeMo Megatron的超參數工具能夠供用戶自定義模組開發,在特定的分散式GPU叢集配置上,自動搜尋訓練和推理的最佳參數配置。其使用張量、資料、工作管線平行化以及序列平行化等技術,達到高效能訓練,同時搭配高快速學習技術,使用戶能夠以最少的資料進行自定義,大幅改進效能和少樣本任務。

另一個Nvidia發布的BioNeMo服務,便是以NeMo Megatron為基礎建置,提供針對人工智慧藥物探索工作流程的統一雲端環境。現在科學家已經能夠運用人工智慧探索藥物,發明新的治療方法,同時了解這些藥物的特性、結構和功能。

而BioNeMo服務支援先進的化學和蛋白質組學Transformer模型,支援OpenFold方便擴展預測蛋白質結構工作流程,該平臺支援端到端模組化藥物探索工作流程,能夠加速研究,使科學家更好地了解蛋白質、基因和各種分子。

https://www.ithome.com.tw/news/153175

您可能也會喜歡…