每經(jīng)記者 楊卉    每經(jīng)編輯 梁梟    

7月24日，《每日經(jīng)濟(jì)新聞》記者從英偉達(dá)處獲悉，英偉達(dá)推出了全新NVIDIA AI Foundry服務(wù)和NVIDIA NIM^TM推理微服務(wù)，與同樣剛推出的Llama 3.1系列開(kāi)源模型一起，為全球企業(yè)提供生成式AI相關(guān)服務(wù)。

根據(jù)英偉達(dá)方面的數(shù)據(jù)，Llama 3.1多語(yǔ)種大語(yǔ)言模型（LLM）集合是一個(gè)具有8B、70B和405B三種參數(shù)規(guī)模的生成式AI模型集合。當(dāng)與適用于Llama 3.1 405B的NVIDIA NIM推理微服務(wù)結(jié)合使用時(shí)，NeMo Retriever NIM微服務(wù)可以為RAG工作流中的開(kāi)放和商業(yè)文本問(wèn)答帶來(lái)極高的檢索準(zhǔn)確性。NVIDIA AI Foundry能提供一種可用于快速構(gòu)建自定義超級(jí)模型的端到端服務(wù)。

根據(jù)英偉達(dá)的說(shuō)法，借助NVIDIA AI Foundry，企業(yè)能使用Llama 3.1模型和NVIDIA NeMo平臺(tái)（包含在Hugging Face RewardBench上排名第一的NVIDIA Nemotron-4 340B Reward模型）創(chuàng)建自定義模型；還可以使用自有數(shù)據(jù)以及由Llama 3.1 405B和NVIDIA Nemotron Reward模型生成的合成數(shù)據(jù)，來(lái)訓(xùn)練這些超級(jí)模型。

創(chuàng)建自定義模型后，企業(yè)可構(gòu)建NVIDIA NIM推理微服務(wù)，以便在其首選的云平臺(tái)和全球服務(wù)器制造商提供的NVIDIA認(rèn)證系統(tǒng)上，使用自己選擇的最佳機(jī)器學(xué)習(xí)運(yùn)維（MLOps）和人工智能運(yùn)維（AIOps）平臺(tái)在生產(chǎn)中運(yùn)行這些模型。

英偉達(dá)創(chuàng)始人兼首席執(zhí)行官黃仁勛提出，Llama 3.1開(kāi)源模型標(biāo)志著全球企業(yè)采用生成式AI的關(guān)鍵時(shí)刻已經(jīng)到來(lái)，Llama 3.1將掀起各個(gè)企業(yè)與行業(yè)創(chuàng)建先進(jìn)生成式AI應(yīng)用的浪潮。

Meta創(chuàng)始人兼首席執(zhí)行官馬克·扎克伯格則表示，全新的Llama 3.1模型是開(kāi)源AI邁出的極其重要的一步，英偉達(dá)還和Meta一起為L(zhǎng)lama 3.1提供了一種提煉方法，供開(kāi)發(fā)者為生成式AI應(yīng)用創(chuàng)建更小的自定義模型。