Rêbernameya Karkerê Çarçoveya NVIDIA NeMo

Çarçoveya NVIDIA NeMo

Specifications

• Navê hilberê: Çarçoveya NVIDIA NeMo
• Platformên bandordar: Windows, Linux, macOS
• Guhertoyên bandorkirî: Hemî guhertoyên berî 24
• Zehfbûna Ewlekariyê: CVE-2025-23360
• Pîvana Bingeha Nirxandina Risk: 7.1 (CVSS v3.1)

Talîmatên Bikaranîna Product

Sazkirina Nûvekirina Ewlekariyê:
Ji bo parastina pergala xwe, van gavan bişopînin:

1. Daxuyaniya herî dawî ji rûpela Weşanên NeMo-Framework-Launcher li ser GitHub dakêşin.
2. Ji bo bêtir agahdarî biçin Ewlekariya Hilbera NVIDIA.

Hûrguliyên Nûvekirina Ewlekariyê:
Nûvekirina ewlehiyê di çarçoveyek NVIDIA NeMo de qelsiyek ku dikare bibe sedema darvekirina kodê û daneya t destnîşan dike.ampering.

Nûvekirina nermalavê:
Ger hûn serbestberdana şaxek berê bikar tînin, tê pêşniyar kirin ku hûn nûvekirina şaxê herî dawî nûve bikin da ku pirsgirêka ewlehiyê çareser bikin.

Serview

Çarçoveyek NVIDIA NeMo çarçoveyek AI-yê hilberîner a berbelav û ewr e ku ji bo lêkolîner û pêşdebiran ku li ser dixebitin hatî çêkirin. Modelên Zimanên Mezin, Multimodal, û Axaftina AI (mînak Naskirina Axaftina Otomatîk û Text-to-Speech). Ew rê dide bikarhêneran ku bi karanîna kodên heyî û nuqteyên kontrolê yên modela pêş-perwerdekirî modelên nû yên AI-ê hilberîner bi bandor biafirînin, xweş bikin û bicîh bikin.

Talîmatên Setup: Çarçoveya NeMo saz bikin

Modelên Zimanên Mezin û Modelên Pirrmodal
NeMo Framework ji bo pêşkeftina Modelên Zimanên Mezin (LLM) û Modelên Multimodal (MM) piştgirîya dawî-bi-dawî peyda dike. Ew nermbûnek peyda dike ku li hundur, li navendek daneyê, an bi pêşkêşvanê weya cloudê bijarte re were bikar anîn. Di heman demê de ew darvekirinê li ser jîngehên çalakkirî yên SLURM an Kubernetes piştgirî dike.

Danûstandina daneyan
NeMo Curator [1] pirtûkxaneyek Python e ku komek modulên ji bo derxistina daneyê û hilberîna daneya sentetîk vedihewîne. Ew ji bo GPU-yan berbelav û xweşbîn in, ku wan ji bo rastkirina daneya zimanê xwezayî ji bo perwerdekirin an birêkûpêkkirina LLM-an îdeal dike. Bi NeMo Curator re, hûn dikarin bi rengek bikêrhatî nivîsa kalîteya bilind ji raweya berfireh derxînin web çavkaniyên daneyan.

Perwerde û Xweserî

NeMo Framework ji bo perwerdehiya bikêrhatî û xweşkirina amûran peyda dike LLMs û modelên Multimodal. Ew mîhengên xwerû yên ji bo sazkirina komê ya hesabkirinê, dakêşana daneyan, û hîperparametreyên modelê vedihewîne, ku dikarin werin sererast kirin da ku li ser danehev û modelên nû perwerde bikin. Digel pêş-perwerdekirinê, NeMo hem teknolojiyên Rêzkirina Birêkûpêk a Bi Çavdêrî (SFT) hem jî Parametreya Birêkûpêk Bikêr (PEFT) yên mîna LoRA, Ptuning, û hêj bêtir piştgirî dike.

Ji bo destpêkirina perwerdehiyê li NeMo du vebijark hene - bi karanîna pêwendiya NeMo 2.0 API an bi NeMo Run re.

• Bi NeMo Run (Pêşniyar kirin): NeMo Run navbeynkariyek peyda dike da ku veavakirin, pêkanîn û rêveberiya ceribandinan li ser hawîrdorên cihêreng ên hesabkirinê rast bike. Ev di nav de destpêkirina karan li ser qereqola we ya herêmî an li ser komikên mezin - hem SLURM çalak an jî Kubernetes di hawîrdorek ewr de ye.
  • Pêş-perwerdekirin & PEFT Quickstart bi NeMo Run re
• Bikaranîna NeMo 2.0 API: Ev rêbaz bi sazûmanek hêsan a ku modelên piçûk tê de vedihewîne re baş dixebite, an heke hûn bala xwe didin nivîsandina danûstendina xweya xwerû, pêlên perwerdehiyê, an guheztina qatên modelê. Ew li ser mîhengan bêtir nermbûn û kontrolê dide we, û dirêjkirina û xweşkirina mîhengan bi bernamekî hêsan dike.
  • TraBi NeMo 2.0 API-ê re Quickstart têxe
  • Koçberî ji NeMo 1.0 ber NeMo 2.0 API

Alignment

• NeMo-Aligner [1] ji bo lihevhatina modela bikêrhatî amûrek pîvanbar e. Amûrek ji bo algorîtmayên hevrêzkirina modela herî pêşkeftî yên wekî SteerLM, DPO, Fêrbûna Hêzdar ji Bersiva Mirovan (RLHF) û hêj bêtir piştgirî heye. Van algorîtmayan bikarhêneran dihêlin ku modelên zimên bi ewletir, bêzerar û arîkartir bin.
• Hemî nuqteyên kontrolê yên NeMo-Aligner bi ekosîstema NeMo-yê re hevaheng in, ku destûrê dide xwerûkirin û bicîhkirina encamnameyê.

Xebata gav-bi-gav a her sê qonaxên RLHF li ser modelek piçûk a GPT-2B:

• perwerdeya SFT
• Perwerdehiya modela xelatê
• Perwerdehiya PPO

Digel vê yekê, em ji bo cûrbecûr awayên hevrêzkirina nûjen piştgirî nîşan didin:

• DPO: algorîtmayek hevrêziya sivik li gorî RLHF bi fonksiyonek windabûnê ya hêsantir.
• Xwe-Play Çêkirin (SPIN)
• SteerLM: teknîkek ku li ser bingeha şert-SFT-ê ye, bi hilberîna rêvekirî.

Ji bo bêtir agahdarî li belgeyê binêrin: Belgekirina Alignment

Modelên Multimodal

• NeMo Framework nermalava xweşbîn peyda dike da ku modelên multîmodal ên herî pêşkeftî li çend kategoriyan perwerde bike û bicîh bike: Modelên Ziman ên Pirrjimar, Bingehên Ziman-Vision, Modelên Nivîs-bi-Wêne, û ji wêdetir Nifşa 2D bi karanîna Zeviyên Ragihandina Neuralî (NeRF).
• Her kategorî ji bo peydakirina hewcedarî û pêşkeftinên taybetî yên di qadê de hatî çêkirin, modelên pêşkeftî bikar tîne da ku cûrbecûr cûreyên daneyê, di nav de nivîs, wêne, û modelên 3D-ê de bigire dest.

Dabeşkirin û Encam
NeMo Framework ji bo encamdana LLM riyên cihêreng peyda dike, ku senaryoyên cihêreng bicîhkirinê û hewcedariyên performansê peyda dike.

Bi NVIDIA NIM re bicîh bikin

• NeMo Framework bi navgîniya NVIDIA NIM-ê ve bi amûrên sazkirina modela asta pargîdaniyê re yekgirtî tevdigere. Ev entegrasyon ji hêla NVIDIA TensorRT-LLM ve tête hêz kirin, ku encamek xweşbînkirî û berbelav peyda dike.
• Ji bo bêtir agahdarî li ser NIM, biçin NVIDIA website.

Bi TensorRT-LLM an vLLM re bicîh bikin

• NeMo Framework skrîpt û API-yan pêşkêşî dike da ku modelan derxîne du pirtûkxaneyên xweşbînkirî, TensorRT-LLM û vLLM, û ji bo bicîhkirina modela derhanîn bi Pêşkêşkara Enfermana NVIDIA Triton.
• Ji bo senaryoyên ku hewceyê performansa xweşbînkirî hewce dikin, modelên NeMo dikarin TensorRT-LLM, pirtûkxaneyek pispor a ji bo bilezkirin û xweşbînkirina encamên LLM-ê li ser GPU-yên NVIDIA-yê bikar bînin. Ev pêvajo bi karanîna modulê nemo.export veguhezîne modelên NeMo-yê nav formatek ku bi TensorRT-LLM-ê re hevaheng e.
  • Dabeşkirina LLM Serview
  • Modelên Zimanên Mezin ên NeMo bi NIM-ê re bicîh bikin
  • Bi TensorRT-LLM re Modelên Zimanên Mezin ên NeMo bicîh bikin
  • Bi vLLM re Modelên Zimanên Mezin ên NeMo bicîh bikin

Modelên piştgirî kirin

Modelên Zimanên Mezin

Modelên Zimanên Mezin

Modelên Zimanên Mezin	Pretraining & SFT	PEFT	Alignment	Lihevhatina Perwerdehiya FP8	TRT/TRTLLM	Veguherin û Ji Rûyê Hemêzkirinê	Nirxandin
Llama3 8B/70B, Llama3.1 405B	Erê	Erê	x	Erê (bi qismî verastkirî)	Erê	Herdû	Erê
Mixtral 8x7B/8x22B	Erê	Erê	x	Erê (nerastkirî)	Erê	Herdû	Erê
Nemotron 3 8B	Erê	x	x	Erê (nerastkirî)	x	Herdû	Erê
Nemotron 4 340B	Erê	x	x	Erê (nerastkirî)	x	Herdû	Erê
Baichuan2 7B	Erê	Erê	x	Erê (nerastkirî)	x	Herdû	Erê
ChatGLM3 6B	Erê	Erê	x	Erê (nerastkirî)	x	Herdû	Erê
Gemma 2B/7B	Erê	Erê	x	Erê (nerastkirî)	Erê	Herdû	Erê
Gemma2 2B/9B/27B	Erê	Erê	x	Erê (nerastkirî)	x	Herdû	Erê
Mamba2 130M/370M/780M/1.3B/2.7B/8B/ Hybrid-8B	Erê	Erê	x	Erê (nerastkirî)	x	x	Erê
Phi3 mini 4k	x	Erê	x	Erê (nerastkirî)	x	x	x
Qwen2 0.5B/1.5B/7B/72B	Erê	Erê	x	Erê (nerastkirî)	Erê	Herdû	Erê
StarCoder 15B	Erê	Erê	x	Erê (nerastkirî)	Erê	Herdû	Erê
StarCoder2 3B/7B/15B	Erê	Erê	x	Erê (nerastkirî)	Erê	Herdû	Erê
BERT 110M/340M	Erê	Erê	x	Erê (nerastkirî)	x	Herdû	x
T5 220M/3B/11B	Erê	Erê	x	x	x	x	x

 

Modelên Ziman ên Vision

 

Embedding Models

 

Modelên Weqfa Cîhanê

Not
NeMo di heman demê de hem ji bo mîmariya belavbûn û hem jî ji bo mîmariya xweseriya pêş-perwerdekirinê piştgirî dike text2world modelên bingehîn.

Axaftina AI

Pêşxistina modelên AI-ya danûstendinê pêvajoyek tevlihev e ku di nav deverên taybetî de modelên pênasekirin, çêkirin û perwerdehiyê vedihewîne. Ev pêvajo bi gelemperî gelek dubareyan hewce dike ku bigihîje astek bilind a rastbûnê. Ew bi gelemperî gelek dubareyan vedihewîne da ku bi rastbûna bilind bigihîje, li ser peywirên cihêreng û daneyên taybetî yên domainê birêkûpêk bike, performansa perwerdehiyê misoger bike, û modelan ji bo bicîhkirina encamnameyê amade bike.

NeMo Framework ji bo perwerdekirin û xweşkirina modelên Speech AI piştgirî peyda dike. Di vê yekê de peywirên mîna Naskirina Axaftina Xweser (ASR) û senteza Text-To-Speech (TTS) pêk tê. Ew bi NVIDIA Riva re veguheztinek birêkûpêk pêşkêşî sazkirina hilberîna asta pargîdanî dike. Ji bo arîkariya pêşdebir û lêkolîneran, NeMo Framework nuqteyên kontrolê yên pêş-perwerdekirî, amûrên ji bo hilberandina daneya axaftinê ya ji nû ve hilberandin, û taybetmendiyên ji bo vekolîn û analîzkirina danûstendinên danûstandinên axaftinê vedihewîne. Parçeyên Çarçoveya NeMo ji bo Axaftina AI wiha ne:

Perwerde û Xweserî
Çarçoveya NeMo her tiştê ku ji bo perwerdekirin û xweşkirina modelên axaftinê hewce dike vedihewîne (ASR, Dabeşkirina axaftinê, Naskirina Speaker, Speaker Diarization, û TTS) bi awayê dubarekirî.

SOTA Modelên Pêş-perwerdekirî

• NeMo Framework reçeteyên herî nûjen û nuqteyên kontrolê yên pêş-perwerdekirî yên çend kesan peyda dike ASR û TTS modelên, û her weha talîmatên li ser çawa barkirina wan.
• Amûrên axaftinê
• NeMo Framework komek amûrên kêrhatî ji bo pêşkeftina modelên ASR û TTS peyda dike, di nav de:
  • NeMo Forced Aligner (NFA) ji bo hilberîna demjimêra token-, peyv- û asta perçeyêampAxaftina di deng de bi karanîna modelên Naskirina Axaftina Xweser a NeMo-ya CTC-yê bikar tîne.
  • Pêvajoya Daneyên Axaftinê (SDP), amûrek ji bo hêsankirina danûstandinên axaftinê. Ew dihêle hûn operasyonên hilberandina daneyê di konfigurasyonê de temsîl bikin file, koda boilerplate kêm dike û rê dide dubarebûn û parvekirinê.
  • Lêkolîna Daneyên Axaftinê (SDE), a Dash-based web serîlêdana ji bo vekolîn û analîzkirina danûstendinên danûstandinên axaftinê.
  • Amûra çêkirina dataset ku fonksiyonê peyda dike da ku dengek dirêj li hev bike files bi transkriptên têkildar re parve bikin û wan li perçeyên kurttir ên ku ji bo perwerdehiya modela Naskirina Axaftina Xweser (ASR) guncan in veqetînin.
  • Amûra Berawirdî ji bo Modelên ASR ku pêşbîniyên modelên ASR yên cihêreng di asta rastbûna peyvan û bilêvkirinê de bidin ber hev.
  • ASR Evaluator ji bo nirxandina performansa modelên ASR û taybetmendiyên din ên wekî Tespîtkirina Çalakiya Deng.
  • Amûra Normalkirina Nivîsê ji bo veguhertina metnê ji forma nivîskî bo forma axaftinê û berevajî (mînak "31-emîn" û "sîh yekem").
• Rêya Dabeşkirinê
• Modelên NeMo yên ku bi karanîna Çarçoveya NeMo ve hatine perwerde kirin an xweşkirî dikarin bi NVIDIA Riva re werin xweşkirin û bicîh kirin. Riva konteynir û nexşeyên Helm peyda dike ku bi taybetî ji bo otomatîkkirina gavên ji bo bicîhkirina bişkojkê hatine çêkirin.

Çavkaniyên din

GitHub Repos

• NeMo: Depoya sereke ji bo Çarçoveya NeMo
• NeMo–Rev: Amûrek ji bo mîhengkirin, destpêkirin û rêvebirina ceribandinên fêrbûna makîneya we.
• NeMo-Aligner: Amûra berbelavkirî ji bo berhevkirina modela bikêrhatî
• NeMo-Kurator: Ji bo LLM-ê amûra pêş-pêvajoya daneya berbelavkirî û berhevokê

Getting Help
Bi civaka NeMo re tevbigerin, pirsan bipirsin, piştgirî bistînin, an xeletiyan rapor bikin.

• Nîqaşên NeMo
• Pirsgirêkên NeMo

Ziman û Çarçoveyên Bernamekirinê

• Python: Navbera sereke ya ku Çarçoveya NeMo bikar tîne
• Pytorch: Çarçoveya NeMo li ser PyTorch-ê hatî çêkirin

Licenses

• Repoya NeMo Github di bin lîsansa Apache 2.0 de destûrdar e
• Çarçoveya NeMo di bin PEYMANA BERHEMÊN NVIDIA AI de destûrdar e. Bi kişandin û karanîna konteynerê, hûn şert û mercên vê lîsansê qebûl dikin.
• Di konteynera Çarçoveya NeMo de materyalên Llama hene ku ji hêla Peymana Lîsansa Civakî ya Meta Llama3 ve têne rêve kirin.

Peyvnot
Heya nuha, piştgiriya NeMo Curator û NeMo Aligner ji bo modelên Multimodal xebatek li pêş e û dê di demek nêzîk de peyda bibe.

FAQ

Pirs: Ez çawa dikarim kontrol bikim ka pergala min ji qelsbûnê bandor dibe?
A: Hûn dikarin kontrol bikin ka pergala we bi verastkirina guhertoya Çarçoveya NVIDIA NeMo-ya hatî sazkirî ve tê bandor kirin. Ger ew li jêr guhertoya 24-ê ye, dibe ku pergala we xeternak be.

Pirs: Kê pirsgirêka ewlehiyê CVE-2025-23360 ragihand?
A: Pirsgirêka ewlehiyê ji hêla Or Peles - JFrog Security ve hate ragihandin. NVIDIA beşdariya wan qebûl dike.

Pirs: Ez çawa dikarim agahdariya bultena ewlehiyê ya pêşerojê bistînim?
A: Serdana rûpela Ewlekariya Hilbera NVIDIA bikin da ku hûn bibin aboneyên bultena ewlehiyê û li ser nûvekirinên ewlehiya hilberê agahdar bimînin.