La macchina virtuale della serie NCads H100 v5 è la nuova macchina di punta della famiglia di GPU di Azure. È possibile usare questa serie per carichi di lavoro di inferenza batch e training di IA applicata di Azure.
Le macchine virtuali della serie NCads H100 v5 sono alimentate da GPU NVIDIA H100 NVL e processori Genoa AMD EPYC™ di quarta generazione. Le macchine virtuali sono dotate di un massimo di 2 GPU NVIDIA H100 NVL con 94 GB di memoria, fino a 96 core con processore AMD EPYC Genoa non multi-thread e 640 GiB di memoria di sistema.
Queste macchine virtuali sono ideali per carichi di lavoro di IA applicati reali, ad esempio:
- Analisi e database con accelerazione GPU
- Inferenza batch con pre-elaborazione e post-elaborazione intense
- Training del modello di autonomia
- Simulazione di serbatoi di petrolio e gas
- Sviluppo di Machine Learning (ML)
- Elaborazione video
- Servizi Web IA/ML
Specifiche dell'host
| Parte |
Quantità
Unità conteggio |
Specifiche
ID SKU, unità di prestazioni e così via. |
| Processore |
40 - 80 vCPU |
AMD EPYC (Genova) [x86-64] |
| Memoria |
320 - 640 GiB |
|
| Archiviazione locale |
1 disco |
3.576 - 7.152 GiB
IOPS
MBps |
| Archiviazione remota |
8 - 16 dischi |
100.000 - 240.000 IOPS
3.000 - 7.000 MBps |
| Rete |
2 - 4 schede di interfaccia di rete |
40.000 - 80.000 Mbps
Interfacce: NetVSC, ConnectX |
| Acceleratori |
1 - 2 GPU |
GPU Nvidia PCIe H100 (94 GB) |
Per le funzionalità supportate da questa serie, vedere la sezione Supporto delle funzionalità .
Dimensioni nella serie
vCPU (Qtà) e memoria per ogni dimensione
| Nome dimensione |
vCPU (Qtà) |
Memoria (GiB) |
| Standard_NC40ads_H100_v5 |
40 |
320 |
| Standard_NC80adis_H100_v5 |
80 |
640 |
Risorse di base della macchina virtuale
Informazioni di archiviazione locali (temp) per ogni dimensione
| Nome dimensione |
Dischi di archiviazione temporanea (Qty.) |
Dimensioni del disco temporaneo (GiB) |
| Standard_NC40ads_H100_v5 |
1 |
3,576 |
| Standard_NC80adis_H100_v5 |
1 |
7,152 |
Risorse di archiviazione
Definizioni di tabella
- Le prestazioni del disco temporaneo dipendono da molti fattori, tra cui dimensioni del blocco, modelli di carico di lavoro di lettura/scrittura, profondità della coda (QD) e altri. Le specifiche delle prestazioni del disco temporaneo devono essere considerate nel migliore dei casi, presupponendo dimensioni di blocco 4k e QD=256 per IOPS e dimensioni di blocco 256k con QD=64 per il throughput. Inoltre, le prestazioni del disco temporaneo spesso differiscono tra le operazioni di lettura e scrittura. Durante le operazioni di stato stabile, si prevede che le prestazioni di scrittura siano inferiori alle prestazioni di lettura.
- La capacità di archiviazione viene visualizzata in unità di GiB o 1.024^3 byte. Quando si confrontano i dischi misurati in GB (1000^3 byte) con i dischi misurati in GiB (1024^3), tenere presente che i numeri di capacità specificati in GiB potrebbero apparire più piccoli. Ad esempio, 1.023 GiB = 1.098,4 GB.
- La velocità effettiva del disco viene misurata in operazioni di input/output al secondo (IOPS) e MBps, dove il valore di MBps corrisponde a 10^6 byte al secondo.
- Per informazioni su come ottenere le migliori prestazioni di archiviazione per le macchine virtuali, vedere Prestazioni delle macchine virtuali e dei dischi.
Informazioni di archiviazione remote (non memorizzate nella cache) per ogni dimensione
| Nome dimensione |
Numero massimo di dischi di archiviazione remota (Qtà) |
Operazioni di I/O al secondo del disco senza memorizzazione nella cache |
Velocità del disco senza memorizzazione nella cache (MBps) |
| Standard_NC40ads_H100_v5 |
8 |
100,000 |
3,000 |
| Standard_NC80adis_H100_v5 |
16 |
240.000 |
7.000 |
Risorse di archiviazione
Definizioni di tabella
- Alcune dimensioni supportano il bursting per migliorare temporaneamente le prestazioni del disco. La velocità di burst può essere mantenuta per un massimo di 30 minuti alla volta.
- Archiviazione speciale si riferisce all'archiviazione Ultra Disk o Premium SSD v2 .
- La capacità di archiviazione viene visualizzata in unità di GiB o 1.024^3 byte. Quando si confrontano i dischi misurati in GB (1000^3 byte) con i dischi misurati in GiB (1024^3), tenere presente che i numeri di capacità specificati in GiB potrebbero apparire più piccoli. Ad esempio, 1.023 GiB = 1.098,4 GB.
- La velocità effettiva del disco viene misurata in operazioni di input/output al secondo (IOPS) e MBps, dove il valore di MBps corrisponde a 10^6 byte al secondo.
- I dischi dati possono operare in modalità memorizzata nella cache o non memorizzata nella cache. Per il funzionamento dei dischi dati memorizzati nella cache, la modalità di cache host è impostata su ReadOnly o su ReadWrite. Per il funzionamento dei dischi dati non memorizzati nella cache, la modalità di cache host è impostata su None.
- Per informazioni su come ottenere le migliori prestazioni di archiviazione per le macchine virtuali, vedere Prestazioni delle macchine virtuali e dei dischi.
Informazioni sull'interfaccia di rete per ogni dimensione
| Nome dimensione |
Max schede di interfaccia di rete (Qtà) |
Larghezza di banda massima (Mbps) |
| Standard_NC40ads_H100_v5 |
2 |
40,000 |
| Standard_NC80adis_H100_v5 |
4 |
80,000 |
Risorse di rete
Definizioni di tabella
- La larghezza di banda di rete prevista è la larghezza di banda aggregata massima allocata per ogni tipo di macchina virtuale in tutte le schede NIC per tutte le destinazioni. Per altre informazioni, vedere Larghezza di banda di rete delle macchine virtuali
- I limiti superiori non sono garantiti. I limiti offrono indicazioni per la selezione del tipo di macchina virtuale appropriato per l'applicazione desiderata. Le prestazioni di rete effettive dipenderanno da diversi fattori, tra cui congestione della rete, carichi dell'applicazione e impostazioni di rete. Per informazioni sull'ottimizzazione della velocità effettiva della rete, vedere Ottimizzare la velocità effettiva di rete per macchine virtuali di Azure.
- Per realizzare le prestazioni di rete previste in Linux o Windows, potrebbe essere necessario selezionare una versione specifica o ottimizzare la macchina virtuale. Per altre informazioni, vedere Test di larghezza di banda/velocità effettiva (NTTTCP).
Informazioni sull'acceleratore (GPU, FPGA e così via) per ogni dimensione
| Nome dimensione |
Acceleratori (Qtà) |
Memoria dell'acceleratore (GB) |
| Standard_NC40ads_H100_v5 |
1 |
94 |
| Standard_NC80adis_H100_v5 |
2 |
188 |
Supporto delle funzionalità
Elenco di tutte le dimensioni disponibili: Dimensioni
Calcolatore dei prezzi: Calcolatore dei prezzi
Informazioni sui tipi di dischi: Tipi di dischi
Passaggi successivi
Sfruttare le prestazioni e le funzionalità più recenti disponibili per i carichi di lavoro modificando le dimensioni di una macchina virtuale.
Usare processori ARM progettati internamente da Microsoft con macchine virtuali Cobalt di Azure.
Informazioni su come Monitorare le macchine virtuali di Azure.