Questo documento fornisce una panoramica e un confronto tra le policy di posizionamento compatto e le policy del workload. Entrambe le policy consentono di configurare il posizionamento delle istanze di Compute Engine per ridurre al minimo la latenza di rete.
Per impostazione predefinita, gestisci la località delle istanze di computing specificando solo le relative zone. Per creare istanze di computing più vicine tra loro, puoi utilizzare le seguenti opzioni. Per saperne di più, consulta anche Colocation delle risorse dell'infrastruttura AI.
Le seguenti risorse sono già collocate in modo denso tra loro:
- Risorse che utilizzano la stessa prenotazione futura per i blocchi di capacità.
- Risorse che utilizzano la stessa prenotazione futura in modalità calendario.
- Risorse che crei insieme tramite una richiesta di ridimensionamento del gruppo di istanze gestite (MIG).
Le risorse che crei insieme quando specifichi l'opzione di utilizzo avvio flessibile potrebbero essere collocate in modo denso in base alla disponibilità con il criterio del "best effort". Se invece hai bisogno di risorse collocate in modo denso, applica una policy di posizionamento compatto che specifichi una distanza massima o una policy del workload che specifichi una distanza massima.
In caso contrario, per posizionare le risorse vicine tra loro, applica una policy di posizionamento compatto o una policy del workload.
- Quando hai bisogno di risorse collocate in modo denso, specifica una distanza massima nella policy.
- Se vuoi risorse collocate in modo denso in base alla disponibilità con il criterio del "best effort", non specificare una distanza massima nella policy.
Per saperne di più su quando utilizzare una policy di posizionamento compatto rispetto a una policy del workload, consulta Confronto tra policy di posizionamento compatto e policy del workload in questo documento.
Confronto tra policy di posizionamento compatto e policy del workload
La tabella seguente riassume le differenze tra le policy di posizionamento compatto e le policy del workload:
| Policy di posizionamento compatto | Policy del workload | |
|---|---|---|
| Utilizzo della policy |
|
MIG con GPU in cluster |
| Tipi di macchine supportati | A4X Max, A4X, A4, A3 Ultra, A3 Mega, A3 High, A3 Edge, A2, G4 e G2 |
|
| Semantica di raggruppamento | Compute Engine posiziona le istanze che utilizzano la stessa policy di posizionamento compatto più vicine tra loro. Ti consigliamo di utilizzare una policy di posizionamento diversa per ogni workload. Il riutilizzo di una policy di posizionamento tra le istanze che eseguono workload diversi fa sì che tutte queste istanze vengano posizionate insieme. Questa colocation può rendere difficile la creazione di istanze vicine tra loro quando fai lo scale out di un workload specifico. |
Compute Engine posiziona le istanze in un MIG che utilizza una policy del workload più vicine tra loro. Il riutilizzo di una policy del workload in più MIG che eseguono workload diversi workload diversi posiziona le istanze in singoli MIG insieme. Il riutilizzo è ideale per i modelli di addestramento di grandi dimensioni in cui ogni gruppo di istanze deve essere isolato l'uno dall'altro. |
| Configurazione della colocation delle istanze di computing | Per la colocation delle istanze di computing con il criterio del "best effort", imposta il
|
Per la colocation delle istanze di computing con il criterio del "best effort", imposta il
|
| Configurazioni aggiuntive |
|
|
Per saperne di più, consulta le seguenti sezioni:
Policy di posizionamento compatto
Quando applichi le policy di posizionamento compatto alle istanze di computing autonome o alle istanze di computing create in blocco, Compute Engine tenta di creare istanze di computing il più vicine possibile tra loro. Se la tua
applicazione richiede una latenza di rete minima, specifica il maxDistance
campo (anteprima) quando
crei una policy di posizionamento compatto.
Per saperne di più, consulta Informazioni sulle policy di posizionamento compatto nella documentazione di Compute Engine.
Confronto dei valori di distanza massima per le policy di posizionamento compatto
Un valore di distanza massima inferiore garantisce un posizionamento più vicino delle istanze di computing, ma aumenta anche la probabilità che alcune istanze di computing non vengano create.
La tabella seguente mostra le serie di macchine e il numero di istanze di computing supportate da ogni valore di distanza massima:
maxDistance in una policy di posizionamento compatto |
maxTopologyDistance in una policy del workload |
Descrizione | Serie di macchine supportate | Numero massimo di istanze di computing |
|---|---|---|---|---|
| Non specificato (opzione sconsigliata) | Non specificato (opzione sconsigliata) | Compute Engine tenta di posizionare le istanze di computing il più vicino possibile tra loro, ma senza una distanza massima tra le istanze di computing. | A4X Max, A4X, A4, A3 Ultra, A3 Mega1, A3 High1, A3 Edge1, A2, G4 e G2 | 1500 |
3 |
CLUSTER |
Compute Engine crea istanze di computing in blocchi adiacenti. | A4, A3 Mega1, A3 High1, A3 Edge1, A2, G4 e G2 | 1500 |
2 |
BLOCK |
Compute Engine crea istanze di computing nello stesso blocco. | A4, A3 Ultra, A3 Mega1, A3 High1, A3 Edge1, A2, G4 e G2 |
|