GPU를 사용하는 작업 만들기 및 실행

이 문서에서는 그래픽 처리 장치(GPU)를 사용하는 작업을 만들고 실행하는 방법을 설명합니다. GPU의 기능 및 제한사항에 대해 자세히 알아보려면 Compute Engine 문서의 GPU 정보를 참고하세요.

Batch 작업을 만들 때 원하는 경우 GPU를 사용하여 특정 워크로드를 가속화할 수 있습니다. GPU를 사용하는 작업의 일반적인 사용 사례에는 집중적인 데이터 처리 및 머신러닝 (ML)과 같은 인공지능 워크로드 (AI)가 있습니다.

시작하기 전에

  1. Batch를 사용한 적이 없으면 Batch 시작하기를 검토하고 프로젝트 및 사용자 기본 요건을 완료하여 Batch를 사용 설정하세요.

  2. 작업을 만드는 데 필요한 권한을 얻으려면 관리자에게 다음 IAM 역할을 부여해 달라고 요청하세요.

    역할 부여에 대한 자세한 내용은 프로젝트, 폴더, 조직에 대한 액세스 관리를 참조하세요.

    커스텀 역할이나 다른 사전 정의된 역할을 통해 필요한 권한을 얻을 수도 있습니다.

GPU를 사용하는 작업 만들기

GPU를 사용하는 작업을 만들려면 다음을 수행합니다.

  1. GPU를 사용하는 작업의 요구사항을 계획합니다.
  2. 식별한 요구사항 및 방법으로 작업 만들기. 권장 옵션을 사용하여 작업을 만드는 방법의 예시는 이 문서의 GPU를 사용하는 작업 예시 만들기를 참고하세요.

GPU를 사용하는 작업의 요구사항 계획

GPU를 사용하는 작업을 만들기 전에 다음 섹션에 설명된 대로 작업의 요구사항을 계획하세요.

  1. GPU 머신 유형 및 소비 옵션 선택
  2. GPU 드라이버 설치
  3. 호환되는 VM 리소스 정의

1단계: GPU 머신 유형 및 소비 옵션 선택

작업 요구사항은 선호하는 GPU 머신 유형과 소비 옵션에 따라 달라지며 각 옵션이 상호 종속적일 수 있습니다.

작업의 GPU 머신 유형과 소비 옵션을 선택하려면 다음 단계를 완료하세요.

  1. 우선순위를 식별하고 선택합니다.

    • 성능과 기본 가격을 우선시하려면 이 문서의 GPU 머신 유형 선택 섹션을 참고하세요.
    • 리소스 가용성 또는 할인을 우선시하려면 이 문서의 사용 옵션 선택 섹션을 참고하세요.

  2. 첫 번째 선택과 호환되는 항목을 기준으로 나머지 선택을 합니다.

    1. 첫 번째 선택과 호환되는 옵션을 확인하려면 Compute Engine 문서의 머신 유형별 소비 옵션 가용성을 참고하세요.

    2. 소비 옵션 선택 또는 GPU 머신 유형 선택에 관한 내용은 나머지 섹션을 참고하세요.

GPU 머신 유형 선택

작업의 GPU 머신 유형을 선택하고 작업 요구사항을 파악하려면 다음 단계를 완료하세요.

  1. GPU 머신 유형 선택: 사용 가능한 GPU 머신 유형(GPU 유형, GPU 수, 머신 유형(vCPU 및 메모리)의 유효한 조합) 및 권장 사용 사례를 검토하려면 Compute Engine 문서의 GPU 머신 유형 및 가속기 최적화 머신 계열을 참고하세요.

  2. GPU 머신 유형의 작업 요구사항 이해: GPU 머신 유형을 지정하는 작업에 필요한 필드는 다음 표의 카테고리에 따라 다릅니다.

    GPU 머신 유형 및 작업 요구사항

    가속기 최적화 VM용 GPU: 가속기 최적화 머신 계열의 머신 유형을 사용하는 VM에는 이러한 GPU의 특정 유형과 개수가 자동으로 연결됩니다.

    가속기 최적화 VM에 GPU를 사용하려면 머신 유형을 지정하는 것이 좋습니다. 각 가속기 최적화 머신 유형은 특정 유형과 수의 GPU만 지원하므로 가속기 최적화 머신 유형 외에 이러한 값을 지정하든 지정하지 않든 기능적으로 동일합니다.

    특히 Batch는 가속기 최적화 VM의 GPU 유형과 수만 지정하는 것도 지원하지만 결과 vCPU 및 메모리 옵션은 매우 제한적인 경우가 많습니다. 따라서 사용 가능한 vCPU 및 메모리 옵션이 작업의 태스크 요구사항과 호환되는지 확인하는 것이 좋습니다.

    N1 VM용 GPU: 이러한 GPU는 각 VM에 연결할 유형과 개수를 지정해야 하며 N1 머신 시리즈의 머신 유형이 있는 VM에 연결해야 합니다.

    N1 VM에 GPU를 사용하려면 GPU 유형과 GPU 수를 지정하는 것이 좋습니다. 값의 조합이 유효한 N1 머신 유형의 GPU 옵션 중 하나와 일치하는지 확인합니다. 특정 유형 및 수의 GPU를 사용하는 N1 VM의 vCPU 및 메모리 옵션은 매우 유연합니다. Google Cloud 콘솔을 사용하여 작업을 만들지 않는 경우 Batch에서 작업의 태스크 요구사항을 충족하는 머신 유형을 자동으로 선택하도록 할 수 있습니다.
소비 옵션 선택

이 섹션에서는 작업의 소비 옵션을 선택하는 방법과 각 옵션의 작업 요구사항을 요약합니다.

Batch에서 사용할 수 있는 소비 옵션과 작업 요구사항은 다음 표에 설명되어 있습니다. 이 표에는 사용 사례에 따른 소비 옵션이 대략적인 획득 가능성이 높은 순에서 낮은 순으로 나열되어 있습니다. 선택한 소비 옵션이 가격, 실행 시간, 머신 유형 지원 요구사항도 충족하는지 확인합니다. 소비 옵션 선택에 대한 자세한 내용은 리소스 획득 가능성 개선, 프로비저닝 모델에 대한 Compute Engine 문서,