Membuat dan menjalankan tugas dasar

Dokumen ini menjelaskan dasar-dasar pembuatan tugas Batch: cara membuat dan menjalankan tugas yang didasarkan pada skrip atau image container dan menggunakan variabel yang telah ditentukan sebelumnya dan kustom. Untuk mempelajari lebih lanjut cara membuat dan menjalankan tugas, lihat Ringkasan pembuatan dan eksekusi tugas.

Sebelum memulai

  1. Jika belum pernah menggunakan Batch, baca Mulai menggunakan Batch dan aktifkan Batch dengan menyelesaikan prasyarat untuk project dan pengguna.
  2. Untuk mendapatkan izin yang Anda perlukan untuk membuat tugas, minta administrator untuk memberi Anda peran IAM berikut:

    Untuk mengetahui informasi selengkapnya tentang pemberian peran, lihat Mengelola akses ke project, folder, dan organisasi.

    Anda mungkin juga bisa mendapatkan izin yang diperlukan melalui peran khusus atau peran bawaan lainnya.

  3. Setiap kali Anda membuat tugas, pastikan tugas memiliki konfigurasi resource yang valid.
    • Kecuali jika nilai default sudah cukup, Anda harus menentukan kolom sumber daya komputasi per tugas (computeResource) yang diperlukan untuk setiap tugas yang akan dijalankan, seperti yang ditunjukkan dalam dokumen ini.
    • Jika Anda menentukan resource VM untuk tugas (kolom instances[].policy, instances[].instanceTemplate, atau instanceFlexibilityPolicy), Anda harus memastikan bahwa kolom ini kompatibel satu sama lain dan dengan tugas.
    Untuk mengetahui informasi selengkapnya tentang konfigurasi resource untuk tugas, lihat Resource tugas.
  4. Setiap kali Anda membuat tugas, pastikan tugas memiliki konfigurasi jaringan yang valid.
    • Jika Anda tidak memiliki persyaratan jaringan tertentu untuk workload atau project dan Anda belum mengubah jaringan default untuk project, tidak ada tindakan yang diperlukan.
    • Jika tidak, Anda perlu mengonfigurasi jaringan saat membuat tugas. Pelajari cara mengonfigurasi jaringan untuk tugas sebelum membuat tugas dasar, sehingga Anda dapat mengubah contoh di bawah agar sesuai dengan persyaratan jaringan Anda.
    Untuk mengetahui informasi selengkapnya tentang konfigurasi jaringan untuk tugas, lihat Ringkasan jaringan batch.
  5. Setiap kali Anda membuat tugas, pastikan tugas memiliki lingkungan sistem operasi (OS) VM yang valid.
    • Jika Anda tidak memiliki persyaratan boot disk atau image OS VM tertentu untuk workload atau project, Anda tidak perlu melakukan tindakan apa pun.
    • Jika tidak, Anda perlu menyiapkan opsi lingkungan OS VM yang valid. Sebelum membuat tugas dasar, izinkan konfigurasi default untuk lingkungan OS VM atau pelajari cara menyesuaikan lingkungan OS VM sehingga Anda dapat mengubah contoh di bawah agar sesuai dengan persyaratan Anda.
    Untuk mengetahui informasi selengkapnya tentang lingkungan OS VM untuk tugas, lihat Ringkasan lingkungan OS VM.

Membuat tugas dasar

Untuk mengetahui informasi tentang semua kolom yang dapat Anda tentukan untuk tugas, lihat dokumentasi referensi untuk resource REST projects.locations.jobs. Singkatnya, tugas terdiri dari array dari satu atau beberapa tugas yang semuanya menjalankan satu atau beberapa runnable, yang merupakan skrip dan/atau container yang dapat dieksekusi untuk tugas Anda. Untuk membahas dasar-dasarnya, bagian ini menjelaskan cara membuat contoh tugas dengan hanya satu yang dapat dijalankan, baik skrip maupun image container:

  • Jika Anda ingin menggunakan Batch untuk menulis tugas yang menjalankan image container, lihat membuat tugas container.
  • Jika tidak, jika Anda tidak yakin apakah Anda ingin menggunakan image container atau jika Anda tidak terbiasa dengan container, sebaiknya buat tugas skrip.

Contoh tugas untuk kedua jenis tugas berisi grup tugas dengan array 4 tugas. Setiap tugas mencetak pesan dan indeksnya ke output standar dan Cloud Logging. Definisi untuk tugas ini menentukan paralelisme 2, yang menunjukkan bahwa tugas harus dijalankan di 2 VM agar 2 tugas dapat dijalankan sekaligus.

Membuat tugas container dasar

Anda dapat memilih atau membuat image container untuk menyediakan kode dan dependensi agar tugas Anda dapat berjalan dari lingkungan komputasi mana pun. Untuk mengetahui informasi selengkapnya, lihat Bekerja dengan image container dan Menjalankan container pada instance VM.

Anda dapat membuat tugas penampung dasar menggunakan konsol Google Cloud , gcloud CLI, Batch API, Go, Java, Node.js, Python, atau C++.

Konsol

Untuk membuat tugas container dasar menggunakan konsol Google Cloud , lakukan hal berikut:

  1. Di konsol Google Cloud , buka halaman Daftar tugas.

    Buka Daftar tugas

  2. Klik Create. Halaman Create batch job akan terbuka. Di panel kiri, halaman Job details dipilih.

  3. Konfigurasi halaman Detail pekerjaan:

    1. Opsional: Di kolom Nama tugas, sesuaikan nama tugas.

      Misalnya, masukkan example-basic-job.

    2. Konfigurasi bagian Detail tugas:

      1. Di jendela Runnable baru, tambahkan setidaknya satu skrip atau penampung agar tugas ini dapat berjalan.

        Misalnya, untuk menambahkan satu penampung, lakukan langkah-langkah berikut:

        1. Pilih URL image container (default).

        2. Di kolom Container image URL, masukkan URL untuk image container yang ingin Anda jalankan untuk setiap tugas dalam pekerjaan ini.

          Misalnya, untuk menggunakan image container Docker busybox, masukkan URL berikut:

          gcr.io/google-containers/busybox
          
        3. Opsional: Untuk mengganti perintah ENTRYPOINT image container, masukkan perintah di kolom Titik entri.

          Misalnya, masukkan yang berikut:

          /bin/sh
          
        4. Opsional: Untuk mengganti perintah CMD image container, lakukan hal berikut:

          1. Pilih kotak centang Ganti perintah CMD image container. Kolom akan muncul.

          2. Di kolom, masukkan satu atau beberapa perintah, dengan memisahkan setiap perintah dengan baris baru.

            Misalnya, masukkan perintah berikut:

            -c
            echo Hello world! This is task ${BATCH_TASK_INDEX}. This job has a total of ${BATCH_TASK_COUNT} tasks.
            
          3. Klik Done.

      2. Di kolom Jumlah tugas, masukkan jumlah tugas untuk tugas ini. Nilai harus berupa bilangan bulat antara 1 dan batas tugas per grup tugas.

        Misalnya, masukkan 4.

      3. Di kolom Paralelisme, masukkan jumlah tugas yang akan dijalankan secara bersamaan. Angka tidak boleh lebih besar dari jumlah total tugas dan harus berupa bilangan bulat antara 1 dan batas tugas paralel per tugas.

        Misalnya, masukkan 2.

  4. Konfigurasi halaman Spesifikasi resource:

    1. Di panel kiri, klik Spesifikasi resource. Halaman Spesifikasi resource akan terbuka.

    2. Di bagian VM provisioning model, pilih salah satu opsi berikut untuk provisioning model untuk VM tugas ini:

      • Jika tugas Anda dapat menahan preemption dan Anda menginginkan VM yang didiskon, pilih Spot. Pelajari lebih lanjut rekomendasi untuk Spot VM.

      • Jika tidak, pilih Standar.

      Misalnya, pilih Standar (default).

    3. Pilih lokasi untuk tugas ini:

      1. Di kolom Region, pilih region.

        Misalnya, pilih us-central1 (Iowa) (default).

      2. Di kolom Zone, lakukan salah satu hal berikut:

        • Jika Anda ingin membatasi tugas ini agar hanya berjalan di zona tertentu, pilih zona.

        • Jika tidak, pilih salah satu.

        Misalnya, pilih apa saja (default).

    4. Pilih salah satu kelompok mesin berikut:

      • Untuk workload umum, klik General purpose.

      • Untuk workload yang membutuhkan performa intensif, klik Compute optimized.

      • Untuk workload dengan kerja memori intensif, klik Memory optimized.

      • Untuk workload yang dioptimalkan untuk akselerator, klik GPU. Untuk mengetahui informasi selengkapnya, lihat Membuat dan menjalankan tugas yang menggunakan GPU.

      Misalnya, klik General purpose (default).

    5. Di kolom Series, pilih seri mesin untuk VM tugas ini.

      Misalnya, jika Anda memilih General purpose untuk kelompok mesin, pilih E2 (default).

    6. Di kolom Machine type, pilih jenis mesin untuk VM tugas ini.

      Misalnya, jika Anda memilih E2 untuk seri mesin, pilih e2-medium (2 vCPU, 4 GB memory) (default).

    7. Konfigurasi jumlah resource VM yang diperlukan untuk setiap tugas:

      1. Di kolom Cores, masukkan jumlah vCPUs per tugas.

        Misalnya, masukkan 1 (default).

      2. Di kolom Memory, masukkan jumlah RAM dalam GB per tugas.

        Misalnya, masukkan 0.5 (default).

  5. Opsional: Untuk meninjau konfigurasi tugas, di panel kiri, klik Pratinjau.

  6. Klik Create.

Halaman Job details menampilkan tugas yang Anda buat.

gcloud

Untuk membuat tugas penampung dasar menggunakan gcloud CLI, lakukan langkah-langkah berikut:

  1. Buat file JSON yang menentukan detail konfigurasi tugas Anda. Misalnya, untuk membuat tugas container dasar, buat file JSON dengan konten berikut. Untuk mengetahui informasi selengkapnya tentang semua kolom yang dapat Anda tentukan untuk tugas, lihat dokumentasi referensi untuk resource REST projects.locations.jobs.

    {
        "taskGroups": [
            {
                "taskSpec": {
                    "runnables": [
                        {
                            "container": {
                                CONTAINER
                            }
                        }
                    ],
                    "computeResource": {
                        "cpuMilli": CORES,
                        "memoryMib": MEMORY
                    },
                    "maxRetryCount": MAX_RETRY_COUNT,
                    "maxRunDuration": "MAX_RUN_DURATION"
                },
                "taskCount": TASK_COUNT,
                "parallelism": PARALLELISM
            }
        ]
    }
    

    Ganti kode berikut:

    • CONTAINER: container yang menjalankan setiap tugas. Minimal, penampung harus menentukan gambar di sub-bidang imageUri, tetapi sub-bidang tambahan juga mungkin diperlukan. Untuk mengetahui informasi selengkapnya, lihat sub-kolom container dan contoh tugas penampung di bagian ini.
    • CORES: Opsional. Jumlah inti—khususnya vCPUs, yang biasanya merepresentasikan setengah inti fisik—yang akan dialokasikan untuk setiap tugas dalam unit milliCPU. Jika kolom cpuMilli tidak ditentukan, nilai akan disetel ke 2000 (2 vCPU).
    • MEMORY: Opsional. Jumlah memori yang akan dialokasikan untuk setiap tugas dalam MB. Jika kolom memoryMib tidak ditentukan, nilai akan ditetapkan ke 2000 (2 GB).
    • MAX_RETRY_COUNT: Opsional. Jumlah maksimum percobaan ulang untuk tugas. Nilai harus berupa bilangan bulat antara 0 dan 10. Jika kolom maxRetryCount tidak ditentukan, nilai akan ditetapkan ke 0, yang berarti tugas tidak akan dicoba lagi. Untuk mengetahui informasi selengkapnya tentang kolom maxRetryCount, lihat Mengotomatiskan percobaan ulang tugas.
    • MAX_RUN_DURATION: Opsional. Waktu maksimum tugas diizinkan berjalan sebelum dicoba lagi atau gagal, diformat sebagai nilai dalam detik yang diikuti dengan s—misalnya, 3600s untuk 1 jam. Jika kolom maxRunDuration tidak ditentukan, nilai akan ditetapkan ke waktu proses maksimum untuk tugas. Untuk mengetahui informasi selengkapnya tentang kolom maxRunDuration, lihat Membatasi waktu proses untuk tugas dan yang dapat dijalankan menggunakan waktu tunggu.
    • TASK_COUNT: Opsional. Jumlah tugas untuk tugas. Nilai harus berupa bilangan bulat antara 1 dan batas tugas per grup tugas. Jika kolom taskCount tidak ditentukan, nilai akan ditetapkan ke 1.
    • PARALLELISM: Opsional. Jumlah tugas yang dijalankan tugas secara serentak. Angka tidak boleh lebih besar dari jumlah tugas dan harus berupa bilangan bulat antara 1 dan batas tugas paralel per pekerjaan. Jika kolom parallelism tidak ditentukan, nilai akan ditetapkan ke 1.
  2. Buat tugas menggunakan perintah gcloud batch jobs submit.

    gcloud batch jobs submit JOB_NAME \
      --location LOCATION \
      --config JSON_CONFIGURATION_FILE
    

    Ganti kode berikut:

    • JOB_NAME: nama tugas.
    • LOCATION: lokasi tugas.
    • JSON_CONFIGURATION_FILE: jalur untuk file JSON dengan detail konfigurasi tugas.

Misalnya, untuk membuat tugas yang menjalankan tugas menggunakan image container Docker busybox:

  1. Buat file JSON di direktori saat ini bernama hello-world-container.json dengan konten berikut:

    {
        "taskGroups": [
            {
                "taskSpec": {
                    "runnables": [
                        {
                            "container": {
                                "imageUri": "gcr.io/google-containers/busybox",
                                "entrypoint": "/bin/sh",
                                "commands": [
                                    "-c",
                                    "echo Hello world! This is task ${BATCH_TASK_INDEX}. This job has a total of ${BATCH_TASK_COUNT} tasks."
                                ]
                            }
                        }
                    ],
                    "computeResource": {
                        "cpuMilli": 2000,
                        "memoryMib": 16
                    },
                    "maxRetryCount": 2,
                    "maxRunDuration": "3600s"
                },
                "taskCount": 4,
                "parallelism": 2
            }
        ],
        "allocationPolicy": {
            "instances": [
                {
                    "policy": { "machineType": "e2-standard-4" }
                }
            ]
        },
        "labels": {
            "department": "finance",
            "env": "testing"
        },
        "logsPolicy": {
            "destination": "CLOUD_LOGGING"
        }
    }
    
  2. Jalankan perintah berikut:

    gcloud batch jobs submit example-container-job \
      --location us-central1 \
      --config hello-world-container.json
    

API

Untuk membuat tugas container dasar menggunakan Batch API, gunakan metode jobs.create. Untuk mengetahui informasi selengkapnya tentang semua kolom yang dapat Anda tentukan untuk tugas, lihat dokumentasi referensi untuk resource REST projects.locations.jobs.

POST https://batch.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/jobs?job_id=JOB_NAME

{
    "taskGroups": [
        {
            "taskSpec": {
                "runnables": [
                    {
                        "container": {
                            CONTAINER
                        }
                    }
                ],
                "computeResource": {
                    "cpuMilli": CORES,
                    "memoryMib": MEMORY
                },
                "maxRetryCount": MAX_RETRY_COUNT,
                "maxRunDuration": "MAX_RUN_DURATION"
            },
            "taskCount": TASK_COUNT,
            "parallelism": PARALLELISM
        }
    ]
}

Ganti kode berikut:

  • PROJECT_ID: Project ID project Anda.
  • LOCATION: lokasi tugas.
  • JOB_NAME: nama tugas.
  • CONTAINER: container yang menjalankan setiap tugas. Minimal, penampung harus menentukan gambar di sub-bidang imageUri, tetapi sub-bidang tambahan juga mungkin diperlukan. Untuk mengetahui informasi selengkapnya, lihat sub-kolom container dan contoh tugas penampung di bagian ini.
  • CORES: Opsional. Jumlah core—khususnya vCPUs, yang biasanya merepresentasikan setengah core fisik—yang akan dialokasikan untuk setiap tugas dalam satuan milliCPU. Jika kolom cpuMilli tidak ditentukan, nilai akan ditetapkan ke 2000 (2 vCPU).
  • MEMORY: Opsional. Jumlah memori yang akan dialokasikan untuk setiap tugas dalam MB. Jika kolom memoryMib tidak ditentukan, nilai ditetapkan ke 2000 (2 GB).
  • MAX_RETRY_COUNT: Opsional. Jumlah maksimum percobaan ulang untuk tugas. Nilai harus berupa bilangan bulat antara 0 dan 10. Jika kolom maxRetryCount tidak ditentukan, nilai akan ditetapkan ke 0, yang berarti tugas tidak akan dicoba lagi. Untuk mengetahui informasi selengkapnya tentang kolom maxRetryCount, lihat Mengotomatiskan percobaan ulang tugas.
  • MAX_RUN_DURATION: Opsional. Waktu maksimum tugas diizinkan berjalan sebelum dicoba lagi atau gagal, diformat sebagai nilai dalam detik yang diikuti dengan s—misalnya, 3600s untuk 1 jam. Jika kolom maxRunDuration tidak ditentukan, nilai akan ditetapkan ke waktu proses maksimum untuk tugas. Untuk mengetahui informasi selengkapnya tentang kolom maxRunDuration, lihat Membatasi waktu proses untuk tugas dan yang dapat dijalankan menggunakan waktu tunggu.
  • TASK_COUNT: Opsional. Jumlah tugas untuk pekerjaan, yang harus berupa bilangan bulat antara 1 dan batas tugas per grup tugas. Jika kolom taskCount tidak ditentukan, nilai akan ditetapkan ke 1.
  • PARALLELISM: Opsional. Jumlah tugas yang dijalankan tugas secara serentak. Angka tidak boleh lebih besar dari jumlah tugas dan harus berupa bilangan bulat antara 1 dan batas tugas paralel per tugas. Jika kolom parallelism tidak ditentukan, nilai akan ditetapkan ke 1.

Misalnya, untuk membuat tugas yang menjalankan tugas menggunakan image container Docker busybox, gunakan permintaan berikut:

POST https://batch.googleapis.com/v1/projects/PROJECT_ID/locations/us-central1/jobs?job_id=example-container-job

{
    "taskGroups": [
        {
            "taskSpec": {
                "runnables": [
                    {
                        "container": {
                            "imageUri": "gcr.io/google-containers/busybox",
                            "entrypoint": "/bin/sh",
                            "commands": [
                                "-c",
                                "echo Hello world! This is task ${BATCH_TASK_INDEX}. This job has a total of ${BATCH_TASK_COUNT} tasks."
                            ]
                        }
                    }
                ],
                "computeResource": {
                    "cpuMilli": 2000,
                    "memoryMib": 16
                },
                "maxRetryCount": 2,
                "maxRunDuration": "3600s"
            },
            "taskCount": 4,
            "parallelism": 2
        }
    ],
    "allocationPolicy": {
        "instances": [
            {
                "policy": { "machineType": "e2-standard-4" }
            }
        ]
    },
    "labels": {
        "department": "finance",
        "env": "testing"
    },
    "logsPolicy": {
        "destination": "CLOUD_LOGGING"
    }
}

dengan PROJECT_ID adalah project ID project Anda.

Go

Go

Untuk mengetahui informasi selengkapnya, lihat dokumentasi referensi API Go Batch.

Untuk melakukan autentikasi ke Batch, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk lingkungan pengembangan lokal.

import (
	"context"
	"fmt"
	"io"

	batch "cloud.google.com/go/batch/apiv1"
	"cloud.google.com/go/batch/apiv1/batchpb"
	durationpb "google.golang.org/protobuf/types/known/durationpb"
)

// Creates and runs a job that runs the specified container
func createContainerJob(w io.Writer, projectID, region, jobName string) error {
	// projectID := "your_project_id"
	// region := "us-central1"
	// jobName := "some-job"

	ctx := context.Background()
	batchClient, err := batch.NewClient(ctx)
	if err != nil {
		return fmt.Errorf("NewClient: %w", err)
	}
	defer batchClient.Close()

	container := &batchpb.Runnable_Container