Dokumen ini menjelaskan dasar-dasar pembuatan tugas Batch: cara membuat dan menjalankan tugas yang didasarkan pada skrip atau image container dan menggunakan variabel yang telah ditentukan sebelumnya dan kustom. Untuk mempelajari lebih lanjut cara membuat dan menjalankan tugas, lihat Ringkasan pembuatan dan eksekusi tugas.
Sebelum memulai
- Jika belum pernah menggunakan Batch, baca Mulai menggunakan Batch dan aktifkan Batch dengan menyelesaikan prasyarat untuk project dan pengguna.
-
Untuk mendapatkan izin yang Anda perlukan untuk membuat tugas, minta administrator untuk memberi Anda peran IAM berikut:
- Batch Job Editor (
roles/batch.jobsEditor) di project - Pengguna Akun Layanan (
roles/iam.serviceAccountUser) di akun layanan tugas, yang secara default adalah akun layanan Compute Engine default
Untuk mengetahui informasi selengkapnya tentang pemberian peran, lihat Mengelola akses ke project, folder, dan organisasi.
Anda mungkin juga bisa mendapatkan izin yang diperlukan melalui peran khusus atau peran bawaan lainnya.
- Batch Job Editor (
-
Setiap kali Anda membuat tugas, pastikan tugas memiliki konfigurasi
resource yang valid.
- Kecuali jika nilai default sudah cukup, Anda harus menentukan kolom
sumber daya komputasi per tugas (
computeResource) yang diperlukan untuk setiap tugas yang akan dijalankan, seperti yang ditunjukkan dalam dokumen ini. - Jika Anda menentukan resource VM untuk tugas (kolom
instances[].policy,instances[].instanceTemplate, atauinstanceFlexibilityPolicy), Anda harus memastikan bahwa kolom ini kompatibel satu sama lain dan dengan tugas.
- Kecuali jika nilai default sudah cukup, Anda harus menentukan kolom
sumber daya komputasi per tugas (
-
Setiap kali Anda membuat tugas, pastikan tugas memiliki konfigurasi jaringan yang valid.
- Jika Anda tidak memiliki persyaratan jaringan tertentu untuk workload atau project dan Anda belum mengubah jaringan default untuk project, tidak ada tindakan yang diperlukan.
- Jika tidak, Anda perlu mengonfigurasi jaringan saat membuat tugas. Pelajari cara mengonfigurasi jaringan untuk tugas sebelum membuat tugas dasar, sehingga Anda dapat mengubah contoh di bawah agar sesuai dengan persyaratan jaringan Anda.
-
Setiap kali Anda membuat tugas, pastikan tugas memiliki lingkungan sistem operasi (OS) VM yang valid.
- Jika Anda tidak memiliki persyaratan boot disk atau image OS VM tertentu untuk workload atau project, Anda tidak perlu melakukan tindakan apa pun.
- Jika tidak, Anda perlu menyiapkan opsi lingkungan OS VM yang valid. Sebelum membuat tugas dasar, izinkan konfigurasi default untuk lingkungan OS VM atau pelajari cara menyesuaikan lingkungan OS VM sehingga Anda dapat mengubah contoh di bawah agar sesuai dengan persyaratan Anda.
Membuat tugas dasar
Untuk mengetahui informasi tentang semua kolom yang dapat Anda tentukan untuk tugas, lihat dokumentasi referensi untuk resource REST projects.locations.jobs.
Singkatnya, tugas terdiri dari array dari satu atau beberapa tugas
yang semuanya menjalankan satu atau beberapa
runnable,
yang merupakan skrip dan/atau container yang dapat dieksekusi untuk tugas Anda.
Untuk membahas dasar-dasarnya, bagian ini menjelaskan cara membuat contoh tugas dengan
hanya satu yang dapat dijalankan, baik skrip maupun image container:
- Jika Anda ingin menggunakan Batch untuk menulis tugas yang menjalankan image container, lihat membuat tugas container.
- Jika tidak, jika Anda tidak yakin apakah Anda ingin menggunakan image container atau jika Anda tidak terbiasa dengan container, sebaiknya buat tugas skrip.
Contoh tugas untuk kedua jenis tugas berisi grup tugas dengan array 4 tugas. Setiap tugas mencetak pesan dan indeksnya ke output standar dan Cloud Logging. Definisi untuk tugas ini menentukan paralelisme 2, yang menunjukkan bahwa tugas harus dijalankan di 2 VM agar 2 tugas dapat dijalankan sekaligus.
Membuat tugas container dasar
Anda dapat memilih atau membuat image container untuk menyediakan kode dan dependensi agar tugas Anda dapat berjalan dari lingkungan komputasi mana pun. Untuk mengetahui informasi selengkapnya, lihat Bekerja dengan image container dan Menjalankan container pada instance VM.
Anda dapat membuat tugas penampung dasar menggunakan konsol Google Cloud , gcloud CLI, Batch API, Go, Java, Node.js, Python, atau C++.
Konsol
Untuk membuat tugas container dasar menggunakan konsol Google Cloud , lakukan hal berikut:
Di konsol Google Cloud , buka halaman Daftar tugas.
Klik Create. Halaman Create batch job akan terbuka. Di panel kiri, halaman Job details dipilih.
Konfigurasi halaman Detail pekerjaan:
Opsional: Di kolom Nama tugas, sesuaikan nama tugas.
Misalnya, masukkan
example-basic-job.Konfigurasi bagian Detail tugas:
Di jendela Runnable baru, tambahkan setidaknya satu skrip atau penampung agar tugas ini dapat berjalan.
Misalnya, untuk menambahkan satu penampung, lakukan langkah-langkah berikut:
Pilih URL image container (default).
Di kolom Container image URL, masukkan URL untuk image container yang ingin Anda jalankan untuk setiap tugas dalam pekerjaan ini.
Misalnya, untuk menggunakan image container Docker
busybox, masukkan URL berikut:gcr.io/google-containers/busyboxOpsional: Untuk mengganti perintah
ENTRYPOINTimage container, masukkan perintah di kolom Titik entri.Misalnya, masukkan yang berikut:
/bin/shOpsional: Untuk mengganti perintah
CMDimage container, lakukan hal berikut:Pilih kotak centang Ganti perintah CMD image container. Kolom akan muncul.
Di kolom, masukkan satu atau beberapa perintah, dengan memisahkan setiap perintah dengan baris baru.
Misalnya, masukkan perintah berikut:
-c echo Hello world! This is task ${BATCH_TASK_INDEX}. This job has a total of ${BATCH_TASK_COUNT} tasks.Klik Done.
Di kolom Jumlah tugas, masukkan jumlah tugas untuk tugas ini. Nilai harus berupa bilangan bulat antara
1dan batas tugas per grup tugas.Misalnya, masukkan
4.Di kolom Paralelisme, masukkan jumlah tugas yang akan dijalankan secara bersamaan. Angka tidak boleh lebih besar dari jumlah total tugas dan harus berupa bilangan bulat antara
1dan batas tugas paralel per tugas.Misalnya, masukkan
2.
Konfigurasi halaman Spesifikasi resource:
Di panel kiri, klik Spesifikasi resource. Halaman Spesifikasi resource akan terbuka.
Di bagian VM provisioning model, pilih salah satu opsi berikut untuk provisioning model untuk VM tugas ini:
Jika tugas Anda dapat menahan preemption dan Anda menginginkan VM yang didiskon, pilih Spot. Pelajari lebih lanjut rekomendasi untuk Spot VM.
Jika tidak, pilih Standar.
Misalnya, pilih Standar (default).
Pilih lokasi untuk tugas ini:
Di kolom Region, pilih region.
Misalnya, pilih
us-central1 (Iowa)(default).Di kolom Zone, lakukan salah satu hal berikut:
Jika Anda ingin membatasi tugas ini agar hanya berjalan di zona tertentu, pilih zona.
Jika tidak, pilih salah satu.
Misalnya, pilih apa saja (default).
Pilih salah satu kelompok mesin berikut:
Untuk workload umum, klik General purpose.
Untuk workload yang membutuhkan performa intensif, klik Compute optimized.
Untuk workload dengan kerja memori intensif, klik Memory optimized.
Untuk workload yang dioptimalkan untuk akselerator, klik GPU. Untuk mengetahui informasi selengkapnya, lihat Membuat dan menjalankan tugas yang menggunakan GPU.
Misalnya, klik General purpose (default).
Di kolom Series, pilih seri mesin untuk VM tugas ini.
Misalnya, jika Anda memilih General purpose untuk kelompok mesin, pilih E2 (default).
Di kolom Machine type, pilih jenis mesin untuk VM tugas ini.
Misalnya, jika Anda memilih E2 untuk seri mesin, pilih e2-medium (2 vCPU, 4 GB memory) (default).
Konfigurasi jumlah resource VM yang diperlukan untuk setiap tugas:
Di kolom Cores, masukkan jumlah vCPUs per tugas.
Misalnya, masukkan
1(default).Di kolom Memory, masukkan jumlah RAM dalam GB per tugas.
Misalnya, masukkan
0.5(default).
Opsional: Untuk meninjau konfigurasi tugas, di panel kiri, klik Pratinjau.
Klik Create.
Halaman Job details menampilkan tugas yang Anda buat.
gcloud
Untuk membuat tugas penampung dasar menggunakan gcloud CLI, lakukan langkah-langkah berikut:
Buat file JSON yang menentukan detail konfigurasi tugas Anda. Misalnya, untuk membuat tugas container dasar, buat file JSON dengan konten berikut. Untuk mengetahui informasi selengkapnya tentang semua kolom yang dapat Anda tentukan untuk tugas, lihat dokumentasi referensi untuk resource REST
projects.locations.jobs.{ "taskGroups": [ { "taskSpec": { "runnables": [ { "container": { CONTAINER } } ], "computeResource": { "cpuMilli": CORES, "memoryMib": MEMORY }, "maxRetryCount": MAX_RETRY_COUNT, "maxRunDuration": "MAX_RUN_DURATION" }, "taskCount": TASK_COUNT, "parallelism": PARALLELISM } ] }Ganti kode berikut:
CONTAINER: container yang menjalankan setiap tugas. Minimal, penampung harus menentukan gambar di sub-bidangimageUri, tetapi sub-bidang tambahan juga mungkin diperlukan. Untuk mengetahui informasi selengkapnya, lihat sub-kolomcontainerdan contoh tugas penampung di bagian ini.CORES: Opsional. Jumlah inti—khususnya vCPUs, yang biasanya merepresentasikan setengah inti fisik—yang akan dialokasikan untuk setiap tugas dalam unit milliCPU. Jika kolomcpuMillitidak ditentukan, nilai akan disetel ke2000(2 vCPU).MEMORY: Opsional. Jumlah memori yang akan dialokasikan untuk setiap tugas dalam MB. Jika kolommemoryMibtidak ditentukan, nilai akan ditetapkan ke2000(2 GB).MAX_RETRY_COUNT: Opsional. Jumlah maksimum percobaan ulang untuk tugas. Nilai harus berupa bilangan bulat antara0dan10. Jika kolommaxRetryCounttidak ditentukan, nilai akan ditetapkan ke0, yang berarti tugas tidak akan dicoba lagi. Untuk mengetahui informasi selengkapnya tentang kolommaxRetryCount, lihat Mengotomatiskan percobaan ulang tugas.MAX_RUN_DURATION: Opsional. Waktu maksimum tugas diizinkan berjalan sebelum dicoba lagi atau gagal, diformat sebagai nilai dalam detik yang diikuti dengans—misalnya,3600suntuk 1 jam. Jika kolommaxRunDurationtidak ditentukan, nilai akan ditetapkan ke waktu proses maksimum untuk tugas. Untuk mengetahui informasi selengkapnya tentang kolommaxRunDuration, lihat Membatasi waktu proses untuk tugas dan yang dapat dijalankan menggunakan waktu tunggu.TASK_COUNT: Opsional. Jumlah tugas untuk tugas. Nilai harus berupa bilangan bulat antara1dan batas tugas per grup tugas. Jika kolomtaskCounttidak ditentukan, nilai akan ditetapkan ke1.PARALLELISM: Opsional. Jumlah tugas yang dijalankan tugas secara serentak. Angka tidak boleh lebih besar dari jumlah tugas dan harus berupa bilangan bulat antara1dan batas tugas paralel per pekerjaan. Jika kolomparallelismtidak ditentukan, nilai akan ditetapkan ke1.
Buat tugas menggunakan perintah
gcloud batch jobs submit.gcloud batch jobs submit JOB_NAME \ --location LOCATION \ --config JSON_CONFIGURATION_FILEGanti kode berikut:
JOB_NAME: nama tugas.LOCATION: lokasi tugas.JSON_CONFIGURATION_FILE: jalur untuk file JSON dengan detail konfigurasi tugas.
Misalnya, untuk membuat tugas yang menjalankan tugas menggunakan
image container Docker busybox:
Buat file JSON di direktori saat ini bernama
hello-world-container.jsondengan konten berikut:{ "taskGroups": [ { "taskSpec": { "runnables": [ { "container": { "imageUri": "gcr.io/google-containers/busybox", "entrypoint": "/bin/sh", "commands": [ "-c", "echo Hello world! This is task ${BATCH_TASK_INDEX}. This job has a total of ${BATCH_TASK_COUNT} tasks." ] } } ], "computeResource": { "cpuMilli": 2000, "memoryMib": 16 }, "maxRetryCount": 2, "maxRunDuration": "3600s" }, "taskCount": 4, "parallelism": 2 } ], "allocationPolicy": { "instances": [ { "policy": { "machineType": "e2-standard-4" } } ] }, "labels": { "department": "finance", "env": "testing" }, "logsPolicy": { "destination": "CLOUD_LOGGING" } }Jalankan perintah berikut:
gcloud batch jobs submit example-container-job \ --location us-central1 \ --config hello-world-container.json
API
Untuk membuat tugas container dasar menggunakan Batch API, gunakan
metode jobs.create.
Untuk mengetahui informasi selengkapnya tentang semua kolom yang dapat Anda tentukan untuk tugas, lihat dokumentasi referensi untuk resource REST projects.locations.jobs.
POST https://batch.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/jobs?job_id=JOB_NAME
{
"taskGroups": [
{
"taskSpec": {
"runnables": [
{
"container": {
CONTAINER
}
}
],
"computeResource": {
"cpuMilli": CORES,
"memoryMib": MEMORY
},
"maxRetryCount": MAX_RETRY_COUNT,
"maxRunDuration": "MAX_RUN_DURATION"
},
"taskCount": TASK_COUNT,
"parallelism": PARALLELISM
}
]
}
Ganti kode berikut:
PROJECT_ID: Project ID project Anda.LOCATION: lokasi tugas.JOB_NAME: nama tugas.CONTAINER: container yang menjalankan setiap tugas. Minimal, penampung harus menentukan gambar di sub-bidangimageUri, tetapi sub-bidang tambahan juga mungkin diperlukan. Untuk mengetahui informasi selengkapnya, lihat sub-kolomcontainerdan contoh tugas penampung di bagian ini.CORES: Opsional. Jumlah core—khususnya vCPUs, yang biasanya merepresentasikan setengah core fisik—yang akan dialokasikan untuk setiap tugas dalam satuan milliCPU. Jika kolomcpuMillitidak ditentukan, nilai akan ditetapkan ke2000(2 vCPU).MEMORY: Opsional. Jumlah memori yang akan dialokasikan untuk setiap tugas dalam MB. Jika kolommemoryMibtidak ditentukan, nilai ditetapkan ke2000(2 GB).MAX_RETRY_COUNT: Opsional. Jumlah maksimum percobaan ulang untuk tugas. Nilai harus berupa bilangan bulat antara0dan10. Jika kolommaxRetryCounttidak ditentukan, nilai akan ditetapkan ke0, yang berarti tugas tidak akan dicoba lagi. Untuk mengetahui informasi selengkapnya tentang kolommaxRetryCount, lihat Mengotomatiskan percobaan ulang tugas.MAX_RUN_DURATION: Opsional. Waktu maksimum tugas diizinkan berjalan sebelum dicoba lagi atau gagal, diformat sebagai nilai dalam detik yang diikuti dengans—misalnya,3600suntuk 1 jam. Jika kolommaxRunDurationtidak ditentukan, nilai akan ditetapkan ke waktu proses maksimum untuk tugas. Untuk mengetahui informasi selengkapnya tentang kolommaxRunDuration, lihat Membatasi waktu proses untuk tugas dan yang dapat dijalankan menggunakan waktu tunggu.TASK_COUNT: Opsional. Jumlah tugas untuk pekerjaan, yang harus berupa bilangan bulat antara1dan batas tugas per grup tugas. Jika kolomtaskCounttidak ditentukan, nilai akan ditetapkan ke1.PARALLELISM: Opsional. Jumlah tugas yang dijalankan tugas secara serentak. Angka tidak boleh lebih besar dari jumlah tugas dan harus berupa bilangan bulat antara1dan batas tugas paralel per tugas. Jika kolomparallelismtidak ditentukan, nilai akan ditetapkan ke1.
Misalnya, untuk membuat tugas yang menjalankan tugas menggunakan
image container Docker busybox,
gunakan permintaan berikut:
POST https://batch.googleapis.com/v1/projects/PROJECT_ID/locations/us-central1/jobs?job_id=example-container-job
{
"taskGroups": [
{
"taskSpec": {
"runnables": [
{
"container": {
"imageUri": "gcr.io/google-containers/busybox",
"entrypoint": "/bin/sh",
"commands": [
"-c",
"echo Hello world! This is task ${BATCH_TASK_INDEX}. This job has a total of ${BATCH_TASK_COUNT} tasks."
]
}
}
],
"computeResource": {
"cpuMilli": 2000,
"memoryMib": 16
},
"maxRetryCount": 2,
"maxRunDuration": "3600s"
},
"taskCount": 4,
"parallelism": 2
}
],
"allocationPolicy": {
"instances": [
{
"policy": { "machineType": "e2-standard-4" }
}
]
},
"labels": {
"department": "finance",
"env": "testing"
},
"logsPolicy": {
"destination": "CLOUD_LOGGING"
}
}
dengan PROJECT_ID adalah
project ID
project Anda.
Go
Go
Untuk mengetahui informasi selengkapnya, lihat dokumentasi referensi API Go Batch.
Untuk melakukan autentikasi ke Batch, siapkan Kredensial Default Aplikasi. Untuk mengetahui informasi selengkapnya, lihat Menyiapkan autentikasi untuk lingkungan pengembangan lokal.