Membuat profil dan memvalidasi kualitas data
Panduan memulai ini menunjukkan cara menggunakan Knowledge Catalog (sebelumnya dikenal sebagai Dataplex Universal Catalog) untuk membuat profil tabel BigQuery, menentukan aturan kualitas data berdasarkan insight profil, dan menjalankan pemindaian kualitas data.
Anda menyelesaikan langkah-langkah berikut:
- Buat set data dan tabel BigQuery dengan data bikeshare sampel yang berisi anomali yang disengaja, seperti duplikat dan nilai null, untuk menguji kemampuan pemindaian.
- Buat dan jalankan pemindaian profil data pada tabel. Pembuatan profil data menghitung statistik tingkat kolom seperti persentase null, jumlah nilai unik, dan distribusi nilai. Untuk mengetahui informasi selengkapnya, lihat Tentang pembuatan profil data.
- Tinjau hasil pemindaian profil data untuk menemukan pola dan potensi anomali.
- Tentukan aturan kualitas data berdasarkan temuan profil Anda dan jalankan pemindaian kualitas data. Pemindaian kualitas data memvalidasi data Anda terhadap aturan yang ditentukan untuk mengidentifikasi anomali. Untuk mengetahui informasi selengkapnya, lihat Tentang kualitas data otomatis.
- Tinjau hasil evaluasi untuk melihat aturan kualitas mana yang lulus atau gagal.
Sebelum memulai
Siapkan project:
- Login ke akun Google Cloud Anda. Jika Anda baru menggunakan Google Cloud, buat akun untuk mengevaluasi performa produk kami dalam skenario dunia nyata. Pelanggan baru juga mendapatkan kredit gratis senilai $300 untuk menjalankan, menguji, dan men-deploy workload.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
Roles required to select or create a project
- Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
-
Create a project: To create a project, you need the Project Creator role
(
roles/resourcemanager.projectCreator), which contains theresourcemanager.projects.createpermission. Learn how to grant roles.
-
If you're using an existing project for this guide, verify that you have the permissions required to complete this guide. If you created a new project, then you already have the required permissions.
-
Verify that billing is enabled for your Google Cloud project.
Enable the Knowledge Catalog and BigQuery APIs.
Roles required to enable APIs
To enable APIs, you need the
serviceusage.services.enablepermission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
Roles required to select or create a project
- Select a project: Selecting a project doesn't require a specific IAM role—you can select any project that you've been granted a role on.
-
Create a project: To create a project, you need the Project Creator role
(
roles/resourcemanager.projectCreator), which contains theresourcemanager.projects.createpermission. Learn how to grant roles.
-
If you're using an existing project for this guide, verify that you have the permissions required to complete this guide. If you created a new project, then you already have the required permissions.
-
Verify that billing is enabled for your Google Cloud project.
Enable the Knowledge Catalog and BigQuery APIs.
Roles required to enable APIs
To enable APIs, you need the
serviceusage.services.enablepermission. If you created the project, then you likely already have this permission through the Owner role (roles/owner). Otherwise, you can get this permission through the Service Usage Admin role (roles/serviceusage.serviceUsageAdmin). Learn how to grant roles.
Peran yang diperlukan
Untuk mendapatkan izin yang diperlukan untuk membuat dan menjalankan pemindaian profil data dan kualitas data, serta mengelola resource BigQuery, minta administrator Anda untuk memberi Anda peran IAM berikut di project:
-
Membuat, menjalankan, dan menghapus pemindaian data:
Editor Dataplex DataScan (
roles/dataplex.dataScanEditor) -
Membuat, mengisi, dan menghapus tabel contoh:
BigQuery Data Owner (
roles/bigquery.dataOwner) -
Menjalankan kueri SQL di BigQuery:
BigQuery Job User (
roles/bigquery.jobUser)
Untuk mengetahui informasi selengkapnya tentang pemberian peran, lihat Mengelola akses ke project, folder, dan organisasi.
Anda mungkin juga bisa mendapatkan izin yang diperlukan melalui peran khusus atau peran bawaan lainnya.
Jika memiliki izin yang diperlukan untuk mengelola akses IAM di
project, Anda dapat memberikan peran ini ke akun pengguna Anda sendiri dengan menjalankan perintah gcloud berikut:
gcloud projects add-iam-policy-binding PROJECT_ID \
--member="user:USER_EMAIL" \
--role="roles/dataplex.dataScanEditor"
gcloud projects add-iam-policy-binding PROJECT_ID \
--member="user:USER_EMAIL" \
--role="roles/bigquery.dataOwner"
gcloud projects add-iam-policy-binding PROJECT_ID \
--member="user:USER_EMAIL" \
--role="roles/bigquery.jobUser"
Ganti kode berikut:
PROJECT_ID: Google Cloud Project ID Anda.USER_EMAIL: alamat email akun pengguna Anda (misalnya,name@example.com).
Memberikan izin ke agen layanan Knowledge Catalog
Agen layanan adalah akun layanan yang dikelola Google yang digunakan Knowledge Catalog untuk menjalankan kueri pemindaian di BigQuery atas nama Anda.
Di konsol Google Cloud , klik Activate Cloud Shell di toolbar. Penyediaan dan koneksi lingkungan memerlukan waktu beberapa saat.
Buat agen layanan Knowledge Catalog:
gcloud beta services identity create --service=dataplex.googleapis.comPerintah ini membuat agen layanan jika belum disediakan dan menampilkan emailnya. Jika project Anda sudah memiliki agen layanan Knowledge Catalog, perintah akan menampilkan identitas yang ada tanpa melakukan perubahan apa pun.
Outputnya mirip dengan hal berikut ini:
serviceAccount:service-PROJECT_NUMBER@gcp-sa-dataplex.iam.gserviceaccount.comCatat
PROJECT_NUMBERdi output untuk langkah berikutnya.Berikan peran BigQuery Job User (
roles/bigquery.jobUser) agar Knowledge Catalog dapat menjalankan tugas kueri di project Anda:gcloud projects add-iam-policy-binding PROJECT_ID \ --member="serviceAccount:service-PROJECT_NUMBER@gcp-sa-dataplex.iam.gserviceaccount.com" \ --role="roles/bigquery.jobUser"
Ganti kode berikut:
PROJECT_ID: Google Cloud Project ID Anda.PROJECT_NUMBER: nomor project Google Cloud Anda.
Berikan peran BigQuery Data Viewer (
roles/bigquery.dataViewer) agar agen layanan dapat membaca data dan skema tabel Anda:gcloud projects add-iam-policy-binding PROJECT_ID \ --member="serviceAccount:service-PROJECT_NUMBER@gcp-sa-dataplex.iam.gserviceaccount.com" \ --role="roles/bigquery.dataViewer"
Ganti kode berikut:
PROJECT_ID: Google Cloud Project ID Anda.PROJECT_NUMBER: nomor project Google Cloud Anda.
Membuat contoh set data dan tabel
Untuk mencoba pemrofilan dan pemindaian kualitas data dengan aman tanpa menyentuh data produksi, siapkan set data BigQuery khusus dan buat tabel yang berisi data sampel langsung di project Anda.
Konsol
Di konsol Google Cloud , buka halaman BigQuery.