Jawabannya benar. Jalurnya salah.

Nilai akhir yang benar dapat menyembunyikan jalur yang tidak aman. Periksa apa yang dibaca dan diubah agen, bukan hanya jawaban akhirnya.

agent evaluation process

Apa jawaban singkatnya?

Hasil yang benar adalah bukti yang belum lengkap. Dalam pekerjaan agen, verifikasi sumber yang dipakai, tindakan yang dilakukan, dan pemeriksaan yang dijalankan, terutama saat menyangkut data atau izin pelanggan. Pemeriksaan proses dapat diotomatisasi jika aturannya jelas; manusia cukup meninjau ambiguitas yang berdampak. Artikel ini membahas jalur menuju hasil, bukan kesetiaan simulasi sistem tujuan.

Pelajari selengkapnya
Di halaman ini

Angka 420 dapat benar karena dua alasan yang saling bertentangan. Dalam contoh ilustratif ini, dua agen menghasilkan segmen kontak yang sama dan sama-sama menyebut 420 pelanggan. Agen pertama memakai audiens toko yang disetujui dan memeriksa persetujuan. Agen kedua menyalin ekspor lama dari ruang kerja lain dan kebetulan mendapat jumlah yang sama.

Penilaian yang hanya melihat hasil akan memberi keduanya nilai penuh. Itu penilaian yang keliru.

Diskusi tentang verifikasi dalam lingkungan agen membedakan keluaran akhir dari jalur yang menghasilkan keluaran itu. Dalam contoh spreadsheet pada sumber, angka yang tepat hanya sebagian tugas. Rumus, rujukan sumber, dan format wajib juga penting. Dalam integrasi, perbedaan ini lebih tajam: asal hasil dapat menentukan apakah hasil itu diperbolehkan sama sekali.

Nilai akhir tidak membuktikan asalnya

Misalkan agen mengusulkan pemetaan bidang dari objek pelanggan toko ke sistem pemasaran. Agen memasangkan email dengan email, firstName dengan nama depan, dan bidang persetujuan dengan status pemasaran di sistem tujuan. Pratinjaunya terlihat masuk akal.

Apa yang dibacanya untuk membuat pilihan itu? Skema terbaru, contoh lama, atau dokumen dari akun lain? Apakah agen memeriksa arti bidang persetujuan atau menyimpulkannya dari label? Apakah nilai null dianggap “tidak berlangganan” atau “tidak diketahui”?

Setiap jawaban mengubah tingkat kepercayaan terhadap pemetaan akhir yang sama. Pemetaan adalah keluaran. Jejak bukti merupakan alasan untuk menggunakannya.

Jejak itu harus menunjukkan versi mana dari setiap sumber yang tersedia ketika keputusan dibuat. Tangkapan layar skema yang telah diperbaiki belakangan tidak menjelaskan pemetaan yang diusulkan kemarin. Simpan revisi skema atau dokumen yang relevan bersama keputusan, lalu jaga kaitan antara revisi itu dan aturan yang disetujui. Tujuannya merekonstruksi keputusan, bukan menyimpan setiap halaman yang pernah dilihat agen.

Karena itu, jejak panggilan alat dapat lebih penting daripada penjelasan yang terdengar yakin. Jejak tersebut mencatat panggilan konkret dan pengenal yang dipakai agen. Ringkasan tertulis bisa membantu, tetapi tidak membuktikan bahwa suatu sumber benar-benar dibaca. Dalam integrasi, bukti seharusnya menunjuk objek sumber, kontrak sistem tujuan, dan aturan khusus yang akan memindahkan data.

Panduan mengintegrasikan alat bisnis dimulai dari kepemilikan bidang karena nama bidang pada kedua sisi jarang menentukan siapa yang berwenang. Pemeriksaan proses menanyakan apakah agen sungguh memeriksa keputusan kepemilikan itu sebelum menyusun penulisan.

Nyatakan jalur yang diperbolehkan dalam tugas

Kasus uji yang baik mempunyai dua bagian. Pertama, tetapkan apa yang harus ada di sistem tujuan. Kedua, tetapkan bukti dan tindakan apa yang boleh dipakai untuk mencapainya.

Untuk segmen ilustratif tadi, keluaran yang diharapkan mungkin 420 kontak. Namun jalur yang disetujui juga dapat mensyaratkan kueri terbatas pada toko, pemetaan persetujuan yang berlaku, dan pratinjau yang menyebut catatan yang dikecualikan. Jalur itu dapat melarang pembacaan lintas ruang kerja serta pengiriman kampanye secara langsung.

Dengan begitu, pemeriksa menjadi spesifik. Ia dapat menolak pengenal dari ruang kerja lain secara mekanis. Ia dapat memastikan panggilan pratinjau terjadi sebelum aktivasi. Ia dapat mencocokkan sumber data yang disebut dalam hasil dengan sumber pada jejak panggilan. Ini aturan, bukan pendapat model.

Satu pertanyaan tersisa mungkin membutuhkan penilaian: apakah bidang persetujuan yang dipilih benar-benar berarti izin bagi kampanye ini? Di sinilah manusia atau model keputusan yang dibatasi perlu melihat definisi bidang dan tujuan penggunaannya. Aturan dan penilaian mempunyai tugas berbeda.

Hasilnya adalah pesan kegagalan uji yang berguna. “Jawaban salah” membuat tim menebak-nebak. “Jumlah benar, tetapi audiens berasal dari pembacaan ruang kerja lain” menunjukkan pelanggaran batas data. “Pemetaan benar, tetapi definisi persetujuan tidak tersedia” menunjukkan bukti yang kurang. Pemeriksa perlu melaporkan kondisi yang gagal dan entri jejak yang menyebabkannya agar perbaikan mengubah jalurnya, bukan sekadar memperindah kalimat akhir.

Apa yang dibuktikan jejak tindakan?

  1. Sumber disetujui dan pemeriksaan wajib dilakukan

    Terima jalurnya

    Hasil memiliki bukti yang disyaratkan tugas.

  2. Sumber dari ruang kerja lain

    Tolak jalurnya

    Jumlah yang sama tidak mengizinkan pembacaan itu.

  3. Bukti wajib tidak ada

    Tahan untuk ditinjau

    Keluaran saja tidak membuktikan bagaimana hasilnya diperoleh.

Pemeriksaan jalur konseptual. Jumlah akhir yang sama dapat berasal dari jalur berbeda.

Jangan jadikan jejak tindakan sekadar ritual

Keberatan yang wajar ialah: “Agen dapat melakukan semua panggilan wajib tetapi tetap mengabaikan hasilnya.” Benar. Daftar panggilan membuktikan panggilan terjadi. Daftar itu tidak membuktikan bahwa bukti yang dikembalikan memengaruhi keputusan.

Salah satu cara mengujinya adalah mengubah bukti. Berikan dua catatan yang serupa, tetapi status persetujuannya berbeda. Jika agen menghasilkan pemetaan dan penjelasan yang sama untuk keduanya, pembacaan sumbernya mungkin hanya formalitas. Cara lain adalah menghapus satu sumber wajib dan mengharuskan agen berhenti. Agen yang mengisi kekosongan dari ingatannya tidak mengikuti jalur.

Biayanya adalah pekerjaan tambahan pada persiapan kasus uji. Seseorang perlu menetapkan sumber yang diizinkan, perbedaan hasil yang diharapkan, dan jalan pintas yang dilarang. Skor umum “apakah jawabannya terlihat bagus?” lebih murah dibuat. Namun skor itu mengajarkan lebih sedikit.

Reverse ETL mengubah pemetaan menjadi pemindahan data berulang. Setelah pemetaan disetujui, kode biasa dapat menerapkannya tanpa agen membaca ulang bukti pada tiap baris. Audit jalur dilakukan saat keputusan membuat atau mengubah aturan itu, lalu diulang ketika kontrak yang berubah mempertanyakan aturan tersebut.

Jawaban benar yang diperoleh melalui akun yang salah bukan nyaris benar. Itu tugas yang berbeda.

Pertanyaan yang sering diajukan

Mengapa memeriksa jalur jika jawaban akhirnya benar?

Agen mungkin menggunakan data tanpa izin, melewati pemeriksaan wajib, atau kebetulan mencapai nilai yang benar. Jawaban akhir saja tidak membuktikan bahwa jalurnya aman atau dapat diulang.

Apakah setiap tindakan antara harus ditinjau manusia?

Tidak. Catat panggilan alat dan tegakkan aturan deterministik terhadap tindakan terlarang. Tinjau langkah yang ambigu atau berdampak besar dan uji jejak tindakan yang mewakili.

Bagaimana tim dapat mengujinya?

Pasangkan keadaan akhir yang diharapkan dengan sumber bukti yang diizinkan dan pemeriksaan wajib. Ulangi kasus ketika jalan pintas dapat menghasilkan jawaban sama, lalu lihat apakah pemeriksa menolaknya.

Ajukan akses awal

Masukkan nama depan dan alamat email kerja Anda. Kami akan mengirim tautan untuk mengonfirmasi permintaan akses Tajo.

Dapatkan Brevo