Jangan mulai dari alat—pilih satu alur kerja AI yang bisa diperiksa

Perusahaan sebaiknya memulai penerapan AI dari satu alur kerja berulang yang tujuannya jelas, datanya layak, hasilnya mudah diperiksa, dan dampak kesalahannya dapat dibatasi. Pilihan alat baru dilakukan setelah kebutuhan tersebut dirumuskan.

Jalankan alur itu sebagai uji coba terbatas dengan penanggung jawab manusia, aturan penggunaan tertulis, dan ukuran keberhasilan yang ditetapkan sebelum pekerjaan dimulai. Dengan urutan ini, perusahaan dapat menilai perubahan pada waktu, mutu, dan risiko proses—bukan sekadar melihat keluaran AI yang tampak meyakinkan.

1. Rumuskan masalah sebelum menilai alat

Tuliskan masalah dalam satu kalimat: siapa mengerjakan apa, seberapa sering pekerjaan terjadi, bagian mana yang menyita waktu, dan hasil apa yang dibutuhkan. “Memakai AI untuk layanan pelanggan” terlalu luas; “menyiapkan draf klasifikasi tiket agar petugas dapat memeriksa tujuan penerusannya” sudah menunjuk pada alur yang dapat diuji.

Panduan implementasi IBM menempatkan tujuan bisnis sebelum teknologi, disusul pemetaan integrasi ke alur dan sistem yang ada serta penetapan sasaran keberhasilan terukur. Karena itu, demonstrasi fitur saja bukan dasar yang cukup untuk memilih kasus penggunaan.

Catat kondisi awal tanpa AI: waktu penyelesaian, pekerjaan ulang, jenis kesalahan, biaya yang relevan, dan pihak yang menyetujui hasil. Data dasar tersebut diperlukan agar hasil uji coba dapat dibandingkan dengan proses yang benar-benar digantikannya.

2. Nilai kandidat dengan lembar keputusan yang sama

Bandingkan beberapa alur kerja menggunakan skala 1–5. Skor tinggi berarti kandidat lebih sesuai untuk percobaan awal; lembar ini merupakan alat keputusan internal, bukan standar ilmiah atau jaminan keberhasilan.

• Frekuensi: 1 untuk pekerjaan yang jarang muncul, 5 untuk pekerjaan rutin dengan volume stabil.
• Kejelasan aturan: 1 jika hasil sangat bergantung pada penilaian subjektif, 5 jika prosedur dan format keluaran sudah eksplisit.
• Kualitas data: 1 jika masukan tersebar atau tidak konsisten, 5 jika data cukup lengkap, relevan, dan tersedia untuk penggunaan yang dimaksud.
• Dampak kesalahan: 1 jika kesalahan dapat langsung merugikan orang atau perusahaan, 5 jika kesalahan mudah ditemukan dan dibatalkan sebelum berdampak.
• Kemampuan verifikasi: 1 jika kebenaran sulit diuji, 5 jika petugas dapat membandingkan keluaran dengan bukti atau aturan yang tersedia.
• Privasi: 1 jika proses membutuhkan data sensitif yang sulit diminimalkan, 5 jika dapat dijalankan dengan data nonrahasia atau data yang telah disamarkan.
• Penghematan waktu: 1 jika pemeriksaan diperkirakan sama beratnya dengan pekerjaan awal, 5 jika AI mengambil tahap yang jelas dan memakan waktu.

Jumlahkan ketujuh nilai, tetapi jangan abaikan skor terendah. Total tinggi tidak menutup penghalang keras seperti penggunaan data yang tidak diizinkan, kesalahan yang tidak dapat dibatalkan, atau keluaran yang tidak mungkin diverifikasi.

Untuk uji pertama, penyusunan draf, ekstraksi informasi, pengelompokan, atau peringkasan internal biasanya lebih mudah dibatasi daripada keputusan otomatis tentang perekrutan, kredit, disiplin, keselamatan, atau hak seseorang. Pilih satu kandidat yang manfaatnya cukup berarti tanpa mempertaruhkan keputusan berdampak tinggi.

3. Tetapkan batas AI dan kewenangan manusia

Petakan alur dari masukan sampai tindakan akhir, lalu tandai langkah yang boleh dibantu AI. Tentukan siapa yang wajib memeriksa, mengoreksi, menyetujui, atau menolak hasil; pemeriksa harus memahami konteks pekerjaan dan bukti yang menjadi dasar keputusan.

Tempatkan pemeriksaan sebelum tindakan yang sulit dibalik, seperti mengirim jawaban kepada pelanggan, mengubah catatan resmi, menerbitkan materi, atau menjalankan transaksi. Sesuai kebijakan penyimpanan perusahaan, catatan uji dapat memuat masukan, keluaran, koreksi, alasan penolakan, konfigurasi sistem, dan penanggung jawab.

AI RMF Core dari NIST mendefinisikan fungsi govern, map, measure, dan manage, termasuk dokumentasi pengawasan manusia, pengujian sebelum penerapan, pemantauan saat sistem beroperasi, serta mekanisme untuk menonaktifkan sistem yang hasilnya tidak sesuai dengan tujuan penggunaan. Dalam uji coba, prinsip itu dapat diwujudkan sebagai pemilik proses, jadwal peninjauan, jalur eskalasi, dan kewenangan penghentian yang jelas.

4. Buat kebijakan yang dapat dijalankan

Kebijakan uji coba perlu menjawab pertanyaan operasional: siapa yang boleh memakai sistem, untuk tujuan apa, akun mana yang disetujui, data apa yang boleh dimasukkan, berapa lama catatan disimpan, dan siapa yang menangani insiden. Kelompokkan data pelanggan, karyawan, kontrak, kredensial, rahasia dagang, dan materi berhak cipta berdasarkan aturan internal; larangan umum “jangan memasukkan data rahasia” tidak cukup memberi batas kerja.

Sebelum mengirim masukan, tim dapat memakai pemeriksaan data sensitif untuk menentukan apakah informasi perlu dihapus, disamarkan, diringkas, atau tidak diproses oleh layanan AI. Syarat layanan, pengaturan penyimpanan, akses pengguna, dan penggunaan data oleh penyedia juga perlu diperiksa untuk produk yang benar-benar dipilih.

Pelatihan pengguna diperlukan, tetapi bukan satu-satunya pengaman. Analisis OECD tentang AI dan keterampilan menyatakan bahwa pelatihan perlu menjadi bagian dari paket kebijakan yang lebih luas, termasuk dialog di tempat kerja, transparansi, keterjelasan, akuntabilitas, keamanan, perlindungan privasi pekerja, serta pencegahan bias dan diskriminasi.

5. Ukur seluruh alur, bukan hanya pembuatan draf

Gunakan kumpulan pekerjaan yang mewakili variasi normal, termasuk masukan tidak lengkap dan kasus yang biasanya memerlukan eskalasi. Bandingkan proses lama dengan proses berbantuan AI dari awal sampai hasil disetujui; waktu menghasilkan draf dapat menyesatkan apabila pemeriksaan dan koreksinya panjang.

Ukuran uji coba sebaiknya langsung menjawab tujuan dan risiko:

• waktu penyelesaian per kasus, termasuk pemeriksaan manusia;
• proporsi keluaran yang diterima tanpa perubahan besar;
• jumlah dan jenis kesalahan, terutama kesalahan kritis;
• volume pekerjaan ulang dan kasus yang dieskalasikan;
• insiden privasi, keamanan, atau penggunaan di luar tujuan;
• beban pemeriksaan serta kejelasan tanggung jawab bagi petugas.

Jangan mengubah definisi keberhasilan setelah melihat hasil. Jika tujuan awal adalah memangkas waktu penanganan tanpa menaikkan kesalahan, bertambahnya jumlah draf tidak dapat menggantikan kedua ukuran tersebut. Masukkan pula biaya lisensi, integrasi, pelatihan, pengawasan, dan penanganan kegagalan agar penghematan tidak dihitung secara sepihak.

6. Putuskan berhenti, memperbaiki, atau memperluas

Sebelum uji coba dimulai, sepakati batas penghentian. Jeda alur jika terjadi insiden privasi atau keamanan, kesalahan kritis melampaui toleransi perusahaan, keluaran tidak dapat ditelusuri atau diperiksa, pengguna melewati kontrol, atau waktu koreksi menghapus manfaat operasional.

Perbaiki dan uji ulang jika masalahnya terbatas, misalnya format masukan tidak konsisten, instruksi kerja kurang jelas, atau pemeriksa belum siap. Catat perubahan pada model, penyedia, data, instruksi, integrasi, atau tujuan karena perubahan tersebut dapat mengubah profil risiko dan membuat hasil sebelumnya tidak lagi sebanding.

Perluasan layak dipertimbangkan hanya jika manfaat bertahan pada variasi pekerjaan normal, kesalahan berada dalam batas yang disepakati, pengguna mengikuti kebijakan, dan pemilik proses mampu memantau hasil secara berkelanjutan. Perluas satu dimensi pada satu waktu—misalnya volume atau satu tim tambahan—dengan tetap mempertahankan pemeriksaan manusia dan mekanisme penghentian.

Baca juga:

• Jangan tempel data rahasia ke AI: lima pemeriksaan sebelum mengirim prompt
• Valuasi startup bukan tebakan: pilih metode sesuai data yang tersedia
• Kit meluncurkan sembilan alat, data pelanggan kini bisa menggerakkan AI