AI privat untuk administrasi: mulai dari satu proses yang dapat diuji

Pilih pekerjaan dengan hasil yang bisa diperiksa

Contoh alur yang diusulkan, bukan hasil proyek pelanggan: staf mencari prosedur pengadaan, AI mengambil dokumen yang boleh diakses, lalu menyusun jawaban dengan rujukan. Untuk dokumen tagihan, AI dapat menyiapkan draf data; petugas memeriksa nominal dan pemasok sebelum data disimpan. Ini membantu pencarian dan persiapan pekerjaan tanpa menghapus tanggung jawab persetujuan.

Bagaimana AI menggunakan dokumen perusahaan?

RAG (Retrieval-Augmented Generation) mengambil informasi relevan dari sumber dokumen untuk membantu model menyusun jawaban. IBM menjelaskan pendekatan ini sebagai cara menggunakan pengetahuan eksternal tanpa melatih ulang model. Rujukan dokumen membantu pemeriksaan, tetapi tidak menjamin setiap jawaban benar.

Sumber teknis: IBM: retrieval-augmented generation

Contoh deployment yang terdokumentasi

NVIDIA menyediakan panduan RAG Blueprint dengan model yang dijalankan pada infrastruktur sendiri. Ini adalah contoh teknis yang dapat diperiksa, bukan klaim implementasi Manciti atau paket yang wajib dibeli. Pilihan teknologi dan kapasitas tetap mengikuti kebutuhan serta hasil pengujian pilot.

Sumber teknis: NVIDIA: self-hosted RAG deployment example

Apa arti deployment privat?

Deployment privat perlu ditentukan untuk seluruh alur data, bukan model saja. Dokumen, OCR (Optical Character Recognition atau pembacaan teks dari gambar), embedding untuk pencarian, model, log, dan cadangan harus dipetakan. Jika perusahaan mensyaratkan data tidak keluar jaringan, seluruh komponen yang memprosesnya harus memenuhi batas tersebut. Private cloud dan server di kantor memiliki kebutuhan operasional yang berbeda.

• Dokumen contoh yang disetujui, bahasa, format, kualitas scan, serta siapa yang memperbarui sumber.
• Kelompok pengguna dan hak akses dokumen; akun integrasi hanya diberi izin yang diperlukan.
• Jumlah pengguna bersamaan, target waktu jawaban, lokasi server, jaringan, dan pengelola operasional.

Integrasi dan persetujuan perlu dirancang sejak awal

OWASP mendokumentasikan prompt injection: instruksi berbahaya bisa berasal dari dokumen yang dibaca AI. Pengendalian mencakup pemisahan konten eksternal, pembatasan izin, dan persetujuan manusia untuk tindakan berisiko. Dalam rancangan Manciti, pemeriksaan akses dan validasi data harus dilakukan oleh aplikasi, bukan hanya instruksi kepada model.

Sumber teknis: OWASP: prompt injection

Ukur pilot sebelum membeli deployment penuh

Gunakan daftar pertanyaan dan dokumen contoh yang disetujui. Ukur ketepatan jawaban, kesesuaian rujukan, penolakan akses yang tidak berhak, waktu pengerjaan staf, dan biaya operasional. Uji juga ketika informasi tidak tersedia: sistem harus menyatakan keterbatasan, bukan mengarang jawaban.

Cakupan serah terima dapat meliputi sumber data yang dihubungkan, konfigurasi akses, hasil evaluasi, pelatihan, pemantauan, serta prosedur pembaruan dan pemulihan. Dukungan dan pengembangan berikutnya ditetapkan dalam penawaran.