Knowledge base AI lokal: cara membuat dokumen perusahaan bisa dipakai AI dengan aman

Local AI Server baru terasa berguna saat ia membaca knowledge perusahaan. Kalau server hanya menjalankan model kosong, hasilnya tidak jauh berbeda dari chatbot umum. Nilai bisnisnya muncul saat AI bisa menjawab berdasarkan SOP, katalog produk, dokumen legal, price list, FAQ, playbook sales, dan laporan internal yang memang dipakai tim.

Di sinilah knowledge base dan RAG masuk. RAG, atau retrieval-augmented generation, adalah pola kerja ketika AI mengambil konteks dari dokumen yang relevan sebelum menjawab. Untuk perusahaan, ini lebih sehat daripada berharap model "tahu" semua hal dari training awalnya.

Mulai dari dokumen yang paling sering dipakai

Jangan mulai dari semua file. Mulai dari dokumen yang paling sering ditanyakan.

Biasanya urutannya begini:

• SOP operasional harian.
• Product knowledge dan daftar layanan.
• FAQ sales dan customer support.
• Pricing policy dan aturan diskon.
• Template proposal, invoice, email, dan follow-up.
• Dokumen training internal.

Dokumen seperti kontrak, data customer, dan finance bisa masuk belakangan setelah aturan akses lebih matang. Untuk tahap awal, lebih baik knowledge base kecil tapi bersih daripada besar tapi berantakan.

Bersihkan dokumen sebelum masuk ke knowledge base

AI tidak bisa memperbaiki knowledge base yang kacau. Kalau dokumen ganda, outdated, berbeda versi, atau penuh catatan lama, jawaban AI ikut kacau.

Sebelum dokumen diproses, perusahaan perlu membuat versi final. Tentukan owner dokumen. Hapus versi lama. Beri tanggal update. Pisahkan dokumen publik internal, dokumen terbatas, dan dokumen sensitif.

Ini kerja yang terlihat administratif, tapi penting. Banyak project knowledge AI gagal karena perusahaan langsung memasukkan semua file ke sistem tanpa kurasi.

Tentukan level akses

Tidak semua user boleh membaca semua dokumen. Tim sales mungkin butuh product knowledge dan price list. HR butuh aturan karyawan. Finance butuh dokumen invoice. Management butuh laporan ringkasan.

Di Local AI Server, akses bisa dibuat lebih terkendali:

• User biasa hanya membaca knowledge sesuai divisinya.
• Supervisor bisa melihat dokumen lintas tim.
• Admin mengatur dokumen, model, dan akses.
• Agent tertentu hanya boleh membaca folder tertentu.

Kalau memakai OpenClaw sebagai layer agent management, role, permission, dan workflow approval bisa dirancang sejak awal. Ini lebih penting ketika agent tidak hanya menjawab, tetapi juga membantu menyiapkan aksi.

Buat jawaban dengan sumber

AI internal sebaiknya tidak hanya menjawab. Ia perlu memberi sumber. Minimal menyebut dokumen yang dipakai, versi dokumen, atau bagian yang menjadi dasar jawaban.

Tujuannya sederhana: user bisa mengecek. Kalau jawaban dipakai untuk keputusan bisnis, sumber harus bisa ditelusuri. Ini juga mengurangi risiko halusinasi karena AI didorong untuk bekerja dari konteks yang tersedia.

Untuk SOP dan dokumen legal, aturan ini lebih ketat. AI boleh membantu merangkum, tapi keputusan final tetap harus melalui manusia yang berwenang.

Jangan abaikan prompt injection

Knowledge base internal tetap punya risiko. OWASP memasukkan prompt injection sebagai risiko utama pada aplikasi LLM. Prompt injection bisa muncul dari input user, dokumen yang diunggah, halaman web yang diringkas, atau file yang berisi instruksi tersembunyi.

Contohnya sederhana: sebuah dokumen bisa berisi kalimat yang mencoba memerintahkan AI untuk mengabaikan aturan sistem atau membocorkan data. Kalau agent terlalu bebas membaca dan mengikuti dokumen, risiko meningkat.

Karena itu, Local AI Server tetap butuh guardrail:

• Pisahkan instruksi sistem dari isi dokumen.
• Batasi tool yang bisa dipakai agent.
• Jangan izinkan dokumen mengubah permission.
• Log query dan output penting.
• Gunakan human review untuk keputusan sensitif.

Tentukan dokumen yang tidak boleh masuk

Tidak semua data cocok masuk knowledge base, walaupun server berjalan lokal. Data yang sangat sensitif tetap perlu perlakuan khusus.

Contoh data yang perlu dibatasi:

• Password, secret, token API.
• Data identitas customer yang tidak dibutuhkan.
• Data payroll dan dokumen HR sensitif.
• Dokumen legal yang belum disetujui.
• Data transaksi mentah yang tidak perlu dibaca semua user.

Prinsipnya: minimalkan data. Masukkan yang perlu, bukan semua yang ada.

Update knowledge base secara berkala

Knowledge base bukan project sekali jadi. Produk berubah. Harga berubah. SOP berubah. Struktur tim berubah. Jika dokumen tidak diperbarui, AI akan memberi jawaban yang tampak rapi tetapi sudah salah.

Perusahaan perlu jadwal review. Bisa bulanan untuk dokumen operasional, mingguan untuk price list aktif, atau setiap ada perubahan policy. Owner dokumen harus jelas. Tanpa owner, knowledge base akan cepat membusuk.

Kesimpulan operasional

Local AI Server tanpa knowledge base hanya menjadi mesin model. Local AI Server dengan knowledge base yang rapi bisa menjadi assistant internal yang membantu sales, CS, HR, finance, operation, dan management bekerja lebih cepat.

Mulai kecil. Pilih dokumen yang sering ditanyakan. Bersihkan versi. Atur akses. Wajibkan sumber. Tambahkan log dan review. Setelah itu baru perluas ke workflow agent.

Rama Digital menyiapkan knowledge base awal sebagai bagian dari paket Local AI Server untuk Perusahaan, terutama untuk perusahaan yang ingin AI lokalnya langsung dipakai tim, bukan berhenti di demo teknis.

Sumber rujukan:

• OWASP Top 10 for LLM Applications: https://owasp.org/www-project-top-10-for-large-language-model-applications/
• OWASP Prompt Injection: https://genai.owasp.org/llmrisk/llm01-prompt-injection/
• NIST AI RMF Generative AI Profile: https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence
• Ollama API documentation: https://docs.ollama.com/api/introduction
• OpenAI Agents SDK tracing: https://openai.github.io/openai-agents-python/tracing/