Kenapa chatbot website sering ngarang, dan cara menghentikannya

Keluhan yang paling sering muncul soal chatbot di website bisnis bentuknya selalu mirip. Bot menjawab dengan percaya diri, kalimatnya rapi, dan isinya salah. Ada yang menyebut harga yang tidak pernah ada di daftar harga. Ada yang menjanjikan garansi yang tidak pernah ditawarkan. Pelanggan percaya karena jawabannya terdengar resmi, lalu tim sales yang harus membereskan.

Penyebabnya bukan bot yang rusak. Model bahasa memang dirancang buat menyusun kalimat yang paling mungkin mengikuti pertanyaan, bukan buat mengecek apakah isinya benar. Kalau dia tidak punya bahan, dia tetap menyusun sesuatu. Dalam istilah teknisnya ini disebut halusinasi, dan tanpa penanganan khusus sifatnya bawaan, bukan kecelakaan.

Bedanya chatbot polos dan chatbot yang dibekali konten

Chatbot polos cuma meneruskan pertanyaan pengunjung ke model, lalu menampilkan balasannya. Model menjawab dari ingatan pelatihannya, yang tidak pernah memuat isi situsmu. Jadi apa pun yang spesifik tentang bisnismu, mulai dari harga sampai jam operasional, dikarang.

Pendekatan yang dipakai InWebChatBot berbeda di satu langkah yang menentukan. Sebelum model menjawab, sistem mencari dulu potongan konten situsmu yang paling dekat dengan pertanyaan, lalu menyisipkan potongan itu ke dalam instruksi. Model tidak diminta mengingat, dia diminta merangkum bahan yang sudah ada di depannya. Pola ini disebut retrieval-augmented generation.

1. 1Isi situs diambil lewat sitemap, dibersihkan dari navigasi dan footer, lalu dipotong jadi bagian-bagian kecil.
2. 2Tiap potongan diubah jadi vektor, semacam sidik jari makna, dan disimpan di database.
3. 3Waktu pengunjung bertanya, pertanyaannya juga diubah jadi vektor, lalu dicari potongan yang paling mirip.
4. 4Potongan terpilih dikirim ke model bersama pertanyaannya, dengan instruksi menjawab hanya dari bahan itu.

Retrieval saja belum cukup

Mengambil konten yang relevan menutup sebagian besar masalah, tapi menyisakan satu celah. Pengunjung bisa bertanya soal yang memang tidak ada jawabannya di situsmu. Kalau tidak diatur, model akan mengisi kekosongan itu dengan tebakan yang terdengar masuk akal.

Di situlah guardrail bekerja. Guardrail adalah kalimat penolakan yang kamu tulis sendiri, dipakai bot waktu bahan yang ditemukan tidak cukup buat menjawab. Bot tidak diam dan tidak mengarang. Dia bilang tidak tahu, lalu mengarahkan ke jalur yang kamu tentukan.

Maaf, informasi itu belum ada di halaman kami. Untuk kebutuhan spesifik seperti ini, silakan hubungi tim kami lewat WhatsApp di nomor yang ada di halaman Kontak.

Kalimat seperti di atas jauh lebih aman daripada jawaban karangan, dan sering kali lebih berguna. Pengunjung dapat langkah berikutnya, bukan informasi palsu.

Tiga hal yang paling sering bikin jawaban meleset

Konten sumbernya memang tidak ada

Tidak ada sistem yang bisa menjawab soal harga kalau harga tidak pernah ditulis di situs. Sebelum menyalahkan botnya, buka halaman yang seharusnya memuat jawaban itu dan pastikan isinya benar-benar ada dalam bentuk teks.

Halamannya tidak ikut terbaca

Kalau sitemap tidak memuat halaman tertentu, isinya tidak pernah masuk knowledge base. Situs yang kontennya baru muncul setelah JavaScript jalan juga rawan terbaca kosong. Ini sumber masalah yang paling sering terjadi dan paling jarang dicurigai.

Kontennya sudah berubah tapi belum di-refresh

Knowledge base adalah salinan isi situs pada saat terakhir diambil. Ganti harga di halaman tanpa memicu refresh, dan bot masih menjawab pakai harga lama selama berhari-hari.

Ukuran yang layak dipantau

Setelah bot jalan, yang paling berguna dibaca bukan jumlah pesan, tapi isi percakapannya. Riwayat chat menunjukkan pertanyaan apa yang benar-benar diajukan pengunjung. Pertanyaan yang berulang dan dijawab dengan guardrail adalah daftar tugas yang jelas: itu konten yang belum ada di situsmu dan pantas ditulis.

Chatbot yang baik akhirnya memperbaiki situsnya sendiri, lewat jalan memutar. Dia menunjukkan lubang di konten yang selama ini tidak kelihatan dari analytics.