IndoTrik — AI generatif semakin sering digunakan untuk mencari informasi, membuat tulisan, merangkum dokumen, membantu pekerjaan, hingga menjawab pertanyaan sehari-hari. Jawabannya biasanya tersusun rapi, menggunakan bahasa yang meyakinkan, dan terlihat seperti hasil pencarian yang sudah diperiksa.
Tetapi ada satu hal penting yang tidak boleh dilupakan: AI bisa memberikan jawaban yang salah meskipun jawabannya terdengar sangat yakin.
Kesalahan seperti ini sering disebut hallucination atau halusinasi AI. OpenAI mendefinisikannya sebagai pernyataan yang terlihat masuk akal tetapi sebenarnya tidak benar. Kesalahan tersebut dapat berupa fakta, tanggal, definisi, kutipan, referensi, maupun jawaban yang terlalu percaya diri terhadap pertanyaan yang ambigu.
Yang membuat masalah ini berbeda dari kesalahan mesin pencari biasa adalah cara AI menyampaikan jawabannya. Sebuah model dapat menghasilkan paragraf yang lancar dan terstruktur tanpa berarti setiap fakta di dalamnya benar.
Karena itu, kemampuan penting saat menggunakan AI bukan hanya cara mendapatkan jawaban, tetapi juga cara memeriksa apakah jawaban tersebut benar.
Halusinasi AI terjadi ketika model menghasilkan informasi yang tampak masuk akal tetapi tidak sesuai dengan fakta.
Contohnya bisa sangat sederhana. Pengguna bertanya tentang seseorang, lalu AI memberikan tanggal lahir tertentu. Jawabannya terlihat spesifik sehingga mudah dipercaya. Namun setelah dibandingkan dengan sumber resmi, tanggal tersebut ternyata salah.
Kesalahan juga dapat muncul dalam bentuk yang lebih berbahaya:
OpenAI sendiri secara eksplisit menyatakan bahwa ChatGPT dapat menghasilkan informasi yang salah atau menyesatkan, termasuk definisi, tanggal, fakta, kutipan, studi, sitasi, dan referensi yang dibuat-buat.
Ini bagian yang paling penting untuk dipahami.
Model bahasa tidak bekerja seperti ensiklopedia yang membuka satu halaman lalu mengambil kalimat yang tersimpan di dalamnya. Model dilatih untuk mempelajari pola bahasa dan kemudian menghasilkan keluaran berdasarkan konteks yang diberikan.
Dalam penjelasan penelitian OpenAI pada September 2025, model bahasa dijelaskan belajar selama pretraining dengan memprediksi token berikutnya dari sejumlah besar data. Proses tersebut membuat model sangat baik dalam menghasilkan bahasa yang masuk akal, tetapi tidak berarti setiap fakta yang dihasilkan selalu dapat dipastikan benar.
Hal ini membantu menjelaskan mengapa sebuah jawaban dapat terdengar sangat alami sekaligus mengandung fakta yang salah.
Dengan kata lain, kelancaran bahasa bukan bukti kebenaran fakta.
Salah satu masalah yang diteliti dalam sistem bahasa adalah kecenderungan model untuk memberikan jawaban ketika informasi yang tersedia tidak cukup.
OpenAI menjelaskan bahwa metode evaluasi tertentu dapat memberi insentif kepada model untuk menebak ketika tidak yakin. Dalam analogi sederhana, model yang menebak terkadang mendapatkan jawaban benar, sedangkan model yang mengatakan “saya tidak tahu” selalu dianggap tidak menjawab.
Akibatnya, jawaban yang percaya diri tidak selalu berarti model memiliki kepastian yang tinggi terhadap fakta tersebut.
Ini juga menjelaskan mengapa pengguna tidak seharusnya menggunakan gaya bahasa AI sebagai indikator kebenaran.
Bayangkan seseorang meminta AI:
“Berikan tiga penelitian tahun 2025 yang membuktikan bahwa aplikasi X meningkatkan daya tahan baterai smartphone.”
Jika penelitian yang dimaksud tidak tersedia dalam informasi yang dimiliki model, AI tetap dapat menghasilkan tiga judul penelitian dengan nama penulis, tahun, dan jurnal yang terlihat profesional.
Masalahnya bukan pada format jawabannya. Justru format tersebut yang dapat membuat kesalahan sulit dikenali.
Jika pengguna langsung memasukkan referensi tersebut ke artikel, tugas kuliah, laporan, atau berita, kesalahan AI dapat berubah menjadi informasi palsu yang diterbitkan manusia.
Karena itu, setiap referensi yang diberikan AI sebaiknya dianggap sebagai petunjuk untuk diperiksa, bukan bukti bahwa sumber tersebut benar-benar ada.
| Jenis Kesalahan | Contoh | Cara Memeriksa |
|---|---|---|
| Tanggal | Tanggal peluncuran produk salah | Cek situs resmi produsen |
| Spesifikasi | AI mencampur spesifikasi dua model HP | Cek halaman produk resmi |
| Fitur | AI menyebut fitur yang belum tersedia | Cek dokumentasi resmi |
| Referensi | Judul penelitian tidak ditemukan | Cari judul dan DOI di sumber akademik |
| Kutipan | Kutipan seseorang tidak ditemukan | Cari pernyataan asli atau transkrip resmi |
| Angka | Persentase atau statistik tidak jelas asalnya | Cari laporan atau dataset sumber |
| Hukum | AI menyebut aturan yang sudah berubah | Cek situs lembaga pemerintah terkait |
Jawaban yang jelas-jelas aneh biasanya mudah ditolak.
Masalah yang lebih sulit adalah kesalahan kecil di tengah jawaban yang sebagian besar benar.
Misalnya AI menjelaskan sebuah smartphone dengan benar: nama produk, ukuran layar, sistem operasi, dan kapasitas baterai. Namun di tengah penjelasan terdapat satu angka kamera yang sebenarnya milik model lain.
Karena 90 persen informasi terlihat benar, pembaca mungkin tidak memeriksa sisanya.
Pola seperti ini sangat penting bagi penulis konten teknologi. Satu fakta yang salah dapat membuat keseluruhan artikel kehilangan kredibilitas, terutama jika fakta tersebut berkaitan dengan spesifikasi, harga, tanggal, kompatibilitas, atau fitur produk.
AI dan mesin pencari mempunyai fungsi yang berbeda.
AI dapat membantu menjelaskan sebuah topik dengan bahasa yang lebih mudah dipahami. Mesin pencari dapat membantu menemukan halaman sumber. Dalam praktiknya, keduanya dapat digunakan bersama.
Untuk informasi yang berubah cepat, seperti harga, spesifikasi terbaru, jadwal peluncuran, kebijakan perusahaan, fitur software, atau berita terbaru, pengguna perlu memastikan informasi tersebut berasal dari sumber yang masih berlaku.
OpenAI sendiri menjelaskan bahwa penggunaan alat seperti pencarian web dapat membantu memperoleh informasi yang lebih baru atau dapat diverifikasi, sementara model tetap mempunyai keterbatasan dan tidak selalu memiliki akses terhadap informasi terbaru.
Semakin spesifik sebuah klaim, semakin mudah sebenarnya untuk diperiksa.
Misalnya AI memberikan angka penjualan yang sangat tepat, tanggal peluncuran sampai hari tertentu, atau nama dokumen resmi. Jangan langsung percaya hanya karena detailnya terlihat profesional.
Jika AI memberikan judul penelitian, URL, nama dokumen, atau kutipan, buka sumber tersebut.
Jika sumber tidak ditemukan melalui situs penerbit, lembaga resmi, jurnal, atau arsip yang dapat dipercaya, jangan menjadikannya bukti.
Kata seperti “pasti”, “selalu”, “100 persen”, atau “resmi” seharusnya membuat pengguna lebih teliti, terutama jika topiknya kompleks.
Bukan berarti kata-kata tersebut selalu salah. Masalahnya adalah AI dapat menggunakannya ketika konteks sebenarnya masih membutuhkan verifikasi.
Berita yang baru terjadi, update software, perubahan kebijakan, harga, regulasi, dan produk yang baru diumumkan membutuhkan pemeriksaan tanggal.
Informasi lama yang benar pada suatu waktu belum tentu masih benar sekarang.
AI dapat menghasilkan ringkasan yang mencampurkan informasi dari beberapa produk, perusahaan, versi software, atau periode waktu.
Karena itu, ketika jawaban membandingkan banyak objek sekaligus, periksa setiap klaim penting secara terpisah.
Verifikasi yang baik dimulai dengan menentukan jenis klaim yang sedang diperiksa.
| Klaim | Sumber yang Sebaiknya Dicari |
|---|---|
| Fitur produk | Situs resmi produsen atau dokumentasi produk |
| Spesifikasi perangkat | Halaman spesifikasi resmi |
| Fitur software | Dokumentasi pengembang |
| Aturan dan regulasi | Situs lembaga pemerintah atau regulator |
| Penelitian | Jurnal, penerbit, DOI, atau repositori akademik |
| Berita perusahaan | Siaran pers atau newsroom resmi |
| Angka statistik | Laporan asli atau dataset |
Prinsipnya sederhana: cari sumber yang paling dekat dengan asal fakta.
(0)
