Jakarta – Penggunaan produk yang dihasilkan teknologi kecerdasan buatan (AI), baik berupa teks maupun visual, menuntut kewaspadaan ekstra. Meski hasilnya terlihat meyakinkan, teknologi ini memiliki potensi besar dalam menyajikan informasi yang tidak akurat.
Fenomena ini dikenal sebagai halusinasi AI, yakni kondisi saat model AI memberikan informasi yang tidak tepat, menyesatkan, atau tidak koheren. Hal ini terjadi karena algoritma AI menemukan pola dalam data yang sebenarnya tidak ada atau keliru dalam menafsirkan pola tersebut.
Merujuk pada catatan Kaspersky, halusinasi pada AI dipicu oleh berbagai faktor yang kerap muncul sebagai kombinasi dari beberapa penyebab sekaligus.
Salah satu pemicu utamanya adalah terbatasnya data pelatihan sehingga model AI tidak mampu menyajikan hasil yang komprehensif. Sebaliknya, kelebihan data pelatihan juga bisa menjadi kendala karena gangguan data yang tidak relevan dapat tercampur dengan informasi penting.
Selain itu, bias dalam data juga berpotensi menciptakan kesalahan. AI juga sering kali membuat asumsi serta kesimpulan yang keliru dari informasi yang diberikan pengguna. Kurangnya konteks dunia nyata, seperti pemahaman mengenai sifat fisik objek, juga menjadi faktor penyebab lainnya.
Risiko ini menegaskan krusialnya peran manusia untuk melakukan evaluasi sebelum produk AI digunakan atau dirilis ke publik. Hal ini sangat penting karena kesalahan akurasi dapat menyesatkan, terutama jika diterbitkan oleh pihak yang dianggap tepercaya.
Terkait upaya mitigasi isu halusinasi dan bias pada AI, MIT Sloan merinci sejumlah langkah yang dapat diterapkan.
Langkah pertama adalah mengevaluasi keluaran AI secara kritis. Menurutnya,
Sistem AI tidak memiliki kemampuan untuk bernalar atau membentuk keyakinan seperti halnya manusia. Sistem ini beroperasi murni secara algoritmik berdasarkan data pelatihan tanpa kemampuan untuk merenung.
Oleh sebab itu, pengguna harus menanggapi setiap hasil produk AI dengan pandangan kritis dan tetap menerapkan penilaian manusia.
Langkah kedua adalah diversifikasi sumber. Pengguna disarankan untuk selalu melakukan verifikasi ulang terhadap akurasi konten yang dihasilkan dengan berkonsultasi kepada para ahli atau melakukan referensi silang dengan publikasi yang telah ditelaah oleh rekan sejawat.
Langkah ketiga adalah penggunaan alat berbasis retrieval. Beberapa AI generatif kini dibangun dengan arsitektur Retrieval-Augmented Generation (RAG).
Teknologi ini memungkinkan AI mengambil informasi relevan dari sumber tepercaya seperti artikel penelitian atau dokumen PDF sebelum menghasilkan jawaban. Penelitian menunjukkan metode RAG dapat meningkatkan akurasi fakta serta kepercayaan pengguna terhadap hasil AI.
Langkah keempat adalah menggunakan prompt yang jelas dan terstruktur. Kualitas hasil AI sangat bergantung pada spesifikasi perintah yang diberikan pengguna.
Perintah yang tidak jelas cenderung menghasilkan jawaban ambigu. Pengguna dapat mengurangi risiko ini dengan menetapkan ekspektasi yang jelas dan memberikan struktur yang harus diikuti oleh model.
Salah satu teknik yang disarankan adalah meminta AI menjelaskan alasannya langkah demi langkah. Metode yang dikenal sebagai Chain-of-Thought Prompting ini terbukti mampu mengungkap celah logis atau klaim yang tidak didukung dalam tugas kompleks, paparnya.
Langkah terakhir adalah menyesuaikan temperatur. Pengaturan temperatur berfungsi mengontrol tingkat keacakan atau kreativitas respons model AI.
Pada perangkat yang memungkinkan pengaturan tersebut, penggunaan suhu rendah (0-0,3) akan menghasilkan keluaran yang lebih terfokus, konsisten, dan faktual, yang disarankan untuk prompt yang sudah terdefinisi dengan baik.
Sementara untuk suhu yang lebih tinggi (0,7-1,0) akan mendorong respons yang lebih bervariasi dan imajinatif, yang lebih cocok digunakan untuk tugas-tugas terbuka seperti brainstorming atau penulisan kreatif, ungkapnya.
Secara keseluruhan, AI generatif memiliki potensi besar dalam menunjang aktivitas manusia. Namun, pengguna perlu mengingat bahwa alat ini tetap dapat menghasilkan informasi yang salah serta memperkuat bias yang merugikan.
Walaupun AI adalah alat yang sangat kuat, sentuhan manusia tetap menjadi faktor yang sangat penting, pungkasnya.
