Jakarta, CNBC Indonesia - Seorang petani di wilayah Chuzhou, China, harus menanggung kerugian besar setelah mengikuti saran dari chatbot AI. Alih-alih menyelamatkan tanaman, rekomendasi AI justru memusnahkan hampir 25 hektare lahan wijen miliknya.
Mengutip Tech Radar, petani berusia 67 tahun bernama Wu sebelumnya sempat meragukan penggunaan AI. Namun, setelah beberapa kali mendapatkan pengalaman yang dianggap membantu, ia memutuskan meminta saran chatbot terkait racikan bahan pengendali hama dan gulma untuk tanaman wijennya yang ditanam di lahan seluas 24,7 hektare.
Chatbot tersebut menyarankan Wu mencampurkan high-efficiency flupyrimethalin dan flusulfasulfaether untuk membasmi gulma, kemudian mengombinasikannya dengan thiamethoxazine dan methyl salt.
Wu mengikuti saran tersebut tanpa mengecek kembali kebenarannya. Akibatnya, bibit wijen di seluruh lahannya mati hanya dalam semalam.
Kepada media lokal, Wu mengatakan, "Kalau disemprot, keesokan harinya bibit tidak akan bertahan. Rumput dan bibit sama-sama mati, dan bibit mati lebih cepat."
Setelah tanamannya musnah, Wu kembali bertanya kepada chatbot mengenai penyebab kegagalan tersebut. Para ahli kemudian mengonfirmasi bahwa masalah utama berasal dari penggunaan flusulfasulfaether.
Bahan kimia itu memang digunakan untuk memberantas gulma berdaun lebar, sementara tanaman wijen juga tergolong tanaman berdaun lebar. Selain itu, bahan tersebut seharusnya digunakan secara terbatas pada area tertentu, bukan disemprotkan ke seluruh lahan seperti yang dilakukan Wu.
Kerusakan tersebut sebenarnya bisa dihindari jika Wu memverifikasi jawaban AI melalui pencarian biasa atau berkonsultasi dengan teknisi pertanian.
Kasus ini kembali menyoroti risiko penggunaan chatbot AI tanpa verifikasi. Kesalahan informasi, jawaban yang keliru, hingga halusinasi AI masih menjadi tantangan dalam teknologi chatbot berbasis model bahasa besar (LLM).
Dalam kasus Wu, chatbot sebenarnya sudah menampilkan peringatan bahwa AI mungkin salah, pengguna silakan melakukan verifikasi
Namun, Wu mengabaikan peringatan tersebut. Akibatnya, ia kehilangan hampir 25 hektare tanaman wijen dan berpotensi tidak dapat memanfaatkan lahannya setidaknya selama satu musim tanam, bahkan bisa lebih lama.
Untuk itu ada baiknya seluruh informasi yang dihasilkan AI seharusnya selalu diverifikasi, mau yang berupa jawaban sederhana maupun solusi untuk pekerjaan atau pengambilan keputusan penting.
[Gambas:Video CNBC]
