Seorang petani berusia 67 tahun di Chuzhou, China, dilaporkan kehilangan tanaman wijen di lahan seluas hampir 10 hektare setelah mengikuti rekomendasi pestisida dari chatbot AI. Petani tersebut meminta saran untuk mengatasi gulma dan hama, lalu menggunakan drone untuk menyemprotkan campuran bahan kimia yang direkomendasikan AI ke seluruh lahannya. Namun sehari kemudian, tanaman wijennya layu dan mati.
Penyebabnya adalah AI merekomendasikan penggunaan herbisida yang tidak cocok untuk tanaman wijen. Bahan kimia tersebut memang efektif membasmi gulma berdaun lebar pada tanaman seperti kedelai, tetapi wijen juga termasuk tanaman berdaun lebar sehingga ikut terdampak. Karena telah menggunakan AI selama lebih dari setahun dan beberapa kali mendapatkan saran yang dianggap membantu, sang petani akhirnya terlalu percaya pada rekomendasi chatbot tanpa berkonsultasi dengan ahli pertanian.
Kasus ini menjadi pengingat bahwa jawaban AI tidak selalu akurat meski terdengar meyakinkan. Sebelumnya, sejumlah insiden serupa juga pernah terjadi, mulai dari AI yang menghapus data penting, mengganggu sistem e-mail, hingga menyebabkan pembengkakan biaya operasional perusahaan. Peristiwa di China ini bahkan disebut sebagai salah satu contoh nyata bagaimana kesalahan AI dapat menimbulkan kerugian fisik secara langsung di dunia nyata.
