Yapay zekanın ilaç tavsiyesi tüm tarlayı kuruttu
Çin'in Anhui eyaletine bağlı Chuzhou kentinde yaşayan 67 yaşındaki bir çiftçi, teknolojinin kurbanı oldu. Gübreleme takviminden ekim planlamasına kadar yaklaşık bir yıldır tarlasındaki işleri yapay zeka yazılımıyla yürüten çiftçi, susam tarlasındaki yabani ot ve zararlılarla mücadele için yine yapay zekaya başvurdu. Uygulamanın sunduğu kimyasal reçeteyi hiçbir uzmandan veya kaynaktan teyit etmeden tarlasına sıkan çiftçi, 25 dönümlük arazideki tüm filizlerin tamamen kurumasıyla şoka uğradı.
Hatanın kaynağı: Yanlış ot ilacı seçimi
Olayın ardından inceleme yapan ziraat uzmanları, felaketin "flufenaset" adlı yabancı ot ilacı etken maddesinden kaynaklandığını tespit etti. Uzmanlar, bu maddenin hedefli ve kontrollü bir şekilde kullanılmaması halinde susam gibi hassas bitkilere doğrudan öldürücü zarar vereceğine dikkat çekti. Öte yandan kullanılan yapay zeka uygulamasının arayüzünde "Yapay zeka içeriği hatalı olabilir, lütfen doğrulayın" şeklinde standart bir yasal uyarının yer aldığı kaydedildi.
Tarımdan sağlığa tehlike büyüyor: Zehirlenip psikoz tedavisi görmüştü
Yapay zeka modellerinin sunduğu bilgilerin sorgulanmadan uygulanması daha önce insan sağlığında da ağır sonuçlar doğurmuştu. Geçtiğimiz yıl sofra tuzunu bırakmak isteyen bir kullanıcı, yapay zekanın tavsiyesine uyarak gıdalarına sodyum klorür yerine sodyum bromür eklemiş; 3 ay süren tüketimin ardından brom zehirlenmesiyle hastaneye kaldırılarak psikoz tedavisi görmüştü. Prestijli tıp dergisi Annals of Internal Medicine tarafından yayımlanan araştırmalar, yapay zeka araçlarının bilimsel açıdan hatalı yönlendirmeler yapabileceğini ve ciddi bilgi kirliliği oluşturduğunu bir kez daha gözler önüne seriyor.
