Meta’nın Yapay Zeka Botu Zehirli Mantar Tavsiyesi Verdi

Chip.com.tr’nin haberine göre, Meta’nın “FungiFriend” (Mantar Dostu) isimli sohbet robotu, popüler bir Facebook mantar toplama grubunda ortaya çıktı. Ancak bu durum, kısa süre içinde kullanıcıların zehirli bir mantarı tereyağında pişirmelerini tavsiye etmesiyle tehlikeleri bir kez daha gözler önüne serdi.

Yapay zekanın faydalı bir araç olarak başlamasına rağmen, neredeyse ölümcül sonuçlara yol açan bu olay, özellikle yabani mantar toplama gibi riskli bir konuda yapay zeka tavsiyesine uymanın tehlikelerini vurguluyor. 404 Media’nın bildirdiğine göre, bu tür hatalar yapay zekanın mantar dünyasında yaptığı ilk hata da değil. Son birkaç ay içinde Amazon’da yapay zeka tarafından yazılmış mantar toplama kitaplarının ve Google aramalarında yapay zeka tarafından oluşturulan mantar görsellerinin sayısında büyük bir artış yaşandı.

Şimdi Meta, Kuzeydoğu Mantar Tanımlama ve Tartışma grubuna FungiFriend’i otomatik olarak ekleyerek çıtayı yükseltti. Yaklaşık 13.500 üyesi bulunan bu grubun çoğunluğu yeni başlayanlardan oluşuyor ve insanlar, güvenli mantar toplama tavsiyeleri almak için bu alana yöneliyor. Grubun yöneticileri, bu botu kaldırmak için acele ederken, Meta’nın sessizliği dikkat çekiyor.

Şıklığından Ödün Vermeyen Bir Bot

Yapay zeka tarafından üretilmiş olan sakallı ve çok renkli bir büyücü görselini profil resmi olarak kullanan FungiFriend, insanları yanıltırken en azından şık görünmeye dikkat ediyor. Deneyimli bir mantar toplayıcısı ve tüketici güvenliği savunucusu olan Rick Claypool, bu botların yenilebilir mantarları tanımlamada güvenilir olmaktan çok uzak olduğunu ifade ediyor. Claypool, Fungi Magazine’deki bir paylaşımında bu sistemlerin güvenli mantarları tehlikeli olanlardan ayırt etme becerisinden yoksun olduğunu vurguladı.

Tehlikeli Tavsiyelerin Ortaya Çıkışı

Yapay zeka sohbet robotunun oluşturduğu risk, bir grup üyesinin FungiFriend’den Sarcosphaera coronaria adlı, arsenik emen ve hatta ölümlere neden olan bir mantar hakkında yemek pişirme tavsiyesi istemesiyle açık bir şekilde ortaya çıktı. Bot, bu zehirli mantarın “yenilebilir ama nadir” olduğunu söyleyerek sote veya çorba yapılmasını önerdi. Bu tavsiye, Google’ın yapay zekasının kullanıcılara pizzaya tutkal sürmelerini önermesine benzer bir durumla karşılaştırılabilir.

Yapay zeka sohbet robotlarının bazı yetenekleri etkileyici ve faydalı olabilse de, her zaman sorunsuz olmadıklarını unutmamak gerekiyor. Ancak mantar toplayıcıları için bu durum, can sıkıcı olmaktan öteye geçerek gerçekten tehlikeli bir hal alıyor. Claypool, bu grupların insanların mantar tanımlama konusunda gerçek, insan tavsiyeleri için başvurdukları yerler olduğunu açıklıyor. Ancak FungiFriend artık mobilde en üstte yer alan cevap seçeneği olduğundan dolayı, Meta insanları topluluktaki gerçek uzmanlar yerine yapay zeka tavsiyelerine yönlendiriyor.

Yargılamaz, Ama Öldürebilir

Tipik bir grup gönderisinde, biri tarafından verilen kötü tavsiyeler diğer kullanıcılar tarafından düzeltilebiliyor. Ancak yapay zeka devreye girdiğinde bu durum değişiyor ve sistem içerisindeki güvenlik kontrollerinin yeterli olmadığı görülüyor. Mantar toplama gibi yeni bir uğraşa ilk adımını atmak üzere olan kişiler, “aptalca” sorular sormaktan çekinerek ve soruları için onları yargılamayacağını bildikleri bota yönelebilirler. Claypool’un da vurguladığı gibi, “Yapay zeka sizi yargılamayabilir, ancak sizi öldürebilir.”

Kaynak: Chip