Facebook, yapay zeka botuna karşı uyardı: Palavra söyleyebilir ve hakaret edebilir

Meta, BlenderBot 3 sohbet botunu duyurdu. Şirket, geliştirdiği yapay zekanın neredeyse her bahis hakkında konuşabileceğini ve konuşmalardan öğrenebileceğini söylüyor. Lakin Meta, kullanıcıları chatbot hakkında uyarmayı da ihmal etmiyor.

Meta’nın BlenderBot 3 sohbet robotu, ABD’deki kullanıcıların denemesi için halka açıldı. Şirket, yapay zekasının internette arama yapabileceğini ve neredeyse her bahis hakkında sohbet edebileceğini sav ediyor. Hatta kendini geliştirme ve beşerlerle konuşarak daha âlâ bağlantı kurmayı öğrenme yeteneği bile verildi.

Yine de tüm çalışmalara karşın geliştirilen yapay zekanın lisanında sıkıntılar olduğu tespit edildi. Facebook, yapay zeka botunu duyurduğu blog yazısında şu kelamlara yer veriyor: “Tüm konuşma gayeli yapay zeka sohbet botlarının bazen inançlı olmayan, önyargılı yahut saldırgan açıklamaları taklit ettiği ve ürettiği bilindiğinden, büyük ölçekli çalışmalar yürüttük, ortak çalıştaylar düzenledik ve BlenderBot 3 için güvenlik tedbirleri oluşturmak için yeni teknikler geliştirdik. Bu çalışmaya karşın, BlenderBot hala kaba yahut saldırgan yorumlar yapabiliyor, bu nedenle gelecekteki sohbet botlarını daha âlâ hale getirmeye yardımcı olacak geri bildirimler topluyoruz.”

Meta bot ile ilgili kullanıcılarını uyarırken gerçek bilgi vermeyebileceğini de belirterek “Kullanıcılar, bu cins sıkıntıları azaltmak için elimizden gelenin en düzgününü yapmamıza karşın, botun uygunsuz, kaba yahut hakikat olmayan yahut çelişkili açıklamalarda bulunabileceğini bilmeli. Bot’un yorumları Meta’nın bir şirket olarak görüşlerini temsil etmez ve tıbbi, yasal yahut finansal tavsiye dahil gerçek bilgiler için güvenilmemeli.” dedi.

Şirket; botun küfür, hakaret içeren lisanlar yahut kültürel açıdan duyarsız sözler kullanmasını en aza indirmek için çalıştığını kelamlarına ekledi. Kullanıcılar bu yorumları bildirme ve beğenmeme hakkına sahip.