Google, ChatGPT ve Bing’e rakip olarak geliştirdiği sohbet robotu Bard‘ın sınırlamaları konusunda ilk kez bir uyarıda bulunmuyor. Şirket, üretken yapay zekayı kullanan herkesin, yanıtlarının gerçekten doğru olduğunu teyit etmek için Google aramayı da kullanması gerektiğini söylüyor. Bilgi için Bard’ı kullanmayın
Bard ve ChatGPT gibi sohbet robotları, zaman zaman yanlış yanıtlar vererek halüsinasyon görmeleriyle tanınıyor. Bard’ın geliştiricisi Google da bunun farkında ve insanlara Bard’ın ürettiği bilgileri teyit etmelerini tavsiye ediyor. Google’ın İngiltere’deki patronu Debbie Weinstein, BBC’nin Today programına verdiği demeçte Bard’ın “belirli bir bilgiyi aramak için gidilecek bir yer olmadığını“ söyledi. Weinstein, Bard’ın sorun çözmede veya yeni bir fikir üretmede kullanılmasının daha doğru olacağını aktarıyor.
Esasında üretken yapay zeka araçlarının kendileri de “gerçekleri” uydurma eğilimleri konusunda uyarıyor. Örneğin ChatGPT’nin ana sayfasının alt kısmında insanlar, yerler veya gerçekler hakkında yanlış bilgiler üretebileceğini belirten bir feragatname bulunuyor. Bu arada Bard da, kullanıcılara sınırlamaları olduğunu ve her zaman doğru yapamayacağını hatırlatıyor. Bard, Şubat ayındaki ilk demosunda yanlış cevap üreterek hayata başladı. Yapılan kapsamı sınırlı testlerin ardından Bard, geçtiğimiz haftalarda Türkçe olarak da kullanıma sunuldu. Son olarak bu, Google’ın sohbet robotları hakkında yayınladığı ilk uyarı değil. Ana şirket Alphabet geçtiğimiz ay çalışanlarına Bard da dahil olmak üzere araçları kullanırken dikkatli olmalarını ve üretken yapay zekalara gizli bilgiler girmemelerini söylemişti. Şirket ayrıca mühendislerine bu hizmetler tarafından üretilen kodu doğrudan kullanmaktan kaçınmalarını bildirdi.