Yapay zekanın en büyük destekçilerinden biri olan Google, kendi personelini chatbot'lar konusunda uyarıyor.
Alphabet, programı dünya çapında pazarlarken aynı zamanda kendi Bard de dahil olmak üzere çalışanlarını chatbotları nasıl kullanacakları konusunda uyarıyor.
Reuters'ın haberine göre kaynaklar, Google'ın çalışanlarına gizli materyallerini yapay zeka sohbet robotlarına girmemelerini tavsiye ettiğini söylerken, şirket de uzun süredir devam eden bilgi koruma politikasını gerekçe göstererek bunu doğruladı.
Aralarında Bard ve ChatGPT'nin de bulunduğu sohbet robotları, kullanıcılarla sohbet etmek ve sayısız soruyu yanıtlamak için sözde üretken yapay zeka kullanan insan sesine sahip programlar. Araştırmacılar yapay zekanın eğitim sırasında emdiği verileri yeniden üretebileceğini ve sızıntı riski yaratabileceğini keşfetti.
Bazı kişiler Alphabet'in mühendislerini sohbet robotlarının üretebileceği bilgisayar kodlarını doğrudan kullanmaktan kaçınmaları konusunda uyardığını da söyledi.
Yorum istenen şirket, Bard'ın istenmeyen kod önerileri yapabileceğini, ancak yine de programcılara yardımcı olduğunu söyledi. Google ayrıca teknolojisinin sınırlamaları konusunda şeffaf olmayı amaçladığını da söyledi.
Endişeler, Google'ın ChatGPT ile rekabet halinde piyasaya sürdüğü yazılımın ticari zararlarından nasıl kaçınmak istediğini gösteriyor. Google'ın ChatGPT'nin destekçileri OpenAI ve Microsoft Corp (NASDAQ:MSFT) ile yarışında söz konusu olan milyarlarca dolarlık yatırım ve yeni yapay zeka programlarından elde edilen henüz açıklanmamış reklam ve bulut gelirleri.
Google'ın dikkati aynı zamanda şirketler için bir güvenlik standardı haline gelmekte olan, yani personeli halka açık sohbet programlarını kullanma konusunda uyarma konusunu da yansıtıyor.
Insider'ın haberine göre Şubat ayında Google, Bard'ı piyasaya sürülmeden önce test eden personeline şirket içi bilgi vermemelerini söyledi. Google şimdi Bard'ı yaratıcılık için bir sıçrama tahtası olarak 180'den fazla ülkede ve 40 dilde kullanıma sunuyor ve uyarıları kod önerilerine kadar uzanıyor.
Google'ın 1 Haziran'da güncellenen gizlilik bildiriminde de şu ifadeler yer alıyor: "Bard ile konuşmalarınıza gizli ya da hassas bilgiler eklemeyin."
Bazı şirketler bu tür endişeleri gidermek için yazılım geliştirdi. Örneğin, web sitelerini siber saldırılara karşı koruyan ve bulut hizmetlerini sunan Cloudflare (NYSE:NET), işletmelerin bazı verilerin dışarıya akışını etiketleyip kısıtlayabilmeleri için yeni bir ürün pazarlıyor.
Google ve Microsoft da ticari müşterilere daha yüksek bir fiyat etiketiyle gelen ancak verileri genel yapay zeka modellerine dahil etmekten kaçınan diyalog araçları sunuyor. Bard ve ChatGPT'deki varsayılan ayar, kullanıcıların konuşma geçmişini kaydetmek ancak kullanıcılar bunu silmeyi tercih edebiliyor.
Microsoft, personelinin gizli bilgileri kendi programları da dahil olmak üzere kamuya açık yapay zeka programlarına girmesi konusunda genel bir yasağı olup olmadığı konusunda yorum yapmayı reddetti, ancak farklı bir yönetici Reuters'e kişisel olarak kullanımını kısıtladığını söyledi.
Cloudflare CEO'su Matthew Prince, gizli konuları sohbet robotlarına yazmanın "bir grup doktora öğrencisini tüm özel kayıtlarınızda serbest bırakmak" gibi olduğunu söyledi.