İngiliz yetkililer, araştırmaların zararlı görevleri yerine getirmeleri için kandırılabileceklerini giderek daha fazla gösterdiğini söyleyerek, kuruluşları yapay zeka odaklı sohbet robotlarını işletmelerine entegre etme konusunda uyarıyor.

İngiltere Ulusal Siber Güvenlik Merkezi, Çarşamba günü yayınlanacak bir çift blog yazısında, uzmanların, büyük dil modelleri ya da LLM'ler olarak adlandırılan, insan sesine benzeyen etkileşimler üretebilen algoritmalara bağlı potansiyel güvenlik sorunlarını henüz çözemediklerini söyledi.

Yapay zeka destekli araçlar, bazılarının sadece internet aramalarının değil, aynı zamanda müşteri hizmetleri çalışmalarının ve satış aramalarının da yerini almasını öngördüğü sohbet robotları olarak henüz bu geçiş için erken olduğunu düşünüyor.

NCSC, özellikle bu tür modellerin kuruluşun iş süreçlerinin diğer unsurlarına bağlanması durumunda riskler taşıyabileceğini söyledi. Akademisyenler ve araştırmacılar defalarca chatbot'ları hileli komutlarla besleyerek ya da kendi yerleşik korkuluklarını atlatmaları için kandırarak onları alt etmenin yollarını buldular.

Örneğin, bir banka tarafından konuşlandırılan yapay zeka destekli bir sohbet robotu, bir bilgisayar korsanının sorgusunu doğru yapılandırması halinde yetkisiz bir işlem yapmak üzere kandırılabilir.

NCSC, blog yazılarından birinde, deneysel yazılım sürümlerine atıfta bulunarak, "LLM'leri kullanan hizmetler geliştiren kuruluşların, beta aşamasında olan bir ürün veya kod kütüphanesi kullanırken olduğu gibi dikkatli olmaları gerekir" dedi ve ekledi:

"Bu ürünün müşteri adına işlem yapmasına izin vermeyebilirler ve umarım bu ürüne tam olarak güvenmezler. Benzer tedbirler LLM'ler için de geçerli olmalıdır."

Dünyanın dört bir yanındaki yetkililer, işletmelerin satış ve müşteri hizmetleri de dahil olmak üzere çok çeşitli hizmetlere dahil ettiği OpenAI'nin ChatGPT'si gibi LLM'lerin yükselişiyle boğuşuyor. ABD ve Kanada'daki yetkililer, bilgisayar korsanlarının teknolojiyi benimsediğini gördüklerini söylerken, yapay zekanın güvenlik etkileri de hala odak noktası olmaya devam ediyor.