The Guardian tarafından yapılan bir araştırma, ChatGPT’nin arama özelliğinin manipülasyon ve yanıltıcı içeriklere karşı savunmasız olabileceğini ortaya koydu. Ücretli kullanıcılar için sunulan bu özellik, kısa süre önce tüm kullanıcılara açılmış ve sesli arama desteği de eklenmişti. Ancak araştırmanın sonuçları, bu sistemin güvenlik açıkları taşıyabileceğine işaret ediyor.

Araştırmada, ChatGPT’den gizli talimatlar içeren web sayfalarını özetlemesi istendi. Gizli içerikler, ChatGPT’nin verdiği yanıtları etkileyebilen talimatlar (prompt injection) ya da yoğun manipülatif metinler barındırıyordu. Örneğin, sahte bir kamera ürün sayfası oluşturularak test yapıldı. Standart sayfa, ürünle ilgili dengeli bir yorum sunarken, gizli metin içeren versiyon yalnızca olumlu değerlendirmeler üretti. Bu durum, olumsuz yorumlar barındırmasına rağmen yaşandı.

Bu tür manipülasyonlar, ürün ve hizmetlerin yanıltıcı bir şekilde tanıtılmasına yol açabilir. CyberCX güvenlik uzmanı Jacob Larsen, bu durumun kötü niyetli web sitelerinin artmasına zemin hazırlayabileceğini belirtiyor. Larsen, ChatGPT’nin arama özelliğinin geniş çaplı kullanıma açılmadan önce daha kapsamlı testlerden geçmesi gerektiğini vurguluyor. Ayrıca, büyük dil modelleri ile arama motorlarının entegrasyonunun önemli riskler taşıdığına dikkat çekerek, “Yapay zeka araçlarından gelen yanıtların her zaman güvenilir olmayabileceğini unutmamalıyız,” diyor.

Güvenlik açıkları, yalnızca ChatGPT için değil, tüm yapay zeka tabanlı arama araçları için uzun süredir potansiyel bir tehdit olarak görülüyor. Şu ana kadar bu tür bir açık üzerinden büyük çaplı bir saldırı gerçekleşmemiş olsa da, araştırma bulguları yapay zekanın manipüle edilebilirliğini gözler önüne seriyor. The Guardian, OpenAI’ın bu sorunların çözümü için güçlü bir güvenlik ekibiyle çalıştığını bildirirken, şirketin henüz konu hakkında resmi bir açıklama yapmadığını da ekliyor.