Anthropic, yapay zeka yanıtlarının hangi model tarafından üretildiğini kriptografik kanıtlarla doğrulamayı amaçlayan FlashProve adlı açık kaynaklı bir sistem geliştirdi. Prototip, yapay zeka hizmetlerinde model kimliğinin doğrulanmasını ve yanıtların kaynağı konusunda şeffaflığın artırılmasını hedefliyor.

Anthropic, FlashProve ile kullanıcıların bir yanıtın gerçekten belirtilen model tarafından üretilip üretilmediğini kontrol edebilmesini amaçlıyor. Böylece hizmet sağlayıcıların maliyetleri düşürmek için daha ucuz bir model kullanıp kullanmadığı veya yanıtların değiştirilip değiştirilmediği doğrulanabilecek.

FlashProve Nasıl Çalışıyor?

Sistem, modelin ağırlıklarını açığa çıkarmadan ona özgü bir parmak izi oluşturulmasına dayanıyor. Her yanıtla birlikte, ilgili girdinin ve çıktının belirli bir model tarafından üretildiğini gösteren kriptografik kanıt sunuluyor.

Kullanıcılar bu kanıtı modelin ağırlıklarına veya yüksek işlem gücüne ihtiyaç duymadan doğrulayabiliyor. Anthropic, doğrulama işleminin kullanıcıların kendi cihazlarında gerçekleştirilebilecek kadar hafif tasarlandığını belirtiyor.

FlashProve’un Performans Testleri

Anthropic, sistemi 400 milyar parametreli Llama 4 Maverick modeli üzerinde test etti. Tek bir H100 GPU ile saniyede yaklaşık 110 token için kanıt üretilebiliyor. 1024 tokenlık istek başına kanıt dosyası yaklaşık 19 MB boyutunda.

Bununla birlikte kanıt üretimi, modeli doğrudan çalıştırmaya kıyasla GPU süresini 70 ila 95 kat artırıyor. Bu durum, sistemin yaygın kullanımında işlem maliyetlerinin önemli bir faktör olabileceğini gösteriyor.

FlashProve Açık Kaynaklı Olarak Yayımlandı

FlashProve’un olası kullanım alanları arasında yazılım güvenlik taramalarının gelişmiş yapay zeka modelleriyle gerçekleştirildiğinin kanıtlanması ve bağımsız denetim süreçleri bulunuyor.

Anthropic, teknik raporu, protokol tanımını ve çalışan kodu Apache 2.0 lisansıyla yayımladı. Ancak FlashProve henüz tamamlanmış bir ürün değil. Şirketin şu an için sistemi devreye alma planı bulunmuyor.