Google para ödülü dağıtmaya hazırlanıyor. Birçok kişiyi ilgilendiren flaş bir duyuru yapıldı

Google, üretken yapay zeka uygulamalarında ortaya çıkan önemli bir güvenlik açığını keşfeden araştırmacılara maddi ödül sunma kararı aldığını duyurdu.

Google, güvenlik açığı bulan kişilere ödül verdiği VRP (Vulnerability Rewards Program) programını, "üretken yapay zekayı" da kapsayacak şekilde genişlettiğini duyurdu. TechCrunch sitesinin haberine göre, Google, VRP kapsamında etik hackerlara güvenlik açıkları buldukları ve sorumlu bir şekilde bildirdikleri için ödeme yapıyor. Ancak, jeneratif yapay zeka gibi yeni teknolojilerin ortaya çıkardığı güvenlik sorunları, şirketin bu programı daha da genişletmesini gerektiriyor.

YAPAY ZEKADAKİ HATALARI BULANLARA PARA DAĞITACAK

Google, 'yapay zeka' üzerinde çalışan AI Red Team adlı hacker ekibinden gelen bulgular doğrultusunda bu kararı aldı. Ekip, çeşitli grupları taklit ederek teknolojinin güvenlik zaafiyetlerini tespit ediyor, bunlar arasında hükümet destekli gruplar, hacktivistler ve kötü niyetli içerikler bulunuyor.

Haberde, AI Red Team'in jeneratif yapay zeka ürünlerindeki en büyük tehditleri belirlemek için bir çalışma yürüttüğü bildirildi. Bu çalışma sonucunda, büyük dil modellerinin (LLM'ler) prompt enjeksiyon saldırılarına ve training-data extraction saldırılarına karşı savunmasız olduğu sonucuna varıldı.

Prompt enjeksiyon saldırıları, saldırganların modele zararlı metinler üretmek, hassas bilgileri sızdırmak amacıyla uyarılar oluşturabileceği bir güvenlik açığı olarak biliniyor. Training-data extraction ise, saldırganlara kişisel bilgileri veya şifreleri verilerden çıkarmak için eğitim örneklerini yeniden oluşturma imkanı tanıyor.

İşte Google da bu tür güvenlik açıklarını tespit eden araştırmacılara ödül verme kararı aldı. Ödül miktarı, bulunan güvenlik açığının ciddiyetine bağlı olarak değişiyor. Örneğin, Google Arama veya Google Play gibi yüksek hassasiyetli uygulamalarda bulunan komut enjeksiyon saldırıları ve deserialization hataları, 31 bin 337 dolar gibi yüksek paralarla ödüllendirilebiliyor.

GEÇEN SENE 12 MİLYON DOLARIN ÜZERİNDE VERDİ

Şirket yaptığı açıklamada, "VRP'nin genişletilmesinin yapay zeka emniyeti ve güvenliği konusundaki araştırmaları teşvik edeceğine ve sonuçta yapay zekayı herkes için daha güvenli hale getirecek potansiyel sorunları gün ışığına çıkaracağına inanıyoruz." değerlendirmesinde bulundu.

Aynı zamanda, 2022 yılında güvenlik araştırmacılarına 12 milyon doların üzerinde ödül dağıttığını açıkladı.