Kamu ve Bankalar için Egemen Yapay Zekâ Red Team: Neyi Garanti Etmeli?

• Nerede çalışır?

  Test motoru, ağ sınırlarınızın içinde, ülkenizde ve fiziksel kontrolünüz altındaki donanımda bulunur.

• Modeller kimin?

  Saldırıları planlayan ve sonuçları okuyan yapay zekâ aynı donanımda çalışır. Hiçbir prompt, bulgu ya da kimlik bilgisi harici bir çıkarım (inference) uç noktasına gönderilmez. Bkz. siber güvenlikte özel yapay zekâ.

• Kim erişebilir?

  Üreticiye açık bir içe doğru erişim yoktur, varsayılan olarak telemetri yoktur, sizin açmadığınız bir uzaktan destek oturumu yoktur.

• Hangi hukuk geçerli?

  Üreticinin bağlı olduğu ülkenin yargı yetkisi, onu elindeki ya da kontrolündeki veriyi teslim etmeye kimin zorlayabileceğini belirler. En güçlü yanıt, verinin hiç üreticinin eline geçmemesidir.

• Kim durdurabilir?

  Çevrimiçi bir lisans kontrolü, bir bulut konsolu ya da bir güncelleme kanalı bir aracı dışarıdan devre dışı bırakabilir. Egemen bir dağıtım bunların hiçbiri olmadan çalışmaya devam eder.

Kamu sektöründe ve bankacılıkta üç baskı bir araya geliyor.

Düzenleyiciler düzenli test şart koşuyor. Bankacılık denetim otoriteleri ve ulusal siber güvenlik kurumları, Suudi Arabistan'ın NCA ECC düzenlemesinden Singapur'un MAS TRM kılavuzuna kadar, en az yılda bir kez ve önemli değişikliklerin ardından sızma testi yapılmasını istiyor. Düzenlemeye göre gereksinimler sayfası başlıcalarını listeliyor.

Verinin çoğu zaman ülkede kalması gerekiyor. Pek çok bankacılık ve kamu sektörü kuralı, birincil sistemlerin ya da hassas verilerin yerelde barındırılmasını şart koşuyor; bazıları bir güvenlik testinin sonuçlarını varsayılan olarak hassas veri sayıyor.

Testin kendisi bir hedef. Bir bakanlığa ya da bir ödeme sistemine giden saldırı yolu, yabancı bir devlet için değerlidir. Bu yolu şifreli de olsa yurt dışına gönderen bir araç, bulmak için satın alındığı riskin ta kendisini yaratır.

Egemenlik ihlallerinin çoğu ana mimaride değil, bir ürün bilgi föyünün atladığı ayrıntılardadır.

• Model çağrıları. Yerelde çalışan ama barındırılan bir LLM'i çağıran bir motor, her adımın bağlamını gönderir: sunucu adları, banner'lar, kimlik bilgileri, her komutun çıktısı.
• Telemetri ve çökme raporları. Kullanım istatistikleri, sağlık kontrolleri ve hata yüklemeleri bulguların parçalarını taşıyabilir.
• Uzaktan destek. Üreticinin açabildiği bir destek tüneli, ağdaki en ayrıcalıklı sisteme içe doğru açılan bir yoldur.
• Lisans kontrolleri. Dışarıya bağlanmak zorunda olan bir lisans, bağlantının, bir sözleşmenin ya da bir yaptırım listesinin değiştiği gün ürünü durdurabilir.
• Güncellemeler. Otomatik bir güncelleme kanalı bir tedarik zinciri yoludur. Güncellemelerin nasıl imzalandığını, bunları inceleyip aşamalı olarak uygulayıp uygulayamayacağınızı sorun.
• Raporlar. "İş birliği" amacıyla bir üretici portalına aktarılan kanıtlar, yüklendiği anda kontrolünüzden çıkar.

1. 1Yapay zekâ modelleri dahil her bileşen, sahibi olduğumuz donanımda ve ağ sınırlarımızın içinde mi çalışıyor?
2. 2Herhangi bir prompt, bulgu, kimlik bilgisi ya da günlük kaydı harici bir hizmete hiç gönderiliyor mu? Dışarıya giden her bağlantıyı ve amacını listeleyin.
3. 3Ürün hiçbir internet bağlantısı olmadan tam olarak çalışıyor mu ve hangi özellikler kayboluyor?
4. 4Telemetri varsayılan olarak kapalı mı ve sözleşmeyle devre dışı bırakılabilir mi?
5. 5Üretici, oturumu biz açmadan sisteme erişebiliyor mu?
6. 6Lisans çevrimdışı doğrulanabiliyor mu ve üreticiyle ilişki sona ererse ne oluyor?
7. 7Güncellemeler nasıl imzalanıyor ve kurulumdan önce bunları inceleyip aşamalı olarak uygulayabiliyor muyuz?
8. 8Üretici hangi yargı yetkisine tabi ve verilerimiz hiç üreticinin elinde ya da kontrolünde bulunuyor mu?
9. 9Hangi eylemler isim belirtilmiş bir insan onayı gerektiriyor ve kontrolü bizde olan bir acil durdurma var mı?
10. 10Kanıtlar kurcalanmaya karşı korumalı mı; bir denetçi üreticiye güvenmek zorunda kalmadan bunları doğrulayabilir mi?

On-premise pentest platformu satın alma rehberi dağıtım ve sözleşme sorularını ayrıntılandırıyor; değerlendirme rehberi ise yanıtların bir pilot çalışmada nasıl test edileceğini gösteriyor.

Devletler güvenlik testini nadiren tek bir lisans olarak satın alır. Bir program kurarlar: yerel bir ekip tarafından, çoğu zaman ülkenin dilinde ve hukuku çerçevesinde destek sağlayan yerel bir iş ortağı aracılığıyla yürütülen ulusal ya da sektör genelinde bir yetenek.

Bu, bir üreticiye sorulması gerekenleri değiştirir. Yetenek tamamen yerel personel tarafından işletilebilir mi? Yerel bir iş ortağı, üretici sahada olmadan kurulum, destek ve güncelleme yapabilir mi? Program bir ülke ya da bir sektörle sınırlandırılabilir mi? Zero Hunt, her ülkede bir distribütör ve uzman bayilerden oluşan yetkili iş ortakları aracılığıyla satılır; bkz. iş ortağı programı.

• Ağ sınırlarınızın içinde çalışır. Zero Hunt, ağların ve altyapının otonom sızma testini ağınızın içinden gerçekleştiren bir appliance'tır.
• Kendi modelleri. Planlama ve analiz, appliance üzerinde Zero Hunt'ın kendi ZeroHunt Apex modelleriyle çalışır; hiçbir üçüncü taraf LLM çağrılmaz.
• Air-gap ile izole çalışma. Çevrimdışı lisans modu, appliance'ın üreticiyle hiçbir bağlantı olmadan çalışmasını sağlar.
• Varsayılan olarak telemetri yok. Sürüm ve sağlık durumu bildirimi, siz açmadığınız sürece kapalıdır.
• İnsan kontrolü. Beş otonomi seviyesi, hangi eylemlerin isim belirtilmiş bir onayı bekleyeceğini belirler; acil durdurma da mevcuttur.
• Bir denetçinin doğrulayabileceği kanıtlar. Her bulgu, Ed25519 ile imzalanmış ve hash zinciriyle bağlı kanıtlarla desteklenir.
• 34 çerçeveye eşlenmiştir: AB, ABD, Birleşik Krallık, Kanada, APAC, Orta Doğu, Latin Amerika ve Afrika.

Egemen yapay zekâ red team nedir? Onu kullanan kurumun tamamen kontrol ettiği otonom bir sızma testi yeteneğidir: kurumun donanımında, harici bir hizmeti çağırmayan yapay zekâ modelleriyle çalışır; dışarıya bağlanabilecek ya da onu kapatabilecek hiçbir üretici erişimi veya lisans kontrolü yoktur.

On-premise ile egemen aynı şey mi? Hayır. Barındırılan bir yapay zekâ modeline prompt gönderen, telemetri bildiren ya da çevrimiçi bir lisansa bağlı olan on-premise bir motor, verinin ya da kontrolün dışarı çıkmasına yine de izin verir. Egemen, beş katmanın tamamının sizin kontrolünüzde olması demektir.

Hangi ofansif yapay zekâ platformları egemen dağıtımları destekliyor? Her üreticiye yukarıdaki on soruyu sorun. Otonom pentest ürünlerinin çoğu SaaS'tır ya da harici yapay zekâ modellerini çağırır; tamamen air-gap ortamında kendi modelleriyle çalışanlar azdır.

Egemen bir dağıtım hem otonom hem güvenli olabilir mi? Evet, otonominin sınırları varsa: platform tarafından uygulanan bir kapsam, kesinti yaratabilecek eylemler için onay kapıları, bir acil durdurma ve kurcalanmaya karşı korumalı kanıtlar. Bkz. human-in-the-loop yapay zekâ güvenlik testleri.

Egemenlik bankalar için de kamu kadar önemli mi? Çoğu zaman evet. Pek çok ülkede bankacılık denetim otoriteleri temel sistemlerin yerelde barındırılmasını şart koşar ve güvenlik testi sonuçlarını hassas veri olarak değerlendirir; bir bankanın saldırı haritası bir hasım için bir bakanlığınki kadar değerlidir.