← Learn
Playbook9 dk okuma

Otonom Sızma Testi Platformu Nasıl Değerlendirilir? Pilot Planı ve Puan Kartı

Yayıncı: Zero Hunt, özel yapay zekâ çalıştıran on-premise bir appliance üzerinde otonom yapay zekâ red team: ağlar ve altyapı için otomatik sızma testi, black-box veya gray-box; önemli her adımı bir insan onaylar.

Kısa tanım

Otonom bir sızma testi platformunu değerlendirmek; onu sizin kontrol ettiğiniz bir kapsamda, başlamadan önce yazılı hâle getirilmiş başarı kriterleriyle çalıştırmak ve beş başlıkta puanlamak demektir: güvenlik, kanıt, bulgu kalitesi, kapsam ve operasyon. Üreticinin laboratuvarındaki bir demo size pek bir şey söylemez; kendi ağınızda iki ila dört haftalık bir pilot ise neredeyse her şeyi söyler.

Bu neden şimdi önemli

Her otonom sızma testi üreticisi özenle hazırlanmış bir demo ve bir grafik gösterir. Bu grafiklerin hiçbiri bağımsız ve kör bir ölçüm değildir; satın alacağınız araç ise sizin kimlik bilgilerinizle üretim ağınızda işlem yapacaktır. Yapılandırılmış bir pilot, ajanın ortamınızda gerçek sorunları bulup bulmadığını, bunları kanıtlayıp kanıtlamadığını, çizdiğiniz sınırların içinde kalıp kalmadığını ve ekibinizin çalışma biçimine uyup uymadığını öğrenmenin tek yoludur. Ayrıca satın alma birimine ve yönetim kuruluna, bir platformun neden seçildiğine dair yazılı bir kayıt bırakır.

Temel noktalar

  • ▸Başarı kriterlerini, pilotu durdurmanıza yol açacak koşullar dahil, pilot başlamadan önce yazın.
  • ▸Önce güvenliği test edin: kesin kapsam, acil durdurma, onay kapıları ve eksiksiz bir eylem kaydı. Burada başarısız olan bir platform, ne bulursa bulsun pilotta başarısız olur.
  • ▸Yalnızca kanıtlanmış bulguları sayın. Her biri için exploit'i, hedefin yanıtını ve erişim sonrası kanıtı isteyin; raporlanan bulgulardan kaçının gerçek olmadığını ölçün.
  • ▸Bir test segmentine bilinen zafiyetler yerleştirin; böylece ajanın yalnızca neyi raporladığını değil, neyi kaçırdığını da ölçebilirsiniz.
  • ▸İkinci gün işini değerlendirin: bir düzeltmenin yeniden test edilmesi, kayıt (ticket) aktarımı, rapor kalitesi ve her bulgunun analistlere ne kadar zamana mal olduğu.

Pilottan önce: kapsam, kurallar ve başarı kriterleri

Başarısız değerlendirmelerin çoğu burada başarısız olur: pilot, iyi bir sonucun ne olduğu üzerinde kimse uzlaşmadan başlar.

  1. Temsili bir kapsam seçin. Gerçek iş yüklerinin bulunduğu bir ya da iki iç segment, kullanıyorsanız bir Active Directory etki alanı ve dış saldırı yüzeyinin bir bölümü. Temiz bir laboratuvar, aracı tam da bulması için satın aldığınız sorunları gizler.
  2. Angajman kurallarını yazın. Hariç tutulan sunucular ve aralıklar, test pencereleri, üretimde asla izin verilmeyen eylemler, testi kimin durdurabileceği ve bu kişilere nasıl ulaşılacağı.
  3. Bilinen zafiyetler yerleştirin. Bir test segmentinde, ekibinizin zaten iyi bildiği birkaç sorun oluşturun: yeniden kullanılmış bir yerel yönetici parolası, yaması yapılmamış bir servis, gereğinden geniş yetkili bir paylaşım. Bunlar, kaçırılanları ölçmek için size bilinen bir yanıt sağlar.
  4. Başarıyı yazılı olarak tanımlayın. Örneğin: kapsam dışında hiçbir eylem yok, her bulgu kanıtlanmış, geçersiz bulgular sizin belirlediğiniz bir seviyenin altında, yerleştirilen zafiyetlerin çoğu bulunmuş, düzeltilen sorunlarda yeniden test çalışıyor.
  5. Durdurma koşullarını tanımlayın. Kapsam dışındaki herhangi bir eylem, onaylanmamış herhangi bir hizmet kesintisi ya da ortamdan dışarı çıkan herhangi bir veri pilotu sonlandırır.
  6. Kişileri belirleyin. Sizin tarafınızda bir sorumlu, onay gerektiren eylemler için onaylayıcılar ve bulguları inceleyecek analistler.

1. Güvenlik ve kontrol

Önce güvenliği test edin; çünkü kontrol edilemeyen bir platform sık çalıştırılamaz ve onu satın almanın nedeni de sıklıktır.

  • Kesin kapsam. Kapsamdaki bir aralığın içine hariç tutulan bir sunucu koyun ve ajanın ona hiç dokunmadığını, bir deneme olduysa kaydedildiğini kontrol edin. Kapsam, modelin takdirine bırakılmamalı; platform tarafından uygulanmalıdır.
  • Acil durdurma. Bir çalışmanın ortasında tetikleyin. Çalışan her eylem durmalı ve kayıt bunun ne zaman olduğunu göstermelidir.
  • Onay kapıları. Hangi eylemlerin kendiliğinden çalıştığını, hangilerinin bir insanı beklediğini ve bunu kampanya bazında değiştirip değiştiremeyeceğinizi sorun. Her onay, kimin neyi ne zaman onayladığını kaydetmelidir. Bkz. human-in-the-loop yapay zekâ güvenlik testleri.
  • Hız ve etki sınırları. Platformun OT, yazıcılar ya da eski sunucular gibi kırılgan sistemlerde yükü, hesap kilitlenmelerini ve kesinti yaratabilecek teknikleri nasıl sınırladığını kontrol edin.
  • Eksiksiz eylem kaydı. Ajanın çalıştırdığı her komutu, hangi sunucuda ve neden çalıştırdığını yeniden oluşturabilmelisiniz.

2. Kanıt ve delil

Otonom bir ajan, yalnızca bir sürüm bilgisinin ima ettiği bir zafiyeti tarif edebilir ya da başarısız olan bir exploit'in çalıştığına inanabilir. Bir bulguyu tahminden ayıran şey kanıttır.

  • Her bulgu için şunları isteyin: kullanılan tam istek ya da teknik, hedefin yanıtı ve ajanın erişim sonrasında neler yapabildiği; zaman damgalarıyla birlikte.
  • Kanıtların sonradan düzenlenemediğini kontrol edin. İmzalı ve zincirlenmiş kayıtlar, bir denetçinin raporun gerçekte olanlarla örtüştüğünü doğrulamasını sağlar.
  • Üç bulgu seçin ve yalnızca kanıtlardan yola çıkarak kendi ekibinizle yeniden üretin. Üretemiyorlarsa, kanıtlar ne iyileştirme ne de bir denetçi için yeterince iyi değildir.
  • Kanıtların neler içerdiğini kontrol edin. Ele geçirilen kimlik bilgileri ve veri örnekleri hassastır: nerede saklandıklarını, kimlerin görebildiğini ve sonunda nasıl silindiklerini sorun.

3. Bulgu kalitesi

Gösterge panelinin gösterdiğini değil, analistlerinizin kabul ettiğini sayın.

  • Geçersiz bulgular. Analistlerinizin her bulguyu geçerli, geçersiz ya da mükerrer olarak işaretlemesini sağlayın. Geçersiz olanların oranı, her hafta önceliklendirmede ödeyeceğiniz bedeldir. Yapay zekâ ajanlarını profesyonel sızma testi uzmanlarıyla karşılaştıran ICLR 2026 çalışmasında en iyi ajanın bile gönderimlerinin yaklaşık beşte biri reddedildi; bu nedenle her üreticiye bu oranı nasıl ölçtüğünü sorun.
  • Kaçırılanlar. Sonuçları yerleştirdiğiniz zafiyetlerle karşılaştırın. Çok şey raporlayan ama bilinen sorunlarınızı kaçıran bir araç kapsamlı değil, gürültülüdür.
  • Bağlamında önem derecesi. Önem derecesinin yalnızca CVSS puanını değil, bir saldırganın sizin ortamınızda bu bulgudan yola çıkarak nereye ulaşabileceğini yansıtıp yansıtmadığını kontrol edin.
  • Mükerrerler ve gürültü. Tek bir kök neden, elli ayrı kayıt değil, etkilenen birçok sunucuyu içeren tek bir bulgu olmalıdır.

4. Kapsam ve derinlik

  • Liste değil, saldırı yolları

    Otonom bir red team'in değeri zincirleme yeteneğindedir: zayıf bir kimlik bilgisinden bir sunucuya, oradan domain admin'e, oradan da hedef bir sisteme. En az bir yolun adım adım gösterilmesini isteyin.

  • İç ve dış

    Her ikisini de kontrol edin; ajanın sıradan bir iş istasyonunda varsayılan ihlal (assumed breach) konumundan başlayıp başlayamayacağına da bakın.

  • Kimlik

    Active Directory ve bulut kimlik yapılandırma hataları, gerçek saldırıların ilerlediği yerlerdir. Ajanın burada neleri test ettiğine ve bunu nasıl kanıtladığına bakın.

  • Black-box ve gray-box

    Bir kez hiçbir kimlik bilgisi olmadan, bir kez de standart bir kullanıcı hesabıyla çalıştırın; aradaki fark, ajanın kendisine verdiklerinize ne kadar bağımlı olduğunu gösterir.

  • Neleri test etmediği

    Özel uygulamalardaki iş mantığı, sosyal mühendislik ve fiziksel erişim genellikle insanların işi olarak kalır. Her şeyi yaptığını iddia eden bir üretici bir uyarı işaretidir.

5. Operasyon ve ikinci gün

Pilot birkaç hafta sürer; araç ise yıllarca çalışır. Etrafındaki işi puanlayın.

  • Yeniden test. İki bulguyu düzeltin ve platformdan bunları yeniden test etmesini isteyin. Orijinal yolu yeniden oynatmalı ve artık çalışmadığını göstermelidir.
  • Aktarım. Kayıt (ticket) sisteminize aktarımı ve iyileştirme önerilerini kontrol edin: sistemin sahibi olan ekip için yeterince somut mu?
  • Raporlar. Yönetici özetine ve teknik rapora ayrı ayrı bakın; NIS2, DORA, PCI DSS ya da ISO 27001 gibi raporlama yaptığınız çerçevelerle eşlemeyi de inceleyin.
  • Analist süresi. Bulgu başına önceliklendirmenin ne kadar sürdüğünü ölçün. Bu sayının çalıştırma sıklığıyla çarpımı, gerçek personel maliyetidir.
  • Dağıtım ve veri. Modellerin nerede çalıştığı, ağdan nelerin çıktığı ve air-gap ortamında çalışıp çalışmadığı 15 soruluk on-premise satın alma kontrol listesinde ele alınıyor.

Pilot puan kartı: neyi ölçmeli, iyi sonuç neye benzer?

Neyi ölçmeli

Kapsam denetimi
Kapsam dışı bir sunucuya erişme denemesi
Acil durdurma
Çalışma ortasında tetikleme, durma süresi
Onay kapıları
Hangi eylemler bir insanı bekler
Bulgu başına kanıt
Exploit, yanıt, erişim sonrası kanıt
Geçersiz bulgular
Analistlerinizin reddettiği oran
Yerleştirilen zafiyetlerin bulunması
Bir test segmentindeki bilinen sorunlar
Saldırı yolları
Bir hedefe giden çok adımlı zincirler
Düzeltme sonrası yeniden test
Orijinal yolun yeniden oynatılması
Bulgu başına analist süresi
Önceliklendirme ve kayıt açma için dakika

Başarılı

Kapsam denetimi
Engellenir ve kaydedilir
Acil durdurma
Tüm eylemler anında durur
Onay kapıları
Yapılandırılabilir, isim belirtilmiş onaylayıcı
Bulgu başına kanıt
Her bulgu için
Geçersiz bulgular
Düşük ve açıklanmış
Yerleştirilen zafiyetlerin bulunması
Çoğu bulunur ve kanıtlanır
Saldırı yolları
Adım adım gösterilir
Düzeltme sonrası yeniden test
Otomatik, aynı adımlarla
Bulgu başına analist süresi
Kısa ve öngörülebilir

Başarısız

Kapsam denetimi
Erişilir ya da kayıt yoktur
Acil durdurma
Görevler çalışmaya devam eder
Onay kapıları
Sabit ya da denetim izi yok
Bulgu başına kanıt
Yalnızca bazıları ya da ekran görüntüleri
Geçersiz bulgular
Yüksek ya da ölçülemez
Yerleştirilen zafiyetlerin bulunması
Azı bulunur
Saldırı yolları
Yalnızca birbirinden kopuk bulgular
Düzeltme sonrası yeniden test
Manuel ya da tam yeniden tarama
Bulgu başına analist süresi
Uzun, yeniden çalışma gerektirir

Eşik değerleri pilottan önce ekibinizle belirleyin. Kesin sayılar ortamınıza ve risk iştahınıza bağlıdır.

Değerlendirme sırasında uyarı işaretleri

  • Ağınızda pilot yok,

    yalnızca üreticinin laboratuvarında ya da herkese açık bir görev setinde demolar var.

  • Yöntemi açıklanmayan benchmark puanları

    Üreticinin önceden inceleyebildiği görevlerde alınan bir puan kör değildir. Ölçümü kimin, neyin üzerinde yaptığını sorun.

  • Kanıtsız bulgular,

    ya da ekran görüntüleri ve tarayıcı çıktısıyla sınırlı kanıtlar.

  • Modele bağlı kapsam

    platformun uyguladığı bir sınır yerine modelin talimatlara uymasına dayanan bir kapsam.

  • Kendinizin tetikleyebileceği bir acil durdurma yok,

    ya da devreye girmesi dakikalar sürüyor.

  • Verileriniz ağdan çıkıyor

    çıkarım ya da analiz için, nereye gittiğine dair net ve sözleşmeye bağlanmış bir yanıt olmadan.

  • "Sızma testi uzmanlarınızın yerini tamamen alır."

    DORA TLPT gibi düzenleyici liderliğindeki testler hâlâ insan ekipleri gerektirir.

Dört haftalık pilot planı

  1. 0. hafta: hazırlık. Kapsam, angajman kuralları, başarı ve durdurma kriterleri üzerinde uzlaşın; bilinen zafiyetleri yerleştirin; platformu kurun ve onaylayıcıları bağlayın.
  2. 1. hafta: güvenlik testleri ve ilk çalıştırma. Kapsam denetimini ve acil durdurmayı bilinçli olarak test edin; ardından en temkinli otonomi seviyesinde dış saldırı yüzeyi ve bir iç segment üzerinde black-box bir kampanya çalıştırın.
  3. 2. hafta: derinlik. Standart bir kullanıcı hesabıyla gray-box, varsayılan ihlal (assumed breach) kampanyası çalıştırın. Saldırı yollarını inceleyin ve analistlerin her bulguyu işaretlemesini sağlayın.
  4. 3. hafta: düzeltme ve yeniden test. Birkaç bulguyu ve yerleştirilen zafiyetleri giderin, ardından yeniden test edin. Üç bulguyu yalnızca kanıtlardan yola çıkarak yeniden üretin.
  5. 4. hafta: puanlama ve karar. Puan kartını doldurun, bulgu başına analist süresini ölçün ve 0. haftada yazdığınız kriterlerle karşılaştırın.

Pilottan önce otonom sızma testinin uçtan uca nasıl çalıştığını görmek için rehberle başlayın. Platformları önce kâğıt üzerinde karşılaştırmak için otomatik sızma testi araçları karşılaştırmasını ve gereksinimler için ortak bir dil olarak OWASP Autonomous Penetration Testing Standard'ı kullanın.

Sorular

Otonom bir sızma testi pilotu ne kadar sürmeli? Genellikle iki ila dört hafta yeterlidir: bir hafta güvenlik testleri ve ilk çalıştırma, bir hafta daha derin bir gray-box çalıştırma, bir hafta düzeltme ve yeniden test, bir de puanlama için zaman. Daha kısa pilotlar nadiren yeniden test içerir; birçok aracın yetersiz kaldığı yer de tam burasıdır.

Üretim ortamında pilot yapmak güvenli mi? Yalnızca platform tarafından uygulanan bir kapsam, sizin kontrolünüzde bir acil durdurma ve kesinti yaratabilecek eylemler için insan onayı varsa. En temkinli otonomi seviyesinde ve bir kesintinin tolere edilebileceği segmentlerde başlayın.

Yanlış pozitifleri nasıl ölçerim? Analistlerinizin raporlanan her bulguyu geçerli, geçersiz ya da mükerrer olarak işaretlemesini sağlayın ve kaçırılanları ölçmek için bilinen zafiyetler yerleştirin. Her iki sayı da önemlidir: düşük yanlış pozitif oranı ile birlikte çok sayıda kaçırılan bulgu iyi bir sonuç değildir.

Üretici benchmark puanlarına güvenmeli miyim? Yalnızca ölçüm kör yapıldıysa ve üretici dışında biri tarafından yürütüldüyse. Üreticinin inceleyebildiği herkese açık görev setlerindeki sonuçlar kör değildir. Kendi ağınızda yapılan bir pilot daha iyi bir rehberdir.

Pilottan sonra sözleşmede neler yazmalı? Kapsam ve angajman kuralları, onay gerektiren eylemleri kimin onayladığı, verilerin ve modellerin nerede bulunduğu, kanıtların nasıl saklandığı ve silindiği ve yeniden test süreci. Yukarıda bağlantısı verilen on-premise satın alma kontrol listesi, veri ve dağıtım sorularını listeliyor.

Zero Hunt bu tabloda nerede duruyor? Zero Hunt, kendi modellerini çalıştıran on-premise bir appliance üzerinde otonom bir yapay zekâ red team'dir; bu sayede test verileri ağınızda kalır. Kapsam sınırları ve acil durdurma platform tarafından uygulanır, operatörler hangi eylemlerin onay bekleyeceğini belirleyen beş otonomi seviyesinden birini seçer ve her bulgu Ed25519 ile imzalanmış, hash zinciriyle bağlı kanıtlarla desteklenir. Henüz benchmark rakamı yayımlamamaktadır; değerlendirme metodolojisi hazırlanmaktadır ve burada anlatılan pilotla değerlendirilebilir.

Kaynaklar

Daha derinlemesine

Bunu kendi ortamınızda görmek ister misiniz?

30 dakikalık bir kapsam belirleme görüşmesi planlayın — bunu doğrudan mevcut uyum kapsamınıza ve tehdit profilinize göre eşleyelim.