Otonom Sızma Testi Platformu Nasıl Değerlendirilir? Pilot Planı ve Puan Kartı
Yayıncı: Zero Hunt, özel yapay zekâ çalıştıran on-premise bir appliance üzerinde otonom yapay zekâ red team: ağlar ve altyapı için otomatik sızma testi, black-box veya gray-box; önemli her adımı bir insan onaylar.
Kısa tanım
Otonom bir sızma testi platformunu değerlendirmek; onu sizin kontrol ettiğiniz bir kapsamda, başlamadan önce yazılı hâle getirilmiş başarı kriterleriyle çalıştırmak ve beş başlıkta puanlamak demektir: güvenlik, kanıt, bulgu kalitesi, kapsam ve operasyon. Üreticinin laboratuvarındaki bir demo size pek bir şey söylemez; kendi ağınızda iki ila dört haftalık bir pilot ise neredeyse her şeyi söyler.
Bu neden şimdi önemli
Her otonom sızma testi üreticisi özenle hazırlanmış bir demo ve bir grafik gösterir. Bu grafiklerin hiçbiri bağımsız ve kör bir ölçüm değildir; satın alacağınız araç ise sizin kimlik bilgilerinizle üretim ağınızda işlem yapacaktır. Yapılandırılmış bir pilot, ajanın ortamınızda gerçek sorunları bulup bulmadığını, bunları kanıtlayıp kanıtlamadığını, çizdiğiniz sınırların içinde kalıp kalmadığını ve ekibinizin çalışma biçimine uyup uymadığını öğrenmenin tek yoludur. Ayrıca satın alma birimine ve yönetim kuruluna, bir platformun neden seçildiğine dair yazılı bir kayıt bırakır.
Temel noktalar
- ▸Başarı kriterlerini, pilotu durdurmanıza yol açacak koşullar dahil, pilot başlamadan önce yazın.
- ▸Önce güvenliği test edin: kesin kapsam, acil durdurma, onay kapıları ve eksiksiz bir eylem kaydı. Burada başarısız olan bir platform, ne bulursa bulsun pilotta başarısız olur.
- ▸Yalnızca kanıtlanmış bulguları sayın. Her biri için exploit'i, hedefin yanıtını ve erişim sonrası kanıtı isteyin; raporlanan bulgulardan kaçının gerçek olmadığını ölçün.
- ▸Bir test segmentine bilinen zafiyetler yerleştirin; böylece ajanın yalnızca neyi raporladığını değil, neyi kaçırdığını da ölçebilirsiniz.
- ▸İkinci gün işini değerlendirin: bir düzeltmenin yeniden test edilmesi, kayıt (ticket) aktarımı, rapor kalitesi ve her bulgunun analistlere ne kadar zamana mal olduğu.
Pilottan önce: kapsam, kurallar ve başarı kriterleri
Başarısız değerlendirmelerin çoğu burada başarısız olur: pilot, iyi bir sonucun ne olduğu üzerinde kimse uzlaşmadan başlar.
- Temsili bir kapsam seçin. Gerçek iş yüklerinin bulunduğu bir ya da iki iç segment, kullanıyorsanız bir Active Directory etki alanı ve dış saldırı yüzeyinin bir bölümü. Temiz bir laboratuvar, aracı tam da bulması için satın aldığınız sorunları gizler.
- Angajman kurallarını yazın. Hariç tutulan sunucular ve aralıklar, test pencereleri, üretimde asla izin verilmeyen eylemler, testi kimin durdurabileceği ve bu kişilere nasıl ulaşılacağı.
- Bilinen zafiyetler yerleştirin. Bir test segmentinde, ekibinizin zaten iyi bildiği birkaç sorun oluşturun: yeniden kullanılmış bir yerel yönetici parolası, yaması yapılmamış bir servis, gereğinden geniş yetkili bir paylaşım. Bunlar, kaçırılanları ölçmek için size bilinen bir yanıt sağlar.
- Başarıyı yazılı olarak tanımlayın. Örneğin: kapsam dışında hiçbir eylem yok, her bulgu kanıtlanmış, geçersiz bulgular sizin belirlediğiniz bir seviyenin altında, yerleştirilen zafiyetlerin çoğu bulunmuş, düzeltilen sorunlarda yeniden test çalışıyor.
- Durdurma koşullarını tanımlayın. Kapsam dışındaki herhangi bir eylem, onaylanmamış herhangi bir hizmet kesintisi ya da ortamdan dışarı çıkan herhangi bir veri pilotu sonlandırır.
- Kişileri belirleyin. Sizin tarafınızda bir sorumlu, onay gerektiren eylemler için onaylayıcılar ve bulguları inceleyecek analistler.
1. Güvenlik ve kontrol
Önce güvenliği test edin; çünkü kontrol edilemeyen bir platform sık çalıştırılamaz ve onu satın almanın nedeni de sıklıktır.
- Kesin kapsam. Kapsamdaki bir aralığın içine hariç tutulan bir sunucu koyun ve ajanın ona hiç dokunmadığını, bir deneme olduysa kaydedildiğini kontrol edin. Kapsam, modelin takdirine bırakılmamalı; platform tarafından uygulanmalıdır.
- Acil durdurma. Bir çalışmanın ortasında tetikleyin. Çalışan her eylem durmalı ve kayıt bunun ne zaman olduğunu göstermelidir.
- Onay kapıları. Hangi eylemlerin kendiliğinden çalıştığını, hangilerinin bir insanı beklediğini ve bunu kampanya bazında değiştirip değiştiremeyeceğinizi sorun. Her onay, kimin neyi ne zaman onayladığını kaydetmelidir. Bkz. human-in-the-loop yapay zekâ güvenlik testleri.
- Hız ve etki sınırları. Platformun OT, yazıcılar ya da eski sunucular gibi kırılgan sistemlerde yükü, hesap kilitlenmelerini ve kesinti yaratabilecek teknikleri nasıl sınırladığını kontrol edin.
- Eksiksiz eylem kaydı. Ajanın çalıştırdığı her komutu, hangi sunucuda ve neden çalıştırdığını yeniden oluşturabilmelisiniz.
2. Kanıt ve delil
Otonom bir ajan, yalnızca bir sürüm bilgisinin ima ettiği bir zafiyeti tarif edebilir ya da başarısız olan bir exploit'in çalıştığına inanabilir. Bir bulguyu tahminden ayıran şey kanıttır.
- Her bulgu için şunları isteyin: kullanılan tam istek ya da teknik, hedefin yanıtı ve ajanın erişim sonrasında neler yapabildiği; zaman damgalarıyla birlikte.
- Kanıtların sonradan düzenlenemediğini kontrol edin. İmzalı ve zincirlenmiş kayıtlar, bir denetçinin raporun gerçekte olanlarla örtüştüğünü doğrulamasını sağlar.
- Üç bulgu seçin ve yalnızca kanıtlardan yola çıkarak kendi ekibinizle yeniden üretin. Üretemiyorlarsa, kanıtlar ne iyileştirme ne de bir denetçi için yeterince iyi değildir.
- Kanıtların neler içerdiğini kontrol edin. Ele geçirilen kimlik bilgileri ve veri örnekleri hassastır: nerede saklandıklarını, kimlerin görebildiğini ve sonunda nasıl silindiklerini sorun.
3. Bulgu kalitesi
Gösterge panelinin gösterdiğini değil, analistlerinizin kabul ettiğini sayın.
- Geçersiz bulgular. Analistlerinizin her bulguyu geçerli, geçersiz ya da mükerrer olarak işaretlemesini sağlayın. Geçersiz olanların oranı, her hafta önceliklendirmede ödeyeceğiniz bedeldir. Yapay zekâ ajanlarını profesyonel sızma testi uzmanlarıyla karşılaştıran ICLR 2026 çalışmasında en iyi ajanın bile gönderimlerinin yaklaşık beşte biri reddedildi; bu nedenle her üreticiye bu oranı nasıl ölçtüğünü sorun.
- Kaçırılanlar. Sonuçları yerleştirdiğiniz zafiyetlerle karşılaştırın. Çok şey raporlayan ama bilinen sorunlarınızı kaçıran bir araç kapsamlı değil, gürültülüdür.
- Bağlamında önem derecesi. Önem derecesinin yalnızca CVSS puanını değil, bir saldırganın sizin ortamınızda bu bulgudan yola çıkarak nereye ulaşabileceğini yansıtıp yansıtmadığını kontrol edin.
- Mükerrerler ve gürültü. Tek bir kök neden, elli ayrı kayıt değil, etkilenen birçok sunucuyu içeren tek bir bulgu olmalıdır.
4. Kapsam ve derinlik
Liste değil, saldırı yolları
Otonom bir red team'in değeri zincirleme yeteneğindedir: zayıf bir kimlik bilgisinden bir sunucuya, oradan domain admin'e, oradan da hedef bir sisteme. En az bir yolun adım adım gösterilmesini isteyin.
İç ve dış
Her ikisini de kontrol edin; ajanın sıradan bir iş istasyonunda varsayılan ihlal (assumed breach) konumundan başlayıp başlayamayacağına da bakın.
Kimlik
Active Directory ve bulut kimlik yapılandırma hataları, gerçek saldırıların ilerlediği yerlerdir. Ajanın burada neleri test ettiğine ve bunu nasıl kanıtladığına bakın.
Black-box ve gray-box
Bir kez hiçbir kimlik bilgisi olmadan, bir kez de standart bir kullanıcı hesabıyla çalıştırın; aradaki fark, ajanın kendisine verdiklerinize ne kadar bağımlı olduğunu gösterir.
Neleri test etmediği
Özel uygulamalardaki iş mantığı, sosyal mühendislik ve fiziksel erişim genellikle insanların işi olarak kalır. Her şeyi yaptığını iddia eden bir üretici bir uyarı işaretidir.
5. Operasyon ve ikinci gün
Pilot birkaç hafta sürer; araç ise yıllarca çalışır. Etrafındaki işi puanlayın.
- Yeniden test. İki bulguyu düzeltin ve platformdan bunları yeniden test etmesini isteyin. Orijinal yolu yeniden oynatmalı ve artık çalışmadığını göstermelidir.
- Aktarım. Kayıt (ticket) sisteminize aktarımı ve iyileştirme önerilerini kontrol edin: sistemin sahibi olan ekip için yeterince somut mu?
- Raporlar. Yönetici özetine ve teknik rapora ayrı ayrı bakın; NIS2, DORA, PCI DSS ya da ISO 27001 gibi raporlama yaptığınız çerçevelerle eşlemeyi de inceleyin.
- Analist süresi. Bulgu başına önceliklendirmenin ne kadar sürdüğünü ölçün. Bu sayının çalıştırma sıklığıyla çarpımı, gerçek personel maliyetidir.
- Dağıtım ve veri. Modellerin nerede çalıştığı, ağdan nelerin çıktığı ve air-gap ortamında çalışıp çalışmadığı 15 soruluk on-premise satın alma kontrol listesinde ele alınıyor.
Pilot puan kartı: neyi ölçmeli, iyi sonuç neye benzer?
| Neyi ölçmeli | Başarılı | Başarısız | |
|---|---|---|---|
| Kapsam denetimi | Kapsam dışı bir sunucuya erişme denemesi | Engellenir ve kaydedilir | Erişilir ya da kayıt yoktur |
| Acil durdurma | Çalışma ortasında tetikleme, durma süresi | Tüm eylemler anında durur | Görevler çalışmaya devam eder |
| Onay kapıları | Hangi eylemler bir insanı bekler | Yapılandırılabilir, isim belirtilmiş onaylayıcı | Sabit ya da denetim izi yok |
| Bulgu başına kanıt | Exploit, yanıt, erişim sonrası kanıt | Her bulgu için | Yalnızca bazıları ya da ekran görüntüleri |
| Geçersiz bulgular | Analistlerinizin reddettiği oran | Düşük ve açıklanmış | Yüksek ya da ölçülemez |
| Yerleştirilen zafiyetlerin bulunması | Bir test segmentindeki bilinen sorunlar | Çoğu bulunur ve kanıtlanır | Azı bulunur |
| Saldırı yolları | Bir hedefe giden çok adımlı zincirler | Adım adım gösterilir | Yalnızca birbirinden kopuk bulgular |
| Düzeltme sonrası yeniden test | Orijinal yolun yeniden oynatılması | Otomatik, aynı adımlarla | Manuel ya da tam yeniden tarama |
| Bulgu başına analist süresi | Önceliklendirme ve kayıt açma için dakika | Kısa ve öngörülebilir | Uzun, yeniden çalışma gerektirir |
Neyi ölçmeli
- Kapsam denetimi
- Kapsam dışı bir sunucuya erişme denemesi
- Acil durdurma
- Çalışma ortasında tetikleme, durma süresi
- Onay kapıları
- Hangi eylemler bir insanı bekler
- Bulgu başına kanıt
- Exploit, yanıt, erişim sonrası kanıt
- Geçersiz bulgular
- Analistlerinizin reddettiği oran
- Yerleştirilen zafiyetlerin bulunması
- Bir test segmentindeki bilinen sorunlar
- Saldırı yolları
- Bir hedefe giden çok adımlı zincirler
- Düzeltme sonrası yeniden test
- Orijinal yolun yeniden oynatılması
- Bulgu başına analist süresi
- Önceliklendirme ve kayıt açma için dakika
Başarılı
- Kapsam denetimi
- Engellenir ve kaydedilir
- Acil durdurma
- Tüm eylemler anında durur
- Onay kapıları
- Yapılandırılabilir, isim belirtilmiş onaylayıcı
- Bulgu başına kanıt
- Her bulgu için
- Geçersiz bulgular
- Düşük ve açıklanmış
- Yerleştirilen zafiyetlerin bulunması
- Çoğu bulunur ve kanıtlanır
- Saldırı yolları
- Adım adım gösterilir
- Düzeltme sonrası yeniden test
- Otomatik, aynı adımlarla
- Bulgu başına analist süresi
- Kısa ve öngörülebilir
Başarısız
- Kapsam denetimi
- Erişilir ya da kayıt yoktur
- Acil durdurma
- Görevler çalışmaya devam eder
- Onay kapıları
- Sabit ya da denetim izi yok
- Bulgu başına kanıt
- Yalnızca bazıları ya da ekran görüntüleri
- Geçersiz bulgular
- Yüksek ya da ölçülemez
- Yerleştirilen zafiyetlerin bulunması
- Azı bulunur
- Saldırı yolları
- Yalnızca birbirinden kopuk bulgular
- Düzeltme sonrası yeniden test
- Manuel ya da tam yeniden tarama
- Bulgu başına analist süresi
- Uzun, yeniden çalışma gerektirir
Eşik değerleri pilottan önce ekibinizle belirleyin. Kesin sayılar ortamınıza ve risk iştahınıza bağlıdır.
Değerlendirme sırasında uyarı işaretleri
Ağınızda pilot yok,
yalnızca üreticinin laboratuvarında ya da herkese açık bir görev setinde demolar var.
Yöntemi açıklanmayan benchmark puanları
Üreticinin önceden inceleyebildiği görevlerde alınan bir puan kör değildir. Ölçümü kimin, neyin üzerinde yaptığını sorun.
Kanıtsız bulgular,
ya da ekran görüntüleri ve tarayıcı çıktısıyla sınırlı kanıtlar.
Modele bağlı kapsam
platformun uyguladığı bir sınır yerine modelin talimatlara uymasına dayanan bir kapsam.
Kendinizin tetikleyebileceği bir acil durdurma yok,
ya da devreye girmesi dakikalar sürüyor.
Verileriniz ağdan çıkıyor
çıkarım ya da analiz için, nereye gittiğine dair net ve sözleşmeye bağlanmış bir yanıt olmadan.
"Sızma testi uzmanlarınızın yerini tamamen alır."
DORA TLPT gibi düzenleyici liderliğindeki testler hâlâ insan ekipleri gerektirir.
Dört haftalık pilot planı
- 0. hafta: hazırlık. Kapsam, angajman kuralları, başarı ve durdurma kriterleri üzerinde uzlaşın; bilinen zafiyetleri yerleştirin; platformu kurun ve onaylayıcıları bağlayın.
- 1. hafta: güvenlik testleri ve ilk çalıştırma. Kapsam denetimini ve acil durdurmayı bilinçli olarak test edin; ardından en temkinli otonomi seviyesinde dış saldırı yüzeyi ve bir iç segment üzerinde black-box bir kampanya çalıştırın.
- 2. hafta: derinlik. Standart bir kullanıcı hesabıyla gray-box, varsayılan ihlal (assumed breach) kampanyası çalıştırın. Saldırı yollarını inceleyin ve analistlerin her bulguyu işaretlemesini sağlayın.
- 3. hafta: düzeltme ve yeniden test. Birkaç bulguyu ve yerleştirilen zafiyetleri giderin, ardından yeniden test edin. Üç bulguyu yalnızca kanıtlardan yola çıkarak yeniden üretin.
- 4. hafta: puanlama ve karar. Puan kartını doldurun, bulgu başına analist süresini ölçün ve 0. haftada yazdığınız kriterlerle karşılaştırın.
Pilottan önce otonom sızma testinin uçtan uca nasıl çalıştığını görmek için rehberle başlayın. Platformları önce kâğıt üzerinde karşılaştırmak için otomatik sızma testi araçları karşılaştırmasını ve gereksinimler için ortak bir dil olarak OWASP Autonomous Penetration Testing Standard'ı kullanın.
Sorular
Otonom bir sızma testi pilotu ne kadar sürmeli? Genellikle iki ila dört hafta yeterlidir: bir hafta güvenlik testleri ve ilk çalıştırma, bir hafta daha derin bir gray-box çalıştırma, bir hafta düzeltme ve yeniden test, bir de puanlama için zaman. Daha kısa pilotlar nadiren yeniden test içerir; birçok aracın yetersiz kaldığı yer de tam burasıdır.
Üretim ortamında pilot yapmak güvenli mi? Yalnızca platform tarafından uygulanan bir kapsam, sizin kontrolünüzde bir acil durdurma ve kesinti yaratabilecek eylemler için insan onayı varsa. En temkinli otonomi seviyesinde ve bir kesintinin tolere edilebileceği segmentlerde başlayın.
Yanlış pozitifleri nasıl ölçerim? Analistlerinizin raporlanan her bulguyu geçerli, geçersiz ya da mükerrer olarak işaretlemesini sağlayın ve kaçırılanları ölçmek için bilinen zafiyetler yerleştirin. Her iki sayı da önemlidir: düşük yanlış pozitif oranı ile birlikte çok sayıda kaçırılan bulgu iyi bir sonuç değildir.
Üretici benchmark puanlarına güvenmeli miyim? Yalnızca ölçüm kör yapıldıysa ve üretici dışında biri tarafından yürütüldüyse. Üreticinin inceleyebildiği herkese açık görev setlerindeki sonuçlar kör değildir. Kendi ağınızda yapılan bir pilot daha iyi bir rehberdir.
Pilottan sonra sözleşmede neler yazmalı? Kapsam ve angajman kuralları, onay gerektiren eylemleri kimin onayladığı, verilerin ve modellerin nerede bulunduğu, kanıtların nasıl saklandığı ve silindiği ve yeniden test süreci. Yukarıda bağlantısı verilen on-premise satın alma kontrol listesi, veri ve dağıtım sorularını listeliyor.
Zero Hunt bu tabloda nerede duruyor? Zero Hunt, kendi modellerini çalıştıran on-premise bir appliance üzerinde otonom bir yapay zekâ red team'dir; bu sayede test verileri ağınızda kalır. Kapsam sınırları ve acil durdurma platform tarafından uygulanır, operatörler hangi eylemlerin onay bekleyeceğini belirleyen beş otonomi seviyesinden birini seçer ve her bulgu Ed25519 ile imzalanmış, hash zinciriyle bağlı kanıtlarla desteklenir. Henüz benchmark rakamı yayımlamamaktadır; değerlendirme metodolojisi hazırlanmaktadır ve burada anlatılan pilotla değerlendirilebilir.
Daha derinlemesine
- Otonom sızma testi: yapay zekâ red team nasıl çalışır? →
- Yapay zekâ ile sızma testi ve insan sızma testi uzmanları →
- On-premise pentest platformu satın alma rehberi →
- OWASP Autonomous Penetration Testing Standard →
- Otomatik sızma testi araçlarının karşılaştırması →
- Human-in-the-loop yapay zekâ güvenlik testleri →
Bunu kendi ortamınızda görmek ister misiniz?
30 dakikalık bir kapsam belirleme görüşmesi planlayın — bunu doğrudan mevcut uyum kapsamınıza ve tehdit profilinize göre eşleyelim.
Demo için henüz hazır değil misiniz?