OWASP LLM Top 10 listesi

OWASP, yani "Açık Web Uygulama Güvenliği Projesi", web uygulamalarındaki en kritik güvenlik risklerini belirlemek için bir liste yayımlıyor. Bu liste, OWASP Top 10 olarak biliniyor ve web uygulamaları için çok önemli bir güvenlik referansı. Ancak, sadece web uygulamaları için değil, başka alanlar için de benzer listeler yayımlıyorlar.

Örneğin, OWASP son zamanlarda LLM'ler, yani "Büyük Dil Modelleri" için de bir Top 10 listesi çıkardı. Bu liste, Ağustos ayının başlarında yayımlandı ve LLM uygulamalarını geliştiren bireyler ve ekipler için önemli riskleri içeriyor. Bu riskler arasında "komut enjeksiyonu", "güvensiz çıktı işleme", "eğitim verisi zehirlenmesi" gibi konular bulunuyor.

Ayrıca, OWASP API'ler için de bir Top 10 liste yayımladı. Bu listeler, web uygulamaları, API'ler, LLM'ler gibi geniş bir yelpazeyi kapsıyor ve sürekli değişen güvenlik ortamına oldukça uygun. Bu nedenle, önceki tavsiyemizi genişleterek, ekiplerin OWASP Top 10 listelerini görmezden gelmemeleri konusunda uyarıyoruz. Bu listeler, güvenli yazılım geliştirmek için çok önemli bilgiler içeriyor.

OWASP'ın Büyük Dil Modelleri (LLMs) için hazırladığı Top 10 listesini Türkçeye çevirelim:

LLM01: Komut Enjeksiyonu: Özel olarak hazırlanmış girdilerle LLM'leri manipüle etmek, yetkisiz erişime, veri ihlallerine ve karar verme süreçlerinin tehlikeye girmesine yol açabilir.

LLM02: Güvensiz Çıktı İşleme: LLM çıktılarının doğrulanmaması, sistemlerin tehlikeye girmesi ve verilerin ifşa edilmesi de dahil olmak üzere güvenlik açıklarına yol açabilir.

LLM03: Eğitim Verisi Zehirlenmesi: Eğitim verilerinin manipüle edilmesi, LLM modellerinin güvenlik, doğruluk veya etik davranış açısından tehlikeye girmesine neden olabilir.

LLM04: Model Hizmet Reddi: LLM'lere aşırı kaynak tüketen işlemler yüklemek, servis kesintilerine ve artan maliyetlere yol açabilir.

LLM05: Tedarik Zinciri Güvenlik Zaafiyetleri: Güvenliği ihlal edilmiş bileşenlere, hizmetlere veya veri kümelerine bağımlılık, sistem bütünlüğünü tehlikeye atarak veri ihlallerine ve sistem arızalarına neden olabilir.

LLM06: Hassas Bilgi İfşası: LLM çıktılarında hassas bilgilerin korunmasız bırakılması, hukuki sonuçlara veya rekabet avantajının kaybına yol açabilir.

LLM07: Güvensiz Eklenti Tasarımı: Güvenilir olmayan girdileri işleyen ve yetersiz erişim kontrolüne sahip LLM eklentileri, uzaktan kod yürütme gibi ciddi güvenlik açıklarına yol açabilir.

LLM08: Aşırı Yetkilendirme: LLM'lere kontrolsüz bir şekilde eylemde bulunma yetkisi verilmesi, güvenilirlik, gizlilik ve güven konularında istenmeyen sonuçlara yol açabilir.

LLM09: Aşırı Bağımlılık: LLM çıktılarını eleştirel bir şekilde değerlendirmemek, karar verme süreçlerinin tehlikeye girmesine, güvenlik açıklarına ve hukuki sorumluluklara yol açabilir.

LLM10: Model Hırsızlığı: Özgün büyük dil modellerine yetkisiz erişim, hırsızlık, rekabet avantajının kaybı ve hassas bilgilerin yayılması riskini taşır.

10 madde için örnek senaryo

Elbette, her bir OWASP LLM Top 10 maddesi için örnek senaryolar sunayım:

LLM01: Komut Enjeksiyonu

Senaryo: Bir kullanıcı, dil modeline zararlı bir komut gönderir ve model bu komutu işler. Bu, modelin içinde çalıştığı sistemde yetkisiz erişime veya veri ihlallerine yol açar.

LLM02: Güvensiz Çıktı İşleme

Senaryo: Bir şirket, dil modelinin ürettiği çıktıları doğrulamadan doğrudan ürün tanımları oluşturmak için kullanır. Bu çıktılardan bazıları zararlı içerik içerir ve müşterilerin cihazlarında güvenlik açıklarına neden olur.

LLM03: Eğitim Verisi Zehirlenmesi

Senaryo: Bir rakip şirket, dil modelinin eğitim verilerine zararlı içerikler ekler. Bu durum, modelin yanıltıcı veya zararlı yanıtlar vermesine ve güvenilirliğini kaybetmesine yol açar.

LLM04: Model Hizmet Reddi

Senaryo: Bir saldırgan, LLM'yi aşırı yükleyerek online müşteri hizmetleri platformunu çökertir, bu da şirketin müşteri hizmetleri operasyonlarını durdurur ve ek maliyetlere neden olur.

LLM05: Tedarik Zinciri Güvenlik Zaafiyetleri

Senaryo: Bir LLM sağlayıcısı, güvenlik açığı olan bir veri kümesini kullanır. Bu güvenlik açığı, şirketin sistemlerinde veri ihlallerine yol açar.

LLM06: Hassas Bilgi İfşası

Senaryo: Bir dil modeli, kullanıcıların kişisel bilgilerini yanlışlıkla ifşa eder, bu da şirketin gizlilik ihlalleri ve hukuki sorunlarla karşı karşıya kalmasına neden olur.

LLM07: Güvensiz Eklenti Tasarımı

Senaryo: Bir LLM eklentisi, güvensiz bir şekilde tasarlanmıştır ve saldırganların sisteme sızıp zararlı kod yürütmesine izin verir.

LLM08: Aşırı Yetkilendirme

Senaryo: Bir dil modeli, kontrolsüz kararlar alır ve bu, yanlış bilgilerin yayılmasına veya kullanıcıların gizliliğinin ihlaline yol açar.

LLM09: Aşırı Bağımlılık

Senaryo: Bir şirket, dil modelinin analiz sonuçlarına kritik kararlarında aşırı derecede güvenir ve bu, yanlış kararlar almasına ve güvenlik açıklarına neden olur.

LLM10: Model Hırsızlığı

Senaryo: Bir saldırgan, şirketin özel dil modeline erişir ve bu modeli kendi amaçları için kullanır ya da rakip şirketlere satar, bu da şirketin rekabet avantajını ve fikri mülkiyetini kaybetmesine yol açar.