LLM ve Vektör Veritabanı Boru Hatları için Bağlamsal Şifreleme
Kurumsal bir AI platformunun, hassas verilerin — PII, finansal kayıtlar, sağlık bilgileri — vektör veritabanında vektör gömme olarak depolandığında bile boru hattı boyunca şifreli kalmasını sağlarken, LLM destekli özellikleri (sohbet, arama, belge analizi) etkinleştirmesi gerekiyordu.
Projenizi Tartışın
Zorluk
LLM'leri ve vektör veritabanlarını hassas verilerle kullanmak, yeni güvenlik riskleri ortaya çıkardı:
- Gömme Tersine Çevirme Saldırıları — Araştırmalar, vektör gömmelerin orijinal metni yeniden oluşturmak için tersine mühendislikle çözülebileceğini ve vektör DB'lerde depolanan PII'yi açığa çıkarabileceğini gösterdi
- LLM Bağlam Sızıntısı — LLM'lere gönderilen hassas veriler, düzgün bir şekilde izole edilmezse diğer kullanıcılara verilen yanıtlarda görünebilir
- Uyumluluk Gereksinimleri — GDPR, HIPAA ve SOC2, depolanan ve aktarılan verilerde şifreleme talep ediyordu, ancak vektör veritabanları geleneksel metin alanlarını değil, matematiksel temsilleri depoluyordu
- Arama İşlevselliği — Metni gömmeden önce şifrelemek, anlamsal anlamı bozarak benzerlik aramasını işe yaramaz hale getiriyordu
- Anahtar Yönetimi — Kiracı başına şifreleme anahtarlarının tüm veri kümelerini yeniden gömme ihtiyacı olmadan döndürülmesi gerekiyordu
- Denetim Kaydı — Şifresi çözülmüş hassas verilere yapılan her erişimin uyumluluk için günlüğe kaydedilmesi gerekiyordu
Çözümümüz
Depolamadan önce hassas alanları seçici olarak şifrelerken, katmanlı bir yaklaşımla anlamsal aranabilirliği koruyan bağlamsal bir şifreleme mimarisi uyguladık — PII'yi meta verilerde şifrelerken, arındırılmış, hassas olmayan içeriği gömme için kullanılabilir tuttuk.
Mimari
- Şifreleme Motoru: Kiracı başına şifreleme anahtarlarıyla AES-256-GCM
- Anahtar Yönetimi: Anahtar oluşturma, döndürme ve erişim kontrolü için AWS KMS
- PII Tespiti: NER tabanlı (Named Entity Recognition) PII sınıflandırıcısı
- Vektör Veritabanı: Arındırılmış gömmelerde benzerlik araması için Milvus
- LLM Katmanı: LLM'ye gönderilen arındırılmış bağlam, hassas alanlar oluşturma sonrası yeniden enjekte edildi
- Denetim Sistemi: Her şifre çözme olayı kullanıcı, zaman damgası ve amaç ile günlüğe kaydedildi
- Veritabanı: Şifreli meta veriler için PostgreSQL
Bağlamsal Şifreleme Stratejisi
Veri Sınıflandırması
Herhangi bir veri boru hattına girmeden önce, bir PII sınıflandırıcısı her alanı hassasiyet düzeyine göre kategorize eder:
- Çok Hassas (örn. devlet kimlikleri, finansal hesap numaraları, tıbbi kimlikler) — Şifreli, asla gömülmez, asla LLM'ye gönderilmez
- Hassas PII (örn. tam adlar, e-posta adresleri, telefon numaraları) — Depoda şifreli, gömme öncesi yer tutucu ile değiştirilir
- Bağlamsal (örn. iş unvanları, şirket adları) — Depoda şifreli, onayla gömme için kullanılabilir
- Hassas Olmayan (örn. ürün açıklamaları, herkese açık bilgiler) — Olduğu gibi depolanır ve gömülür
Şifreleme Katmanları
Katman 1: Depoda Alan Düzeyinde ŞifrelemeHassas alanlar, depolanmadan önce AES-256-GCM ile şifrelenir. Her kiracı, AWS KMS aracılığıyla bir anahtar hiyerarşisi üzerinden yönetilen özel bir veri şifreleme anahtarı (DEK) alır. Gölge alanlar, şifre çözmeyi gerektirmeden tam eşleşme aramaları için aranabilir hash'ler depolar.
Katman 2: Gömmeden Önce ArındırmaPII tespit edilir ve metin gömme modeline gönderilmeden önce tip koruyucu yer tutucularla değiştirilir. Bu, tanımlanabilir bilgileri kaldırırken benzerlik araması için anlamsal anlamı korur. Orijinalden yer tutucuya eşlemesi, vektör kaydıyla birlikte şifreli olarak depolanır.
Katman 3: LLM Üretimi Sonrası Bağlam EnjeksiyonuLLM, yanıtları oluşturmak için yer tutucular içeren arındırılmış bağlamı alır. Üretimden sonra, sistem şifreli depolamadan gerçek değerleri yanıta yeniden enjekte eder. Bu, hassas verilerin LLM eğitim verilerine girmesini veya sağlayıcı tarafından önbelleğe alınmasını önler.
Vektör Veritabanı Güvenliği
Koleksiyon Tasarımı
Vektör koleksiyonları, arındırılmış gömmeleri şifreli orijinal meta verilerle birlikte depolar. Kiracı izolasyonu, bölüm anahtarları aracılığıyla uygulanır ve her kiracının meta verileri kendi anahtarları kullanılarak şifrelenir. API katmanı, herhangi bir şifre çözme işleminden önce kiracı sahipliğini doğrular.
Anahtar Yönetimi ve Döndürme
Anahtar Hiyerarşisi
Çok seviyeli bir anahtar hiyerarşisi kullanılır: AWS KMS'deki bir ana anahtar, kiracı başına anahtar şifreleme anahtarlarını sarmalar; bunlar da alan düzeyinde şifreleme için kullanılan kiracı başına veri şifreleme anahtarlarını sarmalar. Bu, tüm anahtar zincirini yeniden şifrelemeye gerek kalmadan verimli anahtar döndürme sağlar.
Anahtar Döndürme Süreci
- Yeni DEK Oluşturuldu — Mevcut anahtar şifreleme anahtarı altında yeni veri şifreleme anahtarı oluşturuldu
- Yeni Yazmalar — Tüm yeni veriler yeni anahtarla şifrelenir; eski anahtar okumalar için geçerli kalır
- Arka Plan Yeniden Şifreleme — Toplu iş, mevcut kayıtları yeni anahtarla yeniden şifreler
- Eski DEK'in Devre Dışı Bırakılması — Tüm kayıtlar taşındıktan sonra, eski anahtar pasif olarak işaretlenir
- Denetim Kaydı — Döndürme olayı zaman damgaları ve etkilenen kayıt sayıları ile günlüğe kaydedilir
Denetim ve Uyumluluk
Şifre Çözme Denetim Kaydı
Her şifre çözme olayı, kimin talep ettiğini, neyin şifresinin çözüldüğünü, ne zaman, neden (istek bağlamı) ve hangi anahtarın kullanıldığını yakalar — eksiksiz bir uyumluluk izi sağlar.
GDPR Silme Hakkı
Sistem, hem ilişkisel veritabanı hem de vektör veritabanı genelinde tam veri silmeyi destekler; kriptografik olarak kalıntı erişim olmadığından emin olmak için isteğe bağlı anahtar döndürme ile. Tüm silme işlemleri bir GDPR denetim kaydında günlüğe kaydedilir.
Temel Özellikler
- Alan Düzeyinde Şifreleme — Hassas alanlarda AES-256-GCM, kayıtların tamamında değil
- PII Arındırma — Yer tutucular gömmeler için anlamsal anlamı korur
- LLM Sonrası Yeniden Enjeksiyon — Hassas veriler asla LLM sağlayıcılarına gönderilmez
- Kiracı Başına Anahtarlar — AWS KMS yönetimi ile izole şifreleme anahtarları
- Anahtar Döndürme — Arka plan yeniden şifreleme ile sıfır kesinti süreli döndürme
- Gömme Güvenliği — Arındırılmış gömmeler PII'ye yönelik tersine çevirme saldırılarını önler
- Denetim Kaydı — Uyumluluk raporlaması için her şifre çözme günlüğe kaydedilir
- GDPR Uyumluluğu — Şifreli depolama alanları ve vektör DB genelinde otomatik silme
Sonuçlar
Teknoloji Yığını
caseStudyDetail.more Vaka Çalışmaları
Daha fazla teknik uygulamamızı keşfedin
Catant HR ve İş Gücü Yönetim Platformu
Catant, işletmelerin çalışanları, bordroyu, katılımı ve uyumluluğu tek bir kontrol panelinden yönetmelerine yardımcı olan modüler bir HR ve iş gücü yönetim platformudur.
Kickly: Startup'lar için Yapay Zeka Destekli Proje Platformu
Kickly, startup'lar için tasarlanmış yapay zeka destekli bir proje yönetim platformudur — akıllı görev otomasyonu, ekip işbirliği ve gerçek zamanlı ilerleme takibini tek bir üründe birleştirir.
İşletmenizi Dönüştürmeye Hazır mısınız?
Zorluklarınıza benzer çözümler uygulamamızın yollarını konuşalım.