Siber saldırganlar yapay zeka hesaplarının işlem gücünü de hedef alıyor. “LLMjacking” olarak adlandırılan bu yeni saldırı türü, işletmeleri yüksek maliyetlerle karşı karşıya bırakıyor.
Yapay zeka araçlarının şirketlerin günlük işleyişine hızla girmesi, siber saldırganlar için yeni bir kazanç alanı yarattı. Artık ele geçirilen bir hesaptan veri çalınması tek risk değil. Şirket adına binlerce hatta milyonlarca yapay zeka sorgusu da saldırganlar tarafından çalıştırılabiliyor. Saldırganların bir kuruma ait bulut erişim bilgilerini veya yapay zeka API anahtarlarını ele geçirerek büyük dil modellerini izinsiz kullanması, siber güvenlik literatüründe “LLMjacking” olarak tanımlanıyor. “Large Language Model Jacking” ifadesinin kısaltması olan LLMjacking, Türkçeye “büyük dil modelinin ele geçirilmesi” ya da “yapay zeka kaynaklarının izinsiz kullanılması” şeklinde çevrilebilir. İşte söz konusu bu saldırının faturası ise çoğu zaman hesabın gerçek sahibine çıkıyor.
Nedir bu LLMjacking diye daha derinden incelendiğinde şöyle bir tablo ortaya çıkıyor. Büyük dil modelleri, genellikle kullanılan işlem kapasitesine ve oluşturulan içerik miktarına göre ücretlendiriliyor. Siber saldırganlar çaldıkları API anahtarlarıyla şirketlerin yapay zeka hesaplarına erişebiliyor. Sonrasında içerik üretmek, yasa dışı hizmetler sunmak, zararlı yazılım geliştirmek veya erişimi üçüncü kişilere satmak için bu kaynakları kullanabiliyor. Peki bu hırsızlığın maliyeti ne oluyor? Sistem teknik olarak şirketin hesabı üzerinden çalıştığı için ortaya çıkan kullanım bedeli de şirketin bulut faturasına yansıyor. Sysdig’in saldırıya adını verdiği ilk araştırmalarda, ele geçirilen bir bulut hesabının yapay zeka modellerinde kötüye kullanılmasının kuruma günlük on binlerce dolara ulaşabilecek maliyet çıkarabileceği hesaplanmıştı. Sorun yalnızca yüksek işlem faturasıyla da sınırlı değil. Ele geçirilen kimlik bilgileri saldırganlara başka bulut hizmetlerine, şirket verilerine veya iş süreçlerinde kullanılan uygulamalara erişme imkânı verebilir. Böylece LLMjacking durumu, mali kayıp, iş kesintisi, veri ihlali ve itibar zararının aynı olay içinde birleştiği karmaşık bir siber hasara dönüşebilir.
“Gölge yapay zeka” riski büyütüyor
Şirketin onaylamadığı yapay zeka araçlarının çalışanlar tarafından kullanılması da risk alanını genişletiyor. Bir çalışanın müşteri bilgilerini, sözleşmeleri veya şirket içi belgeleri herkese açık bir yapay zeka uygulamasına yüklemesi, doğrudan bir sistem saldırısı yaşanmasa bile veri güvenliği ihlaline yol açabiliyor. Bu nedenle işletmelerin yalnızca kurumsal yapay zeka sistemlerini değil, çalışanların kullandığı üçüncü taraf uygulamaları da dikkate alması gerekiyor. Hangi aracın hangi veriyle çalıştığının bilinmediği bir ortamda, olayın kaynağını ve hasarın kapsamını belirlemek güçleşiyor.
Yeni riskler sigorta sektörünü de poliçe koşullarını yeniden değerlendirmeye yöneltiyor. Financial Times’ın haberine göre bazı sigortacılar, yapay zeka bağlantılı siber hasarlar ve LLMjacking olayları için özel alt limitler üzerinde çalışıyor. Alt limit, poliçenin genel teminat tutarından daha düşük bir ödeme sınırı anlamına geliyor. Örneğin toplam teminatı beş milyon dolar olan bir siber poliçede, LLMjacking kaynaklı bir hasar için ödeme 250 bin dolarla sınırlandırılabiliyor. Bu durumda yüksek bulut kullanım bedelinin ve diğer zararların önemli bölümü işletmenin üzerinde kalabilir. Haberde söz edilen sigortacılar, söz konusu bu düzenlemelerin yeni riskleri daha açık biçimde tanımlamak amacıyla yapıldığını belirtiyor. Buna karşılık brokerlar ve hukukçular, geniş yazılmış yapay zeka tanımlarının yapay zeka hatalarını, düzenleyici ihlalleri ve veri kayıplarını da sınırlayabileceği uyarısında bulunuyor.
Riski azaltmanın adımları
LLMjacking riskini azaltmanın ilk adımı, yapay zeka erişim anahtarlarını sıradan bir parola gibi görmemek. API anahtarlarının güvenli kasalarda saklanması, düzenli olarak yenilenmesi ve yalnızca ihtiyaç duyulan sistemlere yetki verilmesi gerekiyor.
Şirketler ayrıca aşağıdaki uygulamaları da yapabilir:
- Yapay zeka ve bulut harcamaları için günlük limit ve anlık uyarılar oluşturmalı,
- Olağan dışı sorgu yoğunluğunu takip etmeli,
- Çok faktörlü kimlik doğrulamayı zorunlu tutmalı,
- Kullanılmayan erişim anahtarlarını kapatmalı,
- Çalışanlar için onaylı yapay zeka araçlarını belirlemeli,
- Siber poliçelerde yapay zeka istisnalarını ve alt limitleri ayrıca incelemeli.
Yapay zeka iş süreçlerini hızlandırırken yeni bir varlık sınıfı da oluşturuyor ki bu da işlem gücüdür. Bu gücün çalınması, klasik veri hırsızlığından farklı olarak her dakika büyüyen bir maliyet yaratabiliyor. Dolayısıyla şirketlerin “Verimiz çalındı mı?” sorusunun yanına “Yapay zeka hesabımızı kim, ne kadar kullanıyor?” sorusunu da eklemesi gerekiyor.
