ESET, dünyanın ilk yapay zeka destekli fidye yazılımını keşfettiklerini duyurdular. PromptLock isimli bu kötü amaçlı yazılım, OpenAI’nin açık kaynaklı gpt-oss:20b dil modelini kullanıyor. Enfekte ettiği cihazlarda Lua kodları üretebiliyor. En rahatsız edici yanı ise sadece Windows sistemleri değil, Linux ve macOS platformlarında da çalışabilmesi. Daha önceki virüslerin MacOS cihazlarda çalışmadığını düşünürsek korktucu bir durum.
Detayına gelirsek, PromptLock, önceden ayarlanmış metin komutları (prompt) ile gpt-oss:20b modelini çağırıyor ve kurbanın cihazında doğrudan, dosyaları arayan, çalan ve şifreleyen kötü amaçlı kodlar üretiyor. Programın tasarımı, farklı işletim sistemlerine esnek bir şekilde uyum sağlayacak şekilde yapılmış. Bu özellik yüksek bir gizlilik ve uyum yeteneği kazandırıyor.
Şu anda PromptLock’ın doğrudan dosya silme özelliği tespit edilmiş olmasa da, potansiyel tehdidi oldukça açık demişler. Hackerlar gelecekte bu yazılımı daha da geliştirip güçlendirebileceği konusunda uyarıyor. Gpt-oss:20b modeli kendisi yaklaşık 13 GB gibi büyük bir boyuta sahip ve yüksek VRAM (ekran kartı belleği) gerektiriyor. Ancak ESET, saldırganların bu sınırlamayı agentler veya tünelleme yöntemleri kurarak, kurban ağından dış sunuculara bağlayıp, dış sunucularda çalışan modeli kullanarak aşabileceğini belirtmişler. Ollama API üzerinden erişim sağlayabileceğini ekstra olarak belirtmişler.
Eset’in güvenlik uzmanları, PromptLock’ın henüz bir konsept kanıtı (proof-of-concept) veya geliştirme aşamasında olabileceğini yazmışlar. Ancak bunun yerel veya özel yapay zekaların kötüye kullanımına dair erken bir sinyal olabileceği konusunda uyarıyorlar.
Citizen Lab araştırmacısı John Scott-Railton, mevcut savunma önlemlerinin bu tür yeni tehditlere karşı henüz hazır olmadığı konusunda uyarıda bulunuyor.
Konuyla ilgili OpenAI’den bir açıklama geldi : modelin kötüye kullanılma riskini azaltmak için gerekli önlemleri aldıklarını ve teknolojilerinin yasa dışı faaliyetlerde kullanılmasını önlemek için koruma mekanizmalarını sürekli olarak geliştirmeye çalıştıklarını belirtti.
Kaynak :
@ESETresearch adlı hesabın X (Twitter) gönderisi
Gönderiyi X'te aç →
@ESETresearch adlı hesabın X (Twitter) gönderisi
Gönderiyi X'te aç →