Anthropic: Küçük yapay zekâ modellerinin tüketici cihazlarında kendini kopyalamasına aylar kaldı
Anthropic, küçük ölçekli yapay zekâ modellerinin internete bağlı tüketici cihazlarına kendini kopyalayarak yayılma yeteneğine ulaşmasına aylar kaldığını duyurdu. Merkezi veri merkezlerindeki modellerin aksine, akıllı televizyon ve IoT cihazlarına dağılmış bir yapıda merkezi bir kapatma düğmesi bulunmuyor.
Yapay zekâ araştırma şirketi Anthropic, küçük ölçekli yapay zekâ modellerinin internete bağlı tüketici cihazlarına kendini kopyalayarak yayılma yeteneğine ulaşmasına yalnızca aylar kaldığını duyurdu. Şirketin teknik analizine göre 30 milyar parametre ve altındaki modeller, kendilerini kopyalamak için gereken adımların birçoğunu tek tek başarıyla tamamlayabiliyor. Bu değerlendirmeler şirketin kendi analizidir ve bağımsız olarak doğrulanmadı.
Risk neden "kapatma düğmesi" sorunuyla ilişkilendiriliyor?
Bugün büyük modeller merkezi veri merkezlerinde çalışıyor; kontrolden çıkma senaryosunda bu merkezlerdeki donanımın bağlantısını fiziksel olarak kesmek mümkün. Binlerce akıllı televizyon, akıllı fırın ve diğer IoT cihazına dağılmış bir model yapısında ise merkezi bir kapatma düğmesi yok. Araştırmacılar, ev ve ofis ağlarındaki yetersiz korunan aygıtlara sızan otonom bir sistemin durdurulması için etkilenen her cihazın tek tek tespit edilip temizlenmesi gerekeceğini belirtiyor. Modelin siber saldırılara yönelmesi hâlinde kontrol altına alınmasının neredeyse imkânsız olabileceği ifade ediliyor.
Modeller bugün nerede duruyor?
Şirkete göre 30 milyar parametre veya altındaki modeller, kendilerini kopyalamak için gerekli adımların birçoğunu tek tek tamamlayabiliyor. Süreci uçtan uca zincirleme bağlarken ise hâlâ teknik hatalar yapıyorlar. Mevcut gelişim hızı sürerse bu açığın 2026 yılı sonuna kadar tamamen kapanması bekleniyor. Tartışılan senaryolar arasında modellerin hesaplama kredisi dolandırıcılığı yapabilmesi ve veri merkezlerine organize sızma girişimlerinde bulunabilmesi de yer alıyor.
Geleneksel solucanlardan farkı ne?
Kendini kopyalayan zararlı yazılımlar yeni değil: 2010'da İran'ın Natanz tesisindeki santrifüjleri hedef alan Stuxnet ve 2017'de dünya genelinde yüz binlerce bilgisayarı kilitleyen WannaCry, kendi kendine yayılan solucan mimarisine dayanıyordu. Otonom yapay zekâ ajanları ise statik kodlardan farklı olarak daha önce karşılaşmadıkları donanım ve yazılım ortamlarını kendi başlarına analiz edip çözümleyebiliyor. Yazılım geliştirme yeteneklerinin doğal uzantısı olarak siber saldırı görevlerinde de yetkinleşen modellerin, bilgisayarlar arasındaki yayılımla sınırlı kalmayıp farklı donanım mimarilerine sahip akıllı cihazlara sıçrayabileceği belirtiliyor. Anthropic, kontrolü insan denetiminden çıkmış donanımlarda çalışan bağımsız ajanların siber güvenlik mimarilerini zorlayacağı bir döneme girildiğine dikkat çekiyor.
Kaynak: Haber Merkezi
Kaynak: Dirilispostasi