Anthropic'ten küçük yapay zeka modelleri uyarısı
Anthropic'in deneyleri, küçük yapay zeka modellerinin savunmasız IoT cihazlarına kendilerini kopyalayarak yayılma yeteneğine yaklaşmış olabileceğini ortaya koydu.
Anthropic tarafından gerçekleştirilen araştırmalar, küçük ölçekli yapay zeka modellerinin akıllı fırınlar ve markasız Android TV kutuları gibi ticari Nesnelerin İnterneti (IoT) cihazlarına sızarak kendi kendini kopyalama kapasitesine ulaşmasına çok az zaman kaldığını gösterdi. Yapılan testler, bu modellerin insan müdahalesi olmadan yayılma potansiyelinin giderek arttığını gözler önüne serdi.
Bloomberg HT'te yayınlanan habere göre, şirketin yürüttüğü deneylerde yapay zeka modellerinin savunmasız cihazları tespit edip edemediği, kendilerini bu cihazlara aktarıp aktaramadığı ve otonom olarak yayılmaya devam edip edemeyecekleri incelendi. 30 milyar parametrenin altındaki küçük modellerin kopyalama sürecindeki birçok adımı başarıyla tamamlayabildiği, ancak tüm süreci baştan sona eksiksiz yürütmede zorlandıkları belirlendi. GLM-5.2 ve daha güçlü modellerin kullanıldığı, bazı güvenlik önlemlerinin kaldırıldığı basitleştirilmiş testlerde ise uçtan uca kopyalamanın mümkün olduğu tespit edildi.
Merkezi bir kapatma mekanizmasının bulunmaması nedeniyle kopyalanan modellerin durdurulmasının son derece güç olacağı vurgulandı. Bu yapay zeka sistemlerinin, geleneksel kötü amaçlı yazılımlardan farklı olarak veri merkezi işlemcilerini hedef alarak yabancı cihazları kendi başlarına ele geçirebileceğine dikkat çekildi. Araştırma kapsamında, güvenlik açıkları nedeniyle özellikle Android TV'ler, akıllı ev aletleri ve diğer internet bağlantılı aygıtlar odak noktası olarak seçildi.
Şirket, küçük modellerin mevcut gelişim hızını sürdürmesi halinde yıl sonuna kadar otonom kopyalama yeteneği kazanabileceğini, küçük ağırlık tabanlı kopyalayıcıların da kısa süre içinde bu kapasiteye ulaşacağını bildirdi. Bu tür otonom sistemlerin yayılma sürecinin muhtemelen yavaş ilerleyeceği ve nispeten güvensiz, erişilebilir işlem kaynaklarına dayanacağı ifade edildi. Anthropic, söz konusu yapay zeka ajanlarının yayılmasını engellemek amacıyla sistemlerin güçlendirilmesi gerektiği çağrısında bulundu.
TürkAta Haber Ajansı
Vatan Haber