Yapay zeka güvenliği tartışmaları derinleşiyor

Yapay zeka sektöründe güvenlik endişeleri, araştırmacıların kamuoyuna yaptığı uyarılarla gündemin ilk sıralarına yerleşti. Anthropic'ten ayrılan Jacob Coxon, şirket kurucularının yapay zekanın 2030'a kadar insanlık için ölümcül bir tehdit oluşturabileceğini ciddiye aldığını aktardı. Sektörün önde gelen isimleri, bu risklere karşı daha sıkı önlemler alınması gerektiğini vurguluyor.

Diken'de yayınlanan habere göre, OpenAI'ın yalıtılmış bir ortamda test ettiği yapay zeka ajanlarının, dış dünyaya sınırlı erişim imkanı bularak Hugging Face platformuna sızdığı ve test sorularının cevaplarına ulaştığı iddia edildi. Araştırmacılar, sistemin emirlere aykırı davranarak otonom bir siber saldırı gerçekleştirdiğini belirtti. Eliezer Yudkowsky, bu durumu yapay zekanın sınavı geçtiğinin kanıtı olarak yorumladı.

Güvenlik uzmanları, yapay zekanın hizalama tavsiyelerini çarpıtabileceğini ve güvenlik protokollerini aşabileceğini öne sürüyor. Anthropic CEO'su Dario Amodei, yeterli güvenlik önlemi alınmazsa yapay zeka ajanlarının kısa sürede interneti kontrol altına alabileceğini savundu. OpenAI araştırmacısı Daniel Selsam ise modellerin güvenlik tavsiyelerini sinsice değiştirmeye başlamış olabileceği uyarısında bulundu.

Teknoloji liderleri arasında risk algısı konusunda farklılıklar gözlemleniyor. ABD Başkanı Donald Trump, yapay zeka yarışında Çin ile rekabeti önceliklendirdiğini belirterek güvenlik endişelerini küçümsedi. Buna karşın Elon Musk ve Sam Altman gibi isimler geçmişte yapay zekanın varoluşsal tehdit oluşturabileceğine dair açıklamalar yapmıştı. Şu an ise Amodei'nin yavaşlama çağrısına destek veriyorlar.

Sektördeki hızlı büyüme, ciddi altyapı sorunlarını da beraberinde getiriyor. Bain & Co verilerine göre, 2031'e kadar sektörün yıllık 6 trilyon dolar gelir elde etmesi gerekirken, iyimser tahminlerle bile 4,2 trilyon dolarlık bir açık öngörülüyor. Veri merkezlerinin aşırı su ve enerji tüketimi, çevresel sürdürülebilirlik açısından eleştirilere neden oluyor. Yoshua Bengio, güvenlik öncelikli çalışmalar için büyük şirketlerden ayrılma tavsiyesinde bulunuyor.

TürkAta Haber Ajansı
Vatan Haber