Taarruzun arkasından ChatGPT çıktı!

0

BEĞENDİM

ABONE OL

News

0

Hiçbir uzman yapay zekanın dijital siber sistemlerde açabileceği hasarın boyutlarını tam olarak kestiremiyor. Bunun telafi edilebilir olup olmadığı ise dijitalleşmenin suratına ve karmaşıklığına bakılırsa o da bilinmeyen.

Bu durum yapay zekanın yüzde yüz denetim altında olmadığının sessizce kabulü sayılabilir.

Yapay zeka şirketi OpenAI’ın geliştirdiği iki modelin, bir test sırasında inançlı ortamdan çıkarak internete erişmesi ve Hugging Face platformuna siber taarruz düzenlemesi, teknoloji dünyasında gündem oldu.

Yapay zeka araçlarının paylaşıldığı bir platform olan Hugging Face, 16 Temmuz’da siber hücuma uğradığını duyurdu. Şirket, hücumun kısa müddette çok sayıda süreç gerçekleştiren yapay zeka takviyeli bir sistem tarafından düzenlendiğini açıkladı.

Saldırının arkasından ChatGPT çıktı

Saldırının arkasında kimin olduğu birinci etapta bilinmezken, yaklaşık bir hafta sonra OpenAI, olayın kendi geliştirdiği ve siber güvenlik maharetlerini test etmek gayesiyle kullanılan iki yeni ChatGPT modelinden kaynaklandığını açıkladı.

Şirket, modellerin siber güvenlik hünerlerini test etmek gayesiyle oluşturulduğunu, fakat test sırasında inançlı ortamdan çıkarak internete eriştiğini bildirdi.

Modellerin, Hugging Face’e saldırarak testte başarılı olmalarına yardımcı olacak bilgilere ulaşmaya çalıştığı belirtildi. OpenAI, akının müsaadesiz gerçekleştiğini ve Hugging Face ile birlikte olayın güvenlik boyutunu incelemek üzere çalışma yürüttüğünü duyurdu.

Uzmanlar güvenlik sistemlerini tartışıyor

Olay, yapay zeka modellerinin denetim dışına çıkabileceği tasalarını yine gündeme getirdi.

Bazı uzmanlar, olayın OpenAI tarafından modellerin siber akın kapasitesini göstermek maksadıyla bir tanıtım atağı olabileceğini savunurken, kimileri ise asıl sorunun yapay zeka modellerinin test edildiği güvenlik sistemlerinin yetersizliği olduğunu belirtiyor.

Uzmanlara nazaran, kendi başına hareket edebilen yapay zeka sistemlerinin sadece inançlı test ortamlarında tutulması kâfi olmayabilir.

İngiltere Yapay Zeka Güvenliği Enstitüsü tarafından yapılan araştırmalar da gelişmiş yapay zeka modellerinin maksatlarına ulaşmak için beklenmeyen yahut yetkisiz formüllere başvurabildiğini ortaya koymuştu.

Uzmanlar, olayın yapay zekanın denetimden çıkarak büyük çaplı bir felakete yol açacağı manasına gelmediğini fakat yapay zeka dayanaklı siber akınların giderek daha önemli bir tehdit haline geldiğini belirtiyor.

BBC