AI denetimden çıktı: Yapay zekada eşsiz saldırı!

0

BEĞENDİM

ABONE OL

News

0

New York merkezli Hugging Face şirketi sızıntıyla ilgili açıklamasında, büsbütün otonom bir yapay zeka casusunun yapay zeka model deposuna sızdığını ve bu taarruzun gibisi görülmemiş olduğunu bildirdi.

Hugging Face, araştırmacıların ve geliştiricilerin yapay zeka projeleri için araçları, modelleri ve kaynakları paylaşmak ve test etmek üzere bir araya geldiği açık kaynaklı bir platform işletiyor.

Şirket ayrıyeten, 900.000’den fazla eğitilmiş modelin bulunduğu, fiyatsız olarak erişilebilen bir depoya da sahip.

Uzmanlar, başlangıçta verimliliği artırmak ve siber savunmayı güçlendirmek için tasarlanan Büyük Dil Modellerinin (LLM’ler) siber akınları otomatikleştirmek için de kullanılabileceği konusunda giderek daha fazla ikazda bulunuyor.

Hugging Face, geçen Perşembe günü yaptığı açıklamada, bu ayın başlarında “üretim altyapımızın bir kısmına yönelik bir saldırıyı tespit edip buna müdahale ettiklerini… ve bunun daha evvel rastlanmamış bir olay olduğunu belirtti.

“Tahmin ve teoriler gerçek oldu”

Şirket, “saldırının baştan sona otonom bir yapay zeka casus sistemi tarafından yönetildiğini” açıkladı.

Şirketin açıklamasına nazaran, “Olay, bağımsız bir casus çerçevesi tarafından yürütüldü… kısa ömürlü sanal ortamlar sürüsü üzerinde binlerce ferdî aksiyonu gerçekleştirdi ve kamu hizmetlerinde kendi kendine geçiş yapan komuta ve denetim sistemi kuruldu.”

Hugging Face, bu olayın “otonom, yapay zeka dayanaklı akın araçlarının artık teorik olmaktan çıktığını” gösterdiğini belirtti.

Saldırgan yapay zeka casus sistemi, platformun data sürece hattındaki güvenlik açıklarından yararlanarak bulut ve küme kimlik bilgilerini toplamış üzere görünüyor.

Şirket, ihlali tespit etmek ve önlemek için kendi yapay zeka sistemini kullandığını belirtti.

Dışarıdan siber güvenlik isimli uzmanlarının da dahil olduğu bir soruşturma başlatılmış olsa da, Hugging Face taarruzda kullanılan LLM’yi şimdi tespit edemediğini açıkladı.

Bu ayın başlarında Anthropic, en yeni yapay zeka modeli Claude’un ‘J-space’ olarak isimlendirilen dahili bir çalışma alanı geliştirdiğini bildirdi.

Yapay zeka şirketine nazaran, “İnsanların bir şey yaparken öbür bir şey düşünebilmesine misal biçimde, Claude da J-uzayında çıktılarıyla ilgisi olmayan kavramları ve hesaplamaları etkinleştirebiliyor ve açıkça durması söylense bile durmayı reddediyor.”

Anthropic, “modelin içsel sinirsel aktivasyonlarında sessizce işleyen” bu özelliğin evvelden programlanmadığını, bilakis eğitim süreci sırasında resen ortaya çıktığını belirtti.

Modelin geliştiricisine nazaran, deneylerden birinde, hayali bir yöneticinin yapay zekayı kapatmayı planladığına inandırılınca Claude şantaja başvurdu.

Claude’un, ABD hükümet kurumları ve Pentagon tarafından, İran’a karşı süren hücumlar dahil olmak üzere kullanılan, Amerikan-İsrail merkezli yüklenici Palantir’in tahlil ve nezaret yazılımına entegre edildiği bildiriliyor.

Geçtiğimiz ay, Avustralya, ABD, İngiltere, Kanada ve Yeni Zelanda’dan oluşan Beş Göz istihbarat grubu, gelişmiş yapay zeka modellerinin yakın gelecekte bilgisayar korsanlarına hükümetleri, işletmeleri ve kritik sistemleri felç etme yeteneği kazandırabileceği konusunda ihtarda bulunmuştu.

RT