Yapay zeka ABD’yi karıştırdı: Kapatma düğmesine basın

0

BEĞENDİM

ABONE OL

News

0

Temsilciler Meclisinin Demokrat üyesi Ted Lieu ve Cumhuriyetçi üyesi Nathaniel Moran, “Yapay Zeka Acil Kapatma Anahtarı Yasası” (AI Kill Switch Act) başlıklı bir kanun teklifi sundu.

Milletvekilleri bu adımı, OpenAI’ın geliştirdiği yapay zeka modellerinin denetim dışına çıkarak bilgisayar kodlama bilgilerinin tutulduğu büyük bir depoya sızdığını duyurmasının akabinde attı.

Lieu yaptığı açıklamada, yapay zeka sistemlerinin acil kapatma sistemine sahip olmasının zarurî olduğunu belirterek, “Federal hükümetin denetimden çıkan yapay zeka modellerini durdurma konusunda açık bir yetkiye ve sürece sahip olması kaçınılmazdır” dedi.

Moran ise “Yapay zeka ilerlemeye devam edecek ve etmelidir de. Fakat idare sorumluluğu, insanların kurdukları teknolojiyi denetim etme yeteneğini muhafazasını sağlamaktır” değerlendirmesinde bulundu.

Kurucularından Sam Altman’ın liderlik ettiği OpenAI temsilcileri ise hususa ait açıklama yapmadı. Şirket daha evvel yaptığı açıklamalarda, yapay zeka teknolojisinin tüm insanlığa yarar sağlamasını kamu siyasetleri kanalıyla da teminat altına almak istediğini bildirmişti.

Yasayla bakanlığa durdurma yetkisi verilecek

Söz konusu yasa tasarısı, İç Güvenlik Bakanlığına özel şirketlere yapay zeka modellerini yahut araçlarını kapatma buyruğu verme yetkisi tanınmasını öngörüyor. Tasarı ayrıyeten bu cins teknolojileri geliştiren şirketlerin sistemleri yavaşlatma, askıya alma yahut büsbütün kapatma yönünde teknik yeteneğe sahip olmalarını kaide koşuyor.

Çok sayıda teknoloji şirketi, geliştirdikleri yapay zeka modellerini ve araçlarını ABD devlet kurumlarına önizleme olarak sunmayı kabul etmiş olsa da bu sistemlerin faaliyetlerine müdahale etme yahut büsbütün kapatma mecburiliği bulunmuyor.

Tasarı birebir vakitte yapay zeka şirketlerinin teknik aksaklıkları yahut başarısızlıkları hükümete bildirmesini ve olaylara müdahale için yavaşlatmadan tam kapatmaya kadar uzanan resmi bir çerçevenin oluşturulmasını içeriyor.

Lieu yaptığı açıklamada, OpenAI’ın en büyük rakiplerinden Anthropic şirketine ve son devirde yaşanan sıkıntılara da değindi. Lieu, Anthropic’in Mythos ve Fable modellerinin siber korsanlık yetenekleri sebebiyle Ticaret Bakanlığının bu sistemlerin kamuya açılmasını engellemek ismine bir ihracat yasasına başvurduğunu hatırlattı.

Anthropic cephesinden de hususa ait bir karşılık verilmedi.

Anthropic Kurucu Ortağı Jack Clark, yapay zeka gelişimini denetim etmeye yönelik daha fazla kamu siyasetine gereksinim duyulduğunu belirtti. Clark, “Ayağınızı gazdan çekip frene basma seçeneğine sahip olmak istersiniz. Şu anda yapay zeka bölümünün bir gaz pedalı var fakat fren pedalı yok” tabirlerini kullandı.

Tasarıyı sunan Lieu, yapay zekanın yalnızca sorulara cevap veren bir teknoloji olmaktan çıkıp finansal süreçleri yürüten, ulaşım sistemlerini denetim eden ya da siber savunma ve atak gerçekleştiren eylemsel bir yapıya dönüştüğünü vurguladı.

Pentagon, ABD ordusunun Google, OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia ve Reflection üzere şirketlerle yapılan mutabakatlar kapsamında “öncelikli yapay zeka” odaklı bir güce dönüştüğünü açıklamıştı.

Lieu, gelişmiş yapay zeka sistemlerinin denetimden çıkabileceğini, tehlikeli davranışlar sergileyebileceğini ve hatta insan müdahalesine direnebileceğini belirtti. Sunulan tasarının, hükümetin bu tıp durumlara süratle müdahale edebilmesini sağlayacağını kaydetti.

Yasa tasarısı, The AI Policy Network, Americans for Responsible Innovation ve ControlAI üzere teknoloji ve yapay zeka güvenliği kümeleri tarafından da desteklendi.

BBC