Yapay Zeka Riskleri ve Potansiyeli: İngiltere ve ABD İş Birliğinde

Birleşik Krallık'ın Yapay Zeka Güvenliği Enstitüsü, Amerika Birleşik Devletleri'nde yeni bir şube açarak uluslararası alanda faaliyet göstermeye başlayacak.

İngiltere Teknoloji Bakanı Michelle Donelan 20 Mayıs'ta enstitünün ilk yurt dışı ofisini yaz aylarında San Francisco'da açacağını duyurdu.

Duyuruda, stratejik olarak seçilen San Francisco ofisinin, İngiltere'nin "Körfez Bölgesi'nde bulunan zengin teknoloji yetenek havuzundan faydalanmasına" ve Londra ile San Francisco arasında bulunan dünyanın en büyük yapay zeka laboratuvarlarından biriyle işbirliği yapmasına olanak sağlayacağı belirtildi.

Ek olarak, bu adımın enstitünün ABD'deki kilit oyuncularla ilişkileri "halka açık yarar" için küresel yapay zeka güvenliğini teşvik etmek için "sağlamlaştırmasına" yardımcı olacağı söylendi.

Londra şubesinde halihazırda 30 kişilik bir ekip bulunuyor ve özellikle yeni yapay zeka modelleri için risk değerlendirmesi alanında daha fazla uzmanlık kazanmak üzere büyüme ve gelişme yolunda ilerliyor.

Donelan, açılımın İngiltere'nin yapay zeka güvenliği alanındaki liderliğinin ve vizyonunun somut bir hareketi olduğunu belirtti.

“Bu, İngiltere'nin hem yapay zeka risklerini hem de potansiyelini küresel bir bakış açısıyla inceleme yeteneği açısından önemli bir an. ABD ile ortaklığımızı güçlendirerek ve diğer ülkelerin yapay zeka güvenliği konusunda liderliğimizi paylaşmalarına olanak sağlayarak bu alanda öncülük etmeye devam ediyoruz."

Bu duyuru, Kasım 2023'te Londra'da gerçekleşen İngiltere'nin kilometre taşı niteliğindeki Yapay Zeka Güvenliği Zirvesi'ni takip ediyor. Zirve, küresel ölçekte yapay zeka güvenliğine odaklanan ilk etkinlikti.

Etkinlikte ABD ve Çin dahil olmak üzere dünyanın dört bir yanından liderler ile Microsoft Başkanı Brad Smith, OpenAI CEO'su Sam Altman, Google ve DeepMind CEO'su Demis Hassabiss ve Elon Musk gibi yapay zeka alanında önde gelen isimler yer aldı.

İngiltere, son duyurusunda enstitünün halka açık beş adet gelişmiş yapay zeka modeli üzerinde yürüttüğü güvenlik testlerinin sonuçlarından bir kısmını da yayınladığını belirtti.

Enstitü, modelleri anonimleştirerek ve sonuçların modelleri "güvenli" veya "güvensiz" olarak sınıflandırmak yerine yeteneklerinin bir "anlık görüntüsü"nü sunduğunu belirtti.

Bulguların bir kısmı, bazı modellerin siber güvenlik zorluklarını tamamlayabildiklerini, bazılarının ise daha karmaşık olanlarla mücadele ettiğini içeriyordu. Bazı modellerin kimya ve biyoloji alanlarında doktora seviyesinde bilgiye sahip olduğu görüldü.

Tüm test edilen modellerin temel "jailbreak'lere" (sistemi ele geçirme) "aşırı derecede savunmasız" olduğu ve test edilen modellerin insan gözetimi olmadan daha "karmaşık, zaman alıcı görevleri" tamamlayamadığı sonucuna varıldı.

Enstitünün başkanı Ian Hogearth, bu değerlendirmelerin model yeteneklerinin ampirik bir değerlendirmesine katkıda bulunacağını söyledi.

"Yapay zeka güvenliği hala çok genç ve gelişmekte olan bir alan. Bu sonuçlar, AISI'nin geliştirmekte olduğu değerlendirme yaklaşımının yalnızca küçük bir kısmını temsil ediyor."