Yapay zeka teknolojileri, hayatımızı kolaylaştıran ve geliştiren birçok alanda kullanılıyor. Ancak bu teknolojilerin kötü amaçlı veya hatalı kullanılması da büyük tehlikeler barındırıyor. Bu yüzden yapay zeka sistemlerinin güvenliğini garantilemek ve standartlarını belirlemek için uluslararası işbirliği gerekiyor.
ABD, bu alanda önemli bir hamle yaptı. Başkan Joe Biden’ın geçen hafta yapay zeka gelişimine yönelik kapsamlı idari emri ardından, İngiltere Yapay Zeka Güvenlik Zirvesi’nde söz alan Başkan Yardımcısı Kamala Harris, daha fazla makine öğrenimi inisiyatifinin yanında Amerika Birleşik Devletleri Yapay Zeka Güvenlik Enstitüsü’nün kurulduğunu açıkladı.
DİL MODELLERİ DENETLENECEK
Enstitünün görevi, potansiyel olarak tehlikeli yapay zeka sistemlerini değerlendirmek olacak. Özellikle son yıllarda geliştirilen dil modelleri, metin üretme, çeviri, özetleme gibi birçok alanda kullanılıyor. Ancak bu modellerin yanlış veya yanıltıcı bilgiler üretmesi de mümkün. Bu nedenle Enstitü, dil modellerinin güvenliğini ve doğruluğunu test edecek.
HÜKÜMETİN YAPAY ZEKA KULLANIMINA İLİŞKİN POLİTİKA KILAVUZU ÇIKACAK
ABD’de Yönetim ve Bütçe Ofisi de bu hafta içinde hükümetin yapay zeka kullanımına ilişkin ilk taslak politika kılavuzunu yayınlayacağını duyurdu. Kılavuzda, hükümet kurumlarının yapay zeka sistemlerini nasıl tasarlayacaklarına, uygulayacaklarına ve yöneteceklerine dair ilkeler yer alacak.
ABD’nin yapay zeka alanında attığı bu adımlar, hem ulusal hem de uluslararası düzeyde yapay zeka güvenliği konusunda farkındalık yaratmayı ve işbirliği sağlamayı amaçlıyor.
