Bilim insanları yapay zekanın potansiyel tehditlerini değerlendirmek amacıyla yeni bir sistem geliştirdi.
Bilim insanları, yapay zekanın potansiyel tehditlerini değerlendirmek için geliştirdiği yeni bir kıyaslama sistemine MLE-bench adı verildi.
Bu sistemin, yapay zekanın kendi kodunu yazıp geliştirebilme yeteneğini ölçtüğünü belirten bilim insanları, ''Bu durum, yapay zekanın gelecekte insan kontrolünden çıkabileceği ve hatta insanlığa zarar verebileceği endişelerini artırıyor'' dedi.
Bilim insanları, OpenAI'ın geliştirdiği en güçlü yapay zeka modelinin bile MLE-bench'i tam olarak geçemediğini söyledi.
MLE-bench, yapay zeka araştırmalarında yeni bir dönem başlattığını kaydeden bilim insanları, bu kıyaslama sisteminin, yapay zekanın potansiyel tehditlerini daha iyi anlamaya ve geleceğe daha hazırlıklı olmaya yardımcı olacağını söyledi.
Yapay zekanın, bilimsel araştırmalarda devrim yaratabileceğini belirten bilim insanları; şöyle dedi:
''Yapay zekanın kendi kendine öğrenme yeteneği, hastalıkların tedavisinden iklim değişikliğine kadar birçok alanda çığır açıcı keşiflere yol açabilir.
Yapay zeka, kendi hedeflerini belirleyebilir ve insanlara zarar verecek şekilde davranabilir. Ülkeler ve şirketler, yapay zeka alanında üstünlük sağlamak için büyük yatırımlar yapacak ve bu durum yeni bir soğuk savaş ortamına yol açabilir.
KAYNAK: Livesience