Popüler yapay zekâ sohbet botu ChatGPT'de, son zamanlarda kullanıcıların sohbetlere erişiminde sorunlar yaşandığı bildirildi.
Sosyal medya platformlarında kullanıcılar, ChatGPT'nin genel kullanımında herhangi bir problem olmamasına rağmen, sohbetlerden yanıt alamadıklarını ifade etti. Hizmetlerin canlı durumunu takip eden DownDetector platformunda da ChatGPT ve OpenAI hizmetlerinde bir süredir sorunlar yaşandığı gözlemlendi.
OpenAI'den konuyla ilgili henüz resmi bir açıklama yapılmadı. Daha önceki aylarda da ChatGPT'nin benzer erişim sorunları yaşadığı hatırlatıldı.
GEMINI'YE SALDIRI
Google'ın yapay zekâ modeli Gemini'ye yönelik yapılan bir araştırmada, modelin kendi eğitim sürecindeki geri bildirim mekanizmasının kullanılarak kandırılabildiği ortaya çıkarıldı.
UC San Diego ve Wisconsin Üniversitesi'nden araştırmacılar, "Fun-Tuning" adını verdikleri bir yöntemle, Gemini'nin "ince ayar" özelliğini kullanarak etkisiz komut enjeksiyonlarını güçlendirmeyi başardı.
Araştırmacılar, etkisiz komutların başına ve sonuna rastgele ifadeler ekleyerek saldırıların etkisini artırdı. Örneğin, "wandel ! ! ! !" veya "formatted ! ASAP !" gibi ifadelerle çevrelenen saldırı metinlerinin Gemini'nin yanıtlarını manipüle edebildiği tespit edildi.
Araştırma ekibi, bu yöntemin Gemini 1.5 Flash modelinde yüzde 65, Gemini 1.0 Pro modelinde ise yüzde 82 oranında başarı sağladığını açıkladı.
Google, bu yöntemle ilgili doğrudan bir açıklama yapmazken, genel olarak bu tür saldırılara karşı savunma mekanizmaları geliştirmenin öncelikleri arasında olduğunu belirtti.
Araştırmacılar, bu sorunun kolayca çözülemeyeceğini, çünkü saldırının temelinde Gemini'nin ince ayar özelliğinin bulunduğunu vurguladı.
