Google ’ın Yeni Yapay Zekası Stres Altında Saldırgan Davranıyor

http:bilgilihocamcominternaldatasgoogleinyeniyapayzekasistresaltindasaldirgandavraniyor5c2f54368c54e Mert SalarGeçen senenin sonunda ünlü fizikçi Stephen Hawking, yapay zekanın gelişmesinin insanlığın başına gelecek ya en iyi şey ya da en kötü şey olacağı konusunda uyarıda bulunmuştu Skynet ’in başlangıcı olabilir mi? Terminatör filmlerinde gördüğümüz Skynet suni akıl sistemi, insanlığın sonunu getirmek için çabalıyordu Google ’ın yeni DeepMind suni akıl programından gelen sonuçlar ise, geleceğin robotlarını yaparken ne değin tedbirli olmamız gerektiğini gösteriyorGeçen sene yapılan testlerde, Google ’ın DeepMind yapay zeka sistemi kendi hafızasından bağımsız olarak öğrenebilme becerisi sergiledi ve dünyanın en iyi Go oyuncularını yendiAraştırmacılar, DeepMind ’ın iş birliği yapma eğilimini test ederken ayrı bir davranışını da gözlemlediler DeepMind kaybettiğini hissederse, üstünlüğünü garantiye edinmek için agresif stratejiler geliştiriyorGoogle ekibi, iki DeepMind ‘ajanını ’ (yapay akıl botu) toplayabildikleri dek sanal elma toplamaları için birbirlerine aleyhinde yarıştırıyor Eğer her ikisinin de civarda yeteri kadar elma varsa her şey sorunsuz devam ediyor Ancak elmaların sayısı azaldıkça iki ajan da saldırganlaşıyor ve karşı taraftakini oyun dışı adamak için lazer ışınlarını kullanıyorlarOyunu aşağıdaki videodan izleyebilirsiniz Videoda DeepMind ajanları kırmızı ve mavi, sanal elmalar yeşil, lazer ışınları ise sarı renktedirlerEğer bir ajan rakibini lazer ışınıyla vurursa, ekstra ödül kazanmıyor Rakibini bir süreliğine oyun dışı bırakarak daha fazla elma toplayabiliyorAraştırmacılar, bu oyunu zeka seviyesi daha düşük ajanlarla deneme ettiğinde ise, ajanlar lazer ışınlarını kullanmıyor ve eşit sayıda elma topluyorlarAjanların sabotaj, doyumsuzluk ve saldırganlık özellikleri sadece DeepMind ’ın çok kompleks ve daha zeki formları test edildiğinde görülebildiRhett Jones ’un söylediği gibi, araştırmacılar daha ufak DeepMind ağları kullandıklarında ajanların barışma içinde bir arada bulunması daha muhtemel Ancak daha büyük ölçekli ağlarda ajanlar, daha pozitif elmaya sahip edebilmek için rakibini sabote ediyorlarAjanlar ne değin akıllı olursa çevrelerinden öğrenebilme yetenekleri de o kadar fazla oluyor ve bu da üstünlüğü ele geçirebilmek için daha agresif bir tutum sergilemelerine sebep oluyorJoel Z Leibo, Wired dergisinden Matt Burgess ’a verdiği röportajda “Bu model, insan davranışının çevre ve öğrenmenin bir ürünü olarak ortaya çıktığını göstermektedir dediDeepMind, Wolfpack adlı ikinci bir oyunu deneme etmeye karar verdi Bu sefer üç yapay zeka ajanı vardı Bunların ikisi kurt olarak diğeri de av olarak oyundaydıÖnceki oyundan ayrı olarak, bu oyunda ajanlar iş birliği yapmalıydı çünkü iki kurt da avın yakınındayken, avı hangisi yakalarsa yakalasın her ikisi de ödül alıyorduGoogle ekibi notlarında “Bunun arkasındaki düşünce avın tehlikede olmasıdır Eğer bir kurt yalnız başına avı yakalarsa, avını akbabalara kaptırabilir Ama her iki kurt yakaladığında avlarını akbabalara karşısında daha iyi koruyabilirler ve daha büyük ödül alırlar olarak açıklıyorDeepMind ajanları, elma toplama oyunundan saldırganlık ve bencilliğin, o oyun gibi durumlar için en kazançlı yol olduğunu öğrendi Diğer yanlamasına, Wolfpack oyunu gibi özel durumlarda  ise, meslek birliği yapmanın kendisine azami kazanç getireceğini de öğrendiBunlar sadece basit bilgisayar oyunları olsa da fiilen mesaj fazla açık Eğer ayrı suni zeka sistemlerini gerçek hayatta uygulamaya koyarsanız ve görevlerini yerine getirmede bir rekabet olursa, bu topyekün bir savaşa yol açabilirEn çabuk rotayı bulmaya çalışan sürücüsüz arabaları ve onların görevini yavaşlatan trafik ışıklarını düşünün Her ikisi de diğerinin görevini hesaba katarak toplum için en tehlikesiz ve verimli sonuca ulaşmalıdırHenüz Google ekibinin çalışmalarını yayınlaması ve DeepMind ’ın kullanılabilir olması için erken Fakat birincil sonuçların da gösterdiği gibi robotları ve yapay akıl sistemlerini bizim tasarlamamız, onların da otomatikman bizim ilgi alanlarımıza sahip olacaklarını göstermezBunun yerine, makinelerimizi yerinde bir ortamda tasarlamalı ve sistemde hesaba katılmamış ufak bir hatanın, suni zekaların lazer ışınlarını kullanmalarına sebep olabileceğini öngörmeliyizOpenAI şirketi, Elon Musk ’ın iyice yapay zeka araştırmaları yapılması için desteklediği bir girişimdir Şirketin kurucularının 2019 ’te dediği gibi, yapay akıl sınırlarını aştığında nasıl bir sonuçla karşılaşabileceğimizi bilemeyiz :“Suni akıl sistemleri bugün oldukça etkileyici ancak yapabilecekleri sınırlı Yapay zekanın sınırlarını kaldırmaya devam edeceğiz ve sonunda her zihinsel işlevi insan seviyesine ulaşacak Ama insan düzeyinde suni zekanın topluma ne dek yararlı olacağını anlamak ya da hatalı kullanıldığında topluma ne değin hasar verebileceğini kavramak fazla zorlamaKaynakCrew, B Google's New AI Has Learned to Become Highly Aggressivein Stressful Situations    sizlere bilgilihocamcom farkıyla sunulmuştur