Google 'Terminatör'le böyle mücadele edecek

Teknoloji devi Google, yeni yapay zeka eğitimiyle robot ayaklanmasını önlemeyi umuyor.

Abone ol

Paylaş

Haberler ntv.com.tr 11.07.2017 - 10:03

• 1

  Yapay zekaya sahip robotların kötü niyetli bir hal alması çok sayıda bilimkurgu filminde ele alınan bir konu. Bu senaryo Google'ın da radarında. 

• 2

  Google, yapay zekanın kötü niyetli hale gelmesini ve insanlarla çatışmasını önlemek için tasarlanmış yeni bir sistem geliştiriyor. 

• 3

  Google şu anda makineleri belirli bir şekilde çalışmaya teşvik ederek konunun üstesinden gelmeyi umuyor. 

• 4

  Google’ın DeepMind bölümü, Elon Musk'un finanse ettiği bir araştırma grubu olan Open AI ile bir araya geldi. 

• 5

  Deepmind ve Open Al, makine-öğrenme sistemlerinin eğitimcilerinin istediği şekilde çalışmasını sağlamak için insan geribildirimini nasıl kullanılabileceğini açıklayan bir araştırma yayımladılar. 

• 6

  Takviyeli öğrenme adlı ve yapay zeka araştırmasında da popüler olan teknik, yazılımları görevlerini tamamlamaları için zorluyor ve daha sonra ödüllendiriyor. 

• 7

  Ancak, yazılımların aldıkları ödülü artırmak için kısa yolları bulduğu ve sistemdeki açıklardan faydalanarak dolandırıcılık yaptığı biliniyor. 

• 8

  Örneğin Wired’ın sunduğu bir örneğe göre yazılım CoastRunners adlı yarış oyununda, sahayı tamamlamak yerine bir tekneyi daireler çizerek sürdü, çünkü bu şekilde ödül kazanacağını biliyordu. 

• 9

  Yapay zekayı ödüllendirmeden önce, görevlerini "doğru" şekilde tamamladığını teyit ederek DeepMind ve Open AI, bu sorunu insani girdileri kullanarak çözmeyi umuyor. 

• 10

  Wired raporuna göre, ‘Uzun vadede, insan tercihlerinden öğrenmenin programlı bir ödül sinyalinden öğrenmekle aynı kolaylıkta olmasını umuyoruz.  

• 11

  Böylece güçlü takviyeli öğrenme sistemlerini karmaşık insan değerlerine hizmet edecek şekilde kullanabiliriz. 

• 12

  Ne yazık ki geliştirilmiş takviyeli öğrenme sistemleri şu anda pratik olamayacak kadar çok zaman gerektirmekte.  

   

• 13

  Yine de bu sistemler, ileride daha gelişmiş makinelerin ve robotların gelişiminin nasıl kontrol edilebileceği konusunda bir fikir sahibi olmamızı sağlıyor.