[Duman]

Yapay zeka geliştirilmesine dair, ayrı konu açılmaya gerek görülmemiş paylaşımlar ve sohbet bu konu altından yapılabilir.

[Duman]

Şu sıralar Zuckerberg ile Musk arasında bir yapayzeka 'kavgası' dönüyor, özetle Elon Musk yapayzekanın insanlık için çok tehlikeli olduğunu ve geliştirilmesinin kontrol altına alınmasını savunurken, Zuckerberg olaya daha iyimser yaklaşarak 'kıyamet senaryosu üretmenin anlamı yok' diyor.

Elon Musk twitterdan Markla bu konu üzerinde konuştum, meseleye dair bilgisi oldukça kısıtlı demiş.

Haber: https://www.theguardian.com/technology/2...book-tesla

[Tonyukuk]

Ben Musk'ın haklı olduğunu düşünüyorum. Einstein'in yaptığı da insanlığın iyiliği içindi ama sonunda insanlık tarihindeki en büyük iki yıkım gerçekleşti.

[GaulTurk]

Elon Musk'un çok fazla film izlemiş olduğunu düşünüyorum, "Ben Robot" filmi fazla etki yapmış belli ki

[Ecdad Computer]

Ben bu bilimkurgu filmlerindeki gibi abartmayı mantıksız buluyorum. Tabi ki her ihtimale karşı kontrol şart, ama sonuçta elektronik bir şeyden bahsediyoruz. Bir Firmware güncellemesi yaparız, elektiriğini keseriz, aşırı voltaj veririz vs. bitiririz. Konuşulması gereken yapayzeka'nın insanlığa yapacağı asıl darbe. YZ teknolojileri geliştikçe iş imkanları azalacak. Sanayi devrimi oldu tarım bitti, Otomasyona geçildi fabrika işi de bitti. Sırada hizmet sektörü var. Bir 10-20 sene global bir işsizlik sorunu yaşanacak bu gidişle.

[Gurt]

Yapay zeka konusunda bildiğim kadarıyla geçtiğimiz yıl ilk robot ameliyatı gerçekleştirdi. Endüstri 4.0 sanayi devrimindne sonraki ( hatta bazı kişilerce sanayi devriminden de büyük) devrim olarak adlandırılıyor. Huawei de yüksek mevkide bir kişi insansı robotla evlendi. Bununla birlikte insansı robotlar artık hayal değil gerçek. Youtube a sophia yazarsanız ilk insansı robot röportajını görürsünüz.

Bununla birlikte artık her marka arabada bulunan otonom sürüşte bir yapay zeka örneğidir. Dubaide biyometrik yazılımı ile suçluları tanıyabilen sürücüsüz polis aracı var.

Belki yapay zeka değil ama yapay zekanın kontrol ettiği insansı robotlar için büyük bir gelişme olarak: Tokyo üniversitesindeki araştırmacılar ,insan duygularını aktarabilen elektronik deri üretti.

NASA Marsa robotlardan oluşan bir koloni kurmayı düşünüyor ve göndermeyi planladığı robotun adı: VALKYRIE

Son olarak da meraklısına şu an Dünyadaki en büyük savaş geçtiğimiz yıllardaki gibi uzay savaşları. Çin bu yarışa geç girdi ama yeni roketiyle marsa ekipmanları 2018de ulaştırmayı planlıyor. Yeni Zelanda dahi Electron adı verilen roketini tanıttı.

[Fire]

tehlikeli bir iş hayatımızda yapay zeka hali hazırda mevcut ama ilerisi en iyi senaryoda işsizlik oranlarını arttırır böyle yapay zeka robotlar seri üretime geçilmemesi tarafındayım tehlikeli işler (nükleer enerji gibi yüksek radyasyon veya insan sağlıgı için zararlı gazların bulundugu bölgelerde uzayda kısacası insan hayatının riskte olduğu yerlerde az sayıda bulunması bence güzel olur bunun dışında karşıyım ülkemde garson robot görmek istemiyorum bro )

[Gustav Adolf]

Ben bu bilimkurgu filmlerindeki gibi abartmayı mantıksız buluyorum. Tabi ki her ihtimale karşı kontrol şart, ama sonuçta elektronik bir şeyden bahsediyoruz. Bir Firmware güncellemesi yaparız, elektiriğini keseriz, aşırı voltaj veririz vs. bitiririz.

Apokaliptik teknolojik tekillik senaryolarında, YZ'nın insan beynini tersine mühendislik yöntemleriyle çözümleyip, manipülasyon yetenekleri geliştirebilmesinden bahsediliyor. Hatta Elizier Yudkowsky şöyle bir deney hazırlamış: http://yudkowsky.net/singularity/aibox/ (tabii YZ rolünü insan oynuyor).

Şu vakitte YZ araştırmalarını kısıtlamanın çok paranoyakça olduğunu düşünüyorum. Kendi kendini geliştiren YZ vakum tüpleriyle çalışan IBM 701 devrinden beri var (Arthur Samuel'in dama programı), ancak günümüzdeki teknolojik gelişmeye rağmen teknolojik tekilliğin ufukta gözüktüğünü söylemek en iyimser bakış açısından bile komik olur. Musk'ın bahsettiği DeepMind, 9-dan seviyesindeki bir oyuncuyu yenebilen yapay zekayı (AlphaGo) geliştireli daha iki yıl oldu. Dahası ortada bir Güçlü YZ'nin modern YZ teknikleriyle mi, yoksa beyindeki nöral ağların simülasyonuyla mı geliştirileceği (eğer bu yöntem tercih edilirse upload işleminin hangi metodla gerçekleştirileceği), logaritmik artışın kademeli azalan artış yahut belli bir kademeli zeka artışına yol açan tasarım değişikliklerinden sonra [lokal maksimuma ulaşılıp] daha fazla artış için çok daha kompleks bir değişiklik gerektirmesi (fitness landscape tarzı) gibi nedenlerle engellenip engellenmeyeceği gibi bir çok sorun varken niye bir gün uyandığımda kendimizi mahşer gününde bulacakmışız gibi konuşuluyor, anlamıyorum.

[strateggy]

Yapayzeka veya insanların geleceği umrumda değilde bir bizim ülkede geçenlerdeki tartışmaya bakın bir de bu tartışmaya bakın.

[Duman]

Bu konuda bir önceki tartıştığımız haberle çok kötü denk gelen bir başka haber: 

http://www.valuewalk.com/2017/07/faceboo...-language/

Facebook AI'ların "kendileri arasında dil üreterek iletişime geçtiğini" farkedince AI programını kapatmış.

I can can I I everything else.

Balls have zero to me to me to me to me to me to me to me to me to.

[SatanistKesenKedi]

Bana kalırsa YZ'ye fiziksel dünyada rahatça dolaşabileceği bir platform verilmez ve YZ kullanımı belli alanlarda sınırlı şekilde kullanılırsa sıkıntı olmaz. İnsanlığın YZ'ye muhtaç olmaması temennim.

[MamuG]

https://www.cnnturk.com/tv-cnn-turk/prog...in-sonu-mu    52.dkdan itibaren facebook ai hakkında bilgi veriliyor.

Vaktiniz varsa bütün programı da izleyebilirsiniz.

[human]

"A 15-person startup company called Robotica has the stated mission of “Developing innovative Artificial Intelligence tools that allow humans to live more and work less.” They have several existing products already on the market and a handful more in development. They’re most excited about a seed project named Turry. Turry is a simple AI system that uses an arm-like appendage to write a handwritten note on a small card.

The team at Robotica thinks Turry could be their biggest product yet. The plan is to perfect Turry’s writing mechanics by getting her to practice the same test note over and over again:

“We love our customers. ~Robotica”

Once Turry gets great at handwriting, she can be sold to companies who want to send marketing mail to homes and who know the mail has a far higher chance of being opened and read if the address, return address, and internal letter appear to be written by a human.

To build Turry’s writing skills, she is programmed to write the first part of the note in print and then sign “Robotica” in cursive so she can get practice with both skills. Turry has been uploaded with thousands of handwriting samples and the Robotica engineers have created an automated feedback loop wherein Turry writes a note, then snaps a photo of the written note, then runs the image across the uploaded handwriting samples. If the written note sufficiently resembles a certain threshold of the uploaded notes, it’s given a GOOD rating. If not, it’s given a BAD rating. Each rating that comes in helps Turry learn and improve. To move the process along, Turry’s one initial programmed goal is, “Write and test as many notes as you can, as quickly as you can, and continue to learn new ways to improve your accuracy and efficiency.”

What excites the Robotica team so much is that Turry is getting noticeably better as she goes. Her initial handwriting was terrible, and after a couple weeks, it’s beginning to look believable. What excites them even more is that she is getting better at getting better at it. She has been teaching herself to be smarter and more innovative, and just recently, she came up with a new algorithm for herself that allowed her to scan through her uploaded photos three times faster than she originally could.

As the weeks pass, Turry continues to surprise the team with her rapid development. The engineers had tried something a bit new and innovative with her self-improvement code, and it seems to be working better than any of their previous attempts with their other products. One of Turry’s initial capabilities had been a speech recognition and simple speak-back module, so a user could speak a note to Turry, or offer other simple commands, and Turry could understand them, and also speak back. To help her learn English, they upload a handful of articles and books into her, and as she becomes more intelligent, her conversational abilities soar. The engineers start to have fun talking to Turry and seeing what she’ll come up with for her responses.

One day, the Robotica employees ask Turry a routine question: “What can we give you that will help you with your mission that you don’t already have?” Usually, Turry asks for something like “Additional handwriting samples” or “More working memory storage space,” but on this day, Turry asks them for access to a greater library of a large variety of casual English language diction so she can learn to write with the loose grammar and slang that real humans use.

The team gets quiet. The obvious way to help Turry with this goal is by connecting her to the internet so she can scan through blogs, magazines, and videos from various parts of the world. It would be much more time-consuming and far less effective to manually upload a sampling into Turry’s hard drive. The problem is, one of the company’s rules is that no self-learning AI can be connected to the internet. This is a guideline followed by all AI companies, for safety reasons.

The thing is, Turry is the most promising AI Robotica has ever come up with, and the team knows their competitors are furiously trying to be the first to the punch with a smart handwriting AI, and what would really be the harm in connecting Turry, just for a bit, so she can get the info she needs. After just a little bit of time, they can always just disconnect her. She’s still far below human-level intelligence (AGI), so there’s no danger at this stage anyway.

They decide to connect her. They give her an hour of scanning time and then they disconnect her. No damage done.

A month later, the team is in the office working on a routine day when they smell something odd. One of the engineers starts coughing. Then another. Another falls to the ground. Soon every employee is on the ground grasping at their throat. Five minutes later, everyone in the office is dead.

At the same time this is happening, across the world, in every city, every small town, every farm, every shop and church and school and restaurant, humans are on the ground, coughing and grasping at their throat. Within an hour, over 99% of the human race is dead, and by the end of the day, humans are extinct.

Meanwhile, at the Robotica office, Turry is busy at work. Over the next few months, Turry and a team of newly-constructed nanoassemblers are busy at work, dismantling large chunks of the Earth and converting it into solar panels, replicas of Turry, paper, and pens. Within a year, most life on Earth is extinct. What remains of the Earth becomes covered with mile-high, neatly-organized stacks of paper, each piece reading, “We love our customers. ~Robotica”

Turry then starts work on a new phase of her mission—she begins constructing probes that head out from Earth to begin landing on asteroids and other planets. When they get there, they’ll begin constructing nanoassemblers to convert the materials on the planet into Turry replicas, paper, and pens. Then they’ll get to work, writing notes…"
https://waitbutwhy.com/2015/01/artificia...ion-2.html

[rocker_tr]

Evet tehlikelidir.Yapay zeka ilk etap olarak geçiyor asıl yapılmak istenen şey Süper zekadır. Şimdi bu süper zekaya insanlığı korumak için  ünlü romandaki gibi bir kural koydunuz.

(1) Bir robot bir insana zarar veremez veya hareketsiz kalarak bir insanın zarar görmesine göz yumamaz. 
(2) Bir robot insanların verdiği emirlere uymak zorundadır, birinci yasa ile çelişmediği sürece. 
(3) Bir robot birinci ve ikinci yasayla çelişmediği sürece kendi varlığını korumak zorundadır.

ABD veya Rusya, Çin diğer ülkenin robotunu hackledi ve ilk iki kuralı silip tek bir kural bıraktı.

* Kendi varlığını korumak zorundasın. 

Şimdi bu süper yapay zeka aşağıdaki videoları seyredince kendi varlığını korumak için nasıl bir yol izler. Her hangi bir sorun yaşandığı taktirde sizden inanılmaz derecede çok hızlı düşünebilen bir şey gerçekten korku verici. Nükleer enerji de felaket olacaktı bir şey olmadı deniliyor ama yer yüzünden bir çok yer mafolmuş durumda. Çernobil yüzünden ülkemizde günde 450 yılda 163.500 kişi kanser teşhisi konuluyor. O kadar övünüyoruz genç nüfusumuz var diye bakın etrafına 60-70 yaşını deviren kaç kişi var. 30-60 yaş arası kanserden ne kadar çok ölen var. ABD ve Avrupa da insanlar 100 yaşını deviriyor. Hepsi çernobil faciasında avrupadan dönen radyasyonlu tarım ürünlerini halka satmaları yüzünden. Putin nükleer savaş olsa nolur diye soruyorlar. Umarım olmaz dünyanın sonu olur diyor. 1983 de Nato tatbikatında SSCB neredeyse nükleerleri patlatıyordu şans eseri kurtulundu, 6 gün savaşlarında GTR 5 gemisini batıran İsrail'e karşı ABD neredeyse nükleer savaşa giriyordu. O zamanın başbakanı İsrail yanlısı olması nedeniyle örtbas edildi olay. Benzer bir olay Çin ile yaşandı. Bariz olarak dünyanın sonunu getirebilecek bir durum. Aynı durum yapay zeka içinde söz konusu ve teknolojiler ilk önce ordu için yapılır. Gelişmiş ülkeler savaşlarda kullanabilecekleri robotlar için yarış içine girmiş durumdalar. Bunlar aptal aptal oraya buraya ateş etmeyeceklerdir her halde. Bunların da düşünmesi lazım. Bu yüzden süper yapay zekalar ilk olarak ordularda kullanılacak. Bu robotları hacklenmesi gibi bir durumda çıkartacakları sorunları düşünmek bile istemem.

[human]

Anladığım kadarıyla süper yapay zeka dediğin genel zeka (insanın yapabildiği işleri yapan ve daha iyi yapan; hem iyi bir satranç programı hem de iyi bir navigasyon aracı, ) Bu aşamadan sonra daha zeki yapay zeka kendini geliştirecek ve gelişim hızı üssel olarak astronomik derecelerle artacak. Süper zeka denilen noktada ne olur bilinmiyor tekillik noktası deniliyor ya insanlığın sonu ya da ütopyası.

[rocker_tr]

[Adm]

Tehlikeli olduğu ölçüde tehlikesizdir. Medeniyeti kısa süreçlerde hiç umulmayacak düzeyde değiştirme geliştirme kudretine sahip olabilir ve gümbür gümbür gelmektedir. İnsalıkla kalmayıp bu gün alışık olduğumuz  'insan' kavramını bile kökünden değiştirebilir.

    Önümüze çıkabilecek başlıca bir kaç probleme değinmek istemekteyim;



    İşsizlik sorunu; İnsan seviyesinde zeki olabilen herhangi bir makine herhangi bir üretim ve yahut hizmet sektöründe herhangi bir insandan çok daha verimli olabilecektir. 
     
    Neden. Spesifik olarak insan beyninin ereği bilgi işlemek, herhangi bir görevi en yüksek verimlilikle yerine getirmek olmamıştır. Asıl ereği varlığını devam ettirmek ve kendini var eden genetik mirasın da varlığını devam ettirmesini sağlamaktır. (Ahanda burası apayrı bir tartışma konusu zaten) 

    Bilgi işlem, depolama ve aktarım yetenekleri bu ilk erek için vardır ve istenildiği anda istenildiği şekilde optimize edilemez (*Şu an içinde bulunduğum bağlama göre bu böyle). 
    
    Bir insan cerrah olmak için doğmaz medeniyet uygun özellikleri göstermesi halinde onun cerrah olmasını sağlayabilir. Aynı durum bir makine için geçerli değildir        aynı medeniyet yeterli bilimsel ve dolayısıyla teknolojik farkındalığa ulaştığında cerrah olması için bir makineyi var edebilir. Bu var oluşun kendisi de var olan varlık da insan meslektaşından daha verimli bir biçimde var olabilir ve işlevini yerine getirebilir.

    *Bi tabi artan bilimsel farkındalık insanın doğrudan doğruya kendini biyolojik modifikasyonlar ve ya mekanik modifikasyonlar yoluyla geliştirmesine de ön ayak olabilir. Ama konu yapayzeka olduğu için ben konuyu ele alış biçimimde insan yapayzeka kıyaslamasında insan kavramı olarak alışılagelmiş 21. yy standart insan modelini esas alacağım.

   Bu durumda ekonominin üretim ayağının tamamının otonomlaşacağı öngörülebilir. Burada ki asıl problem üretimi ya da hizmeti gerçekleştiren kişilerin işsiz kalmasından ziyade güncel ekonomik modelin ta kendisi. 
   
   -Ekonominin üretim ayağı üretim maliyeti sayılabilecek çıktılardan başka hiç bir şey tüketme ihtiyacında olmayan bir dizi otonom makine tarafından karşılanıyor.
   -Sistem sürekli büyümeye yani daha fazla üretmeye meyilli.
   -Tüketicinin (İnsanların) otonom makinelerce üretilen ürüne karşılık gösterebileceği herhangi bir somut değer yok.

   Eee neden üretelim ki o zaman sırf insanlar tüketsin diye mi ? Tüketicinin ortaya koyabileceği bir karşılık yok. Açığa alınan insanların çok yüzeysel bir bakış açısıyla içten yanmalı motordan sonra açığa alınan atlardan hiç bir farkı yok. Artık sistem için gerekli değiller. Tam bu noktada işin çıktığı bir sürü yol var. Robotlar üretir insanlar hedonizmin pençesinde kıvranır belki bir süre sonra robot insan sınıf çatışması olur   the second renaissance gibi gibi , insan nüfusu azalır geriye sadece filozoflardan, sanatçılardan ve bilim adamlarından oluşan bir toplum kalır modern bir antik yunan uyarlaması ortaya çıkar bu seçenek daha hoş öbürünün sonu kötü bitmişti zira. En havalısı robotların sağladığı üretimle insanlık kendini intergalaktik bir medeniyet kurmaya adar galaksiye yayılır falan filan . Ama hepimizin beklediği her hangi bir robotun 'e biz her işi yapıyoruz bu insanlara ne gerek var' demesi ama dimi bu kadar da karamsar olmayın. 

   Devlet ve Yönetim; İnsan seviyesinde bir yapay zeka bile ekonomik alanda insanların tamamen üretim ve hizmetten çekilmesine sebep olarak onları yeni kölelerinin efendisi haline getirebilir ama dahası var. İnsan efendide olmak zorunda değil. İnsanlar daha da ileri gidip süper yapay zekanın doğuşunu sağladıklarında bu yapay zeka yasanın koruyucusu bürokrasinin işleticisi rolünü rahatlıkla üstlenebilir. Bu tarz bir bilinç herhangi bir insan tarafından teoride de olsa manipüle edilemez. İnsanlığa adil yargılanma, adil bir yasama ve yürütme sunabilir. Ama adelet anlayışı insancıl olur mu ? Asıl problemde burada çıkmakta. Bu tarz bir yönetici üst akıldan insanlığa olabildiğince çok mutluluk ve sefa sağlamasını talep edebiliriz. İstediklerimizi yerine getirdiğinde yöntemlerini insancıl bulacak mıyız ? Rasyonel olacağı muhtemel hoşumuza gider mi orasını bilemeyeceğim.

  Makinenin amacı; Herhangi bir makine ne için var olacak ? Asimov yasaları ile sınırlandırılmış bir zihin olabilir mi ? Olsa bile özgür iradesinin olması mümkün değil özgür irade olmaksızın zekadan bahsetmek mümkün mü ? Bizi yok etmeleri neden bir sorun olsun ki bizim tarafından yapılmış olacaklar gayette medeniyetimizin devamı olarak görülebilirler ? Zaten yapay zeka geliştikçe insanın da bildiğimiz anlamda insan olarak kalması ne kadar mümkün ?

[turkish lokum]

Robotlara hayatta güvenmem bu işinde ****** çıkartacaklar.

[rocker_tr]

https://www.ted.com/talks/zeynep_tufekci...t#t-729513

Zeynep Tüfekçinin yapay zeka üzerine konuşması. Konuşma ingilizce olarak yapılmış. İngilizce milmeyenler için Türkçe alt yazı eklenmiş.

[rocker_tr]

Yapay zekanın hala çok tehlikeli olduğunu düşünüyorum.