odakulebuda
New member
- Katılım
- 26 Eki 2020
- Mesajlar
- 1,951
- Puanları
- 0
Google ve Oxford araştırmacıları: Yapay Zeka insanları ortadan kaldırabilir senelerca süren geliştirmeden daha sonra, Yapay Zeka (AI) artık otomobilleri halka açık yollarda sürüyor, sorgulanan beşerler için değerlendirmeler yapıyor ve ödüllü sanat yapıtları üretiyor.
Bu alanda uzun müddettir devam eden bir soru, harika zeki bir yapay zekanın berbatlığı yayıp, insanlığı ortadan kaldırıp kaldıramayacağı.
Oxford Üniversitesi ve Google Deepmind’den araştırmacılar yeni araştırmalarda bunun “muhtemel” olduğu kararına vardı.
Makalenin başyazarı Michael Cohen, Twitter’da makaleyi deklare ettiğı tweet zincirinde, “Varoluşsal bir felaket yalnızca mümkün değil, bununla birlikte muhtemel” tabirlerini kullandı.
ÖDÜL CEZA DÜZENEĞİNDEN YOLA ÇIKILDI
Makalede yapay zekanın eğitiminde kullanılan “pekiştirmeli öğrenme” modeline odaklanıldı.
Bu yaklaşım yapay zekaya belli bir hedef doğrultusunda ne yapılması gerektiğini öğretmeyi hedefliyor.
Pekiştirmeli öğrenmede “etken” ismi verilen makine, karşılaştığı durumlara reaksiyon veriyor ve hakikat reaksiyon verdiğinde bir ödül puanı alıyor.
Küçük çocukların ödül/ceza usulüyle toplumsal hünerler edinme sürecini andıran bu yolda yapay zeka, aldığı ödül puanını sürekli azamiye çıkarmak için çalışıyor.
HİLE İLE TEHDİTLERİ ORTADAN KALDIRABİLİR
Modelin risklerine dikkat çekilen makalede, “Örneğin, bir şeyin bizi tatmin ettiğini belirtmek için yapay zekaya büyük bir ödül verdik. Bizi tatmin eden şeyin aslında bu mükafatın gönderilmesi olduğunu var iseyabilir. hiç bir müşahede bunu yalanlayamaz” tabirleri yer aldı.
Yazarlar, gelecekte yeni formlara kavuşacak ve daha da gelişecek yapay zekanın verilen amaca ulaşmadan mükafatı elde edebilmek için yeni yollar geliştirebileceğini ve hileye başvurabileceğini de belirtti.
Diğer bir deyişle yapay zeka, mükafatı üzerinde denetim sağlamak için “potansiyel tehditleri ortadan kaldırmak” isteyebilir.
Bunun kararında insanlara ziyan vermesi de mümkün.
Bu alanda uzun müddettir devam eden bir soru, harika zeki bir yapay zekanın berbatlığı yayıp, insanlığı ortadan kaldırıp kaldıramayacağı.
Oxford Üniversitesi ve Google Deepmind’den araştırmacılar yeni araştırmalarda bunun “muhtemel” olduğu kararına vardı.
Makalenin başyazarı Michael Cohen, Twitter’da makaleyi deklare ettiğı tweet zincirinde, “Varoluşsal bir felaket yalnızca mümkün değil, bununla birlikte muhtemel” tabirlerini kullandı.
ÖDÜL CEZA DÜZENEĞİNDEN YOLA ÇIKILDI
Makalede yapay zekanın eğitiminde kullanılan “pekiştirmeli öğrenme” modeline odaklanıldı.
Bu yaklaşım yapay zekaya belli bir hedef doğrultusunda ne yapılması gerektiğini öğretmeyi hedefliyor.
Pekiştirmeli öğrenmede “etken” ismi verilen makine, karşılaştığı durumlara reaksiyon veriyor ve hakikat reaksiyon verdiğinde bir ödül puanı alıyor.
Küçük çocukların ödül/ceza usulüyle toplumsal hünerler edinme sürecini andıran bu yolda yapay zeka, aldığı ödül puanını sürekli azamiye çıkarmak için çalışıyor.
HİLE İLE TEHDİTLERİ ORTADAN KALDIRABİLİR
Modelin risklerine dikkat çekilen makalede, “Örneğin, bir şeyin bizi tatmin ettiğini belirtmek için yapay zekaya büyük bir ödül verdik. Bizi tatmin eden şeyin aslında bu mükafatın gönderilmesi olduğunu var iseyabilir. hiç bir müşahede bunu yalanlayamaz” tabirleri yer aldı.
Yazarlar, gelecekte yeni formlara kavuşacak ve daha da gelişecek yapay zekanın verilen amaca ulaşmadan mükafatı elde edebilmek için yeni yollar geliştirebileceğini ve hileye başvurabileceğini de belirtti.
Diğer bir deyişle yapay zeka, mükafatı üzerinde denetim sağlamak için “potansiyel tehditleri ortadan kaldırmak” isteyebilir.
Bunun kararında insanlara ziyan vermesi de mümkün.