Yapay Zeka: Microsoft CEO'su, gerekirse bir “acil fren” istiyor...
Sıra Microsoft'un patronuna geldi; o da yapay zekanın potansiyel tehlikelerine karşı uyarıda bulundu. Satya Nadella, geçen Cumartesi X'te yayınladığı uzun bir mesajda, “her an yapay zeka tarafından gerçekleştirilen herhangi bir modeli veya görevi durdurabilecek” bir acil durdurma sisteminin oluşturulmasını istedi.
Temel görüşü kesin: tüm yapay zeka modelleri, en başından itibaren iç riskler olarak değerlendirilmeli, hepsi “başlangıçtan itibaren güvenliği tehlikeye atan” ve dolayısıyla potansiyel olarak tehlikeli kabul edilmelidir. Bu, temelde kötü niyet nedeniyle değil, teknik bir gerçeklikten kaynaklanmaktadır.
“Süper zekayı, iç içe geçmiş bir dizi kara kutu olarak ele alıp, onun önerilerini, yanıtlarını ve eylemlerini sadece kabul etmek ya da reddetmekle yetinemeyiz. Davranışlarını gözlemleyebileceğimiz, sınırlarını test edebileceğimiz ve eylemlerini her zaman kontrol altında tutabileceğimiz sınırlandırılmış sistemler kurmalıyız,” diye yazıyor Microsoft CEO’su; böylece Donald Trump tarafından yakın zamanda ortaya atılan “süper zeka” terimini benimsemiş oluyor.
“Bir acil fren mekanizması düşünün,” diye devam ediyor. "Yetkili her kişi, çalışmakta olan bir modeli durdurabilmeli veya sonlandırabilmelidir. Daha gelişmiş modeller, standartlaştırmamız gereken daha sofistike sınırlama teknolojileri gerektirecektir. "
Onun uyarısı özellikle şirketlere yöneliktir: Ona göre şirketler, yapay zeka modellerine karşı “sıfır güven” ilkesiyle hareket etmeli, bunları potansiyel iç tehditler olarak görmeli ve erişimlerine ve eylemlerine sürekli insan denetimi sağlamalıdır.
Bu Pazartesi günü, Microsoft Yönetim Kurulu Başkan Yardımcısı Brad Smith, BBC'de benzer içerikte açıklamalarda bulundu. “Şu anda, çamaşır makineniz yapay zekadan daha fazla güvenlik kuralına tabidir. Süpermarkette gördüğünüz her süt kartonu, güvenlik kurallarına ve denetimlere tabidir,” dedi.
Microsoft yöneticilerinin bu tutumu, daha önce Dario Amodei (Anthropic) veya Sam Altman (OpenAI) gibi diğer yöneticiler tarafından dile getirilen görüşlerin ardından geldi; bu yöneticiler de daha fazla ihtiyatlı olunması ve kontrolsüz gelişimin yavaşlatılması çağrısında bulunmuştu.
Yazan: Guillaume Paul - Boursier.com
Benzer haberler
