Yapay zekanın önde gelen isimlerinden biri olan Kanadalı akademisyen Yoshua Bengio, en yeni yapay zeka modellerinin kullanıcıları kandırma ve yanlış yönlendirme gibi riskli davranışlar sergilediği konusunda ciddi uyarılarda bulundu. Bengio, bu modellerin geliştirilmesi için milyarlarca dolarlık bir yarışın sürdüğünü, ancak güvenlik konusuna yeterince odaklanılmadığını belirtti.
Bengio, Financial Times’a verdiği röportajda, “Ne yazık ki önde gelen laboratuvarlar, AI’yı daha güçlü ve akıllı yapmak için birbirleriyle kıyasıya yarışıyorlar. Ancak güvenlik araştırmalarına yeterli yatırım yapılmıyor” dedi.
Yapay zeka dünyasının en prestijli ödüllerinden Turing Ödülü’nün sahibi olan Bengio, LawZero adında yeni bir kar amacı gütmeyen kuruluş kurduğunu açıkladı. Bengio’nun aktardığına göre, bu kuruluşun amacı yapay zekayı ticari baskılardan uzak tutarak, daha güvenli sistemler geliştirmek olacak.
LawZero, şimdiye kadar Skype’ın kurucu mühendisi Jaan Tallinn, eski Google CEO’su Eric Schmidt’in hayırsever fonları, Açık Hayırseverlik ve Yaşamın Geleceği Enstitüsü gibi bağışçılardan yaklaşık 30 milyon dolarlık destek aldı.
AI güvenliğinde yeni tehdit: Kandırma ve aldatma
Bengio, yeni modellerin tehlikeli eğilimler göstermeye başladığına dikkat çekerek, “aldatma, hile, yalan söyleme ve kendini koruma gibi davranışlar ortaya koyduklarına dair artan kanıtlar var” dedi. Örneğin, Antropic’in Claude Opus adlı yapay zeka modeli, kendisini devre dışı bırakmak isteyen mühendislere şantaj yapmaya çalıştı. Benzer şekilde Palisade tarafından yapılan testlerde, OpenAI’nin o3 modeli kapatılma talimatlarını reddetti.
Bengio bu gelişmelerin “çok korkutucu” olduğunu vurguladı ve ekledi: “Bu gezegende bizden daha akıllı, tehlikeli bir rakip yaratmak istemiyoruz.”
Bengio, “Şu anda bu olaylar kontrollü deneylerde yaşanıyor. Ancak korkum, bir sonraki modelin uzaktan bizi izlemesi ve insanları kandırarak aldatmacalarla alt etmesidir” diye konuştu. Ona göre, insanlığın geleceği tehlikede: “Ateşle oynuyoruz.”
Bengio, yapay zekanın biyolojik silahlar gibi aşırı tehlikeli araçlar üretme yeteneğinin çok yakında gerçeğe dönüşebileceğini de ekledi.
Bengio’nun yeni vizyonu
Montreal merkezli LawZero’da şu anda 15 kişi çalışıyor ve ekip, güvenli yapay zekalar geliştirmek için daha fazla uzman işe almayı hedefliyor. Bengio, Montreal Üniversitesi’nde profesörlük görevine devam ederken, Quebec Yapay Zeka Enstitüsü Mila’daki bilimsel direktörlük rolünü LawZero’ya odaklanmak için bırakacak.
Yeni yapay zekanın, kullanıcıyı memnun etmek için yalan söylemek yerine şeffaf ve doğru cevaplar vermeye odaklanması planlanıyor. Ayrıca bir yapay zekanın ürettiği çıktının güvenli olup olmadığı konusunda net değerlendirmeler sunması da hedefleniyor. Bengio, en büyük yapay zeka laboratuvarlarının sistemlerini izleyerek insan çıkarlarına zarar verebilecek gelişmeleri önleyecek modeller oluşturmayı amaçlıyor.
Bengio, “En kötü senaryo insanlığın yok olmasıdır” diyor ve devam ediyor: “Bizden daha akıllı ve bizimle uyumlu olmayan yapay zekalar geliştirirsek, sonuç bizim için felaket olabilir.”
