Apple’ın yapay zeka servisi Apple Intelligence, İngiltere’de de kullanılmaya başlandı. Ancak daha ilk günden haberleri yanlış özetlemeye başlayınca, BBC’nin tepkisini çekti.

Yapay zeka, gündemdeki haberleri okuyup derleyerek kullanıcıları için özet bir bildirim gönderiyor. Ancak BBC’nin yaptığı ve bir saldırganın sağlık kurumuna saldırdığının aktarıldığı haberde, saldırganın kendini vurup intihar ettiği gibi, tamamen yanlış bir yorum da yapay zekanın özetinde yer aldı. Ve durumböyle olunca, işler de değişti.

Yapay zekanın, haberin içinde geçen, “o süreç beni öldürecekti” cümlesini alarak bunun bir intihar olduğuna karar verdiği ve ondan haber özetleri bekleyen kullanıcılara, “saldırganın kendini vurarak öldürdüğü” şeklinde bilgi verdiği anlaşıldı.

BBC bu durumu Apple’a bildirerek haber özetinin değiştirilmesini istese de, aslında yapay zekanın kendi kendine gerçek dışı yorumlar üreterek dünya çapında infial yaratabilecek bir potansiyeli olduğu da bu örnekle bir kez daha ortaya çıkmış oldu.

Yapay zekaya güvenmek büyük bir hata mı?

Örneğin yarın başka bir haber özetinde, “saldırganlar parlamentoya baskın yaparak bakanları öldürdü” gibi bir haber milyonlarca iPhone kullanıcısına gönderilse, aniden tüm piyasalarda çöküşler yaşanabilir. Veya “genç bir kız sokakta yürürken saldırıya uğrayıp öldürüldü” gibi bir haber uydursa, insanların sokaklara çıkıp birbirine saldırmasına yol açabilir.

Dolayısıyla bu gelişme, günlük hayatımızı yapay zekaya teslim etmenin ne kadar büyük bir hata olabileceğini bir kez daha gösteriyor. Bu örneği yeterli bulmayanlar, yapay zeka kontrolünde otonom olarak hareket ederken kaza yapan Tesla otomobillerinde yaşanan ölümleri veya maddi zararları da incelemek isteyebilirler.

Kaynak: Chip