“Etik Filtreler” Askeri Sistemleri Sınırlıyor mu?
ABD Savunma Bakanlığı’nda yapay zekâ kullanımına ilişkin yeni bir tartışma gündeme geldi. Pentagon’da kullanılan bazı yapay zekâ sistemlerinin, etik kurallar nedeniyle askeri operasyonlarda belirli kısıtlamalar oluşturabileceği iddia edildi.
Anthropic gibi teknoloji şirketlerinin geliştirdiği büyük dil modellerinin (LLM), hedef belirleme ve analiz sistemlerine entegre edildiği belirtiliyor. Ancak bu sistemlerin içinde yer alan “öldürücü güç kullanımına yardımcı olmama” gibi etik sınırlamalar, bazı askeri yetkililer tarafından eleştiriliyor.
“Algoritma müdahale edebilir” endişesi
The Free Press tarafından yayımlanan bir analize göre, bazı yapay zekâ sistemleri sivil kayıp riskinin yüksek olduğunu değerlendirdiğinde veri akışını yavaşlatabiliyor veya operatörlere uyarı verebiliyor.
Pentagon içindeki bazı askeri yetkililer bu durumun operasyonel karar alma süreçlerini etkileyebileceğini savunurken, diğer yetkililer ise savaş kurallarının uluslararası hukuk ve ABD yasaları tarafından belirlendiğini vurguluyor.
Teknoloji şirketleri etik sorumluluğu savunuyor
Yapay zekâ şirketleri ise geliştirdikleri sistemlerin ticari ürünler olduğunu ve etik sorumluluk çerçevesinde belirli sınırlamalar içermesi gerektiğini belirtiyor. Teknoloji firmaları, askeri kararların nihai sorumluluğunun insan operatörlerde olması gerektiğini savunuyor.
Pentagon’un alternatif planı
Pentagon’un, ticari teknoloji şirketlerine bağımlılığı azaltmak için tamamen askeri amaçlarla geliştirilecek yeni bir yapay zekâ sistemi üzerinde çalıştığı da iddialar arasında. ABD Savunma Bakanlığı’nın bu kapsamda uzun vadeli bir “askeri yapay zekâ” programına milyarlarca dolarlık bütçe ayırdığı öne sürülüyor.
Kural
Yapay zekânın savaş alanında kullanımı, dünya genelinde etik ve güvenlik tartışmalarını da beraberinde getiriyor. Uzmanlara göre, gelecekte savaş teknolojilerinde insan kontrolünün nasıl sağlanacağı ve yapay zekâ sistemlerinin hangi sınırlar içinde çalışacağı en önemli konulardan biri olacak.
Bu haber;The Free Press analizleri, CBS News raporları ve Pentagon bütçe belgelerine ilişkin açık kaynaklı bilgiler temel alınarak hazırlanmıştır.
