Sorumlu Yapay Zekâ

Yapay zekâ sistemleri otonom olarak hareket ederler ve önünde sonunda insanlardan daha iyi kararlar vereceklerdir. Yapay zekâ insan tarafından tasarlanmıştır ve insan yapımıdır. Makineye yerleştirilen amacın gerçekten istediğimiz amaç olduğundan emin olmak zorundayız. Norbert Wiener, 1960.

Derleyen: Ercan Caner, Sun Savunma Net, 06 Aralık 2021

Kaynak: Intelligence Community News

Birleşik Devletler Savunma Bakanlığı tarafından yayınlanan yeni bir direktife göre; Müşterek Yapay Zekâ Merkezi (JAIC – Joint Artificial Intelligence Center), savunma bakanlığının bütün birimlerinde ‘‘sorumlu yapay zekâ’’ uygulamasına öncülük edecektir.

Yapay Zekâ (AI-Artificial Intelligence), çevresini gözlemleyebilen, öğrenebilen ve kazanılan bilgi ve deneyime dayalı olarak akıllı eylemlerde bulunabilen veya kararlar önerebilen herhangi bir makine veya algoritmayı ifade eden genel bir terimdir. Sorumlu Yapay Zekâ (RAL-Responsible Artificial Intelligence), belirli bir organizasyonun yapay zekâ etrafındaki zorlukları hem etik hem de yasal açıdan nasıl ele aldığını belgeleyen bir yönetişim sistemidir. Sorumlu yapay zekâ kavramının arkasındaki önemli itici güçlerden bir tanesi; bir şeylerin ters gittiği durumlarda sorumluluğun nerede olduğu konusundaki belirsizliği çözmektir.

Savunma Bakan Yardımcısı Kathleen Hicks tarafından savunma bakanlığının bütün birimlerine yayınlanan direktifte; sorumlu yapay zekâ uygulamasının temel ilkelerini sıralamış, bakanlık tarafından geçen yıl belirlenen etik yapay zekâ prensiplerini yeniden teyit etmiş ve JAIC direktörünün sorumlu bir yapay zekâ eko sistemi geliştirmesi için dört alanda çalışma yapması direktifini vermiştir.

ETİK YAPAY ZEKÂ: Sorumlu, Adil, İzlenebilir, Güvenilir ve Yönetilebilir. Kaynak: Birleşik Devletler Savunma Bakanlığı web sitesi

Bakan Yardımcısı Hicks, 01 Haziran 2021 tarihinde yayınladığı direktifte; yapay zekâyı kullanmaya başlayan Savunma Bakanlığı’nın; özel hayatın gizliliği ve insan haklarının korunması da dâhil olmak üzere bakanlığın etik ilkelere bağlılığını yansıtacak şekilde sorumlu davranış, süreç ve sonuçların uygulanmasının zorunlu olduğunu ifade etmiştir. Hicks ayrıca; güvenilir bir eko sistemin yalnızca askeri imkân ve kabiliyetleri geliştirmekle kalmayacağını, son kullanıcılar, askerler ve Amerikan kamuoyunda da bir güven oluşturacağının altını çizmiştir.

ABD Savunma Bakan Yardımcısı Kathleen Hicks; ‘‘sorumlu, adil, izlenebilir, güvenilir ve yönetilebilir’’ olarak belirlenen beş etik yapay zekâ prensibinin üzerine,  sorumlu yapay zekâ (RAI-Responsible Artificial Intelligence) uygulamasına rehberlik etmek maksadıyla aşağıdaki altı adet temel ilkeyi eklemiştir:

• Disiplinli yönetişimin oluşturulması,
• Askerlerin güveninin kazanılması,
• Ürün yaşam döngüsü boyunca AI tedariklerine yönelik bir sistem mühendisliği ve risk yönetimi yaklaşımının oluşturulması,
• RAI prensiplerinin ihtiyaçlara dâhil edilmesi,
• Güçlü bir ulusal ve küresel RAI eko sisteminin kurulması ve
• RAI konusunda eğitimli bir işgücünün oluşturulması.

JAIC web sitesinde Ocak 2021 tarihinde paylaşılan bir gönderiye göre merkez  ‘‘Sorumlu Yapay Zekâ’’ konusunda çalışmaya başlamış durumdadır. Mart 2020’de ABD Savunma Bakanlığı’nın bütün ana birimlerini temsil eden ve kapsayan, yaklaşık 50 kişilik bir alt komite oluşturulmuş ve bu komite; politika ve yönetişim süreçleriyle ilgili çeşitli alanlarda günümüze kadar aylık toplantılar gerçekleştirmiştir.

Kaynak: United Nations

Gönderide ayrıca Müşterek Yapay Zekâ Merkezi’nin sorumlu yapay zekâyı taleplere entegre etmesinin yanı sıra Müşterek Ortak Altyapı (JCF-Joint Common Foundation) mimarisinde; hasar analizi ve risk değerlendirmesi gibi sorumlu yapay zekâ araçlarının geliştirilme yollarının da araştırıldığı da ifade edilmiştir. Yapay zekâ imkân ve kabiliyetlerini hızlandırmayı amaçlayan bulut tabanlı bir platform olan Müşterek Ortak Altyapı, liderlerin Savunma Bakanlığı’nın yapay zekâ teknolojisine geçiş ve hazır olmasını sağlayacak olan JAIC 2-0 girişiminin önemli bir parçasıdır.