Algoritma Savaşı

Yapay zekanın orduda kullanılması söz konusu olduğunda, bir bilim kurgu kabusu ortaya çıkıyor; asi ve ölümcül bir yapay zeka, onu yok etmek için insanlığa karşı ayaklanıyor. Ne yazık ki askeri personelin ve liderlerin "düşmanın bize yetişeceği" korkusu, savaş algoritmaları geliştirilirken de aynı derecede güçlü.

Algoritmik SavaşBirçoğu bunun bildiğimiz savaş alanının çehresini temelden değiştirebileceğine inanıyor, çünkü savaş daha hızlı hale gelecek ve insanın karar verme yeteneğini çok geride bırakacak. Amerikalı general Jack Shanahan ABD Ortak Yapay Zeka Merkezi başkanı (1), yapay zekayı cephaneliklere sokmadan önce, bu sistemlerin hala insan kontrolü altında olduğundan ve kendi başlarına savaşmaya başlamayacaklarından emin olmamız gerektiğini vurguluyor.

“Düşmanın makineleri ve algoritmaları varsa bu çatışmayı kaybederiz.”

Sürüş yeteneği algoritmik savaş bilgisayar teknolojisi başarılarının üç ana alanda kullanılmasına dayanmaktadır. Birinci bilgi işlem gücünde on yıllardır süren üstel büyümebu, makine öğrenimi performansında önemli gelişmelere olanak sağladı. Saniye kaynakların hızlı büyümesi “Büyük Veri”, makine öğrenimine uygun, genellikle otomatikleştirilmiş, yönetilen ve sürekli olarak oluşturulan büyük veri kümelerini ifade eder. Üçüncü endişeler bulut bilişim teknolojilerinin hızlı gelişimibilgisayarların veri kaynaklarına kolayca erişip sorunları çözmek için bunları işleyebilmesini sağlar.

Savaş algoritmasıuzmanlar tarafından tanımlandığı gibi, öncelikle kullanılarak ifade edilmelidir. bilgisayar kodu. İkincisi, hem bilgi toplayabilen hem de seçimler yapabilen, en azından teoride gerektirmeyen kararlar verebilen bir platformun sonucu olmalıdır. insan müdahalesi. Üçüncüsü, açık gibi görünen, ancak mutlaka öyle olması gerekmeyen, çünkü başka bir amaç için tasarlanan teçhizatın savaşta faydalı olup olamayacağı ve tam tersine, koşullar altında çalışabilmesi gerektiği yalnızca eylemde netleşir. silahlı çatışma.

Yukarıdaki alanların ve bunların etkileşiminin analizi şunu göstermektedir: algoritmik savaş gibi ayrı bir teknoloji değildir; enerji silahı veya hipersonik füzeler. Bunun sonuçları geniş kapsamlıdır ve yavaş yavaş savaşın her yerinde görülür hale gelir. İlk kez askeri araçlar akıllı hale gelirler ve potansiyel olarak onları konuşlandıran savunma güçlerini daha verimli ve etkili hale getirirler. Bu tür akıllı makinelerin iyi anlaşılması gereken açık sınırlamaları vardır.

"" Shanahan, geçen sonbaharda eski Google CEO'su Eric Schmidt ve Google'ın Küresel İşlerden Sorumlu Başkan Yardımcısı Kent Walker ile yaptığı röportajda şunları söyledi. "".

ABD Ulusal Güvenlik Konseyi'nin yapay zeka hakkındaki taslak raporunda Çin'den 50'den fazla kez bahsediliyor ve Çin liderliğinin 2030 yılına kadar yapay zeka konusunda dünya lideri olma hedefini vurguluyor (Ayrıca bakınız: ).

Bu sözler, yukarıda adı geçen Shanahan Merkezi'nin Microsoft Araştırma Direktörü Eric Horwitz, AWS CEO'su Andy Jassa ve Google da dahil olmak üzere yapay zeka alanında tanınmış uzmanlarla işbirliği içinde hazırlanan ön raporunu Kongre'ye sunmasının ardından Washington'da düzenlenen özel bir konferansta geldi. Bulut Baş Araştırmacısı Andrew Moore. Nihai rapor Ekim 2020'de yayınlanacaktır.

Google çalışanları protesto etti

Birkaç yıl önce Pentagon bu meseleye müdahil oldu. algoritmik savaş ve Google dahil teknoloji şirketleriyle ve Clarifai gibi yeni girişimlerle yapılan işbirliklerine dayanan Maven projesi kapsamında yapay zeka ile ilgili bir dizi proje. Bu esas olarak şu konudaki çalışmalarla ilgiliydi: yapay zekaüzerindeki nesnelerin tanımlanmasını kolaylaştırmak için.

Google'ın projeye katılımı 2018 baharında öğrenildiğinde, Mountain View devinin binlerce çalışanı, şirketin askeri operasyonlara katılımını protesto eden açık bir mektuba imza attı. Aylar süren işçi huzursuzluğunun ardından Google kendi yapay zeka kurallarını benimsedietkinliklere katılımın yasaklanması da buna dahildir.

Google ayrıca Project Maven sözleşmesini 2019 yılı sonuna kadar tamamlamayı da taahhüt etti. Google'ın ayrılması Project Maven'in sonunu getirmedi. Peter Thiel'in Palantir'i tarafından satın alındı. ABD Hava Kuvvetleri ve Deniz Piyadeleri, Project Maven'in bir parçası olarak Global Hawk gibi özel insansız hava araçlarını kullanmayı planlıyor ve bunların her biri 100 kilometre kareye kadar görsel izleme yapacak.

Maven Projesi çevresinde olup bitenlere bakıldığında ABD ordusunun acilen kendi bulutuna ihtiyacı olduğu ortaya çıktı. Shanahan'ın konferans sırasında söylediği şey buydu. Bu, video görüntülerinin ve sistem güncellemelerinin kamyonla sahaya dağılmış askeri tesislere taşınması gerektiğinde açıkça ortaya çıktı. Binada birleşik bulut bilişimJedi ordusu, Microsoft, Amazon, Oracle ve IBM için birleşik bir BT altyapı projesinin parçası olarak bu tür sorunların çözülmesine yardımcı olacak. Google, etik kuralları nedeniyle değil.

Shanahan'ın açıklamasından ordudaki büyük yapay zeka devriminin daha yeni başladığı açıkça görülüyor. Ve merkezinin ABD silahlı kuvvetlerindeki rolü artıyor. Bu, JAIC'in teklif ettiği bütçede açıkça görülmektedir. 2019'da 90 milyon doların biraz altındaydı. 2020 yılında ise bu rakamın şimdiden 414 milyon dolara, yani Pentagon'un tahmini 10 milyar dolarlık yapay zeka bütçesinin yaklaşık yüzde 4'una ulaşması bekleniyor.

Makine teslim olmuş bir askeri tanıyor

ABD kuvvetleri halihazırda ABD Donanması gemilerinde gelen füzelere saldırmak için kullanılan bir tür otonom silah olan Phalanx (2) gibi sistemlerle donatılmıştır. Bir füze tespit edildiğinde otomatik olarak açılır ve yoluna çıkan her şeyi yok eder. Ford, içinden geçip her hedefe bakmaya gerek kalmadan, yarım saniyede dört veya beş füzeyle saldırabildiğini söyledi.

Diğer bir örnek ise ticari olarak temin edilebilen insansız bir sistem olan yarı otonom Harpy'dir (3). Harpy düşman radarlarını yok etmek için kullanılır. Örneğin, 2003 yılında ABD, uçak radar önleme sistemlerine sahip olan Irak'a saldırdığında, İsrail yapımı insansız hava araçları, Amerikalıların Irak hava sahasına güvenli bir şekilde uçabilmesi için bunların bulunmasına ve yok edilmesine yardımcı oldu.

3. IAI Harpy drone'nun lansmanı

Otonom silahların bir diğer ünlü örneği ise Kore Samsung SGR-1 sistemiKuzey ve Güney Kore arasındaki askerden arındırılmış bölgede bulunan ve dört kilometreye kadar mesafedeki davetsiz misafirleri tespit edip ateşlemek için tasarlanmış. Açıklamaya göre sistem, ellerin konumuna veya ellerindeki silahın konumunu tanımaya göre "teslim olan kişi ile teslim olmayan kişiyi ayırt edebiliyor".

4. Teslim olan bir askerin Samsung SGR-1 sistemi tarafından tespitinin gösterilmesi

Amerikalılar geride kalmaktan korkuyor

Şu anda dünya çapında en az 30 ülke, farklı seviyelerde yapay zeka gelişimi ve kullanımıyla otomatik silahlar kullanıyor. Çin, Rusya ve ABD, yapay zekayı dünyadaki gelecekteki konumlarını inşa etmede vazgeçilmez bir unsur olarak görüyor. Rusya Devlet Başkanı Vladimir Putin, Ağustos 2017'de öğrencilere "Yapay zeka yarışını kim kazanırsa, dünyaya hükmedecek" dedi. Çin Halk Cumhuriyeti Devlet Başkanı Xi Jinping, medyada bu kadar büyük açıklamalarda bulunmadı ancak Çin'in 2030 yılına kadar yapay zeka alanında baskın güç olması çağrısında bulunan direktifin ana itici gücü o.

Amerika Birleşik Devletleri'nde, ABD'nin yapay zekanın ortaya çıkardığı yeni zorluklarla başa çıkmak için ne yazık ki yetersiz donanıma sahip olduğunu gösteren "Sputnik etkisi" ile ilgili artan endişeler var. Bu da dünya için tehlikeli olabilir, çünkü hakimiyet tehdidi altındaki ülke, düşmanın stratejik avantajını başka bir yolla, yani savaş yoluyla ortadan kaldırmak isteyebilir.

Maven projesinin asıl amacı İslamcı IŞİD savaşçılarının bulunmasına yardımcı olmak olsa da, askeri yapay zeka sistemlerinin daha da geliştirilmesi açısından önemi çok büyük. Kaydedicilere, monitörlere ve sensörlere (mobil, uçan dahil) dayanan elektronik savaş, yalnızca yapay zeka algoritmalarının yardımıyla etkili bir şekilde kullanılabilen çok sayıda heterojen veri akışıyla ilişkilidir.

Hibrit savaş alanı haline geldi IoT'nin askeri versiyonuTaktiksel ve stratejik tehditleri ve fırsatları değerlendirmek için kritik bilgiler açısından zengin. Bu verileri gerçek zamanlı olarak yönetebilme yeteneğinin büyük faydaları vardır, ancak bu bilgilerden ders çıkaramamak felakete yol açabilir. Birden fazla platformdan, birden fazla etki alanından gelen bilgi akışlarını hızlı bir şekilde işleme yeteneği, iki önemli askeri avantaj sağlar: hız i uzanma. Yapay zeka, savaş alanının dinamik koşullarını gerçek zamanlı olarak analiz etmenize ve kendi kuvvetlerinize yönelik riski en aza indirirken hızlı ve en iyi şekilde saldırılar gerçekleştirmenize olanak tanır.

Bu yeni savaş alanı da her yerde mevcut ve... Yapay zeka, son yıllarda oldukça fazla ilgi gören sözde drone sürüsünün kalbinde yer alıyor. Her yerde bulunan sensörlerin yardımıyla, insansız araçların yalnızca düşman arazisinde gezinmesine izin vermekle kalmaz, aynı zamanda birçok alanda faaliyet gösteren farklı türdeki insansız hava araçlarının karmaşık oluşumlarının oluşumuna da olanak tanır ve ek silahlarla, karmaşık savaş taktiklerinin anında kullanılmasına olanak tanır. düşmana uyum sağlamak. Savaş alanı fırsatlarından yararlanmak ve değişen koşulları iletmek için manevralar.

Yapay zeka destekli hedefleme ve navigasyondaki ilerlemeler, hedefleri tespit etme, takip etme ve tanımlama yöntemlerini iyileştirerek başta füze savunması olmak üzere çok çeşitli taktik ve stratejik savunma sistemlerinde etkinlik olasılığını da artırıyor.

Nükleer ve konvansiyonel silah araştırmalarında kullanılan simülasyonların ve oyun araçlarının gücünü sürekli artırıyor. Kitlesel modelleme ve simülasyon, muharebe komuta ve kontrol ve karmaşık görevler için kapsamlı, çok alanlı bir hedef sistemleri sisteminin geliştirilmesi için gerekli olacaktır. Yapay zeka aynı zamanda birden fazla katılımcıyla olan etkileşimi de zenginleştirir (5). Yapay zeka, oyuncuların dinamik koşulların (silahlar, müttefik katılımı, ek birlikler vb.) performansı ve karar almayı nasıl etkileyebileceğini keşfetmeleri için oyun değişkenlerini eklemelerine ve değiştirmelerine olanak tanır.

Ordu için nesne tanımlama yapay zekanın doğal bir başlangıç ​​noktasıdır. İlk olarak, füzeler, birlik hareketleri ve diğer istihbaratla ilgili veriler gibi askeri hedefleri bulmak için uydulardan ve insansız hava araçlarından toplanan sayıları giderek artan görüntü ve bilgilerin kapsamlı ve hızlı bir şekilde analiz edilmesi gerekiyor. Bugün savaş alanı küresel ölçekte deniz, kara, hava, uzay ve siber uzay gibi tüm manzaraları kapsıyor.

Siber uzayDoğası gereği dijital bir alan olduğundan doğal olarak yapay zeka uygulamalarına uygundur. Saldırgan tarafta yapay zeka, bireysel ağ düğümlerini veya bireysel hesapları toplama, bozma veya dezenformasyon amacıyla bulmaya ve hedeflemeye yardımcı olabilir. Dahili altyapı ve komuta ağlarına yönelik siber saldırılar felaketle sonuçlanabilir. Savunma tarafında yapay zeka, bu tür izinsiz girişlerin tespit edilmesine ve sivil ve askeri işletim sistemlerindeki yıkıcı anormalliklerin bulunmasına yardımcı olabilir.

Beklenen ve tehlikeli hız

Ancak hızlı karar verme ve hızlı uygulama size pek hizmet etmeyebilir. Etkin kriz yönetimi amacıyla. Yapay zeka ve otonom sistemlerin savaş alanındaki avantajları, tarihten bildiğimiz gibi, krizleri önleme veya yönetme aracı olarak çoğu zaman başarılı olan diplomasiye zaman tanımayabilir. Uygulamada yavaşlamak, duraksamak ve müzakereye zaman ayırmak, özellikle nükleer silahlar söz konusu olduğunda zafere ulaşmanın veya en azından felaketi önlemenin anahtarı olabilir.

Savaş ve barışla ilgili kararlar tahmine dayalı analitiklere bırakılamaz. Verilerin bilimsel, ekonomik, lojistik ve tahmin amacıyla nasıl kullanıldığı konusunda temel farklılıklar vardır. insan davranışı.

Bazıları yapay zekayı karşılıklı stratejik duyarlılığı zayıflatan ve dolayısıyla savaş riskini artıran bir güç olarak algılayabilir. Yanlışlıkla veya kasıtlı olarak bozulan veriler, yapay zeka sistemlerinin yanlış tanımlama ve yanlış hedefleri takip etme gibi istenmeyen eylemler gerçekleştirmesine neden olabilir. Savaş algoritmalarının geliştirilmesinde öne sürülen eylem hızı, krizin rasyonel yönetimini engelleyerek erken ve hatta gereksiz gerginlik anlamına gelebilir. Öte yandan algoritmalar da bekleyip açıklama yapmayacak çünkü onların da hızlı olması bekleniyor.

Rahatsız Edici Yön yapay zeka algoritmalarının işleyişi ayrıca yakın zamanda MT'de tarafımızdan sunuldu. Uzmanlar bile yapay zekanın gördüğümüz sonuçları nasıl ürettiğini tam olarak bilmiyor.

Savaş algoritmaları söz konusu olduğunda, doğa ve onların onları nasıl "düşündüğü" konusunda bu kadar cahil olmayı göze alamayız. Gecenin bir yarısı nükleer flaşlarla uyanmak istemiyoruz çünkü "bizim" veya "onların" yapay zekası nihayet oyunu çözme zamanının geldiğine karar verdi.