Kedinize içeride ne düşündüğünüzü söyleyin - kara kutu etkisi

Gelişmiş yapay zeka algoritmalarının, bir sonucu nasıl ortaya çıktığını söylemeden fırlatıp atan bir kara kutu (1) gibi olması, kimilerini endişelendiriyor, kimilerini de üzüyor.

2015 yılında, New York'taki Mount Sinai Hastanesi'ndeki bir araştırma ekibinden, yerel hastalardan oluşan kapsamlı bir veri tabanını analiz etmek için bu yöntemi kullanması istendi (2). Bu devasa koleksiyon, bir okyanus hasta bilgileri, test sonuçları, doktor reçeteleri ve daha fazlasını içerir.

Bilim adamları, çalışma sırasında geliştirilen analitik programı çağırdı. Yaklaşık 700 kişiden gelen veriler üzerinde eğitim aldı. insan ve yeni kayıtlarda test edildiğinde, hastalığı tahmin etmede son derece etkili olduğu kanıtlanmıştır. İnsan uzmanların yardımı olmadan, hastane kayıtlarında hangi hastanın karaciğer kanseri gibi bir hastalığa yakalanma yolunda olduğunu gösteren kalıpları keşfetti. Uzmanlara göre, sistemin prognostik ve tanısal etkinliği, bilinen diğer yöntemlerden çok daha yüksekti.

2. Hasta veri tabanlarına dayalı tıbbi yapay zeka sistemi

Aynı zamanda, araştırmacılar bunun gizemli bir şekilde çalıştığını fark ettiler. Örneğin, bunun için ideal olduğu ortaya çıktı. zihinsel bozuklukların tanınmasıdoktorlar için son derece zor olan şizofreni gibi. Bu şaşırtıcıydı, özellikle de yapay zeka sisteminin yalnızca hastanın tıbbi kayıtlarına dayanarak akıl hastalığını nasıl bu kadar iyi görebildiği hakkında kimsenin hiçbir fikri olmadığı için. Evet, uzmanlar böylesine verimli bir makine teşhis uzmanının yardımından çok memnun kaldılar, ancak AI'nın sonuçlara nasıl geldiğini anlasalar çok daha memnun olacaklardı.

Yapay nöronların katmanları

En başından, yani yapay zeka kavramının bilinmeye başladığı andan itibaren, yapay zekaya iki bakış açısı vardı. İlki, bilinen ilkelere ve insan mantığına göre hareket eden ve iç işleyişini herkes için şeffaf hale getiren makinelerin yapılmasının en mantıklısı olacağını öne sürdü. Diğerleri, makineler gözlem ve tekrarlanan deneyler yoluyla öğrenirse zekanın daha kolay ortaya çıkacağına inanıyordu.

İkincisi, tipik bilgisayar programlamasını tersine çevirmek anlamına gelir. Programcının bir sorunu çözmek için komutlar yazması yerine, program kendi algoritması örnek verilere ve istenen sonuca göre. Daha sonra günümüzde bilinen en güçlü yapay zeka sistemlerine dönüşen makine öğrenimi yöntemleri, aslında şu yolda ilerlemiştir: makinenin kendisi programları.

Bu yaklaşım, 60'lı ve 70'li yıllarda AI sistem araştırmalarının sınırlarında kaldı. Sadece önceki on yılın başında, bazı öncü değişiklik ve iyileştirmelerden sonra, "Derin" sinir ağları otomatik algılama yeteneklerinde radikal bir gelişme göstermeye başladı. 

Derin makine öğrenimi, bilgisayarlara, konuşulan kelimeleri neredeyse bir insan kadar doğru bir şekilde tanıma yeteneği gibi olağanüstü yetenekler kazandırdı. Bu, önceden programlanamayacak kadar karmaşık bir beceridir. Makine, kendi "programını" şu şekilde oluşturabilmelidir: büyük veri kümeleri üzerinde eğitim.

Derin öğrenme, bilgisayar görüntü tanımayı da değiştirdi ve makine çevirisinin kalitesini büyük ölçüde artırdı. Bugün tıpta, finansta, imalatta ve daha pek çok alanda her türlü önemli kararı vermek için kullanılıyor.

Ancak bütün bunlarla "İç"in nasıl çalıştığını görmek için derin bir sinir ağının içine bakamazsınız. Ağ muhakeme süreçleri, düzinelerce hatta yüzlerce karmaşık şekilde birbirine bağlı katmanlar halinde organize edilmiş, simüle edilmiş binlerce nöronun davranışına gömülüdür..

İlk katmandaki nöronların her biri, bir görüntüdeki bir pikselin yoğunluğu gibi bir girdi alır ve ardından çıktıyı vermeden önce hesaplamalar yapar. Karmaşık bir ağda bir sonraki katmanın nöronlarına iletilirler - ve bu şekilde, son çıkış sinyaline kadar. Ayrıca, eğitim ağının istenen sonucu vermesi için bireysel nöronlar tarafından gerçekleştirilen hesaplamaların ayarlanması olarak bilinen bir süreç vardır.

Köpek imajı tanıma ile ilgili sık sık alıntılanan bir örnekte, daha düşük AI seviyeleri, şekil veya renk gibi basit özellikleri analiz eder. Daha yüksek olanlar, kürk veya gözler gibi daha karmaşık sorunlarla ilgilenir. Yalnızca en üst katman, tüm bilgileri bir köpek olarak tanımlayarak hepsini bir araya getirir.

Aynı yaklaşım, makinenin kendisini öğrenmesi için güç sağlayan diğer girdi türlerine de uygulanabilir: örneğin konuşmada sözcükleri oluşturan sesler, yazılı metinde cümleleri oluşturan harfler ve sözcükler veya örneğin bir direksiyon. bir aracı sürmek için gerekli hareketler.

Araba hiçbir şeyi atlamaz.

Bu tür sistemlerde tam olarak ne olduğunu açıklamaya çalışılır. 2015'te Google'daki araştırmacılar, bir derin öğrenme görüntü tanıma algoritmasını değiştirdi, böylece fotoğraflardaki nesneleri görmek yerine onları oluşturdu veya değiştirdi. Algoritmayı geriye doğru çalıştırarak, programın bir kuşu veya bir binayı tanımak için kullandığı özellikleri keşfetmek istediler.

Halk arasında adı olarak bilinen bu deneyler, (3) grotesk, tuhaf hayvanlar, manzaralar ve karakterlerin şaşırtıcı tasvirlerini üretti. Belirli kalıpların tekrar tekrar döndürülmesi ve tekrarlanması gibi makine algısının bazı sırlarını açığa çıkararak, derin makine öğreniminin insan algısından ne kadar farklı olduğunu da gösterdiler - örneğin, görmezden geldiğimiz eserleri genişletmesi ve çoğaltması anlamında. düşünmeden algılama sürecimizde. .

3. Projede oluşturulan görüntü

Bu arada, öte yandan, bu deneyler kendi bilişsel mekanizmalarımızın gizemini çözdü. Belki de bizim algımızda, bir şeyi hemen anlamamıza ve görmezden gelmemize neden olan çeşitli anlaşılmaz bileşenler vardır, bu arada makine yinelemelerini “önemsiz” nesneler üzerinde sabırla tekrarlar.

Makineyi "anlamak" amacıyla başka testler ve çalışmalar yapıldı. Jason Yosinski beyinde sıkışmış bir sonda gibi davranan, herhangi bir yapay nöronu hedef alan ve onu en güçlü şekilde harekete geçiren görüntüyü arayan bir araç yarattı. Son deneyde, ağın suçüstü "gözlenmesi" sonucunda soyut görüntüler ortaya çıktı ve bu da sistemde gerçekleşen süreçleri daha da gizemli hale getirdi.

Bununla birlikte, birçok bilim insanı için böyle bir çalışma bir yanlış anlamadır, çünkü onların görüşüne göre, sistemi anlamak, daha yüksek bir karmaşık karar verme düzeninin kalıplarını ve mekanizmalarını tanımak için, tüm hesaplama etkileşimleri derin bir sinir ağı içinde. Matematiksel fonksiyonlar ve değişkenlerden oluşan dev bir labirent. Şu anda bizim için anlaşılmaz.

Bilgisayar açılmıyor mu? Niye ya?

Gelişmiş yapay zeka sistemlerinin karar verme mekanizmalarını anlamak neden önemlidir? Hangi mahkumların şartlı tahliye ile serbest bırakılabileceğini, kimlere kredi verilebileceğini ve kimlerin iş bulabileceğini belirlemek için matematiksel modeller halihazırda kullanılıyor. İlgilenenler neden başka bir karar değil de bu kararın alındığını, gerekçesinin ve mekanizmasının ne olduğunu bilmek isterler.

Nisan 2017'de MIT Technology Review'da itiraf etti. Tommy Yaakkola, makine öğrenimi uygulamaları üzerinde çalışan bir MIT profesörü. -.

Yapay zeka sistemlerinin karar verme mekanizmasını inceleme ve anlama yeteneğinin temel bir insan hakkı olduğu konusunda yasal ve politik bir konum bile var.

2018'den bu yana AB, şirketlerin otomatik sistemler tarafından alınan kararlar hakkında müşterilerine açıklama yapmalarını zorunlu kılmak için çalışıyor. Bunun, reklam göstermek veya şarkı önermek için derin bilimi kullanan uygulamalar ve web siteleri gibi nispeten basit görünen sistemlerde bile bazen mümkün olmadığı ortaya çıktı.

Bu servisleri çalıştıran bilgisayarlar kendileri programlıyor ve bizim anlayamadığımız şekillerde yapıyorlar... Bu uygulamaları yaratan mühendisler bile nasıl çalıştığını tam olarak açıklayamıyorlar.