Korku Dolabı

Makinelerin yükselişi ve gücün yapay zeka tarafından ele geçirilmesi. Tam bir gözetim ve sosyal kontrol dünyası. Nükleer savaş ve medeniyetin yozlaşması. Yıllar önce çizilen geleceğe dair birçok karanlık vizyon bugün gerçekleşmiş olmalıydı. Bu arada geriye dönüp baktığımızda orada değillermiş gibi görünüyor. Emin misin?

Oldukça basmakalıp bir popüler repertuar var. distopik kehanetler (geleceğin kara vizyonu hakkında). Doğal çevrenin ve kaynakların yok edilmesiyle ilgili en yaygın olanlara ek olarak, en son teknolojilerin kişilerarası iletişime, ilişkilere ve topluma zarar verdiğine yaygın olarak inanılmaktadır.

Sanal alan, aldatıcı bir şekilde dünyadaki gerçek katılımın yerini alacak. Diğer distopik görüşler, teknolojik gelişmeyi toplumsal eşitsizliği artırmanın, gücü ve zenginliği küçük grupların elinde toplamanın bir yolu olarak görür. Modern teknolojinin yüksek talepleri, bilgi ve becerileri ayrıcalıklı bireylerin dar çevrelerinde yoğunlaştırır, insanların gözetimini arttırır ve mahremiyeti yok eder.

Pek çok fütürist'e göre, daha yüksek üretkenlik ve daha fazla görünür seçim, strese neden olarak, işleri tehlikeye atarak ve bizi dünya hakkında giderek daha materyalist hale getirerek insan yaşam kalitesine zarar verebilir.

Ünlü teknolojik "distopyanlardan" biri, James Gleick, tek bir önemli sorunu çözmeyen ve birçok yeni soruna yol açan klasik bir buluş olarak bir TV uzaktan kumandasının görünüşte önemsiz bir örneğini verir. Gleick, teknik bir tarihçiden alıntı yapıyor edward tenner, uzaktan kumandayı kullanarak kanal değiştirme yeteneği ve kolaylığının öncelikle izleyicinin dikkatini daha fazla dağıtmaya hizmet ettiğini yazıyor.

Memnuniyet yerine, insanlar izledikleri kanallardan giderek daha fazla memnun değiller. İhtiyaçları karşılamak yerine, bitmeyen bir hayal kırıklığı duygusu var.

Arabalar bizi rezervasyonda tutacak mı?

Kaçınılmaz olan ve muhtemelen yakında gelecek olan bu şeyi kontrol edebilecek miyiz? Yapay zeka üzerinden mi? Eğer durum buysa, birçok distopyacı görüşün iddia ettiği gibi, hayır. (1).

Bizden kat kat daha güçlü olan bir şeyi kontrol etmek zordur. Görev sayısındaki artışla birlikte. Yirmi yıl önce, hiç kimse bir insanın sesindeki duyguları okuyabileceklerine ve yüzlerini bizim kendi başımıza yapabileceğimizden çok daha doğru bir şekilde okuyabileceklerine inanmazdı. Bu arada, şu anda eğitilmiş algoritmalar zaten bunu yapabilir, yüz ifadelerini, tınıları ve konuşma şeklimizi analiz edebilir.

Bilgisayarlar resim çizer, müzik besteler ve bunlardan biri Japonya'da bir şiir yarışmasını bile kazanmıştır. Uzun zamandır insanları satrançta yeniyorlar, oyunu sıfırdan öğreniyorlar. Aynısı, çok daha karmaşık Go oyunu için de geçerlidir.

her zamankinden daha hızlı ivme yasalarına uyar. Yapay zekanın -insanların yardımıyla- son on yılda başardığı şey, önümüzdeki birkaç yıl içinde, belki sadece aylar içinde ikiye katlanacak ve daha sonra sadece haftalar, günler, saniyeler alacak...

Son zamanlarda ortaya çıktığı gibi, akıllı telefonlarda veya havaalanlarında her yerde bulunan kameralardan gelen fotoğrafları analiz etmek için kullanılan algoritmalar, yalnızca farklı karelerdeki birini tanımakla kalmaz, aynı zamanda yalnızca samimi psikolojik özellikleri de belirler. Bunun büyük bir gizlilik riski olduğunu söylemek hiçbir şey söylememek gibidir. Bu, her adımı izleyerek basit bir gözetleme ile ilgili değil, bir kişinin ortaya çıkması, gizli arzuları ve kişisel tercihleri ​​hakkında ortaya çıkan bilgiler hakkındadır. 

Algoritmalar, yüz binlerce vakayı analiz ederek bunu nispeten hızlı bir şekilde öğrenebilir ki bu, en zeki insanın bile bir ömür boyu görebileceğinden çok daha fazladır. Böylesine zengin bir deneyimle donanmış olarak, bir kişiyi en deneyimli psikolog, beden dili ve jest analistinden bile daha doğru bir şekilde tarayabilirler.

Dolayısıyla gerçek ürpertici distopya, bilgisayarların satranç oynaması veya bize karşı gelmesi değil, ruhumuzu kendimizden başka herkesten daha derin, bu veya diğer eğilimleri tanımakta yasaklar ve engellerle dolu olarak görebilmeleridir.

Элон Маск AI sistemleri giderek artan bir ölçekte öğrenmeye ve akıl yürütmeye başladıkça, “zekanın” bir yerlerde gelişebileceğine inanıyor. web katmanlarında derin, bizim için algılanamaz.

2016 yılında yayınlanan bir Amerikan araştırmasına göre önümüzdeki 45 yıl içinde yapay zekanın tüm görevlerde insanları geçme şansı yüzde 50. Tahminciler evet, AI'nın kanser sorununu çözeceğini, ekonomiyi iyileştireceğini ve hızlandıracağını, eğlence sağlayacağını, yaşam kalitesini ve süresini iyileştireceğini, onsuz yaşayamamamız için bizi eğiteceğini söylüyor, ancak bir gün onsuz yaşamamız mümkün. nefret, sadece mantıksal hesaplamaya dayalı olduğu için, bizi sadece uzaklaştırır. Belki fiziksel olarak çalışmayacaktır, çünkü her sistemde “bir gün işe yarayabilecek” kaynakları kaydetmeye, arşivlemeye ve depolamaya değer. Evet, yapay zeka için olabileceğimiz kaynak bu. Korumalı insan gücü?

İyimserler, her zaman fişi prizden çekme fırsatı olduğu gerçeğiyle kendilerini avutuyorlar. Ancak, her şey o kadar basit değil. Zaten insan hayatı bilgisayarlara o kadar bağımlı hale geldi ki, onlara karşı radikal bir adım bizim için bir felaket olur.

Ne de olsa, giderek artan bir şekilde AI tabanlı karar verme sistemleri yaratıyoruz, onlara uçak uçurma, faiz oranlarını belirleme, enerji santrallerini çalıştırma hakkı veriyoruz - algoritmaların bunu bizden çok daha iyi yapacağını biliyoruz. Aynı zamanda, bu dijital kararların nasıl alındığını tam olarak anlamıyoruz.

"Tıkanıklığı Azalt" gibi süper akıllı komuta sistemlerinin onları işi bitirmenin tek etkili yolunun nüfusu üçte, hatta yarı yarıya azaltmak olduğu sonucuna götürebileceğine dair korkular var.

Evet, makineye “Önce insan hayatını kurtar!” gibi en önemli talimatı vermekte fayda var. Ancak, o zaman dijital mantığın insanlığın hapsedilmesine mi yol açacağını, yoksa güvende olabileceğimiz ama kesinlikle özgür olmadığımız ahırın altına mı götüreceğini kim bilebilir?

Hizmet olarak siber suç

Geçmişte, edebiyat ve sinemadaki kıyamet sonrası dünyanın distopyaları ve görüntüleri genellikle nükleer sonrası dönemde geçiyordu. Bugün nükleer imha, hayal ettiğimiz gibi olmasa da bildiğimiz dünyanın felaketi ve yıkımı için gerekli görünmüyor. , nükleer imha ile birleştiği "Terminatör" de olduğu gibi dünyayı yok etmesi pek olası değil. Olsaydı, bir süper zeka değil, ilkel bir güç olurdu. Ne de olsa, insanlık bile yıkıcı bir nükleer çatışmanın küresel senaryosunu henüz gerçekleştirmedi.

Gerçek bir makine kıyameti çok daha az etkileyici olabilir.

Siber savaş, virüs saldırıları, sistem korsanlığı ve fidye yazılımı, fidye yazılımı (2) dünyamızı bombalardan daha az etkili bir şekilde felç eder ve yok eder. Ölçekleri genişlerse, otonom hareket etmeleri gerekmese de makinelerin kurbanı ve rehinesi olacağımız topyekûn topyekûn bir savaş aşamasına girebiliriz ve yine de her şeyin arkasında insanların olması mümkündür.

Geçen yaz, ABD Siber Güvenlik ve Altyapı Güvenlik Ajansı (CISA), fidye yazılım saldırılarını "en görünür siber güvenlik tehdidi" olarak adlandırdı.

CISA, bir siber suçlunun bir kişinin veya kuruluşun verilerini ele geçirdiği ve şifrelediği ve ardından fidye sızdırdığı birçok faaliyetin, kurbanın siber suçlulara ödeme yapması ve güvenli olmayan sistemleriyle ilgili sorunları kamuoyuna açıklamak istememesi nedeniyle hiçbir zaman rapor edilmediğini iddia ediyor. Mikro düzeyde, siber suçlular genellikle İnternet'teki dürüst ve dürüst olmayan içeriği ayırt etmekte güçlük çeken yaşlı insanları hedef alır. Bunu, bir e-posta ekine gömülü kötü amaçlı yazılım veya virüslü bir web sitesindeki açılır pencere ile yaparlar. Aynı zamanda büyük şirketlere, hastanelere, devlet kurumlarına ve hükümetlere yönelik saldırılar artıyor.

İkincisi, tuttukları hassas veriler ve büyük fidye ödeme yetenekleri nedeniyle özellikle hedef alındı.

Sağlık bilgileri gibi bazı bilgiler sahibi için diğerlerinden çok daha değerlidir ve suçlulara daha fazla para kazandırabilir. Hırsızlar, test sonuçları veya ilaç bilgileri gibi hasta bakımı için önemli olan büyük klinik veri bloklarını ele geçirebilir veya karantinaya alabilir. Hayat söz konusu olduğunda, hastanede müzakereye yer yoktur. Amerikan hastanelerinden biri, Ağustos terörist saldırısından sonra geçen yıl Kasım ayında kalıcı olarak kapatıldı.

Muhtemelen zamanla daha da kötüleşecek. 2017 yılında ABD İç Güvenlik Bakanlığı, siber saldırıların su hizmetleri gibi kritik altyapıları hedefleyebileceğini duyurdu. Ve bu tür eylemleri gerçekleştirmek için gereken araçlar, Cerber ve Petya yazılımı gibi fidye yazılımı paketleri sattıkları ve başarılı saldırıların ardından fidye ücreti aldıkları daha küçük operatörler için giderek daha fazla kullanılabilir hale geliyor. Bir hizmet olarak siber suça dayalıdır.

Genomdaki tehlikeli bozukluk

Distopyanın popüler konularından biri genetik, DNA manipülasyonu ve insanların üremesidir - ayrıca doğru şekilde "programlanmıştır" (yetkililer, şirketler, askeri).

Bu kaygıların modern düzenlemesi bir popülerleştirme yöntemidir. CRISPR gen düzenleme (3). İçerdiği mekanizmalar öncelikle endişe kaynağıdır. istenen işlevleri zorlamak sonraki nesillerde ve potansiyelleri tüm nüfusa yayılır. Bu tekniğin mucitlerinden biri, Jennifer Doudna, hatta son zamanlarda potansiyel olarak feci sonuçları nedeniyle bu tür "mikrop hattı" düzenleme teknikleri üzerinde bir moratoryum çağrısında bulundu.

Hatırlayın, birkaç ay önce Çinli bir bilim adamı O Jiankui insan embriyolarının genlerini AIDS virüsüne karşı bağışıklık kazandırmak için düzenlediği için geniş çapta eleştirilmiştir. Bunun nedeni, yaptığı değişikliklerin tahmin edilemez sonuçlarla nesilden nesile aktarılabilmesiydi.

Özellikle endişe verici olan, sözde d (gen yeniden yazma, gen sürücüsü), yani. belirli bir bireyin DNA'sındaki bir düzenleme sistemini kodlayan genetik olarak tasarlanmış bir mekanizma CRISPR / CAS9 genomu İstenmeyen genin bu varyantını düzenlemek için ayarlayarak. Bu nedenle, torunlar otomatik olarak (genetikçilerin katılımı olmadan) istenmeyen gen varyantının üzerine isteneni yazar.

Bununla birlikte, istenmeyen bir gen varyantı, değiştirilmemiş başka bir ebeveynden "hediye olarak" yavrular tarafından alınabilir. Yani gen sürücüsü hadi kıralım Mendel kalıtım yasalarıbu da baskın genlerin yarısının bir ebeveynden gelen yavrulara gittiğini söylüyor. Kısacası, bu sonuçta söz konusu gen varyantının tüm popülasyona yayılmasına yol açacaktır.

Stanford Üniversitesi'nde Biyolog Christina Smolke, 2016'da genetik mühendisliği konulu bir panelde, bu mekanizmanın zararlı ve aşırı durumlarda korkunç sonuçları olabileceği konusunda uyardı. Gen sürücüsü nesiller geçtikçe mutasyona uğrayabilir ve hemofili veya hemofili gibi genetik bozukluklara neden olabilir.

Riverside, California Üniversitesi'ndeki araştırmacılar tarafından Nature Reviews'da yayınlanan bir makalede okuduğumuz gibi, bir sürücü bir organizmanın bir popülasyonunda amaçlandığı gibi çalışsa bile, aynı kalıtsal özellik bir şekilde başka bir popülasyona dahil edilirse zararlı olabilir. . aynı bakış.

Bilim adamlarının kapalı kapılar ardında ve meslektaş incelemesi olmadan gen sürücüleri oluşturma tehlikesi de vardır. Birisi kasıtlı veya kasıtsız olarak, grip direncimizi yok eden gibi insan genomuna zararlı bir gen sürücüsü eklerse, bu homo sapiens türlerinin sonu bile olabilir…

gözetim kapitalizmi

Eski bilimkurgu yazarlarının hayal bile edemeyecekleri bir distopya versiyonu, insanların mahremiyetini, ilişkilerini ve psikolojik bütünlüğünü yok eden tüm geniş çapta açıklanan sonuçlarıyla internetin ve özellikle sosyal medyanın gerçeğidir.

Bu dünya, 2016'daki "The Diving" (4) bölümündeki Black Mirror serisinde görebildiğimiz gibi sadece daha yeni sanat performanslarında resmedilmiştir. Şoşana ZuboffHarvard'lı bir ekonomist, bu gerçekliği tamamen toplumsal öz-olumlamaya bağlı ve tamamen "mahremiyetsizleştirilmiş" olarak adlandırıyor. gözetim kapitalizmi ()ve aynı zamanda Google ve Facebook'un taçlandıran çalışması.

4. "Black Mirror"dan bir sahne - "Dalış" bölümü

Zuboff'a göre, Google ilk mucittir. Buna ek olarak, örneğin görünüşte masum "akıllı şehir" projeleri aracılığıyla gözetim faaliyetlerini sürekli olarak genişletiyor. Bir örnek, bir Google yan kuruluşu olan Sidewalk Labs'ın Dünyanın En Yenilikçi Mahalle projesidir. iskele Toronto'da.

Google, her yerde bulunan izleme sensörlerinin yardımıyla kıyı sakinlerinin yaşamı, hareketleri ve hatta nefes almalarıyla ilgili en küçük verileri toplamayı planlıyor.

Facebook'ta söz konusu olmayan bir internet distopyası seçmek de zor. Gözetim kapitalizmi Google tarafından icat edilmiş olabilir, ancak onu tamamen yeni bir düzeye taşıyan Facebook oldu. Bu, sosyal ve duygusal viral mekanizmalar ve Zuckerberg platformunun kullanıcısı olmayanların bile acımasız zulmü yoluyla yapıldı.

UBI ile yaşayan, sanal gerçekliğe dalmış korumalı AI

Pek çok fütürist'e göre, dünyanın ve teknolojinin geleceği beş kısaltma ile belirlenir - AI, AR, VR, BC ve UBI.

"MT" okuyucuları muhtemelen bunların ne olduğunu ve ilk üçünün nelerden oluştuğunu iyi bilirler. Neyle ilgili olduğunu anladığımızda, tanıdık aynı zamanda dördüncü "BC" olarak çıkıyor. Ve beşinci? UBD, kavramın kısaltmasıdır, yani "evrensel temel gelir » (5). Bu, diğer teknolojiler, özellikle de yapay zeka geliştikçe işten serbest bırakılan herkese verileceği varsayılan bir kamu yararıdır.

5. Evrensel Temel Gelir - UBI

İsviçre geçen yıl bu fikri referanduma bile sundu, ancak vatandaşları garantili bir gelirin getirilmesinin bir göçmen akınına yol açacağından korkarak reddetti. UBI ayrıca, mevcut sosyal eşitsizlikleri sürdürme riski de dahil olmak üzere bir dizi başka tehlikeyi de beraberinde getiriyor.

Kısaltmanın arkasındaki teknolojik devrimlerin her biri (ayrıca bakınız :) - eğer beklenen yönde yayılır ve gelişirse - insanlık ve dünyamız için, elbette büyük dozda distopya da dahil olmak üzere çok büyük sonuçlara sahiptir. Örneğin, dört yıllık seçim dönemlerinin yerini alabileceğine ve sayısız konuda referanduma yol açabileceğine inanılıyor.

Sanal gerçeklik, sırayla, insanlığın bir kısmını gerçek dünyadan "dışlayabilir". Örneğin, 2016 yılında kızının ölümcül bir hastalıktan ölmesinden sonra avatarıyla sanal gerçeklikte tanışan Koreli Jang Ji-sun'da olduğu gibi. Sanal alan aynı zamanda yeni tür problemler yaratır veya aslında bilinen tüm eski problemleri "yeni" dünyaya, hatta birçok başka dünyaya aktarır. Bir dereceye kadar, bunu sosyal ağlarda zaten görebiliriz, burada çok az beğeninin depresyona ve intihara yol açtığı görülür.

Peygamberlik hikayeleri az ya da çok

Ne de olsa, distopik vizyonların yaratılmasının tarihi, tahminleri formüle ederken dikkatli olmayı da öğretir.

6. "Ağdaki Adalar"ın Kapağı

Geçen yıl filme alınan Ridley Scott'ın ünlü bilimkurgu başyapıtıydıandroid avcısı» 1982'den beri. Pek çok spesifik unsurun gerçekleşip gerçekleşmediğini tartışmak mümkündür, ancak çağımızda birçok yönden insanlardan üstün olan zeki, insansı androidlerin varlığına ilişkin en önemli kehanetin henüz gerçekleşmediği tartışılmazdır.

Daha birçok kehaneti tolere etmeye hazır olurduk."Nöromancerler »yani romanlar William Gibson 1984'ten beri "siber uzay" kavramını popülerleştiren.

Ancak, o on yılda, bugünün zamanını çok daha doğru bir şekilde tahmin eden biraz daha az bilinen bir kitap (neredeyse tamamen ülkemizde, çünkü Lehçe'ye çevrilmedi) ortaya çıktı. romantizmden bahsediyorumWeb'deki Adalar“(6) bruce sterlin 1988'den beri, 2023'te kuruldu. "Web" olarak bilinen, İnternet'e benzer bir şeye dalmış bir dünya sunar. Büyük uluslararası şirketler tarafından kontrol edilmektedir. "Netteki Adalar", sözde özgür İnternet'in denetimini, gözetimini ve tekelleşmesini sağlamaları bakımından dikkat çekicidir.

Çevrimiçi korsanlara/teröristlere karşı insansız hava araçları (drone) kullanılarak gerçekleştirilen askeri operasyonları öngörmek de ilginç. Güvenli masaüstleriyle binlerce kilometre uzaktaki operatörler - bunu nasıl bilebiliriz? Kitap, İslami terörizmle bitmeyen çatışma hakkında değil, küreselleşmeye karşı çıkan güçlere karşı mücadele hakkında. Net'teki Adalar dünyası, akıllı saatlere ve akıllı spor ayakkabılara çok benzeyen tüketici cihazlarıyla da doludur.

80'lerden kalma başka bir kitap var ki, bazı olaylar daha fantastik görünse de, günümüzün distopik korkularımızı iyi bir şekilde gösteriyor. Bu "Georadar yazılımı", Tarih rudy rooker2020'de belirlendi. Dünya, toplumun durumu ve çatışmaları bugün uğraştığımız şeye inanılmaz derecede benziyor. Ayda kendi farkındalığını kazanıp şehirlere kaçan bopper olarak bilinen robotlar da var. Bu unsur henüz gerçekleşmedi, ancak makinelerin isyanı sürekli bir kara kehanet nakaratı haline geliyor.

Kitaplardaki zamanımızın vizyonları da birçok yönden çarpıcı biçimde doğrudur. Octavia Uşak, özellikleEkici benzetmeleri» (1993). Eylem 2024'te Los Angeles'ta başlıyor ve iklim değişikliğinin neden olduğu sel, fırtına ve kuraklıklarla harap olan Kaliforniya'da gerçekleşiyor. Orta ve işçi sınıfı aileler, bağımlılık yapan uyuşturucular ve sanal gerçeklik kitleriyle dış dünyadan kaçmaya çalışırken kapalı topluluklarda buluşuyor. Yeni dinler ve komplo teorileri ortaya çıkıyor. Mülteci karavanı, ekolojik ve sosyal çöküşten kaçınmak için kuzeye gidiyor. "Amerika'yı Yeniden Büyük Yap" kampanya sloganını kullanan bir başkan iktidara gelir (bu, Donald Trump'ın sloganıdır) ...

Butler'ın ikinci kitabı, "Yeteneklerin benzetmesiyeni bir dini tarikatın üyelerinin Alpha Centauri'yi kolonileştirmek için bir uzay gemisinde Dünya'yı nasıl terk ettiğini anlatıyor.

***

Günlük yaşamlarımızla ilgili olarak birkaç on yıl önce yapılan bu kapsamlı tahmin ve vizyon araştırmasının dersi nedir?

Muhtemelen gerçek şu ki, distopyalar sıklıkla meydana gelir, ancak çoğu zaman sadece kısmen.