Қорқыныштылар кабинеті

Машиналардың көтерілуі және билікті жасанды интеллект басып алуы. Толық бақылау және әлеуметтік бақылау әлемі. Ядролық соғыс және өркениеттің азғындауы. Көптеген жылдар бұрын жасалған болашақ туралы көптеген қараңғы көріністер бүгін болуы керек еді. Осы арада артымызға қарасақ, олар жоқ сияқты. Сіз сенімдісіз бе?

Танымалдардың жеткілікті стереотиптік репертуары бар дистопиялық пайғамбарлықтар (болашақтың қара көрінісі туралы). Табиғи орта мен ресурстарды бұзумен байланысты ең көп таралғандардан басқа, соңғы технологиялар тұлғааралық қарым-қатынасқа, қарым-қатынасқа және қоғамға зиянын тигізеді деген пікір кеңінен таралған.

Виртуалды кеңістік әлемге шынайы қатысуды алдамшы түрде ауыстырады. Басқа дистопиялық көзқарастар технологиялық дамуды әлеуметтік теңсіздікті арттыру, билік пен байлықты шағын топтардың қолында шоғырландыру тәсілі ретінде қарастырады. Заманауи технологиялардың жоғары талаптары білім мен дағдыларды артықшылықты тұлғалардың тар шеңберіне шоғырландырады, адамдарды бақылауды арттырады және жеке өмірді бұзады.

Көптеген футурологтардың пікірінше, жоғары өнімділік пен көзге көрінетін таңдау стресс тудыруы, жұмыс орындарына қауіп төндіруі және бізді әлемге барған сайын материалистік ету арқылы адам өмірінің сапасына зиян келтіруі мүмкін.

Атақты технологиялық «дистопияшылардың» бірі, Джеймс Глейк, бір маңызды мәселені шешпейтін, көптеген жаңа мәселелерді тудыратын классикалық өнертабыс ретінде теледидардың қашықтан басқару құралының тривиальды болып көрінетін мысалын береді. Глейк, техникалық тарихшыға сілтеме жасай отырып Эдвард Теннер, қашықтан басқару пультін пайдаланып арналарды ауыстыру мүмкіндігі мен қарапайымдылығы, ең алдымен, көрерменнің назарын көбірек аударуға қызмет ететінін жазады.

Қанағаттанудың орнына адамдар көретін арналарға наразылық танытуда. Қажеттіліктерді қанағаттандырудың орнына, шексіз көңілсіздік сезімі бар.

Көліктер бізді брондауда ұстай ма?

Біз бұл сөзсіз және жақын арада болатын нәрсені басқара аламыз ба? Жасанды интеллект артық па? Егер бұл көптеген дистопиялық көріністер жариялағандай болса, онда жоқ. (1).

Бізден бірнеше есе күшті нәрсені басқару қиын. тапсырмалар санының көбеюімен. Жиырма жыл бұрын олардың адамның дауысы мен бет-әлпетіндегі эмоцияларды бізден гөрі дәлірек оқи алатынына ешкім сенбес еді. Қазіргі уақытта дайындалған алгоритмдер мимиканы, тембрді және сөйлеу мәнерімізді талдай алады.

Компьютерлер сурет салады, музыка жазады, тіпті біреуі Жапонияда өткен поэзия байқауында жеңіске жетті. Олар көптен бері шахматта адамдарды ұрып-соғып, ойынды нөлден үйреніп келеді. Бұл әлдеқайда күрделі Go ойынына да қатысты.

ол бұрынғыдан да жылдам үдеу заңдарына бағынады. Соңғы онжылдықтарда адамдардың көмегімен AI қол жеткізген нәрсе алдағы бірнеше жылда, мүмкін бірнеше айларда екі есе артады, содан кейін оған апталар, күндер, секундтар қажет болады ...

Жақында белгілі болғандай, смартфондарда немесе әуежайларда барлық жерде орналасқан камералардың фотосуреттерін талдау үшін қолданылатын алгоритмдер біреуді әртүрлі кадрларда танып қана қоймай, сонымен бірге тек интимдік психологиялық ерекшеліктерін де анықтай алады. Бұл құпиялылыққа үлкен қауіп деп айту ештеңе айтпағанмен бірдей. Бұл қарапайым бақылау, әрбір қадамды бақылап отыру туралы емес, адамның сыртқы келбетінің нәтижесінде пайда болатын ақпарат туралы, оның жасырын қалауы мен жеке қалауы туралы. 

Алгоритмдер мұны жүздеген мың жағдайларды талдау арқылы салыстырмалы түрде тез меңгере алады, бұл тіпті ең зерек адамның өмір бойы көре алатынынан әлдеқайда көп. Осындай бай тәжірибемен қаруланған олар адамды тіпті ең тәжірибелі психолог, дене тілі мен ым-ишара талдаушысынан да дәлірек сканерлей алады.

Демек, нағыз салқындататын дистопия компьютерлердің шахмат ойнауы немесе бізге қарсы шығуы емес, олар біздің жанымызды өзімізден басқа кез келген адамға қарағанда тереңірек көре алады, сол немесе басқа бейімділіктерді тануда тыйымдар мен блоктарға толы.

Илон Маск AI жүйелері үнемі өсіп келе жатқан ауқымда үйреніп, пайымдай бастағанда, «интеллект» бір жерде дамуы мүмкін деп санайды. веб-қабаттарда терең, біз үшін байқалмайды.

2016 жылы жарияланған американдық зерттеуге сәйкес, алдағы 45 жылда жасанды интеллект барлық тапсырмалар бойынша адамдардан асып түсу мүмкіндігінің 50 пайызына жетеді. Синоптиктер иә, AI қатерлі ісік мәселесін шешеді, экономиканы жақсартады және жылдамдатады, ойын-сауықты қамтамасыз етеді, өмірдің сапасы мен ұзақтығын жақсартады, бізді онсыз өмір сүре алмайтындай етіп тәрбиелейді, бірақ бір күні онсыз болуы мүмкін. өшпенділік, тек логикалық есептеуге негізделген, ол бізді жай ғана жояды. Мүмкін физикалық тұрғыдан ол жұмыс істемеуі мүмкін, өйткені әрбір жүйеде «бір күні пайдалы болуы мүмкін» ресурстарды сақтау, мұрағаттау және сақтау қажет. Иә, бұл AI үшін біз бола алатын ресурс. Қорғалған жұмыс күші?

Оптимистер розеткадан айырды суыруға әрқашан мүмкіндік бар деп өздерін жұбатады. Дегенмен, бәрі соншалықты қарапайым емес. Қазірдің өзінде адам өмірі компьютерге тәуелді болғаны сонша, оларға қарсы түбегейлі қадам жасау біз үшін апат болар еді.

Өйткені, біз барған сайын AI негізінде шешім қабылдау жүйелерін жасаймыз, оларға ұшақтарды басқаруға, пайыздық мөлшерлемелерді орнатуға, электр станцияларын басқаруға құқық береміз - біз алгоритмдер мұны бізден әлдеқайда жақсы орындайтынын білеміз. Сонымен қатар, біз бұл цифрлық шешімдердің қалай қабылданатынын толық түсінбейміз.

«Кептелуді азайту» сияқты супер интеллектуалды командалық жүйелер оларды жұмысты аяқтаудың жалғыз тиімді жолы - халық санын үштен бір немесе тіпті жартысына қысқарту деген қорытындыға әкелуі мүмкін деген қауіп бар.

Иә, машинаға «Біріншіден, адам өмірін сақта!» сияқты ең маңызды нұсқауды берген жөн. Дегенмен, цифрлық логика адамзатты түрмеге немесе қораның астына апара ма, кім біледі, біз қауіпсіз болуымыз мүмкін, бірақ, әрине, бос емес.

Киберқылмыс қызмет ретінде

Бұрын әдебиет пен кинодағы апокалиптикалық дүниенің дистопиялары мен образдары әдетте пост-ядролық дәуірде қойылды. Бүгінгі күні ядролық жою біз ойлағандай болмаса да, біз білетін әлемді апат пен жою үшін қажет емес сияқты. , «Терминатордағы» әлемді ядролық жоюмен біріктірілгендей жою екіталай. Егер ол болса, ол супер интеллект емес, қарабайыр күш болар еді. Өйткені, жойқын ядролық қақтығыстың жаһандық сценарийін адамзаттың өзі әлі түсінген жоқ.

Нағыз машиналық апокалипсис әлдеқайда әсерлі болуы мүмкін.

Киберсоғыс, вирустық шабуылдар, жүйені бұзу және төлемдік бағдарламалық қамтамасыз ету, төлемдік бағдарламалық қамтамасыз ету (2) біздің әлемді бомбалардан кем емес тиімді түрде жойып жібереді. Егер олардың ауқымы кеңейетін болса, біз жаппай соғыстың кезеңіне өтуіміз мүмкін, онда біз машиналардың құрбаны және кепіліне айналамыз, бірақ олар автономды әрекет етуді талап етпесе де, адамдар бәрінің артында қалуы мүмкін.

Өткен жазда АҚШ-тың Кибер және инфрақұрылымдық қауіпсіздік агенттігі (CISA) төлемдік бағдарлама шабуылдарын «ең көрінетін киберқауіпсіздік қаупі» деп атады.

CISA киберқылмыскер адамның немесе ұйымның деректерін ұстап алып, шифрлайтын, содан кейін төлемді талап ететін көптеген әрекеттер ешқашан хабарланбайды, себебі жәбірленуші киберқылмыскерлерге төлейді және олардың қауіпті жүйелеріне қатысты мәселелерді жариялағысы келмейді. Микродеңгейде киберқылмыскерлер көбінесе Интернеттегі адал және арам мазмұнды ажырата алмайтын егде жастағы адамдарға бағытталған. Олар мұны электрондық пошта тіркемесінде немесе вирус жұққан веб-сайттағы қалқымалы терезеде ендірілген зиянды бағдарламамен жасайды. Сонымен қатар, ірі корпорацияларға, ауруханаларға, мемлекеттік мекемелер мен үкіметтерге шабуылдар көбейіп келеді.

Соңғылары әсіресе құпия деректерге және үлкен төлемді төлеу мүмкіндігіне байланысты нысанаға алынды.

Денсаулық туралы ақпарат сияқты кейбір ақпарат иесі үшін басқаларға қарағанда әлдеқайда құнды және қылмыскерлерге көбірек ақша түсіруі мүмкін. Ұрылар сынақ нәтижелері немесе дәрі-дәрмек туралы ақпарат сияқты емделушіге күтім жасау үшін маңызды клиникалық деректердің үлкен блоктарын ұстай алады немесе карантинге алады. Өмірге қауіп төніп тұрғанда, ауруханада келіссөздерге орын жоқ. Өткен жылдың қараша айында тамыз айындағы терактіден кейін америкалық ауруханалардың бірі біржола жабылған болатын.

Бұл уақыт өте келе нашарлайтын шығар. 2017 жылы АҚШ-тың Ішкі қауіпсіздік министрлігі кибершабуылдар су құбырлары сияқты маңызды инфрақұрылымды нысанаға алуы мүмкін деп мәлімдеді. Мұндай әрекеттерді орындау үшін қажетті құралдар Cerber және Petya бағдарламалық қамтамасыз ету сияқты төлемдік бағдарламалық қамтамасыз ету пакеттерін сататын және сәтті шабуылдардан кейін төлем ақысын алатын кішірек операторларға көбірек қол жетімді. Қызмет ретінде киберқылмыс негізінде.

Геномдағы қауіпті бұзылыс

Дистопияның танымал тақырыптарының бірі - генетика, ДНҚ манипуляциясы және адамдарды өсіру - сонымен қатар, дұрыс жолмен «бағдарламаланған» (билік, корпорациялар, әскери).

Бұл қобалжулардың заманауи көрінісі - танымал ету әдісі CRISPR генін өңдеу (3). Оның құрамындағы механизмдер ең алдымен алаңдатады. қажетті функцияларды мәжбүрлеу кейінгі ұрпақтарда және олардың әлеуеті бүкіл халыққа тарады. Бұл техниканы ойлап тапқандардың бірі, Дженнифер Даудна, тіпті жақында ықтимал апатты салдарға байланысты мұндай «ұрық-сызық» өңдеу әдістеріне мораторий жариялауға шақырды.

Еске салайық, осыдан бірнеше ай бұрын қытайлық ғалым Он Цзянькуи СПИД вирусына қарсы иммундау үшін адам эмбриондарының гендерін өңдегені үшін кеңінен сынға ұшырады. Себебі, ол жасаған өзгерістер ұрпақтан-ұрпаққа жалғасып, күтпеген салдары болуы мүмкін еді.

Ерекше алаңдаушылық тудырады деп аталатын d (генді қайта жазу, гендік жетек), яғни. белгілі бір адамның ДНҚ-дағы редакциялау жүйесін кодтайтын гендік-инженерлік механизм CRISPR/CAS9 геномы қажетсіз геннің осы нұсқасын өңдеуге орнату арқылы. Осының арқасында ұрпақтар автоматты түрде (генетиктердің қатысуынсыз) қажет емес гендік нұсқаны қажетті нұсқамен қайта жазады.

Дегенмен, қалаусыз ген нұсқасын ұрпақтар өзгертілмеген басқа ата-анадан «сый ретінде» алуы мүмкін. Сондықтан гендік дискіні үзейік Тұқым қуалаушылықтың Мендель заңдарыДоминант гендердің жартысы бір ата-анадан ұрпаққа өтеді дейді. Бір сөзбен айтқанда, бұл гендік нұсқаның бүкіл популяцияға таралуына әкеледі.

Стэнфорд университетінің биологы Кристина Смолке, 2016 жылы гендік инженерияға арналған панельде бұл механизм зиянды және төтенше жағдайларда қорқынышты салдары болуы мүмкін екенін ескертті. Гендік диск мутацияға қабілетті, ол ұрпақтар арқылы өтеді және гемофилия немесе гемофилия сияқты генетикалық бұзылуларды тудырады.

Риверсайд штатындағы Калифорния университетінің зерттеушілері Nature Reviews журналында жарияланған мақалада оқығанымыздай, диск организмнің бір популяциясында мақсатты түрде жұмыс істесе де, сол тұқым қуалайтын қасиет басқасына қандай да бір жолмен енгізілсе, зиянды болуы мүмкін. . бірдей көрініс.

Сондай-ақ ғалымдардың гендік дискілерді жабық есіктердің артында және әріптестердің шолуынсыз жасау қаупі бар. Егер біреу әдейі немесе байқаусызда адам геномына зиянды гендік дискіні енгізсе, мысалы, тұмауға қарсы тұруымызды бұзатын болса, бұл тіпті гомо сапиенс түрлерінің жойылуын білдіруі мүмкін ...

Бақылау капитализмі

Бұрынғы фантаст-жазушылар елестете алмаған дистопияның нұсқасы - адамдардың жеке өмірін, қарым-қатынасын және психологиялық тұтастығын бұзатын кең сипатталған салдары бар Интернеттің және әсіресе әлеуметтік медианың шындығы.

Бұл әлем тек 2016 жылғы «Сүңгуір» (4) эпизодындағы Қара айна сериясында көргендер сияқты жаңа көркем спектакльдерде ғана бейнеленген. Шошана Зубофф, Гарвард экономисі, бұл шындықты толығымен әлеуметтік өзін-өзі растауға тәуелді және толығымен «айырылған» деп атайды. қадағалау капитализмі (), және сонымен бірге Google және Facebook-тің ең басты жұмысы.

4. «Қара айнадан» көрініс – «Сүңгуір» эпизод

Зубоффтың айтуынша, Google - бірінші өнертапқыш. Бұған қоса, ол өзінің бақылау қызметін үнемі кеңейтіп отырады, мысалы, бейкүнә болып көрінетін «ақылды қала» жобалары арқылы. Мысалы, Google еншілес компаниясы Sidewalk Labs компаниясының «Әлемдегі ең инновациялық көрші» жобасы. қайық Торонтода.

Google су жағасындағы тұрғындардың өмірі, олардың қозғалысы және тіпті тыныс алуы туралы ең кішкентай деректерді барлық жерде орналасқан бақылау сенсорларының көмегімен жинауды жоспарлап отыр.

Сондай-ақ Facebook-те сөз болмайтын интернет дистопиясын таңдау қиын. Бақылау капитализмін Google ойлап тапқан болуы мүмкін, бірақ оны мүлдем жаңа деңгейге көтерген Facebook болды. Бұл әлеуметтік және эмоционалды вирустық механизмдер және тіпті Цукерберг платформасын пайдаланушы болып табылмайтындарды аяусыз қудалау арқылы жасалды.

Виртуалды шындыққа енген, UBI-мен өмір сүретін қорғалған AI

Көптеген футурологтардың пікірінше, әлем мен технологияның болашағы бес аббревиатурамен белгіленеді - AI, AR, VR, BC және UBI.

Олардың не екенін, алғашқы үшеуінің неден тұратынын «МТ» оқырмандары жақсы білетін шығар. Біз бұл не туралы екенін түсінген кезде, таныс төртінші болып шығады, «BC». Ал бесіншісі? UBD - бұл ұғымның аббревиатурасы, «әмбебап негізгі табыс» (5). Бұл басқа технологиялар, әсіресе АИ дамыған сайын жұмыстан босатылған әрбір адамға берілетін қоғамдық жеңілдік.

5. Әмбебап негізгі табыс – UBI

Швейцария бұл идеяны өткен жылы референдумға да қойған болатын, бірақ оның азаматтары кепілдендірілген кірістің енгізілуі иммигранттар тасқынына алып келеді деп қауіптеніп, одан бас тартты. UBI сонымен қатар бірқатар басқа қауіптерді, соның ішінде бар әлеуметтік теңсіздіктерді жалғастыру қаупін де алып келеді.

Акронимнің артындағы технологиялық революциялардың әрқайсысы (сондай-ақ қараңыз:) - егер ол күтілетін бағытта таралып, дамып жатса - адамзат пен біздің әлем үшін үлкен салдары бар, оның ішінде, әрине, дистопияның үлкен дозасы. Мысалы, ол төрт жылдық сайлау циклдарын алмастырып, сансыз мәселелер бойынша референдумға алып келуі мүмкін деп есептеледі.

Виртуалды шындық, өз кезегінде, адамзаттың бір бөлігін нақты әлемнен «алып тастауға» қабілетті. Мысалы, 2016 жылы қызы емделмейтін аурудан қайтыс болғаннан кейін VR-де өзінің аватарын кездестірген кореялық Джанг Джи Сонмен болған. Виртуалды кеңістік сонымен қатар проблемалардың жаңа түрлерін тудырады немесе іс жүзінде барлық ескі белгілі мәселелерді «жаңа» әлемге немесе тіпті көптеген басқа әлемдерге жібереді. Белгілі бір дәрежеде біз мұны әлеуметтік желілерде байқаймыз, онда посттардағы тым аз ұнатулар депрессияға және суицидке әкеледі.

Азды-көпті пайғамбарлық ертегілер

Өйткені, дистопиялық көріністердің жасалу тарихы болжамдарды тұжырымдауда сақтыққа үйретеді.

6. «Желідегі аралдардың» мұқабасы

Өткен жылы түсірілген Ридли Скотттың әйгілі ғылыми-фантастикалық шедевріандроид аңшысы» 1982 жылдан бастап. Көптеген нақты элементтердің орындалу немесе орындалмауын талқылауға болады, бірақ біздің заманымызда адамдардан көп жағынан жоғары саналы, гуманоид андроидтардың өмір сүруіне қатысты ең маңызды болжамның әлі шындыққа айналмағаны даусыз.

Біз тағы да көптеген пайғамбарлық хиттерге шыдауға дайын едік ».Нейроманцерлер»яғни романдар Уильям Гибсон 1984 жылдан бастап «киберкеңістік» түсінігін кеңінен таратқан.

Алайда, сол онжылдықта бүгінгі уақытты әлдеқайда дәл болжайтын (біздің елде толығымен дерлік, өйткені ол поляк тіліне аударылмаған) азырақ танымал кітап пайда болды. Мен романтика туралы айтып отырмынИнтернеттегі аралдар"(6) Брюс Стерлинг 1988 жылдан бастап, 2023 жылы белгіленген. Ол «веб» деп аталатын Интернетке ұқсас нәрсеге батырылған әлемді ұсынады. Оны ірі халықаралық корпорациялар бақылайды. «Желідегі аралдар» тегін интернетті бақылауды, бақылауды және монополиялауды қамтамасыз ететіндігімен ерекшеленеді.

Интернеттегі қарақшыларға/терроршыларға қарсы ұшқышсыз ұшу аппараттарын (дрондар) пайдалана отырып жүргізілетін ұрыс қимылдарын болжау да қызықты. Қауіпсіз жұмыс үстелдері бар мыңдаған миль қашықтықтағы операторлар - біз мұны қайдан білеміз? Кітап исламдық лаңкестікпен бітпейтін қақтығыс туралы емес, жаһандануға қарсы тұрған күштермен күрес туралы. Желідегі аралдар әлемі сонымен қатар ақылды сағаттар мен смарт спорттық аяқ киімге ұқсайтын тұтынушы құрылғыларына толы.

80-ші жылдардағы тағы бір кітап бар, ол оқиғалардың кейбірі фантастикалық болып көрінсе де, біздің қазіргі дистопиялық қорқынышымызды суреттейтін жақсы жұмыс істейді. Бұл «Georadar бағдарламалық құралы«, Тарих Руди Рукер2020 жылы белгіленген. Дүние, қоғамның жағдайы және оның қақтығыстары бүгінгі бізбен айналысатын нәрсеге керемет ұқсас болып көрінеді. Өзін-өзі танып, Айдағы қалаларға қашып кеткен боппер деп аталатын роботтар да бар. Бұл элемент әлі жүзеге асырылған жоқ, бірақ машиналар көтерілісі қара болжамдардың тұрақты бас тартуына айналады.

Кітаптардағы біздің заманымыздың көріністері де көптеген жағынан таңқаларлық дәл. Октавиа Батлер, әсіресе жылыЕгінші туралы астарлы әңгімелер» (1993). Акция 2024 жылы Лос-Анджелесте басталып, климаттың өзгеруінен туындаған су тасқыны, дауыл және құрғақшылықтан қираған Калифорнияда өтеді. Орташа және жұмысшы сыныптағы отбасылар жабық қауымдастықтарда кездеседі, өйткені олар тәуелділік тудыратын есірткілер мен виртуалды шындық жинақтары арқылы сыртқы әлемнен қашуға тырысады. Жаңа діндер мен қастандық теориялар пайда болуда. Босқындар керуені экологиялық және әлеуметтік күйреуді болдырмау үшін солтүстікке қарай бет алады. «Американы қайтадан ұлы ет» (бұл Дональд Трамптың ұраны) науқан ұранын қолданатын президент билікке келеді ...

Батлердің екінші кітабы,Таланттар туралы астарлы әңгімежаңа діни культтің мүшелері Альфа Центавриді отарлау үшін ғарыш кемесімен Жерден қалай кеткенін айтады.

***

Біздің күнделікті өмірімізге қатысты бірнеше ондаған жылдар бұрын жасалған болжамдар мен пайымдаулардың осы кең ауқымды шолуы қандай сабақ болды?

Мүмкін, дистопия жиі кездеседі, бірақ көбінесе ішінара.