Машина өлтірушінің елесі жалғасуда. Президент Путин неге сенеді?

Әскери роботтарды жақтаушылар (1) автоматтандырылған қару адам өмірін қорғаудың көбірек мүмкіндіктерін береді деп санайды. Машиналар жауынгерлерге қарағанда жауға жақындай алады және қауіпті дұрыс бағалай алады. Ал эмоциялар кейде дұрыс шешім қабылдауға кедергі жасайды.

Өлтіруші роботтардың көптеген жақтаушылары соғысты аз қанды ететініне сенімді, өйткені сарбаздар аз өледі. Олар роботтардың аянышты сезінбесе де, дүрбелең, ашу-ыза, кек алу сияқты адами жағымсыз эмоцияларға қарсы тұра алмайтынын, бұл көбінесе әскери қылмыстарға әкелетінін атап өтеді.

Құқық қорғаушылар, сондай-ақ, соңғы жарты ғасырда әскери күштер бейбіт тұрғындардың қаза болуының айтарлықтай төмендеуіне әкелді, ал армияны роботтандыру соғыс заңдарын қатаңырақ орындау механизмін жасауға мүмкіндік береді деген дәлелді қолданады. Олар соғыс заңдарына мойынсұнуға мәжбүр ететін бағдарламалық қамтамасыз етумен жабдықталған кезде машиналар этикалық болады деп мәлімдейді.

Әрине, көптеген адамдар, соның ішінде өте танымал адамдар, бұл пікірді жылдар бойы бөліспейді. 2013 жылдың сәуір айында (2) ұранымен халықаралық науқан басталды. Оның аясында үкіметтік емес ұйымдар автономды қаруды қолдануға толық тыйым салуды талап етуде. Көптеген елдердің сарапшылары 2014 жылы мамырда Женевада өткен БҰҰ-ның қарусыздану жөніндегі конференциясында осы тақырыпты талқылауға алғаш рет отырды. Бірнеше айдан кейін Human Rights Watch ұйымы мен Гарвард университетінің ғалымдары жариялаған баяндамада автономиялықтардың тым қауіпті болатыны айтылған - олар өз нысандарын таңдап, адамдарды өлтірді. Сонымен бірге кімнің жауапқа тартылуы керектігі де анық емес.

2. «Өлтіруші роботтарды тоқтату» акциясы аясындағы көрсетілім

Кішкентай дрондардың тобы не істей алады

Өлтіруші роботтар (ROU) төңірегіндегі даулар жылдар бойы жалғасып келеді және жойылмайды. Соңғы айлар әскери роботтарды тоқтатудың жаңа әрекеттерін және осы типтегі жаңа жобалар туралы есептердің толқынын әкелді, олардың кейбіреулері тіпті нақты ұрыс жағдайында сынақтан өтіп жатыр.

2017 жылдың қараша айында бейне көрсетілім мини-дрондардың өлімге әкелетін үйірлері ., қорқынышты әрекетте. Көрермендер бізге енді жаппай және пулеметпен өлтіру үшін жыртқыштар лақтырған ауыр соғыс машиналары, танкілер немесе зымырандардың қажеті жоқ екенін көрді. Берклидегі жасанды интеллект профессоры, жетекші директор Стюарт Рассел былай дейді:

-

Өткен көктем елу профессор Әлемнің жетекші университеттері Кореяның алдыңғы қатарлы ғылым және технологиялар институтына (KAIST) және оның серіктесі Hanwha Systems компаниясына үндеу жариялады. олар университетпен ынтымақтастық жасамайтынын және KAIST қонақтарын қабылдайтынын мәлімдеді. Оған екі мекеменің де жүргізген «автономды қару» құрылысы себеп болған. KAIST бұқаралық ақпарат құралдарындағы ақпаратты жоққа шығарды.

Көп ұзамай АҚШ-та 3-тен астам Google қызметкері ротаның әскерилерге арналған жұмысына наразылық білдірді. Олар Google компаниясының әскери ұшқышсыз ұшқышсыз бейнелердегі нысандар мен беттерді тану үшін AI қолдануға бағытталған Maven кодтық атауы бар үкіметтік жобамен серіктес болып жатқанына алаңдаушылық білдірді. Компания басшылығы «Мавеннің» мақсаты адам өмірін сақтап, адамдарды жалықтыратын жұмыстан құтқару, агрессиядан емес, дейді. Шерушілер бұған сенбеді.

Шайқастың келесі бөлігі декларация болды жасанды интеллект мамандары, қоса Google жобасында жұмыс істеу және Элона Маска. Олар роботтарды дамытпауға уәде береді. Олар сондай-ақ үкіметтерді осы қаруды реттеу және шектеу бойынша күш-жігерді күшейтуге шақырады.

Мәлімдемеде «адам өмірін қию туралы шешімді ешқашан машина қабылдамауы керек» делінген. Әлемнің армиялары көптеген автоматты құрылғылармен жабдықталғанымен, кейде жоғары автономиямен жабдықталған, көптеген сарапшылар бұл технология болашақта адам операторы мен командирінің қатысуынсыз өлтіруге мүмкіндік беретін толығымен автономды болуы мүмкін деп қорқады.

Сарапшылар сонымен қатар автономды өлтіру машиналары «ядролық, химиялық және биологиялық қарулардан» да қауіпті болуы мүмкін екенін ескертеді, өйткені олар бақылаудан оңай шығып кетуі мүмкін. Жалпы өткен жылдың шілде айында Future of Life институтының (FGI) демеушілігімен хатқа 170 ұйым мен 2464 2019 адам қол қойған. XNUMX жылдың алғашқы айларында FLI-ге қатысы бар бір топ медицина ғалымдары жасанды интеллектпен (AI) басқарылатын қаруларды жасауға тыйым салу туралы жаңа хатты тағы да шақырды.

Өткен жылғы БҰҰ-ның Гнево қаласында өткен тамыз кездесуі әскери «өлтіруші роботтарды» мүмкін болатын құқықтық реттеу туралы ... машиналары сәтті аяқталды. Бір топ елдер, соның ішінде АҚШ, Ресей және Израиль осы қаруларға халықаралық тыйым салуды енгізу бойынша одан әрі жұмысты тоқтатты (Кейбір кәдімгі қаруларды қолдануға тыйым салу немесе шектеу туралы конвенция жобасы, CCW). Бұл елдердің автономды және роботты қарудың озық жүйелері бойынша жұмысымен танымал болуы кездейсоқ емес.

Ресей жауынгерлік роботтарға назар аударады

Президент Владимир Путиннің әскери AI жүйелері мен жауынгерлік роботтар туралы айтқан сөздері жиі айтылады:

-.

автономды қару жасау туралы ашық айтады. Жақында оның қарулы күштері Бас штабының бастығы генерал Валерий Герасимов Интерфакс-АВН әскери ақпарат агенттігіне роботтарды пайдалану болашақ соғыстардың басты ерекшеліктерінің бірі болатынын айтты. Ол Ресей тырысып жатқанын қосты ұрыс алаңын толығымен автоматтандыру. Осыған ұқсас пікірлерді вице-премьер Дмитрий Рогозин мен қорғаныс министрі Сергей Шойгу да айтты. Федерация Кеңесінің қорғаныс және қауіпсіздік комитетінің төрағасы Виктор Бондарев Ресейдің дамуға ұмтылатынын айтты. Роджу технологияларыбұл дрон желілеріне біртұтас ұйым ретінде жұмыс істеуге мүмкіндік береді.

Алғашқы телетанктердің Кеңес Одағында 30-жылдары жасалғанын еске алсақ, бұл таңқаларлық емес. Олар Екінші дүниежүзілік соғыстың басында қолданылды. Бүгінде Ресей де құрып жатыр танк роботтары барған сайын автономды бола бастайды.

Путиннің мемлекеті жақында Сирияға өз мемлекетін жіберді Уран-9 ұшқышсыз жауынгерлік машинасы (3). құрылғы жердегі басқару нүктелерімен байланысын жоғалтты, аспа жүйесінде проблемалар болды, ал оның қарулары мүлтіксіз жұмыс істемеді және қозғалатын нысанаға тимейді. Бұл өте маңызды емес, бірақ көбісі сириялық майлықты ресейліктерге машинаны жақсартуға мүмкіндік беретін жақсы жауынгерлік сынақ деп санайды.

Роскосмос осы жылдың тамыз айына дейін Халықаралық ғарыш станциясына екі робот жіберудің алдын ала жоспарын бекітті. Федор (4) ұшқышсыз одақта. Жүк сияқты емес, бірақ. «RoboCop» фильміндегідей, Федор қару ұстайды және атыс жаттығулары кезінде өлімге әкелетін мергендік көрсетеді.

Ғарыштағы робот неге қарулы болады деген сұрақ туындайды. Мәселе тек жердегі өтініштерге қатысты емес деген күдік бар. Жер бетінде ресейлік қару өндіруші Калашников визуализациясын көрсетті құл Игорекбұл көптеген күлкі тудырғанымен, компанияның автономды жауынгерлік машиналармен шындап жұмыс істеп жатқанын көрсетеді. 2018 жылдың шілдесінде Калашников «ату немесе атпау» туралы шешім қабылдау үшін қолданатын қару жасап жатқанын жариялады.

Бұл ақпаратқа ресейлік зеңбірекші Дигтярев кішігірім қару жасағаны туралы мәліметтерді қосу керек автономды танк Нерехт ол өз бетімен нысанаға қарай үнсіз қозғала алады, содан кейін басқа немесе тұтас ғимараттарды қирату үшін күшті күшпен жарылады. Және де Танк T14 Armata , ресейлік қарулы күштердің мақтанышы, қашықтан басқаруға және ұшқышсыз басқаруға арналған. Sputnik ресейлік әскери инженерлер Т-14-ті толығымен автономды брондалған көлік ету үшін жұмыс істеп жатыр деп мәлімдеген.

Қарсылық директивасы

АҚШ әскерінің өзі қаруларының автономия деңгейіне айтарлықтай нақты шектеу қойды. 2012 жылы АҚШ Қорғаныс министрлігі 3000.09 директивасын шығарды, онда адамдардың қарулы роботтардың әрекетіне қарсылық білдіру құқығы болуы керек. (кейбір ерекшеліктер болуы мүмкін). Бұл директива күшінде қалады. Пентагонның қазіргі саясаты - қаруды қолдануда шешуші фактор әрқашан адам болуы керек және мұндай пайымдау болуы керек. соғыс заңдарына сәйкес келеді.

Америкалықтар ондаған жылдар бойы ұшатын, Predator, Reaper және басқа да көптеген супермашиналарды қолданса да, олар автономды модельдер болған жоқ және емес. Оларды операторлар қашықтан, кейде бірнеше мың шақырым қашықтықтан басқарады. Осы типтегі машиналардың автономиясы туралы қызу пікірталас прототиптің премьерасынан басталды. X-47B дрон (5), ол өз бетінше ұшып қана қоймай, сонымен қатар әуе кемесінен көтеріліп, оған қонып, ауада жанармай құя алатын. Мағынасы да адамның араласуынсыз ату немесе бомбалау. Дегенмен, жоба әлі де сынақтан өтіп, қарастырылуда.

5. Американдық авиатасымалдаушысыз Х-47В сынақтары

2003 жылы Қорғаныс министрлігі танк тәрізді шағын роботпен тәжірибе жасай бастады. SPOES пулеметпен жабдықталған. 2007 жылы Иракқа жіберілді. дегенмен, бағдарлама робот өзін дұрыс ұстай бастағаннан кейін, мылтығын ретсіз жылжыта бастағаннан кейін аяқталды. Нәтижесінде АҚШ әскері көптеген жылдар бойы қарулы жердегі роботтарды зерттеуден бас тартты.

Сонымен бірге, АҚШ армиясы операцияларға жұмсайтын шығынын 20 жылы 2014 миллион доллардан 156 жылы 2018 миллион долларға дейін арттырды. 2019 жылы бұл бюджет қазірдің өзінде 327 миллион долларға көтерілді. Бұл бірнеше жылдағы жиынтық 1823% өсім. Сарапшылардың айтуынша, 2025 жылдың өзінде-ақ АҚШ әскері ұрыс алаңына айналуы мүмкін адамдарға қарағанда робот сарбаздары көп.

Жақында АҚШ армиясы көптеген дау тудырды және жариялады ATLAS жобасы () - автоматты. Бұқаралық ақпарат құралдарында бұл жоғарыда аталған 3000.09 директивасын бұзу ретінде қарастырылды. Дегенмен, АҚШ әскері адамды шешім қабылдау циклінен шеттету мүмкін емес екенін жоққа шығарады және сендіреді.

AI акулалар мен бейбіт тұрғындарды таниды

Дегенмен, автономды қаруды қорғаушылардың жаңа дәлелдері бар. проф. Джорджия технологиялық институтының робот маманы Рональд Аркин өз басылымдарында осылай дейді Заманауи соғыста зияткерлік қарулар азаматтық шығынды болдырмау үшін өте маңызды, өйткені машиналық оқыту әдістері жауынгерлер мен бейбіт тұрғындарды, маңызды және маңызды емес нысандарды ажыратуға тиімді көмектеседі.

Мұндай AI дағдыларының мысалы - австралиялық жағажайларды патрульдеу. ұшқышсыз ұшқыштар Little RipperСидней технологиялық университеті әзірлеген SharkSpotter жүйесімен жабдықталған. Бұл жүйе суда акулалардың бар-жоғын автоматты түрде сканерлейді және қауіпті нәрсені көргенде операторға ескертеді. (6) Ол адамдарды, дельфиндерді, қайықтарды, серфинг тақталарын және судағы заттарды акулалардан ажырата алады. Ол он алтыға жуық әртүрлі түрді жоғары дәлдікпен анықтап, анықтай алады.

6. SharkSpotter жүйесіндегі танылған акулалар

Машинамен оқытудың бұл озық әдістері әуе барлауының дәлдігін 90%-дан астамға арттырады. Салыстыру үшін, ұқсас жағдайдағы адам операторы аэрофотосуреттердегі объектілердің 20-30% дәл таниды. Сонымен қатар, сәйкестендіру әлі де дабылға дейін адаммен тексеріледі.

Ұрыс даласында экрандағы бейнені көрген оператор жердегі адамдардың қолында АК-47 ұшағы бар жауынгерлер ме, әлде, мысалы, шортан ұстаған фермерлер ме екенін әрең анықтай алады. Аркиннің атап өтуінше, адамдар әсіресе стресстік жағдайларда «көргісі келетін нәрсені көруге» бейім. Бұл әсер 1987 жылы USS Vincennes ирандық ұшақтың кездейсоқ құлауына ықпал етті. Әрине, оның ойынша, AI басқаратын қарулар шын мәнінде сезімтал емес қазіргі «ақылды бомбалардан» жақсырақ болар еді. Өткен тамыз айында саудиялық лазермен басқарылатын зымыран Йеменде мектеп оқушылары толы автобусқа түсіп, қырық бала қаза тапқан болатын.

«Егер мектеп автобусы дұрыс таңбаланған болса, оны автономды жүйеде анықтау оңай болуы мүмкін», - дейді Аркин Популярлы механикада.

Алайда бұл дәлелдер науқаншыларды автоматты өлтірушілерге қарсы көндірмейтін сияқты. Өлтіруші роботтардың қаупінен басқа, тағы бір маңызды жағдайды ескеру қажет. Тіпті «жақсы» және «мұқият» жүйені бұзып, өте нашар адамдар басып алады. Содан кейін әскери техниканы қорғаудағы барлық дәлелдер күшін жоғалтады.