Котенканың ішінде не ойлайтыныңызды айтыңыз - қара жәшік әсері

Жетілдірілген AI алгоритмдерінің нәтижені оның қалай пайда болғанын көрсетпестен лақтырып жіберетін қара жәшік (1) сияқты екендігі кейбіреулерді алаңдатады және басқаларды ренжітеді.

2015 жылы Нью-Йорктегі Синай тауындағы аурухананың зерттеу тобына жергілікті науқастардың кең дерекқорын талдау үшін осы әдісті қолдану ұсынылды (2). Бұл үлкен жинақта пациент туралы ақпарат, сынақ нәтижелері, дәрігердің рецепті және т.б. бар.

Ғалымдар жұмыс барысында жасалған аналитикалық бағдарлама деп атады. Ол шамамен 700 XNUMX адамның деректері бойынша оқытылды. адам және жаңа тізілімдерде сыналғанда, ол ауруды болжауда өте тиімді екендігі дәлелденді. Адам мамандарының көмегінсіз ол аурухана жазбаларында қай науқастың бауыр ісігі сияқты аурудың жолында екенін көрсететін үлгілерді тапты. Сарапшылардың пікірінше, жүйенің болжамдық және диагностикалық тиімділігі кез келген басқа белгілі әдістерге қарағанда әлдеқайда жоғары болды.

2. Пациенттердің деректер базасына негізделген медициналық жасанды интеллект жүйесі

Сонымен бірге зерттеушілер оның жұмбақ жолмен жұмыс істейтінін байқады. Бұл, мысалы, үшін өте қолайлы болып шықты психикалық бұзылыстарды танудәрігерлер үшін өте қиын шизофрения сияқты. Бұл таңқаларлық болды, әсіресе AI жүйесі тек науқастың медициналық жазбаларына негізделген психикалық ауруды қалай жақсы көретінін ешкім білмегендіктен. Иә, мамандар мұндай тиімді машина диагностикасының көмегіне өте риза болды, бірақ егер олар АИ өз қорытындыларына қалай келетінін түсінсе, әлдеқайда риза болар еді.

Жасанды нейрондардың қабаттары

Әу бастан, яғни жасанды интеллект ұғымы белгілі болған сәттен бастап AI-ға екі көзқарас болды. Біріншісі белгілі қағидалар мен адам логикасына сәйкес ақылға қонымды машиналар жасауды, олардың ішкі жұмысын барлығына ашық етуді ұсынды. Басқалары, егер машиналар бақылау және қайталанатын эксперименттер арқылы үйренсе, интеллект оңайырақ пайда болады деп сенді.

Соңғысы әдеттегі компьютерлік бағдарламалауды кері қайтаруды білдіреді. Программист мәселені шешу үшін пәрмендерді жазудың орнына бағдарлама жасайды өзіндік алгоритм үлгі деректеріне және қажетті нәтижеге негізделген. Кейінірек бүгінгі таңда белгілі ең қуатты AI жүйелеріне айналған машиналық оқыту әдістері, шын мәнінде, жаңа жолдан өтті: машинаның өзі бағдарламалайды.

Бұл тәсіл 60-70-жылдары AI жүйелерін зерттеудің шетінде қалды. Тек алдыңғы онжылдықтың басында, кейбір озық өзгерістер мен жақсартулардан кейін, «Терең» нейрондық желілер автоматтандырылған қабылдау мүмкіндіктерінің түбегейлі жақсарғанын көрсете бастады. 

Терең машиналық оқыту компьютерлерге ауызша сөздерді адам сияқты дәл тану мүмкіндігі сияқты ерекше қабілеттерді берді. Бұл алдын ала бағдарламалау үшін тым күрделі дағды. Машина өз «бағдарламасын» жасай алуы керек үлкен деректер жинақтары бойынша оқыту.

Терең оқыту сонымен қатар компьютердегі кескінді тануды өзгертті және машиналық аударманың сапасын айтарлықтай жақсартты. Бүгінде ол медицинада, қаржыда, өндірісте және т.б. негізгі шешімдердің барлық түрлерін қабылдау үшін қолданылады.

Дегенмен, мұның бәрімен «ішкі» қалай жұмыс істейтінін көру үшін терең нейрондық желінің ішіне қарай алмайсыз. Желілік пайымдау процестері ондаған немесе тіпті жүздеген күрделі өзара байланысқан қабаттарға ұйымдастырылған мыңдаған симуляцияланған нейрондардың әрекетіне енгізілген..

Бірінші қабаттағы нейрондардың әрқайсысы кескіндегі пикселдің қарқындылығы сияқты кірісті алады, содан кейін шығысты шығармас бұрын есептеулерді орындайды. Олар күрделі желіде келесі қабаттың нейрондарына беріледі - және т.б., соңғы шығыс сигналына дейін. Бұған қоса, оқыту желісі қажетті нәтижені беретіндей жеке нейрондар орындайтын есептеулерді реттеу деп аталатын процесс бар.

Иттердің кескінін танумен байланысты жиі келтірілген мысалда AI төменгі деңгейлері пішін немесе түс сияқты қарапайым сипаттамаларды талдайды. Жоғарылары жүн немесе көз сияқты күрделі мәселелермен айналысады. Тек жоғарғы қабат оның барлығын біріктіріп, ақпараттың толық жиынтығын ит ретінде анықтайды.

Дәл осындай тәсілді машинаның өзін-өзі үйренуіне күш беретін енгізудің басқа түрлеріне де қолдануға болады: сөйлеудегі сөздерді құрайтын дыбыстар, жазбаша мәтіндегі сөйлемдерді құрайтын әріптер мен сөздер немесе, мысалы, руль. көлікті жүргізу үшін қажетті қозғалыстар.

Көлік ештеңені өткізіп жібермейді.

Мұндай жүйелерде нақты не болатынын түсіндіру әрекеті жасалады. 2015 жылы Google зерттеушілері терең оқыту кескінді тану алгоритмін өзгертті, осылайша ол фотосуреттердегі нысандарды көрудің орнына оларды жасайды немесе өзгертті. Алгоритмді кері іске қосу арқылы олар бағдарлама құсты немесе ғимаратты тану үшін қолданатын сипаттамаларды білгісі келді.

Тақырып ретінде танымал бұл эксперименттер (3) гротеск, оғаш жануарлар, пейзаждар мен кейіпкерлердің таңғажайып бейнелерін жасады. Белгілі бір заңдылықтардың қайта-қайта қайтарылуы және қайталануы сияқты машиналық қабылдаудың кейбір құпияларын ашу арқылы олар машиналық оқытудың адам қабылдауынан қаншалықты ерекшеленетінін де көрсетті - мысалы, ол біз елемейтін артефактілерді кеңейтеді және қайталайды деген мағынада. біздің ойлау процесінде қабылдау. .

3. Жобада жасалған кескін

Айтпақшы, екінші жағынан, бұл эксперименттер біздің когнитивтік тетіктеріміздің құпиясын ашты. Бәлкім, машина «маңызды емес» нысандарда итерацияларын шыдамдылықпен қайталайтын кезде бізді бірден түсінуге және елемеуге мәжбүрлейтін әртүрлі түсініксіз компоненттер бар болуы мүмкін.

Машинаны «түсіну» үшін басқа сынақтар мен зерттеулер жүргізілді. Джейсон Йосински ол кез келген жасанды нейронды нысанаға алып, оны ең күшті белсендіретін кескінді іздейтін миға жабысқан зонд сияқты әрекет ететін құрал жасады. Соңғы экспериментте жүйеде болып жатқан процестерді одан да жұмбақ етіп жіберген желіні қызыл қолмен «қарау» нәтижесінде дерексіз суреттер пайда болды.

Алайда, көптеген ғалымдар үшін мұндай зерттеу түсінбеушілік болып табылады, өйткені олардың пікірінше, жүйені түсіну, күрделі шешімдер қабылдаудың жоғары тәртібінің заңдылықтары мен механизмдерін тану үшін, барлық есептеу өзара әрекеттесулері терең нейрондық желі ішінде. Бұл математикалық функциялар мен айнымалылардың алып лабиринті. Қазіргі уақытта бұл бізге түсініксіз.

Компьютер қосылмайды ма? Неліктен?

Жетілдірілген жасанды интеллект жүйелерінің шешім қабылдау механизмдерін түсіну неліктен маңызды? Математикалық модельдер қазірдің өзінде қандай тұтқындарды шартты түрде мерзімінен бұрын босатуға болатынын, кімге несие беруге болатынын және кім жұмысқа орналаса алатынын анықтауда. Қызығушылық танытқандар бұл басқа шешім емес, неліктен қабылданғанын, оның негіздері мен механизмі қандай екенін білгісі келеді.

ол 2017 жылдың сәуірінде MIT Technology Review журналында мойындады. Томми Яаккола, машиналық оқытуға арналған қосымшаларда жұмыс істейтін MIT профессоры. -.

Тіпті AI жүйелерінің шешім қабылдау механизмін мұқият тексеру және түсіну қабілеті адамның негізгі құқығы болып табылатын құқықтық және саяси ұстаным бар.

2018 жылдан бастап ЕО компаниялардан өз тұтынушыларына автоматтандырылған жүйелер қабылдаған шешімдер туралы түсініктеме беруді талап етумен айналысады. Бұл кейде тіпті салыстырмалы түрде қарапайым болып көрінетін жүйелерде, мысалы, жарнамаларды көрсету немесе әндерді ұсыну үшін терең ғылымды пайдаланатын қолданбалар мен веб-сайттармен мүмкін емес екені белгілі болды.

Бұл қызметтерді басқаратын компьютерлер өздері бағдарламалайды және олар мұны біз түсінбейтін тәсілдермен жасайды... Тіпті бұл қолданбаларды жасайтын инженерлер оның қалай жұмыс істейтінін толық түсіндіре алмайды.