Мыңдаған жылдар бойы біз әлемді зерттеп, білім іздедік. Кез келген мәселенің кілті – адамның ақыл-ойын ыждағатпен және шоғырлай қолдану екеніне көз жеткіздік. Жыл мезгілдерінің ауысуы, планеталардың қозғалысы, аурулардың таралуы сияқты жұмбақтарды шешуге кірістік. Қажетті сұрақтар қойып, қажетті мәліметтерді жинап, түсіндірмелерді таптық. Алынған білім біздің игілігімізге қызмет етті, бізде барынша дәлме-дәл күнтізбелер, навигацияның жаңа әдістері, жаңа вакциналар пайда болды және олар ақыл-ойды қолдануға болатын жаңа сұрақтарды тудырды.

Бұл процесс қаншалықты баяу және жетілмеген болса да, ол біздің әлемімізді өзгертті және біздің саналы тіршілік иесі ретінде әрі қарай дамып, ғаламның сын-тегеуріндеріне төтеп беруге қабілетті екендігімізге сенімімізді нығайтты. Бізге бағынбайтындай болып көрінген нәрсені біз болашақта ақыл-ойды қолдану үшін сын-тегеурін ретінде қабылдадық немесе тікелей түсінуіміз қиын таңғажайып санатына жатқыздық.

Жасанды сананың пайда болуы бізді адамның ақыл-ойынан тыс үшінші санат туралы – адамдар қол жеткізе алмаған немесе қол жеткізе алмайтын біздің әлемнің бізге белгісіз аспектілерін зерттейтін, бізге тікелей қолжетімді болмауы мүмкін ойлау түрі туралы пайымдауға мәжбүр етеді. Егер өзін-өзі оқытушы компьютер ойынның мыңжылдық тарихында ешқашан бірде-бір адамның ойына келмеген шахмат стратегиясын әзірлесе, ол нақты нені және қалайша ашты? Ол күні бүгінге дейін адам санасына белгісіз болған ойынның қандай елеулі аспектісін түсінді? Бағдарлама код қателерін түзетіп немесе автомобильдерге арналған автопилоттарды жетілдіре отырып, әзірлеушілер қойған тапсырманы орындағанда ешбір адамға түсініксіз модель құрып, пайдаланған кезде, біз білімге бет бұрамыз ба? Әлде білімнің қолжетімділігі төмен бола ма?

Бүкіл адамзат тарихы кезеңінде технологиялық өзгерістер орын алды. Бірақ тек кейбір жағдайларда ғана технологиялар біздің қоғамдық және саяси құрылымымызды шын мәнінде түбегейлі өзгерте алды. Әдетте қоғам таныс санаттар шегінде дамып және жаңара отырып, бейімделді және жаңа технологияларды қабылдады. Автомобиль көлік арбаларын әлеуметтік құрылымдарды толығымен өзгертпей-ақ алмастырды. Мушкеттің орнын винтовка алмастырды, бірақ жалпы әскери іс өзгеріссіз қалды. Жалпы әлемді өзгертуге қабілетті технологиялар өте сирек кездеседі. Бірақ бүгінде ЖИ адам тәжірибесінің барлық аспектілерін түбегейлі өзгертуден белгі беруде және бұл өзгерістердің негізгі бөлігі философия деңгейінде болады. Әлем және ондағы адамның рөлі туралы түсінігіміз өзгереді.

Бұл соңғы ғасырларда біздегі алғашқы революциялық ығысу болғандықтан, осы тәжірибе біз үшін бір уақытта терең және қарама-қайшылықты болуда, біз оған біртіндеп еніп, нақты ненің болғанын және алдағы жылдары ненің болуы ықтимал екенін аса жақсы түсiне алмай, бейтарап түрде өткереміз. Бұл ығысудың негізін компьютерлер мен Интернет салған. Осы процестің шыңында ЖИ адам қызметінің барлық салаларына еніп, біздің ойлауымыз бен өмірімізді жаңа дәрілермен және шет тілдерінен автоматты аудару құралдары сияқты біз түсінетін дүниелермен және адамның болашақ қажеттіліктерін болжай алатын немесе шебер түрде қалыптастыратын бағдарламалық процестер сияқты түсініксіз тәсілдермен толықтырады. Бізді ЖИ және машиналық оқытудың перспективалары қызықтырды және күрделі ЖИ жұмысына қажетті есептеу қуатының құны төмендейтіндіктен, өзгерістер барлық дерлік салаларды қамтитын болады.

Бүкіл дүниежүзі бойынша біздің күнделікті өміріміздің қарқыны мен мәніне – тұрғын үйлерді салу мен жайластыруға, көлік пен логистикаға, ақпаратты таратуға, қаржы мен саудаға, қауіпсіздік пен қорғанысқа, яғни адам бұрын өз бетінше айналысқан барлық нәрселерге ендірілетін бағдарламалық процестердің торы тапжылмай, көбінесе білінбестен, бірақ бұлтартпай өрістеуде. Бұл бағдарламалық процестер ақпаратты өңдейді, біздің мүмкіндіктерімізді толықтырып, әрекеттерімізден үйренеді және бізге түсініксіз тәсілдермен жұмыс істейтін ЖИ қосымшалары көптеп пайда болады. Олар өздеріне жүктелген міндеттерді орындайды, бірақ біз олардың не істеп немесе нені анықтап жатқанын және олардың қалай жұмыс істейтінін әрдайым біле бермейміз. Адамға қарағанда өзгеше «ділдік» жазықтықты алып, ЖИ ақпаратты қабылдау мен өңдеуде біздің тұрақты серігіміз болады. Біз оны құрал, серіктес немесе қарсылас деп санасақ та, ол біздің саналы тіршілік иесі ретіндегі тәжірибемізді және әлемге деген көзқарасымызды мәңгілікке өзгертеді.

Адам ақыл-ойының тарихтағы негізгі орынға апаратын жолы көптеген ғасырларға созылды. Батыста баспахананың пайда болуы мен протестанттық Реформация ресми иерархияға ұран тастады және біздің өмірлік координаттарымыздың бүкіл жүйесін өзгертті, яғни Құдай туралы Қасиетті жазба мен оның ресми түсіндірмесі арқылы білудің орнына адамзат өз күшін талдау және зерттеу арқылы білімді іздеуге бағыттады. Қайта өрлеу дәуірінде ойшылдардың классикалық еңбектері және әлемді зерттеу әдістері қайта ашылды, олардың көкжиектері мұхиттардың арғы жағынан табылған жаңа жерлердің арқасында кеңейе түсті. Ағартушылық дәуірінде Рене Декарттың cogito ergo sum («Мен ойлаймын, сондықтан да өмір сүремін») максимасы адамзаттың айқындаушы қабілетінің рөлін ақыл-ойға бекітіп, оның тарихи негізгі орынға деген талаптарын негіздеді. Басқарушы топтардың ақпаратқа монополиясы бұзылды, мүмкіндіктер дәуірі келді.

Адам ақыл-ойының үстемдігі адам санасымен теңесе алуы немесе одан басым түсуі мүмкін машиналардың таралуын ішінара жояды. Бұл Ағартушылық дәуіріндегіден кем емес терең өзгерістерден белгі береді. Тіпті адам деңгейіндегі кез келген зияткерлік тапсырманы шешетін және әр түрлі пәндер шеңберіндегі тапсырмалар мен ұғымдарды байланыстыра алатын жалпы жасанды интеллект (Artificial general intelligence, AGI) пайда болмаса да, қолданыстағы ЖИ адамзаттың шындық туралы, демек, өзі туралы түсінігін өзгертеді. Біз үлкен жетістіктерге ұмтыламыз және бұл жетістіктер біздің философиялық ой-толғамдарымызға септігін тигізуі керек. Декарт өзінің максимасын жариялағаннан кейін төрт ғасыр өткен соң мынадай сұрақ туындайды: егер ЖИ ойлана алса, онда біз кімбіз?

ЖИ онда шешімдер мынадай үш негізгі жолмен қабылданатын әлемді ашады: адамдар, бұл бұрыннан таныс, машиналар, бұл барған сайын әдеттегі жағдайға айналады және ынтымақтастықта адамдар мен машиналар (бағдарламалық жасақтаманың көмегімен адамдар ғана емес), бұл – ерекше ғана емес, сонымен бірге теңдессіз жағдай. ЖИ арқасында машиналар біздің құралдарымыздан серіктестерімізге айналады. Біз ЖИ-ге барған сайын нақты сұрақтарды сирек қоямыз, ЖИ-ге кейбір әр түрлі тапсырмаларды әлдеқайда жиі беріп, одан: «Сеніңше, біз қалай әрекет жасауымыз керек?» деп сұраймыз.

Бұл өзгерісте қауіп төндіретін немесе жігерлендіретін ештеңе жоқ. Бірақ бұл бүкіл халықтың даму бағытын және жалпы тарихтың бағытын өзгертуі ықтимал ауқымдағы ілгерілеу болады. ЖИ-ді біздің өмірімізге кіріктіру арқылы мүмкін емес болып көрінген адами мақсаттарға қол жеткізіледі және бұрын тек адам жасауы керек деп саналған музыка немесе жаңа емдеу әдістерін әзірлеу сияқты жұмысты істеуде бізге машиналар көмектеседі немесе біз үшін солар жасайды. Адам қызметінің тұтас бағыттарын ЖИ қатысатын процестер жайлайды, бұл ретте кейде тек адам, машинаның өзі ғана және гибридті машина-адам қабылдайтын шешімдер арасындағы шекараны анықтау қиын болады.

Мысалы, саясат саласында демократиялық әлем үлкен деректерге негізделген ЖИ процестері саяси хабарламаларды әзірлеу, осы хабарламаларды халықтың әр түрлі топтары арасында бейімдеу және насихаттау, әлеуметтік алауыздықты тудырғысы келетін қаскүнемдердің жалған хабар жасауы және таратуы, жалған хабар мен зиянды деректердің басқа да түрлерін анықтау, сәйкестендіру және зиянсыздандыру алгоритмдерін әзірлеу және өрістету сияқты саяси процестердің көптеген аспектілерін анықтайтын дәуірге енеді. Бұл ретте ақпараттық кеңістікті айқындау мен қалыптастырудағы ЖИ рөлін анықтау қиындай түсуде, кейде тіпті оны әзірлеушілер оның қалай әрекет ететінін ғана жалпы сипаттап бере алады. Бұл демократияның, тіпті ерік бостандығының перспективасын өзгертуі мүмкін. Бұл өзгерістердің қаншалықты игілікті немесе қайтымды екендігіне қарамастан, бүкіл әлемдегі мемлекеттер жағдайдан хабардар болуы және қоғамдық келісімдерді бұзбау үшін олар туралы білуі керек.

Әскери саланың болашағы одан да күрделірек. Егер армиялар қарулануға ой-өрісі адамдарға – әскерилерге және стратегтерге түсініксіз ЖИ жасақтаған стратегия мен тактиканы қабылдаса, күштердің арақатынасы өзгереді және оны анықтау қиынға соғады. Егер мұндай машиналар өз бетінше әскери шешімдер қабылдауға мүмкіндік алса, қорғаныс пен тежеудің дәстүрлі тұжырымдамалары, сондай-ақ жалпы соғыс заңдары бұзылады және бейімдеуді қажет етеді.

Бұл мысалдардан әлеуметтік топтар мен әр түрлі ЖИ-мен қаруланған немесе оны жасамайтын елдер арасында қандай кедергілер пайда болатындығы айқын көрінеді. Егер әр түрлі топтар немесе мемлекеттер әр алуан ЖИ пайдаланса, олардың шындықты қабылдау тәсілдері болжап болмайтын бағыттарда айырылуы мүмкін. Мақсаттары, оқыту модельдері және ЖИ-ге қатысты практикалық және әдеп шектеулері әр түрлі адам мен машина арасындағы серіктестіктің әр түрлі тәсілдерінің даму шамасына қарай бұл бәсекелестіктің өсуіне, техникалық үйлесімсіздікке және өзара түсініспеушілікке әкелуі мүмкін. Нәтижесінде бастапқыда ұлттық айырмашылықтарды еңсерудің және объективті шындықты таратудың құралы болып саналған технология уақыт өте келе елдер мен халықтардың тұтас иеліктен айырылуының себебі болуы мүмкін.

Нақты мысал – AlphaZero. Бұл жүйе ЖИ енді қандай жағдай болса да ойындарда адамның білімімен шектелмейтінін дәлелдеді. Әрине, терең нейрондық желілер деп аталатын машиналық оқытуға негізделген AlphaZero ЖИ-дің өзіндік шектеулері бар. Бірақ машиналар көбіне-көп адам қиялынан тыс шешімдерді жасауда. 2016 жылы DeepMind құрамына кіретін DeepMind Applied компаниясы Google деректерді өңдеу орталықтарын салқындатуды оңтайландыру үшін ЖИ (көп жағдайда AlphaZero-мен байланысты) әзірледі. Бұл міндет бойынша әлемнің ең үздік инженерлері жұмыс істеді, бірақ DeepMind ЖИ салқындатуды одан әрі оңтайландырып, қосымша энергия шығынын 40 %-ға азайтты. Бұл – адамның өнімділігімен салыстырғанда орасан зор жақсарту^[8]. ЖИ көмегімен әр түрлі қызмет салаларында салыстырмалы серпілістерге қол жеткізілгенде, әлем сөзсіз өзгереді. Нәтиже адам проблемаларын неғұрлым тиімді шешу ғана емес, ЖИ-дің көптеген жаңалықтарында адамға тән емес оқыту мен ойлаудың белгісі жатады.

Белгілі бір тапсырманы орындау кезінде ЖИ өнімділігі адамның өнімділігінен асып кеткенде, ЖИ-ді адамға қосымша ретінде болсын қолданудан бас тарту болжамсыздық, немқұрайлылық және тіпті қасақылық белгісі ретінде қабылданады. Бірақ ЖИ-ге құнды тасты сыйға тартуға кеңес берген шахматшы (бұл жерде өмірге қауіпті ештеңе жоқ) бөлек, ал ЖИ оған көбірек адамдардың өмірін сақтап қалу үшін (ЖИ есептеуі бойынша) көптеген отандастарын құрбан етуді ұсынған бас қолбасшының жағдайы – мүлдем бөлек мәселе. Бұл құрбандықты қандай негізде жоюға болар еді және бұл жоюды ақтауға болар ма еді? Адамдар ЖИ қандай есептеулер жүргізгенін әрқашан білетін бола ма? Адамдар ЖИ-дің қате шешімін тауып, оны дер кезінде жоя ала ма? Егер бізге ЖИ-дің жеке шешімдерінің қисынын түсіну мүмкін болмаса, оның әр ұсынымына сенуіміз керек пе? Егер біз ЖИ шешімдерін бұғаттасақ, онда өзіміз үшін тым күрделі процестерге араласуға тәуекел етпейміз бе? Тіпті, егер біз жеке шешімдердің қисынын, құнын және мағынасын түсінсек те, егер қарсыласымыз өзінің ЖИ-інен осындай ұсыным алса, не болмақ? Егер ол құрбандыққа барғанда, біз олай етпесек, біз жеңіліске ұшыраймыз ба?

AlphaZero мен халицин жағдайларында ЖИ олардың алдына адамдар қойған тапсырмаларды шешті. AlphaZero-ның мақсаты шахматта жеңіске жету болды. Халицинді ашқан ЖИ-дің мақсаты мүмкіндігінше көп патогенді өлтіру болды және патогендер адамға зиян тигізбестен неғұрлым көп жойылса, жетістік соғұрлым көп болады. Тағы бір мақсат адамға қолжетімсіз сала болды: ЖИ-ге дәрілерді жеткізудің белгісіз тәсілдерін іздеу тапсырылды. ЖИ жетістікке жетті, өйткені ол тапқан антибиотик патогендік микроорганизмдерді өлтірді, бірақ оның басты жетістігі – жеткізудің жаңа тәсілімен қатар, жаңа сенімді антибиотикті ашу арқылы емдеу мүмкіндіктерін кеңейту.

Адам мен машина арасындағы серіктестіктің жаңа түрі пайда болады. Біріншіден, адам машинаға арналған тапсырманы анықтайды. Содан кейін машина адамға қолжетімсіз салада әрекет ете отырып, адам кейінірек зерделеп, түсіне алатын және ең дұрысы қолданыстағы тәжірибеге енгізе алатын оңтайлы процесті анықтайды. AlphaZero стратегиясы мен тактикасы адамдардың шахмат туралы түсініктерін кеңейтті, ал АҚШ ӘӘК AlphaZero-ның негізгі қағидаттарын оның радарлық жүйелерін пайдалану туралы өз бетінше шешім қабылдай отырып, U-2 бақылау ұшағын дербес басқаратын жаңа μZero ЖИ-ге бейімдеді^[9]. Халицинді ашқан ЖИ бактерияларды жою мен дәрілерді жеткізудің тар саласында да, кең мағынада да (денсаулық сақтау, медицина) білімімізді кеңейтті.

Адам мен машинаның бұл серіктестігі мүлдем жаңа тәжірибенің пайда болуын білдіреді. Әңгіме бәрін білетін, бәрін басқаратын машиналардан қорқу жайында емес, бұл ғылыми фантастика тақырыбы болып қала береді және адам мен ЖИ серіктестігіне байланысты туындайтын қоғамның шынайы мәселелерінен назарды бұрып әкетеді.