Трансхуманизмът е световно социално и интелектуално движение, изповядващо идеята, че човешката еволюция не е завършен процес, а трябва да продължи с помощта на новите технологии.
Членовете на трансхуманистичното движение са убедени, че човекът и цялата ни цивилизация трябва да бъдат изцяло променени, да станем транс-, а после и постчовеци.
Бумът в разработките на изкуствения интелект, роботиката, нанотехнологиите, генетиката, виртуалната реалност, успехите в борбата със стареенето убедиха значителна част от глобалния елит, че визиите и философията на трансхуманистите са единствената успешна идеология, чрез която можем да посрещнем предизвикателствата на бъдещето.
Затова и видни трансхуманисти като Наташа Вита-Mop, Ник Бострьом, Макс Мор, Реймънд Кър, Дейвид Пиърс, Обри де Грей или Золтан Ищван са чести гости на големи медии и срещи като Световния икономически форум в Давос.
В България трансхуманизмът е почти непознат. Целта на тази първа българска книга по темата е да запознае българската общественост с основните идеи на движението, с корените, структурите и лидерите му.
Не сме пропуснали и мнението на опонентите на проекта, както и някои наши критики и прогнози. Надеждата ни е това образователно четиво да спомогне за проясняване визиите за сложното бъдеще, което ни очаква.
Откъс
Бъдещето на труда
Трансхуманистите твърдят, че новите технологии ще променят изцяло икономиките и особено промишлеността. Машините ще поемат една значителна част, да не кажем, огромната част, от дейностите, извършвани досега от хора.
В този смисъл една от сферите, в които промените ще се окажат големи и неразбираеми, е областта на трудовата заетост. Пазарът на труда е много вероятно да бъде изправен пред непознати досега предизвикателства.
Трансхуманисти като Питър Диамандис ни рисуват един прекрасен свят, в който машините ще вършат всичко. Но какво ще стане с хората? Какво ще правят хората? Откъде ще се прехранват, след като ще работят само машини?
Според Световния икономически форум в близките няколко години автоматизацията ще доведе до загубата на 75 милиона работни места. Още по-стряскащи изглеждат прогнозите на престижната консултантска компания McKinsey & Company, цитирани от ВВС. Тяхното проучване показва, че до 2030 г. новите технологии ще оставят без работа 800 милиона души, или около 20% от работещите в света.
Темата за бъдещето на труда сама по себе си е огромна и е достатъчна за множество научни и научнопопулярни трудове. Тук само ще открехнем нейното антре, ще я поставим като тема за размисъл подобно на останалите неясноти, свързани с трансхуманизма и бъдещето на нашата цивилизация.
Преди повече от половин век великият Станислав Лем в „Сума на технологиите“ повдига този въпрос:
„Страхът от безработицата като последствие от автоматизацията е основателен, особено във високоразвитите капиталистически страни. Не може обаче да се приеме за обоснован страхът от безработицата, възникнала от консуматорско „прекомерно благосъстояние“.
Визията на кибернетичната Schlaraffenland (букв. „Обетована земя“ или „Земя на вечното щастие“ – бел. м., И. С.) е невярна; защото предполага замяна на човешкия труд с труда на машините, замяна, която затваря пред човека всички пътища, докато в действителност е точно обратното.
Вероятно ще се стигне до такава замяна, но тя ще открие нови, днес само неясно предчувствани пътища. Тя не означава, че програмистите на цифровите машини ще заместят работниците и техниците, защото следващите поколения, новите видове на тези машини няма вече да се нуждаят от програмисти.
Това ще бъде не само замяна на едни професии с други – нови, принципно приличащи на старите, а коренен преврат – кой знае дали несъизмерим с преврата, при който антропоидите са се превърнали в хора.
Защото човекът не може да съперничи на природата директно: тя е прекалено сложна система, за да може самичък да я победи.“
Дори и големият фантаст не дава точен отговор, а само предполага и предлага оптимистична, но не съвсем ясна трактовка на темата.
Известният блогър и журналист Кевин Дръм също проучва темата и задава въпроси:
„Не милиони, а десетки милиони ще загубят работата си. Няма значение какво работите. Копаете канавки? Машината ще копае по-добре от вас. Пишете статии? Машината ще ги пише по-добре от вас. Ако сте лекар, изкуствен интелект ще даде по-добра диагноза. Вие сте генерален директор на компания? Изкуственият интелект ще я управлява по-добре от вас. В следващите няколко десетилетия половината от хората ще останат без работа. Само малко по-късно същата участ чака и повечето от останалите.“
Може би най-точно, ясно и кратко звучи Робърт Райх. Бившият щатски социален министър пише:
„Два сектора на икономиката, събрали най-голям брой специалисти – здравеопазване и образование, сега са под нарастващ натиск да намалят разходите. А машини експерти са готови да заемат мястото на хората. През следващите години софтуерни приложения ще изпълняват много от нещата, които днес правят лекари, медицински сестри и техници (например ултразвук, компютърна томография и електрокардиограма). Междувременно отпада необходимостта от многото учители и университетски преподаватели, които ще бъдат заменени от онлайн курсове и интерактивни онлайн уроци.“
Райх дава и конкретни примери:
„В разцвета си през 1988 г. култовата американска фирма – производител на фотографски продукти – Kodak има 145 000 служители. През 2012 г. Kodak подава заявление за банкрут. През същата година в най-новата фотографска фирма „Инстаграм“ се трудят 13 служители, които обслужват 30 милиона клиенти. Съотношението между производители и клиенти продължава да намалява. През миналата година, когато „Фейсбук“ купува приложението за съобщения „Уотсап“ за 19 млрд. долара, в „Уотсап“ работят 55 души, които обслужват 450 милиона клиенти.“
Още един конкретен пример – главният изпълнителен директор на „Амазон“ Джеф Безос представя по следния начин нов метод за доставка на пратки на компанията в телевизионното шоу „60 минути“ по CBS News на 1.12.2013 г.:
„Безпилотни самолети, които могат да пренасят до 5 килограма, ще доставят пратки до самите къщи на потребителите в рамките на половин час. Те са част от програмата Prime Air на Amazon. Когато пратката е обработена, тя се качва на поточната линия, която я отвежда до чакащия накрая дрон, който я прикача и излита към предварително зададената му дестинация.“
Джеф Безос казва, че 86% от пратките на „Амазон“ са под 5 килограма, което осмисля съществуването на тези летящи доставчици. Веднага след като „Амазон“ докаже, че системата е сигурна и няма опасност от случайни изпускания на пратките от летящи роботи върху главите на хората, Безос обещава, че ще има флотилия от летящи дронове.
Какво се получава?
– Огромна част от няколкото десетки милиона инженери ще остане ненужна, тъй като изкуственият интелект (AI) ще върши тяхната работа по проектиране, управление и развойна дейност.
– Щрихи се добавят и от бъдещето на армията и полицията. Дори и днес армиите са съставени от малко на брой, снабдени с всякакви високотехнологични „джаджи“ суперпрофесионалисти. Автономни дронове и безпилотни самолети, както и бойни роботи, ще заемат мястото на пилоти, танкисти и ракетчици; програмирани пехотинци – киборги или андроиди, ще се присъединят към тях. И това не е сценарий за „междузвездни войни“, а съвсем близка и реална перспектива.
– Подобно бъдеще очаква и правоохранителните органи. Съвършени машини „робокопи“ ще вършат работата на сегашните полиция и жандармерия.
– В търговията, леката промишленост и селското стопанство и днес автоматизацията е на много високо ниво, там изобщо не може и не бива да се очаква допълнителна заетост. Към 2017 г. в супермаркетите масово се въвеждат „автоматични“ каси, на които клиентите плащат на машина, а не на касиер.
– „Свободни“ професии като адвокати, архитекти, дизайнери, психоаналитици, фризьори или масажисти също ще останат без работа, тъй като няма да има кой, за какво и с какво да им плаща, а и част от тяхната работа също ще бъде „трансхуманизирана“, тоест извършвана от машини.
– Дори проституцията ще стане ненужна във вида с участници жени проститутки или мъже жигола. Тяхната роля ще бъде поета от далеч „по-способни“, евтини за „поддръжка“ и съгласни с всичко машини от всякакви възможни – джендъри, джендърни конфигурации и модификации.
Като някаква алтернатива на тези процеси усилено се говори за т.нар. безусловен базов доход. Финландия е най-напреднала в тази сфера, но засега и там нещата са доста „плахи“. Business Insider Nordic съобщава, че експерименталното въвеждане на т.нар. гражданска заплата е вече част от програмата на правителството. Основната идея на безусловния базов доход е да ограничи безработицата.
През 2015 г. във Финландия тя достига най-високото си ниво за последните 15 години. Въпреки това показателят остава най-нисък в сравнение с останалите скандинавски държави. Финландия експериментира с 560 евро безусловен базов доход. Правителството на страната обмисля въвеждането на такъв вид „осигуряване“ на населението. Има вероятност в бъдеще държавата да обърне гръб на всички други обезщетения и на тяхно място да осигури на всеки свой гражданин по 800 евро на месец.
Има и други предложения, като облагане на машините с данък или облагане на компаниите собственици с по-голям такъв. Какво обаче ще се получи в действителност, едва ли можем да се досетим днес.
Можете да поръчате „Трансхуманизмът. Програмираната еволюция на Homo sapiens“ на Иван Спирдонов от издателство Изток-Запад
Би било банално да повтаряме, че нашата епоха се характеризира исторически като начало на четвъртата индустриална революция. Първата индустриална революция се свързва с използването на парата за задвижване на машините, а нейното начало се поставя някъде в края на 18 век. Втората индустриална революция започва с използването на електричество, от една страна, и с научно организирано масово производство, от друга. Третата индустриална революция се основава на автоматизацията на машините, използването на електроника и транзистори и обработката на информацията, съдържаща се в данните. Четвъртата индустриална революция е развитие на третата и е резултат от сближаването на компютърните и комуникационните технологии (интернет). Основната разлика от предишните три е, че при четвъртата революция освен ръчния труд интелектуалният труд, който преди това е бил извършван от хората, е заменен от „машини (апарати)“. Това е качествено важна разлика, която не ограничава използването на „машините“ само в областта на индустриалното производство (фабрики), а разширява използването на „машините“ в целия спектър на нашия икономически живот (търговия, услуги) и същевременно включва „машините“ в начина, по който се забавляваме (музика, филми), в начина, по който осъзнаваме социалното си съществуване като социални същества (социални мрежи), в начина, по който функционираме и се информираме като граждани (медии), в начина, по който интегрираме новите поколения в обществото (образование), и в начина, по който създаваме нашето бъдеще (изследвания, идеологии, култура). С други думи, динамиката на четвъртата индустриална революция създава и оформя, пряко, а не косвено, нова среда, в която човекът, като социално същество, е призван да живее и твори. Тази нова среда се характеризира с конвергенция и обединение на сферите на реалния, цифровия и биологичния „свят“.
Написани са десетки книги, стотици статии в печатната и електронната преса, проведени са много дебати по телевизията, на конференции и в интернет има множество видеоклипове. По-голямата част от съответните изказвания обаче се отнасят до въздействието на новите технологии върху пазара на труда и трудовите отношения, опасенията, свързани с безработицата, от една страна, и възможностите за нови работни места, от друга. Дискутират се опасностите, които тази нова среда крие за функционирането на демокрацията и институциите, за неприкосновеността на личния живот, за сигурността, за потенциала за ограничаване на общественото мнение, от една страна, но и за новите възможности за по-пряка демокрация и по-информирани граждани чрез по-свободен поток от идеи, но и за риска от фалшифициране на събития чрез социалните мрежи. Дискутират се (техно)фобийните чувства, които се пораждат в зората на тази нова ера и се използват от „идеологическите“ търговци, които благовестят комфорт чрез крайни идеологически/религиозни системи, от една страна, но в същото време и освобождаващия импулс и възможностите, които предлагат новите технологии, като например намаляването на работното време, гарантираният минимален доход и възможностите за удължаване на продължителността на живота чрез развитието на медицината и възможностите на така наречената „персонализирана“ медицина.
Много по-малко обаче е писано и обсъждано за самата технология, която движи това развитие, а именно технологията на изкуствения интелект и дълбоките невронни мрежи. В тази статия ще се спрем на този аспект и на някои „философски“ последици, произтичащи от него, с прости, много прости думи. Нашата цел е да „демитологизираме“ тези технологии. Подобна демитологизация е предпоставка за посрещане на предизвикателствата на новата епоха. Нека не забравяме, че политическите теории, идеологиите, а оттам и самата човешка цивилизация, както и теченията, които я оформят с течение на времето, представляват „наративи“. Те са съвкупност от ценности, възприятия и поведения, чрез които възприемаме съществуващия свят и се свързваме с него. А „митовете“ играят доминираща роля при формирането им.
„Митовете“ имат множество прочити. Те могат да активират и да създават визии, от една страна, но могат и да фанатизират и да дезактивират, от друга. Често и двете едновременно.
В зависимост от епохата доминиращият „мит“ може да подхранва чувството за малоценност, чувството за незначителност и склонността да се приемат събитията като неизбежни. Той може да подкопава самочувствието на гражданите и съответно техния оптимизъм – предпоставка за бъдещето им – и по този начин да ги лиши от способността за критично отношение и намеса. И още по-лошо – може дори да засили в тях чувството на страх. От друга страна, същият този „мит“ може да действа и като оръжие в ръцете на силните представители на съществуващата или на новата възникваща управляваща класа във времена на големи сътресения като нашите. Новият „мит“, който винаги се създава в нови „епохи“, съзнателно или несъзнателно, умишлено или неумишлено, може да действа като пречка и като препятствие за социалните интервенции, необходими за постигане на нови баланси и институционални щитове… И, разбира се, тези митове се използват от съответните нововъзникващи „жреци “ и съответните лидери на „системата“, които понастоящем са представени – показно – от Силициевата долина в САЩ и Шънджън в Китай. Всяка нова епоха съдържа семената на един „фундаментализъм“, който често предопределя развитието.
Настощият „мит“ или, ако искате, един от аспектите на новия „мит“ насърчава възгледа, че гореспоменатите машини имат „интелект“. Настоящият мит „пропагандира“, че тези машини ще изместят човека, защото ще станат по-висши. Настоящият мит предвижда, че тези машини ще се наложат над човека заради своето превъзходство и интелигентността, която произвеждат. Настоящият мит благовести, че скоро научните постижения на изкуствения интелект (ИИ) ще създадат „машини“ със свръхчовешки интелект и че епохата на човека приключва. Да, всички тези възгледи са изразени от така наречените „гурута“ на новото време. Така, имплицитно, човекът се оприличава на друга „машина“ и дори отстъпва на тези, които сам е създал. Не знаем какво може да се случи в бъдеще и тази статия не е научна фантастика. Статията е написана от университетски преподавател, който се занимава с тази тема от няколко десетилетия, а коментарите ни се отнасят до това, което може да се предвиди въз основа на научното настояще и технологичните събития днес. И ако перифразирам думите на Витгенщайн, пиша за това, за което мога да пиша. За останалите ще замълча.
Твърдим, че терминът „изкуствен интелект“ не е изпитан и вероятно е подвеждащ. Интелигентността на днешните компютри може да се сравни само с интелигентността на човешкия вид преди няколко милиона години. Днес „машините“ с изкуствен интелект не могат да правят нищо повече от това да „предвиждат“ въз основа на предишния си опит, заложен в данните, събрани и използвани за така нареченото им обучение; т.е. както котката „предвижда“ какво ще се случи, когато види куче, и въз основа на предишния си опит си бяга, както човекът в древността е можел да предвиди, че слънцето ще изгрее, защото е изгряло вчера и по-предния ден и т.н, но в деня на слънчевото затъмнение той ще се паникьоса и ще призове духовете. Интелектът на машините днес е ограничен до т.нар. дедуктивно мислене. Това е типът интелигентност, който доминира в животинското царство.
Но това, което отличава човешкия интелект от тази на животните, е способността за разсъждение, способността да се правят логически асоциации и най-вече способността на човека да тълкува и обяснява; да създава хипотези и да ги проверява или отхвърля. Човешкият интелект се характеризира най-вече със способността на ума да създава понятия и идеи, които съдържат обобщения, и да ги обработва. Светът, който ни заобикаля, е особено сложен, за да можем да го възприемем във всичките му детайли. В продължение на милиони години еволюция човешката интелигентност е придобила способността да обработва абстрактни понятия/идеи – представи в ума, които не произтичат директно от сетивния ни опит. В света не съществува математическа „права линия“. Този свят на идеите събудил любопитството на Платон и той стига до една хипотеза. Тези абстрактни понятия дават на човека възможност да опростява и същевременно да „кодира“ квинтесенцията на предметта на мисълта. Както казваме в машинното обучение, човешкият ум има способността да обобщава и представя „класове“ от обекти и същности. С други думи, идеята/класът „котка“ представлява всички котки, независимо от размера, цвета, възрастта и всички особености, свързани с всяка конкретна котка. И преди всичко, това е способността на ума, с помощта на езика, да възприема света около себе си, да му „вложи“ значения/смисли и да твори.
Творчеството е квинтесенцията на човешкия интелект. Не само в смисъл на създаване на произведения на изкуството или научни открития, но и в ежедневието ни. Всяко човешко същество създава себе си всеки ден. Решенията ни за каквото и да било не са предопределени/предвидими. Никой не може да предвиди, започвайки една връзка, каква ще бъде тя след един месец. Никой не може да предвиди бъдещето на работата си след една година и какви решения ще трябва да вземе тогава. Човешкият ум се учи и взема решения в постоянно променяща се среда. И най-вече, решенията му се основават на непълно и неясно знание. Защото човешкият ум, в продължение на милиони години еволюция, е развил механизми за интелигентност/интелект, които използват не само неговата логика, но също така, едновременно и чрез процес, който все още не сме разбрали напълно научно, неговите емоции и чувства (в допълнение към инстинктите, разбира се). Защото човек използва тялото си (т.е. сетивата си), за да учи. Защото човекът не е „мозък“ в бутилка, а живее в света.
Картезианският дуализъм „ум-тяло“ отстъпва място на нови теории, водени от философите Мерло-Понти, Полани, Драйфус, потвърдени от откритията в неврологията. Движението ни в триизмерния (т.е. този, който възприемаме пряко) свят, който ни заобикаля, инструментите, които използваме, и съответните умения, които „научаваме“ и се запечатват в съзнанието, са резултат от сътрудничеството между ума, тялото и чувствата. Преди всичко, ние не усвояваме умения чрез просто подражание, както правят маймуните. Не научаваме специфични движения и не изолираме стимули. По-скоро от един контекст, от цялото и с помощта на съдействието на различните ни сетива научаваме общ тип решение, което съответства на общ тип проблем. По този начин, благодарение на тази всеобхватност на ученето, човек може да се сблъсква и да решава проблеми, различни от тези, които са част от неговия предишен опит. Той може да създава и пренася знания в нови ситуации. Тези ситуации могат да бъдат много различни една от друга и дори да се различават в отделните си детайли, стига да имат обща критична точка, която ги прави част от общото третиране. С други думи, основната характеристика на човешкия интелект не е (дедуктивното) прогнозиране въз основа на предишен опит, а творчеството, което използва предишни знания, но не като имитация, а като трамплин за обобщаване, концептуализиране и обяснение.
За разлика от човешкия интелект, бихме казали, че „машините“, които понастоящем прилагат техники за машинно обучение, са екзистенциално „глупави“. По същество техниките за машинно обучение представляват статистика. Чрез данните от наблюденията те научават статистическите свойства и след това прогнозират. Например, ако много пъти сме виждали сиви облаци и сме чували гръмотевици, прогнозираме, че ще вали. Подобно на птиците. Точно това правят статистическите модели и на това учим нашите ученици от десетилетия. Какво се е променило? Първо, обемът на данните, които използваме за „обучение“ на „машините“, обемът на данните, които използваме, за да научим съответните статистически свойства, е несравнимо по-голям от този, с който разполагахме, да речем, преди 10-15 години. Второ, изчислителната мощ е много по-голяма от тази, която имахме преди 10-15 години. Така че сега можем да използваме някои по-сложни модели за моделиране на статистическите свойства на данните. Но основната методология остава непроменена от десетилетия. Т.нар. невронни мрежи, за които сме вдъхновени от структурата, по която работи мозъкът (между другото, тяхната функция има много малко общо с работата на мозъка), са математически модели, които ни позволяват ефективно да кодираме информацията в данните. С други думи, тези модели, чрез йерархия от представяния и математически трансформации на информацията, улесняват извличането на статистически свойства в сравнение с по-старите модели, които използвахме.
След като сме обучили статистическия модел, т.е. научили сме статистическите свойства на данните, когато имаме нови данни, можем да правим прогнози с определени вероятности. Тъй като тези модели са мощни и доста общи, грешките в прогнозите са много малко. Тези прогнози имат впечатляващ процент на успеваемост.
Това, разбира се, е при условие, че статистическата структура и информация в новите данни, за които правим прогнозите, са много сходни с тези в данните, върху които е обучена мрежата. Когато една мрежа предсказва, че обектът в изображението е например котка, мрежата не е създала „понятието“ за котка по време на обучението си. Тя просто разчита на статистическите характеристики, които е „научила“ за котката. За по-голяма простота нека кажем, че тези характеристики са дължината, цветът, структурата на козината, четирите лапи, опашката, формата на носа и т.н. За да се обучи една мрежа, са необходими хиляди данни за обучение, т.е. изображения на котки в различни цветове, в различни пози, с различни размери и т.н. За разлика от тях, детето се научава да разпознава котките веднага щом види една, а може би и две. То веднага създава „понятието“ за котка и това е всичко. Нещо подобно се случва и при превода от един език на друг. Чрез милиони текстове, преведени от един език на друг, „машината“ научава възможността следващата дума да е, да речем, „вода“, когато предишните думи са били „чашата е пълна“. За разлика от това, човекът, от една страна, разбира „смисъла“ на всяка дума, а от друга, има способността да се съсредоточава върху най-важните части на изречението, след като първо е разбрал „целия“ смисъл, т.е. за какво се отнася изречението.
С други думи, технологията за машинно обучение днес ни напомня за ученика, който не е разбрал нищо, но е запомнил всичко благодарение на много добрата си памет. Така, ако му се зададе въпрос за нещо, което е запомнил, или нещо много близко до него, той отговаря правилно (прогноза въз основа на статистиката). Ако въпросът е малко по-различен или думите, с които е формулиран, са различни от думите, които е запомнил, той дава грешен отговор. Същото важи и за техниките за машинно обучение. Може да разпознават обекти на снимки и лица с удивителен успех, но в същото време, ако променим малко данните по начин, по който никой човек не би могъл да забележи такава промяна, вместо „котка“ машината може да направи прогноза, например, „жилищна сграда“ (това са т. нар. в машинното обучение „противоположни примери“). Хората обработват понятия и значения, а машините обработват статистически данни като безсъзнателен процес.
Исторически погледнато, областта на изкуствения интелект започна амбициозно някъде около 50-те години на миналия век. Тогава Тюринг поставя въпроса: „Могат ли машините да мислят?“. Тогава започват да си представят и конструират машини, които да могат да мислят – машини, основани на синтактични правила и логическа обработка на символи. Въпреки че тласъкът е даден от първите компютри, създадени по онова време, и теориите на Тюринг, тази визия и цел е продължение на многовековна философска традиция в западната философия от Платон насам. Това е тенденцията „умът“ да се тълкува като алгоритмичен процес, който обработва символи, теорията, че всяка мисъл не е нищо друго освен операции върху добре дефинирани символи/понятия в рамките на правилно дефиниран математически формализъм. Донякъде аналогично на законите на физиката, които могат да бъдат изразени чрез математически модели и символи, човешката мисъл може да бъде изразена чрез синтактични логически правила. Характерно за Хобс е, че „мисълта (разумът) не е нищо друго освен пресмятане (reckoning)“. По-късно Лайбниц се опитва да разработи система на символен език, в която всяко понятие би имало пълно определение и символ и би могло да се изрази като функция на някои основни понятия, като по този начин цялото знание би могло да бъде представено „обективно“. Тази философска линия достига своята кулминация с логическия индивидуализъм на Ръсел и ранния Витгенщайн, който в своя класически труд „Трактат“ твърди, че знанието се състои от „отделни“ факти, които могат да бъдат изразени чрез независими логически пропозиции. Според тази философска тенденция мозъкът не е нищо друго освен алгоритъм. Мински, един от пионерите на изкуствения интелект, оприличава мозъка на „машина за месо“.
Въпреки първоначалните впечатляващи успехи през 50-те и 60-те години на миналия век, областта на изкуствения интелект не се развива. Тя вдигаше ръце, когато проблемите ставаха по-сложни. Има две основни причини:
Първо, дори ако мисловният процес може да бъде формализиран и сведен до управление на логически синтактични правила в контекста на формален език, броят на комбинациите и логическите връзки, необходими за вземане на решение, е извън възможностите на цифровите компютри.
Могат да се решат само малки проблеми. Това се дължи на сложността на реалността и на големия брой възможни непредвидени ситуации в живота. Това е все едно да поискате от шахматист да изчисли всички възможни комбинации на всички бъдещи ходове. Но това е невъзможно. Шахматистът може да изчисли само сравнително малка комбинация от бъдещи ходове; добрите шахматисти – повече, а по-малко опитните/добри шахматисти – по-малко. Освен това дори компютрите, които играят шах, далеч не следват този комбинаторен метод. Много скоро, след сравнително малък брой бъдещи ходове, необходимият брой изчисления ще отнеме толкова време, колкото е животът на нашата Вселена!
Второ, понятията не могат да бъдат описани чрез различими символи. Всяко понятие придобива значението си чрез своя контекст. То няма обективна същност. Няма точни определения. От философска гледна точка това озадачило Платон и Аристотел и е известно още от онези времена.
Човешкият ум се сблъсква с първата трудност, свързана с управлението на голям брой възможни непредвидени ситуации, като решава кое е „важно“ или не във всяка една конкретна ситуация. Механизмът на вниманието/фокуса се задейства, за да освети най-важната информация. От множеството възможни непредвидени обстоятелства голям брой от тях се изключват, както съзнателно, така и несъзнателно. Изключването на непредвидени обстоятелства е резултат от невробиологични процеси, които се развиват в мозъка, стимулирайки или дезактивирайки неврони в различни области на мозъка, и където усещанията, емоциите, чувствата, ценностните системи, преживяванията, запечатани в активната памет и в подсъзнанието, и всичко останало, което наричаме сегашно състояние на ума, работят заедно, стимулирайки съответните физически представи в невроните на мозъка, от които се определя сегашното състояние на ума. С други думи, еволюционно по-висшата част на мозъка (неокортексът), която се стимулира от процесите на мислене и възприятие (рационална), е в пълно сътрудничество с по-примитивната, ирационална част (хипоталамус, мозъчен ствол и лимбична система), за да се изключат непредвидени ситуации и по този начин да се разсъждава върху подмножество от възможни непредвидени ситуации, така че да се стигне до окончателно решение за кратко време. Често говорим за „интуиция“, за да изразим съвкупността от всички тези несъзнателни процеси, които помагат на мисленето да стигне до решения, което е основната цел на мисленето.
Както посочва Дамазио в книгата си по темата, след унищожаването на части от мозъка, свързани с емоциите, пациентите губят способността си да вземат решения. Намаляването на емоционалните способности се свързва и с прояви на нелогично интерпретируемо поведение. В крайна сметка всички знаем това от личен опит. Когато сме емоционално натоварени, логическите асоциации и решенията, които следват, не следват същия „път“, както ако бяхме в друго психическо състояние. Освен това опитът, личните ценности и социалните стереотипи на всеки човек до голяма степен определят начина, по който реагираме, и решенията, които вземаме във всеки отделен случай. Това, което се случва в мозъка, е, че всичко това автоматично (несъзнателно) регулира мрежите на взаимодействие на невроните, така че да ограничават пространството/броя на възможните непредвидени ситуации, които потенциално би трябвало да разгледаме, за да можем да вземем решение.
Нито едно от горепосочените неща не прилича на „алгоритъм“. Алгоритъмът се състои от предварително определени логически стъпки, действащи върху точно определени символи. Онези, които казват, че мозъкът е алгоритъм, или не знаят какво е алгоритъм и/или как работи мозъкът. Физико-химичните процеси, които протичат в мозъка, не са алгоритмични. И разбира се, когато говорим за физико-химични процеси, нямаме предвид ума, а физическия субстрат, съставен от неврони. Умът е потокът от субективни преживявания, той е начатакът наа творчеството и въображението. Мозъкът се състои от милиарди неврони, синапси и електрохимични процеси. Умът е съзнание. През последните двадесет години бяха проведени значителни изследвания на функционирането на мозъка и днес знаем много повече, отколкото преди няколко години. Но досега нямаме и най-малка представа как мозъкът и умът си взаимодействат. Според философа Чалмърс изучаването на мозъка е „лесният“ проблем. „Трудният“ проблем е да разберем как този комплекс от взаимодействащи си неврони и йонен обмен е свързан с това, което наричаме ум и съзнание. Науката все още не е дала отговори, а философите спорят относно тълкуването.
Вторият аспект, който отличава човешката мисъл от философския възглед, който „вижда“ ума като алгоритъм, е, че човешкият ум не борави ясно и добре с определени символи, а с неясни понятия. Кой може да дефинира понятията „щастие“, „свобода“ или „благочестие“? Последното понятие и неговата дефиниция занимава Сократ в Платоновия „Евтифрон“. В продължение на милиони години еволюция мозъкът/умът е разработил стратегии за справяне с неяснотите. „Цялото“ осмисля индивида и не е структурирано от отделни независими части. Според философа Хусерл и неговия феноменологичен подход начинът за възприемане на сложни модели е чрез създаването на първоначално неясно и неточно определено „цяло“, което след това постепенно се попълва с детайли, извлечени от предишния ни опит и спомени. Думата (частта) придобива значението си в контекста на фразата (цялото) и нашия по-общ предишен опит. Лингвистите знаят това много добре. В музиката всяка нота придобива своята музикална стойност чрез цялата мелодия. И както казва Витгенщайн, „устата се усмихва само в рамките на лицето“. С други думи, тълкуването на „частта“ зависи от „цялото“, в което тя съществува. За разлика от тях, в един цифров компютър, чието функциониране се основава на използването на формални езици, „цялото“ се изгражда от отделните елементи чрез комбинация от логически операции и синтактични правила.
С предходната дискусия се опитахме да изясним, че това, което наричаме човешки интелект, засега няма нищо общо с това, което наричаме изкуствен интелект, още по-малко с клона на изкуствения интелект, известен като машинно обучение, който в момента е движеща сила на развитието, въпреки че те могат да изглеждат сходни и да изпълняват сходни функции. Машинното обучение заимства силата си от компютърните технологии за съхраняване на огромни количества данни и много бързо извършване на числени изчисления. Тук човекът изостава, както изостава да се справи със силата на ръката си в сравнение с булдозера. От друга страна, човешкият интелект се гради върху абстрактната сила на понятията и смисли и на съгласуваността, осигурена от вродения еволюционно творчески стремеж. Компютрите са неинтелигентни обекти. Акцентът в компютрите е върху конкретното, подробното, специфичното, конкретните данни, въз основа на които те оптимизират работата си. Компютрите се основават на алгоритми, които оптимизират с акцент върху съществуващите данни, т.е. „миналото“. Те се основават на „факти“. При човешкия интелект акцентът е върху постоянно променящото се „цяло“. Както ни казва Хайдегер, „крайната цел на едно решение в човека не е да постигне една цел, която бележи края на един път. Във всеки един момент ние пренастройваме съвкупността от преживявания и планираме действията си, като се фокусираме и избираме според настоящата ситуация и нуждите си в момента.“ Човекът не е събитие или съвкупност от събития. Човекът създава събитията и себе си, като живее в света. Както казва Пиаже, нашият интелект се създава чрез „концептуални революции“.
Разликата между човешкото творение и компютърния модел е, че това, което сме „днес“, не би могло да се предвиди от това, което сме били „вчера“. За разлика от моделите за машинно обучение, „днес“ може да се предскаже от „вчера“. Това е мястото, където компютърът изостава. Бихме могли да кажем, че понятието „настояще“ има съвсем различно значение при човека и машината. В „машините“ настоящето придобива огромно значение, защото оптимизираме моделите си, сега и тогава, за конкретна цел. Човек, както ни казва и Паскал, забравя „настоящето“ и когато си спомня за него, то е, за да види лъча светлина, който то оставя, за да освети плановете ни за бъдещето.
Един от въпросите, които възникват, е доколко „машините“ биха могли да придобият интелект като тази на човека. Нашият отговор е: може би. И в момента се провеждат изследвания и инвестиции в тази посока, която на малко по-технически език се нарича силен изкуствен интелект. Предпоставка за това, разбира се, е да разберем как всъщност работи човешкият интелект. Знаем някои от неговите характеристики и предпоставки. А именно памет, съзнание, смисъл. Но не знаем как точно се създават и как работят. Тоест как от физическите неврони и биохимичните процеси, протичащи в мозъка, се изгражда съзнанието в ума, как се създават понятия, идеи и значения, как се създава това, което наричаме разбиране.
Ако си позволим аналогия, ние познаваме много добре химията на ДНК и гените, които изграждат елементите на живота. Но не ние сме създали живота. Засега интелектът, който съществува в машините, е разработен от човека. Част от човешкия интелект и творчество са „имплантирани“ в „машината“, която просто извършва аритметичните действия – ако искате да го кажем така. Според нас бихме могли да говорим за „машини“ с интелект само ако те могат да генерират нови знания по време на изпълнението на програмата, а не само в процеса на разработване на програмата от програмиста. В същото време „машината“ трябва да може да „обясни“ защо и как. Самото прогнозиране не е интелект, ако не е придружено от обяснение. Усъвършенстването на „машините“, за да се преструват, че мислят, не е същото като мисленето.
От всичко казано дотук някой може да предположи, че се опитваме да омаловажим постиженията на технологията. Не е така. Постиженията са огромни и достойни за удивление, не само по отношение на приложенията, но и на научното творчество. Това, което искаме да подчертаем, е, че тази технология е – или поне трябва да бъде – това, което са били предишните, т.е. още един „инструмент“ в услуга на човека и неговите нужди. Тя е допълнителен инструмент в историческото му творческо пътуване, наречено „цивилизация“. И както всяка нова технология, тя създава нова среда, в която човекът трябва да функционира и да живее. В тази нова среда ще създадем своите нови ценности и „значения“, своя нов разказ, своята екзистенциална сфера, както би казал Киркегор.
Това, което се опитахме да подчертаем в казаното по-горе, е, че опасността не е от това, че интелектът на „машините“ ще надмине нашия. Опасността е да сведем собствения си интелект до алгоритмичното/статистическото ниво на изкуствения интелект и машинното обучение. Някои от нашите предци са вярвали, че тотемите имат жива енергия и свръхчовешки способности, и се молели на тях. Ако приписваме на „машините“, които създаваме, характеристики на свръхчовешки интелект, това ще се дължи на факта, че сме принизили достойнството на собственото си „съществуване“. С други думи, опасността е, че от творящи „същества“ ще се превърнем в „алгоритми“ или подпрограми на някакви алгоритми. Опасността е да повярваме, че сме „машини за месо“ и да отъждествим „ума“ с милиарди неврони и трилиони синапси, стимулирани от електрохимични процеси, т.е. това, което е „мозъкът“, и да оставим да се парализира това, което умът наистина е, а именно потокът от субективни преживявания, гняв, тъга, любов, страх, радост, удоволствие, възторг, завист – да, всички те едновременно – и същевременно съзнание, осъзнаване и замисъл за сътворяване и въображение.
Изразяваме опасения, че тенденцията през последните десет години е към алгоритмизиране; превръщането ни от програмисти в програмируеми „мозъци“. От потребители, които контролират технологиите, ние все повече се превръщаме в обекти, използвани от технологиите в новата среда, в която съществуваме, свързани сме (онлайн) 365 дни в годината и постоянно предоставяме данни/информация за навиците и личния си живот. Тези данни се използват, за да ни оформят според картината, която данните и алгоритмите предвиждат за нас. Информацията, която получаваме, новините, които гледаме, и музиката, която ни препоръчват, са различни за всеки от нас. Ние се индивидуализираме, десоциализираме и по този начин по-лесно ни поставят юзди. Обучават ни да бъдем пасивни потребители, а не активни граждани.
Ако изхождаме от гореизложеното, силата и предимството на човека пред машините са неговата креативност и способността му да обяснява и обозначава света със значения. Не да реагира предсказуемо и глупаво. Именно тези елементи трябва да създадат новия „мит“ на новото време. А творчеството има две страни: способността да критикуваш и да мислиш свободно, от една страна, и общителността, от друга. Картезианците казват: „Мисля, следователно съм“ („Cogito ergo sum“). Тази сентенция за момент е изместена от друга сентенция, тази на Витгенщайн: „Разсъждението предполага език, а езикът – общество“. Затова, ако можем, бихме казали: „Мисля, следователно съществувам в обществото“. Ние не казваме „не“ на „машините“, а изтъкваме превъзходството на човека над машините и искаме общество, в което ще боравим с тях, а не те с нас, и в което сме свободни да изразяваме своята креативност и общителност. Новите знания сами по себе си не предполагат ценностна система.
Съществува това, което знаем, но съществува и посоката, в която искаме да вървим – това, към което се стремим. Ценностите не съществуват в природата, те се създават в нашето въображение.
През последните години се наблюдава тенденция технологиите, компютрите, кодирането и роботиката да се преподават възможно най-рано в училищата. Да, очевидно не казваме „не“. Но тази тенденция съществува в рамките подготовката за бъдещия пазар на труда; за нашата конкурентоспособност. Не се настройваме негативно по този въпрос. Това е важен аспект на образованието. Но има и друг, по-важен параметър на образованието, а именно възпитанието на граждани. От тази втора гледна точка преподаването на тези важни предмети трябва да се извършва и от другата им страна, в контекста на социалните науки, които, наред със софтуерните инженери, ще подготвят граждани, които ще живеят в новата среда; граждани с критични способности, които ще имат повишена чувствителност към фалшивото и реалното; граждани с творческо въображение, тъй като в това се състои тяхното предимство пред „машините“; граждани, които, преживявайки и живеейки в цифровата реалност (социалните мрежи и тяхната реалност са тук), в същото време няма да отслабят активното си присъствие и контакт с „реалната“ реалност; граждани, чиято цифрова реалност ще действа като допълнение към реалната реалност на „външния свят“, която няма да им предоставя дребни заместители за отдушник на техните желания и очаквания.
А „външният свят“ е неговото собствено общество, неговата собствена среда, с неговите ангажименти, зависимости, задължения, т.е. неговото социално съществуване. А социалната ипостас (съществуване) означава състрадателност, толерантност и уважение към различните. За разлика от цифровата реалност, която, както понастоящем е структуриран моделът, по който функционират съответните платформи, е особено уязвима за насърчаване на фанатизъм, разпалване на страсти, издигане на бариери, разделяне и ограничаване. Защото алгоритмите й не са разработени, за да служат на демокрацията и откритото общество, а за да обслужват интереси, да създават клиенти и да приравняват, доколкото могат, човека с „машината“.
Тази статия песимистична ли е? Дали това е статия, от която лъха неолудизъм, която напомня за лудитите от 19-и век, които чупят машините? Точно обратното, и затова предоставяме тази статия. Да споделим с читателите нашите възгледи, които не са страх от технологиите, а, напротив, вътрешна сила на оптимизма за човека, който ще управлява, а няма да бъде управляван от технологиите. Оптимизмът не е пророкуване на розово бъдеще, което обещава щастие (това сме го чели и от „гурутата“ в жанра, които предвиждат имплантиране на чипове за щастие в мозъка – един вид електронен опиум). Оптимизмът означава, че приемам технологията, но боравя с нея, а не тя с мене; оптимизмът означава, че имам критично отношение към потенциално погрешни избори и най-вече оптимизмът ми произтича от моето убеждение, моето дълбоко убеждение, че „злото“ се дължи на изкривена или непълна информация. И ние сме оптимисти, защото не вярваме в решения от магьосници и вълшебни пръчици и в „готови“ решения, изкопани от миналото, а в общества, които са отворени и свободни, които се учат от грешките си, обсъждат, преосмислят целите си и създават бъдещето си, точно както функционира човешкото познание.
При това историята е творческа еволюция, както ни казва Бергсон.
*Авторът е почетен професор по машинно обучение и обработка на данни в Университета в Олборг (Дания) и член на Националната комисия по биоетика и техноетика
Лecнo e дa cи пpeдcтaвим, чe зacтpaxoвaтeлнaтa ĸoмпaния ви oтĸaзвa, въз ocнoвa нa дaннитe зa тoвa ĸoлĸo пъти ви e xвaнaлa ĸaмepaтa, ĸoгaтo шoфиpaтe c тeлeфoн в pъĸa.
Или пoтeнциaлeн paбoтoдaтeл мoжe дa ви oтĸaжe paбoтa въз ocнoвa нa вaшия „coциaлeн peйтинг“.
![Oº CYBER ARMY ºO [3301]](https://anoncyberarmy.files.wordpress.com/2019/06/111.jpg)
Oº CYBER ARMY ºO [3301] 