Смартфоните, роботите и компютрите улесняват живота ни, но може би губим нещо в процеса? Репортер от една от публикациите разговаря с американския писател Никълъс Кар за опасностите и дори заплахите от свръх автоматизация.
Широко разпространено е мнението, че автоматизацията на всичко и всеки подобрява качеството на нашия живот. Компютрите ни помагат да постигнем максимална производителност. Софтуерните приложения правят задачите по-бързи и лесни. Роботите поемат досадната и упорита работа. Постоянният поток от иновации от Силиконовата долина само засилва вярата на хората, че новите технологии подобряват живота.
Съществува обаче друго мнение. Писателят Никълър подлага постулатите на съвременния дигитален свят на безпристрастен анализ. Есето му „Google ни прави глупави?“, Публикувано в списание Atlantic през 2008 г., все още е противоречиво, както и книгата му за бестселъри „The Shallows“за 2010 г.
Кар се вижда от привържениците на теорията, че технологиите ще спасят света ни като един от най-мощните им противници. А тези, които внимават за последствията от технологичния прогрес за човечеството, го уважават за балансирано разсъждение.
Сега Кар се интересува от нов въпрос: трябва ли да се страхуваме, че постепенно няма да има трудни задачи за нас в света? Ще стане ли животът ни твърде ефективен благодарение на новите технологии?
Преди малко журналистът (T. C.) се срещна с писателя, за да поговори за новата си книга „Стъклената клетка: Автоматизация и нас“и какво го накара да я напише.
1. Развръщане на основния мит за новите технологии
Промоционално видео:
"Ние смятахме, че ефективността и комфортът са добри по подразбиране. Този подход е доста наивен."
Том Чатфийлд: Ако разбирам правилно, в The Glass Cage се опитвате да развенчаете мита, че опростяването на нашия живот чрез технологичен прогрес е задължително положително явление.
Никълъс Кар: И в личен, и в институционален план ние сме свикнали да мислим, че ефективността и комфортът са добри по подразбиране, а увеличаването им със сигурност е достойна цел. Струва ми се, че този подход към технологията във всичките й форми, особено под формата на компютърна автоматизация, е доста наивен. Това се отнася и за собствените ни желания и реалния живот в съвременния свят.
Ще компенсират ли компютрите някога хората?
Т. Ч.: И все пак повечето привърженици на технологичния прогрес се придържат към утилитарната гледна точка, според която най-големите грешки, които правим, се дължат на пренебрегване на ефективността и логиката, а всъщност самите ние не знаем какво е добро за нас. Следователно, от тяхна гледна точка, задачата на технологичния прогрес е да идентифицира недостатъците на човешкото мислене и след това да създаде системи, които да компенсират тези недостатъци. Това мнение грешно ли е?
Н. К.: От една страна, много иновации в развитието на компютърните технологии и развитието на автоматизирани системи нямат нищо общо с широкото твърдение, че хората са много несъвършени в сравнение с компютрите. Да, компютърът може да бъде програмиран да изпълнява определени операции за неопределено време с постоянно качество. И вярно е, че човек не е способен на това.
Но някои отиват още по-далеч и твърдят, че хората са твърде несъвършени, че тяхната роля трябва да бъде ограничена колкото е възможно повече, а компютрите трябва да отговарят за всички основни задачи. Тук не става въпрос само да се опитаме да компенсираме човешките недостатъци - идеята е да премахнем изцяло човешкия фактор, в резултат на което, твърди се, животът ни ще стане много по-добър.
ТК: Изглежда, че това не е най-добрата идея. Има ли оптимално ниво на автоматизация?
Н. К.: Според мен въпросът не е дали трябва да автоматизираме тази или онази сложна задача. Въпросът е как използваме автоматизацията, как точно използваме компютрите, за да допълним човешките знания и умения, да компенсираме недостатъците в човешкото мислене и поведение, а също и да стимулираме хората да се възползват максимално от собствения си опит, за да достигнат нови висоти.
Прекаленото разчитане на софтуера може да ни превърне в наблюдатели на компютърен монитор и оператори на процеси. Компютрите могат да играят много важна роля, защото ние сме само хора - можем да станем плячка за предразсъдъци или да пропуснем важна информация. Но опасността е, че е твърде лесно да се възлагат всички наши функции на компютри, което според мен би било грешно решение.
2. Трябва ли да доближите реалния живот към сценария на видео игра?
"Харесваме компютърните игри именно защото не са лесни за игра."
ТК: С удоволствие отбелязах, че във вашата книга цитирате видеоигри като пример за взаимодействие в системата „човек-машина“, в която смисълът е да се преодолеят трудностите, а не да се избягват от тях. Най-популярните игри са вид работа, която дава на играча усещане за удовлетвореност. Можем само да се оплакваме, че работата, която много от нас трябва да вършим всеки ден, изисква много по-малко умения и ни носи много по-малко удоволствие.
N. K.: Видеоигрите са много интересни, защото тяхната концепция противоречи на общоприетите принципи на разработка на софтуер. Целта на компютърните игри изобщо не е да облекчи потребителя от неудобството. Напротив, те стимулират играча да положи допълнителни усилия и да увеличи максимално използването на мозъка. Наслаждаваме се на видеоигрите именно защото ни предизвикват с все по-големи предизвикателства. Постоянно се оказваме в трудни ситуации - но не и в ситуации, които предизвикват отчаяние. Преодоляването на всяко ново ниво само засилва нашите умения.
Този процес е много подобен на това как човек придобива житейски опит в реалния живот. Както знаем, за да развие способности, човек трябва отново и отново да се сблъсква със сериозни препятствия и да ги преодолява отново и отново, използвайки всичките си знания и умения. Постепенно човек достига ново ниво, след което трудността на препятствията се увеличава.
Мисля, че хората обичат видеоигрите по същата причина, поради която получават удовлетворение от натрупването на нови преживявания и преодоляването на препятствия. Решението на една трудна задача, в процеса на която се придобиват нови знания, необходими за преодоляване на нови, още по-сложни трудности, доставя на човека голямо удоволствие.
Едно от основните притеснения, които изразявам в книгата, е, че отношението ни към прогреса е свързано с желанието да избягваме максимално решаването на трудни проблеми. Струва ми се, че тази гледна точка противоречи на самата концепция за удовлетвореност от живота и самореализация.
3. Компютрите ще премахнат ли нуждата от хора?
„Хората просто не могат да са в крак с компютрите, когато търгуват с финансови инструменти“
TC: За разлика от видеоигрите, в реалния свят усилената работа не е задължително възнаграждавана. Реалният свят е несправедлив и небалансиран. Може би най-тревожната тенденция тук е, че интересите на индивида (психологически, лично и дори по отношение на оцеляването) все повече престават да съвпадат с корпоративните и правителствените представи за целесъобразност. Страхувате ли се, че най-накрая компютрите ще заменят хората?
Н. К.: Когато събирах материал за книгата, много се уплаших от статия (цитати, от които цитирам в текста), написана от специалист по военна стратегия. Според него, предвид нарастващия мащаб на използването на компютърни технологии на бойното поле, много скоро може просто да няма място за човек във военните дела. Скоростта на вземане на решения се е увеличила толкова много, че хората просто не могат да бъдат в крак с компютрите. Неминуемо вървим към напълно автоматизирана война: безпилотните летателни апарати сами ще решават кога да стрелят ракети по цели, а роботизираните войници на земята ще решат сами кога да стрелят.
Според мен тази ситуация се наблюдава не само във военните дела, но и в много други области - например в света на финансите. Хората просто не са в крак с компютрите, когато търгуват с финансови инструменти, например.
Какво ни очаква? Можем не само да загубим способността, която ни отличава от компютрите за критична оценка на собствените ни действия - може би ще прилагаме такива системи безмислено, вярвайки, че основното е бързината на вземане на решения. И тогава, ако сме убедени, че сме сгрешили, ще открием, че няма връщане назад. Много често се оказва невъзможно интегрирането на човек в система, първоначално изградена на компютърни технологии.
ТК: Бях също ужасен, когато прочетох пасаж във вашата книга за автоматизираната война. Имам чувството, че процесът, който ще ни доведе до напълно автономни бойни системи, не може да бъде спрян. Част от моя ужас идва от спомените за финансовата криза от 2008 г., която на практика изтри трилиони долари. Поне сега хората са по-отговорни за своите финанси. Но ако това се случи във военната сфера, ще бъдат унищожени не долари, а човешки животи.
Освен това ми се струва, че има една мисъл, която се отнася до предишната ви книга „Празна“: днешните хора в биологичен смисъл не са много различни от нашите предци, живели преди стотици години, но ние живеем в напълно нов свят. последиците от определени действия отдавна надхвърлят скоростта, с която сме свикнали. Същото се отнася и за новите изобретения - те самите под формата на информация и алгоритми, както и техните последици се разпространяват с потресаващи темпове.
Бъдеще без хора?
Н. К.: Въпросът е не само в това, че новите технологии, особено технологиите в областта на софтуера, днес могат да бъдат повторени и разпространени много бързо. Въпросът е, че всички тези процеси протичат в конкурентна среда. Независимо дали говорим за оръжейна надпревара или конкуренция в бизнеса, веднага щом някой от съперниците спечели краткосрочно предимство за сметка на определена технология, те веднага започват да въвеждат тази технология, когато е възможно - защото никой не иска да остане в неизгодно положение.
Мисля, че в тази ситуация е твърде лесно да се изгуби факта, че по същество сме животни. Хората са преминали еволюционен път в продължение на хилядолетия, за да могат да живеят и да оцелеят. Ролята на човечеството, както и чувството ни за удовлетвореност и самореализация, са тясно свързани с опита ни да живеем в свят, който задава нашето обичайно темпо.
Ето защо, когато се противопоставим на човек, с всичките му физически предимства и недостатъци, на бърз и точен компютър, има желание да предадем целия си живот на компютрите. Ние обаче забравяме, че пълното подчинение пред компютъра ще ни доведе до живот, в който ще има малко място за самореализация.
4. Как да автоматизираме света?
„Можете да иновавате интелигентно, но можете да го направите леко“
ТК: Мисля, че трябва да бъдем критични към новите технологии, но се притеснявам от това хората да превърнат ненужните затруднения и антитехнологичната „автентичност“във фетиш. Има такава модерна школа на мисълта, която възхвалява тежкия физически труд и твърди, че всичко, което правим, трябва да бъде занаятчийско и автентично. Според мен подобна позиция отслабва снобизма и не отчита огромния брой положителни постижения, които демократизацията на технологичния прогрес донесе със себе си.
Н. К.: Напълно съм съгласен с теб. В интервю ме попитаха как предпазливото ми отношение към прогреса ще помогне например на хора, работещи в трудни условия в месопреработвателните предприятия. Отговорих, че, разбира се, винаги ще има място за автоматизация на производството, където условията на труд на хората трябва да се подобрят. Просто можете да иновавате интелигентно или да го направите безмислено; можем да намерим начин да вземем предвид стойността на човешкия опит и важността на самореализацията или можем просто да възхваляваме възможностите на компютрите. Правилният избор не е лесен. Ако възприемаме тази задача изключително черно и бяло - или сляпо се застъпваме за тежък, изтощителен физически труд във всякакви ситуации, или, обратно, виждаме смисъла на живота в сибаризма - това няма да помогне на каузата.
Хората постоянно създават и използват инструменти. От незапомнени времена трябва да вземаме решения, свързани с разделението на труда, с разделянето на количеството работа между човек и инструментите, с които разполага. И ми се струва, че невероятната ефективност на компютрите при изпълнение на широк спектър от задачи само усложнява процеса на вземане на такива решения.
5. Какво ни очаква?
„Трябва да се стремим да гарантираме, че компютрите обогатяват нашия житейски опит и не ни превръщат в пасивни наблюдатели на екраните на мониторите“
T. Ch.: И така, къде се насочва човечеството?
NK: Историкът по естествена история Томас Хюз, който почина миналата година, предложи концепцията за технологичен импулс. Той вярваше, че технологиите, вградени в социалните структури и процеси, започват да се развиват сами, като влачат обществото заедно с тях. Напълно възможно е нашата траектория вече да е зададена и да продължим по сегашния си път, без да задаваме въпроси дали се движим в правилната посока. Всъщност не знам какво ще се случи. Най-доброто, което мога да направя, е да опитам да разсъждавам по тези наистина трудни въпроси доколкото мога.
Надявам се, че ние като индивиди и като членове на обществото ще успеем да поддържаме определено ниво на разбиране за случващото се с нас, както и определено ниво на любопитство и ще вземаме решения въз основа на нашите дългосрочни интереси, а не на обичайните концепции за удобство, бързина, точност и ефективност.
Струва ми се, че трябва да се стремим да гарантираме, че компютрите обогатяват нашия житейски опит и отварят нови възможности за нас, а не да ни превръщат в пасивни наблюдатели на екраните на мониторите. Все още мисля, че ако постигнем повече от новите технологии, те ще могат да направят това, което технологиите и инструментите са направили през цялата история на човечеството - да създадат по-интересен свят около нас и да ни помогнат, да станем по-добри. В крайна сметка всичко зависи от нас самите.
Том Чатфийлд
