Британската компания Cambridge Analytica помогна на Доналд Тръмп да спечели президентските избори в САЩ, използвайки технологията Big Data и персонализираната онлайн реклама. Преди това същата фирма работеше с поддръжници на Brexit във Великобритания и сега подписа договор с Френския национален фронт. Вярно ли е, че неочакваните резултати от гласуването в различни страни не са провал на социологията, а победа за нов тип социология? Събеседникът на Радио Свобода Михал Косински, чиито изследвания са косвено свързани с дейността на Cambridge Analytica, смята, че това е преувеличение, но технологиите на Big Data и намаляване на личния живот обещават световните глобални промени.
В края на септември, в разгара на изборите, говорейки в Ню Йорк на срещата на върха в Конкордия, ежегодно събитие за влиятелни политици и бизнесмени от цял свят, основателят на Cambridge Analytica Александър Никс говори за това как новата технология е подобрила ефективността на кампанията за републиканската номинация на Тръмп Тед Крус., до началото на състезанието, почти неизвестен кандидат. Никс говори за това как например хората с различен темперамент трябва да представят мнението на кандидата относно закона за свободното разпространение на оръжия по различни начини: страховитите хора с високо ниво на невротизъм могат да мислят за оръжията като източник на безопасност, а на богатите консервативни екстроверти могат да се покажат картина на лов на патици.
По-късно Cambridge Analytica помогна на самия Тръмп и, според Nyx, за сравнително скромна награда, общо около 15 милиона долара. Анализирайки данните, които всички потребители на Интернет оставят в мрежата, специалистите на компанията успяха да намерят неочевидни връзки и модели (например, че хората, които предпочитат автомобилите, произведени в Америка, са избиратели на Тръмп) и ги използват за насочване на реклама в Интернет, за персонализиране на съобщенията. изходящи от щаба на републиканския кандидат. Жителите на квартала Малък Хаити в Маями бе показана информация за отказа на Хилари Клинтън да участва в облекчаването на земетресението в Хаити, афро-американците - видео, където Клинтън сравнява чернокожи мъже с хищници. Доброволците на Тръмп получиха подробен профил на жителите на къщите,където щяха да провеждат пряка кампания.
Трудно е да се каже колко голямо влияние оказа работата на Cambridge Analytica върху резултата от изборите в САЩ, но тази кампания не е единственият пример за победителите тези, които са наели фирмата. Например, през 2015 г., радикалният привърженик на Brexit Найджъл Фараж започна да използва Cambridge Analytica. Швейцарското издание Das Magasin, което наскоро публикува разследване на дейността на Cambridge Analytica (можете да го прочетете на руски тук), казва, че компанията вече е получила договор с Френския национален фронт, в допълнение, някои политически сили в Швейцария, Германия и може би Италия.
Един от героите на изданието Das Magasin е Михал Косински, изследовател от полски произход, бивш заместник-директор на Центъра по психометрия на Университета в Кеймбридж, а понастоящем доцент в университета в Станфорд в САЩ. От няколко години Косински и неговите колеги от Кеймбридж разработват система, която въз основа на активността на потребителя в социална мрежа съставя подробен психологически профил на човек. Системата е способна не само да опише черти на характера, но и да предвиди, наред с други неща, пол, сексуална ориентация, цвят на кожата и дори политически предпочитания на потребителя.
Швейцарски журналисти споделят, че в началото на 2014 г. към Косински се обърна колега Александър Коган, който покани младите изследователи да прилагат създадения от него модел за анализ на няколко милиона профила на американски граждани по искане на определена компания. Както стана ясно по-късно, тази компания беше свързана с Cambridge Analytica. Косински отказа да сътрудничи, но методите, използвани от Cambridge Analytica по време на референдума във Великобритания и президентските избори в САЩ, са поне много подобни на моделите, измислени от Михал Косински.
Радио Свобода се обади по телефона на Косински в Калифорния и го попита какво точно може да се каже за човек по неговата "дигитална диря", колко да се доверява на гръмките изявления на Cambridge Analytica, дали войната за личния живот е загубена и дали изкуственият интелект е по-опасен от Доналд Тръмп.
- Какво е психометрия? Какво правиш като изследовател?
Промоционално видео:
„Психометрията сама по себе си е древна наука, мисля, че е на две или три хилядолетия. По същество това е науката за психологическите измервания, опитите да се установят възможно най-точно различни психологически аспекти, личност, интелектуални способности, щастие, склонност към депресия и т.н. По традиция такива измервания са правени с помощта на въпросници, психологически тестове, но сравнително наскоро аз и някои други психометристи осъзнахме, че те могат да бъдат направени чрез оценка на цифровия отпечатък на човек - и тогава не могат да се задават въпроси, не са нужни въпросници и тестове. И това е революционен момент. Важността на историята на Cambridge Analytica, за която писа Дас Магасин, всъщност не е, че компанията е помогнала на Тръмп в предизборната надпревара. Това е търговска компания, те имат технологии, искат да правят пари, тук всичко е ясно. Важното ече ако по-рано сте искали да съставите нечий психологически профил, трябва да помолите човека да попълни въпросник, да направи тест - и субектът разбра добре, че точно в този момент някой измерва психологическите му характеристики. И сега можете да направите същото, но човекът не признава, че най-интимните му черти се оценяват и измерват в момента от някой. Просто погледнете цифровия отпечатък: публикации в социалните медии, харесвания, история на уеб сърфиране, история на търсенето. Въз основа на тези данни може да се състави невероятно точен психологически портрет. От една страна, това изглежда като нещо страшно, от друга, може да бъде много полезно. Например, някоя интернет платформа може да предложи най-подходящата работа за вашия характер и способности или да препоръча филм,което със сигурност ще ви хареса. Това е нормално. Но когато отворите страницата си във Facebook и видите там реклами, които са насочени лично към вас, насочени към вас въз основа на вашия подробен психологически профил, който е съставен без ваше знание и съгласие, това вече не е много нормално.
- Така че лично бихте ли могли да направите пълния ми психологически профил, като знаете само моето име въз основа на отпечатъка, който оставих в интернет?
„Аз съм учен и просто не бих го направил. Ако вие доброволно помогнахте на моите изследвания и да предоставите вашите данни, с радост бих ги включил в моята база данни, анонимизирам я и обещавам никога да не ги продавам или споделям с никого. Но много компании, разбира се, постоянно събират информация за вас, без да я питат и използват, например, за насочена реклама.
- Тази информация, разбира се, не се съхранява на едно място - една компания знае моите геолокационни данни, друга - финансови транзакции, третата - харесва във Facebook. Може ли всичко това да се събере?
- Е, първо, обикновено това не е необходимо. Обикновено е достатъчно едно нещо, за да се изгради точен профил - вашите интереси например във Facebook или историята на сърфирането ви от вашия браузър. Второ, компаниите, които събират информация за вас, обикновено я обменят помежду си или просто я продават на общия пазар на данни. Има проекти като Acxiom, които събират всичко и го продават на фирми като Cambridge Analytica. Можете просто да дойдете и да кажете - имам нужда от данни за 10 милиона американци от такъв и такъв регион и те с удоволствие ще продадат тези данни. Трето, за да се проведе кампания с лично насочване, изобщо не е необходимо да има индивидуални потребителски данни. Можете да използвате така нареченото поведенческо насочване. Например, не можете да поискате от Facebook да показва определени реклами на всички хора,предразположен към определен тип поведение. Но може да имате модел, свързващ този тип поведение с някакъв психологически профил и дори бихте могли да изградите този модел съвсем честно - платихте на няколко десетки хиляди хора малка такса, за да попълните въпросника. И когато моделът е изграден, вие го питате: как да намеря емоционални екстроверти? Моделът отговаря - няма проблем, това са тези, които харесаха такива и такива десет книги, такива и такива десет филма и такива и такива десет музиканти. Сега отново отивате във Facebook с вашата реклама, само че вече няма нужда да искате да я показвате на емоционални екстроверти, което Facebook не би направил. Вместо това искате да покажете реклами на тези, които имат определен набор от харесвания. В резултат се оказва, че не сте имали никакви лични данни,но пуснахте лично насочена реклама.
- Има ли компании, които се стремят да съставят психологически профил на цялото човечество, поне на всички, които оставят дигитални следи?
- Едва ли някой мисли в такива глобални категории, но в някаква степен Facebook, Google, Microsoft, Visa, Mastercard, същата Acxiom са ангажирани с това. И всички тези данни се търгуват широко на пазара.
- Тоест някъде на пазара например се продава и психологическият ми профил и той е невероятно точен. Вие казахте в коментар за Das Magazin, че само няколко харесвания във Facebook са достатъчни, за да може системата да ви разпознае по-добре от най-близкия ви приятел. Наистина ли е така?
- Да, имаше интересно проучване за това. Десет харесвания (интереси) са достатъчни, за да може системата да разпознае по-добре вашата личност, отколкото колега от работата, а до 230-240 харесвания компютърът ще знае повече за вас, отколкото за съпруга ви.
„Но какво точно означава да знаете повече?
„Това означава, че ако помолите компютъра да попълни психологически въпросник, той ще направи по-малко грешки от жена ви.
- Това са отговорите на въпроси от рода на „Страхувате ли се от тъмното“?
- Да, типични въпроси от психологически въпросници. Така че наистина някъде на пазара можете да закупите много точна информация за вашата личност, включително политическите си пристрастия, вашата религиозност, сексуална ориентация, вашия IQ. Можете грубо да разберете какво се знае за вас въз основа на вашите интереси във Facebook, като използвате сайта Applymagicsauce.com, но това, разбира се, е далеч от пълната картина.
- Нека се обърнем към историята с Cambridge Analytica. Кажете ми, наистина нямате нищо общо с тази компания?
- Не, и никога не съм имал. Чух за неговото съществуване от пресата.
- Александър Коган, който според Das Magazin предлага технологията за психологическо профилиране на Cambridge Analytica, беше ли ваш колега?
- Да, той ми беше колега, или по-скоро беше асистент в катедрата по психология на университета в Кеймбридж по времето, когато бях аспирант там. Но пътищата ни се разминаха много отдавна, той създаде малка компания и, доколкото разбрах от пресата, продава данни на Cambridge Analytica и останах в академичния свят.
- Можем ли да предположим, че Cambridge Analytica използва моделите, които сте разработили?
- Бих казал, че използват подобни модели, но, видите ли, за да разработите такъв модел, не се нуждаете от особено дълбока наука, в това няма магия. Всеки с основни умения за програмиране, малко пари и компютър, свързан към интернет, може да направи това - всъщност точно това прави проблема толкова голям. Тук се използват най-стандартните статистически методи, нищо особено. Основната идея на моите публикации е, че е лесно, важно е само да промените фокуса: въпросниците и тестовете вече не са необходими за психометрията, достатъчно е да имате дигитален отпечатък на човек. А това дава огромни ползи, можете да подобрите маркетинга, кариерното планиране, методите за психологическа помощ и много други. Но същата технология може да се използва срещу хората. Сигурен съм, че Александър Коган беше наясно с моите изследвания и,въпреки че мога да преценя това само от репортажите на журналисти, той направи точно това, което предложих и продаде резултата на Cambridge Analytica. Казвал съм много пъти и ясно посочих в статиите си, че не искам да вдъхновявам никого да се занимава с подобен вид дейност, освен това съм сигурен, че хората са се занимавали с дигитално психологическо профилиране много преди мен, те просто не са говорили за това толкова активно, колкото Cambridge Analytica. Просто призовавам за разработване на политики и процедури, които да определят етичното използване на тази технология.че хората са правили дигитално психологическо профилиране много преди мен, те просто не са говорили за това толкова активно, колкото Cambridge Analytica. Просто призовавам за разработване на политики и процедури, които да определят етичното използване на тази технология.че хората са правили дигитално психологическо профилиране много преди мен, те просто не са говорили за това толкова активно, колкото Cambridge Analytica. Просто призовавам за разработване на политики и процедури, които да определят етичното използване на тази технология.
- Мислите ли, че Cambridge Analytica наистина би могла да повлияе значително на резултатите от американските президентски избори?
- Честно казано, не знам. Ясно е, че Cambridge Analytica се интересува да тръби за успеха си възможно най-силно, но в крайна сметка резултатите от изборите се определят не от методите на Big Data, а от кандидатите, и освен това, както сега това се вижда особено ясно, избирателите, които не участват в урните. Може би дейността на Cambridge Analytica е била последната слама, която предопредели крайния резултат, но най-вероятно самият Александър Никс не знае със сигурност. От друга страна, трябва да сме наясно, че има технология и е почти невъзможно да се защитим от нея. Можете да спрете да използвате Facebook, но все пак ще пишете имейли. Решете да използвате гълъбова поща - не можете да направите без кредитна карта. Може би страните могат да приемат закони, ограничаващи подобни практики,но и това може да не работи. Между другото, не знам със сигурност, но чух, че това, което Cambridge Analytica направи за Тръмп, противоречи на действащото американско законодателство и затова те направиха директен анализ на данните във Великобритания. Знаеш ли, аз съм учен, правя психометрия, не съм експерт в политиката, демокрацията и свободата, но ми се струва, че ще трябва да приемем факта, че няма да остане уединение. Вместо да се включвате в поредната битка за личния живот, си струва да признаете, че войната вече е загубена и е по-добре да се присъедините към факта, че светът се превръща в благоприятна среда за човек, лишен от поверителност. Знаеш ли, аз съм учен, правя психометрия, не съм експерт в политиката, демокрацията и свободата, но ми се струва, че ще трябва да приемем факта, че няма да остане уединение. Вместо да се включвате в поредната битка за личния живот, си струва да признаете, че войната вече е загубена и е по-добре да се присъедините към факта, че светът се превръща в благоприятна среда за човек, лишен от поверителност. Знаеш ли, аз съм учен, правя психометрия, не съм експерт в политиката, демокрацията и свободата, но ми се струва, че ще трябва да приемем факта, че няма да остане уединение. Вместо да се включвате в поредната битка за личния живот, струва си да признаете, че войната вече е загубена и е по-добре да се присъедините към факта, че светът се превръща в благоприятна среда за човек, лишен от поверителност.
- Любопитно е до каква степен изграждането на психологически профил, използването на лично насочване може да повлияе на реалния свят.
- От научна гледна точка е трудно да се спори за това, защото е трудно да се поставят експерименти. Тоест, ако продавате някакъв вид гел за душ, можете да сравните броя на кликванията, но е много трудно да се оцени, например, ефективността на методите на Big Data в политическа кампания, която е по-скоро промоция на марка, отколкото кампания за продажби. Направихме някои експерименти, не с политици, защото смятам, че това е неетично, но с конкретни потребителски продукти и се оказа, че личното таргетиране, тоест използването на индивидуално рекламно послание въз основа на психологически профил, удвоява ефективността на рекламата. И това е невероятен резултат, обикновено борбата е да се подобри ефективността с някакви три процента и дори това спестява на компаниите стотици милиони долари. И тогава два пъти!
- Странно е, че все още не сте станали милиардер.
- Вече имам прекрасен живот. Между другото, има много психологически творби, които доказват, че за щастието не са необходими толкова много пари, добре, нужни са ви, разбира се, достатъчно за ваканция. Всъщност всичко вероятно не е толкова просто, колкото ми се струва като учен, просто съм готов да говоря за тези неща открито, докато други работят по реални проекти, без да казват на никого нищо.
- За мен идеята за психологическо профилиране въз основа на дигитален отпечатък изглежда съвсем естествена, сигурен съм, че много хора вече го използват в рекламата. Нашият свят може би вече се е променил много, просто още не го забелязваме.
- Вероятно и аз по-скоро приветствам тези промени. Имахме изобретения и по-страшни от Big Data, справихме се с ядрената енергия - по някакъв начин можем да се справим с това, въпреки че, вероятно, не без жертви. Както казах, ми се струва, че войната за неприкосновеност на личния живот вече е загубена, ние живеем в свят след поверителност, което означава, че си струва да инвестираме в това да гарантираме, че всички имат равни права и възможности, така че никой да не иска да скрие нищо. Да се надяваме, че повече толерантност може да реши проблема с липсата на поверителност.
- Но проблемът е не само в това, че другите ще научат всички тайни на човек и ще започнат да се отнасят по различен начин към него, но и в това, че се появи мощен инструмент за манипулация.
- С това според мен образованието трябва да се справи. Лесно е да се манипулира тези, които знаят малко, които четат малко, които пътуват малко. На такъв човек може да се каже, че в Сирия няма война и наистина всички сирийци са кървави престъпници и той с готовност ще повярва в това.
- Според мен образованите хора могат да бъдат манипулирани, например с помощта на суета и секс.
„Не мисля така. Значи вероятно познавате жена си доста добре, това улеснява ли ви манипулацията с нея?
- Не знам, вероятно просто нямам такава цел, но със сигурност ще има много хора, които биха били заинтересовани да манипулират възможно най-ефективно, така че да отида и да гласувам например за Путин.
- Разбира се, ще има и това се случва непрекъснато, цялата реклама, целият маркетинг е манипулация от този вид и не виждам какво можем да направим по въпроса. И все пак е трудно да се манипулират образовани, отворени и щастливи хора. И вече е късно да се откажете от Facebook, електронна поща, кредитни карти и това е просто глупаво. Facebook е прекрасно нещо, така че много през живота си съм говорил за рисковете от използването му, но сам го използвам и с удоволствие и дори бих платил за това, ако трябва.
- Между другото, ви предложиха работа във Facebook?
- Да, това е вярно. Добре съм с работата си в университета, но всъщност за изследовател на поведението, който иска да промени живота на хората към по-добро, кариерата в компания като Facebook или Google е чудесен път. Измислям модели и ги изучавам и ако работех във Facebook, всъщност бих могъл да ги използвам, за да променя живота на милиони хора и изобщо не е необходимо да им продавам нещо.
- Страшно е, че можете да промените живота на милиони хора с няколко кликвания.
- Всъщност, за да повлияете на милиони хора, преди сте били авторитарен диктатор, но сега можете да бъдете инженер, работещ за някоя интернет компания. Но това не е страшно. Всички тези алгоритми - Google търсения, препоръчителни системи и т.н. - се основават на най-основната математика, но тя се прилага за огромни количества данни. И в крайна сметка никой не разбира как всичко по същество работи, дори и самите разработчици. Тук в Русия има някои закони, които всички считат за лоши, но това са очевидни закони, които могат да бъдат коригирани. И компютърните алгоритми се самообучават и стават толкова сложни, че ако работят някак погрешно, не е ясно какво и къде да ги поправим.
- Далеч ли сме от момента, в който някои такива извън контрол, недостъпни за нашата разбираща система, ще уредят ядрена война?
- Знаете, пока что у Дональда Трампа куда больше возможностей и шансов уничтожить человечество, чем у Больших данных, но в будущем… Смотрите, есть голуби и муравьи, думаете, они знают, что миром правит человек? Догадываются, что Дональд Трамп может нажать на красную кнопку? Нет, конечно. Стоит помнить об этом, потому что когда миром станет править искусственный интеллект, мы вполне можем этого точно так же не заметить. Мы ведь уже не можем осмыслить и проанализировать те объемы данных, которые сами же и производим, - и нам приходится доверяться компьютеру. Вы можете спросить у машины: можешь что-то предсказать на основе этих данных? Она ответит: да, конечно. Вы спросите: а как ты это делаешь? Она скажет: прости, но ты не поймешь. И все это - уже реальность. Вы знаете, что американские суды используют компьютерные системы, принимая решения об условно-досрочном освобождении заключенных? Компьютеры решают, дать вам кредит или нет. Компьютер сажает на землю самолет, и это здорово, потому что люди легко могут наделать бед. Жизнь 800 пассажиров «Боинга-787» находится в руках компьютера, а не человека, и это сегодняшняя реальность.
