Техническите компании тихо са проучили вашите снимки, за да подобрят системите си за разпознаване на лица. И ето как го направиха.
Разпознаването на лица е мощна технология, която сериозно заплашва гражданските свободи. Това също е процъфтяващ бизнес. Днес много стартиращи и технологични гиганти продават системи за разпознаване на лица на хотели, търговци на дребно и дори училища и летни лагери. Този бизнес процъфтява благодарение на нови алгоритми, които могат да идентифицират хората с много по-голяма точност, отколкото преди пет години. За да подобрят алгоритмите си, те са били обучавани на милиарди лица, понякога без разрешение на никого. Следователно е много вероятно шансовете ви да са част от „тренировъчен комплект“в някоя от тези системи или да сте в клиентска база данни на някоя компания.
Методите за събиране на информация, използвани от компаниите, могат да изненадат потребителите. Например в поне три случая компаниите са получили милиони изображения чрез приложения за снимки на смартфони. Сега системата за разпознаване на лица е слабо регулирана, така че хората почти нямат начин да ограничат използването на лицата си за комерсиални цели.
През 2018 г. камера идентифицира лицата на пътниците, които бързат да свалят самолет близо до Вашингтон, Колумбия. Но всъщност и самолетът, и пътниците са били част от симулация, създадена от Националния институт за стандарти и технологии (NIST), за да демонстрира как могат да се събират данни „на място“. Лицата, използвани в този експеримент, ще бъдат част от конкурс на NIST, в който компании от цял свят тестват своите системи за разпознаване на лица.
При симулацията на ситуацията със самолета доброволците се съгласиха да използват лицата си. Такъв беше случаят в ранните етапи на системите за разпознаване на лица - изследователите се опитваха последователно да включват хората в своите набори. Сега бизнесът едва ли ще се притеснява и ще поиска разрешение.
Според Future Research Market, компаниите (включително лидери като Face ++ и Kairos) се борят да станат №1 в индустрия, която нараства с 20% годишно, за да достигне обем от 9 милиарда долара до 2022 година. Бизнес моделът на тези играчи се основава на лицензиран софтуер за нарастващ брой клиенти - от правоохранителните агенции до университетите - които го използват в собствената си разработка.
В състезанието победителите са тези продукти, чиито алгоритми са в състояние да откриват лица точно и без грешки. Както при всеки изкуствен интелект, изграждането на система за разпознаване на лица включва натрупване на голямо количество данни за обучение. Докато компаниите могат да използват данни, одобрени от правителството и университета (като базата данни за лице в Йейл), тези комплекти за обучение са достатъчно малки, за да съдържат не повече от няколко хиляди лица.
Промоционално видео:
Тези официални комплекти имат и други недостатъци. На много хора им липсва расовото разнообразие и различни условия - сенки, шапки, козметика - които променят възприятието на човек в реалния свят. Естествената система за разпознаване на лице изисква повече изображения. Много повече.
„Сто не е достатъчно, хиляда не е достатъчно. Нуждаем се от милиони изображения. Ако не тренирате системата да разпознава хора с очила и различни цветове на кожата, няма да постигнете добри резултати, “казва Питър Треп, директор на FaceFirst, базираната в Калифорния компания, която помага на търговците да идентифицират престъпници в техните магазини.
Заявление за това
ле. По-специално, приложението го принуди да изпраща спонсорирани връзки към всички контакти с потребители, тактика, известна в Силиконовата долина като „хакерство на растежа“. Потребителите също се оплакват от кражба на данни.
"Веднага след инсталирането приложението събира всички телефони от списъка с контакти и започва да ги изпраща на текстове … И след това изтегля всички ваши снимки и ги копира в облачното хранилище", написа Грег Милър, собственик на фотостудио в Тексас, в ревю за 2015 г. във Facebook.
Четири години по-късно Милър с ужас открива, че снимките му все още се съхраняват в EverRoll, но сега компания със система за разпознаване на лица.
"Не, не знаех за това и напълно не съм съгласен с това", оплака се Милър на Fortune. „Този вид надзор е реален проблем. Конфиденциалността я няма и това много ме плаши “.
Дъг Ели, главен изпълнителен директор на Ever AI, твърди, че компанията не прехвърля информация от своята база данни никъде, а снимките се използват само за обучение на системата. Той добави още, че компанията е близка до социална мрежа, която може да бъде изоставена по всяко време. Ели отрече, че Ever AI възнамерява да стане компания за разпознаване на лица от самото начало, заявявайки, че изключването на приложението е управленско решение. Клиентите на някога AI сега използват неговите данни за свои собствени цели, включително управление на системи за идентификация на служители, дребно, както и телекомуникации и правоприлагане.
Ever AI не е единствената компания за разпознаване на лица, която навремето предлагаше приложение за фотография. Orbeus, стартиращ в Сан Франциско, закупен от Amazon през 2016 г. (който не беше обявен), също предложи популярното хранилище PhotoTime.
Според бивш служител на Orbeus апелът на стартиращия към Amazon се състои в неговите технологии за изкуствен интелект и огромния му набор от снимки на хора на обществени места.
„Амазонка търсеше такива възможности. Те купиха всичко и след това затвориха заявлението “, казва служител, който пожела да остане анонимен, позовавайки се на споразумение за неразкриване.
PhotoTime вече не съществува, въпреки че Amazon продължава да продава още един продукт на Orbeus, известен като марката Rekogservation. В бизнеса и правоприлагането се използва като система за разпознаване на лица.
Amazon отказа да разкрие подробности дали приложението за снимка Orbeus е било използвано за обучение на Възстановяване, заявявайки само, че приема данни от различни източници. Компанията добави, че не използва потребителски данни от приложението Prime за обучение на системи за идентичност.
Real Networks е друга компания, използваща приложения за обучение на системата си. Базирана в Сиатъл и някога известна с видео плейъра си от 90-те, сега компанията е фокусирана върху разпознаването на лицата на децата в училищата. В същото време компанията предлага семейно приложение, наречено RealTimes, за което критиците казват, че събира данни за лицата на потребителите.
„Приложението ви позволява да създавате видео презентации от снимки. Представете си, че мама изпраща подобна презентация на баба и системата използва тези снимки за обучение. Звучи страховито”, казва Клер Гаври, професор от университета в Джорджтаун, която публикува документ, който оказа голямо влияние върху технологията за разпознаване на лицето.
Real Networks потвърди, че приложението се използва за подобряване на разпознаването на лицето, но добави, че се използват други източници на информация.
Във всички случаи, когато компаниите са използвали данни от собствените си приложения за снимки, за да обучават своите системи, те не са поискали разрешение от потребителя, а са получили скрито съгласие чрез потребителски споразумения.
Но това вече е доста много в сравнение с това, което правят другите компании. Според Патрик Гротер, който ръководи конкурса NIST, не е добре компаниите, които събират данни за лицето, да пишат програми, които „грабват“изображения от сайтове като SmugMug или Tumblr. В тези случаи разрешението на потребителя дори не се предполага.
Този подход за самопомощ беше подчертан в неотдавнашен доклад на NBC News, в който подробно се описва как IBM изтегля над милион изображения на лица от Flickr като част от проучване на AI. (Джон Смит, който ръководи технологиите за изкуствен интелект в изследователския отдел на IBM, каза, че „личните данни са защитени“и че се работи с тези, които искат да премахнат личната информация от базата данни).
Всичко това поражда въпроси относно защитата на личните данни от компаниите, които ги събират, и необходимостта от държавен контрол в тази област. Тази тема ще стане по-сериозна само с по-нататъшното разпространение на системите за разпознаване на лица в обществото, както и в средата на големите и малките предприятия.
От магазини до училища
Системите за разпознаване на лица не са нещо ново. Най-простите версии на такива програми съществуват от 80-те години на миналия век, когато американските математици започват да определят лицата като поредица от числови стойности и използват вероятностни модели за намиране на съвпадения. Защитата в Тампа, Флорида го използва по време на Super Bowl през 2001 г. и той се използва в казината от години. Но много се промени през последните няколко години.
„Системата за разпознаване на лица преминава през нещо като революция“, казва Патрик Гротер и добавя, че промяната е най-забележима при повишаващото се качество на изображенията. „Основната технология се промени. Старите разработки бяха заменени от нови, много по-ефективни системи."
Революцията в разпознаването на лица беше движена от два фактора, които значително промениха и разшириха обхвата на технологията за изкуствен интелект. Първият е появата на дълбоко обучение, система за разпознаване на модели, която по принцип прилича на човешкия мозък. Втората е рекорден излишък от данни, които могат да се съхраняват и анализират на ниска цена, като се използват облачни изчисления.
Не е изненадващо, че първите компании, които се възползваха изцяло от тези разработки, бяха Google и Facebook. През 2014 г. последният пусна програма, наречена DeepFace, която може да определи с точност от 97,24%, че две лица принадлежат на един и същи човек - хората демонстрират подобен резултат при такъв тест. Година по-късно Google със своята програма FaceNet постигна 100% точност (според фирмата за сигурност Gemalto).
Днес, благодарение в голяма степен на достъпа до големи бази данни за лицеви данни, тези и други технологични гиганти (като Microsoft) са водещи в разпознаването на лица. Но все повече и повече стартиращи компании показват високи резултати, които също се стремят да заемат своята ниша на нарастващия пазар на програми за идентификация на лица.
Само в Съединените щати има повече от дузина такива компании, включително Kairos и FaceFirst. Според пазарни изследователи от PitchBook, Силиконовата долина бързо набира сцепление в сектора със значителни инвестиции през последните няколко години. PitchBook оценява общата инвестиция през последните три години на $ 78,7 млн. Това не са фантастични числа по стандартите на Valley, но те отразяват увереността на рисковите капиталисти, че няколко стартиращи компании от първа класа скоро ще прераснат в големи компании.
Активност на рисков капитал в индустрията за разпознаване на лица в САЩ.
Все още се появяват нови бизнес модели, фокусирани върху разпознаването на лица. Това е особено забележимо при лицензирания корпоративен софтуер. Според Crunchbase годишните приходи за компании като Ever AI и FaceFirst са скромни и варират от 2 до 8 милиона долара. Amazon и други технически гиганти не разкриват такива цифри.
Дълго време най-заинтересованите потребители на системи за разпознаване на лица бяха правоприлагащите органи. Но сега много компании, включително WalMart, използват такива програми, за да получат повече информация за купувачите в техните магазини.
Например, базираната в Калифорния FaceFirst предлага своите системи на стотици търговци на дребно, включително магазини и аптеки втора употреба. Според изпълнителния директор на компанията много клиенти използват технологията за откриване на кражби, но все по-голям брой се опитват да я използват за други цели, включително за намиране на ВИП клиенти и идентифициране на служители.
Дълго време най-заинтересованите потребители на системи за разпознаване на лица бяха правоприлагащите органи.
Изглежда, че Amazon също търси в широк спектър от своите дейности за възможности за прилагане на системи за разпознаване на лица. В допълнение към работата с полицейски управления, гигантът на дребно помага на хотелите да ускорят процесите на регистрация, според различни източници.
„Компании от цял свят идват в Амазонка и казват:„ Точно това искаме да правим “. И разбирате, че това е прекрасна област. Всички се интересуват от това “, казва анонимен източник, който се присъедини към Amazon при закупуването на Orbeus, компания за разпознаване на лица.
За Amazon тази дейност не мина без противоречиви последици. Миналия юли Американският съюз за граждански свободи (ACLU) тества системите на компанията, като сравнява лицата на всички членове на Конгреса с база данни на престъпници. Тестът показа 28 неверни съвпадения, като повечето грешки се дължат на цвета на кожата на участниците в експеримента. В резултат на това Съюзът призова за забрана на използването на системата за разпознаване на лица в органите на реда. Въпреки това Amazon настоява да се продаде системата на полицаи и американската имиграция и митнически контрол.
Тогава някои членове на Конгреса, включително реп. Джеролд Надлер и сенаторът Рон Вайден, поискаха от Сметната палата да проучи използването на софтуер за разпознаване на лица. Водещите компании също са загрижени за тези системи. По-специално президентът на Microsoft Брад Смит през декември призова за регулиране на подобни технологии на държавно ниво.
Но дори и нарастващите опасения, използването на системи за разпознаване на лица само се разширява, тъй като компаниите намират все повече и повече приложения за тях. Например Real Networks, разработчик на приложение за семейна фотография, предлага своя софтуер за училища в цялата страна безплатно. Компанията говори за стотици училища като свои клиенти. В интервю за списание Wired, главният изпълнителен директор на Real Networks Роб Гласър заяви, че стартира проекта като безпристрастно решение на споровете относно безопасността в училищата и контрола на пистолета. В момента уебсайтът на компанията позиционира този продукт като технология, която позволява на организаторите на събития „да разпознаят всеки фен, клиент, служител или гост“, дори ако лицето им е скрито.
Уникалната технология разпознава лица дори при оцветяване или интензивен грим. Системата отличава и идентифицира лица при различни условия на осветление.
Real Networks не е единствената компания, насочена към пазара на деца. Базиран в Тексас старт, наречен Waldo, предлага подобна технология за стотици училища, както и детски спортни лиги и летни лагери. На практика това предполага използването на такива системи за сканиране на изображения, направени от видеокамери или официални фотографи, и по-нататъшно съпоставяне на лицата на децата с база данни с изображения, предоставена от родителите. Родителите винаги могат да откажат да участват.
Според изпълнителния директор на Waldo Родни Райс, училищата правят десетки хиляди фотографии всяка година, а малко от тях завършват в годишни албуми. Разпознаването на лица, каза той, е ефективен начин за разпространение на остатъците от тези, които се нуждаят от тях.
"За цената на пуканки или кафява хартия можете да поръчате тези снимки за баба и дядо на децата си", казва Райс, обяснявайки, че Уолдо има споразумение за споделяне на приходи с държавните училища. Понастоящем услугите на компанията се използват в повече от 30 щата на САЩ.
Възходът на Waldo и FaceFirst показва как бизнесът нормализира разпознаването на лицето, което доскоро изглеждаше като научна фантастика. И с разпространението на подобни технологии, повече компании ще събират снимки на вашите лица - или за обучение на алгоритми, или за намиране на клиенти и престъпници - дори ако рискът от грешки и злоупотреби само расте.
Бъдещето на вашето лице
През 2017 г. излиза епизод от технодистопската поредица Черно огледало, в който развълнувана майка се притеснява за изневеряващ младеж, който прекарва времето си с дъщеря си. За да разбере кой е, тя качва негова снимка в услуга за идентификация на потребителите. Програмата бързо показва неговото име и място на работа, а жената отива да се справи с него.
Някога измисленият сценарий сега изглежда съвсем реален. Докато повечето опасения относно разпознаването на лица са свързани с използването на тази технология в правителствените организации, използването й сред търговски компании и дори лица (в стил „Черно огледало“) крие очевидни рискове за личните данни.
Тъй като все повече компании започват да продават системи за разпознаване на лица и нашите лица влизат в повече бази данни, софтуерът може да спечели популярност сред воайерите и сталкерите. Търговците на дребно и наемодателите могат да го използват за идентифициране на нежелани клиенти и наематели, за да откажат спокойно жилища и услуги.
„Всеки, който има видеокамера в гъсто населен район, може да започне да събира бази данни с изображения и след това да използва този аналитичен софтуер, за да види дали изображенията, които заснемат, съвпадат с вашите данни“, казва Джей Стенли, анализатор от ACLU.
Съществува и риск от хакерски атаки. Андрей Барисевич от Gemini Advisors, фирма за киберсигурност, казва, че е виждал профили за продажба, откраднати от националната биометрична база данни на Индия в сайтове на darknet. Той не забеляза такава информация за американците, но добави: "Това е само въпрос на време." Изпускането на клиентски данни от хотел или магазин може да помогне на престъпниците да извършат измама или кражба на самоличност.
Тъй като технологията се разпространява без много държавен контрол, отговорността за ограничаване на нейната злоупотреба е изцяло на доставчиците на софтуер. В интервю за Fortune, изпълнителните директори на стартиращи компании за разпознаване на лица заявиха, че са подготвени за подобни заплахи. Някои, включително изпълнителният директор на FaceFirst, описаха разпространението на подобни системи в Китай като опасно.
Лидерите също предложиха два подхода за ограничаване на злоупотребите. Първият е да работим в тясно сътрудничество с купувачите на софтуера, за да гарантираме, че той се използва правилно. Например, Doug Eli от Ever AI казва, че компанията му има по-висок стандарт от Amazon, за който твърди, че предоставя своя инструмент за възстановяване на почти всеки.
В отговор на въпрос относно контрола върху злоупотребите, Amazon предостави изявление по-рано от Matt Wood, който работи с изкуствен интелект в Amazon Web Services. Ууд посочва, че политиката на компанията забранява вредните и незаконни дейности.
Друга възможна гаранция за безопасност на данните е използването на технически мерки за гарантиране на невъзможността за хакване на базите данни от „предни“данни.
Родни Райс, изпълнителен директор на Waldo, казва, че лицата се съхраняват като буквено-цифрови хешове. Това означава, че дори в случай на изтичане на данни, конфиденциалността няма да бъде нарушена, тъй като хакер няма да може да дешифрира хешовете и да ги използва. Тази гледна точка беше подкрепена и от други.
Райс се опасява, че законодателното дефиниране на правилата за използването на „лицеви“технологии може да причини повече вреда, отколкото полза. „Оставянето на дете да го измисли и да създава правила е нелепо“, казва той.
Междувременно някои софтуерни компании за разпознаване на лица приемат нови техники, които могат да намалят нуждата от големи данни за обучение. Такъв е например случаят с Kairos, фронтален стартъп от Маями, който наред с други неща работи с широка гама от хотели. Според Стивън Мур, ръководител на отдела за сигурност в компанията, Кайрос създава "синтетични" лица, за да симулира широк спектър от емоции и осветление. Подобни "изкуствени лица" намаляват използването на данни за лице от реалния свят при създаване на технологични продукти.
Всички тези мерки - наблюдение на потребителите на системата, силна защита на данните и синтетични инструменти за обучение - могат да смекчат някои от опасенията за поверителност, свързани с бизнес използването на нашите лица. В същото време Trepp на FaceFirst вярва, че тревожността ще намалее с по-внимателен поглед върху системата. Той дори твърди, че сцените за разпознаване на лица в научния фантастичен филм от 2002 г. Minority Report ще започнат да се чувстват нормално.
„Милениалите са много по-склонни да споделят информация. Този свят [от доклада за малцинствата] се доближава до нашия “, казва той. - Ако направите всичко правилно, тогава смятам, че хората ще го харесат и това ще бъде положително преживяване. Няма да е толкова страшно."
Други, включително ACLU, са по-малко оптимистични. Въпреки това, въпреки нарастващата дискусия около технологиите, на практика няма нищо, което да ограничава използването на лицето ви. Единствените изключения са в три щата - Илинойс, Тексас и Вашингтон, които изискват известна степен на съгласие, преди да използвате лицето на някой друг. Тези закони всъщност не се използват на практика, освен в Илинойс, където потребителите могат да предприемат правни действия за налагане на това право.
Законът на Илинойс понастоящем е обект на широкопрофилен апелационен процес, включващ Facebook, който твърди, че ограниченията за получаване на лица не се прилагат за цифровото сканиране. През 2017 г. Facebook и Google започнаха неуспешна лобистка кампания, за да убедят депутатите от Илинойс да смекчат закона. В края на януари привържениците на закона бяха подкрепени от Върховния съд на Илинойс, когато той постанови, че потребителите могат да съдят за нерегламентирано използване на техните биометрични данни, дори ако не е нанесена реална вреда.
Други държави също допускат възможността да приемат свои собствени закони за биометрия. На федерално ниво досега законодателите не обръщаха малко внимание на това. Това обаче може да се промени, тъй като този месец сенаторите Брайън Шатц и Рой Блунт въведоха законодателство, което ще изисква компаниите да получат разрешение преди да използват разпознаване на лица на обществени места или да споделят данни за лицето с която и да е трета страна.
Клер Гарви, изследователка от Джорджтаун, подкрепя законите за контрол на тези системи. Но тя казва, че депутатите трудно са били в крак с технологиите.
„Едно от предизвикателствата пред разпознаването на лица е тяхното невероятно бързо внедряване благодарение на съществуващите бази данни. Лицата ни бяха осветени много”, казва тя. "За разлика от пръстовите отпечатъци, които отдавна са обект на правила за събиране на данни, все още няма регламент за технологиите за разпознаване на лица."
От Джеф Джон Робъртс
Преведено от: Екатерина Егина
Редактира: Сергей Разумов
