Авторът е загрижен за нарастващата роля на роботите във войната. От 1991 г., след войната в Персийския залив, те помагат на генералите. И сега е създаден „робот-убиец“- машина, която самостоятелно взема решение за унищожаване на врагове, ако това е в съответствие с общата политика на „контролния център“.
Разработчикът на изкуствен интелект DeepMind обяви новост - бот, наречен AlphaStar, който ще играе популярната онлайн стратегия Starcraft-2 на гросмайсторско ниво.
Това не е първият път, когато един бот бие хора в стратегическа военна игра. През 1981 г. програма, наречена Eurisko, разработена от един от пионерите на изкуствения интелект, Дъг Ленат, печели US Traveller Championship - изключително сложна стратегическа военна игра, в която играчът трябва да попълни своя флот и да се бори с вражеския флот. Евриско в крайна сметка бе удостоен със званието Почетен адмирал пътешественик. През 1982 г. правилата на турнира са променени в опит да осуети компютъра. Но Евриско спечели всички две години подред. След като спонсорите обещаха да отменят турнира, ако компютърът спечели отново, Ленат отстъпи.
DeepMind PR би искал да повярвате, че StarCraft "се появи с консенсус като следващото голямо предизвикателство (в PC игри)" и "е предизвикателство за AI разработчиците в продължение на повече от 15 години."
В последното Starcraft първенство бяха подадени само 4 кандидатури от академични или индустриални изследователски лаборатории. Останалите девет бота са написани сами от индивиди, а не като част от основния поток на изследванията за изкуствения интелект (AI).
Всъщност броят на авторите (42) на статията на DeepMind, публикувана на 31 октомври в Nature, значително надвишава броя на хората, работещи върху ботове на Starcraft в останалата част на света. Не искам да засенчвам успеха на това инженерно сътрудничество, но ако инвестирате достатъчно ресурси в решаването на проблема, успехът е гарантиран.
За разлика от последните победи в компютърния шах, AlphaStar не е трениран, играейки срещу себе си. Той научи това, като имитира най-добрите епизоди от близо милион игри, изиграни от най-добрите човешки играчи. Преди това AlphaStar претърпя неоспоримо поражение в 19 от 20 двубоя, играейки с реални хора на сървъра на StarCraft. AlphaStar играе анонимно, за да не позволи на хората да използват слабости, които може би са били открити в предишни игри.
Миналия декември AlphaStar победи един от най-добрите професионални играчи в света - Grzegorz MaNa Komincz. Но това беше версия на AlphaStar с рефлекси, които бяха значително по-бързи от човешките, а също и с неограничено виждане на игралното поле (за разлика от човешките играчи, които виждат само една част от него наведнъж). Трудно може да се нарече равнопоставеност.
Промоционално видео:
Въпреки това, StarCraft има някои функции, които правят AlphaStar впечатляващо развитие, ако не и истински пробив. За разлика от шах или източната игра на go (стратегическа игра, използваща поле с 361 поле - ред.), Играчите на StarCraft имат несъвършено разбиране на състоянието на играта, но броят на възможните действия в нея е много по-голям. И битката със StarCraft се случва в реално време, но изисква дългосрочно планиране.
Роботни войни
Възниква въпросът - ще видим ли в бъдеще как роботите не само участват във войни, но и ги планират? Всъщност и двете вече се случват.
Въпреки много предупреждения от изследователи на AI (като мен), основатели на роботиката, нобелови лауреати и църковни лидери, вече е създадено напълно автономно оръжие, известно като „робот-убиец“и скоро ще бъде използвано.
През 2020 г. Турция ще разположи дронове от камикадзе на границата със Сирия. Тези дронове ще използват компютърно зрение за идентифициране, проследяване и убиване на хора без човешка намеса.
Това е ужасно развитие. Компютрите нямат моралната способност да вземат морално балансирано решение за това кой ще живее и кой ще умре. Липсва им съпричастност или състрадание. Роботите-убийци ще променят самата природа на конфликта към по-лошо.
Какво ще кажете за "роботизирани генерали"? Компютрите помагат на генералите да планират война от десетилетия. Още в началото на 90-те, по време на операция „Пустинна буря“по време на войната в Персийския залив, инструментите за изкуствен интелект (AI) са били използвани за планиране на изграждане в Близкия изток преди конфликта. Американски генерал ми каза малко след това, че спестената сума е равна на сумата от всичко, което е изразходвано за развитие на ИИ преди.
Генералите също използват компютри, за да разработят многовариантни военни стратегии, които изведнъж може да са необходими. Но не оставяме всички решения на бойното поле в ръцете на един войник, така че прехвърлянето на цялата отговорност от мозъка на генерала към процесора на компютъра отива твърде далеч.
Машината не може да носи отговорност за своите решения. Само хората са отговорни. И това е крайъгълният камък на международното хуманитарно право. Въпреки това генералите все повече ще разчитат на компютърна поддръжка в своите решения да пробият мъглата на войната и да се справят с огромното количество информация, идваща от фронта.
Ако това доведе до по-малко жертви на цивилни, по-малко приятелски огън и по-голямо зачитане на международното хуманитарно право, ние трябва да приветстваме подобна компютърна помощ. Но окончателното решение трябва да бъде взето от човека, а не от машината.
Ето един последен въпрос за размисъл. Ако технологични компании като Google наистина не искат да се страхуваме от машинно въстание, защо изграждат ботове, за да печелят виртуални войни, вместо да се съсредоточават върху нещо по-спокойно като мирни електронни игри? С цялото си уважение към феновете на спорта, трябва да признаем, че залозите на невоенните игри излизат много по-ниски.
Тоби Уолш е професор по изкуствен интелект в Университета на Нов Южен Уелс и изследователската общност Data61.