Следите за кибератаками? Россия, США, Китай, объекты стратегического назначения и несчастная Хиллари… Кажется, все, о чем так долго говорили футурологи, свершилось! В нашем насквозь технологизированном мире боевые действия перемещаются с реальных полей сражений на поля виртуальные — за серверы, базы данных, коды доступа и т. д.
Завладейте компьютерной инфраструктурой противника, и он повержен. Ни одно современное государство-Голиаф не выдержит удара камнем, летящим из этой пращи.
Таким выглядит наш новый Армагеддон, но это лишь обман зрения. Кибервойна, о которой нас начинают потихоньку информировать, все еще продолжает оставаться геополитической. Как и прежде, предполагается, что США будут воевать против России, Россия — против США, а Китай — вместе со всеми против всех. Но правда в том, что такая война никому больше не нужна. Это война престарелых (по крайней мере, интеллектуально) генералов, которые, как говаривала одна мудрая графиня, «слишком долго жили в Советском Союзе», или, если угодно, в состоянии холодной войны.
Все изменилось
Да, на этот раз любимец американских студентов — Берни Сандерс — проиграл, но к следующим выборам и эти студенты вырастут, и новые появятся, так что какой-нибудь демагог-Сандерс точно победит. Про наших студентов я и вовсе молчу — если они и хотят завоевать мир, то только личной биографией и где-нибудь в приличном заграничном месте. Жители глобального сетевого пространства не знают и не хотят знать геополитики. Плевать на нее хотели и транснациональные корпорации, в особенности Google, Apple, Microsoft и Facebook.
Самой этой сущности — «геополитика» — больше нет. Остались только цифра и человек — два реальных конкурента за мировое господство, и Четвертая мировая война развернется между ними.
По идее, Четвертой мировой, конечно, должна предшествовать Третья — глобальная война с террором (см. «Четвертая мировая. Начало»). Но, с учетом торжествующего политического мракобесия и общего идиотизма, Третью мировую мы можем и проскочить.
Вероятные сценарии старта Четвертой мировой не блещут особым изяществом, но их, вероятно, тоже необходимо рассмотреть.
Сценарий первый: кибервойна
Когда мы слышим что-то про кибератаки, мы представляем себе опустошенную кредитную карту или взломанную электронную почту, но, поверьте, это сущая ерунда. Да, киберпреступность — это уже триллионная индустрия, и ее обороты давно превышают доходы наркокартелей, но военные кибератаки — это совсем другое дело. В военных целях разрабатывается кибероружие, направленное на инфраструктурные объекты: энергосистема, транспортная сеть, финансовый сектор и др., — а все это куда серьезнее жалкой кредитки или личной переписки.
Представьте, что враг лишает нас электричества, парализует транспорт и обвально девальвирует нашу валюту (например, эмитируя на банковские счета граждан неограниченные суммы денег). И дело не в том, что без электричества, например, мы не сможем посмотреть киношку на ночь, а в том, что из-за той самой технологизации нашей жизни за год от голода и болезней умрет девять из десяти человек. Мы лишимся воды, тепла, канализации, лекарств, остановится производство пищевой продукции, горючих веществ и т. д. Все будет настолько плохо, что даже зомби не понадобятся. Это ведь только кажется, что риск минимальный: мол, как-то же мы справлялись с отключением света в нашей квартире и никто не умер! Но мы никогда не справлялись с отключением всего электричества у всех сразу.
Но кому под силу такая задача — лишить целую страну всей ее инфраструктуры?!
Вопрос на самом деле неверный и даже глупый. Правильный вопрос — как сохранить хоть что-то в мире в работоспособном состоянии после того, как соответствующее кибероружие «выстрелит»? Именно с этой проблемой и столкнулись наши американо-израильские коллеги, ударив компьютерным червем Stuxnet по иранским ядерным реакторам. Это был первый случай в истории, когда использовался не просто вирус-шпион — штука теперь уже совершенно тривиальная, а специальная программа, заточенная на физическое уничтожение реальных производственных агрегатов.
Реконструкция этой истории, чуть не закончившейся мировой катастрофой, выглядит следующим образом. Вероятно, некий шпион-диверсант пронес на охраняемую территорию иранского завода в Натанзе флешку со Stuxnet и запустил вирус в локальную компьютерную сеть. Для входа в систему червю требовался только Windows, чьи так называемые «уязвимости нулевого уровня» он знал.
Вот почему, кстати говоря, не стоит удивляться требованиям Ангелы Меркель не гонять европейский интернет-трафик через американские серверы, а также отечественной инициативе по созданию собственной операционной системы
Все это абсолютно бессмысленно и мертвому припарка, но сама по себе эта политическая паника, поверьте, отнюдь не беспочвенна.
Впрочем, вернемся в Иран
Попав во внутреннюю сеть, этот виртуальный зверек обнаружил контроллер Siemens S7-300, работающий на газовой центрифуге по обогащению урана, и спектакль начался. Вирус определил программы, которые сигнализируют сотрудникам предприятия о состоянии центрифуг, и перекодировал их. Теперь работники завода уже не могли видеть, что происходит с центрифугами на самом деле — им казалось, что реактор работает идеально. Надев на операторов эти своеобразные шоры, вирус принялся жечь центрифуги: он то разгонял их, то резко замедлял, и оборудование выходило из строя. Всего за десять месяцев Stuxnet сжег таким образом от 1000 до 2000 центрифуг.
Ирония в том, что именно жертва нынешнего киберскандала — тогдашняя госсекретарь США Хиллари Клинтон — победоносно заявила в 2011 году, что проект по разработке вируса Stuxnet оказался успешным и иранская ядерная программа отброшена на годы назад. Остается только догадываться, что происходит в голове у этой женщины, если она, зная все это, решается пользоваться личной почтой для рабочей переписки… Кажется, политики совершенно не соображают, о чем говорят и с чем имеют дело. Им уже давно пора переходить на молокопись и почтовых голубей!
Впрочем, история Stuxnet на этом не заканчивается
Напротив, начинается самое интересное. Никому и в голову не пришло, что этот киберзверь не удержится в клетке. Через интернет вирус покинул пределы завода в Натанзе и заразил тысячи компьютеров по всему миру. Нас тогда спасло только то, что Stuxnet всюду искал контроллер Siemens S7-300, а таковых на его пути больше не обнаружилось. Счастливая случайность, надо признать (ну или у Siemens существовала какая-то предварительная договоренность с ЦРУ). А теперь представим — следите за руками (это важно!), — что какой-нибудь аутизированный и закомплексованный хакер ловит такую штуку в интернете, слегка ее модифицирует и настраивает на уничтожение любого промышленного процесса.
На самом деле, в этом сценарии нет ничего сложного, а тем более невероятного. Допустим, некое правительство, «мира во всем мире» ради, убеждает какой-нибудь Microsoft поделиться информацией об «уязвимости нулевого уровня» его новой операционной системы. В расчете на эту уязвимость и создается вирус военного назначения, который используется против какого-нибудь «кровавого режима». Параллельно все это безобразие оказывается в интернете и, соответственно, в руках каких-нибудь безызвестных и скучающих программистов, которые решают «немного пошалить». Они блокируют программу самоуничтожения вируса и выпускают проапгрейженного хищника на волю.
Это реально. Абсолютно
Тот же Stuxnet в том же самом 2010 году был именно так — случайно — обнаружен в интернете неизвестным до той поры белорусским программистом Сергеем Уласенем. Благодаря своей находке Сергей, конечно, обрел известность и его забрали в «Лабораторию Касперского». Но что, если бы у него не было амбиции работать в команде Евгения Валентиновича? Представим себе, что Сергей оказался менее человеколюбивым и более амбициозным — как Герострат, например. Волне возможно, что мы бы уже с вами мило не беседовали, причем ни здесь, на «Снобе», ни где-либо еще. Ведь атомная бомба Оппенгеймера выглядит на фоне этого кибермонстра не страшнее кремлевской Царь-пушки.
Через год после победоносного заявления Хиллари бывший глава подразделения киберзащиты министерства внутренней безопасности США Шон Макгурк оказался на программе «60 минут» канала CBS, где ведущий прямо спросил его о Stuxnet:
«Эту штуку могли использовать против нас?» Видимо, в ту секунду Шон сильно пожалел, что решился прийти на это шоу
Его ответом было сдавленное «да». Вся фактическая инфраструктура нашей насквозь технологизированной цивилизации уже находилась под ударом, который вряд ли смогла бы выдержать. Так что, пока политики и генералы играют в свою, как им кажется, кибергеополитику, мы с вами безмятежно прогуливаемся по сафари-парку.
И тут нельзя отмахнуться, что, мол, с безумцами-хакерами ничего не поделаешь, а от случайностей не застрахуешься. Одно дело, когда безумец разгуливает с мачете по Лондону или с винтовкой по гей-клубу в Орландо, и совсем другое — тотальная уязвимость инфраструктуры. А вдруг этим безумцем окажется не какой-нибудь безвестный хакер, а, например, Сергей Михайлович Брин? Кризис среднего возраста там, какая-нибудь мизантропия, развившаяся на почве корпоративных войн и проснувшейся эндогенной депрессии… Почему нет?
Сценарий второй: интернет-хунта
В прошлый раз я рассказывал о революционном проекте Илона Маска по созданию открытого искусственного интеллекта. Маск, но на свой манер, боится того же, чего боятся Ассанж и Сноуден: контроля со стороны «Большого Брата». Впрочем, если Ассанж и Сноуден боятся, что контролировать нас будет государство, то Маск уверен, что скоро контролировать нас начнет сама Сеть. Он не политик и не общественный деятель, он технолог и бизнесмен. Как технолог, он прекрасно понимает, что будущее за сверхумным искусственным интеллектом, а, как бизнесмен, знает, что раскидистая клюква растет там, где денег бесконечное количество, а это, в частности, интернет-бизнес и все тот же самый пресловутый госзаказ.
Ассанжу, как известно, влетело за то, что он предал огласке документы Пентагона, которые тот вряд ли хотел рассекречивать. А вот за что пострадал Сноуден? Товарищ Эдвард рассказал мировой общественности про секретную программу Агентства национальной безопасности США под названием PRISM, в рамках которой АНБ получало негласный доступ к личным данным пользователей Microsoft, Yahoo, Google, Facebook, Skype, YouTube, Apple и др. На самом деле, речь шла о совершенно феноменальном сговоре между лидерами спецслужб и первыми лицами Кремниевой долины — вы ведете для нас слежку, а мы вас не трогаем.
Сидение Сноудена в московском аэропорту увенчалось успехом
Интернет-гиганты поспешили дистанцироваться от АНБ и демонстративно ввели дополнительные системы шифрования, компания Acxion, которая почти официально создавала для АНБ «личные дела» американцев, исследуя их интернет-трафик, была заклеймена позором, а Барак Обама призвал правительство «взять на себя инициативу» и «покончить с цифровой слежкой». Все это выглядит очень круто: нашу личную жизнь решили оставить нам, и мы, вроде как, возрадовались. Никто, кажется, не понял, какая чудовищная мина залегла в тот самый момент под здание нашей с вами цивилизации.
Когда у Эрика Шмидта — прежнего главного исполнительного директора Google — спросили, не планирует ли Google превратиться в государство и вести себя на манер правительства, он ответил: «Нет, мы не стремимся. У государства слишком много сложных проблем». И значит это буквально следующее: «Да, мы будем государством, только вот за пособиями, образованием, правопорядком, сбором налогов и прочей ерундой — это не к нам, а к тем, кто почему-то продолжает себя считать государствами». Google, Apple, Facebook уже ощущают свое мировое господство, но раньше им приходилось мириться с государственным контролем (хотя бы и со стороны одних США), а теперь, после выходки Сноудена, они вполне могут сказать тем же США: извините, мы должны быть полностью независимы.
В шахматах есть такое понятие — цугцванг
Это когда любой следующий ход игрока только ухудшает его позицию. Так вот, действия Сноудена продемонстрировали, что все мы находимся в том самом цифровом цугцванге. Дело в том, что вся информация, которую мы сами о себе оставляем в Сети, — это товар. Интернет-гиганты собирают ее, перерабатывают и продают. Они делали это, делают и будут делать — такова суть их бизнеса. Только раньше им приходилось делиться этой информацией с правительствами, а теперь у них есть легальное основание для отказа: они ведь как бы охраняют наши персональные данные. И ключевое слово здесь — «как бы», потому что они их не охраняют, они ими пользуются. И теперь будут пользоваться «в одно лицо», так сказать.
А теперь задумайтесь, из-за чего так переживает Илон Маск, что решил инвестировать личный миллиард долларов в бесплатный и открытый искусственный интеллект? Все до банальности просто: если даже не сверхумный, а хоть сколько-то сообразительный искусственный интеллект первым окажется в руках Google или Facebook, то все наши с вами персональные данные (которые у этих компаний уже есть и продолжают расти как на дрожжах) превратятся в идеальный способ управления нашим поведением. Социолог Зейнеп Тюфекчи показывает, что социальные сети уже сейчас обладают способностью «формировать нашу личность и наши слабые места», «понуждают и формируют наши мысли, желания и мечты». Нужен лишь слегка усиленный движок искусственного интеллекта, и предсказание Олдоса Хаксли о производстве «нужных обществу людей» станет явью.
Искусственный интеллект
Уже сейчас так называемой «когнитивной архитектурой» обладают такие компании, как AGIRI, Cycorp, Google, IBM, Novamente, Numenta, Self-Aware Systems, Vicarious Systems, и список можно продолжать. Плюс вездесущее государственное DARPA — «Агентство по перспективным оборонным научно-исследовательским разработкам», — которому мы уже обязаны интернетом и тысячей других цифровых вещей, включая, например, крошку Siri. Да, это еще не тот искусственный интеллект, который способен справиться с «тестом Тьюринга», но, может быть, в этом и нет особой нужды? Разве не тот же эффект будет достигнут, если искусственный интеллект, так и не став полноценной личностью, уничтожит наши?
Выдающийся ученый, профессор социологии Нью-Йоркского университета и Лондонской школы экономики Ричард Сеннет говорит: «Пришло время разбить Google на куски», а для этого «нам нужны отважные политики». И все вроде бы логично: необходимо разрушить формирующиеся гигантские интернет-монополии до того, как они начали формировать нас. Но если эти монополии смогут в скором времени управлять нашим поведением (по факту, это и так уже происходит), то каким, как вы думаете, будет исход мировой войны этих «отважных политиков» с этими новыми виртуальными правителями?
Или кто-то полагает, что Брин или Цукерберг, залепивший камеру на своем личном ноуте скотчем, отдадут власть просто так, без боя, за здорово живешь? Отдадут и еще раскланяются — все-таки госпожа президент, фрау канцлерина, леди премьер-министр… Те самые Брин и Цукерберг, которые бесконечно судятся из-за царящего в их компаниях мужского шовинизма?! Побойтесь бога. Только не эти парни. Точно нет.
И это, конечно, самый отвратительный сценарий. На мой вкус.
Сценарий третий: биржевой апокалипсис
Еще об одном сценарии скорой Четвертой мировой можно (и, наверное, даже нужно) рассказывать долго и сложно, но я проявлю сострадание… До недавнего времени я наивно полагал, что «кванты» — это неделимая порция энергии. Но на Уолл-стрит, как выясняется, свое понимание физики: там «квантами» называют специалистов по финансовой математике — тех самых, что уже оставили без работы и выкинули на улицу прежних, так хорошо известных нам по кино и новостным кадрам брокеров. Биржевые залы стремительно пустеют — на смену людям приходят математические алгоритмы.
Если верить гарвардскому ученому и бизнес-ангелу Александру Уисснеру-Гроссу, те средства, которые банки и хедж-фонды затрачивают на создание искусственного интеллекта, уже сейчас превышают совокупные затраты IT-компаний на те же цели. И удивляться тут нечему: деньги должны делать деньги, и, если нужно потратить деньги на то, чтобы делать деньги, за деньгами дело не станет. Некоторые из существующих алгоритмов уже сейчас умеют общаться друг с другом и осуществляют сделки за миллисекунды. Ни один человек не способен составить им конкуренцию в этой — самой большой — финансовой игре. Такова новая реальность «системы высокочастотного трейдинга» (HFT).
О том, что это за монстр, мир узнал в 2010 году, когда какой-то (тогда еще человек) трейдер умудрился одновременно выставить на продажу европейские фьючерсные контракты и инвестиционные фонды на сумму в 4,1 миллиарда долларов. В результате его ошибки стоимость соответствующих контактов по E-Mini S&P 500 упала на 4% за 4 минуты. Алгоритмы HFT уловили падение и начали автоматическую распродажу, другие алгоритмы тут же начали покупку, сопровождавшуюся распродажей других ценных бумаг для получения средств на эти покупки.
Паника
Запустился чудовищный механизм цепной реакции, в результате которого за двадцать минут индекс Доу-Джонса упал на тысячу пунктов. Никто не успел понять, что происходит, вмешаться и остановить эту компьютерную панику. По большому счету, это, конечно, ерунда: кто-то потерял, кто-то нашел. Всегда так бывает. Но в результате этой «ерунды» Греция оказалась на грани дефолта, подвергнув системному кризису всю европейскую экономику. И это был только первый случай подобной «паники» примитивных биржевых искусственных интеллектов, впоследствии аналогичные эпизоды повторялись неоднократно.
Понятно, почему банки и хедж-фонды не жалеют денег на «кванты». Непонятно, чем все это закончится. Не случится ли так, что какой-то из биржевых игроков создаст искусственный интеллект, пусть и не тьюринговский, но способный переиграть остальные алгоритмы на рынке, раньше других? Так и случится — кто-то, с неизбежностью, будет первым.
Но станет ли он победителем, когда его монстр искусственного интеллекта, вышедший на мировой финансовый рынок, обрушит всю систему, а вместе с ней и мировую экономику?
Алгоритму наплевать на греческие пенсии, да и вообще на всю реальную экономику. Если его цель — заработать, то никакого сострадания, а тем более «социальной ответственности», ожидать от него не приходится. Да, сработают какие-то системы защиты, остановка торгов и т. д. Но смогут ли они после этого возобновиться? И как все это будет работать, если нет? С учетом того, что на мировых биржах, в принципе, давно торгуют воздухом из гигантского мыльного пузыря, появление такого игрока грозит всей системе тотальным крахом. Сработает та самая «скорость недоверия», о которой я уже рассказывал в статье «Кризис “Капитала 2.0”», а дальше… Возвращаемся к первому сценарию — нет электричества, транспорта и денег.
Какая глупая смерть
Три приведенных сценария, конечно, не исчерпывают всей палитры возможностей. Но все они, надо признать, какие-то унизительные. Трудно представить, что о столь бесславной кончине нынешней цивилизации наши далекие потомки сложат красивую легенду. Да, Четвертая мировая может стать войной между умными машинами и людьми-героями. Но окажемся ли мы сами достаточно умными, чтобы добежать до того момента, когда машины обретут свой ум и наш грядущий Армагеддон будет действительно прекрасен?
Обо всем этом мы, вероятно, поговорим уже в следующий раз.
Андрей Курпатов, российский врач-психотерапевт
