Цифровая реальность объявила нам мировую войну

Андрей Морозов

Программные алгоритмы уже распространяют свое влияние за пределы машин, меняя пространство вокруг них, подстраивая его под свои нужды. Возможно, сейчас как раз самое время окончательно выяснить, насколько они поумнели по сравнению с нами и не упустили ли мы возможность их «приручить».

В этих словах – едва ли не главная мысль, которая стала предметом обсуждения на проходившей минувшим летом конференции TEDGlobal. Один из участников конференции, специалист по алгоритмам Кевин Слэвин, выступил с впечатляющим докладом на эту тему. «Мы пишем вещи <ПО, алгоритмы>, которые не можем самостоятельно прочитать, – цитирует Слэвина агентство BBC. – От нас уже ускользает смысл того, что происходит в нами же созданном мире».

Очень точно формулирует эту коллизию Александр Неклесса, председатель комиссии по социокультурным проблемам глобализации, член бюро научного совета «История мировой культуры» при президиуме РАН: «Между предметами и людьми существует еще одно сообщество – сообщество программ. Они обладают свободой выбора. В этом зазоре между гибкостью человеческого интеллекта и заданностью программ – большая проблема второй половины XXI века».

Действительно, тут есть где развернуться экспертам, исследователям, футурологам и фантастам. Уже сегодня пятая часть людей на планете используют Интернет как минимум раз в месяц. Мало того, Интернет становится фактором геополитического развития. «Мир Интернета взаимодействует с физическим миром вокруг нас, – уверен Бенджамин Браттон, директор Центра дизайна и геополитики Калифорнийского института телекоммуникаций и информационных технологий. – Формируется урбанистическая операционная система. Каждый становится пользователем. Мы сами создаем условия для существования таких сетей. И наше гражданское общество определяется качеством таких сетей».

Кажется, человечество потихоньку начинает понимать, что произошло и что оно, человечество, сотворило. Мы просто вынуждены сегодня воспринимать Сеть не просто как средство, но как субъекта, формирующего мир и реальность вокруг нас. «Мы являемся свидетелями рождения глобальной, иерархически организующейся системы – Интернет. Это исключительно интересно: наблюдать, как она эволюционирует, хотя и понятно, что в конце концов все это есть результат деятельности человека. Несколько шокирует, что подобные иерархические системы могут возникать и без участия живого, вполне самопроизвольно», – подчеркивал еще несколько лет назад в беседе со мной доктор физико-математических наук Владик Аветисов из Института химической физики РАН.

Тот же Браттон, например, задается вопросом: «Оказывает это влияние на геополитику? Конечно. Около каждого узла Интернета – концентрация городов. Точно так же, когда древние римляне строили свои дороги, вокруг них концентрировалось население».

Другими словами, архитектура виртуального пространства формирует архитектуру человеческого общества. «Город – это территория, где живет Интернет, – отмечает Александр Неклесса. – И это не метафора. Это и «железо», и программное обеспечение».

Система метафор, которые можно потрогать, – вот что такое современное общество. И это само по себе не метафора. А реальность, данная нам в ощущениях. Сегодня уже вполне можно ставить задачу так, имея в виду развитие сети Интернет: визуализировать социальные связи и начать работать над дизайном получившихся сетей. Социальность как пластилин. Правда, возникает проблема легитимности «скульптора»: кто будет «лицензировать» его деятельность? Но и это не принципиально важно. Ведь сам этот гипотетический «скульптор» оказывается лишь инструментом в «руках» программного обеспечения и компьютерных алгоритмов.

«Алгоритмы могут быть «умнее» людей, но они пока не обладают многими другими нашими качествами, и это может привести к серьезным, а порой и чудовищным просчетам, – отмечает научный обозреватель BBC Джейн Уэйкфилд в статье «Когда алгоритмы будут контролировать мир» (When algorithms control the world). – К примеру, ранее в этом году на торговом портале Amazon случился сбой, в результате которого на какое-то время самой дорогостоящей книгой в мире оказалось научное сочинение The Making of a Fly современного британского ученого Питера Лоуренса о биологии развития мухи. Возможно, этот труд и является захватывающим чтивом, но при любом раскладе никак не стоит 23,6 миллиона долларов».

Такой суммы стоимость книги достигла после того, как алгоритмы установления и обновления цены начали «перебивать» друг друга. «Это всего лишь малюсенькая крупинка того хаоса, который может случиться, если программа станет достаточно умной, чтобы работать без человеческого вмешательства», – убежден Слэвин. Типичный конфликт алгоритмов, начавшийся и проходивший без участия (контроля) со стороны человека.

И это только цветочки, если учесть, что, например, сервис проката видеофильмов в Интернете Netflix, благодаря используемым в нем алгоритмам, контролирует 60% этой сферы. То есть фактически некий алгоритм, в котором могут разобраться и прочитать его лишь сугубые и очень узкие профессионалы, контролирует выбор культурных предпочтений более половины пользователей Интернета. А в это время сложные алгоритмы решают, что купить и что продать на мировых финансовых рынках: до 70% торгов на Уолл-стрит теперь осуществляются через так называемые черные ящики. «Это означает, что помимо умных парней-трейдеров банки и брокеры теперь нанимают тысячи других умных парней – физиков и математиков», – пишет Джейн Уэйкфилд.

Сообщество программ обретает свойства субъекта. Именно эти невидимые и неощущаемые вроде бы на тактильном уровне циклопические объемы вычислений определяют то, как мы взаимодействуем с электронным миром, созданным нашими же руками.

Отсюда – один шаг до вполне фантастической, казалось бы, гипотезы: сообщество программ и алгоритмов сознательно устраивает «глюки», чтобы потом, руками и мозгами человека, совершенствоваться. Об этом еще в 2000-м году писал журнал «Компьютера»: «С точки зрения машины это выглядит как взаимодействие с окружающей средой, которая часто враждебна (привносит элементы хаоса), но в то же время необходима для развития».

Если продолжить эту логику, то одним из признаков, по которым мы опознаем самозарождение искусственного Разума, фактически станет появление большого количества нетривиальных ошибок в Сети. Ну, вот, например, такой.

В ночь с 8 на 9 сентября нынешнего года без света остался восьмой по величине город США Сан-Диего. Масштабный блекаут затронул ряд крупных городов в Калифорнии, Аризоне и на севере Мексики – без электричества остались шесть миллионов человек. Непосредственная причина – автоматическое отключение двух реакторов на АЭС «Сан-Онофре» после сбоя в подаче электроэнергии на электрической подстанции North Gila в районе города Юма в Аризоне.

Американцы вроде бы быстро вычислили виновного. Виновным, как всегда, оказался стрелочник, в нашем случае – один из электриков, работавших на подстанции в Юме. Он якобы «допустил критическую ошибку, запустившую цепной процесс». Однако, как отмечает агентство AP, до конца не понятно, каким образом один человек мог отключить электричество 6 миллионам американцев. В штатной ситуации при неполадках на подстанции электричество должно было отключиться только в районе Юмы. Тем не менее, сбой в Юме вызвал цепное отключение генераторов на АЭС «Сан-Онофре». Как такое произошло, еще предстоит разобраться специалистам. Но, кажется, и здесь без «заговора алгоритмов» не обошлось…

Может быть, разум – это, вообще, очень нетривиальная Ошибка?

ng

Опубликовано на сайте: 2011-11-06