Люди с усиленным интеллектом могут быть эффективнее ИИ

Несмотря на всеобщее внимание к развитию искусственного интеллекта, есть в мире несколько человек, которые считают, что потенциал существенно улучшенного человеческого интеллекта (УИ) гораздо выше. Вопрос о том, что же придет раньше, остается открытым, однако есть мнение, что технологически усовершенствованный мозг может быть настолько же мощным (и если говорить откровенно, настолько же опасным), как и ИИ.

Человек как вид развивал свое мышление на протяжении многих тысячелетий. Или по крайней мере пытался это делать. Пробуя преодолеть свои когнитивные ограничения, люди использовали все, что только можно, начиная от письменных, лингвистических и медитативных техник и заканчивая современными ноотропиками.

Почему вместо попыток разработать общий искусственный интеллект (ОИИ) или же даже искусственный сверхинтеллект (ИСИ), не лучше было бы сосредоточиться на человеческом мозге и его еще далеко не полностью раскрытом потенциале? Ведь существенное улучшение разума — будь то посредством генетики, кибернетики или же силами внешних устройств — может привести к аналогичному результату, который мы ожидаем от создания продвинутого ИИ.

Портал Gizmodo решил связаться с футурологом Михаилом Анисимовым, блогером портала Accelerating Future и соучредителем мероприятия Singularity Summit, и выяснить вероятные перспективы развития направления улучшения человеческого мозга. Анисимов рассматривает этот вопрос очень серьезно и считает, что мы должны опасаться УИ так же, как и ИИ.

Михаил, когда мы говорим об усилении интеллекта, то что под этим подразумеваем на самом деле? Мы говорим о создании новых Эйнштейнов? Или же речь идет о чем то еще более масштабном?

Настоящей целью направления УИ скорее является создание «супер-Эйнштейнов», людей гораздо умнее любого человека, когда-либо жившего на Земле. И для достижения этой цели придется осуществить несколько ключевых шагов.

Первым шагом будет создание прямой нейронной связи с информацией. Считайте, что речь идет об этаком «телепатическом поисковике Google».

Следующим будет разработка интерфейсов мозг — компьютер, которые будут усиливать работу части мозга, отвечающей за визуальное восприятие. Это усилит не только наше зрение, но и существенно повысит эффективность обработки информации. Только представьте, что вы будете способны практически моментально создать в своем мозге какую-нибудь сложную схему объекта в деталях или теперь можете выучить увиденную схему наизусть в мельчайших подробностях. Также потребуются аугментации и на других участках сенсорной зоны коры головного мозга, отвечающих за осязание и слух.

Третий шаг будет заключаться в аугментации префронтальной коры головного мозга. Это святой Грааль исследования УИ — повышение эффективности восприятия и объединения сенсорной информации в понятия. Конечным результатом будет появление людей, способных демонстрировать практически невозможные интеллектуальные способности. Речь идет, например, о способности управления другими людьми силой разума, понимании всех выигрышных позиций рынка акций, или, например, создании изобретений, способных изменить мир практически за одни сутки. Сейчас это может казаться невозможным так же, как казались невозможными наши современные достижения в глазах людей каменного века. Но возможность эта действительно реальна.

Заглядывая на следующие десять лет вперед, какое развитие ожидает ИИ? На самом ли деле человеческий мозг может составить ему конкуренцию?

Человеческий мозг на самом деле нельзя изменить слишком сильно. Ведь он и без того является результатом семи миллионов лет эволюционной оптимизации и тонкой настройки, которые, нужно признаться, прошли очень удачно, если учитывать его ограничения. И попытки его «разогнать», как правило, приводят к его выходу из строя, если рассматривать вопрос по крайней мере хотя бы с точки зрения примера эффектов, сопровождающихся амфитаминовой зависимостью.

Химические вещества неспособны повысить когнитивные способности человека. И все, что приводится в пользу эффективности нынешних «ускорителей мозга», выглядит на самом деле крайне спорно и сомнительно. Для достижения реальных успехов потребуется использование мозговых имплантатов, соединяющихся с миллионами нейронов. Это, в свою очередь, потребует наличия миллионов крошечных электродов и специальной системы управления для синхронизации их всех. Сейчас же самая передовая разработка интерфейса компьютер — мозг насчитывает в лучшем случае около 1000 таких соединений. Другими словами, нужно более чем в тысячу раз увеличить масштаб современных разработок, чтобы можно было добиться чего-то действительно интересного. Даже если взять во внимание экспоненциальный рост, то потребуется как минимум от 15 до 20 лет для достижения каких-то результатов.

Развитие УИ опирается в первую очередь на прогресс в развитии нанопроизводства. И результаты работы инженеров, работающих над интерфейсами мозг — компьютер, таких как, например, Эд Бойден из Массачусетского технологического института, всецело зависят от прогресса в этом направлении. Учитывая ничтожный уровень развития технологий производства на атомном уровне, наноуровневая самосборка выглядит наиболее очевидным путем к развитию интерфейсов мозг — компьютер с миллионами электродов. Наноуровневая самосборка, следует отметить, не является атомарно точным методом производства, но она достаточно точна согласно стандартам базового производства и фотолитографии.

Какие потенциальные побочные психологические эффекты могут возникнуть у людей с существенно улучшенным интеллектом? Можно ли их вообще будет рассматривать как людей с этой точки зрения?

Одним из самых характерных побочных эффектов будет безумие. Человеческий мозг представляет собой невероятно точно настроенную машину. И любое изменение в режиме ее работы приводит к тому, что мы обычно называем «сумасшествие». Есть много различных видов безумия, гораздо больше, чем поведенческих схем при рабочем здравом смысле. Например, скрытое безумие с точки зрения внешнего окружения может казаться вполне себе здравым поведением, поэтому, скорее всего, мы столкнемся с трудностями выявления таких индивидов, страдающих безумием.

Даже при сохранении полной вменяемости могут проявляться различные побочные эффекты, включая судороги, состояние информационной перегрузки и, возможно, чувства эгомании и полного отчуждения. Умные люди, как правило, чувствуют себя более отчужденно от окружающего их мира, поэтому знание того, что ты умнее всех на планете, усилит этот эффект многократно.

Большинство очень умных людей не очень общительны и веселы, как, скажем, американский ученый Ричард Фейнман или как современный Нил Деграсс Тайсон. Хемингуэй как-то сказал: «Интеллигентный человек вынужден иногда напиваться, чтобы вынести общение с дураками». А что будет, когда алкогольного опьянения окажется уже недостаточно для поддержания духа товарищества и взаимной привязанности? Это может привести к утрате сочувствия, что в конечном итоге приведет к психопатии.

Так что же появится раньше? Усиленный или искусственный интеллект?

Очень сложно предугадать. Есть огромное желание того, что усиленный интеллект появится все же раньше ИИ. Немалую заслугу в этом желании носят все эти художественные произведения и игры, в которых главный герой обладает таким УИ. Однако следует понимать, что уклон в пользу УИ на самом деле никоим образом не упрощает работу над ним с точки зрения технологической сложности. Но лично я считаю, что УИ придет раньше.

Как бы там ни было, оба направления очень сложны в реализации. Возможно, мы не увидим ни того ни другого до 2060-х, 2070-х годов или даже позже. Но в конечном итоге оба направления развития достигнут своих целей. Если хорошенько подумать, в интеллекте сейчас нет ничего удивительного, поэтому потребность в его усовершенствовании невероятно огромна. И, вероятно, потребуется глобальное восстание луддитов (участники стихийных протестов первой четверти XIX века против внедрения машин в ходе промышленной революции в Англии, — прим. ред.), чтобы остановить прогресс технологического развития, которое приведет нас к нужным результатам.

В чем заключаются преимущества и недостатки этих двух различных подходов в развитии?

Главное преимущество выбора пути развития ИИ заключается в несоизмеримо более дешевых и более простых процессах разработки. ИИ на бумаге и в коде уже разработан. Осталось его только грамотно собрать. Наиболее же значимые исследования УИ, в свою очередь, сейчас просто незаконны. Серьезные исследования УИ потребуют использования очень сложных экспериментов по нейрохирургии и мозговым имплантатам. Мозговые имплантаты, в свою очередь, могут выходить из строя, вызывая судороги, безумие или даже смерть. Улучшение человеческого интеллекта с точки зрения качественного способа самосовершенствования — это не просто вопрос нескольких выпитых таблеток для обретения суперспособностей. Здесь действительно придется проводить эксперименты с мозговыми имплантатами, если хочется добиться серьезных результатов.

Большинство исследований в этой области серьезно контролируются и невероятно дороги. Все эксперименты с участием животных всегда дороги. Например, Теодор Бергер работал над имплантатом для гиппокампа для восстановления и улучшения работы памяти в течение многих лет. В 2004 году прошли первые испытания с участием живой ткани, но с тех пор новости появляются очень редко. Раз в несколько лет, конечно, в новостях появляются какие-то заметки, но я весьма скептически настроен на конечный результат. А теперь посмотрите, какого уровня развития мы смогли добиться в вопросах разработок искусственного интеллекта!

С точки зрения предсказуемости и контроля УИ выглядит безопаснее ИИ? Что важнее создать первым, УИ или сверхмощный ИИ?

Усиленный интеллект видится более непредсказуемым и неконтролируемым по сравнению со сверхмощным ИИ. И в долговременной перспективе на самом деле выглядит даже более опасным. Недавно я написал статью, в которой ведется размышление на тему глобальной политической трансформации, триггером которой является огромная власть, сконцентрированная в руках небольшой группы людей, наделенных УИ или имеющих эксклюзивный доступ к молекулярному производству. В ней я ввел термин «Максимилиан», означающий «лучший из лучших», чтобы описать очень влиятельного лидера, который сам использует технологию улучшенного интеллекта, чтобы вознести себя над всеми остальными.

Когнитивно усовершенствованный Реджинальд Баркли из сериала «Star Trek: The Next Generation» в эпизоде «В энной степени»

Ключевая суть моих рассуждений в статье заключается в том, что в случае с улучшенным интеллектом вам придется иметь дело с людьми, а человек, как известно, несовершенен. Может оказаться так, что люди с усовершенствованным интеллектом, возможно, и сохранят какой-то определенный уровень человеческой нравственности, но и, скорее всего, начнут использовать всю мощь своего разума в гедонистских целях и, возможно, даже для геноцида.

Искусственный сверхинтеллект, в свою очередь, можно создать с нуля и просто заставить следовать набору собственных мотиваций (которые тоже в него будут заложены), имеющих доброе начало, стабильность и носящих положительную обратную связь.

Люди задаются вопросом: «а не отвергнет ли ИСИ эти мотивации?». Нет, не отвергнет, потому что эти мотивации будут составлять ядро его ценностей, если, конечно, будут правильно запрограммированы. Не будет никакого «призрака в машине», способного игнорировать или отказываться от заранее запрограммированных мотивов.

Философ Ник Бостром провел удивительный анализ в своей работе «Воля сверхинтеллекта». Ключевая идея в ней заключается в том, что корыстные цели не могут появиться сами собой, если система ключевых задач ИИ изначально коренным образом представляет собой набор бескорыстных целей и если сама суть бытия машины будет заключаться в поддержании этой бескорыстности. Эволюция показала, что корыстные цели играют немаловажную роль в выживании, особенно если учесть эволюционную конструктивную ограниченность живых организмов, но это же не означает, что мы сами не в состоянии запрограммировать бескорыстных агентов с нуля?

Какие трудности (технологические, медицинские, или этические) стоят на пути развития?

Самая большая трудность заключается в разработке подходящих технологий производства. Сейчас мы даже близко к этому не подобрались. Еще одним подводным камнем является задача по выяснению того, за что конкретно отвечает каждый отдельно взятый нейрон, и определению точного расположения этих нейронов в отдельно взятом человеке. Опять же, мы даже близко к этому не подобрались.

В-третьих, нам необходимо разработать быстрый способ проверки многочисленных теорий о функционировании мозга. Эд Бойден называет это «высокопропускной скрининг-схемой нейронных сетей». Самым подходящим и очевидным решением этого вопроса может быть каким-то образом создание человеческого существа без сознания и экспериментирование на нем без зазрения совести и моральных дилемм. Но у меня есть чувство, что эта идея будет в штыки воспринята большинством комитетов по этике.

При отсутствии такой возможности, нам необходимо найти способ создания беспрецедентно детальной модели человеческого мозга. И речь идет не о сегодняшних тяжких потугах проекта «моделирования мозга», вокруг которого столько много шумихи. Речь идет о беспрецедентно новом уровне, достичь которого мы сможем не раньше 2050-2080 годов. Оксфордский анализ показывает, что все же речь идет скорее о 2080-х годах. Выглядит это все сейчас, конечно, как гадание на кофейной гуще, но все же уже ближе к реальности.

hi-news

Опубликовано на сайте: 2016-06-19