«Четвертая мировая война» Андрей Курпатов, книга кратко

Будучи известным психотерапевтом, автором популярных книг, объясняющих принципы работы мозга, Андрей Курпатов решил выразить свой взгляд не только на настоящее, но и предсказывать будущее человечества с позиции футуролога в своей книге “Четвертая мировая война”. Предисловие новой книги выглядит логично и представительно: в нём Курпатов ставит цель проанализировать, как технологии способны повлиять на психические процессы и поведение человека, но уже в ходе повествования автор заметно отклоняется от заданной темы. Несмотря на значительное число конспирологических теорий, психотерапевт демонстрирует современные направления и тренды, связанные с прогнозированием роли технологий в жизни человечества. Для тех, кто только начал интересоваться этой темой, такой обзор станет неплохим введением в проблему, но для более продвинутых читателей, знакомых с мыслями современных футурологов, книга может показаться вторичной.

Основной посыл работы Курпатова заключается в необходимости регулировать развитие технологий, иначе человечество станет перекладывать всю работу на машины, переставая проявлять свободную волю и задействовать собственный интеллект. Автор последовательно приводит несколько аргументов для доказательства своего утверждения. В статье мы приводим краткое изложение основных идей книги “Четвертая мировая война”.  

Аргумент 1. Искусственный интеллект развивается значительно быстрее человека

Вычислительная мощность компьютеров непрерывно улучшается, в то время как человеческий мозг не способен к таким быстрым преобразованиям. Если раньше прерогатива мыслить считалась исключительно человеческой, то теперь ИИ превосходит людей в некоторых областях:

  1. Суперкомпьютер IBM Watson, участвующий в западной телевикторине, с 2011 года побеждает всех игроков не просто за счет подключения к разным базам данных. Он научился распознавать вопросы, в которых есть метафоры, двойной смысл и подтекст.  
  2. Компьютер AlphaGo, являющийся разработкой Google, в 2016 году одержал победу в логической настольной игре го над признанным чемпионом Ли Седолем.
  3.  В 2018 году нейросеть, созданная корпорацией Alibaba, показала более успешные результаты в тестах Стэнфордского университета, чем среднестатистический абитуриент.

Каждый из этих опытов показывает, как быстро может обучаться искусственный интеллект, насколько он становится многомерен в восприятии и обработке информации.

Аргумент 2. Компьютеры понимают людей больше, чем они сами

Примечательно, что нейронные сети, считающиеся самой прогрессивной разновидностью ИИ, с каждым годом все эффективнее справляются с «человеческими» задачами: создание творческих работ, распознавание образов и др. Их обучение происходит по следующему алгоритму:

  1. Нейросеть видит большое количество примеров и поглощает информацию о значительном массиве данных.
  2. На основе этого она учится распознавать и классифицировать объекты, например, отделять террористов от обычных людей.
  3. После ответов, полученных от искусственного интеллекта, разработчик дает обратную связь, отмечая правильно выбранные варианты и указывая на ошибки.

После этого начинается самостоятельная работа нейронной сети, но будет ли она пользоваться привычной нам логикой или начнет выстраивать ход мыслей по-своему, невозможно предсказать. Кроме того, это ставит людей в уязвимое положение: машина сможет прогнозировать человеческие поступки, обладая знанием о нашем логическом мышлении, но даже ее создатели не смогут предугадать ход ее мыслей.

Компьютеры собирают информацию о нас через множество устройств: смартфоны, камеры, фитнес браслеты и т.д. Их отличительная особенность – видеть не то, что мы хотим продемонстрировать, но то, какой выбор мы на самом деле совершаем. И это открывает огромный простор для манипуляций людей, в чьих руках окажутся подобные технологии.

Аргумент 3. Самосознание может быть не только у человека

 Для каждого человека самосознание – большая ценность, благодаря которой он может чувствовать, анализировать и выстраивать внутренний диалог. По сути, эта способность представляет собой результат действия электрических импульсов, возникающих по определенной схеме. И все внутренне наполнение: воспоминания, эмоции, размышления выполняет прежде всего функциональную роль – помощь в решении поставленных задач.

Для каждой психической реакции существует свой ассоциативный ряд и язык, помогающий человеку описать происходящее. Это разделяет сигналы нашего тела на две системы: первая представляет собой бездумную реакцию на внешние раздражители, вторая – дает нам понимание того, как мы реагируем на происходящее. Язык объясняет наши эмоции: положительные они, негативные ли – все можно выразить при помощи слов.

Курпатов считает, что искусственному интеллекту тоже можно дать такую систему, которая объясняла бы ему его поведение и реакции. Такой опыт должен проходить под строгим контролем наблюдателей, но нейросеть при этом училась бы быть автономной. Появление механизма, похожего на самосознание, еще больше «очеловечило» бы компьютер, но вместе с тем сделало бы его еще более непредсказуемым и неподконтрольным своим создателям.

Аргумент 4. Наши когнитивные способности снижаются

 Человеческий мозг устроен таким образом, чтобы искать легкие пути решения и максимально дистанцироваться от того, что вызывает дискомфорт. В отношении сознания существует эффект «иллюзии понимания», заключающийся в том, что человеку гораздо легче решить, что он понял принцип работы той или иной системы, чем признать недостаток информации. В результате простая и понятная картина мира становится ближе и важнее, чем истина и объективность.

Это приводит к парадоксальной ситуации, в которой с одной стороны, одна из потребностей человека заключается в саморазвитии и познании, с другой, ему важно экономно расходовать свои когнитивные силы, из-за чего он останавливается на чем-то привычном и понятном, не заглядывая глубоко. Психика первобытных людей формировалась в условиях, когда доступ к информации был ограничен, и знания являлись большой ценностью. Сейчас информация поступает отовсюду с такой скоростью, что человек не успевает все перерабатывать и запоминать. В результате простые упражнения вроде объяснения смысла прочитанного вызывают значительные затруднения из-за невозможности целенаправленной концентрации внимания.

Такие выводы особенно тревожны, потому что человечество всегда делало ставку на творчество и креативность, если речь шла о сравнении с компьютерами. Результаты исследования, проведенного в Америке преподавательницей Мэри Кюнг Хи Ким, показали, что последние пятьдесят лет детская креативность последовательно снижалась. Такие дети, вырастая, становятся взрослыми, не проявляющими тягу к творчеству, то есть не выходящими за рамки рутинной повседневности.

Для человеческого мозга характерна динамическая стереотипия – новые привычки приобретаются тяжело, но отучаться от них еще тяжелее. Поэтому результаты тестирования пациентов с цифровой зависимостью показывают, насколько сильно эта новая «привычка» изменяет головной мозг, демонстрируя те же процессы, что и при алкогольной или химической зависимости.  

Нахождение в интернете: игры в приложениях или просмотр ленты в социальных сетях вызывает в нашем мозге нейрохимическое подкрепление, дающее положительную реакцию на процессы, связанные с поиском, распознаванием образов или решением задач. Мозг одинаково рад и обнаружению грибов на опушке, и чтению постов в фейсбуке, приравнивая эти события по ценности к пониманию какого-то многопланового философского учения или выполнению сложной рабочей задачи. Приятным бонусом становится то, что первое сделать гораздо легче, чем второе, а удовольствие при этом одинаковое. Несмотря на обилие интересного и познавательного контента, мозг в погоне за быстрым и легким удовольствием выберет скорее поиграть в какую-нибудь легкую игру, чем почитать лонгрид, посвященный курсу биткоинов. 

Примечательно, что сам факт наличие смартфона рядом уже оказывает влияние на работу мозга. Психологи Адриан Ф. Уорд и Маартен В. Бос тестировали 1500 студентов, предложив им работу, состоящую из задач разной сложности. Тестируемых разделили на группы: у первой смартфон был в соседней комнате, смартфоны второй поместили вне поля зрения, не уведомив участников об их местонахождении, у третьей группы телефоны остались на столе, но студентам не разрешалось к ним прикасаться. Результаты теста показали, что третья группа хуже всех справилась с вопросами, что психологи связывали с постоянным отвлечением на смартфон, находящийся рядом.   

В результате получается, что технологии качественно снижают когнитивные процессы в следующих направлениях:

  • ухудшают концентрацию внимания;
  • уменьшают тягу к творчеству;
  • осложняют процесс восприятия и запоминания информации.

  Аргумент 5.  Технологии усиливают разрыв между людьми

Экономические процессы становятся все теснее завязаны на ИТ-технологиях. Они уже включены во многие сферы государственного и общественного функционирования: от массовых коммуникаций и сферы развлечений до тяжелой промышленности и сельского хозяйства. Разработка месторождений проходит под контролем автоматизированных машин, состояние полей можно оценить при помощи дронов, проектирование и тестирование новых материалов, искусственных органов проходит компьютерную обработку, прежде чем начать полноценно функционировать на практике. При этом подавляющее число способов коммуникации проходит через интернет. Современные тенденции демонстрируют, что со временем такое положение будет только усиливаться, ведь уже сегодня число людей, работающих удаленно, неуклонно возрастает.

Там, где технологии владеют пространством и информацией, открывается большой простор для манипуляций посредством гаджетов и социальных сетей, что в сочетании с отсутствием должного уровня кибербезопасности вызывает опасения. ИТ-компании получают такую же власть как парламент отдельной страны или президент, при том что их возможности простираются гораздо дальше. При этом развитие технологий, глобализация, возможность дистанционного обучения все еще не в силах сократить социальное расслоение. Экономический разрыв между разными слоями населения становится все более отчетливым, а противостояние демократических и автократических систем растет. Это иллюстрирует ситуацию борьбы контроля и свободы: богатым технологии дают доступ к большим возможностям, бедные же не могут удовлетворить даже элементарные потребности.

Но опасность представляют не только возможные технократы, политически мотивированное использование технологий давно не редкость. Примером может служить китайская система социального рейтинга, которая пока не охватила всю страну, но уже функционирует в регионах. Информация о каждом человеке бесперебойно фиксируется: его поведение в интернете, переписки, покупки, даже будучи вне сети он находится под контролем многочисленных камер. Аналитические системы собирают о нем информацию и оценивают степень лояльности, присваивая или отнимая баллы, которые впоследствии формируют рейтинг. Высокий рейтинг дает преимущества в виде льгот, низкий мешает при приеме на работу, обслуживании в частных учреждениях и т.д.

Заключение

Несмотря на то, что определенные риски, связанные с развитием искусственного интеллекта существуют, не стоит поддаваться панике и пытаться полностью изолировать себя от мира технологий. Курпатов в своей книге “Четвертая мировая война” констатирует факты, хоть и делает это в несколько предапокалиптической трактовке. При этом сам автор показывает, что важно в первую очередь сохранять бдительность, а не ополчаться против мира в целом. Его книга может стать неплохим пособием, иллюстрирующим, как важно развивать в себе вдумчивость и осознанность, чтобы кто-то не подменил их своими идеалами.

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *