28.03.2020

«Вы можете улыбаться и хлопать в ладоши, но уже завтра окажетесь в ГУЛАГе»: автор Sapiens напугал Давос

2 месяца назад
Комментарии (0)
Редактор: Kostya

Израильский писатель-футурист Юваль Ной Харари, чьи книги распроданы по всему миру тиражом свыше 30 млн экземпляров, выступил с апокалиптическими прогнозами на главном форуме деловой элиты

Израильский историк и философ Юваль Ной Харари в последние годы превратился в одного из самых влиятельных мыслителей мира. Его нон-фикшен-бестселлеры «Sapiens. Краткая история человечества» и «Homo Deus. Краткая история будущего» распроданы совокупным тиражом свыше 30 млн экземпляров, к его прогнозам прислушиваются ведущие визионеры Кремниевой долины, и даже разные редакции переводов его книг провоцируют глобальные общественно-политические скандалы. Неудивительно, что 43-летний футурист стал одним из главных спикеров Международного экономического форума в Давосе в 2020 году. Несколько дней назад мы рассказывали об основных тезисах из дискуссии Харари с основателем Huawei Жэнем Чжэнфеем, а сегодня представляем краткий пересказ его мини-лекции на сессии, посвященной рискам и угрозам XXI века. Подробнее со многими из этих идей можно познакомиться в последней на данный момент книге израильтянина — «21 урок для XXI века».

Подрывные технологии могут разрушить самую суть нашего общества множеством способов — от создания класса «бесполезных» людей из-за широкого внедрения искусственного интеллекта до неконтролируемой экспансии колониализма данных и цифровых диктатур.

Автоматизация рабочих процессов уничтожит миллионы и миллионы рабочих мест. Неясно, насколько быстро люди научатся осваивать новые профессии. Да, технологии создадут достаточное количество альтернативных рабочих мест, но сможет ли, к примеру, 50-летний водитель грузовика, которого только что заменили беспилотной технологией, заново обрести себя в профессии разработчика программного обеспечения или учителя йоги? А ведь людям, вероятно, придется не единожды проходить такое вынужденное переобучение — революционный переход на алгоритмы искусственного интеллекта не произойдет в один момент, нас ждет каскад больших и очень больших перемен.

В прошлом люди много и активно боролись против эксплуатации в разных ее формах. Но XXI век делает более актуальной другую борьбу — против собственной «бесполезности». Стать «бесполезным» сегодня гораздо опаснее, чем «эксплуатируемым». Из тех, кто не сможет победить в этой борьбе, сложится целый новый класс. Это будут бесполезные с точки зрения экономической и политической систем люди. И пропасть между ними и могущественной элитой будет только расти.

Эта социальная дифференциация захватит не только классы, но и целые страны. В XIX веке мы уже наблюдали, как пионеры индустриальной революции Британия и Япония первыми внедрили новые технологии и тут же принялись захватывать мир и эксплуатировать другие народы. Если мы не усвоим эти уроки, история повторится и в XXI веке искусственный интеллект (ИИ) позволит передовым государствам — прежде всего Китаю и США — совершить скачок в развитии, грозящий всем остальным банкротством или превращением в цифровые колонии. Эффект от внедрения ИИ должен быть равномерно распределен по планете.

Просто представьте себе, что случится с развивающимися экономиками, если текстиль или автомобили станет выгоднее производить в Калифорнии, а не, к примеру, в Мексике? А что будет с элитами ваших стран, если в Сан-Франциско или Пекине будут храниться все данные об истории их болезней и другая чувствительная персональная информация? Когда у вас достаточно данных, не нужно посылать никуда солдат — отстающие страны и без того вынужденно станут вашими сателлитами.

Еще один риск неравномерного освоения технологий — появление цифровых диктатур, способных постоянно следить за всеми своими гражданами. Этот риск можно уместить в самое, вероятно, важное уравнение XXI века: B*C*D=AHH, где B — биологические знания, C — компьютерные вычисления, D — данные, а AHH — умение «хакнуть» каждого отдельного человека. Если у вас есть все аргументы для этой формулы, вы взломаете мое тело, мой мозг, мое сознание и поймете меня лучше, чем я сам.

Система, основанная на формуле, сможет предсказывать чувства и решения человека, манипулировать ими и в конечном итоге решать за него. В прошлом о такой системе мечтали многие тираны, но ни у кого из них не было достаточно представлений о биологической природе человека, развитых технологий и массива данных, доступных сегодня. Мы больше не какие-то там загадочные души, мы животные, которых можно взломать.

Да, вся эта информация может использоваться и во благо, например для создания эффективной системы здравоохранения. Но представьте себе попадание наших аргументов в руки условного нового Сталина — тогда всем нам грозит диктатура, невиданная доселе. А ведь претенденты на роль этого нового Сталина уже есть — давайте подумаем, какой будет та же Северная Корея через двадцать лет? На граждан там смогут надевать биометрические браслеты, замеряющие все данные, и когда человек будет слушать по радио речь верховного лидера, «большой брат» будет знать, что он думает о правителе на самом деле. Вы можете улыбаться и хлопать в ладоши, но если вы в этот момент злы, то уже завтра утром окажетесь в ГУЛАГе.

Не думайте, что от подобных режимов можно скрыться в зажиточных укромных уголках вроде Давоса: не верите — спросите Джеффа Безоса. В том же сталинском режиме коммунистическая элита была под колпаком в первую очередь. Это справедливо и для цифровых диктатур будущего: чем выше иерархия, тем внимательнее за вами будут следить. Так что если вы получили подозрительное сообщение по WhatsApp от какого-то принца, не открывайте его!

Люди все больше и больше будут доверять искусственному интеллекту, передавать свои знания и умения алгоритмам. В принципе уже сегодня миллиарды пользователей считают, что Facebook лучше них выстроит их собственную картину дня, Google подскажет, правдива ли та или иная информация, Netflix выберет фильм для просмотра, а Amazon и Alibaba посоветуют следующую покупку. Те же алгоритмы в недалеком будущем теоретически легко могут предсказать за человека, куда ему идти работать и с кем заводить брак, а компаниям и банкам — кого нанимать на работу и кому одалживать. И даже центробанки способны опираться на ИИ в расчете оптимальной ставки. Все это будет происходить только потому, что так решил компьютер.

Человеческий мозг уже сегодня не может вместить в себя все те знания о биологии, всю ту вычислительную мощность и все те данные, что хранятся в компьютере. Все это ведет к тому, что однажды мы попросту перестанем понимать решения искусственного интеллекта. Даже в относительно свободных странах люди рискуют потерять контроль над собственной жизнью и государственным управлением. То, как работает финансовая система, уже сегодня понимает в лучшем случае 1% человечества. Через двадцать лет этот показатель может снизиться до нуля.

В свете наступления искусственного интеллекта мы сталкиваемся с философским банкротством — у нас нет ресурсов и инструментов, чтобы осознать и объяснить происходящие перемены. Политические и бизнес-элиты посредством новых технологий могут создавать на Земле рай и ад по своему усмотрению. Но философы пока не могут концептуально осмыслить эти перспективы. В итоге в этом новом цифровом аду рискует оказаться все человечество.

Подрывные технологии грозят и нашему биологическому устройству. В ближайшие десятилетия искусственный интеллект и биотехнологии способны дать нам богоподобные свойства, вплоть до искусственного создания новых людей, органической жизни, сформированной разумным замыслом. Армии, корпорации и государства могут использовать новые умения и для манипуляций — формировать у зависимых от них граждан особый набор свойств. Это будет раса лояльных дисциплинированных людей, не умеющих сострадать, быть творцами и духовно глубокими личностями.

Все это не приговор, а лишь один из сценариев развития. ИИ и биотех позволят построить в XXI веке разные по устройству общества. Если вы боитесь каких-то из описанных мною угроз, в ваших силах повлиять на то, чтобы эти угрозы не реализовались. Но нам точно понадобится глобальная кооперация. Лидерам важно помнить, что ни одна страна в одиночку не справится с рисками вроде ядерной войны и климатической катастрофы. То же и с ИИ.
Важно доверие — государства должны быть уверены, что сосед не поставит подножку и не разработает в одиночку смертоносную технологию. Потому что в противном случае не будет иметь значения, кто был первым, — проиграет все человечество.

Сегодня власти отдельных стран должны понять, что противостояние между национализмом и глобализмом — искусственный конструкт прошлого. Такой коллизии нет в повестке, национализм — не про ненависть к иностранцам, а про любовь к согражданам. В XXI веке, чтобы защитить свою страну, вы должны кооперироваться с иностранцами. Всякий честный националист сегодня обязан быть глобалистом.

Хороший пример такой кооперации — чемпионат мира по футболу. Это одновременно и соревнование между национальными сборными, и образ глобальной гармонии, в которой все соглашаются участвовать по одним и тем же правилам. Если вы любите чемпионаты мира, считайте, что вы уже глобалист. Осталось только перенести единые правила с футбола и на климатические угрозы, и на опасные технологии.

Договориться будет непросто, но надо помнить, что человечество уже смогло перешагнуть закон джунглей, по которому жило и развивалось много веков. Согласно этому закону, нации не могли обходиться без регулярных конфликтов, а мир всякий раз воспринимался лишь как временное затишье между прошедшей и будущей войнами. Нынешний глобальный миропорядок, несмотря на все недостатки, позволил нам построить процветающую и эволюционирующую систему. Мир больше не значит «перемирие».

Но не стоит успокаивать себя этими мыслями. Да, сегодня в мире больше людей кончают жизнь самоубийством, чем погибают на войнах, порох стал менее смертоносным порошком, чем сахар, а большинство стран (за редкими примечательными исключениями вроде России) не мечтают о захвате территорий соседей и больше тратят на образование и медицину, чем на оборону. Это больше не джунгли. Но и благополучие иллюзорно: страны забывают, насколько в реальности хрупко устройство мира, и недооценивают то, что мы имеем. Планета напоминает дом, жители которого просто спят в нем, но не ремонтируют. Он продержится еще сколько-то лет, но однажды, если мы ничего не изменим, рухнет. И мы вернемся в джунгли.

Конечно, даже если человечество уничтожит само себя, это будет еще не конец света. Кто-то, вероятно, выживет. Возможно, крысы. Выживут и изобретут новую цивилизацию. И даже учтут наши ошибки. Но мне бы хотелось верить, что апокалиптический сценарий не сбудется и ответственность за решение проблем возьмут на себя лидеры, которые собираются здесь, в Давосе.

Источник: https://www.forbes.ru/tehnologii/391789-vy-mozhete-ulybatsya-i-hlopat-v-ladoshi-no-uzhe-zavtra-okazhetes-v-gulage-avtor

Похожие

«Пропагандирует в своих текстах анархистские взгляды». В Калуге отменили концерт группы Distemper

Концерт московской ска-панк-группы Distemper, планировавшийся 1 февраля в клубе «Concert Hall» в Калуге, отменен. Как сообщается в сообществе коллектива во…

2 месяца назад
Комментарии (0)

Иван Голунов признан потерпевшим по делу о превышении полномочий сотрудниками МВД

Специальный корреспондент «Медузы» Иван Голунов признан потерпевшим по делу о превышении должностных полномочий сотрудниками полиции. Об этом Голунову сообщил следователь…

2 месяца назад
Комментарии (0)

Последние новости

Лучшие сериалы Netflix, которые понравятся всем без исключения

18 секунд назад
Комментарии (0)
Редактор: Kostya

Netflix — это крутая компания, которая снимает, выпускает и выкладывает в сеть одни из самых интересных фильмов и сериалов. Главное достоинство компании, которое оценили все…

18 секунд назад
Комментарии (0)
Редактор: Kostya

В России еще 228 человек заразились коронавирусом

3 часа назад
Комментарии (0)
Редактор: Kostya

В России за сутки зарегистрировано 228 новых случаев заражения коронавирусом, сообщает оперативный штаб в своем Telegram-канале. Общее число выявленных в…

3 часа назад
Комментарии (0)
Редактор: Kostya

Саудовская Аравия отрицает контакты с Россией по сделке ОПЕК+

1 день назад
Комментарии (0)
Редактор: Sergey

Минэнерго Саудовской Аравии заявило, что не общалось с российскими коллегами о том, чтобы привлечь новые страны к сделке ОПЕК+, а также с РФ не обговаривалась тема возобновления совместных…

1 день назад
Комментарии (0)
Редактор: Sergey

Песков подтвердил случай коронавируса в администрации президента

1 день назад
Комментарии (0)
Редактор: Sergey

Представитель Кремля Дмитрий Песков подтвердил информацию о том, что один из сотрудников администрации президента заболел коронавирусом. О ком именно идет речь, пресс-секретарь не уточнил. По его словам, заболевший…

1 день назад
Комментарии (0)
Редактор: Sergey
Авторизация
*
*
Регистрация
*
*
*
*
Генерация пароля