«Главная проблема — восстание машин». Алексей Иванов рассказал «Би-би-си» об опасности интернета

— Самая большая проблема общества, как обычно, — нежелание видеть проблему. Или желание считать проблемой некие трудности, пусть даже и очень значительные, но вполне разрешимые.

Иммигранты, терроризм, коррупция, социальные протесты, глобализация, изменение климата… Эти проблемы — на экранах всех телевизоров и в топах всех новостей, но не они определят внутреннее, глубинное устройство мира будущего.

Главная проблема — «восстание машин». И оно уже началось. Разумеется, машины — не роботы-терминаторы и не холодильники-убийцы. Машина вообще всего одна: интернет. И его опасность, вопреки общественным фобиям, вовсе не в том, что вездесущие системы слежения будут знать про каждый шаг каждого человека и станут управлять людьми по своему желанию.

Главная новость по теме

Алексей Иванов: «Не путайте время перемен с весенним оживлением хомячков в Сети»

Подобные антиутопии лишь профанируют суть проблемы. «Восстание машин» — когда искусственная система заставляет человека или человечество жить по ее законам. Когда в своем реальном мире мы вдруг начинаем жить так, как живем в виртуальном. Когда законы онлайна переходят в офлайн.

Главная технология овладения нашим миром — не вторжение злобных роботов из будущего, а социальные сети — новая глобальная коммуникация, захватывающая всех и каждого и преобразующая жизнь.

Предыдущий захват мира осуществил печатный станок Гутенберга. Книгопечатание породило прессу, глобальную коммуникацию Нового времени. Пресса тиражировала актуальные и понятные массам идеи. Пресса дала возможность консолидации социальных групп в классы и подвела их к политическим амбициям.

В итоге эта глобальная коммуникация породила гражданское общество. Оно и доныне является основным форматом нашего мира.

Какой социальный смысл во флешмобе? Какая экономика в идейном пиратстве? Какая психология в селфи? Какая ценность в лайках от людей, которых ты не знаешь, но согласен пожертвовать жизнью, чтобы они одобрили твой бессмысленный поступок? Где граница приватного и публичного, когда ты выкладываешь в Сеть то, что не скажешь даже самому близкому человеку?

Но этого мало. Это еще игрушки. Проблема гораздо глубже.

Соцсети построены не по тем законам, по которым мы живем в реальности. В реале человек должен заслужить право публичного высказывания. Пока ты не сделал что-то важное, тебя не будут слушать. А в соцсетях право голоса дается всем автоматически, без заслуг, говорить можно сразу на весь мир. И за свои слова никто не несет ответственности.

Ответственность за свои слова — непременное свойство авторитета. На институте авторитета держится культура. Она по природе своей иерархична. Шекспир авторитетнее Дэна Брауна, значит, Шекспир выше Дэна Брауна по культурной иерархии.

Уничтожая авторитеты, соцсети отменяют иерархии, и культура рушится. Уничтожение авторитетов — вовсе не свобода. Свобода — когда множество иерархий, и можно выбирать ту, которая нравится. Когда иерархия одна — это тоталитаризм. Когда иерархий нет — это хаос. Отменяя авторитеты, соцсети являются институциональным хаосом, и следующий шаг их эволюции — тоталитаризм. А он уже не допустит никаких соцсетей.

Соцсети дают безграничные возможности общения. Хорошо это или плохо? Естественные ограничения общения вынуждают, например, дурака общаться с умным, и в результате дурак становится немного умнее, а умный немного человечнее. Это и есть культурная эволюция.

С точки зрения отдельного человека это хорошо: не надо трудиться над собой, общение комфортно. А с точки зрения популяции это плохо: это культурная энтропия, добровольная сегрегация. Добровольность сегрегации приводит к отказу от этических императивов. Костяк культуры разлетается на куски.

Сейчас мы в реальном мире начинаем общаться так же, как общаемся в мире виртуальном. Школьник бестрепетно отрицает выводы нобелевского лауреата. Профессиональные вопросы решаются не вердиктом специалистов, а советом приятного человека или мнением анонимного большинства случайных участников обсуждения.

Знание огромного числа оценок какого-либо явления приводит к убеждению, что правильная оценка — только твоя. Главной ценностью считается не самореализация, то есть продвижение своих компетенций, а самовыражение, то есть продвижение своей персоны. И так далее. Мерой всех вещей становится не человек, а эго отдельного человека.

Это очень созвучно принципам общества потребления. Но если интернет начнет работать по принципам общества потребления — а рекомендательные сервисы как раз к тому и ведут, — то интернет, задуманный как средство объединения, будет только разъединять, потому что неприятные знания не нужны, как невкусная еда и неподходящие вещи.

Пользователь Сети уже сейчас понемногу замыкается в коконе информационного комфорта, но двигатель прогресса — дискомфорт. Однако интернет не позволит человеку быть в дискомфорте: робот не может вредить человеку или допускать вред своим бездействием. Это законы роботехники Азимова — механическая формализация заповедей Моисея.

Если мы не усвоим, что в нашем мире надо жить только по нашим законам и черту между миром онлайна и миром офлайна надо видеть всегда, то начнем поступать так, как дозволяют машины, а не люди. А машины дозволяют нам всё. Почему? Что им нужно? Мы не знаем.

Конечно, эти страхи кажутся апокалиптическими. Но задача писателя — проблематизировать бытие. Видеть угрозы там, где общество их еще не видит. Где троянцы, ликуя, затаскивают к себе чудесного деревянного коня.

Оригинал колонки вы можете найти на официальном сайте русской службы ВВС.