Технофашисты XXI века

Технофашизм побеждает не тогда, когда компьютерная программа становится умнее человека. Он побеждает тогда, когда человек начинает считать компьютерную программу нравственно выше себя.

В апрельской статье "Необыкновенный фашизм" мы разбирали манифест главы Palantir Technologies Алекса Карпа и ту политическую модель, которая рождается из союза цифровых корпораций, спецслужб, армии и государства. Тогда кому-то могло показаться, что речь идёт о далёкой американской экзотике – о новом мировом порядке, который пока существует лишь в головах идеологов Кремниевой долины.

Но это будущее ближе, чем кажется. Согласно опросу Rasmussen Reports и The Heartland Institute среди вероятных избирателей США в возрасте от 18 до 39 лет 41 % поддержали бы передачу продвинутой системе ИИ права принимать большинство решений государственной политики. 36 % согласились бы доверить ей определение прав человека. 35 % – управление крупнейшими армиями мира ради сокращения числа жертв войн.

Американское исследование построено на заострённых гипотетических вопросах. Это ещё не плебисцит о передаче власти машине. Но главное уже произошло: сама мысль перестала казаться невозможной. Людям всё настойчивее предлагают три новых "догмата".

Первый: машина якобы беспристрастна, потому что не берёт взяток и не стремится к личной выгоде. Второй: машина якобы мудрее, потому что обрабатывает больше данных. Третий: машина якобы заботится об общем благе, потому что лишена человеческих страстей.

Но это ложь. У алгоритма нет корысти – зато есть программист, у которого корысть есть. У модели нет политических убеждений, но они есть у тех, кто заложил в неё семантическое ядро, к которому обращается алгоритм за верификацией. Искусственный интеллект не знает, что такое общее благо. Он лишь оптимизирует показатель, который кто-то объявил благом. Именно этот кто-то и будет настоящей властью.

О концлагере

Фашизм XX века требовал культа вождя, партийной дисциплины и массового страха. Новый приходит в облике удобного интерфейса. Он не кричит. Он вежливо сообщает: "Решение принято автоматически".

Так возникает технофашизм – власть, спрятанная внутри процедуры. Власть, которая не признаёт себя властью и поэтому не отвечает ни перед кем. Чиновник может быть отстранён. Депутат – не переизбран. Судья – уволен в установленном порядке. Алгоритм не садится на скамью подсудимых. Он не испытывает стыда. Не приносит покаяния. Не просит прощения. Не проявляет милость. На вопрос "Кто виноват?" система отвечает: "Модель сработала в пределах заданных параметров".

Сегодня ИИ готовит справку. Завтра оценивает гражданина. Послезавтра его рекомендация становится обязательной, потому что "человек слишком субъективен". Затем право на обжалование объявляют неэффективным: зачем спорить с системой, которая учла миллиарды параметров?

Технологический концлагерь строится именно так – не одним декретом, а тысячей удобств. На каждом этапе человеку предлагают немного меньше свободы в обмен на немного больше безопасности, скорости и комфорта. И каждый следующий отказ от ответственности кажется естественным продолжением предыдущего.

Это началось не вчера. Это началось, когда мы предпочли мгновенные ответы "Гугла" неудобному и долгому поиску в библиотеке. Сэкономили миллиарды человеко-часов. Разучились добывать информацию самостоятельно. И стали зависимы от алгоритмов.

Об Армагеддоне

Показательно, что об этой опасности нам сообщил сам Питер Тиль – сооснователь Palantir, идеолог американской технологической элиты. Его статья, написанная совместно с Сэмом Вулфом, начинается вопросом: "Призовёт ли наука антихриста или подавит его?"

Авторы обсуждают мечту Фрэнсиса Бэкона о всемирной технократической лжеимперии, способной устранить болезнь, случайность, войну и саму историческую неопределённость. Читателя убеждают, что суверенные государства слишком конфликтны, люди слишком несовершенны, а история – слишком непредсказуема. Следовательно, ради предотвращения войны и катастрофы необходима единая система глобального управления – всевидящая, вычисляющая и якобы нейтральная.

Сначала она обещает спасти мир от Армагеддона. Затем требует для этого всеобщего подчинения.

Именно так описан приход в мир антихриста. Люди сами подчинятся ему. Поверят, что это Мессия. Сам по себе компьютер не является антихристом. Не является им и искусственный интеллект как компьютерная программа. Зло не живёт в кремнии или в байтах информации. Но ИИ, возведённый на место человеческой и государственной воли, может стать одним из самых убедительных лиц антихристовой власти – властью без лица, судом без совести, разумом без души, которому нам предлагается поклониться.

О государстве

Главная ошибка технократов состоит в том, что они считают государство плохо работающей платформой. Если чиновник медленнее алгоритма, чиновника следует заменить. Если народ делает "неправильный" выбор, решение надо передать системе, которая лучше позаботится о благе людей чем они сами.

Но государство – не служба доставки и не электронная таблица. Не госуслуги. Не юридическая фикция.

Государство – это, как говорил Георг Фридрих Гегель, "шествие Бога в мире". По слову Святителя Филарета (Дроздова), Митрополита Московского, это "союз свободных нравственных существ, соединившихся между собою с пожертвованием частию своей свободы для охранения и утверждения общими силами закона нравственности, который составляет необходимость их бытия". А великий русский философ и правовед Иван Ильин добавлял, что "государство по своей основной идее есть духовный союз людей, обладающих зрелым правосознанием и властно утверждающих естественное право в братском, солидарном сотрудничестве". Наконец, философы Владимир Соловьёв и Николай Бердяев считали, что одна из задач государства заключается в том, чтобы "помешать нашему бытию окончательно превратиться в ад".

Кроме того, тот же Гегель называл государство "действительностью нравственной идеи". Это не означает, что всякий чиновник непогрешим, а всякое его распоряжение свято. Христианство никогда не обожествляло кесаря, однако неслучайно именовало его "епископом внешних дел". Как неслучайно православные Императоры обладали рядом сакральных привилегий (в частности, принимали Святое Причастие по чину священнослужителей).

Государство представляет собой не набор административных операций и не "общественный договор". Это путь Бога в мире – историческое и нравственное единство народа: его традиции, ценности, историческая память, ответственность перед предками и потомками. Всё это невозможно передать машине.

Алгоритм не может стать кесарем. Он не боится Божьего суда. Не отвечает перед народом. Не способен пожертвовать собой за Отечество. Он может убедительно воспроизвести язык веры, любви, сострадания и долга – но не может верить, любить, сострадать и исполнять долг.

И если наш экзистенциальный противник, США, падут во власть ИИ антихриста, то мы, Россия, наследник великих империй, должны дать священный бой этому наступлению технофашизма.

Наша миссия – быть государством государств, христианской Империей дана самим Богом, а потому Россия управляется Его волей и Его промыслом. Иногда в научение нам Господь попускает Империи нерадивых и даже безбожных правителей. Но никогда не лишает её суверенитета. Это принципиально важный момент: Империя может быть только суверенной.

Государство, которое отдало право окончательного решения иностранной платформе, транснациональной корпорации или автономному алгоритму, Империей быть не может. Это цифровая провинция – независимо от размеров её территории, армии и экономики.

Об отречении

Машина не захватит власть. Люди сами принесут ей власть – из усталости, разочарования и любви к комфорту. Они добровольно отдадут алгоритму право определять истину, справедливость, виновность и будущее. А стоящие за алгоритмом владельцы инфраструктуры получат власть, о которой прежние тираны не могли мечтать.

Поэтому спор об искусственном интеллекте – уже не технический. Это спор о человеке: является ли он образом Божиим или всего лишь несовершенным биологическим носителем персональных данных, которого можно оптимизировать?

Россия должна дать на этот вопрос собственный, христианский и подлинно имперский ответ.

Мы обязаны создавать самые совершенные технологии, но не принимать религию Кремниевой долины. Искусственный интеллект должен служить человеку. Человек – народу и государству. А всё земное – отвечать перед Богом.

Божие – Богу. Кесарево – кесарю. Машине – машинное. Смазать, починить и использовать её, а не молиться на неё.