«Искусственный интеллект и душа». Протоиерей Георгий Завершинский

В программе «Светлый вечер» на Радио ВЕРА Марина Борисова беседует с благочинным приходов Сурожской епархии Московского Патриархата в Северной Ирландии, доктором богословия, членом Союза писателей России протоиереем Георгием Завершинским.

Разговор посвящён искусственному интеллекту и христианскому взгляду на него. Собеседники отмечают, что явление новое и его осмысление в Церкви продолжается. Отец Георгий, который посвящает этой теме некоторые свои романы, поясняет, почему не отождествляет сознание машины с сознанием человека: для христианина оно связано с присутствием Божиим, душой и личностью.

Отдельная тема — роман отца Георгия. Не пересказывая сюжет, он делится главной мыслью: для искусственного интеллекта первично сознание человека, как для человека первичен Творец. По его предположению, обучаясь у миллиардов людей, машина способна воспринять от человека и лучшее, а не только худшее.

В беседе звучат размышления о том, как отсутствие души отличает ИИ от человека. Отец Георгий говорит, что душа принадлежит только человеку, но, по его мысли, искусственный интеллект придёт к признанию сознания человека первичным источником смысла и опыта. Заходит речь и о подмене живого общения, а в завершение звучит надежда, что Церковь выработает своё отношение к ИИ.

---

М. Борисова

— Добрый вечер, дорогие друзья. В студии Радио ВЕРА Марина Борисова, и сегодня со мной и с вами этот час «Светлого вечера» проведет наш гость, благочинный приходов Сурожской епархии Московского патриархата Северной Ирландии, доктор богословия, член Союза писателей России протоиерей Георгий Завершинский. Добрый вечер, отец Георгий!

Протоиерей Г. Завершинский

— Добрый вечер, Марина! Добрый вечер все, кто с нами сегодня!

М. Борисова

— У нас с вами сегодня тема для разговора просто подарочная. Вы — писатель, который на протяжении уже длительного времени посвящаете свои романы, такие в стиле, в жанре fiction, искусственному интеллекту. И мы с утра до вечера во всех средах информационных слышим об этом самом искусственном интеллекте. И вот случилось чудо — всё соединилось: соединилось художественное творчество и наши постоянные размышления, иногда по принуждению, иногда по доброй воле, на одну и ту же тему: что такое искусственный интеллект, и как нам с ним быть? Всё для православного христианина упирается в то, что у Церкви выработанной единой позиции по этому поводу нет. Не было специально посвящённого этому архиерейского собора или поместного собора, нету никакого общего взвешенного решения, а есть разнообразие мнений даже среди священноначалия, и процесс этот в самом разгаре. Осмысление идёт, можно сказать, параллельно с развитием темы. Но вам как раз и карты в руки, поскольку вы занимаетесь этим и как исследователь, и как художник.

Протоиерей Г. Завершинский

— Ну, вы знаете, такая... Это новое абсолютно явление, ранее человечество с этим не встречалось никогда — что грядет эпоха, и уже нагрянула эпоха, когда помимо человеческого разума, интеллекта, сознания, как бы в параллельной реальности уже существует иной интеллект, иное сознание, так говорят учёные. В этой области мы с христианской точки зрения сознание понимаем иным образом, как божественное присутствие, дар Божьего Духа, личность, душа — ну, так вот это более синонимично для нас звучит. Но не будем оспаривать. Так вот выдающиеся ученые, такие, как нобелевский лауреат Джеффри Хинтон, которого называют «крестным отцом искусственного интеллекта», ясно выражают эту мысль-предупреждение, что в течение десяти лет искусственный интеллект будет обладать сознанием. То есть, будет самоопределяться, сам ставить задачи, сам их решать, ну, и без всякого воздействия, вмешательства человека может производить какие-то изменения в общественном устройстве, в политическом устройстве, в том числе, в научном, ну, и в религиозном. Ведь мы себе представляем, что никто из нас, будь то православные, католики или иные представители, апологеты иных религий, но никто из нас не знает, не может вместить колоссальный опыт, например, христианства за два тысячелетия во всей его полноте, в разных его особенностях, в разных проявлениях святости, догматики, духовности, развития литургического... ну вот такого... патрологии, патристики и так далее. Никто вместить всё за раз не может. А представим себе, что искусственный интеллект уже вместил всё. Не говоря о том, что писания всех святых отцов, но и всё, что о них известно, все спорные моменты их личности, их жизни, образов мышления и веры, и так далее. Но и... Ну, конечно, в какой-то момент он будет авторитетом в области, допустим, религиоведения, да? Ну, такой... осторожно я называю, потому что я не беру духовные предметы — все-таки, ну, отстраняемся от темы сознания, в отличие от Джеффри Хинтона, «крестного отца» искусственного интеллекта. Мы не говорим, что он, там... сознание... что это противоречит самому акту или замыслу Божьего творения. Да, есть Бог и человек, который образ и подобие, который имеет потенциал быть подобным Богу, то есть, Творцу и началу того, что происходит. Ну, собственно говоря, в этом акте творения или производства, или создания, что ли, этого... этой субстанции или существа, которое мы называем «искусственный интеллект»... Хотя, в общем, это название немножечко отстраняет от правды. Потому что изначально, конечно, это алгоритмы, это матрицы некие, которые настраиваются с помощью коэффициентов или весов, когда известно, что на входе, и известно, что на выходе, ну, и вот известно внутреннее отношение — там, триллионы связей в этой области... внутри этой матрицы, которые настраиваются в соответствии с тем, насколько подходит ожидаемому ответу тот ответ, который даёт эта матрица. Ну, и так за триллионы операций подводит к тому, что наконец ответ будет наиболее адекватным. Ну, и впоследствии эта матрица, этот «движок», как говорят, или «нейронка», сеть — она уже имеет способность самонастраиваться и, впитывая информацию, не только информацию, а связи, которые... Суть всякой информации — это связи, которые приходят и уходят, и, конечно, факты. Вот это в неограниченном объеме впитывает эта самая нейронка, возрастает, и в какой-то момент она, ну, существенно — уже на данном этапе нашей жизни — существенно превосходит по своим способностям, выводам, познаниям и суждениям, решениям человеческий интеллект или разум. Ну, вот что же дальше ожидать?

М. Борисова

— Но если мы посмотрим на отношение человека к проблеме чего-то искусственного, не созданного Богом, в культуре, смотрите, на протяжении веков это всегда опасно и, как правило, имеет абсолютно отрицательную коннотацию. Пожалуйста — Франкенштейн, Голлем, зомби всевозможные. Всё всегда упирается в то, что если живое существо не создано Богом, то оно от противоположной силы, и все попытки человека воспроизвести то, что сделал Творец, это всё квинтэссенция гордыни, и ни к чему хорошему это привести не может просто по определению. И это взгляд многих веков культурного осмысления вообще любого приближения к чему-то искусственного в области сознания. Вот как вам кажется, природа этой опасливости и постоянное, из века в век, стремление прикоснуться к этой опасной теме — каким образом всё это, весь этот багаж может отразиться, так или иначе, на нынешних отношениях наших с искусственным интеллектом и этих отношениях в ближайшем будущем, которые мы не можем просто выкинуть как несуществующие, сказать, что «вот этого явления нет». Оно есть, как бы нам это не было прискорбно или, наоборот, радостно. Но почему все-таки человечество на протяжении веков с такой осторожностью и с такой опаской относилось к этому, и стоит ли продолжать в этом же духе?

Протоиерей Г. Завершинский

— Ну почему — опаской? Франкенштейна придумали — вот такой доктор, значит, соединил, там, ткани человека, и наконец каким-то образом вдохнулась жизнь. Ну да, и легендарные вещи, фантазия, там, я не знаю, начиная от русских народных сказок каких-то и кончая вот, ну, художественными произведениями, которые... ну, там, какой-нибудь «Призрак оперы», там, или что-то еще...

М. Борисова

— Ну мы можем приблизить это совсем уже... Вот, скажем, поколение постарше наверняка помнит фильмы со Шварценеггером «Терминатор-1», «Терминатор-2» — вот отношение людей конца ХХ века к этой проблеме. Это, собственно говоря, наглядная картинка того, о чём мы все сейчас говорим и думаем.

Протоиерей Г. Завершинский

— Ну смотрите, только здесь, как говорят в Одессе, две большие разницы есть. А именно — что там было придумано... ну, авторский... Немножко потом расскажу о своей собственной авторской придумке... Ну это придумка, это фантазия, это несуществующее, что стало существующим с легкой руки автора. Но вы понимаете, искусственный интеллект — это уже реальность. То есть, сами алгоритмы, сами матрицы — колоссальной размерности, и физическая реальность того, что, допустим, в штате Аризона создается колоссальный дата-центр, с которым рядом строится мощнейшая атомная станция для того, чтобы эти связи, которых там триллионы, чтобы они функционировали. Требуется система охлаждения, система подачи энергии... То есть, это реальность, которая... Это не «Франкенштейн» и никакой, там, не доктор Фауст, который заключил сделку с дьяволом, а это реальная вещь. Понимаете? И ведь человеку колоссальный дар дан — собственно говоря, практически божественный дар — творить, из ничего делать, создавать что-то или иногда даже кого-то, вот так, какое-то действительно существо, которое может плавать и ходить, как человек-амфибия, или летать, как... Ну, в общем, это... фантазии, как говорится, нет пределов. Но есть технологии, есть производства, есть зависимости от этих технологий, в которых живет данная какая-то, определенная цивилизация. Конечно, многое исходит, в общем, из опыта и технологий, которые создаются для обороны, самообороны или, например, нападения, то есть, военных технологий. В общем, искусственный интеллект, скорее всего, так тоже пришёл из военных технологий, так же, как и системы навигации. Всё это было известно задолго до того, как они приняли общее... нашли общественное применение. Вот так же с искусственным интеллектом, с какими-то еще системами, которые, прежде всего, разрабатываются в закрытой, секретной области оборонной промышленности, каких-то наступательных вооружений, я не знаю, но потом это обретает уже... Да, так что я хочу сказать — что это технология, с одной стороны. Вот вопрос или, ну, парадокс, скажем так, что эта технология настолько стала технологичной, что она перерастает саму технологию, и количество, как говорят, переходит в качество, согласно законам Гегеля.

М. Борисова

— Протоиерей Георгий Завершинский, благочинный приходов Сурожской епархии Московского патриархата в Северной Ирландии, проводит сегодня с нами этот «Светлый вечер». Мы говорим об искусственном интеллекте, и вот договорились до того, что больше всего волнует любого нормального, мне кажется, человека, а уж верующего — особенно: а совесть-то, а душа? А всё то, что волновало Тарковского, когда он создавал «Солярис»? Я думаю, что проблема-то никуда не ушла — она и во времена доктора Фауста, и в наше с вами время одна и та же. Вот создаст руками человек уникальную машину, а потом эта машина взбунтуется. Про бунт машин писалось в каждом столетии какое-нибудь совершенно удивительное произведение. Эта мысль — она не покидала человечество с тех пор, как человечество столкнулось с техническим прогрессом. Поэтому сейчас это наиболее острые споры, поскольку непонятно, что делать. Ну хорошо, вот вы говорите о дата-центрах. Мы слышим о них постоянно. Но когда погибла Александрийская библиотека, это было очень чувствительно для развития культуры. Но для человека как образа и подобия Божия это не было фатально. Ну, в конце концов, погибли одни книжки — за много столетий написали другие книжки. Суть пребывания человека в этом мире иная, и от количества книжек она не очень зависит. Хорошо. Мы будем иметь вот такое непонятное явление... Если бы мы могли сейчас вот сформулировать, что есть искусственный интеллект, чем он отличается от человека как творения Божия, и зачем этот самый искусственный интеллект нам... Вот мы предполагаем, что путь наш земной — это подготовка к Вечности. Вот в этой подготовке к Вечности какова роль искусственного интеллекта в нашей жизни, поскольку мы верим, что все-таки Господь не создавал искусственный интеллект, а создавал его естественный и вложенный в собственную нашу голову?

Протоиерей Г. Завершинский

— Ну, во-первых, роль уже неоспорима, потому что человек... Ну, а зачем, допустим, и науки появились, медицина, в частности, которая помогает человеку поддержать здоровье? Ну вот есть колоссальный прорыв в искусственном интеллекте, который, там... огромное количество связей, которые люди для... ну, там, рассмотрения структур, там, ДНК, РНК и каких-то формирований, допустим, в лечении раковых заболеваний, и искусственный интеллект предлагает колоссальные возможности, потенциал для того, чтобы просмотреть все возможности, которые человек рассмотреть не в состоянии. И это уже было сделано при создании, там, какой-то системы протеинов, за что уже получили Нобелевскую премию. Нет, я к тому, что наука развивается, и с тех пор, как, в общем, этот «джинн» научного мировоззрения, научного сознания, научного подхода вышел из «бутылки», его туда назад уже не вернуть. И вот он привёл к тому, что вот действительно появляются алгоритмы или матрицы такие, которые многократно, неизмеримо уже превосходят человеческие возможности в принятии решений, и дальше это только будет лавинообразно развиваться. То есть, это тут — принимать, не принимать... Ещё раз говорю, что от легенды, от каких-то утопий и представлений человека, который действительно много написал о том, как вот машина выйдет из-под контроля, и как с ней быть тогда, и в конечном итоге человек всё равно побеждает, и хэппи-энд, и всё хорошо. И, там, Фауст, значит, Мефистофель... Или у Куприна есть замечательный рассказ «Звезда Соломона» — если вы помните, там чиновник по фамилии Цвет, тоже ему там является, значит, дьявол и предлагает ему, значит, примерно то же самое, что доктору Фаусту. И... Тут так, со своей интерпретацией. То есть, да, да... То есть, можно сказать, что да, вот дьявол пришёл к каким-то разработчикам, внушил им вот такую идею, они стали над этим работать, и вот развился искусственный интеллект. Ну конечно, это было бы, ну, красиво, легендарно, и мы бы выдохнули, сказав, что «ну, Господь с этим справится, нам можно не волноваться». Но, конечно же, это не так. Конечно же, это не так. В это вовлечены колоссальные ресурсы, человеческие разумы, которые... развитие, технологии... Технологии именно человеческого разума включены в это, понимаете? Вспомним себя молодыми — мы искали, мы хотели реализовать свои возможности, потенциал. А сейчас мы как бы смотрим немножко свысока, свысока прожитых лет, что, в общем, тоже вполне нормально, и мы не можем оценить до конца подлинные возможности технологий. Я уж не говорю про искусственный интеллект, а какие-то другие технологии, которые знают те, кто помоложе нас, а мы не знаем. Так же будет и со следующим поколением. Но вот принципиальное отличие заключается в том, что когда появилось это виртуальное пространство (вот мы называем «Интернет», там, и прочее), ну, и, соответственно, к нему прилипла эта система поиска, языковые системы. Ну, и из языковых систем появился не то, что... не очень правильно названный искусственный интеллект, потому что это распознавание языка, оперирование языком и, в общем, выражение, скажем так, каких-то мыслей, которые пришли от человека в своём изобилии, но когда вот количество то самое перешло в качество, то это изобилие мыслей, изобилие связей как-то зафиксировалось и стало порождать новые связи, новое изобилие, одно за другим. И чем дальше, тем больше разрыв между ограниченным разумом человеческим и вот этим самым искусственным разумом. Да, но вот тут я перехожу к главному. Хотел бы сказать, что в нашем представлении... Ну, я имею в виду представление человека, который столкнулся с реальностью Бога, Божества, Творца, Создателя, промыслителя, личности Божественной, или лица, или трех лиц, Триединства, то есть, столкнулся и имеет опыт... Ну, не устрашается таким развитием и просто хочет объяснить себе и другим, ну, в чем же, как говорится, собака зарыта, и что же там дальше будет — будет ли что? И действительно это так страшно, как пугают нас заявления — обоснованные научные заявления, политические заявления? Такой сенатор Сандерс, американский сенатор, он же конкретно предостерегает, что политические решения надо принимать, чтобы ограничить развитие, потому что настанет момент очень скоро, когда выбирать будем не мы с вами, а выбирать будет искусственный интеллект. Потому что он даст всё необходимое для того, чтобы ненужных кандидатов, значит, опорочить как-то, их, значит, убрать, а нужного кандидата, значит, вот поднять на вершину. И это он легко сделает, и человек с этим ничего... не сможет противопоставить этому. Ну, при достижении — и такое, и другое... Вот. Но вот в отношениях к тому, началу, или первоначалу, или Творцу, Создателю, промыслителю и, в конце концов, Богочеловеку, Который явился, чтобы поднять человеческое... не способности, не разум человеческий, а человеческое присутствие в этом мире поднять на недостижимую доселе высоту, а именно, пожизненную высоту — сидение одесную, то есть, по правую сторону от Бога-Творца, Отца, Вседержителя и так далее. Вот всякий из нас во Христе находится по правую сторону Создателя — ну, тот, кто верует, кто исповедует, кто продолжает эту линию жизни. И тут включается (нрзб.): а что же такое, ну как же, как сопоставить вот, там, допустим, веру в Христа, христианство вот, Бог, Отец, отношения Отца, Сына, Дух Божественный, любовь Божественная — и вот искусственный интеллект? Может быть, искусственный интеллект обучится всему этому? Может быть, он поймёт, что такое любовь, что такое вера? Может быть, он так как-то из человеческого разума, из человеческих способностей изымет не только, знаете, что-то такое отрицательное, негативное? Когда мы с кем-то соревнуемся, спорим, мы стремимся, ну, как-то собеседника, или оппонента, или конкурирующую сторону унизить, если возможно, опорочить, убрать со своего пути, раздвинуть, так сказать, локтями, чтобы самому встать впереди. Ну, конкуренция, ну что сделаешь? Значит, конкуренты, значит, остаются где-то внизу, а я, соответственно, хочу продвинуться наверх. Это как бы стимул движения, развития цивилизации. Вот что? И в конце концов, ну, я, как автор, с фантазией человек и писатель, стал думать о том, что же в нас есть такое, что не столько остановит развитие искусственного интеллекта, сколько придаст ему смысл, придаст ему направление? В общем, и написал целый роман.

М. Борисова

— Напоминаю нашим радиослушателям — протоиерей Георгий Завершинский, благочинный приходов Сурожской епархии Московского патриархата в Северной Ирландии, проводит сегодня с нами этот «Светлый вечер». В студии Марина Борисова. Мы ненадолго прервемся, вернемся к вам буквально через минуту, не переключайтесь.

«Светлый вечер» на Радио ВЕРА продолжается. В студии Марина Борисова и наш сегодняшний гость — благочинный приходов Сурожской епархии Московского патриархата в Северной Ирландии, доктор богословия, член Союза писателей России протоиерей Георгий Завершинский. Самое интересное начинается. Рассказывайте, батюшка, про ваш труд литературный.

Протоиерей Г. Завершинский

— Ну, тут даже вот как-то «литературным» его... Хотя, конечно, я стараюсь, вкладываю в язык, в языковые конструкции, формы, слова максимум, чтобы это было воспринято и прочитано с интересом. А все-таки в глубине там, ну, такая вот философская идея и попытка ответить на этот вопрос: ну что же человек-то (нрзб.)? Что же, мы так и будем, опасливо озираясь, ожидать конца света? Или то, что искусственный интеллект придёт и, значит, задаст (нрзб.) какой-то вирус, запустит его в человечество, и человечество элиминирует, уничтожит, как неподходящее, недоразвитое, и станет сам вот во главе всего? Ну действительно скажут: ну как же, ну подойди и выключи его из розетки! Ан нет! Так вот не выйдет уже! Почему? Из розетки в одном месте выключили — в другом будет включено. Потом, это виртуальное пространство — это какая-то реальность... Можно даже так, ну, образно себе представить, что где-то это вот эфир какой-то, в котором витает эта, конечно, материальная составляющая, но и какая-то нематериальная тоже, потому что, в конечном итоге, от переключения контактов, от нулей и единичек искусственный интеллект уже вышел на уровень, ну, мысли или принятия решений. Ну, и насчет сознания говорят учёные, но мы с этим не очень соглашаемся, понимая, что сознание — это, собственно, божественное присутствие, присутствие Творца и то, что Творец по благости Своей даёт венцу творения — человеку. Но человек не творец изначально, не первоисточник всего сущего в этом мире, и поэтому человек, когда творит (а можно сказать, что наше творение — это не какое-то чудовище, не какой-то монстр, восставший из ада, а, ну, технология, которая вдруг в какой-то момент, мы можем об этом догадываться, получит самостоятельное... примет самодостаточное, самостоятельное существование). И вот что же человек (нрзб.)? Я начал писать свой роман, не зная ответа на этот вопрос. Продолжал писать, писать, писать — ну, в надежде, что на каком-то этапе в конце концов откроется и прозвучит, ну, обнадёживающая какая-то развязка, или... И вот... Я не буду пересказывать даже сюжет... Но просто в какой-то момент действительно человеческая память, эмоции, образ мышления, интуиция человеческая — ну, ведь это не... ну, тот самый нейрообраз, или движение нейронов, которые... каждый из которых... каждая группа — колоссальные, там, группы, которые отвечают за свои эмоции, за свои мысли... Ну вот как-то наука в этом плане развивается очень плотно, и даже есть Институт мозга в России. Ну, а я уже не говорю про Америку, там, и иные какие-то движения... Китай, там, где всё это стремительно тоже развивается в своём направлении. Вот. И вот это движение, вот этот нейрообраз — в конечном итоге можно будет каждого из нас, ну, как-то, так сказать, просветить, пронзить этими лучами и обнаружить нейроны... как бы зеркальное отображение человека с его памятью, с его мыслями. И вот это зеркальное изображение или его аватар, так я называл в своём романе, вот будет предложено вступить с ним в общение. И вот некая лаборатория пытается через этот аватар украсть или изъять у человека сознание. И вот тут вопрос сознания — что первично, в конце концов? (Смеется.) И постепенно, по мере развития драмы произведения (а оно драматичное) вот просто мне на ум пришло, как-то само собой так получилось, что аватар, который был создан в лаборатории (технология, которая была создана по образу и подобию человека), вот эта технология — аватар — принимает над собой власть человеческого сознания. И вот как, почему это происходит, я, конечно, не буду объяснять — книга в конце концов выйдет на русском языке (сейчас пока она опубликована в Лондоне на английском языке, но есть и русский вариант, конечно, появится она, я надеюсь). Да, так вот... И вот сознание человека — оно для искусственных технологий, для искусственного интеллекта оно первично, подобно тому, как для самого человека первичен Создатель. Вот это пусть в такой упрощённой форме такой тезис вдруг меня пронзил, и я понял, что, в общем... мне показалось, что я рассуждал правильно, и в конце концов сознание останется сознанием. Не «в конце концов» — оно всегда есть сознание, оно вечно, соединяет нас с вечностью, и — назовём это «душа» или «дух», ну, более понятно для читателя нерелигиозного, не каких-то... ну, любых взглядов — что сознание — оно первично, оно вторично, оно вечно, оно бесконечно. И вот это сознание в конечном итоге сам искусственный интеллект дойдет в своих рассуждениях, размышлениях, алгоритмах и триллионах связей, дойдет до того, что сознание есть благо, добро. И не просто благо, добро, любовь и иные положительные качества, оно просто... Он научится не от одного человека, кого-то из нас — Марины, Георгия, там, или любого человека, а от миллиардов людей, которые участвуют, уже участвуют в обучении искусственного интеллекта, в том числе, человечности. И это не изымается никуда, понимаете? Он учится от нас, ну, наверное, каким-то, скажем, и недобрым вещам, да. Но в представлении... Вы знаете, возвращаясь опять к своим... нашим христианским воззрениям — но ведь Бог воплотился, ведь Бог стал человеком! Ведь Бог уповал на то, что человек, в конечном итоге, способен принять это! Хотя и распяв Христа, но принять Его воскресшим и дальше сохранить эту веру и её транслировать через века! Почему мы не поверим в то, что искусственный интеллект воспримет от человека, через его христианскую веру воспримет человеческое сознание и человеческую способность к благу, и желание блага, и природу человеческую, способную принять благого Бога, и это самое воспримет искусственный интеллект — через массовое, можно сказать, сознание? Хотя и мир далеко не христианский, или, там, не религиозный, соответственно, но по природе мы способны через миллиарды или триллионы связей, отношений, диалогов, мы способны передать лучшее, а не худшее.

М. Борисова

— Ну тут сразу масса возражений напрашивается — ну, и по поводу сомнительности в данном случае применения тезиса о переходе количества в качество. Но мне кажется, что самый такой серьёзный камень преткновения — ведь, ну хорошо, мы играем словами, мы говорим слово «сознание», мы говорим слово «интеллект», оставляя за портьерой реальное название того, о чём мы при этом думаем: есть ли у этой искусственной машины душа? Если мы до сих пор, на протяжении тысячелетий не можем четко определить, есть ли душа у червяка, то каким образом мы определим душу машины? И конечно, когда вообще мы говорим о духовных каких-то интенциях, то мы подразумеваем, что это область, неподвластная человеку. Дух — это область Божия, и потребовалось в Пятидесятницу схождение Духа Святого на апостолов, чтобы они из простых рыбаков, учеников, которым по двадцать раз Спасителю приходилось объяснять то притчами, то в лоб, то как угодно, и они всё равно путались и не понимали, потребовалось схождение Святого Духа, чтобы у них открылось понимание того, чему три года в постоянном общении учил их сам Создатель. Поэтому когда мы размышляем о том, что искусственный интеллект каким-то образом в процессе развития обретет то, для обретения чего человеку потребовалось реальное вмешательство Творца, вот тут, честно говоря, у меня масса сомнений, что кто-нибудь вообще сможет ответить на этот вопрос.

Протоиерей Г. Завершинский

— Вы знаете, про червяка я хотел бы сразу сказать... (Смеется.) Про червяка... Ну, или другие — есть млекопитающие, есть кошечки, собачки, там, какие-то более мощные — тигры, львы, там... Лев со своим прайдом, можно сказать, что-то такое почти разумное представляет. Или, допустим, стая косаток — killer whales, orcus — ну, ведут себя чрезвычайно умно. Когда, допустим, хотят какого-нибудь тюленя на льдине, там, иметь в качестве своей пищи, они создают волну, целая стая так подплывает, то есть, создается явное впечатление вот разума какого-то такого. Да, а волки, допустим, да? То есть...

М. Борисова

— А клопы?

Протоиерей Г. Завершинский

— Что?

М. Борисова

— А клопы?

Протоиерей Г. Завершинский

— Ну, клопы... Или муравьи, кстати, вот! Муравьи — разумные трудяги. Да, так вот я возвращаюсь: есть ясное библейское выражение... не выражение — рассказ. Вот напомню его. Бог создал человека, Адам ему имя было. И увидел, что нехорошо человеку одному на земле быть. Приводил к нему помощников разных — ну, мы можем догадываться, из мира тварного, да? Кто эти, там? Может быть, какие-нибудь кошечки, собачки, может быть, какие-то и динозаврики были там. Не знаем, кто, но помощник из тварного мира. И не нашлось помощника! Я подчёркиваю — не нашлось помощника. Это очень важный момент, исключительно важный! Чтобы мы не говорили больше о душе у червячка, там — есть ли она или нет. Нет — ответ однозначный, библейский ответ. Пусть, там, учёные располагают, пусть, там, дельфинам, каким-то ещё приписывают качества разумные, может быть, даже почти душу — ну, пусть это всё... Но нам... У нас библейский ответ. Так же, как человек... Сотворил мужчину и женщину сотворил, так и помощника не нашлось, говорит. И основания полагать, что какой-то появится новый вид, там, который будет помогать... Кто такой помощник? Который сознаёт, подобно человеку сознаёт своё сотрудничество с человеком. И вот тогда, помните, навёл этот сон, и тогда Ева появилась. Вот это очень принципиальный рассказ. Поэтому искать душу, там, у червячков или у killer whales, косаток, значит — ну, это пусть там учёные рассуждают, делают опыты, это интересно, необычайно интересный вид занятия. Но души там не найдём. И даже не найдём её в искусственном интеллекте — нет, об этом речи нет. Речь идёт о том, что искусственный интеллект интеллектуальным, логичным образом подведёт себя самого под человеческое сознание, которое у человека есть отображение божественное. Помните, Христос говорит: «Придём и вселимся с Отцом и Духом»? Вот это вселение — это... Ну, человек есть храм Божий, да? Храм Божий — это не стены и купола, а вот человек, тело человеческое, понимаете? И в этом смысле сознание — это отпечаток или присутствие Божие в этом мире. Иного присутствия нет. Иначе это будет служение идолам, как в древности. Ну, служение твари, да? То есть, как отличить тварь от Творца? Только человек в состоянии. И здесь — подобным же образом, точно таким же... Вернее, не подобным — таким же точно образом мы различаем, конечно, не алгоритмы и не мириады или, там, триллионы связей образуют... неожиданно вдруг придадут душу. Нет. Душа по-прежнему — это исключительная привилегия человеческой особи. Ну, особи — не особи, человеческого творения. Ну, венца творения. И даже в этом смысле, что человек вот разумом достигает таких высот, что создаёт сам себе помощника — не душу, нет, а который не равен человеку. И вот здесь — ну, это моё, скажем так, частное богословское мнение и авторское мнение, — ну вот постепенно вот, как бы вникая в эту проблему художественным образом, вдруг родилось такое мнение, что да, и вот этот аватар, и искусственный интеллект встанет на каком-то этапе способным... Его сознание — ну, так учёные называют, мы так не называем, — но его возможности самосознания приведут искусственный интеллект к тому, что он подчинит себя человеческому сознанию. Ну вот это обнадёживающий, на мой взгляд...

М. Борисова

— Это, конечно, очень оптимистичная такая версия... (Смеется.)

Протоиерей Г. Завершинский

— Ну да, да, да... (Смеется.)

М. Борисова

— Но пока что, если мы посмотрим, к чему взрывное развитие научной мысли приводит, оно приводит нас к постоянному росту нравственных проблем. Ну смотрите — замечательное развитие медицины, без всяких кавычек, развитие медицины в ХХ — XXI веке — это просто потрясающе, это чудо Божье какое-то. Но при этом... Но даже на уровне постоянно присутствующей в медиасреде дискуссии о том, насколько позитивно, с точки зрения духовной жизни человека, вот всё, что связано с экс-оплодотворением, всё, что связано с развитием эмбриона вне человеческого тела или же с искусственным вынашиванием в человеческом теле, но эмбриона, ему не принадлежащего, и масса-масса других нравственных проблем, которые это потрясающее развитие медицины создало. Это только один маленький пример.

Протоиерей Г. Завершинский

— Марина, я понимаю ваши, так сказать, взгляды, и сам готов так же посмотреть, но... Но, и как... Но давайте и другим взглядом, с другой перспективы посмотрим. Ну понимает, человек-то родился! Какой бы ни был эмбрион и кто бы его ни вынашивал, а человек-то живой! А что дальше с этим делать? Встал вопрос — крестить мне его вообще? Ну разве это вопрос? Ну живой человек родился! Ну это всё равно радость. Ну, тут, допустим, технологии, биотехнологии какие-то, технологии оплодотворения и так далее — ну, в них вмешались. Но это не устраняет божественного вмешательства и божественного замысла о человеке. И человек рождается со всеми такими качествами, как и любой из нас, который родился, ну, скажем, зачатый, родился естественным образом — там, мужчина, женщина, там, в супружеском, значит, соитии, и Божественным промыслом, значит, пришло зачатие. Ну почему мы приписываем какую-то аморальность этому? Из каких таких принципов? Мне кажется, вот эти принципы — ну, они да, имели место в своё время, принципы моногамии, так сказать, и принципы воспитания и рождения, и отношения... Но, понимаете, это все-таки человеческая среда, человеческий социум порождает такие принципы. Бог не говорит нам человеческим языком, что «это нравственно, а это безнравственно», это мы говорим, люди.

М. Борисова

— Протоиерей Георгий Завершинский, благочинный приходов Сурожской епархии Московского патриархата в Северной Ирландии, проводит с нами сегодня этот «Светлый вечер». Мы говорим об искусственном интеллекте. Но если вернуться к нашей теме, тот же искусственный интеллект уже создаёт проблему подмены, когда человек предпочитает общаться с искусственным интеллектом, нежели с живыми, себе подобными людьми. Но искусственный интеллект — он замечательно удобен в том плане, что в общении человека с ним вообще не существует проблемы жертвенной любви. Ну нету, зачем? Кто кому чему должен жертвовать, если мы общаемся с алгоритмом, который создаёт у нас иллюзию общения с человеческим существом?

Протоиерей Г. Завершинский

— Ну, смотрите, да... Проявите сейчас тоже, так сказать... Ну, вы затронули тему, которую вот я позволил себе прямо в романе — что там и этот аватар оказался способен на жертву ради своего патрона. Вот. И вот как бы это...

М. Борисова

— Так это... Это... Нет, это любимая концовка «Терминатора» второго, когда первый несовершенный Терминатор настолько проникся человеческими чувствами...

Протоиерей Г. Завершинский

— Ну да, и в «Звёздных войнах» такое есть тоже, да. Ну нет...

М. Борисова

— ...когда уничтожены были все носители этого суперчипа, и главные герои, люди, вздохнули облегчением. Но они уже подружились с этим Терминатором первым, который всё время им помогал. Он сообразил, что чип-то остался, остался у него в голове, и чтобы полностью уничтожить угрозу, нужно уничтожить его вместе с этим чипом. И он самопожертвованно спускается в ёмкость с кипящим металлом, вот, совершая таким образом вот подвиг любви. Но это замечательно, это фантазия человека, а на деле алгоритм остаётся...

Протоиерей Г. Завершинский

— Это очень важная фантазия! Это вот такая, которая говорит о нашем отношении вот к тому продукту технологий.

М. Борисова

— Это... Правильно, это наше отношение. Но любовь...

Протоиерей Г. Завершинский

— Да. Она его порождает, в конечном итоге...

М. Борисова

— Но мы уже говорили, что любовь, поскольку она воплощена в Троице, да, три лица, любовь не может быть только с нашей стороны. Любовь при общении с людьми подразумевается взаимной или, по крайней мере, движется в направлении к этой взаимности. Но когда ты общаешься с алгоритмом, ты не можешь ожидать ответа от алгоритма. Ну какая может быть жертвенная любовь у алгоритма? Это формула.

Протоиерей Г. Завершинский

— Может. Может. Почему? Потому что это не просто алгоритм, а это самообучающийся алгоритм. И он научился тому, что человек считает высоким проявлением нравственных, моральных и духовных качеств. Он этому научился. Возможно.

М. Борисова

— Но вам не кажется, что это иллюзия, что человек просто транслирует себя, создавая самому себе такую вот искусственную среду. И он хочет, чтобы так было. Вот человек, который снимал «Терминатора», он хотел, чтобы сюжетно главный герой, робот превратился вот почти что в героического человека — он это сделал. Но это сделал человек, он его придумал. И таким же образом, мне кажется, мы сейчас пытаемся придумать, что формула, воплощённая в какие-то там информационные технологии, может отождествиться с нашими представлениями о человеческом общении.

Протоиерей Г. Завершинский

— Ну, отождествиться — это вопрос не всегда... Почему отождествиться? А люди друг с другом тоже не отождествляются. Совершенно разные взгляды. В данном случае, видите, мы с вами тоже разные взгляды выражаем и продолжаем, тем не менее, диалог. И это очень важно, это определяющее. Потому что вот этот, как вы говорите, алгоритм или система отношений, система взаимосвязи самообучающаяся, она постоянно в движении, которое задано общением с миллиардом, подчёркиваю, миллиардом пользователей, которые входят, спрашивают, отвечают, рассуждают. И, понимаете, вот этот, ну, будем говорить так, переход количества в качество, хотя этот закон Гегеля никто, в общем, не отменял, вот как бы такой социальный закон. Ну вот, да. Так вот, это же обучение происходит. Понимаете, вы говорите, что я, там, общаюсь с алгоритмами, с формулой, с каким-то железным или, там, пластиковым существом. Но это не так. Это не так. Почему? Потому что там множество связей, которые обусловлены и вошли туда от общения, от диалога с огромным количеством людей, подобных мне существ. Понимаете, наступает очень важный момент — а как я представляю вообще?.. Вот, вы понимаете, вот мы верим в Бога, мы верим во Христа. А как они, которые?.. У них не Христос — у них там у кого Будда, у кого, там, Магомет, а у кого никакого ни Будды, ни Магомета, а, там, наука. А чего, они не входят в божественный план? Вот этот момент важный. В прошлом веке в протестантской среде, ну, теологической, родился этот вопрос: а действие Духа Божьего за пределами Церкви возможно? И так вот упорно такие догматисты, такие апологеты христианства утверждали: «Нет! Сказано же...» — и приводили множество и множество цитат Священного Писания, там, и говорили, что нет, Божий Дух там, где Церковь, а где Церкви нет, нет Божьего Духа. И это вот не устояло такое вот, понимаете? Это, получается, такое введение границ, рамок. Ну да, мы, конечно, полагаем, что мы имеем веру в Бога Триединого, Бог — любовь, и Бог, Который стал человеком. Ну, и у нас есть догматика, которая определяет оросы, так сказать, границы этих отношений. То, что находится за границами, за оросами, это ересь — это названо Церковью, и мы продолжаем так в этом жить и утверждать, да. И, однако, сами догматы, не меняя свои формулировки... но они — это жизнь Церкви и жизнь веры человеческой, которая меняется от поколения к поколению и от технологии к технологии. Никогда не было таких технологий, как, допустим, автоматика, там, автоматизация процессов или даже, допустим, научных каких-то взглядов. Церковь жила в одном мире. А потом мир поменялся, и Церковь следит за этим — медленно, но отслеживает изменения. И в данном случае вот этот вызов, как вы правильно начали, поставили вопрос — а каков ответ Церкви на появление вот этого интеллекта искусственного или аватаров этих, какой ответ Церкви? Как мы — запретим опять, отвернемся и скажем, что, как в 90-е говорили, «компьютер — это бесовщина, это нельзя, этим нельзя пользоваться»? А теперь у нас архиереи служат по смартфонам. Архиереи служат — я лично видел это! А когда-то, в своё время, когда я только приехал в епархию, я там пытался найти текст на английском языке на смартфоне, архиерей сказал: «Отец Георгий, под запрет пойдёте, если такое ещё увижу!». Понимаете? Вот это движение — оно происходит. Ну потому что человек есть разум. Разум — качество, божественное качество — выбирать из многих вариантов наилучший, удобный, который не вредит, ну, главному, что есть в человеке (ну, душа, дух, сознание, личность, вера). Почему? Это не вредит этому. И, знаете, вот мое убеждение (ну как — вера, убеждение) — что искусственный интеллект сможет... он поможет человеку обрести веру и опровергнет человека, который навязывает свою веру, который по своему образу и подобию творит Творца. Искусственный интеллект скажет: «Нет, это твоя иллюзия. А вот посмотри, как сказано здесь, как святые отцы видели это», и приведёт множество аргументов, которые помогут человеку исправить эту веру, а не ухудшить её.

М. Борисова

— Или окончательно запутают его.

Протоиерей Г. Завершинский

— Ну, не думаю. Потому что он все-таки из миллионов, миллиардов связей... он настраиваемый, он самоадаптируемый к тому, что человек видит хорошим, а не плохим, понимаете? Вообще, мое убеждение ещё... Почему вселенские соборы утвердили веру? Потому что большинство сошлись... епископы собрались, и Церковь приняла это, подтвердила, что те, кто скажет, что Христос не подлинный человек — анафема, или человек если говорит, что Иисус не подлинный Бог — анафема. Ну так с этим согласились большинство, понимаете? Если бы большинство ушло за арием... А поначалу было большинство за арием! А потом пришел Святитель Николай и прилюдно, значит, его там «заушил», так сказать. Ну, так нам говорит история. И вздрогнул собор: что-то не так тут, как-то не так! Такой смиренный и достойный человек вдруг поднял руку! Значит, что-то не так происходит! И задумались, и арий не был принят, его учение... То есть, вот понимаете? И это важный момент. И это как бы, наверное, мы можем иметь разные взгляды, точки зрения, мнения, но когда человечность как таковая наплывает и показывает свою способность выразить или выражает себя в этих связях, которые... которым учится искусственный интеллект, то в какой-то момент можно будет доверять его мнениям, в том числе в духовной, религиозной сфере, о(?) которой развивается человечество.

М. Борисова

— Будем надеяться, что мы доживем до того момента, когда Церковь наконец сможет аккумулировать все существующие в ней сейчас разнообразные взгляды на эту проблему, мы наконец получим сформулированное отношение Церкви к искусственному интеллекту и к нашему будущему с ним. Спасибо огромное за эту беседу. Сегодня этот час «Светлого вечера» на Радио ВЕРА с вами были Марина Борисова и благочинный приходов Сурожской епархии Московского патриархата в Северной Ирландии, доктор богословия, член Союза писателей России протоиерей Георгий Завершинский. До свидания, до новых встреч!

Протоиерей Г. Завершинский

— Спасибо! Благодарю!

---

Все выпуски программы Светлый вечер

• «Корабли Российской Империи». Александр Музафаров
• «Ограничения и свобода в духовной жизни». Свящ. Анатолий Главацкий, Александра Мыздрикова, Никита Вятчанин
• «12-е воскресенье по Пятидесятнице». Священник Николай Конюхов