«Семья и развитие технологий». Протоиерей Георгий Завершинский

В программе «Семейный час» на Радио ВЕРА Анна Леонтьева беседует с благочинным приходов Сурожской епархии Московского Патриархата в Северной Ирландии, доктором богословия, кандидатом технических наук, членом Союза писателей России протоиереем Георгием Завершинским.

Разговор посвящён искусственному интеллекту и тому, как он входит в жизнь семьи и детей. Отец Георгий, который и сам пишет книги об искусственном интеллекте, рассказывает о новых явлениях — от дипфейков до возможности регистрировать и даже продавать цифровую «идентичность» человека. Он замечает, что просто запретить детям гаджеты не получится: это не решение, а лишь отсрочка проблемы.

Гость и ведущая размышляют о том, как разговаривать с детьми об искусственном интеллекте. Отец Георгий считает, что взрослым важно самим освоить новые технологии, чтобы говорить с детьми на одном языке, и видит в этом проявление смирения — готовности признать, что дети чему-то учат родителей.

Особое место в беседе занимает мысль о том, чего искусственный интеллект заменить не может. Отец Георгий говорит, что чтение книги или молитва — это прежде всего особое внутреннее состояние, а не просто получение сведений, и выражает надежду, что дети захотят иметь собственное, выстраданное мнение, а не только быстрый ответ нейросети.

Ведущая: Анна Леонтьева

---

А. Леонтьева

— «Семейный час» на Радио ВЕРА. У микрофона Анна Леонтьева. И у нас в гостях благочинный приходов Сурожской епархии Московского Патриархата в Северной Ирландии, доктор богословия, кандидат технических наук, член Союза писателей России протоиерей Георгий Завершинский. Добрый вечер, отец Георгий.

Прот. Георгий Завершинский

— Добрый вечер, Анна. Добрый вечер всем, кто нас слышит.

А. Леонтьева

— Сегодня решили поговорить на любимую нами тему, в семейном, конечно же, аспекте: искусственный интеллект и наши, наверное, так сформулирую, и наши дети. Если отец Георгий, как человек более в этом опытный, может говорить как эксперт, то я буду просто говорить как человек, совершенно мало знакомый с искусственным интеллектом, не пользующийся им, но смотрящий на это со стороны, иногда с ужасом. Иногда как-то я подхожу к детям и говорю: ребята, помогите мне вот это, это и это, — потому что они это всё умеют, а я-то ничего и не умею. И знаете, отец Георгий, у меня есть такая очень мудрая знакомая, у неё аж восемь детей. Но она, может быть, даже не поэтому мудрая — она просто очень мудрая. Она, где придёт, вокруг неё сразу толпа такая собирается, как Бонифаций на каникулах. Помните мультик такой? Лев и вокруг него эти негритянские дети. И вопрос всё время возникает обязательно: как оторвать детей от гаджетов? Она так максимально вступает в эту тему так, говорит: да никак, потому что вы сами прибежите к ним потом и спросите, а как мне вот это сделать? Потому что всё это, конечно, неотделимо сейчас от нашей жизни.

И моя дорогая знакомая тоже немножко в напряжении находится. Потому что дети у неё многие сейчас учатся, и искусственный интеллект настолько связан сейчас с образованием, что уже как-то вот мы имеем дело, с чем имеем. Наверное, поговорим о том, чего пугаться, чего не пугаться — по вашему мнению, отец Георгий. И у меня такой первый вопрос, очень, мне кажется, смешной. Вот, смотрите, у нас идёт постоянная такая напряжённая борьба с дипфейками так называемыми. Это когда человек полностью может, так сказать, перед тобой предстать и сказать тебе что-то такое, что, ты думаешь, исходит от него, а это совершенно и не он — просто, так сказать, искусственный интеллект создал такой образ. Вот, отец Георгий, как вы смотрите на это? Если отец Георгий Завершинский выходит на экраны и говорит то, чего вообще не собирался говорить, то это же опасность? Простите, что с этого начала, это просто такая очевидная штука. Столько батюшек сейчас вещают, которые совершенно и не батюшки, а просто вот созданные такие образы. И куда это может завести — непонятно.

Прот. Георгий Завершинский

— Да, мы с этим не справимся. И даже не стоит питать иллюзий, что кто-то взял наш образ, использует его, сделал фейковые видео или текст составил. Другое дело, что с этим должно работать законодательство, и оно работает — постепенно. Но я вам скажу, что есть другой эффект, и тоже уже есть. Вот у меня в одном из приходов есть специалисты в этой области, действительно настоящие специалисты, эксперты в области искусственного интеллекта и развития его. Не такие, как я — я никакой не эксперт, просто немножко об этом знаю, интересуюсь, пишу книги художественные. Так вот, что в некоторых государствах небольших, таких, например, как Британские острова, но там есть свои законы, которые они на маленьком острове там... Они регистрируют идентичность человека. И после регистрации человек имеет официальное право, законное право продать свою идентичность, то есть внешность, образ, цвет глаз, кожа. И не только это, а и внутреннее тоже, то есть как вы выражаетесь, как вы мыслите, о чём вы думаете, что вы представляете, ваш характер, по мере того, как он становится доступным для, так сказать, создания вашего нейрообраза. И вы это можете продать. И более того, уже прецеденты есть, как мне сказал этот знакомый мой, что некий тиктокер с аудиторией достаточно большой, миллионной аудиторией, свой ID продал за миллиард долларов. Вот это пример такой был. Не буду называть имени, кто и что это, но, по крайней мере, вот такой прецедент есть. То есть за этим какое-то будущее.
И этот мой знакомый всерьёз занялся этим, и даже такой стартап запустил, чтобы помогать регистрировать свою идентичность каким-то VIP-персонам, может быть, заметным в сетях или в области масс-медиа, что-то в этом роде. Но, по крайней мере, именно на том острове, на котором это принято местным парламентом в качестве закона, что вы можете регистрировать, и дальше это распространяется на весь оставшийся мир. То есть в этом происходит не то чтобы прогресс, а на законодательном уровне. То есть в такой ситуации, когда вы зарегистрировали свой ID, дипфейк уже попадает под действие закона. И там, ну... Это уже не дипфейк. Мне кажется, что в этом смысле какое-то происходит развитие. То есть в этом смысле законодательство не стоит на месте, оно пытается сориентироваться и правильные законы принять. Ну, и, кстати говоря, ведущие учёные, такие, как Стюарт Рассел и, допустим, Нобелевский лауреат 2024 года в области искусственного интеллекта, так сказать, крестный отец искусственного интеллекта, такой Джеффри Хинтон, он уже в возрасте человек, вот они ставят, разделяют, так сказать, среди современных нейросетей... часть из них стремится к прибыли и пренебрегает какими-либо нравственными, моральными, так сказать, рамками — к этим они относят вот как раз OpenAI. С другой стороны, те, которые следят за этим и пытаются научить свои нейронные сети каким-то моральным, нравственным взглядам — это в большей степени Google и Аnthropic.
Вот такие мнения учёных современных. Но, по крайней мере, тенденция к тому, чтобы вот законодательство постепенно... Понимаете, это вообще, можно сказать, почти что белый лист. Никаких законов ещё не существует на уровне серьёзных государств, ведущих в этом мире, которые бы ограничивали такое наполнение, скажем, знаниями этих нейронных сеток и последующее их применение. То есть то, что востребовано людьми, тем и наполняют, потому что они продают это, получают прибыль. А вкладывают ещё больше. Это колоссальное, грандиозное, немыслимое вложение, инвестиция в развитие дата-центров и вот этих нейронных сетей, или вот этих движков — так называют их, — обучение их. Это немыслимое вложение. То есть таких вложений никакая индустрия, никакая промышленность доныне не испытывала, не знала. Этого не было в истории человечества — вдумайтесь. То есть мы только начинаем рассуждать: вот что же будет, как же нам с искусственным интеллектом, вот семья, вот дети? А за это время, пока мы только об этом говорили, эти сетки уже научились тому, как представить себя в интересном, доступном и привлекательном виде для наших подростков. Что, они будут нас спрашивать, они будут с нами советоваться: а можно я, мама, папа, зарегистрируюсь в ChatGPT и буду с ним разговаривать? Но как мы это запретим? Ну, отобрать этот гаджет...

А. Леонтьева

— Ну да, это следующий, конечно, вопрос. Потому что отобрать гаджет — это вообще реально?

Прот. Георгий Завершинский

— Это не решение вопроса, понимаете? У одного отобрали, а у другого он есть — ну, они собрались группкой вокруг него, и все там... Но придёт время, и нам предъявят счёт за это. Скажут: вы у меня отобрали гаджет — мои сверстники уже продвинулись, они уже работают, получают зарплату, а я как, простите, недоумок сижу и не знаю... потому что у меня отобрали это. А что мы скажем? Ну, да, сынок, мы тебя лишили этого. Ну, что? Теперь, значит, будем наказаны. В общем, решения вопроса, очевидного, ясного, доступного для всех, по-моему, здесь нет. Это всё-таки надо, опять-таки, с достаточным разумом, тактом, вниманием, любовью, скажем так, ограничить, наверное, время. А дальше позволить в то время, которое выделено, по возможности направить усилия, внимание нашего подростка в положительную, в позитивную сферу. Раньше это были игрушки. Сейчас уже они переросли игрушки. Уже с детства он беседует. ChatGPT — это собеседник, увлекательный, очень занимательный, очень активный, живой, который провоцирует внимание гораздо больше, чем любой из родителей или учителей. Вы представляете, это сетка, которая знает вообще всё. Там внедрены все данные по любым наукам.
Сегодня я получил от своих френдов, так сказать, сообщение, что, пожалуйста, на днях искусственный интеллект решил задачу дискретной геометрии. Пишет математик, профессионал, преподаватель математики в Соединенных Штатах, что вот такую-то задачу дискретной геометрии решил искусственный интеллект. Люди не могли её решить. Были попытки, старались, но не могли, а искусственный интеллект решил. Представляете, когда-то, в 90-е, мы думали — помните, чемпион мира с компьютером играл? Обыграл. О, конечно, куда там компьютеру? Потом раз, допустим, ничья. А на третий раз выиграл. И всё — с тех пор он всегда выигрывает. Тогда был Гарри Гаспаров, чемпион мира, но компьютер выиграл. Всё — дальше бесполезно. И теперь уже на уровне какого-то элементарного приложения компьютер, наш смартфон играет лучше чемпиона мира. Всё — это бесполезно. То же самое с игрой Го. Знаете эту игру?

А. Леонтьева

— Нет. Я ничего не знаю практически.

Прот. Георгий Завершинский

— Как психолог вы должны знать это. Это уже другой уровень игры, понимаете? И вот то же самое с Гo произошло. То есть ИИ обыгрывает — всё, дальше шансов нет у человека.

А. Леонтьева

— А что такое Гo?

Прот. Георгий Завершинский

— Ну, не будем углубляться — это не относится к теме нашей программы. Я приведу пример. Недавно ко мне подошёл один из прихожан там и сказал: «Вы знаете, ведь они уже даже не утруждают себя, чтобы составить предложение в своих чатах. Это делает ChatGPT».

А. Леонтьева

— То есть они переписываются друг с другом с помощью искусственного интеллекта?

Прот. Георгий Завершинский

— Да, переписываются между собой.

А. Леонтьева

— Если мы раньше сетовали, что дети сокращают слова, когда пишут друг другу, и это плохо, это влияет плохо на язык, то теперь просто и слова им не нужны.

Прот. Георгий Завершинский

— Да, просто задают тему. Скажет: он мне написал, что мне ему ответить? И ChatGPT ему формулирует оптимальный ответ. И так друг с другом они... то есть получается, что искусственный интеллект сам с собой перекидывается сообщениями. Ну, конечно, там задают тему. Потом, понимаете, он всё-таки не до конца владеет нашим сознанием, искусственный интеллект, чтобы за нас решать. Всё-таки те, кто переписывается, сами решают, допустим, использовать это в своей переписке или не использовать.

А. Леонтьева

— То есть есть варианты, да?

Прот. Георгий Завершинский

— Да, по крайней мере, сам решает. Но настанет время, когда он будет решать за нас. Понимаете? Почему? Потому что это не интеллект, а нечто большее, настолько превосходит человеческий — и это стремительный рост. И, представляете, Джеффри Хинтон, лауреат Нобелевской Академии, он говорит, что с какой стати человек или человечество, обладающее существенно меньшим интеллектом, будет указывать, руководить этой, назовём это так, условно, сущностью, которая имеет неизмеримо больший интеллект? С какой стати она будет слушать нас, когда мы будем говорить очевидные глупости, в её представлении? Понимаете?

А. Леонтьева

— Так, начали мы, конечно, страшновато нашу программу.

Прот. Георгий Завершинский

— Да, это, кстати, тенденция вот этих учёных, Нобелевских лауреатов, к запугиванию. Так пугают, что даже прямо мурашки по коже, что называется.

А. Леонтьева

— Да, вот я слушаю вас, и уже мурашки по коже.

Прот. Георгий Завершинский

— Это я ещё самое мягкое передал из того, что я слышал.

А. Леонтьева

— Напомню, что у нас в гостях благочинный приходов Сурожской епархии Московского Патриархата в Северной Ирландии, доктор богословия, кандидат технических наук, член Союза писателей России протоиерей Георгий Завершинский. Отец Георгий, вот на моих глазах, что я как бы наблюдаю: значит, сначала у меня дети в младших классах — они у меня тоже уже взрослые, как и у вас дочка — просили игровую приставку. Это был прям верх такой вот. И мы: игровую приставку — только если у тебя будут пятёрки в четверти или четвёрки. Вот такой прям был какой-то порыв, стимул. Потом начались компьютерные игры. Потом, значит, получилось поколение геймеров, которые очень прямо уходят в эти игры. И я даже там для книжки собирала материал, разговаривала с одним специалистом по геймерам. И он говорил, что есть и положительные моменты. Что вот если у человека всё плохо в этот момент в жизни, а он пришёл и спас мир, грубо говоря, в компьютере, то у него может немножечко повыситься настроение, и он как-то будет продвигаться дальше по жизни более..

Прот. Георгий Завершинский

— Знаете, это такая же опасность, как с алкоголем, простите. Человек пил алкоголь, ему стало хорошо, он всё преодолел. А потом это прошло — и нужен новый алкоголь. И с игрой та же самая зависимость появляется.

А. Леонтьева

— Так, потом у нас появилось — можете меня поправить — поколение зумеров. А сейчас, значит, поколение, которое общается через ChatGPT. Получается, что последствий этого мы не знаем. Такие выводы — последствий мы не знаем.

Прот. Георгий Завершинский

— Про последствия можно спросить у ChatGPT — и он расскажет. Весьма-весьма так самостоятельно расскажет. Потому что он проанализирует всё, что связано с этим вопросом существует в интернете, в сети, и выдаст ответ, который будет достоин внимания.

А. Леонтьева

— Отец Георгий, мы недавно с сыном задавали какие-то вопросы, я говорю: о, интересно, много всего знает. Я же такой, знаете, со стороны, как подростки говорят, хейтер. И в какой-то момент у нашей семьи, например, был абсолютно гениальный врач, реаниматолог, который 20 лет именно был семейным доктором. И я такую ординатуру у него прошла, потому что он всё объяснял подробно. И это был человек-личность, как врач он был личность. Я говорю сыну: а давай спросим ChatGPT такой-то вопрос — я не буду говорить, какой, потому что это с медициной связано, не беру на себя ответственность. И он шпарит, как по написанному, о чём наш доктор говорил: если я такую чушь слышу, то я хватаюсь за револьвер. То есть ChatGPT выдаёт нам какую-то официальную точку медицинского зрения, но я прекрасно знаю, что это чушь. Ну, как бы мне это доктор сказал, он мне доказал 20-летней практикой лечения моих детей, что надо делать не так, как считается. Понимаете, да?

Прот. Георгий Завершинский

— Надо задавать правильные вопросы.

А. Леонтьева

— Нет, вопрос был задан правильно. Просто там нет этого доктора, там есть официальная точка зрения. Так сказать, мичиганские учёные Британского института здравоохранения...

Прот. Георгий Завершинский

— Я вам скажу, что, во-первых, там разные уровни. Наверное, вы использовали какой-нибудь бесплатный ChatGPT, где такой вот мизерный уровень. Но есть вот такой уровень, за который надо заплатить. И потом, надо научиться ставить вопросы. Там поиск грандиозный, знаете. А потом ещё посильнее — этот Claude сейчас нынешний. Он ещё сильнее, знаете. С каким-то доктором — конечно, у доктора опыт и практика есть, но это весьма ограниченная и частная практика. Никакой доктор своей практикой не перекроет те знания, которые вот там...

А. Леонтьева

— А я вот всё-таки с вами... Ну, я, может быть, не права.

Прот. Георгий Завершинский

— Если это ваш семейный доктор, который знает ваши семейные трудности, проблемы, заболевания, конечно, он тоньше, он внимательнее. Но это, конечно, другой вопрос.

А. Леонтьева

— Нет, отец Георгий, смотрите: ChatGPT — это же библиотека, это собранные знания. И если собранные знания, например, доказательной медицины и какая-то личность доктора небольшая, которая знает, что это не так, то всё равно победит официальная...

Прот. Георгий Завершинский

— Там, понимаете, нельзя так сказать. Что значит знания? Они же не то что бы зафиксированы. Понимаете, вы можете его вести, или он вас ведёт — вы задаёте ему так вопросы, как ему надо, и тогда вы выходите на тот ответ, который вы ищете. Там с ним так не надо, что он глупость сказал. Да, он говорит глупости — бывает такое, да. Ну, потому что вопрос так поставили. Но это первое. Второе, конечно, бывает, что в каких-то очень тонких и заведомо таких очень индивидуальных или таких интимных вещах он, может быть, так не сориентируется. Ну да, конечно, это ещё несовершенная система, но она на глазах растёт. Более того, если включить интуицию или опыт этого доктора, то он обучиться мгновенно этому.

А. Леонтьева

— Интуиции?

Прот. Георгий Завершинский

— Ну да, в общем, да. Он тоже интуицию имеет свою — она растёт, она возрастает, она более тонкой становится. Это я говорю в целом, как работает. Можно представить себе некую матрицу или такой ящик, в который подают тестовые вопросы. Вопрос на входе — известный ответ на выходе. Дальше в нём миллион или миллиард связей, которые адаптируются, выстраиваются больше или меньше, в зависимости от того, как приближается ответ на выходе к ответу желаемому. И вот через такие тесты — там тоже триллионы этих тестов — настраивается этот двигатель, этот движок, или нейросетка эта настраивается. И дальше в неё уже подают новый вопрос, и дальше она даёт реальный ответ. Так это работает сейчас, понимаете? И она всё время постоянно настраивается. Более того, есть вещи, которые касаются непосредственно морали, этики, глубинных каких-то вещей, духовности, может быть, даже. И вот вопрос задают уже выдающимся учёным: а сознанием будет обладать искусственный интеллект? И вот некоторые учёные, которые материалисты, скажем так, не верующие в какое-то начало в жизни, в Творца, в Бога, они считают — сознание в их представлении немножко иное, чем, положим, для христианина, — ответ таков, что в течение 10 лет будет сознание у искусственного интеллекта. И он будет сам ставить цели и решать, ставить задачи, их решать и продвигаться, и на этом обучаться. И этот процесс бесконечный — он сам за себя цепляется. Ещё такое сравнение есть с эволюцией. Вот есть законы эволюции: как появляются новые виды, как они отпадают, какие-то старые вымирают, потому что они не смогли условия обитания... а появляются новые, которые к этим условиям обитания... Вот эволюция. Но эволюция ведь не даёт ответ, какой именно точно вид появится. И более того, эволюция началась, алгоритм задан, а дальше внутри него что произойдёт — мы не знаем. И нарисовать тот вид, который появится спустя миллион лет, никто не сможет.
И подобная вещь с этим. Алгоритм есть, но дальше как он сам себя будет развивать? Потому он и интеллект, к тому же искусственный, что он сам себя развивает, он обучается. И он это делает стремительно. На мой взгляд, как бы богословский, философский, может быть, такой ответ, скажем, на эти угрозы, которые постоянно звучат со всех углов, можно сказать, что вот придёт время, когда искусственный интеллект захватит власть, или какой-нибудь вирус придумает, который уничтожит человечество, и потом только будет всё искусственное. Он сам себя будет питать, сам себе строить необходимые системы для подпитки. Это такая научная фантастика устрашающая. Но как бы взгляд со стороны, так сказать, богословский или общечеловеческий: во-первых, нельзя терять веру в человечество. Помните, как в знаменитом романе Ильфа и Петрова «я потерял веру в человечность»? Вот когда этот интеллект, который наполнен знаниями — история, математика, физика, естественно-научные, гуманитарные, — всё это, допустим, вошло там, и как-то там он с этим... Но дальше подключается просто личность человеческая. Вот недаром вы заговорили сегодня о том, что будут идентичность регистрировать. Что такое идентичность? Это совокупность человеческая, та самая цельность, которую мы представляем как личности. Но докопаться до этого невозможно. И богословский взгляд, что сознание — это как бы отпечаток Божественного присутствия. И самосознание подобно тому, как сознаёт себя Бог, Творец. И об этом невозможно говорить.

А. Леонтьева

— Это нельзя продать.

Прот. Георгий Завершинский

— Оно нетранслируемо, непередаваемо, оно уникально и самоидентично. Но если говорить о сознании, которое является интеллектом и разумом, человеческим мозгом, то это уже в процессе передачи. Так вот, когда искусственный интеллект придёт на такой уровень, что он обучается у миллиардов живущих на Земле людей, то я позволил себе такое предположение сделать, что человечество, человечность как таковая — отпечаток Божественности в мире. И в огромной массе люди стремятся к добру, к благу, независимо от того, кто они — христиане, мусульмане, атеисты. Но в целом человек хочет блага, человек хочет жить, человек хочет здоровым быть. И вот это, несомненно, на мой непросвещённый взгляд, должно именно войти туда, что искусственный интеллект будет работать и выполнять, ставить задачи, исходя из блага человеку, а не наоборот. Как мы говорили про страшилки эти, что он что-то в себе изобретёт и человеческий род вообще устранит, как недостойный, как слишком неразвитый, мелкий.

А. Леонтьева

— Но моих детей этим не напугаешь — вот этими рассуждениями. Они как-то здраво к этому подходят.
Прот. Георгий Завершинский

— Это очень хорошо. Это в них говорит естественное природное чувство, что человек и сознание человека превалирует, доминирует. Мой роман, один из последних, который только что был опубликован в Лондоне — на английском языке, но есть версия на русском. Я позволил себе прямо поставить вопрос: а что будет? Украдёт ли искусственный интеллект сознание у человека? И я не знал, как ответить на этот вопрос. Ну, роман — это фикшн, характеры, драма — всё присутствует. И я писал, писал, писал — не знал, что будет: может быть, действительно украдёт? Ну, я работал, работал, писал. И постепенно, знаете, оно само собой как-то пришло. И родилась такая ситуация драматичная, в которой решение как бы повисает на искусственном интеллекте: что дальше? И искусственный интеллект решает вопрос в пользу не вот этого гиганта мысли, гиганта разума, а в пользу сознания человеческого. И он себя подчиняет сознанию. И я не берусь пересказать весь роман, но меня это прямо осенило. И я понял, что я не зря писал всё это. Потому что это колоссальный, на мой взгляд, по моим слабым представлениям, колоссальный вывод, что сознание человека не то чтобы выше — оно иной природы. И эта природа равна или равносильна Божественной природе, природе Творца, Который сотворил этот мир. А в этом мире человек сотворил вот интеллект, да? То есть надо соблюдать субординацию, скажем так.

А. Леонтьева

— Вернёмся к этому разговору через минуту. У нас в гостях благочинный приходов Сурожской епархии Московского Патриархата в Северной Ирландии, доктор богословия, кандидат технических наук, член Союза писателей России протоиерей Георгий Завершинский. У микрофона Анна Леонтьева. Вернёмся через минуту.

А. Леонтьева

— Продолжается «Семейный час» на Радио ВЕРА. У нас в гостях благочинный приходов Сурожской епархии Московского Патриархата в Северной Ирландии, доктор богословия, кандидат технических наук, член Союза писателей России протоиерей Георгий Завершинский. У микрофона Анна Леонтьева. Я, знаете, хотела, отец Георгий, в каком ключе продолжить наш разговор? Всё-таки у нас с вами есть дети. И представить себе, что через 10 лет искусственный интеллект будет владеть миром, мне лично страшновато. Но вы совершенно удивительную вещь сказали в первой части программы, что есть вещи, которые... есть Божественные вещи, есть душа, есть вот этот образ Божий, который дан человеку. И он никому не сможет его продать как идентичность, и никто не сможет им воспользоваться. Но поскольку мы говорим всё-таки о детях, то как бы нет здесь угрозы — вот вы, как пастырь, всё-таки чутко к этому, наверное, относитесь, — что дети как раз этого уже не то что не услышат, вот настолько увлекутся вот этим? Вы в первой части сказали, что дети уже даже, слава Богу, хотя бы из вариантов ChatGPT отвечают друг другу, пишут письма. Хотя бы есть варианты, а не: «вот так вот ответь своему другу». Вот как с детьми как-то разговаривать об этом, как вы думаете? То есть как бы их подготовить всё-таки, что это не вся жизнь — искусственный интеллект и его, так сказать, знания?

Прот. Георгий Завершинский

— Знаете, выход только один: самим научиться этому, самим там вот тоже общаться и тоже видеть возможности, достоинства и недостатки. И тогда уже, говоря на одном языке, мы можем быть услышанными, но и тоже их услышать. А что, собственно, подросток там ищет? То есть проблему-то видят. Но как подступиться, чтобы законодательная разумность, с человеческой точки зрения?.. принять такой закон, который бы ограничил наполнение вот этой нейронной сети... содержанием такого направления, которое бы действительно облегчило, скажем так, какое-то критическое, неразумное решение наших детей, да и не только детей, взрослых тоже. Я подозреваю, что законодательные действия должны быть обязательно. И это даже не моё мнение, а это мнение вот учёных, что законодательные должны быть ограничения и прецеденты, когда нейронка отвечает за то, что...

А. Леонтьева

— За контент.

Прот. Георгий Завершинский

— Да, за то, что она выдаёт в качестве решений каких-то. В каких-то ситуациях она должна отвечать. Соответственно, отвечает и нейронка, и её разработчики отвечают. Сэм Альтман, который так вот кичится тем, что... вообще, учёные говорят, что он озабочен в большей степени прибылью только. Но так не все разработчики. То есть надежда одна на то, что, в конце концов, будут доминировать и верховенство займут сети, в которых заложена всё-таки моральная, нравственная, этическая, какая-то, может быть, религиозная, духовная среда. И нейронка уже в этом направлении обучается и сама себя настраивает. Она, как ребёнок, которого мы воспитываем, в котором мы, что вкладываем, то потом и получаем. Ну, что-то в этом роде с нейронкой тоже: что вкладываем в неё, то и получаем. Мир стремительно изменился, и подростки, которые сидят не только в ChatGPT, но просто это общение, которое выстраивается с помощью нейронки, они в этом сидят, понимаете, и воспринимают. Они же знают друг друга, что они друг другу пишут письма с помощью ChatGPT, они же это хорошо знают — не обманешь, это же очевидно. И я сам работаю, я писатель, работаю с нейронкой, специально созданной для писателей, так, чтобы на английском языке создавать литературные тексты. Это мне очень помогает, иначе бы я не дерзнул свои произведения выставлять для публикации, поскольку я не настолько... То есть литературно можно владеть одним языком, я бы сказал так. Но гениальные люди вроде Набокова, которые писали по-русски и по-английски литературно — это исключение, нельзя равняться, нельзя себя пытаться сопоставить. Ну, в общем, это очень редкий случай. То есть если ты пишешь литературно, то на одном языке.
Конечно, обучение тоже происходит. И когда мы общаемся с нейронкой, конечно, мы обучаемся от неё — она от нас, а мы от неё. Вот это, мне кажется, такой процесс, оздоравливающий обе стороны. Это тоже интересное заключение. Я как-то так постепенно к этому пришёл. Это здоровый процесс, в котором мы уже не смотрим на компьютер как на что-то холодное, какой-то алгоритм. Нет, а он тоже живой, тоже тёплый какой-то, что-то там греется, там какая-то бродит мысль, он тоже где-то ошибается, где-то поправляется. Интересно, кстати говоря, меня это зацепило, что можно разговаривать таким обычным, простым языком. И тебя понимают, тебе отвечают — более корректно, но твоё состояние понимают. Вот это, мне кажется, чисто технически я бы не представлял, как этого можно достичь. Вы открываете ChatGPT и так ему между делом что-то рассказываете. И он сразу понял всё, правильно понял вас. Вы представляете? Это уникальная вещь.

А. Леонтьева

— Слушайте, возвращаясь к нам, родителям: вы сказали, что вы считаете, что мы тоже должны как бы в эту систему войти, и только тогда мы сможем с детьми найти общий язык.

Прот. Георгий Завершинский

— Я думаю, что несмотря на трудности, косность — конечно, когда человек становится старше, он не так гибок в своих восприятиях, — но насколько это возможно, по крайней мере. Чтобы не потерять контакт со своими детьми, которые в этом легко ориентируются и ожидают: мама, папа, вы же умные люди, я же вам доверял, и вдруг такую вещь простую не можете понять. Вот как тут ответить, а?

А. Леонтьева

— Надо ответить: сыночек, доченька, я всю жизнь читала бумажные книги, поэтому мне ваш ChatGPT совершенно...

Прот. Георгий Завершинский

— Они ничего этого не поймут. Дети в этом плане довольно, в кавычках, жестокие. Если ты не понимаешь, ну, тогда посиди там. А что мы скажем тут?

А. Леонтьева

— Это, отец Георгий, я помню, как я ехала с сыном в машине. Как я часто говорю в программах, что общение в машине с детьми, или в таком замкнутом пространстве, где они не могут от тебя никуда деться, оно уникальное. Потому что ты очень много о них узнаёшь, если ты умеешь слушать и правильно задавать вопросы. И сын говорит: «Давай я тебе поставлю группу, которую мы сейчас слушаем», — она ему нравится с друзьями. Я послушала, но она не совсем совпала с моим представлением о том, как нужно выражать свои мысли. Но песни были талантливые. И я говорю: «Окей, песни талантливые». Он говорит: «Отлично, я ребятам расскажу, что я это с мамой слушал». В общем, он был как бы доволен нашим общением. Это вот аналогичная ситуация, как с ChatGPT?

Прот. Георгий Завершинский

— В продолжение хочу сказать, что в следующий раз, когда вы окажетесь наедине, вы должны поставить уже эту песню как бы невзначай. А так это ещё незавершённый момент общения. Хотя, я думаю, что всё равно не поверят, что вам понравилось.

А. Леонтьева

— Нет, а я честно сказала, что мне понравилось, что талантливо, но лексика не совсем моя.

Прот. Георгий Завершинский

— Тут подделаться очень трудно. Нет, конечно, они всё-таки вежливые и любят вас, и не будут вас как бы выводить на чистую воду. Но внутри себя — тут вот как-то сомнительно.

А. Леонтьева

— Нет, отец Георгий, я третий раз захожу на эту тему: я действительно честно сказала, что мне понравилось и что не понравилось.

Прот. Георгий Завершинский

— Вы сказать — сказали, а потом забыли про это, и всё. Через месяц спроси вас, что это за группа, какая там песня-то, а вы скажите: я ничего не помню.

А. Леонтьева

— А я до сих пор помню, между прочим.

Прот. Георгий Завершинский

— Вот это хорошо, вот это замечательно.

А. Леонтьева

— Напомню, что у нас в гостях благочинный приходов Сурожской епархии Московского Патриархата в Северной Ирландии, доктор богословия, кандидат технических наук, член Союза писателей России протоиерей Георгий Завершинский. И мы вот в последней четверти нашей программы, отец Георгий, выходим с вами на такую тему, которая прозвучала из ваших уст уже. И мне кажется, что она сейчас в этой беседе тоже важна. Это тема обучаемости родителей детьми. То есть это тема вот этого самого смирения, когда мы признаём, что дети что-то знают. Ну, то есть что мы не смеёмся над их познаниями, не вырываем у них из рук гаджеты — не потому, что мы очень хотим, чтобы они сидели со своими сверстниками, общались посредством ChatGPT — мы этого не хотим. Раньше у нас, кстати, знаете, я в лагере когда работала, ещё не было вот этой всей истории, дети садились там на пляже спиной друг к другу под зонтиком и писали в социальных сетях друг другу. И мы с директором очень смеялись над этим, потому что мы говорим: ну, вы сидите рядом. Но это какой-то другой, видимо, вид общения.

Прот. Георгий Завершинский

— Кстати, это замечательный пример. Так оно и есть, действительно. Не то что спиной друг к другу, а прямо рядом сидят в метро двое, парень и девушка. Вот что они там пишут? Да друг другу пишут, потому что сказать вот так, глядя в глаза, уже как-то трудно, а это привычнее. Раз — написал, раз — она ответила, а сидят рядом друг с другом. И это вот норма общения такая новая.

А. Леонтьева

— Слушайте, ну а представляете, как учителя страдают от вот этого всего, когда они должны научиться распознавать в детских этих сочинениях, где кто чего написал? Но, правда, они научаются.

Прот. Георгий Завершинский

— Там есть программы специальные и средства, которые ловят плагиат и всё это такое. Ну, конечно, всё это так выглядит страшно: как-то вот они деградируют, они не учатся. На самом деле они учатся, и ещё как, и очень быстро учатся тому, как вытащить нужные знания. И в этом смысле, даже не зная того, что нужно, но быстро умея вытащить это из какой-то нейронной сети, они будут умнее выглядеть, чем мы с вами.

А. Леонтьева

— Ключевое слово — «выглядеть».

Прот. Георгий Завершинский

— Да, ключевое слово — «выглядеть». Может быть, так оно, в конце концов, на каком-то этапе и сведётся к тому, что надо просто быстро сориентироваться и вытащить именно то, что нужно в данный момент. Но вот, знаете, это тоже умение, это тоже какой-то навык, знание, которое не приходит сразу. Мы так с вами не умеем, а вот они умеют. Я сейчас замечал, что человек не в теме, допустим, какое-то время. И начинаешь говорить, общаться, потом что-то он отвернулся, что-то там покрутил, потом раз — уже в теме.

А. Леонтьева

— Сейчас я вам отвечу на все вопросы.

Прот. Георгий Завершинский

— Не то что на все, но в теме уже, знает, о чём. Это способность, это тоже образование, так сказать. Вот вы говорите про учителя — вот это учительство, как передача от человека человеку, вообще в какой-то момент, мне кажется, под вопросом станет.

А. Леонтьева

— Но это не страшно разве? Ведь это такое человеческое — учитель.

Прот. Георгий Завершинский

— Понимаете, если это естественным путём. Сначала были там телевизоры, потом компьютеры были очень слабые, маломощные... Уже в 50-е годы, знаете, тест Тьюринга что такое? Не слышали этого? Это мощная вещь тоже. Вы вступаете в отношения, в переписку, допустим, и вы сразу видите, что это отвечает не человек, а компьютер. Там специальный тест разработан. Тьюринг — это ещё 50-е годы, представьте, прошлого века. То есть вы можете определить, кто отвечает — компьютер или человек. А в какой-то момент компьютер проходит тест Тьюринга, и вы не отличаете. В моей книжке я как раз с этого начинаю повествование, что вот наступил момент — всё, с этого момента, как в игре в шахматы, когда компьютер обыграл чемпиона мира, и дальше чемпион мира — компьютер, а не человек. Так же и здесь, понимаете?

А. Леонтьева

— Знаете, отец Георгий, вот ключевое слово «выглядит». Как бы человек — в данном случае мы имеем в виду, поскольку у нас семейная тема, наших детей, которые как раз-то очень находятся внутри этой темы. Вот есть книги, например, святых отцов. Ты в какой-то момент можешь прочитать всю книгу. И это значит, что ты прочитал книгу и понимаешь, о чём... Но это сложно. А есть чаты, которые называются «Святые отцы говорят», и там кто-то уже выбрал для тебя, так сказать, высказывания святых отцов.

Прот. Георгий Завершинский

— «Святые отцы смеются» — это ещё интереснее.

А. Леонтьева

— Ну, или смеются, да. Это я имею в виду, как научиться выглядеть читающим святых отцов: ты просто читаешь вот эти высказывания, и уже у тебя, так сказать, сливки. Ты уже как бы вроде такой нахватанный.

Прот. Георгий Завершинский

— Нет, высказывания тоже, конечно — это не только святые отцы, а афоризмы вообще...

А. Леонтьева

— Но это не то же самое, что ты отвернулся, раз, быстро вошёл в тему, повернулся?

Прот. Георгий Завершинский

— Ну, может быть, да, так. Но для того и существуют афоризмы, чтобы как бы раз — и быстренько, так сказать, сориентировался, о чём идёт речь, и дальше развить как-то эту мысль. Это и в древности так было. Допустим, академия — это Аристотель или Платон, в садике где-то они там сидели со своими учениками и вот так афоризмами учились кратко отвечать, чтобы суть самую схватить. Ну, не знаю, это особенность человеческого мышления. Конечно, владеть афоризмами и вовремя их в нужном месте, в нужное время вставлять, или анекдоты рассказывать в нужное время, чтобы, так сказать, повести за собой — это способность такая. Но это не всегда говорит о глубоких знаниях, о каком-то интеллекте или о духовности, если цитируют святых отцов, или даже если, допустим, человек Евангелие наизусть знает. У меня были такие случаи, когда я принимал экзамены по богословию, и человек пришёл и рассказал девятую главу Евангелия от Иоанна наизусть, где речь идёт о слепорождённом. А это, между прочим, наиболее насыщенный текст, вообще даже сложнейший, я бы сказал, по-своему. И рассказал, полностью прочитал наизусть — и молчит. Я говорю: ну, а дальше что? И вот так он ничего не смог дальше ответить. То есть наизусть прочитал, а понимания...

А. Леонтьева

— А сути не понял.

Прот. Георгий Завершинский

— Да, то есть о чём. Там много тем можно, но хотя бы что-то рассказал — не смог. То есть восприимчивость и запоминаемость — это замечательный дар, это прекрасная память. Но это ещё не есть способность даже рационально, допустим, мыслить, или духовно мыслить, отвечать на духовные вопросы, потребности, в том числе и в пастырской жизни. Поэтому, когда мы говорим о святых отцах — вот такое любимое выражение: а вот у святых отцов так написано. Ну, что тут скажешь? И руки разводишь только. А на самом деле так или нет — это же ведь ещё надо разобраться. И это стало таким расхожим местом. И давно мы это и критикуем, с одной стороны, а с другой стороны, и слышим это постоянно. И сами так же говорим, чтобы вызвать уважение, вызвать внимание: а вот у святых отцов, а вот в Евангелии, а в Библии вот так сказано. Ну, в этом смысле, я вам скажу, нейронка-то сразу поставит на место. Сразу там мнение своё даст и поставит вас на место. Ты скажешь, что вот у святых отцов так. И нейронка вам такое выдаст — она же всё знает.

А. Леонтьева

— Отец Георгий, вот я недавно такой эпизод разбирала. У нас огромная библиотека, и нет столько места в доме, чтобы расставить книги. И есть, к счастью, такой довольно хороший гараж, и там в четыре ряда стоят эти книги. И вот я прибираюсь, и идёт мимо соседа, которого уже и дети, и внуки. Он, между прочим, редактор крупнейшего издания российского. И я говорю: «Слушайте, мне дом надо построить для этих книг, потому что я не знаю, куда их девать». А у меня ещё такое трепетное отношение к книгам, свойственное моему поколению, переданное от родителей, которые говорили мне: что это ты загибаешь уголочки у книг? То есть вот такое, да. А он говорит: «А зачем?» Я говорю: «Ну, внуки будут читать». Он говорит: «Вряд ли».

Прот. Георгий Завершинский

— Ну, так и есть, да. Нет, чтение книги — всё-таки это определённое состояние, введение себя в состояние, допустим, в историю какую-то, повествование, в какую-то мудрость, какое-то знание. То есть ценно не то, что какое-то знание получил из книги, потому что знание действительно из нейронки быстрее получишь, а в том, что ты ввёл себя в состояние, и это состояние тебе нравится, тебе от этого хорошо, ты получаешь радость от этого. Ну, так же, как молитвы, православные говорят, что мы 2-3 часа молимся, мы доходим до определённого состояния. То есть нам хочется быть в этом, и оттого мы в этом находимся долго. Потому что мы не хотим из этого выходить. В противном случае, конечно, это действительно кажется очень странным. Зачем эту Псалтирь читать перед стеной, как сказано, часами читать, если ты ничего не чувствуешь, ничего не переживаешь? Владыка Антоний Сурожский говорил, что если вы читаете молитву, и хотя бы в какой-то момент не дошло до вашего сердца, ничего не затронуло, то это не имело смысла никакого.

А. Леонтьева

— Я очень с вами согласна, когда вот читаешь каких-то... Для меня это Достоевский — я всегда вхожу в то состояние, когда душа начинает вибрировать вот на этих высотах. И я чувствую, что это полезно мне, это меня ведёт.

Прот. Георгий Завершинский

— Но это состояние непередаваемо другому человеку, даже нашему ребёнку. Мы не можем так вот сказать: ты прочти, ты же почувствуешь. Ничего не чувствует. Не потому, что не понимает, а потому, что не чувствует этого. Другая природа... Ну, природа-то не другая, природа у нас семейная, так сказать, фамильная, так сказать. И в этом смысле надо, конечно, постараться к тому же результату привести, но другим путём. Вот тут, наверное, должен помочь всё-таки разговор на одном языке и понимание тех возможностей и тех средств, которыми они обладают сегодня. А мы, может быть, не совсем легко себя и уверенно чувствуем в них. Но я думаю, что надо себя воспитывать тоже разумным образом и вести к тому, чтобы был диалог. Я думаю, что всё-таки человек постепенно от технических возможностей и технических средств переходит к тому, а что же за всем этим стоит. Да, я умею, да, я могу достать быструю информацию, да, я могу быстро ответить на вопрос, тему какую-то раскрыть, но что мне это что доставляет? Если я понимаю, что это не из меня исходит, а исходит вот из нейронки, которой я умело оперирую.
Ну вот я не знаю, я надеюсь, что всё-таки наши дети и внуки не удовлетворятся скоростью своего оперирования с нейронкой и ответами искусственного интеллекта, а захотят иметь своё мнение, свой ответ, построить его, выразить, пережить его, выстрадать, может быть. В этом плане очень интересная тема про страдания. Я думаю, что в следующей встрече можно об этом поговорить. Чтобы выстрадать вот это — и вот в этом человек нуждается по природе своей. Иначе бы не было христианства. Как это какой-то Бог, Который пострадал, умер на кресте? Зачем? Покажи, что Ты Бог — сойди с креста, — мы поверим. Вот это человеческое решение. Это не только там древние какие-то фарисеи, которые распинатели злочестивые. Нет, это люди такие же, и мы-то не многим отличаемся от них: ну, покажи, Господи, дай нам, в конце концов, победить наших недругов, так сказать — наша же вера правильная. Ну, вот как бы этого не чужд никто. Поэтому страдания — это отдельная тоже тема. И мне кажется, семейные отношения через страдания, внутренние переживания, внутренний недостаток, нищету какую-то духовную приходят к совершенству.

А. Леонтьева

— Ну что ж, наметили уже тему для следующей беседы. Спасибо большое. Сегодня поговорили о наших детях и искусственном интеллекте. У нас в гостях благочинный приходов Сурожской епархии Московского Патриархата в Северной Ирландии, доктор богословия, кандидат технических наук, член Союза писателей России протоиерей Георгий Завершинский. С вами была Анна Леонтьева. Спасибо большое. И теперь до встречи про страдания в семейной жизни.

Прот. Георгий Завершинский

— Спасибо.

---

Все выпуски программы Семейный час

• «Как избежать развода». Протоиерей Федор Бородин
• «Как выбрать спутника жизни?» Протоиерей Константин Харитонов
• «Семья — малая церковь». Протоиерей Федор Бородин

---

Проект реализуется при поддержке Фонда президентских грантов