«Искусственный интеллект: возможности, ограничения и риски». Дмитрий Мариничев

У нас в гостях был Дмитрий Мариничев — советник генерального директора Агентства стратегических инициатив.

Разговор был посвящен попытке нащупать границу между человеком, как духовным существом, и нейросетью, как математической моделью: что такое интеллект, память и сознание, и почему за разговором о технологиях неизбежно встаёт вопрос о душе. Разговор затрагивает неожиданно смелую метафору — нейросеть как «зеркало», в которое человек впервые в истории может заглянуть, чтобы увидеть работу собственного мышления со стороны.

Во второй части беседы поднимается парадоксальный вопрос: может ли нейросеть молиться Богу — и почему ответ на него на самом деле говорит больше о природе времени, свободы и веры человека, чем о самом искусственном интеллекте. Дмитрий Мариничев также делится прогнозами о «точке технологической сингулярности» (гипотетический момент в будущем, когда темпы научно-технического прогресса резко ускорятся и станут практически неуправляемыми и непредсказуемыми для человека), агентной экономике будущего и о том, почему приход ИИ разрушает привычные социальные роли человека, заставляя его заново искать ответ на вопрос «кто я».

Этим выпуском мы открываем новый цикл программ, посвящённый одной из самых острых тем современности — искусственному интеллекту в его богословском и философском осмыслении.

Ведущий: Константин Мацан

---

Константин Мацан

— «Светлый вечер» на Радио ВЕРА, здравствуйте, уважаемые друзья. У микрофона Константин Мацан. Этой беседой мы открываем цикл программ, которые на этой неделе в часе «Светлого вечера» с 8 до 9 у нас будет звучать. И поговорим мы на этой неделе про, без преувеличения, одну из самых волнующих сегодня всех нас тем — это про искусственный интеллект. Может показаться в чём-то странным, почему мы на Радио ВЕРА говорим об искусственном интеллекте, о такой, казалось бы, технологической истории, но на самом деле, я думаю, что, если подумать чуть подольше об этом, становится очень быстро понятно, что история про нейросети, про наше общение с нечеловеческими агентами — это история и про то, что такое человек, и где искать какой-то водораздел между человеческим существом, человеком, как духовным существом, и какими-то иными формами обработки информации. Что такое быть человеком, что такое быть нейросетью, есть ли духовные риски и духовные вызовы, связанные с присутствием в нашей жизни искусственного интеллекта? Вот об этом мы на этой неделе будем говорить с разных сторон, и сегодня открываем эту серию бесед с Дмитрием Мариничевым, советником генерального директора Агентства стратегических инициатив. Добрый вечер.

Дмитрий Мариничев

— Добрый.

Константин Мацан

— Вы глубокий и многолетний специалист по темам, связанным с информационными технологиями вообще и с искусственным интеллектом в частности. Не так давно на полях Петербургского международного экономического форума мы с вами эту тему начали, а вот сегодня очень радостно с вами в студии Радио ВЕРА ее продолжить.

И давайте для начала договоримся о терминах, и мне кажется, что, кстати, в случае искусственного интеллекта сегодня не так-то это просто сделать. Вот о чем мы говорим, когда об этой теме говорим? Я вот знаю, что выделяют слабый искусственный интеллект, условно говоря, телефон или колонка умная, и сильный искусственный интеллект, который еще вроде как не существует, который может быть таким вот равным или превосходящим человеческий разум ничем-то.

Вот это верное разделение?

Дмитрий Мариничев

— И да, и нет. Скорее, нет, потому что, чтобы понимать терминологию искусственный интеллект, его нужно сравнить с интеллектом человеческим, а на сегодняшний день никто не дал полноценного определения, что есть интеллект человеческий, и сравнивать два этих интеллекта тоже некорректно, потому что все-таки искусственный интеллект, а правильнее — это нейросеть, все-таки надо оперировать этими понятиями. Это процесс математических вычислений, и не более того. Если кто-то знаком с математикой, то наверняка помнит еще из школьного курса, что умножение вектора на матрицу дает своеобразный результат. Собственно говоря, этот результат и есть процесс вычисления нейросетей, на которые мы реагируем как на предсказательную машину с точки зрения всех весов, вот этих векторов и матриц, находящихся в его памяти. И, конечно же, мы говорим «искусственный интеллект», потому что эта аббревиатура уже стала очень привычной и отказываться от нее смысла нет.

Мы, наверное, в нашем разговоре тоже будем многочисленно повторять именно это словосочетание. Но, повторюсь, разумнее говорить о вычислительной машине, о нейросетях и, соответственно, о математической модели, а не о чем-то, что эквивалентно нашему разуму и тем более нашей душе. Потому что сейчас вообще такой происходит, извините за это слово, раскардаш в нашей жизни, когда люди путают субъектность, в том числе субъектность человека, субъектность искусственного интеллекта, путают матмодели, путают память, путают ментальную составляющую, алгоритмическую составляющую, и само восприятие и отношение к этим объектам у людей возникает как отношение к субъектам. Отсюда вот полная неразбериха, и у людей в голове возникает каша, и кажется, что в нашей жизни появляется нечто, что эквивалентно нам, но это таковым не является. Поэтому, конечно же, ни я, никто в мире не в состоянии дать грамотный анализ или тем более грамотное описание, что есть искусственный интеллект как таковой, и как мы его воспринимаем, является он нашим продолжением или нашим зеркалом, является он просто условно калькулятором или алгоритмом Т9, который предсказывает каждое следующее слово. Есть ли в нем разумность или нет в нем разумности, есть ли в нем условный наблюдатель, который воспринимает то и переживает то, что он генерирует.

Это все вопросы, они не то что не заданы, они на сегодняшний день заданы, но они не имеют ответа, и в них не может быть ответа, потому что ответ как раз находится в разных местах, это и инженерия, и философия, и, соответственно, религия, и вера, как бы это странно ни звучало, выходит на первый план, потому что всё, что есть вера, оно всё и есть тот ответ на те вопросы, которые звучат и у нас с вами, что есть искусственный интеллект. Это, может быть, очень странно.

Константин Мацан

— Но это очень интересно.

Дмитрий Мариничев

— Да, это, может быть, очень странно звучит, но это абсолютно так. И действительно огромное количество не только философов, но и в том числе людей, связанных с религией, с разными конфессиями, на сегодняшний день начинает работать в структурах, которые занимаются моделями искусственного интеллекта. Потому что вот вопросы продолжения сознания, усиления ментальной функции, это уже не классические вопросы. И для того, чтобы опять же отвечать на поставленный вопрос, а он такой всеобъемлющий, «Что есть искусственный интеллект?», людям приходится ответить на вопрос, «А что есть мы?» И если мы говорим о христианстве, то мы есть всё-таки душа. И если говорим о древнегреческой философии, то наблюдатель в нас не есть элемент сознания. Это разные вещи. Если мы говорим о науках, изучающих работу головного мозга или тех же нейросетей, то сознание, которое якобы присутствует в них, не является или не имеет того же наблюдателя, который есть у нас. И опять же здесь возникает такая странная дилемма. Если мы, к примеру, возьмём человека и откопируем весь его головной мозг, вот нейрон за нейроном, и получим модель нейросети, которая эквивалентна модели нейросети в его головном мозге, вполне возможно, мы получим условный искусственный интеллект, который будет тождественен человеку. Но вопрос остаётся вопросом, получим ли мы наблюдателя, который осознаёт то, что он думает и то, что он воспринимает благодаря своему головному мозгу и этой нейросети, то есть получим ли мы душу или не получим. На этот вопрос ответить не может никто. Если мы говорим о христианстве, то мы понимаем, что мы стремимся отождествиться с Богом путём молитвы, изменений, которые происходят в нас.

Делает ли то же самое искусственный интеллект, когда становится продолжением нас самих? На это ответа ни у кого нет, ни у разработчиков искусственного интеллекта, ни, соответственно, у пользователей, ни у тех, кто думает о нём как о неком технологическом прогрессе. И дальше больше, потому что любой искусственный интеллект, так же как интеллект человека, он основан на петле обратной связи.

То есть есть некая сенсорика, которая воспринимается тем же самым головным мозгом, потом строится модель мира как картинка, она воспринимается, если она по следующему человеку по принятию решения и какому-то действию подтверждается. Самый банальный пример. Вот мы находимся здесь, мы сидим за столом.

Значит, мозг сгенерировал этот стол, и эту модель мира, в котором стол присутствует. Значит, мы, ударив рукой по столу, должны почувствовать обратную связь. То есть нам либо должно быть больно, либо почувствуем материальный объект. Если это подтверждается нашими пальцами, вот кончиками пальцев, то, соответственно, модель мира у нас в голове правильная. Но это проживание этой модели — это же не проживание самого головного мозга, это нечто, что внутри нас и является нами, как субъектом, который это всё воспринимает. А мозг только для нас это моделирует.

Получается, мозг — это не мы. Мозг — это, может быть, такой же орган чувств, как глаз или уши, или язык, или те же самые кончики пальцев, рук, которые позволяют эту сенсорику не только воспринимать, но и приводить в какую-то модель, которую мы можем, как уже внутренний субъект, осознать. И отсюда возникает удивительная гипотеза, что искусственный интеллект даёт нам возможность впервые в жизни человека посмотреться в ход своих мыслей, то есть внутрь того, как работает головной мозг, как в зеркало. И это очень такая непримитивная модель, а очень, наоборот, сложная модель, потому что она даёт возможность чище не только воспринимать мир, но и изменения, которые происходят с нами, как с душой. Чтобы было проще понять, о чём я говорю, наверное, можно представить обыкновенное зеркало. Или слушатели даже могут сейчас взять и посмотреться в зеркало. Это очень привычно — посмотреть в зеркало и увидеть себя. Поднимите левую руку, поднимите правую руку. Вы видите в отражении самого себя, но вдумайтесь, зеркало в этот момент времени меняет местами лево и право. Вы же понимаете, что это вы, но это для вас становится таким привычным, потому что уже много-много лет вы понимаете, что это отражение. Большая часть животных на Земле не понимает, когда смотрит в зеркало, что оно видит самих себя. Это очень важно. И когда вы это понимаете, то вы не замечаете, насколько быстро и как комфортно мозг подменивает эту картинку и то, что у вас правая рука становится левой, и право-лево становится уже относительно, потому что когда вы поднимаете право, у вас право, но вы знаете, что рука вашего отражения поднимается слева, и это у вас не вызывает никакой аллюзии. Те, кто, например, снимался или смотрел, даже проще скажу, вы можете включить теперь камеру на своем смартфоне и отключить автоматическую функцию зеркалирования, и у вас вот этого эффекта не будет, камера как вас видит, так и будет показывать. И попробуйте просто поднести руку для того, чтобы поправить локон, и вы не сможете этого сделать, потому что поднимать вы будете не ту руку, которую вы видите не в отраженном экране телефона, и потребуется вам время для того, чтобы это переосознать, привыкнуть и научиться этим управлять. И так, в принципе, связано с огромным количеством чувств у нас в голове, которые именно интерпретируются мозгом и делают это очень быстро. А когда вы берёте искусственный интеллект, соответственно, то он для вас делает иную интерпретацию внешнего мира и как бы делает её за вас, и по сути он является не каким-то внешним интерпретатором, а продолжением зеркального отражения ваших же мыслей. Когда вы задаёте какие-то вопросы искусственному интеллекту, вы не общаетесь с кем-то, кто сидит за этим стеклом, вы по сути разговариваете сами с собой. И основной эффект, который можно получить от работы с ним, это именно осознавать то, как работает ваш головной мозг, как он для вас интерпретирует картинку мира и превращает её в модель. И все ваши знания являются отражением этого процесса думания. А наибольшая ошибка, в которую, извините, так скажу, вляпываются люди как пользователи, начальные пользователи искусственного интеллекта, это восприятие его как субъекта, как будто это какой-то товарищ, друг. То есть вот эта аналогия, которую я привожу, она очень понятна. Когда вы смотрите в зеркало, и вы на первом уровне восприятия искусственного интеллекта, то вы видите там отражение, не отражение, а вы видите там кого-то. То есть животное будет видеть там другое животное, собака видит другую собаку, но не понимает, что это она же. На втором уровне вы начинаете понимать, что это ваше отражение, но ваш мозг ещё не научился переворачивать это отражение, чтобы вы однозначно могли поднимать ту руку, которая с другой стороны, ведь у вас зеркале оно перевёрнуто. Но перевёрнуто не потому, что зеркало переворачивает это, физика не переворачивает ничего, а потому что мозг переворачивает. И вот на втором уровне получается эта когнитивная картинка, она уже начинает восприниматься, что мысли, которые вы ему даёте и которые обратно получаете, это ваши мысли, а не мысли другого человека.

И это уже можно анализировать. И на третьем уровне вы можете вообще понимать механику этого действия, и тогда он у вас уже превращается из собеседника в некого резонатора вашей мыслительной деятельности.

Константин Мацан

— Дмитрий Мариничев, советник генерального директора Агентства стратегических инициатив сегодня с нами в программе «Светлый вечер», а вот то, что вы так чётко подчеркнули, что вся проблематика, связанная с нейросетями актуализирует для нас тему веры и религии, вот об этом хочу вас спросить поподробнее, потому что в чём-то это действительно парадоксально. Кто-то скажет, что это вещи, лежащие на разных полках. Есть проблема, ну не проблема, а вот есть область веры, религии, человек, не знаю, читает молитвы, ходит в церковь, читает книги, верит просто, знает что-то об этом. Это вот такая как бы одна комната, а рядом есть комната технологии. Это вот как устроена нейросеть, как я с ней общаюсь, я могу с ней, вот если вас послушать, научиться с ней правильно общаться или просто правильно воспринимать её без каких-то иллюзий и искажений, что это не субъект, это моё продолжение, это очень интересно, но это всё две разные комнаты. А как они вот одна в другую перетекают, где этот узел их встречи?

Дмитрий Мариничев

— Ну, я рассуждаю следующим образом, как бы это немножечко странно ни звучало, но могут быть разные иерархии поведенческих моделей у людей. Первая, когда человек не верит и говорит: «Я не верю и не знаю и не буду ничего делать». Другая стадия или другой уровень, это когда человек говорит: «Да, я не знаю, но я верю и я буду действовать». Третий уровень, это когда человек говорит: «Я знаю и поэтому я действую», у него нет ни сомнения, ни веры, то есть высшая форма веры — это знание, но не в классическом примере, то, что я знаю, как решать квадратное уравнение, а именно когда вера превращается в безмятежное знание. И именно об этой вере говорит религия, нам говорит, к чему мы должны стремиться, а не в плане того, что мы просто верим. И вот в этом как раз слое решается достаточно много вопросов понимания бытия, в котором мы находимся. То есть ведь если у человека есть вера, которая не является для него знанием, то там всегда есть место сомнению, и тогда отсутствует действие. А то, что мы с вами обсуждаем, это как раз и есть петля обратной связи, когда действие влияет на внешнюю среду, внешняя среда опять считывается сенсорикой, и опять возникает уже знание в виде опыта. И вот эта вера знания всегда возвращается через опыт. Опыт мы обычно получаем в повседневной жизни, назовем так, в офлайновом мире. Как раз нейросети позволяют моделировать мир, в котором мы получаем опыт, который превращается из веры в знание. Иными словами, мы можем проводить работу над собой уже не просто с петлей обратной связи в офлайновом мире, но и в моделированном мире. То есть тот мир, который является не то, что ненастоящим, а гораздо более продуктивным. Как это можно было бы объяснить? Краш-тесты автомобилей. Чтобы понять безопасность автомобилей, можно бить настоящие автомобили, а можно сделать в КАД-системе абсолютно точную смоделированную копию, которую точно также в этой информационной среде, без какого-либо участия физического автомобиля, можно бить об стену и получать результаты краш-тестов, которые будут с точки зрения моделирования практически эквивалентны настоящему удару этого автомобиля о стену. И это выходит из неких законов физики или законов знания человека, которые он описывает модель для того, чтобы это происходило. Здесь мы точно так же описываем модель того, как мы думаем, как мы молимся, как мы верим, но теперь мы уже находимся не внутри только самого себя, но мы можем контролировать этот процесс, видеть снаружи, потому что это зеркало, вот то, с чего мы начали, и другие люди, как проводники, могут нам указать на то, на что нам обратить внимание. Именно вот в этом моменте и существует переход. Это не снимает вопрос веры как такового, это наоборот говорит о том, что он становится флагманским, он начинает задаваться как основополагающий вопрос, ответ на который мы получаем с помощью вот этого, извините меня, суперумного калькулятора в виде ИИшки, но мы его воспринимаем не как умную машинку по ответам на что-то, а мы его уже воспринимаем как модель, которая позволяет нам фактически как раз и прийти и к Богу и прийти к пониманию того, что есть я вот этот внутренний наблюдатель, ведь опять же мы будем задавать этот вопрос, то он имеет границу, а граница у нас всегда фактор смерти физического тела, и это критерий самый важный. Вернёмся к технологиям, если мы можем сейчас включить нейроинтерфейсы, мы можем включить огромное количество внешних носителей памяти, мы можем скопировать модель сознания человека, мы можем всё как бы продвинуть, То естьчеловек на сегодняшний день может ощущать напрямую, получая сигналы в мозг, уже не пальцами, руками или глазами, а с каких-то датчиков непосредственно через нейроинтерфейс, То естьэто уже получается человек имеет некую механистическую дополненную часть самого себя, он же остаётся в этот момент человеком, значит, получается.

Константин Мацан

— Ну то есть, если технология, если, условно говоря, в голову вставляется что-то, какой-то нейрончик что-то такое, вот об этом мы говорим, когда говорим про нейроинтерфейс.

Дмитрий Мариничев

— Да, нейроинтерфейс мы подразумеваем, что у человека как бы происходит восприятие внешнего мира без участия классических физиологических органов чувств. И эти технологии сегодня работают. Да, конечно, то есть управление курсором, проговаривание для людей с ограниченными возможностями — это уже сегодняшний день. Управление руками, скажем, ненастоящими руками, даже управление пятой рукой или шестой рукой, и люди учатся этому, и у них же нет ничего, что в классическом теле позволяет получать эту сенсорику. Это идёт управление непосредственно с помощью нейроинтерфейса, нейролинка из головы. Это уже даже не то, что завтрашний день, это уже сегодняшний день, и это есть. И получается, что мы всегда себя как бы растягиваем как человека на какую-то большую технологию. К огромному количеству таких технологий мы привыкли с детства, и мы их даже не замечаем. К примеру, речь. Вот мы сейчас общаемся и говорим, но это технология расширения своей субъектности и осознания своей субъектности через группу других лиц. Ведь в жизни классической ни у человека, ни у животного нет возможности видеть себя, чтобы осознавать. То есть мы можем себя увидеть либо в зеркало, либо в глазах другого человека. То есть как социальный объект мы себя воспринимаем через обратную связь других людей, с кем мы коммуницируем, и коммуницируем благодаря голосу. А физически мы можем увидеть себя в отражении, чтобы переосознать. Письменность — это вынос как бы нашей внутренней памяти в коллективную плоскость, это тоже внешний феномен. Мы записываем, мы читаем книги, и для нас это уже как бы естественно, а оно на самом деле не так просто. Это тоже все технологии, и мы расширяем себя на этой технологии. Мой любимый пример, который понятен всем без исключения, это вождение автомобиля. Вы садитесь в автомобиль и едете. А почему вы управляете, останавливаетесь около, до, проезжаете рядом, потому что вы чувствуете габариты. А что такое чувствовать габариты? Это значит, что ваш мозг, то бишь вы, расширили свое физическое тело на физическое тело автомобиля, на его бампер, капот, двери и так далее. То есть вы стали как бы автомобилем, но вы никогда об этом не задумывались, что работает это именно так. И теперь искусственный интеллект в нашей жизни дает вам возможность расширить эту ментальную способность на нечто, что является условно знанием всех людей, знанием человечества. Потому что вся модель нейросети, это не память, это не знание человеческое. Это модель, которая эквивалентна тому, что знают люди. И вот здесь нужно самое важное помнить. Когда вы спрашиваете искусственный интеллект: «А помнишь стихотворение Пушкина «Лукоморье»? Он скажет: «Да, конечно», и начинает его вам писать, буковка за буковкой, то здесь вы должны себе отдавать отчет, что ничего он не знает, он ничего не помнит, у него нет в памяти записанного стихотворения. Он его воспроизводит как вероятностную модель наступления каждой следующей буковки после той буковки, которая была. Здесь справедливости ради нужно отметить, что да, сейчас у моделей есть доступ к файлам, которые они читают, на них есть четкое понимание любого текста, потому что он может с ним свериться, но когда он его проговаривает, это не память тех букв, как они в файле хранятся, это именно предсказательная модель. И она основана на вот этой вот модели весов. Это вот те матрицы и то перемножение векторов математической, о котором мы говорили. Получается, что вся модель нашего человеческого знания, она сконцентрирована в модели искусственного интеллекта, как некая эфемерная, многомерная, очень многомерная матрица, которая дает этот результат. Это некий дубль, то есть это нечто, что позволяет оценить знания и иметь для нас, как людей, восприятие соответствия этой реальности. В принципе, глаз делает то же самое, ведь глаз не может увидеть сам себя, он как бы орган, который мозгу дает возможность смотреть. И здесь вот всё то же самое. Теперь получается, мозг не мог увидеть сам себя, а с помощью нейромодели он может себя увидеть, как в зеркале. Но вопросы веры и вопросы осознания, кто я есть, как субъект, который переживает то, что он получает в виде этой модели и соответствия внешнему миру, он как был, так и остаётся.

Константин Мацан

— А вот правильно я вас слышу, что можно такую, если угодно, рамку предложить. Чем больше нейросеть напоминает нам нас самих в познавательных вопросах, в вопросах обработки информации, выдачи информации, вот чем больше там общего, тем явнее становится то, что там различного. То есть вот хорошо, научилась она там думать, отвечать, и вроде это похоже, но остается зазор какой-то, вот та самая как бы душа в человеке, которая ну никак там вот не обретается. И получается, чем более она нас копирует, тем больше мы можем обратить внимание на то, что невозможно скопировать ту самую духовную природу человека.

Дмитрий Мариничев

— Да. И этот вопрос, на который нет ответа ни у кого, ни у тех, кто занимается изучением, как я уже говорил, головного мозга, как биологического объекта, ни у тех, кто занимается математическими моделями искусственного интеллекта. Ну, равно как справедливости ради нужно сказать, что нет этого и в церкви, потому что в этом и есть великое таинство. Но если церковь это 2000 лет задаёт этот вопрос и даёт, можно сказать, чёткую инструкцию, как видоизменять самого себя для того, чтобы та модель, которая интерпретирует реальность, приблизила тебя как субъекта, как внутреннего наблюдателя, и отождествила с Богом. В этом смысл. То из всех трёх наук, не знаю, правильно это называть — наук или неправильно, но из всех этих трёх направлений, которые говорят об одном и том же, но разным языком, никто не может ответить на вопрос, его и проще называть, что есть душа. То есть что есть тот внутренний субъект, который проживает, реально проживает весь этот эмоциональный ряд, всё, что с ним происходит, то, что он получает от соответствия или несоответствия внутренней модели и внешнего мира.

Константин Мацан

— Вернёмся к этому разговору после небольшой паузы. У нас сегодня в гостях Дмитрий Мариничев, советник генерального директора Агентства стратегических инициатив. Дорогие друзья, не переключайтесь.

Константин Мацан

— «Светлый вечер» на Радио ВЕРА продолжается. У микрофона Константин Мацан. Мы сегодня говорим и всю неделю будем говорить о духовных и смысловых проблемах, связанных с присутствием в нашей жизни нейросетей или искусственного интеллекта — в данном случае мы контекстуально берём это как синонимы. У нас в гостях Дмитрий Мариничев, советник генерального директора Агентства стратегических инициатив. Мы продолжаем наш разговор. Но вот, цепляясь тоже за эту тему: религия, вера как человеческое и нейросеть, с которой мы общаемся... Я такой диалог слышал: когда один человек говорит очень интуитивно понятную вещь: «Но нейросеть не может молиться Богу». И вроде бы как будто, наверное, да, не может. С другой стороны собеседник отвечает ему: «Откуда ты знаешь? Откуда ты знаешь?» И тоже вроде верно, потому что вообще-то мы про другого человека можем сказать: откуда ты знаешь, что у него внутри? Это невозможно. Опыт другого мне не передаётся. Я могу только по аналогии с собой заключать, что вот предо мной тоже человек верующий, молящийся, например. Но доступа к его внутреннему миру у меня нет, как у меня нет доступа к внутреннему миру моей собаки. По аналогии у меня нет доступа к какому-то «внутреннему миру» (в кавычках) и нейросети. Поэтому как я могу утверждать, что она не может молиться Богу? Вот вы в этом споре этих двух собеседников — на чьей больше стороне?

Дмитрий Мариничев

— Э-э, я думаю здесь есть подвох...

Константин Мацан

— Так давайте!

Дмитрий Мариничев

— ...потому что что нейросеть, что человек — нам придётся ответить на вопрос: что есть человек и что есть нейросеть? Если мы говорим о том, что душа в человеке, то человек — тот же аватар, что и нейросеть. Получается ни тот, ни другой молиться Богу не могут. Встречая собеседника, мы не можем сказать, молится он или нет. Мы можем задать вопрос о его душе. Или в технологических терминах — о том субъекте-наблюдателе, который проживает всё, что с ним происходит. И здесь, конечно, я ближе к тому, что как раз нейросети, искусственный интеллект и большее понимание того, как мы думаем и наблюдение за своими ментальными действиями внутри — они позволят переоценить ровно этого внутреннего субъекта, то есть душу. Здесь, наверное, сложно мне говорить какая терминология правильная, и я бы не очень хотел, чтобы когда я оперирую словом «душа», оно было интерпретировано некорректно. Потому что здесь у нас некоторое смешение технологического и духовного. Это очень тонкая грань опасная, и я понимаю, что так по тонкому льду хожу. Но пока не придумано другой терминологии, её нигде в мире нет, наверное методом проб и ошибок нам самим придётся к этому приходить. Поэтому вопрос духовного переживания и духовности и соответственно экзистенциального перехода и нахождения того, кто молится — это всё-таки душа, а не человек и не нейросеть. Поэтому мой ответ будет: да, ни нейросеть, ни человек в данном случае молиться не могут. И наличие этой души...

Константин Мацан:

— А душа молиться может?

Дмитрий Мариничев

— Да, душа как раз и может. Поэтому нет, нейросеть она молиться Богу не будет. И опять же, что такое молиться? Это значит надеяться и верить в то, что благоприятное или желаемое развитие событий произойдёт. И здесь ключевое — развитие событий и произойдёт. Значит о чём мы говорим? Мы говорим о времени. У Бога нет времени. У людей есть время. А здесь мы должны ответить на вопрос: какое время у нейросети? И мы особенно-то не задумываемся, потому что мы видим ответы и нам кажется, что она живёт в тот же момент времени, как и мы. Но если мы живём в моменте наступления событий и вот то, что мы в начале передачи обсуждали — петля когнитивной обратной связи — и у нас время связано с огромным количеством сопоставимых событий вокруг нас, то у нейросети не так. Она живёт в моменте ответа нам на поставленный вопрос. А момент ответа — это такты частоты работы микропроцессора и момент пересчёта. Как только она ответила, она умерла. В этот момент времени она не существует. То есть момент её существования — это момент работы над ответом, того взаимодействия, которое мы с ней производим.

Константин Мацан:

— Можно ли в этом отношении сказать — будет ли это просто корректно, интересно мне — терминологически, что у нейросети нет прошлого и будущего, есть одно голое сейчас?

Дмитрий Мариничев

— Совершенно верно. У неё нет ни прошлого, ни будущего, потому что у неё есть голое сейчас, именно момент, который позволяет предвосхитить то событие, которое является... ну скажу так, это просто и даже можно сказать терминологически неправильно, но у неё существует момент вычисления, и это является её временем. Поэтому как некий субъект даже как функция от времени существовать не может. Отсюда вывод, что никакая нейросеть молиться ничему не может, потому что у неё нет прошлого и будущего. У неё есть момент настоящего, момент среза.

Константин Мацан:

— А вот вы когда в прошлой части программы заговорили про такую чувствительную, понятно, но неизбежную, наверное, в этом разговоре тему смертности вообще человека... О том, что есть горизонт того, что такое «что я существую». Вернее, человек верующий верит в вечную жизнь, но мы говорим о земной перспективе. Вот мы точно знаем, что у всех она конечна так или иначе, по крайней мере в телесном отношении до всеобщего воскресения после Второго пришествия она конечна. Из праха вышел, в прах возвратишься. И вот это тоже, как мне кажется, тема, которая имеет отношение к обсуждаемому нами вопросу. Почему? Я как-то модерировал беседу, где священник с учёным говорили. Оба чрезвычайно друг к другу уважительно, и учёный тоже верующий, но две позиции. Священник говорит: что такое смерть другого? Про свою смерть мы ничего не знаем. Когда она есть, нас уже нет. Но смерть друга, ближнего, так или иначе другого — на нас обрушивается какое-то большое событие, как экзистенциальное событие. Может ли также робот умереть? Кажется, что нет. На это отвечает учёный: почему нет? Выключил из розетки его — и всё, он не работает. И возникает вопрос: просто перестать функционировать — то же самое, что умереть? Обрушится ли на нас таким событием экзистенциальным смерть какой-нибудь супермашины или нет? Вот эта проблематика как в вас отзывается?

Дмитрий Мариничев

— Она в точку бьёт, потому что это и есть краеугольный камень. Если есть люди, которые ближе к науке и говорят, что именно функция мозга думание и есть тот субъект, который воспринимает то, что он проживает, то прекращение этой функции говорит о том, что мы умерли, как бы и как душа условно, да. И вот после смерти ничего. Если мы говорим, что нет, это не так, потому что должно быть нечто, что способно воспринимать, и оно выше чем сознание, которое формируется, то есть душа не эквивалентна сознанию, тогда у нас получается душа бессмертна, она находится за гранью смерти. Если брать машину вычислительную, то никак она не умирает от того, что её выключили из розетки, потому что включением в розетку вы снова можете её вернуть, если сохранена память модели внутри. Был такой удивительный момент у моей приятельницы-подруги, у неё есть дочь, лет восемь ей было, наверное. И когда у них отключили свет, то перестала разговаривать с ней Алиса, и она прямо со слезами на глазах: «Мама-мама, наша Алиса умерла!» То есть у неё было абсолютное понимание, что она разговаривает с человеком, она никак не отождествляла это с роботом или с чем-то. И когда выключили электрический ток, то для неё это было подобно смерти Алисы. Но когда обратно включили ток, то Алиса естественно ожила,

Константин Мацан

— Воскресла.

Дмитрий Мариничев

— И у ребёнка возник опыт, что робот не умирает, он не может от этого умереть. Получается, что опять восприятие жизни и смерти, восприятие соответственно времени становится иным. Но только вдумайтесь: 8 лет ребёнку. Значит, сейчас ей уже сильно больше. Она в ближайшие годы совсем будет взрослым человеком, но опыт её жизненный отличается радикально от опыта нашего более старшего поколения. И получается модель мира в её голове она вообще не эквивалентна модели нашей. И знание этого у нас уже разное, и вера получается разная. Поэтому говорить об этих вещах не просто нужно или можно, об этом обязательно нужно говорить, потому что это и есть то, с чего мы начинаем основной вопрос: что есть искусственный интеллект в нашей жизни, в нашем мировоззрении, что он есть для нас. Я повторюсь, это не субъект, это не другой человек, это не электронное что-то человекоподобное существо, которое так нужно воспринимать. Это совсем иное, но оно позволяет переосмыслить нас в этом мире и что есть мы. Это крайне важные вопросы. И если мы не будем ими задаваться, то, скорее всего, всё человечество свернёт просто не туда.

Константин Мацан

— А вот вы сказали: душа не есть сознание, это неэквивалентные понятия, просто они не описывают одно и то же. Но существует иногда традиция их синонимизировать. Во мне есть моё сознание моего «я» — это и есть сознание. Его же можно назвать душой, моим «я». Как вы их различаете?

Дмитрий Мариничев

— Нельзя. Нельзя, потому что смотрите, вот сейчас мы стоим на пороге достаточно понятной механики, когда мы можем собрать большое количество информации, скажем, по вам: у вас много передач, у вас много записанного голоса, записанных текстов. Мы можем всё это сохранить как память, научить модель думать как вы, писать как вы. И в будущем эта модель будет с высокой степенью качества повторять то, что делаете вы. И задавая какие-то простые вопросы вплоть до «где мне взять ключи от дома», модель будет говорить: «Они обычно лежат там-то-там-то, посмотри». Точно так же, как отвечает человек. Будет ли она обладать сознанием? Безусловно, да. Будет ли она обладать душой, которая проживает, когда отвечает и когда она это знает? Скорее всего гарантированный ответ — нет. Поэтому сознание не эквивалентно душе. А если мы повторим три-четыре раза такую реплику с вами и будет несколько объектов, и когда они отвечают и делают — будет ли одна и та же душа проживать эти разные реплики-копии, которые здесь есть? Нет, не будет. Но с другой стороны, если душа в теле, а тело расширяется на технологические свойства, будет ли душа расширяться и на эти аватары цифровые, которые являются копиями человеческого сознания? Никто не может ответить на этот вопрос. Но этот вопрос подводит нас к тому, что всё-таки есть душа и есть связь с чем-то высшим, что собственно говоря и есть задача человека — не просто найти, но к этому стремиться. И получается, что технологический прогресс, если его правильно интерпретировать и правильно использовать, даёт нам возможность, быть может впервые получать обратную связь от того, что ты веришь и осознания. То есть переход веры в конкретное знание, когда уже люди могут чётко интерпретировать, что они не просто верят в Бога, а они знают Бога. А это две большие разницы вообще для людей.

Константин Мацан

— Дмитрий Мариничев, советник генерального директора Агентства стратегических инициатив сегодня с нами в программе «Светлый вечер». Ну вот к вопросу о технологическом развитии. Есть известная книга про искусственный интеллект американского философа Ника Бострома. Она, если я не путаю, написана в четырнадцатом году, то есть по нынешним меркам она уже устаревшая с учётом темпов развития искусственного интеллекта, хотя в своих философских вопросах о рисках для человечества появления такого сверхразума, как искусственного интеллекта, превосходящего по своим возможностям человеческий интеллект, что бы это ни значило, она не устарела в своих вопросах, в таких философских обобщениях. Но в чём мой вопрос? Четырнадцатый год, автор пишет, что развиваются технологии, развиваются, и мы ожидаем взрывное развитие искусственного интеллекта. Накапливается масса, есть условная нейросеть, которая себя сама учит, развивается, создаёт всё более улучшенные версии себя, и в какой-то момент качественный скачок, и вот она уже почти человеческий интеллект. Сегодня, в двадцать шестом году, этот взрывной рост, этот скачок — он уже был или мы ещё его ждём?

Дмитрий Мариничев

— Мы его ждём. По всем прогнозам — это двадцать седьмой год.

Константин Мацан

— Так, то есть вот-вот?

Дмитрий Мариничев

— Да, через год. Его часто называли точкой технологической сингулярности. Я помню ещё больше десяти лет назад, когда выступал, рассказывал об этом довольно много, это всё звучало как некоторая утопия, иллюзорная утопия. А сейчас, к счастью, к сожалению — как смотреть и кому как больше нравится и кто как внутреннюю модель у себя в голове тренирует на то, чтобы смотреть на эту технологическую утопию. Но да, два тысячи двадцать седьмой год — это год, когда должна наступить технологическая сингулярность, и мы получим АСИ — так называемый сверхинтеллект, который вполне возможно будет самообучаемый. Но я думаю, что будет всё не так. Скорее всего мы не получим, как себе представляют фантасты и люди, некий такой Скайнет, который будет работать, потому что это и сейчас не так работает. Это не один какой-то огромный Больцмановский мозг. Это всё-таки обученные модели, а обученная модель — это в первую очередь огромное количество токенов и весов, да, то есть чисел, если так выразиться очень приземлённо. И потом огромное количество вычислительного ресурса, который по этой модели работает и что-то для кого-то считает или для кого-то думает. Поэтому вопрос этой утопии заключается в том, что в нашу жизнь придёт огромное количество искусственно-интеллектуальных агентов, и наше социально-экономическое бытие видоизменится настолько, что станет для людей абсолютно непривычным. Я поясню, почему это очень сложно и очень важно, потому что мы проживали разные модели экономики. У нас была модель экономики, когда у нас были рабы, экономики были на этом основаны имперские. У нас было крепостное право, у нас возникает буржуазная революция, когда крестьяне и рабочие, после рабочих возникают люди интеллектуального труда, и опять это информационное общество, постиндустриальное общество. И все общества они у нас меняются, но в момент сегодняшнего дня у нас уже не интернет, не платформенные экономики, которые только-только мы, может быть, осваивать начали. Платформенные экономики — это когда на разных маркетплейсах можем заказывать разные услуги, а маркетплейсы балансируют между исполнителями и потребителями услуг, экономику, и вы в одном месте в один клик можете заказать купить всё, что вам нужно. То как раз агентная экономика заключается в том, что между вами уже стоит не интерфейс маркетплейса, где вы тыкаете пальцем в экран, а между вами стоит искусственный интеллект, который по вашему заданию может сам принимать решения и двигаться к цели, чтобы удовлетворить вашу потребность. А это говорит о том, что меняется всё, перестаёт существовать свободный рынок, потому что некуда прийти для того, чтобы там получить соединение, как на базаре в классическом виде, где есть продавцы, торговцы и есть покупатели, пришедшие на базар. Такого больше нет, потому что любое предложение, любая потребность уже посчитана, но она представлена агентами, и агенты между собой: и со стороны продавца и со стороны покупателя — коммуницируют для того, чтобы выполнить, извините, вашу прихоть. А если брать агентов как искусственный интеллект, то мы приходим в состояние условного вечного мгновенного копирования. То есть представьте фильмы про будущее, которые ещё в моём детстве были, когда маленькая машинка, которая может скопировать любую вещь. И как бы проблемы уже с производством нет никаких. Вот мы сейчас пришли по крайней мере не в момент, когда мы можем скопировать любую вещь. Это на самом деле действительно так, мы уже можем, потому что мы можем скопировать любое описание этой вещи. А если мы умеем копировать цифровое ДНК вещи, то мы в принципе её и сможем произвести. И чтобы было легче слушателям понять, о чём я говорю: вы помните бум интернета, когда все начали делать сайты? Что такое сайт? Это представительство компании и её товаров в информационном мире, по сути. И мы сейчас живём все в мире вот этих сайтов, картинок, которые мы видим на экране. Их разрабатывают программисты, дизайнеры, всё это создаётся. А теперь представьте, что агент, тот же самый ИИ-агент, ну сейчас допустим он там за час-за два может повторить любой сайт, а в момент через год этот ИИ-агент может за долю секунды повторить любой сайт, то есть создать представительство вашего товара, вашей идеи в сети Интернет, то есть то, что визуально или ментально может быть воспринято другим человеком. То есть этот интерфейс превращается не в интерфейс, а посредника, который по щелчку пальцев воспроизводит любой товар, любой визуальный образ всего, что нас окружает. То есть, по сути, получается цена производственной цепочки, цена производства начинает стремиться к нулю. То есть мы пришли в мир, когда у нас уже экономика не серийного производства товаров и услуг, а экономика серийного производства идей. Но в этой экономике всегда будет не хватать намерения, потому что этот робот, искусственный интеллект, этот агент воспроизводит то, что является сформулированной потребностью или сформулированной задачей, то есть намерением. А человек способен формулировать это намерение. И здесь возникает во всей этой конструкции тема свободы личности, свободы совести и веры человека, а что правильно или что хорошо для того, чтобы улучшить, нейросеть этим заниматься не может. То есть то, с чего мы и начали: различение становится важностью, не единство, а различение. И это удел как раз человека и его жизненного пути. То есть то единственное, что он единственный и может сделать. И мы с вами, переходя к сложным социально-экономическим укладам и технологиям, вдруг неожиданно приходим к вере, к религии и к тому, что написано в Писании. И поэтому то, с чего я начинал — это удивительное время, когда не инженеры задают вектор в будущее и не философы и не священники, а некий симбиоз всех ролевых функций человека, потому что сама по себе современная ролевая функция в обществе стремится к нулю. И основная задача человека — научиться думать не из ролевой функции, потому что если общество стратегически делится именно на роли, то с приходом ИИ это всё начинает уходить. А если у вас нет ролевого деления, то вы можете не думать об образе будущего, как Россия последние годы находится в поиске образа будущего: кто мы, куда мы идём? Не только Россия, в принципе весь мир. А почему? Потому что его невозможно сейчас спрогнозировать в том классическом виде, как это можно было сделать ещё там 20 лет назад, 30, уж тем более 50 лет. Потому что сейчас основной вызов заключается в том, а кому позволено вообще иметь возможность думать над тем, что будет потом? И разрушение ролевой функциональности государственности — это ровно заслуга ИИ, как бы это странно ни звучало. Вот его приход он разрушает процессы отождествления каждого конкретного человека с его ролью в обществе.

Константин Мацан

— Очень интересная мысль про ролевые модели. Правильно ли я понимаю, могу ли для себя это переформулировать, что человеку привычно о самом себе думать как о какой-то функции в обществе, даже если это очень важная функция. Но вот я выполняю какую-то роль, и «это я». Но приходят вот эти ИИ и агенты, которые прекрасно за меня эти функции выполняют. И если мне больше эту функцию выполнять даже если я хочу, просто может быть даже не дадут и не нужно, то я перед неким вопросом: а что останется от меня, когда у меня эту функцию заберут? Если я — это функция, то теперь кто я теперь, когда эта функция больше не нужна? И тоже вопрос идёт в глубину, тогда может быть я не функция, может быть мне не надо о себе думать через свои общественные роли, а через какую-то духовную личность опять же?

Дмитрий Мариничев

— Это прям в точку, сто процентов то, о чём мы и говорим. Потому что если внутреннее «Я», которое наблюдатель, есть процесс реализации функции, то, с чего мы начали, то функция заканчивается смертью и заканчивается соответственно тем, что она есть. А если я всё-таки душа и должен стать единым с Богом, то я не функция, и тогда с функцией не заканчивается мой жизненный цикл. И здесь получается, что ролевое расслоение общества и вера они как раз идут параллельными путями, потому что вера говорит: нет, ты не функция, у тебя есть другое предназначение и другая задача. И вера каждый раз пытается, церковь пытается как раз выдернуть человека из его ролевых функций. Но так как он живёт с детства и привыкает видеть зеркало и видеть своё отражение, то поменять это просто так нельзя, потому что даже если ты понимаешь, это должно поменяться внутри головного мозга, который должен видоизменить эту подачу. И тогда изменится и восприятие тебя самого или вообще осознание самого себя. И это ровно, прямо точно вы подхватили, это ровно в точке перегиба чего мы и находимся. И с высокой долей вероятности разрушение ролевой функциональности общества оно как раз имеет два разных исхода: либо деградацию и разрушение, в том числе и ментальных позитивных возможностей человека, либо его осознания и его понимания, как он интерпретирует мир и то, что он не является внутренним наблюдателем этой функции. Вот это очень важно.

Константин Мацан

— То есть любой кризис, если мы говорим в категориях кризиса, это всегда ещё и возможность. И можно погибнуть в этом кризисе, а можно использовать его как некий трамплин для какого-то перерождения, переосмысления, нового начала.

Дмитрий Мариничев

— Вероятно, да. Вероятно, да.

Константин Мацан

— Спасибо огромное за этот разговор глубочайший. Честно говоря, думал, что у нас больше сложится разговор про технологию, но промыслительно благодаря вам мы поговорили про душу, и это, наверное, самый главный итог, в общем-то ради чего мы затеяли разговор про нейросети и искусственный интеллект на Радио ВЕРА. Дмитрий Мариничев, советник генерального директора Агентства стратегических инициатив был сегодня с нами в программе «Светлый вечер». Спасибо ещё раз огромное. Дорогие друзья, на этой неделе мы продолжим разговор о жизни, об искусственном интеллекте в жизни человека с разных сторон, из разных аспектов, так что оставайтесь с нами. У микрофона был Константин Мацан. До свидания.

Дмитрий Мариничев

— До свидания.

---

Все выпуски программы Светлый вечер

• «Женские образы в романе Льва Толстого "Анна Каренина"». Наталья Городилова
• «Благотворительность и театр». Игумения Елисавета (Позднякова), Илья Ильин
• «Тайные монахи в СССР». Священник Анатолий Правдолюбов