«Христианин и искусственный интеллект». Саркис Григорян

У нас в студии был предприниматель, консультант, автор образовательных программ, руководитель центра компетенций по искусственному интеллекту Фонда Развития Цифровой Экономики Саркис Григорян.

Мы говорили с нашим гостем о его приходе к вере и о том, как по-христиански осмыслять те вызовы и вопросы, которые встают перед обществом сегодня в связи с активным развитием цифровых технологий и искусственного интеллекта.

Ведущая программы: кандидат экономических наук Мария Сушенцова

---

М. Сушенцова

— Это «Светлый вечер» на Радио ВЕРА, сегодня мы продолжаем цикл программ «Вера и Дело», в рамках которого мы разговариваем с экономистами, предпринимателями, бизнесменами о христианских смыслах экономики. И сегодня у нас в гостях Саркис Григорян — предприниматель, консультант, автор образовательных программ, руководитель Центра компетенций по искусственному интеллекту в Фонде развития цифровой экономики, основатель и руководитель клуба Искусственного интеллекта бизнес-школы «Сколково», а также часовой мастер. Добрый вечер.

С. Григорян

— Здравствуйте. С недавних пор часовщик еще, да.

М. Сушенцова

— Саркис, очевидно из вашего представления, что ваша деятельность, по крайней мере, в ретроспективе, то, чем вы в последние годы очень настойчиво занимались, касается искусственного интеллекта. Скажите, пожалуйста, как вы пришли к этой теме, почему она на многие годы стала центром вашего интереса, вашей деятельности?

С. Григорян

— Я думаю, что если в общем сказать, то это, наверное, продолжение моей натуры, моего склада ума: я очень увлекающийся человек и очень интересующийся человек. Плюс, мне очень нравятся те науки, которые как бы приоткрывают завесу мироздания, то есть мне очень нравится все, что связано с астрономией, с космосом, с детства я обожал всякие науки, касаемые генетики, биотехнологии, всех вот этих вещей. Я такой, как бы исследователь, искатель, не знаю, может, это даром, может, это обременение, но я прямо вот падкий на знания, мне все время надо. Я никогда не думал, вот эту траекторию не выстраивал, но вот сейчас, на мой взгляд, это просто какое-то логичное продолжение моего желания исследовать мир, потому что это те методы математические, которые позволяют обрабатывать какие-то, скажем так, неструктурированные данные, сложные данные, которые не всегда даются обработке человеку, и вот это был интерес, то есть интерес какого-то познания, интерес информации, интерес открытия чего-то нового, я так бы это сформулировал.

М. Сушенцова

— Дух первооткрывателя.

С. Григорян

— Да, да, да! Вот как в детстве: интересно разобрать, посмотреть, что внутри.

М. Сушенцова

— Замечательно. Скажите, пожалуйста, раз уж мы заговорили об искусственном интеллекте, как области знания, то как вам кажется, в каких сферах эти разработки оказались действительно полезными и востребованными, то есть где роль искусственного интеллекта несомненна, а где, может быть, наоборот, пока очень сомнительна и малопродуктивна?

С. Григорян

— Ну, давайте «огородим полянку» для слушателей: никакого там искусственного интеллекта, в том смысле, какой, наверное, большинство вкладывает, как мы смотрели фильм «Терминатор» или еще какие-то, там такого нет. Мы говорим о неких методах, которые позволяют имитировать интеллектуальную деятельность, иногда они похожи на человека, иногда не похожи, вот это первое. Во-вторых, эта технология, она такая же, как, мне кажется, любая технология, которая сильно поменяла в свое время мир: электричество, начало ковки железа, железный век, то есть, когда что-то можно использовать как орудие труда, и также, как оружие, и это вот абсолютно такая же история. Мы видим сейчас очень хорошие результаты в предсказании материалов, предсказании белков, кристаллических структур, то есть это то, что помогает нам создавать новые материалы, то, что помогает нам создавать новые различные соединения, которые используются в различных сферах, в авиации, везде. Создавать новые лекарства, бороться с болезнями, вот такие вещи, это уже сейчас видно. И более того, недавно вручали Нобелевские премии, там было целых две премии по искусственному интеллекту. Хинтон получил, как отец искусственного интеллекта, он придумал способ обучения многоуровневых нейронных сетей. А вторую премию получили Демис Хассабис и команда, это лаборатория DeepMaind, сейчас компания принадлежит Google, наверное, одна из крутейших лабораторий в мире, за разработку AlphaFold — это как раз-таки система, которая позволяет спрогнозировать структуру белка, потому что, грубо говоря, там формула нам ни о чём не говорит, просто набор каких-то атомов, а очень важно, как они располагаются структурно, и там одни и те же вещества, может быть, кто-то слышал про изомеры: вот формула одна и та же, но вот они, как зеркально отражённые вещества, просто вот выглядят так структурой, там одно может быть лекарством, другое может быть ядом. И вот эта вот система AlphaFold, она позволила прогнозировать, как может выглядеть молекула белка, и тем самым это большое подспорье для создания новых молекул. Раньше как это было: вот мы увидели что-то похожее в эту сторону, и мы пошли копать, и мы вслепую это смотрим, то есть вот мы ходим в тумане: «а давайте туда пойдём, ой, здесь что-то хрустнуло, вот вроде там, наверное, какие-то веточки есть — пойдёмте туда», и это всё было вслепую во все стороны, а поскольку веществ классов, веществ подклассов, всего этого столько, ну невозможно объять необъятное, а подобные системы помогают сфокусироваться и сказать: «смотри, вот здесь с большой вероятностью что-то есть, в этом классе, а вот это вот отбрось». И вот это очень много экономит времени, помогает создавать новые вещества и так далее, это несомненные плюсы, и вообще много где используется. Я честно скажу так, что всё, что касается маркетинга, я не считаю вообще никаким плюсом. Система, как побыстрее из людей вытащить деньги, как побыстрее им что-то продать — я не буду сейчас морализаторством заниматься, но это не моя история просто, мне это неинтересно. Я объективно понимаю, и это как раз негативная сторона, что вопрос дезинформации, введения в заблуждение, все вот эти фейки-не фейки, всё, что касается такого лютого маркетинга, до уже чего-то, что граничит или преступает уголовный закон, вот это пожалуйста, это уже есть и только развивается всё больше и больше. Сейчас становится много открытых моделей, это несомненный плюс, конечно, и для разработчиков, для всех, кто делает что-то хорошее, но это и минус того, что такие модели используются для того, чтобы делать что-то плохое, вот эта имитация голоса, эти видео в кружочках имитируют, это всё легко сейчас делается, там мощный компьютер, десять минут, и ваше лицо будет в кружочке у вашей мамы: «перекинь 10 тысяч, у меня что-то случилось», то есть это уже всё происходит. Я сейчас даже не лезу в военку, то есть дроны, системы наведения этих дронов, рои дронов, когда они друг с другом общаются и так далее, мы немножко в своё время этим занимались, но я не хотел быть невыездным, ни секретности, ничего вот этого, партнеры сейчас этим занимаются, это всё военная история, это вопросы государственной безопасности, особенно, если у кого-то были розовые очки, которые разбились сейчас, и совершенно становится понятно, что должны быть свои технологии. В общем, есть несомненные плюсы, есть несомненные минусы, и вот это самый главный вызов. С плюсами всё понятно, а вот что делать с минусами, не совсем понятно, потому что тут самое слабое звено — человек, и он уже слабеет. Там могут быть задействованы самые сильные стороны человека, как гения научных открытий, но такого пока ещё нет, хотя, опять же, я вот сказал про открытие целых классов соединений, что помогает, но вот человеческие слабости это уже давно всё превзошло, поэтому мы и дальше будем видеть обманные эти все истории. Добро пожаловать в новую реальность.

М. Сушенцова

— Саркис Григорян — предприниматель, консультант, специалист по искусственному интеллекту, у микрофона Мария Сушенцова, продолжаем наш разговор. Саркис, а вот если действительно мы учтём те плюсы, которые даёт искусственный интеллект, очевидно, что это некая такая экономия тысяч, миллионов человеко-часов, это помощь нам в средствах к нашей жизни, к нашей деятельности, но ведь, помимо средств, есть ещё и цели. Мне понравилось выражение, замечательная такая формулировка одного нашего академика в сфере этики, моральной философии, он писал в своих работах, что у человеческого разума есть две функции. Одна функция такая вот, как интеллект, технический расчёт, когда есть цель — не вижу препятствий, то есть достигаем оптимальным путём, наикратчайшим и самым эффективным. Но кроме этого, у человеческого именно разума есть функция осмысления, то есть попытка понять — а к чему стремиться-то, чего я должен желать, в чём смысл моей жизни, если обобщать это максимально. И вот в такой плоскости, в чём нам точно не поможет искусственный интеллект, в таких терминах если попытаться сформулировать?

С. Григорян

— Я думаю, что самая основная человеческая проблема, если брать глобально — это столкновение с реальностью, в прямом смысле. И реальность, она очень сложная. С течением времени, я имею в виду глобальное развитие общества, мы создавали институты, строили города, стены для того, чтобы как-то вот эту поляну понимания расчистить, чтобы мы были спокойны, безопасны в материальном плане, там горячая вода, волк уже не ест тебя, вот мы развиваемся. А при этом всё, что у нас внутри, все ментальные вопросы, все вопросы душевных страданий, справедливости, боли, на эти вопросы никогда никак технически нельзя ответить, нельзя никак этому помочь и понять. В смысле, можно накормить таблетками, можно какие-то, наверное, спроектировать новые лекарства, пусть они будут безопасны и так далее, чтобы ты был всегда счастлив и классный, но я не думаю, что тогда мы можем уже это называть человеком, такой радостный дурачок-зомби, который вот — улыбайся, потребляй и живи. Не знаю, наверное, не такая задача человека. Не думаю, потому что глобальные внутренние вопросы, это не материальные...

М. Сушенцова

— Экзистенциальные хочется их назвать, жизненные, связанные с проблемой бытия.

С. Григорян

— Да, экзистенциальные вопросы, это нематериальная история, поэтому — ну, никак. Опять же, вот создадим матрицу, всех куда-нибудь положим — да, наверное, это решение, а подходит такое решение? Мне — нет, но кому как. То есть вопрос боли душевной, те люди особенно, которые там суперматериалисты, которые вообще отметают всё нематериальное, и говорят: «Ну что за бред, какая там духовность?» — окей, а как вы решаете вопрос боли внутри, она нереальна для вас? Мне кажется, всё приходит с опытом. Вот у нас сейчас мир такой, мы так расчистили поляну от всевозможных каких-то негативных вещей, что у нас уже поколение людей вырастает просто уже не то, что в двойных, а в тройных розовых очках, которые совершенно оторваны от реальности, для которых реальность — это их представление о том, как им кажется, какая она должна быть, и это другой ещё вопрос, откуда они взяли эти представления, эти люди даже об этом не задумываются. Ну я вот так бы ответил: нет, не помогут, потому что ты сам сталкиваешься с этой реальностью, и каждый раз тебя бьёт не так, как друга, даже если вы с другом идёте и попадаете в одну беду, вы по-разному это чувствуете. Хотя, знаете, сейчас вот подумал, вполне возможно, что, как иногда разговор с близким человеком может немножко потушить душевные раны, наверное, разговор с подобными языковыми моделями тоже может, потому что они действительно умны. Я вот, когда сюда до этого приходил, то рассказывал пример, что языковая модель, например, может объяснить то, чего не могут объяснить очень многие даже верующие люди: что значит, когда Иисус на Кресте висел и говорил: «Господь, почему Ты покинул Меня?»

М. Сушенцова

— Да, вы рассказывали, потрясающая история.

С. Григорян

— Да, то есть абсолютно немногие люди могут объяснить, что это такое, даже если подумают. А ещё с учётом того, что сейчас в цифровом обществе сформировалось огромное количество людей вообще замкнутых, которые не умеют общаться, не любят, вот телефон поднять: «ой, как страшно», там две минуты разговора и всё решено — нет, мы будем полдня письма друг другу писать. И исходя из того, что таких людей стало много, мы можем видеть такие странные перекосы в Японии, много общественных проблем, они везде, и у нас, и не только, вот в таком случае, наверное, могут, как такой электронный умный психолог, как человек поддержки и так далее. Ну, мы если говорим о хорошем, вот да, я нашёл хорошее применение.

М. Сушенцова

— Кстати, я вот как раз, готовясь к эфиру, просматривала вашу презентацию, очень насыщенную информацией, и там была такая табличка, где были расписаны, какие профессии лучше поддаются замене, переходу на рельсы искусственного интеллекта, какие в меньшей степени, и если я правильно поняла цветовой градиент таблички, то вот психологи — как раз одни из тех профессий, которые будут заменены достаточно легко, как я поняла.

С. Григорян

— У меня было много презентаций, не знаю, о какой вы именно, но, в общем, да.

М. Сушенцова

— Как виртуальное собеседование, да?

С. Григорян

— По-разному бывает. Вот для меня — нет, мне и живой психолог не помогает, я ходил к разным. Если я вижу, что человек как бы не умнее меня, может, по-снобистски звучит, но когда ты приходишь к врачу, и ты понимаешь, что он менее компетентен, чем ты, а если мы ещё говорим это про тонкий план психологии, а не про мясо, прошу прощения, то здесь — ну, окей, классно поговорили, а что вы мне можете рассказать? То есть всё, что касается материального, как к этому подойти, я, условно, уже лучше вас знаю, а вот что дальше? А дальше ни вы, ни я не знаем. Поэтому для того поколения, которое сейчас подрастает, которое становится абсолютно цифровым, для которых живое общение, наверное, уже, как говорят, оффлайн — это новый лакшери, для них несомненно, они уже такие, они имплементированы уже в эту историю, для них это в порядке вещей уже. И они ещё как-то об этом думают, знаете, как в мультике есть какой-то новый мир, вот какой-то там классный добрый робот придёт, то есть в каких-то таких вот мыслях у них, потому что мало кто понимает, что там вообще внутри творится, поэтому — да, заменит. Много чего заменит, на самом деле. Наверное, что-то новое появится. Все помнят, какое-то время Нью-Йорк был весь завален навозом от того, что там лошади с колясками возили всех, и горы навоза были по улицам, ну и что: потом раз — и машины, и куда делись все эти лошади, или трубочисты, ещё кто-то, куча всего, что было, а потом меняется. Я не верю в этот, простите, идиотизм, что все начнут заниматься творчеством, получать безусловный доход — это просто бред. Более того, в скандинавских странах уже видно это, потому что там с этим безусловным доходом уже много времени эта история, что «у нас не разграничено по гендеру, вот для всех всё одинаковое», но сразу же видно, что даже когда у тебя всё одинаковое, мальчики всё равно идут к мальчикам, девочки к девочкам, то есть здесь все эти повестки, всё вот это натягивание, всё разваливается. Мы сделаны из мяса. А внутри у нас, в голове ещё есть что-то, которое куда-то там прорастает, вообще непонятно куда, в какую-то нематериальную историю. Это сложный вопрос, конечно, но это очень интересное время, что сейчас происходит, и через десять лет мы вообще не узнаем мир, это точно.

М. Сушенцова

— Я напомню, дорогие слушатели, что это программа «Вера и дело», в рамках этого цикла мы разговариваем с предпринимателями, экономистами, бизнесменами о христианских смыслах экономики. У микрофона Мария Сушенцова, и сегодня у нас в гостях Саркис Григорян — предприниматель, консультант, автор образовательных программ, руководитель Центра компетенций по искусственному интеллекту в Фонде развития цифровой экономики, основатель и руководитель клуба Искусственного интеллекта бизнес-школы «Сколково», а также часовой мастер, и об этом мы поговорим после перерыва, не переключайтесь.

М. Сушенцова

— Это «Светлый вечер» на Радио ВЕРА, дорогие слушатели, и мы продолжаем цикл передач «Вера и Дело», в рамках которого мы встречаемся с предпринимателями, бизнесменами, чиновниками и разговариваем с ними о христианских смыслах экономики. Сегодня наш гость Саркис Григорян — предприниматель, консультант, автор образовательных программ, руководитель Центра компетенций по искусственному интеллекту в Фонде развития цифровой экономики, основатель и руководитель клуба Искусственного интеллекта Бизнес-школы «Сколково» и часовой мастер. А у микрофона Мария Сушенцова. Саркис, вы как-то говорили в одном из интервью о том, что великие ученые, причем неважно в какой области, это могут быть и физики, и лирики, и философы, то есть и в гуманитарных, и в точных науках, в какой-то момент в своих исследованиях упираются в предел, в тайну мироздания, и дальше зайти не позволяют средства познания. Дальше начинается такая сложность или такая неделимость, если мы говорим о мельчайших частицах, или такая дальность, если мы говорим, наоборот, о бесконечно далёких расстояниях, что полагается какой-то естественный предел их исследованию, и это само по себе ставит перед учеными вопрос о существовании Творца вообще всего сущего, и этот вопрос невозможно игнорировать, просто обойти, потому что непознаваемость мира и его сложность главная, как на микро- так и на макро-уровне, как будто бы навеивает мысль о том, что кто-то всё это придумал, кто-то бесконечно умный и недоступный нашему уровню понимания. А вот не могли бы вы с нами поделиться: ваш путь к вере тоже лежал через научный поиск, или он из других источников проистекал?

С. Григорян

— Нет, он как раз таки вообще не через научный поиск. Я крещён с детства, но меня, скажем так, кидало долгое время, и в какой-то момент, это было уже во взрослом возрасте, мне уже было достаточно лет, я столкнулся с моральными, душевного рода проблемами, с терзаниями, и я не понимал, что с этим делать. Какая-то такая была история, когда я потерял какие-то смыслы, я просто был как бы растерян и разобран. Я пытался понять, зачем это всё, ради чего, для чего, и в какой-то момент, я помню это чётко очень, у меня появилась мысль такая: а вообще, зачем я живу, может быть, всё это закончить? И поймав себя на этой мысли, я такой думаю: о, Саркис, ты так договоришься, давай, голову включай. И я, помню, тогда думаю: так, ну все проверенные методы не сработали, у меня тут рядом церковь есть, в которой я крестился, пойду схожу туда, прогуляюсь. Раннее утро было, я прямо встал и пошёл. Пришел, посидел там, постоял, начал молиться, ну вообще по-своему там как-то, и я помню, у меня слёзы потекли и прямо полегче стало в какой-то момент, думаю: ничего себе. И у меня друг ещё есть, Александр, мы всегда близко общались, и я с ним поделился этим, а он очень религиозный человек, он говорит: «Слушай, Саркис, съезди в Оптину, потусуйся пару дней там просто, тебе поможет». А я понятия вообще тогда никакого не имел, туда приехал даже без крестика, думал, там день-два поживу. Пришёл, и притом пришёл сразу в дом, где трудники, то есть не в гостиницу, говорю, что хочу пожить там, потрудиться. Спрашивают: «Сколько?» Я говорю: «Ну, дня два-три». Они говорят: «Нет, так не работает, хотя бы на неделю». И остался я там на неделю, и я совершенно после этого переосмыслил вообще многие вещи, на которые я смотрел, я понял, что во мне было столько какой-то злобы, мне было нужно то, до чего мне вообще не должно было быть дела, ещё какие-то вещи. Самое было для меня яркое: после этой первой недели я перестал просто вообще ругаться матом, это было. А потом я побыл в Москве неделю-две, потом ещё раз туда поехал, там какие-то вещи происходили, которые я вообще никак не могу объяснить с точки зрения материальных вещей, ну просто какие-то странные. Да, каждая из этих вещей с какой-то микроскопической вероятностью могла случиться, но когда они вот так вот выстраиваются в ряд, и ты просто чисто математически перемножаешь вот эти вероятности и понимаешь: ну, такое невозможно, чтобы было, и именно сейчас, именно вот так, чтобы именно вот тебе. И я начал об этом больше задумываться, и вот таким образом я пришёл, и потом я начал читать святых отцов, начал смотреть каких-то людей, которые учёные, но тоже близко к этому, и я понял, что это то, что нужно! Ну, потому что очень глупо думать, что вот мир только такой, каким мы его видим, есть огромная часть того, чего мы не видим, и если сегодня ты слеп, и ты этого не видишь, это только говорит о том, что завтра, когда ты увидишь, будет больно. Будет больно, и в материальном мире ты не найдёшь решения этой болевой проблемы. И это не то, что какая-то такая секта, лекарство от жизни и так далее, нет, а это просто принятие ответственности, такие вещи, как стоицизм и так далее, мне это очень помогло, я стал сильнее, я стал спокойнее, я стал, может быть, приятнее в общении с кем-то, менее раздражительным, стал больше снисходительным к кому-то, понимая какие-то вещи. Вот у меня было именно через то, что я не смог найти в материальном мире решения тех проблем, которые у меня, за тридцать с лишним лет на тот момент, накопились. Я считал, что я умный парень, но я не нашёл ответа, а тут нашёл, и очень рад.

М. Сушенцова

— Замечательно. Интересно, что мы снова приходим к той же мысли, что кризис смысла не связан с интеллектом, не связан с уровнем его развития, то есть в нас есть вопрошание, которое не может быть утолено ничем в этом видимом мире, и, как говорит апостол, «уверенность в вещах невидимых» вдруг, внезапно даёт отмычки к тем самым главным проблемам, на самом деле, которые сердце человека переживает, от которых никакого противоядия нет, и, слава богу, может быть, что они возникают, потому что, видимо, мы так устроены, что кроме как через болевые какие-то синдромы нас не вывести из вот этого успокоенного состояния в розовых очках.

С. Григорян

— Абсолютно. Интеллект здесь даже мешает, он начинает всё рационализировать, пытаться объяснить, разложить, а не всё поддаётся рациональности. Я сейчас даже не про магическое мышление, про вот эту чушь, а просто не всё поддаётся рациональности, то есть мир, он непознаваем в принципе. Вот мы говорили, есть границы как вниз, так и вверх, и ты с этим сталкиваешься, у тебя нет инструмента для этого, нет инструмента, как с этим работать, а это огромная история и просто как будто в хаос какой-то тебя ввергает, и всё, ну что ты сделаешь? А это тебе позволяет в этом хаосе сначала как бы встать на ножки, потом начать спокойно оглядываться, потом какие-то шаги делать, потом какая-то граница вокруг себя, какой-то вот этот круг, потом этот круг растёт, а потом ты понимаешь: ну, окей, хаос — это классно, так и должно быть, это порядок, и никто не обещал, что будет по-другому, никто ничем тебе не обязан, никто у тебя ничего там заранее не спрашивал и не должен, это жизнь, всё. Там мама молоком покормила — спасибо, дальше заботишься сам, иди вперёд, воюй, это твоя жизнь, это твой мир, по-другому не бывает. И обратно этому вот как раз таки, что мне не нравится — то, что многие считают, что технологиями все вот эти истории можно убрать — нет. Их можно забить, можно симулировать, можно заменить, но в долгосрочной перспективе это нам только новые и новые проблемы принесёт, которые, опять же, выльются на нематериальный план.

М. Сушенцова

— Саркис Григорян — предприниматель, консультант, специалист по искусственному интеллекту, у микрофона Мария Сушенцова, продолжаем наш разговор. Саркис, а вы ещё интересную такую мысль высказали в одном из своих выступлений, что алгоритм, скажем, в соцсетях, в интернете, он работает таким образом, что приводит в итоге к поляризации людей, к тому, что они, каждый замыкается в своём мирке, то есть он нагнетает антагонизм между людьми, который, может быть, без него не был бы так велик, он его как бы заостряет, и у людей формируется ощущение — может быть, ложное, и, скорее всего, ложное, — о том, что «ну вот они там, другие, плохие, я-то хороший», и так работает во все стороны. Вот меня очень заинтересовала эта мысль, потому что мне тоже кажется, и это подтверждают, кстати, современные исследования, в частности, из палеоантропологии, что наша ключевая человеческая черта — это социальность, то есть чувство принадлежности к какому-то социуму, с кем ты себя идентифицируешь. Это, собственно, ядро человеческого в нас, если мы сейчас не берем тонкий трансцендентный план, вот берем то, что даже доступно наблюдению...

С. Григорян

— Ну, стадо, стадная история, да?

М. Сушенцова

— Да. Но стадная история, она же может быть тоже на уровне гормонов, инстинктов физических, а может быть на уровне каких-то ассоциативных идей, то есть одна и та же даже вера — это может быть то, что скрепляет двух людей, которые могут быть совершенно разной расы, национальности, культурного воспитания, бэкграунда и так далее, и так далее. Человек, у него вот эта социальность, она заложена, потребность быть с кем-то в каком-то единстве, в разных кругах этого единства, но так или иначе быть с кем-то, а не одному в поле воином. Вот я бы хотела, чтобы вы подробнее об этом рассказали, почему так получается, что алгоритм нас разъединяет, и что мы можем этому противопоставить, как нам не развалиться на атомы, потому что общество атомизируется, это очевидно, и такая тенденция уже не первую сотню лет происходит на всех уровнях, а тут этому процессу придается невероятное ускорение. В общем, что мы можем этому противопоставить?

С. Григорян

— Ну, этому немножко уже противопоставляется на уровне регуляций, но, опять же, это такое всё, никогда мы не сможем залезть внутрь компаний. А если в общем, то давайте сначала расскажу. Эти алгоритмы усиливают лишь то, что у нас есть, мы стадные животные и так далее, это всё понятно, всегда хочется быть со своими, если мы свои, и они — не те, ну понятно, что мы-то лучше, чем они, это вот прямо понятная уставная история. А с алгоритмами почему так происходит? Не секрет, наверное, что все эти сети и так далее, они зарабатывают на рекламе, и они продают внимание ваше рекламодателю, то есть мы этим бесплатно пользуемся, а по факту мы — товар как бы, нас продают рекламодателю, и для того, чтобы нас грамотнее продавать рекламодателю, нас нужно делить по разным категориям и так далее. Даже не то, что вот в натуральном виде по группам, а имеется в виду внутри, чтобы система понимала, что этот пользователь, не знаю, там любит или ненавидит Трампа, он любит ромашки или васильки, он любит вышивать или за грибами ходить, и мы же ещё много о себе рассказываем, выкладываем фотографии, описания, тексты, геотеги, какие наши друзья, с какими нашими друзьями, по какому поводу мы общались, что мы комментировали, под какими их постами и фотографиями, и всё вот это выстраивается, и у системы есть очень классная модель примерно, того, кто ты есть такой. Мы-то думаем, что мы такие все вау-уникальные — да ничего подобного. И вот это: «Я вот сейчас проходил, и мне показали прямо то, что я сейчас видел — это искусственный интеллект за мной следит!» — да не следит он за тобой, ты просто такой же, как ещё миллионы таких, и это на всех работает вот так. И когда у тебя стоит задача лучше что-то продавать кому-то, то вот эти алгоритмы, они просто очень хорошо работают, и ты понимаешь, что вот это вот — туда, а это — туда, то есть этим показывается одно, они как бы кучкуются вокруг этого, этим показывается другое, то есть грибнику про грибы, рыбаку про рыбалку, каждому своё, и они вот кучкуются, это происходит благодаря тому, что у нас это внутри есть. А алгоритмы, они способствуют тому, что это поляризуется, и это всё быстрее происходит, и это не они виноваты, они в данном случае используют то, что в нас заложено, поэтому это большая проблема, что с этим делать глобально — непонятно, потому что никакие регуляции не могут залезть внутрь, в код того, что происходит в больших вот этих компаниях, но да, это происходит, и прямо сейчас происходит, и мы видим по всем исследованиям, что сейчас общество самое разобщенное вообще среди всех. Мы можем посмотреть на исследования американские, например, политические, потому что они давно это хорошо всё делают, и мы видим, что, например, сейчас никогда демократы и республиканцы не были так разобщены, как сейчас. Если раньше у них были зоны пересечения, то есть эти чуть, условно, левее, эти чуть правее, но в центре они где-то пересекались, потому что общие интересы, то сейчас это вообще как бы разошлось по краям, и этому всему способствует. Ну и плюс, этот весь цифровой мир, цифровая витрина, когда тебе кажется, что там вот так, а здесь вот так, и тебе все рассказывают, показывают, все эти вопросы дезинформации и так далее, это вообще будет сейчас один из самых основных навыков — вот этот весь информационный шум, всю чушь, как бы, просеивать и понимать, что есть. Но, опять же, сложно, то есть ты должен обладать компетенцией, чтобы понимать, тебе чушь втирают или нет, просто вот это вот настоящее или нет. Вот эту историю видели, там железная дорога, круп лошади, ходит по интернету — ну бред же, а сколько людей верят и рассказывают.

М. Сушенцова

— Саркис, а в связи с этим вот такой вопрос меня интересует: если искусственный интеллект, мы загружаем в него какие-то данные, он формирует свою какую-то модель, наиболее подходящую под эти данные (как я себе представляю, могу ошибаться), то есть формирует какую-то свою картину мира, как это все интерпретировать, и в этом, собственно, его вот эта интеллектуальная черта. А может ли вот такая система продуцировать какую-то новизну, вот что-то новое? Когда мы исследуем, как ученые достигают новизны, то можно заметить, что часто это происходит, в общем-то, нерациональным путем, и многие ученые об этом писали, что это был какой-то инсайт, некое интуитивное видение, предчувствие, таких историй очень много, то есть не вполне объяснимо, не вполне рационально к ним приходит вот это озарение, какая-то новая картинка. А вот может ли искусственный интеллект, который тоже на основе, хоть уже имеющихся данных, но формирует что-то свое, и мы не знаем, как это там внутри работает, свое видение — как вы считаете, может ли искусственный интеллект дать нам эту новизну, дать нам какое-то реально новое знание, компилируя то, что уже имеется, что мы в него загрузили?

С. Григорян

— Давайте я это поправлю: весь искусственный интеллект, большие языковые модели, там LLM — Large Language Models, и мы берём огромное количество текстов, мы сейчас про тексты и говорим, которые дали развитие, сейчас видео уже пошло, но поехало всё изначально от текста. У нас есть огромное количество текстов, которые как бы описывают мир совершенно по-разному, и с научной точки зрения, и с другой. Вот мы скармливаем вот это все в алгоритм, он сам у себя внутри находит некие взаимосвязи между теми сущностями, которые описаны, то есть строит некую модель мира внутреннюю, причём она может отличаться от нашей, там могут быть какие-то странные истории, и как это внутри работает, не понимают даже те люди, которые в авангарде стоят, и почему вообще это работает, то есть мы даже до сих пор не понимаем, почему вообще они работают, ответа на это нет, просто работают. И я уже рассказывал про то, что новые материалы и так далее, но это, опять же, вытекает из неких правил, которые мы туда вложили, и из некоего относительно понятного положения мира, который мы туда внесли, и он как бы в рамках вот этой вот относительно понятной для себя поляны химических соединений, связей и так далее, она относительно понятна и детерминирована, в смысле того, что у нас не могут быть химические связи просто непонятно какие, это работает по законам в этом плане. И чего-то такого кардинального нового на данном этапе нет, потому что это вообще никакой не искусственный интеллект, это какой-то, может быть, интеллект другого рода, мы же всё еще через человека пропускаем, то есть смотрим на собачку, она у нас там какие-то человеческие чувства вызывает, мы не можем без этого. И вот на данный момент — нет, но я думаю, что в ближайший момент — да. Потому что тот момент, когда подобные системы превзойдут человека по интеллектуальным способностям, и в том числе, по возможностям учиться, и вот эта вот система, которая будет сама себя обучать, и это каждый раз будет всё быстрее — это вот то, о чём говорят: сингулярность, то есть сингулярность — это как в чёрной дыре, мы не знаем, что за ней.

М. Сушенцова

— То есть полная неопределённость?

С. Григорян

— Полная неопределённость, мы даже представить не можем, какие там законы. Мы знаем, что там ничего не работает из того, что сейчас. Всё. Вот сингулярность — это незнание, это как бы такая зона неопределённости. И будет тот момент, когда он превысит человеческие интеллектуальные способности, и он превысит, дойдёт... богохульствовать не буду, но, условно, до божественного, он превзойдёт человека. Что будет тогда — не знаю, наверное, ничего хорошего.

М. Сушенцова

— Саркис, давайте в этой точке предельной сингулярности внезапно спустимся с небес на землю к нашему такому вот более осязаемому. Перед записью этого эфира мы узнали, что вы сейчас очень увлечены часовым делом, не могли бы вы в оставшиеся минуты нам немножко приоткрыть занавеску вот к этому вашему новому увлечению? Что вас так занимает в этом процессе, что вам это даёт, что вдохновляет в этом деле?

С. Григорян

— Это как-то так случайно сложилось. Сейчас, постфактум уже я понимаю, что это какое-то такое естественное развитие, потому что мне всегда нравилось копаться именно, исследовать, и сложилось так, что последние несколько лет всё развилось до такого уровня, что... Ну, я трезво оцениваю себя, я не гениальный учёный и не придумываю в этой области чего-то такого прямо сильного. И если раньше мы там что-то занимались, делали, это была часть науки, какие-то прикладные сложные истории, и мне это нравилось, то сейчас развитие такое, что ты просто что-то берёшь и за полчаса делаешь то, что пять лет назад ты год, если не больше, большой командой работал и копал. Мне здесь перестало быть интересно, стратегия осталась, понимание всё осталось, я за этим слежу кучу лет, когда все это еще не называлось искусственным интеллектом. Вот сейчас люди приходят, им что-то неочевидно, а мне уже настолько всё очевидно, ты просто смотришь, что новое выходит, и уже понимаешь. А это была тоже такая странная история, мне друг-ювелир задал задачку, говорит: «А ты видел когда-нибудь шахматные часы?» Я говорю: «В смысле, в шахматы играть?» Он говорит: «Нет, просто часы в виде шахмат». И я подумал, что, наверное, есть что-то такое: часы, шахматы какие-то такие интеллектуальные вроде истории, сквозь века, где-то они должны вместе ходить там. А когда я шёл домой, полез в интернет, и оказалось, что ничего нет, кроме клеток на циферблате. И я тогда, как человек увлекающийся, думаю: интересно, а как бы я сделал механические шахматы? А я вообще никогда этим не занимался в жизни. И я начал думать, взял себе за идею, что вот конь за двенадцать букв Г возвращается в то же место, такая классная часовая стрелка-конь. И я начал думать, как бы я сделал механизм, который делает эти 12 ходов Г. И несколько месяцев просто гонял это в голове в качестве интеллектуальной разминки, периодически что-то почитывая, посматривая, но при этом никогда в руках вообще ничего не держав. А потом я сломал ногу сильно, и два месяца практически не отходил от кровати, мне кто-то какие-то книжки часовые подарил, видя, что я периодически увлекаюсь. И я уже так серьёзно сидел, увлекался, читал-читал, и мне это очень понравилось. Я подумал, что точная механика, всё такое маленькое — это круто, интересно, еще и руками делаешь, это то, что надо! И потом, как сейчас помню, 10 октября прошлого года я попал к Константину Чайкину на лекцию «Как делать часы», и там было две вещи. Первая — это я, когда узнал, что мастер Бреге сделал турбийон в 1801 году, и такой думаю: ну, ладно, я-то уж повторю, хотя бы повторю. А второе, там Константин рассказывал о том, как от него главный конструктор ушёл, чтобы делать свои часы, и он говорит: «Если ты не сделаешь это, то можешь потом жалеть всю жизнь». И это было 10 октября, 9 октября мне исполнилось 40 лет тогда, и для меня это был прямо как холодной душ, я подумал: а если правда это моё? И я тут же позвонил другу своему Рустаму, я знал, что у него есть друг Константин Горбачёв, который в Гохране часовщик-реставратор, он также и у Чайкина работал, попросил познакомить. 13 октября я пришёл к Косте, говорю: «научи». Ну, и у меня там, слава богу, с Божьей помощью стало всё получаться, в январе мы открыли ателье, сейчас у нас уже огромное количество клиентов, коллекционеров, там и реставрации, и исторические истории, какие-то там послы вражеских, как выяснилось, уже государств чинят у нас свои часы. Ну, то есть вот пошла история, и я близок к тому, чтобы уже в феврале-марте сделать свои первые часы, сейчас пока просто не могу ничего показать, потому что там процесс патентования каких-то вещей. И я просто счастлив, и это тоже вот только с Божьей помощью, ничто не могло к этому привести иначе, это просто случайный какой-то момент, но зато сейчас шесть дней в неделю я в мастерской, занимаюсь механизмами, и я очень счастлив. При этом я абсолютно так же интересуюсь тем, что происходит в искусственном интеллекте, смотрю, читаю, но просто на моём текущем уровне мне уже достаточно просто изредка что-то посматривать, чтобы понимать, потому что глобально мне и так всё понятно с этим. Вот так.

М. Сушенцова

— Вот так, дорогие слушатели, интерес к искусственному интеллекту приводит к часовому делу и к мелкой механике. Неисповедимы пути Господни, как говорится. Я напомню, что у нас в гостях был Саркис Григорян — предприниматель, консультант, автор образовательных программ, руководитель Центра компетенций по искусственному интеллекту в Фонде развития цифровой экономики, основатель и руководитель клуба Искусственного интеллекта Бизнес-школы «Сколково», а также на настоящий момент — часовой мастер. У микрофона была Мария Сушенцова, и в рамках сегодняшнего вечера мы продолжали цикл передач «Вера и дело», когда мы встречаемся с экономистами, бизнесменами и разговариваем с ними о христианских смыслах экономики. Саркис, большое спасибо за эту искромётную беседу. Мне, и, я надеюсь, слушателям было очень интересно, и до новых встреч.

С. Григорян

— Большое спасибо, до новых встреч.

---

Все выпуски программы Светлый вечер

• «Сохранение исторических храмовых росписей». Варвара Сергиеня, Полина Тычинская, Александра Гребенщикова
• «Опасность сквернословия». Священник Андрей Наговицин
• «Люди, спасающие храмы». Евгений Соседов

---

Проект реализуется при поддержке Фонда президентских грантов