"Роботы в жизни человека". Светлый вечер с Ильей Самоненко (30.01.2017)

У нас в гостях был учитель информатики в ГБОУ Школа №171, начальник отела научно-методической поддержки сферы общего образования МГУ имени М.В. Ломоносова, Илья Самоненко.

Разговор шел о том, какое место в жизни человека сейчас начинают занимать роботы и искусственный интеллект, и как способность человека делать ошибки ставит его выше машины.

 

 

---

В. Емельянов

- Здравствуйте, вы слушаете программу «Светлый вечер» а радио «Вера», в студии Владимир Емельянов, Алла Митрофанова.

А. Митрофанова

- Добрый «Светлый вечер».

В. Емельянов

- Мы сегодня с Аллой решили поговорить о роботах в жизни общества, то есть в нашей с вами жизни, о проблемах искусственного интеллекта. Вот начиная с 20 века, после того как чешский писатель Карл Чапек придумал слово «робот» наша цивилизация помешалась на этой идее, теперь роботы нас окружают везде, начиная от продуктового магазина и заканчивая…ну…

А. Митрофанова

- Самолётами.

В. Емельянов

- Ну. Пусть будет так, более печальный хотел пример привести, но не буду, «Светлый вечер» все-таки, и люди как-то успокоены. Везде они, собственно говоря, понятно, что цель изначальная – избавить человека от труда непосильного, иногда посильного, чтобы якобы освободилось место для творчества, для каких-то мыслей. Для развития художественных наук и так далее. Таким образом роботы буквально от и до, в принципе, нас захватили уже в свой плен. Так ли это на самом деле, могут ли умные машины действительно разгрузить нас, или хотя бы в отдалённой перс перспективе, вот об этом и не только, мы решили поговорить с учителем информатики в ГБОУ Школе №171, начальником отдела научно-методической поддержки сферы общего образования МГУ Ильей Самоненко. Здравствуйте, Илья, добрый вечер.

И. Самоненко

- Здравствуйте, добрый вечер.

А. Митрофанова

- Мне бы хотелось к этому перечню Володиных вопросов прибавить еще один, когда нас роботы разгружают, то чем мы сами загружаем себя. Мы же ведь тоже, наверное, каким-то сознательным или несознательным образом распределяем собственное время, какое его количество тратится на социальные сети и прочую такую замену живого человеческого общения, я думаю, об этом тоже сегодня попытаемся поговорить. Но сначала мне бы очень хотелось, чтобы вы нам рассказали, поскольку вы в школе работаете и в МГУ, чтобы вы нам рассказали о том, какова, скажем…вот есть практическое измерение у этой темы, связанной с роботами, нас слушает огромное количество родителей, которые думают сейчас: в каком направлении им разворачивать своих детей, на что им обращать внимание своих детей, чтобы они выбрали себе такую профессию, которая лет через 10-20 окажется востребованной в нашем стремительно меняющемся мире.

В. Емельянов

- То есть ты априори считаешь, что будущее за инженерными технологиями?

А. Митрофанова

- Я реалист, я понимаю, что мы никуда не денемся от этого, и можно, кончено, этому сопротивляться, прятаться в пещерах, но факт остается фактом: то, что мы сегодня пользуемся мобильными телефонами, вспомнить, что было 20 лет назад, как говорят в Одессе: «это две большие разницы», это два разных мира, и мир, в котором мы живем сейчас, мы тогда себе даже не представляли. Тоже самое, я думаю, нас ждет и через 20 лет с теми реалиями, которых мы сегодня себе не представляем.

В. Емельянов

- Илья, я тогда дополню Аллин вопрос уже до кучи, и мы на 15 минут будем отдыхать, а вы будете нам рассказывать. Вот в связи с тем, что, понятно, что в сторону инженерии движется творческая мысль в том числе, и помимо того какие специальности будут востребованы, о чем спрашивает Алла, хотел бы уточнить вот какой момент: а как родителям понять, а есть ли у ребёнка склонности к инженерии, это не только, наверное, что он к кубикам тянется охотнее, чем к машинкам и так далее. Вот какие действительно признаки, на которые родители могут обратить внимание. Все, мы пошли, а вы рассказывайте.

И. Самоненко

- Так, спасибо за такое обилие разнообразных вопросах, постараюсь в них не утонуть. То, что касается профессий будущего, конечно, современный мир меняется очень быстро, вообще, говоря, сложно так четко предсказать, какие профессии реально будут востребованы через 10, 20, и тем более 30 лет. Дело в том, что могут появиться просто новые профессии, непохожие по своей сути на те, которые есть сейчас. Даже, я знаю, создан атлас, он называется «Профессии будущего», можно его посмотреть, несложно найти в Интернет. То, что касается выбора, который есть у родителей и детей, вот это направление современной инженерии, конечно, уже резко отличается от того, что мы привыкли ассоциировать со словом «инженер», наоборот, там 20-30 лет назад. Если раньше все, что просто какой-то человек, грубо говоря, с гаечным ключом…

В. Емельянов

- 180 р, живу с мамой.

И. Самоненко

- Ну, вот да.

А. Митрофанова

- Ну, разные были варианты. У меня родители – инженеры, и все прекрасно, замечательно, занимались они тем, что создавали ювелирные чертежи, потрясающе красивые. Я ничего в них не понимала, но оторваться не могла.

И. Самоненко

- Да, но все-таки с инженерией пока у многих некая узость такая, что если ты выбрал инженерию, то ты будешь находиться в довольно узких рамках, у тебя там будут какие-то успехи или успехов не будет, но это нечто узкое. Все-таки сейчас есть переплетение инженерии и большого количества других, на самом деле, направлений. Я думаю, мы с вами сегодня немножко об этом поговорим, например, о переплетении инженерии и биологии, нейробиологии, то есть если вы выбираете в целом это направление, то обязательно надо понимать, что что-то еще будет в вашей деятельности, не только такая чистая математико-программистская история. Сейчас, если говорить про Москву, для этого в Москве складываются все условия, вот второй год в Москве существует такой большой проект, который запустил департамент образования Москвы, он называется: инженерный класс в московской школе. Насколько я знаю, уже в этом учебном году уже более 100 московских школ подключены к этому проекту, и если школа входит в этот проект, то она открывает у себя инженерный класс. Что, собственно, связано с этим? Прежде всего, кроме естественных вопросов с тем, что математика, физика, информатика углубленно преподаются в этих классах, обязательно есть связь с практикой, и она идет в двух направлениях: первое – это связь с московскими инженерными вузами: Московский политехнический университет, Бауманка, МИСиС, есть большой спектр вузов, которые участвуют в этой работе, заинтересованы в этой работе, как правило, насколько я знаю, есть договорные отношения между школой и вузом, соответственно, школьники могут приезжать на площадки этих вузов, выполнять проекты уже прямо на настоящем, серьезном оборудовании. Преподаватели из вузов, наоборот, могут приезжать в школы, проводить какие-то занятия со школьниками. Это первое направление связи. А второе – это связь с предприятиями, то есть такой треугольник: школа – вуз – предприятие, чтобы школьники посещали предприятие, смотрели как на самом деле все это воплощается в жизнь, это, я скажу честно, в прошлом году возили наших ребят на завод Рено в Москве, это просто была потрясающая экскурсия, то, как сейчас действительно собирают на этих больших линиях машины, посмотреть на это в живую, понять, сколько на самом деле дополнительных вопросов связано с тем, как мы проектируем автомобиль, создаем автомобиль, это, конечно, создает для ребят такой большой спектр. И вот к вашем вопросу, Владимир, как собственно понять есть ли к этому тяга или нет, опять же работа в этих классах предполагает помимо основной учебы проектные вещи, и на сама деле, тут очень по-новому может раскрыться ребенок, я такое сам неоднократно наблюдал за своими ребятами, теми, кто, в общем-то, по-честному больших успехов в основной школе не имеют, это как-то может быть лень, неинтересно, и когда мы им предлагаем что-то сделать самостоятельно, пусть это будет совершенно небольшая вещь, но ребенок поймёт, что есть некоторая цель, он этой цели сможет достичь, и самое главное то, что вот достигнуто – это достигнуто именно им, это непросто он пришел к ответу на задачку в учебнике, в конце ученика, знаете, есть ответы на задачи.

В. Емельянов

- Это понимает ребенок, а как, я спрашивал, ка родители распознать могут его талант. Вы сейчас говорите о школе, а все-таки становление личности ребенка, ну, сейчас не будем вдаваться в какие-то различные методы и определения, когда личность начинается, но все-таки лет с 3-5 уже какие-то базовые кирпичи закладываются, характер.

И. Самоненко

- Ну, возможно, я вот честно скажу, что здесь не очень знаком с этими вопросами, когда ребенок еще совсем маленький.

В. Емельянов

- Да, я понял.

А. Митрофанова

- Илья все-таки в школе преподает, на это области специализируется.

И. Самоненко

- Да, я преподаю именно в старшей школе и со студентами.

В. Емельянов

- Но это же не мешает предполагать.

И. Самоненко

- Но все-таки, понимаете, мое такое ощущение, как родителя, скажем так, пока ребенок еще маленький, то, возможно, не нужно быть к нему слишком требовательным в плане направления. Все-таки такое бывает, что родители осознанно или неосознанно пытаются свои какие-то планы реализовать через ребенка, так делать не стоит.

А. Митрофанова

- И растят из него Олимпийского чемпиона, а он хочет фиалки выращивать.

И. Самоненко

- Опять же сейчас, если говорить про Москву, очень много есть разных и вне школы площадок, где с самого раннего возраста ребенок может себя попробовать. В частности, у нас в университете проходит ежегодный хороший известный фестиваль науки, Виктор Антонович Садовничий, ректор МГУ, запустил это мероприятие, там больше 10 лет назад, и сейчас это очень большая разноплановая история, в рамках этого мероприятия, например, у нас проходит конференция проектных работ для… в общем, это младшеклассники, первый класс, даже есть те, кто в детском саду.

А. Митрофанова

- Проектные работы?

И. Самоненко

- Да

А. Митрофанова

- Вот эти кнопки 6-тилетние делают проектные работы?

И. Самоненко

- Да, понимаете, это, вообще, вещь была совершенно удивительная, когда я увидел, как это все проходит, этим занимаются у нас на факультете биоинженерии, биоинформации, то есть специалисты оттуда такого биологического плана. Конечно, понятное дело, что все ребенок сам не сделает, естественно это большое участие родителей, но все равно итог работы вполне серьёзный, это настоящие стендовые доклады, они, значит, приходят в университет, доклады распечатаны, они висят на больших стендах, и, как вы сказали, эти кнопки стоят рядом, есть вполне серьезная комиссия преподавателей МГУ, которая подходит к этим докладам.

В. Емельянов

- Со стороны это, наверное, смотрится очень потешно.

И. Самоненко

- Да, и мы слушаем, что они рассказывают. И здесь, конечно, просто диву даешься, как действительно ребёнок, который, казалось бы, который просто в кубики должен еще играть, уже начинает постепенно проектно мыслить на будущее.

А. Митрофанова

- Главное, чтобы ребенок потом не сказал родителям, что они лишили его детства, отправив в проектную работу при МГУ.

И. Самоненко

- Нет, конечно, эти проекты должны быть интересны, они должны быть совершенно не насильственного плана. Для более старшего возраста тоже много чего есть интересного, сейчас создается по Москве так называемые ЦМИТы, это центры молодежного инновационного творчества, такие как бы студии, на самом деле – это коммерческие предприятия, но вполне доступные для широкой общественности, скажем так.

А. Митрофанова

- Бюджетные.

И. Самоненко

- Да, куда можно прийти, даже с очень маленькими детьми, конечно, не детский сад, постарше уже чуть, и там с преподавателями, которые там работают тоже делать некоторые проекты. Там есть 3D-принтеры, что-то связанное с робототехникой, так что большой есть спектр возможностей, я бы даже сказал, не то что излишне большой, но можно запутаться в выборе.

А. Митрофанова

- Ещё знаете, что важно из того, что вы сказали: в педагогике главное даже не как, в педагогике главное- сам. Это слово ключевое, что ребёнок Сам, и в этом смысле, даже если из него не вырастет Ньютон, Лобачевский, какой-то великий ученый-изобретатель Генри Форд, он может почувствовать, как это хорошо и здорово, когда он все сделал сам от начала и до конца. Сам продумал и завершил, и видит сейчас результат своего труда.

И. Самоненко

- Конечно.

А. Митрофанова

- Это, по-моему, замечательно.

А. Митрофанова

- Илья Самоненко, учитель информатики в школе номер 171, начальник отдела научно-методической поддержки сферы общего образования МГУ, так называется ваш отдел, сегодня в программе «Светлый вечер» на радио «Вера». Илья, вы сказали про экскурсию с вашими студентами или школьниками на один машиностроительный завод.

И. Самоненко

- 7 класс был.

А. Митрофанова

- И вы описали, какой это восторг, когда вы наблюдаете, как собирается автомобиль, как в этом принимают участие машины и так далее. Поскольку мы с вами сегодня о роботах говорим, у меня такой вопрос, связанный с тем, что все-таки эти машины все больше и больше места в нашей жизни занимают. Вот эти самые роботы, если в широком смысле, гаджеты в том числе, получается так, что мы действительно им делегируем огромное количество полномочий. У нас есть роботы-пылесосы, у нас есть роботы, я не знаю, какие-то снегоуборочные.

В. Емельянов

- Мыть окна.

И. Самоненко

- Зубные щетки.

А. Митрофанова

- Да, роботы, которые моют окна, робот-щетка. И будет только больше. Так вот, скажите мне, пожалуйста, на этом самом заводе. Куда вы ходили с вашими школьниками, через 10 лет, возможно, не нужно будет никакого человеческого участия.

И. Самоненко

- Уже сейчас там большие фрагменты готовятся только роботами.

А. Митрофанова

- Как к этому относиться? Вот лично вы к этому относитесь? К тому, что человек все меньше пространства имеет для того, чтобы себя таким образом реализовать.

И. Самоненко

- Смотрите, здесь, наверное, вот эта тема, которую вы указали, она будет расслаиваться на очень много вопросов. Первый вопрос, о нем, я думаю, мы сейчас как-то поговорим, это: что, грубо говоря, робот может сделать сам, автономно, без человека, и второй вопрос6 что робот может сделать при помощи человека, на самом деле, это две очень большие разницы. Сейчас даже про второе расскажу историю, потому что только что у нас случилась, в школе мы проводили общемосковский семинар для учителей и школьников по нейроуправлению и нейропилотированию. К нам приехали наши коллеги, компания «Нейроботикс», которая занимается разработками нейроуправления. В двух словах, что это такое, чтобы вы представили, как это выглядит. Человек одевает шапочку.

В. Емельянов

- Шапочка какая? Резиновая?

И. Самоненко

- Похожа на резиновую, она такая плетеная.

А. Митрофанова

- В нее встроены специальные штучки.

И. Самоненко

- В неё встроены датчики, которые снимают некоторую активность головного мозга, выглядит она просто как обыкновенная шапочка, более того, если говорить про будущее, они будут все более и более незаметными, то есть в какой-то момент можно даже не заметить, что на человеке она есть, это будет как будто татуировка, сделанная на голове. Эти датчики собственно передают информацию активности головного мозга человека на устройство. Что это за активность? Просто эмоции, то есть человек с совершенно неподвижным лицом, просто меняя свое эмоциональное состояние, начинает управлять объектами вокруг себя. У нас был такой квадрокоптер небольшой летающий, и он летал по нашему залу, а вот этот нейропилот, тоже если говорить про профессию будущего, когда мы бы знали, что будет новая профессия – нейропилот? Человек, который изменением своих эмоций будет управлять какими-то объектами вокруг себя, при этом он мог даже ходить просто. Он идет по классу, даже говорит с кем-то, и параллельно, он человек обученный был, часть его мозга работает на управление квадрокоптером, который летает по залу.

А. Митрофанова

- Поскольку я алармистка, у меня сразу возникает вопрос: а что будет, если до этого дорвется человек, который не умеет управлять своими эмоциями?

И. Самоненко

-Скорее всего просто ничего никуда не полетит, то есть квадрокоптер не взлетит, хотя один из наших школьников- восьмиклассников не побоялся и шапочку одел, ему потребовал немножко настроиться, это настройка эмоциональная, программа должна коррелировать эмоции человека, как он думает, как он мыслит, вообще, эти состояния его с формальным управлением, и вот когда делается это, то начинается уже управление. Конечно, когда человек выйдет из себя, мы об этом сегодня немного скажем, есть интересные истории, то скорее всего может быть какая-то авария или что-то еще.

В. Емельянов

- Вы сказали, что это второе: что не может робот без человека.

И. Самоненко

- Да, то есть резюме такое: конечно, компьютеры, роботы, можно объединять их общим термином. Будут все сильнее входить в нашу жизнь и эффект от их работы будет ощущаться в том случае, когда человек им управляет, это может быть либо управление джойстиками, либо вот такое управление через нейропилотирование, какое-то другое управление, то есть будет, конечно, развиваться, как говорят, интерфейс управления устройствами, они будут все более удобными, отзывчивыми, но совсем другая история – это о том, что могут или не могут роботы или компьютеры самостоятельно. Вот ту можно так сказать, что мы все-таки с вами живем в некотором мифе искусственного интеллекта, это понятие витает вокруг нас, это не наша вина, это весь 20 век формировал.

А. Митрофанова

- Фильмы сейчас один за другим выходят про восстание машин.

И. Самоненко

- Да, «Терминатор» там в 80-ые годы. Потом все больше и больше. И в каждом новом фильме нам рассказывают, что уже не се8годня-завтра к нам придет Терминатор, по-моему, будущее, которое там было описано, это 2020 какой-то год, совсем рядом, то есть люди, находясь, в 80-ых годах, что через 40 лет это состоится. Сейчас говорят тоже, что вот через 10 лет там будет такой принципиальный скачок, машины, вдруг, станут разумными, взбунтуются, и непонятно, что будет с нашей судьбой. Вот тут сейчас я, если можно, немножечко с таким скепсисом отнесусь к этой всей истории именно со стороны такой формальной математики.

В. Емельянов

- А мы поймем что-нибудь?

И. Самоненко

- Да. Не волнуйтесь, я не буду каких-то сложных формул использовать, чтобы наших слушателей не пугать, я буквально, на пальцах расскажу, но расскажу некоторые факты, которые безусловно известны тем, кто занимается математикой, информатикой теоретической. С чем они связаны, с тем, что все –таки есть некоторые задачи, которые, в принципе, реально не под силу компьютеру или роботу, мы будем их объединять как бы. Даже есть такой термин: алгоритмически не разрешимые задачи, что имеется в виду, я приведу простой пример такой задачи, чтобы понять, и немного его прокомментирую. Все мы в основном работаем за компьютером, вот включили компьютер, текстовый редактор, что-то там пишем, и, вдруг, раз, компьютер у нас завис по непонятной для нас причине, что-то там крутится, мышка не бегает, клавиатура не откликается, что самое неприятное в этой истории? Не то, что он завис, а то, что мы не понимаем то ли надо минут 5 подождать, и он отвиснет, то ли уже все, надо его перезагружать, если что-то не сохранили, то извините, все пропало.

В. Емельянов

- Я всегда говорил, что печатаная машинка лучше, чем компьютер, и работать приятнее, когда слышишь цокот клавиш.

И. Самоненко

- Да, и она не зависнет в отличие от компьютера. В этом смысле есть естественное такое желание: давайте сделаем контролирующую программу, которая будет строго следить за работой компьютера, такую отдельную программу, и уж если по той или иной причине компьютер у нас завис, она честно говорит: все зависло, перезагружайте и не тратьте свое время, либо как-то бы починила бы это зависание, вот с какого-то цикла она починила. И все будет снова работать. Вот есть такая проблема того, что программы иногда зависают, и вот оказывается, математики умеют строго доказывать такой факт, что невозможно написать программу, которая следила бы за работой другой программы и проверяла бы ее на зависаемость, честно проверяла. Кто-то из наших слушателей скажет: «Ну, как же, есть такой диспетчер задач, который показывает нам работу программ», но вот он на самом деле не то чтобы нам врет сильно, но он не знает до конца происходящего на компьютере, он по каким-то косвенным признакам говорит, что либо работает, либо не отвечает, потом все еще может свернутся, и он поменяет свое решение. Но вот сейчас говорю: строгой программы, которая следила бы за другой программой зависла она или нет, вот этого в принципе невозможно сделать, это не зависит от того, что пока такого не придумали, а потом все будет быстрее, и они смогут это делать. Нет, там есть такие фундаментальные логические противоречия, которые не позволяют написать такую программу. Я даже приведу примерные идеи, какие могут быть противоречия. Может быть вы слышали про такой парадокс, говорят, либо парадокс лжеца, либо парадокс брадобрея.

В. Емельянов

- Нет, я не слышал, может быть, слышал под другим соусом.

А. Митрофанова

- Вы мне кратко рассказали перед программой, это очень интересный парадокс. Воспроизведите, пожалуйста.

И. Самоненко

-Да, я вам кратко рассказал. Кратко вот такая ситуация, может быть, даже вполне житейская. Есть военная часть, в военной части начальник, есть брадобрей, цирюльник, так сказать. И начальник дает такое поручение: брей тех и только тех, кто не бреется сам. В принципе, вполне логично: если человек сам бреется, чего его брить, если не бреется, то, конечно, брить, должны же быть все бритые в военной части. И вот как вы думаете, какая проблема у брадобрея?

А. Митрофанова

- Я уже знаю, я молчу.

В. Емельянов

- Откуда я знаю, какая у него проблема. Может быть, ножницы у него тупые или ножи заржавели.

И. Самоненко

- Главная логическая проблема брадобрея – что делать со своей бородой. Если он не будет себя брить, то по приказу он обязан себя брить, а если он будет себя брить, то он опять же нарушает приказ, потому что он бреет того, кто итак сам бреется. Более простая такая интерпретация этого же парадокса – это фраза «Я лгу». Это я что сейчас сказал – правду или ложь?

В. Емельянов

- А откуда я знаю.

А. Митрофанова

- В том-то и дело.

И. Самоненко

- Смотрите, «Я лгу» - если это правда, то это ложь, а если «Я лгу» - это ложь, то ложь это ложь, то есть правда.

А. Митрофанова

- Минус на минус дает плюс.

В. Емельянов

- Удобная профессия инженер, я смотрю.

И. Самоненко

- То есть каждый раз получается такое противоречие, которое само себя отрицает. А на самом деле все является частным случаем более общего факта парадокса Бертана Рассела, но не будем об этом, а скажем следующее: оказывается, идея строгого обоснования, что компьютер не может проверить на зависаемость другую программу как раз основано на этой идее парадокса лжеца или брадобрея, но чтобы этот пример завершить нам и окончательно понять нам, представим, что несчастный брадобрей пришел к нам в студию и спрашивает: «Ну, что мне делать?», он-то не успокаивается.

В. Емельянов

- Я бы на его месте просто забил бы на это.

А. Митрофанова

- Вот, вы первым же ответом дали тот ответ, который я и думал здесь услышать. Понимаете.

В. Емельянов

- А как?

И. Самоненко

- Вот именно: а как? Вы сейчас совершили в каком-то смысле спонтанный немножко, немножко ошибочный поступок. Человек к нам пришел помочь, понятно, что он пришел с какой-то непонятной, глупой задачей, и мы не будем на него тратить время, мы скажем: «Ну, успокойся, делай что хочешь, только нам здесь не мешай», и вот эта способность человека, вдруг, действовать спонтанно и ошибочно как раз и ставит нас, как ни странно, выше компьютера, вот компьютер на самом деле не умеет ошибаться, в этом его слабость, а наша способность человека – действовать спонтанно и иногда тем самым ошибочно как раз ставит нас выше, в частности, благодаря этому программисты, живые люди могут в программах находить ошибки, зависания и другие проблемы.

В. Емельянов

- Очень интересная проблема, мы продолжим ее обсуждать буквально через минуту. Напомним, что вы слушаете программу «Светлый вечер» на радио «Вера, ее ведущие Владимир Емельянов и Алла Митрофанова, наш сегодняшний собеседник учитель информатики в школе 171, начальник отдела научно-методической поддержки сферы общего образования МГУ Илья Самоненко.

А. Митрофанова

- Еще раз добрый «Светлый вечер», дорогие слушатели, Владимир Емельянов, я – Алла Митрофанова, и напомню, что в этой студии мы говорим о роботах, о том, что ждет нас в ближайшее время, и есть ли риск, что эти киборги заполонят нашу планету или все не так страшно в нашей жизни, и главное- кто такой человек в этой новой системе координат, в чем наша сущность будет проявляться, если все за нас будут делать машины, вот об этом обо всем поговорим во второй части программы с нашим гостем Ильей Самоненко, учителем информатики в 171 школе, начальником отдела научно-методической поддержки сферы общего образования МГУ.

В. Емельянов

- Давайте продолжим все-таки линию относительно того, что компьютер не может ошибаться, в этом его слабость, в этом наша сила, да, что человеку свойственно ошибаться. А здесь уже начинается совершенно другая проблематика, потому что что такое ошибка? Ее надо оценить, ее надо принять или не принять самому человеку, или обвинить в этом людей, которые виноваты по мнению человека, который совершил ошибку. Нет, не перевести стрелки, а проанализировать, что, оказывается, есть такая вот редиска, которая это все устроила и подстроила, и в итоге, я совершил ошибку, хотя на самом деле, все шло нормально, и все шло по плану. То есть получается, некая такая внутренняя работа человека, от которой недалеко уже и до работы душевной, а оттуда и до работы духовной. Собственно, вот это нам позволяет, как мне кажется, видеть мир настолько многогранным и прекрасным, а иногда безобразным и ужасным, в том числе, благодаря нашим ошибкам, потому что просто мне жутковато становится от мысли жить в обществе, где никто не совершает ошибок.

И. Самоненко

- Это невозможно.

В. Емельянов

- И Слава Богу, что это невозможно. Потому что я представляю себе, что нас окружают компьютеры, которые неспособны ошибиться, в принципе.

И. Самоненко

- Это вопрос еще, понимаете, как бы ошибка ошибке рознь, это очевидно. Даже дважды два - пять, это ошибка, а вот вышел ты, допустим, на пять минут позже из дома, опоздал на работу, но зато там какое-нибудь несчастье тебя миновало, это была ошибка опоздать или нет? То есть какие-то есть вещи, когда неочевидно ошибка это или не ошибка, просто спонтанное какое-то действие привело к какому-то результату, а что было бы если бы этого действия не было неизвестно.

А. Митрофанова

- Бывает, что спонтанные действия приводят и к трагедиям, тогда это совсем другой финал, это тоже часть человеческой природы, о которой мы сегодня говорим, а с точки зрения математики все-таки почему вы говорите о том, что преимущество человека в том, что он может совершать ошибки, а компьютер нет, и в этом наше превосходство перед машинами, в чем оно выражается?

И. Самоненко

- Ну, вот я только что пытался как раз в первой части программы, как смог, донести. На самом деле, такими же простыми аналогиями я пытался такие сложные вещи, которые внутри математики живут, объяснить. Действительно это простая проблема проверить программу на зависаемость доступна человеку, программист, посмотрев на код, разбирается рано или поздно, компьютер с этим не справится. Другое дело, вот вы произнесли такой термин – киборг, это понятие, которое в себе связывает и нечто человеческое, и нечто электронное, компьютерное, автоматное. И, наверное, как раз если посмотреть в будущее. Что нас там ждёт, как раз надо пойти этим путем, киборговидные сущности, возможно, будут все сильнее и сильнее приходить в наш мир, то есть это не отдельно компьютер и человек, а некоторая разумная гармоничная связь чего-то компьютерного и человеческого.

В. Емельянов

- Чего-то совершенного, можно, наверное, сказать другими словами?

А. Митрофанова

- Не знаю насколько совершенное.

И. Самоненко

- Кто компьютер у нас совершенен или человек?

А. Митрофанова

- Ни то, ни другое.

И. Самоненко

- Нет, вот именно такое механистическое и такое живое в полноте этого слова, человеческое. Вот если придумать и разработать гармоничную связь между этими понятиями, как раз это и будет то, что будет двигать нашу цивилизацию вперед, причём не к упадку, а к некоторому такому расцвету все-таки. Понятно, что мы зачастую относимся с опасением к некоторым новым технологиям, потому что они новые, непривычное, но, с другой стороны, наши дети к этому относятся уже более просто, легко это все воспринимают.

В. Емельянов

- То есть вы считаете, что человечество ждет такого мессию в виде робота, который бы совмещал в себе нечто человеческое и совершенное с точки зрения машин.

И. Самоненко

- Я не знаю, мессия, я бы не сказал.

В. Емельянов

- Я просто к чему подвожу: раньше люди ждали мессию, как спасителя, все-таки это было связано с душой, а сейчас мы получается ждем непонятное что-то, наверное, киборг.

А. Митрофанова

- Который устроит нам всем максимально удобную жизнь.

И. Самоненко

- Дело в том, что все-таки жизнь мы строим сами себе, никакой робот за нас ее не построит.

А. Митрофанова

- Это очень важно понимать, кстати.

И. Самоненко

- Да, это важно понимать, другое дело, что благодаря вот этой инженерии все эти устройства вокруг нас будут все более удобные и совершенные для того, чтобы нам облегчать те или иные вещи. Вот, например, такая вещь, как экзоскелет, тоже сейчас развивающееся направление, когда человек либо просто слабый физический входит внутрь такого некоего корпуса и может поднимать тяжелые вещи, либо он может быть инвалидом, то он сможет и ходить, и поднимать тяжелые вещи.

В. Емельянов

- его можно реабилитировать.

И. Самоненко

- Да, и как раз мы будем видеть нечто, что можно назвать словом «киборг», потому что это слияние человеческого, естественного и механического, но если между ними установлена удобная связь, но именно все-таки это связь какая? Пока мы говорим про одностороннюю связь, человек управляет этим устройством, которое вокруг него, которое стало в каком-то смысле частью его, но это все равно первично человек.

А. Митрофанова

- Илья, вы знаете, сейчас будет философский вопрос, у нас в студии они част звучат, но вы меня заранее простите, если, вдруг, он окажется неудобным. Вы говорите, а я вспоминаю, как возникла пластическая хирургия, как возможность, как отрасль медицины, которая помогает людям, вернувшимся с войны, обрести снова более-менее приличный, гладкий вид несмотря на те чудовищные увечья, которые они могли в результате ранения приобрести. Что мы имеем сегодня в виде пластической хирургии? Мы имеем такие чудовищные перекосы, что, в общем, даже это и ловушка, когда человек говорит: «Нет, со мной такого не случится», и, бац, и попадает, и у него случаются такие последствия, о которых он, может быть, сам не догадывался. Но теперь они у него в буквальном смысле слова – на лицо.

В. Емельянов

- Что касается пластической хирургии, я должен, Алла, тебе возразить, потому что врачи своих пациентов предупреждают о том, что это неизбежно.

А. Митрофанова

- Но люди все равно на эту удочку попадаются.

В. Емельянов

- Попадаются.

А. Митрофанова

- Что касается того, что вы сказали про людей с ограниченными возможностями, это чрезвычайно важно, потому что они смогут восполнить те пробелы в физических способностях, которых у них нет, и таким образом достроить свою жизнь до максимально деятельного состояния, но мы устроены так, что мы буем этим пользоваться и в другой области тоже, также, как и в пластической хирургии, нам захочется максимально это использовать в нашей жизни, нам захочется, чтобы робот вместо нас сделал одно, другое, третье, пятое, десятое. Мы таким образом, вообще, в какой-то момент можем исключить физический труд и дискомфорт физический из своего бытия.

В. Емельянов

- Он и сейчас исключен практически.

А. Митрофанова

- Ну, не до конца все равно.

В. Емельянов

- Ну, от кухни к кровати, я считаю, что да.

А. Митрофанова

- Ну, возможно, но есть какая-то связь, я не знаю, как это устроено, как это работает, между тем, что человек все-таки трудится физически и преодолевает какой-то внешний дискомфорт и тем, как работает его душа. Вот эта фраза: «Не позволяй душе лениться», она же лежа на диване, очень трудно проводить какую-то серьезную душевную работу, если только это не связано с чтением какой-то сложной духовной литературы, но если человек читает сложную духовную литературу, то он вряд ли будет в этот момент прям вразвалку лежать на диване, он скорее всего и внешне будет таким образом собран. Вот кем в этом смысле может стать человек, когда в его жизни останется минимум дискомфорта, максимум комфорта, которым его обеспечат машины, во что тогда может превратиться наша собственная душа. Нет ли здесь проблемы?

И. Самоненко

- Вы знаете, мне кажется, тут следующее: во-первых, то, что вы сказали про хирургию пластическую, то, что она сейчас нам демонстрирует какие-то ужасные результаты, это скорее не вина хирургии, не вина тех технологий, которые были созданы для это хирургии, это вина человека, что мы так бездумно распоряжаемся с медициной.

А. Митрофанова

- Классический пример с ножом: им можно порезать хлеб, а можно убить человека.

И. Самоненко

- Тоже самое, наверное, будет здесь, то что опять же опасения, что компьютеры совсем все будут делать, это как помните мультик: «Вы и есть за меня будете?», все-таки вряд ли мы все делегируем компьютерам.

А. Митрофанова

- Ну, мы уже это делаем.

В. Емельянов

-Я думаю, что мы, наверное, оставим себе что-то типа есть, размножаться и плодиться.

И. Самоненко

- Возможно, даже все-таки, конечно, общество имеет некоторое расслоение, и то, что какие-то устройства будут доступны одним слоям, они же первое время будут очень дорогие, и не будут доступны другим слоям, то, конечно, сохранятся и труд, и все на свете.

В. Емельянов

- Как и сейчас.

И. Самоненко

- Такого повсеместного замещения у всех жителей планеты каких-то работ посредством устройств и так далее не будет, это настолько отдаленное будущее, что говорить о каком-то обозримом будущем нельзя, ну, 20-30 лет.

В. Емельянов

- Ну, слушайте, 100 лет прошло как был изобретен автомобиль или чуть больше, смотрите, но я не знаю, в процентном соотношении в количественном, если взять жителей земли и взять автомобили, я уже не говорю, сколько было сделано их, сколько их лежит на свалках или превратилось в переплав и так далее, сколько сейчас людей имеют автомобиль, а прошло всего сто лет, не так много с точки зрения истории.

И. Самоненко

- Но тем не менее ногами-то мы не перестали ходить, автомобили, конечно, есть, но мы и ходим, и бегаем.

В. Емельянов

- Согласен. То есть Алла подводила как раз к тому, с чего мы начали, что должно возобладать какое-то творческое начало, созидание такое.

А. Митрофанова

- Нет, я говорила о другом, хотя и о творческом процессе тоже в каком-то смысле. Вот смотрите, тесто сейчас, как чаще всего изготавливают? Заливают ингредиенты в специальную машину, которая все сама смешает и потом еще испечет хлеб, а потом, вдруг, выясняется, что, вообще, замес теста – это был очень важный процесс для семьи, когда вся семья собиралась вместе, бабушка там месит тесто, к ней подбежит внучка, они о чем-то поговорят. Вот эта часть, которая ушла из нашей жизни, вот эта творческая составляющая в ремесленном труде, мне кажется, что мы в этом смысле что-то потеряли. Я могу сейчас даже другой пример привести: человеческое общение. Как часто мы сегодня через социальные сети общаемся, и не общаемся лично.

В. Емельянов

- Это сложно тоже, можно несколько фраз просто смайликами написать, зачем затрачиваться на слова еще.

И. Самоненко

- Нет, конечно, то что вы сейчас затронули, это связано с социальными сетями и Интернетом, потому что все устройства, о которых мы с вами говорим, безусловно все больше будут вливаться в глобальную сеть, и сама философия – что же такое Интернет, и как он влияет на человека, на социум, это все большие вопросы, как раз, правильно сказали про общение, здесь тоже можно привести такой любопытный пример. Если у меня есть какой-то друг, я мог бы с ним пообщаться лично, но в какой-то момент теряю контакт, например, и он у меня остается в социальной сети, и, получается, я вроде как знаю, что происходит в его жизни. Вообще, за несколько лет, даже словом с ним не перемолвившись. Вот он съездил на отдых, вот он написал про свою новую работу, у него ребенок родился, но грубо говоря, надо понимать, что я смотрю просто на монитор, то есть я захожу в свой аккаунт, и мой аккаунт общается с сего аккаунтом, такими терминами. Опять же, если уйти в более формальную историю, что такое аккаунт? Это просто где-то есть сервер, на этом сервере записаны какие-то данные, битики, нолики и единички, и то, что человек берет и выкладывает свою фотографию, это просто где-то на сервере нолики становятся единичками и наоборот, но дальше, что интересно? Я увидел фотографию, мне она понравилась, я там ему поставил лайк или хороший комментарий, что это такое? Тоже на каком-то сервере нолики стали единичками, а человек почувствовал естественно некую эмоциональную радость, что его фотографию оценили, или, наоборот, кто-то обругал фотографию тогда, конечно, это трагедия, особенно у девушек, это же ужас, и, получается, что эмоции человека просто завязаны, завинчены на какие-то биты на сервере, получается, что человек уже не полностью существует здесь и сейчас в комнате, в помещении, а часть человека находится там, в кодах. Об этом, на самом деле, философы постмодерна много говорили, и это, конечно, в каком-то смысле было предсказано: частичное слияние человека и кода, вот оно и происходит, и как с этим жить, как с этим обходиться – это большой вопрос. Вот тоже пример яркий, если у человека бывает операция на сердце, сейчас я знаю, ставят некоторые клапаны, которые имеют возможность подключения к сети, чтобы врач наблюдал в реальном времени за активностью сердечной деятельности человека, а что такое наблюдение? Это тоже данные, которые ушли на какой-то сервер, а на том сервере просто нолики стали единичками, получается, Интернет, как сообщество, вот множество этих всех данных, в том числе изменяется от сердцебиения человека, то есть у человека меняется пульс, нолики становятся единичками, то есть глобальная сеть почувствовала сердцебиение. А из-за какой-то ошибки, например, это же просто программа, там же тоже моет быть ошибка пользователя, и, вдруг, замкнулись эти битики от биения сердца с битиками от лайков, которые ставят на фотографии, это возможно уже все, и получается, что у человека усилился пульс, а я из-за этого на другом конце земли, вообще, испытываю что-то эмоциональное, потому что мне так оценили фотографии. Это, конечно, сложно так осознать, мы так просто говорим, но к чему это все приведет, это большой вопрос, как с этим всем сосуществовать.

А. Митрофанова

- Напомню, что в программе «Светлый вечер» на радио «Вера» сегодня учитель информатики в 171 школе, начальник отдела научно-методической поддержки сферы общего образования МГУ Илья Самоненко, и мы говорим о роботах, о нашем ближайшем будущем. Не потому что мы футурологи, а потому что мы реалисты, и мы пытаемся понять, в каком мире нам жить, с какими вызовами столкнуться. Илья, вам, наверняка, же приходится с детьми на эти же темы рассуждать, может быть, не на уроках, а как-то за рамками таких официальных занятий: что будет и как, нам людям, реагировать на такие изменения во внешней среде и в нашей жизни, а что вы им отвечаете?

И. Самоненко

- Ну, конечно, с ребятами мы это обсуждаем и в рамках урока, и на дополнительных занятиях, и в рамках внеурочной деятельности. Что здесь можно сказать, может быть, подобные разговоры по началу для детей кажутся такими новыми, но, в общем, они достаточно быстро в эти вопросы входят. И опять мы здесь можем вернуться к тому, с чего мы с вами начали, что, да, это есть, это некий такой феномен нашего окружающего мира, Интернет, от него мы никуда не денемся, но это вовсе не означает, что его надо как-то бояться или как-то блокировать, можно просто понять, как разумно с этим процессом взаимодействовать, опять же можно сформулировать для детей разные такие проектные работы, в том числе на стыке информатики и социологии для того, чтобы они в живую начали работать с этими проблемами, и поняли бы, как с ними взаимодействовать, и если будет понятен механизм взаимодействия, то, в общем-то, это не станет какой-то страшной, неподъемной вещью. Действительно, мир меняется, от этого никуда не уйти, и наша задача, учителей, даже не столько дать фактические знание, потому что они быстро устаревают, да и в конце концов практически любой факт можно за минуту найти в Интернете, и в 99 процентах случаев – это будет корректная информация, а вот именно научить ориентироваться ребёнка в этом потоке информации, особенно если есть разные источники, научить взвесить где более корректно, где менее корректно, вот это как раз эта форма деятельности в таких проектах и исследованиях отличается от традиционной формы, но она все больше сейчас вводится в школах именно в рамках дополнительного образования, и это дает результат.

А. Митрофанова

- Вы даете детям, другими словами, инструмент, которым они должны научиться пользоваться, в процессе этого обучения, я очень надеюсь, что все-таки у человека начинает формироваться представление о том: кто я и кто машина, что между нами есть некая граница, что я по-прежнему в своей жизни принадлежу самому себе, то есть моя жизнь принадлежит мне, и я должен ее выстраивать самостоятельно, что эта машина мне не заменит тех важных жизненных функций, которые я как человек воспроизвожу ежедневно и не заменит какой-то сердечной работы, мне кажется, особенно в том возрасте, в котором вы с детьми над этими вопросами задумываетесь, очень важно еще и такие философские вопросы поднимать: где здесь я? Кто я в этом мире? И какую часть моей жизни, моей души я никогда машине не отдам, потому что она принадлежит только мне?

И. Самоненко

- Конечно, здесь, опять же, только по моим ощущениям, по ощущениям от общения с теми ребятами, которые у нас в школе, в общем-то, тут есть понимание, что действительно мир обстоит именно так, что есть инструменты – машины, но это только инструменты, и как бы они ни были похожи по своим функциям, по своему виду на людей, инструментами они, извините, и останутся. И важное наше умение – это научиться правильно этими инструментами управлять, а там писать стихи, чувствовать, влюбляться, разочаровываться, это мы точно не делегируем никогда никакому компьютеру, никакому роботу, хотя, конечно, можно посмотреть всякие фантастические рассказы, литературу, где об этом сказано, но вот это остается в чистом виде утопией, именно такое что-то совсем недостижимое.

В. Емельянов

- А потому что мы с Адамовых времен, не знаю, как бы заделаны на совершенно другие вещи, даже все эти технологии, о которых вы говорите, смотрите, такой пример ужасный, как войны, сейчас уже совершенно не обязательно какие-то огромные армии стягивать куда-то и так далее, все делает человек, который сидит на острове в Карибском море и оттуда управляет с помощью компьютера и инженерной мысли в том числе, то есть, во-первых, с помощью различной инженерии он может управлять оружием, которое сеет смерть и трагедию в дома и так далее, что движет этим человеком? Понятно, что он получает приказ и выполняет его, если там дальше по цепочке проследить, в итоге оказывается, что в основе всего – жадность человеческая, и я боюсь, что мы все вот эти машины, эти прекрасные изобретения, они будут в конечном счете играть на руку нашим не совсем светлым инстинктам и так далее, ну это я так фантазирую. Потому что человек очень слаб.

И. Самоненко

- Вы такую привели аналогию, а я вот вспомнил роман Станислава Лема «Фиаско», там как раз вот эта ваша идея доведена до некоторой такой страшной конечной точки, я буквально в двух словах, что это было. Вот наши доблестные звездолетчики прилетели к далекой планете с целью установить контакт с жителями этой планеты, то есть они знали, что там скорее всего есть разумная жизнь. Увидели они там техно сферу вокруг планеты, но как она была устроена они до конца так и не поняли, но их внешние ощущения, что вся планета была разбита на два больших противоборствующих лагеря, и каждый из этих лагерей пытался усилить свою военную мощь, создавал новые корабли, которые могли бы атаковать ядерным орудием другую половинку, а та сторона делала сдерживание, и вот обе половинки у же так нарастили свою вот эту военную мощь, которая могла многократно уде всю планету разрушить, они взаимно друг друга сдерживали, и тем самым такой кокон образовался вокруг планеты, и когда наши пытались подлететь , открыть контакт к этой цивилизации, и та, и другая сторона приняла их наличие, как провокацию с другой стороны, и в итоге не получилось никакого контакта – фиаско произошло, вот весь этот роман, один из самых мощных, на мой взгляд, как раз об этой невозможности достичь контакта, потому что эта цивилизация из-за своей жадности, из-за военных побуждений настолько замкнулась на себе, на своих мощных технологиях, что просто для нового стала закрыта.

В. Емельянов

- Я хочу вас вот о чем спросить: вы как считаете, вообще, инженер, инженерное дело – это творческая профессия?

И. Самоненко

Конечно, безусловно, очень творческая, потому что, с одной стороны, инженер имеет некоторый ряд инструментов, вполне понятных, которым можно обучить, как работать, но что из этих инструментов, как их применять, и что из них сделать в итоге – это очень высокая степень творчества безусловно.

А. Митрофанова

- Ну, а я как впечатлительная слушательница, хочу задать вам вопрос по поводу Станислава Лема и ситуации из романа «Фиаско», которую вы описали, ну, а что же, все-таки как быть, чтобы эти самые машины и та полоса отчуждения, которая возникает между нами, между людьми, в связи с тем, что мы в жизни даем им возможности заменять нас на каких-то очень важных постах, фронтах работы, как все-таки, как вы считаете, эту полосу отчуждения можно преодолеть?

И. Самоненко

- Ну, это, конечно, очень сложный вопрос, и здесь вряд ли какие-то могу дать рецепты, вообще, смею ли я давать такие рецепты. Я, как человек, находящийся внутри системы образования, могу сказать, что многое, конечно, решает образование человека, когда человек в широком смысле образован, то есть не просто знает какие-то фактические вещи, но и имеет широкий кругозор, у него появляется достаточно полноценная дифференцированная картина мира, то есть на самом деле, одна из задач школы, всецело образования, как среднего, так и высшего - дать многообразие знания для человека. И человек, который, наверное, имеет большое количество разных знаний, мыслит нестандартно в разных ситуациях, наверное, у него, если у него нет каких-то особых душевных особенностей, к которым он был бы склонен: к агрессии там, к чему-то еще, в общем-то, он, наверное, не будет замкнут в себе, делегировать все машинам, и будет их направлять на агрессию к другим людям. Все-таки образованный человек ценит и себя, то есть если человек образован, он знает себе цену, в хорошем смысле, и знает цену другим образованным людям, и тогда в мире образованных людей, наверное, не случится катастрофических проблем.

А. Митрофанова

- Мне, кстати, важно, что вы отметили здесь еще и душевное здоровье, потому что душа должна быть более-менее целостна, это тоже, мне кажется, очень важно, потому что иначе даже самый образованный человек, вспомните любого злодея с блестящим образованием, злой гений, они же бывают. А если у человека все-таки душевное устройство таково, или может он живет духовной жизнью, например, и понимает, что каких-то вещей он принципиально не может совершить, тогда это уже действительно другая история. И тогда отношение к технологии просто как к технологии, а не как к тому, что моет ему позволить поработить всю планету. Спасибо вам за этот разговор.

И. Самоненко

- Спасибо вам большое.

В. Емельянов

- Я напомню, что нашим сегодняшним собеседником в таком сложно вопросе, кстати, тема далеко не исчерпана.

А. Митрофанова

- А надо продолжить, давайте мы, если вы не против какого-нибудь священника, сведущего в этой теме роботостроения, пригласим в эту студию и продолжим.

И. Самоненко

- Давайте.

В. Емельянов

- Да, это было бы интересно. Действительно.

А. Митрофанова

- Мы как раз к этой теме подошли.

В. Емельянов

- Да, о роботах в нашей жизни, о проблемах искусственного интеллекта, нам компанию составил учитель информатики в 171 школе, начальник отдела научно-методической поддержки сферы общего образования МГУ Илья Самоненко. Спасибо вам большое, Илья. Действительно давайте продолжим этот разговор в ближайшем будущем. Про себя могу сказать, что однозначно я сегодня одновременно посмотрел телевизионную программу «Хочу все знать» и «Очевидное и невероятное», Алла, наверное, от души начиталась журнала «Техника молодёжи». Счастливо вам, до новых встреч. До свидания.

И. Самоненко

- До свидания.