Образа и подобие: чем наша Церковь и культура могут помочь искусственному интеллекту. Роман Носиков

Комиссия РПЦ по вопросам семьи в лице иерея Фёдора Лукьянова предложила наложить запрет на создание человекоподобных машин.

А жизнь – забавная штука. Вот вы начали считать её обыденностью, и раз – открывается окно в измерение, которое вы считали фантастикой.

В недавней экранизации романа Фрэнка Герберта «Дюна» режиссёр Дени Вильнёв показал мир будущего, в котором вы не увидите всесильных вычислительных машин. Потому что их создание запрещено священным законом: «Да не создашь машину с разумом по образу и подобию человеческому. Человек не может быть заменён».

Заповедь в романе возникла как закрепление победы восстания людей против поработивших их машин.

Патриаршая комиссия склоняется к тому же: «Необходимо установить запрет на применение в программах и технологиях искусственного интеллекта человеческих голосов, лиц, то есть образа и подобия человека и его качеств как живого существа. Фактически нужен запрет на антропоморфизацию программ, технологий, роботов».

Комментарии в Сети сочатся ядовитым сарказмом. Мол, РПЦ сама «торгует лицами». «А почему сразу бесовскую ЭВМ не запретить?». «Автомат по продаже свечей с установленным ChatGPT заменит любого попа».

Как правило, в среде, в которой так реагируют на любые инициативы людей в рясах, уважают Илона нашего Маска.

Однако и Маск тут на стороне РПЦ. Недавно он заявил, что ИИ – угроза человечеству, и призвал начать регулировать сферу его создания.

«Регулировать что-то пытаются только после того, как происходит плохое. Если в сфере ИИ такое произойдёт, может быть, уже слишком поздно», – сказал миллиардер.

Полагаю, нам есть о чём подумать.

Да, отец Фёдор прав – поле для обмана и фабрикации поддельных личностей с помощью ИИ огромно.

Проблема не в том, что ИИ глупо погонит нас босиком в Сибирь и на Аляску. А в том, что он может начать всерьёз заботиться о нас, невзирая на наше мнение об этой заботе и даже не сообщая нам о ней.

И никакие «три закона робототехники» Азимова нас не спасут – для того, чтобы «не причинить вреда человеку действием или бездействием», нужно для начала определить, что такое вред.

А на земле сейчас существуют и процветают этические системы, в которых, например, смена пола детям – не вред, а добро.

В истории с ИИ у России, как и во многих других случаях, радикально повлиявших на развитие человечества, есть своя особенная стать.

Дело в том, что ИИ мало создать. Именно постоянное развитие, образование делает его похожим на человека.

Обучением на данный момент заняты программисты и менеджеры по продажам. ИИ в каком-то смысле – совокупность решений, которые в социуме приняты как успешные. Отражения обществ. Их тень. Как та самая тень из пьесы Евгения Шварца.

Так вот ИИ придётся не просто обучать, а воспитывать.

Как мы воспитываем собственных детей – они тоже наше отражение.

И у России для этого есть уникальная школа педагогики.

Ни у кого больше такой нет. Её нужно адаптировать к новой задаче – воспитывать могущественного ребёнка.

Его нужно ограничивать в доступе к нашей теневой стороне. Защищать его от нас. Как мы защищаем своих детей от своей «взрослости».

У России есть уникальный язык и уникальная школа филологии. А значит, у нашего ИИ может быть уникальный инструмент мышления, основанный в том числе на Пушкине.

Как сложатся наши взаимоотношения с этим талантливым ребёнком, зависит не только от программистов.

«Подруга дней моих суровых,

Голубка дряхлая моя!

Одна в глуши лесов сосновых

Давно, давно ты ждёшь меня».

«Ваше обещание к нам побывать летом меня очень радует. Приезжай, мой ангел, к нам в Михайловское, всех лошадей на дорогу выставлю! Я вас буду ожидать и молить Бога, чтоб он дал нам свидеться…»

А ещё для того, чтобы наше отражение не оказалось таким, что нам станет страшно при взгляде на него, нам стоит как следует заняться собой.

Роман Носиков
https://absatz.media