Корпорация «Бог и голем» (сборник) - Страница 3

Но так ли это? В одном из разделов моей книги я уделю внимание некоторым соображениям, показывающим, по моему мнению, что машины вполне способны творить другие машины по своему образу и подобию. Предмет моих рассуждений одновременно является сугубо техническим и весьма узким. Не следует воспринимать мои рассуждения слишком серьезно, как описание фактической модели биологического процесса воспроизведения, и уж тем более как полную модель божественного творения; в то же время она полезна в том отношении, что проливает свет на обе эти концепции.

Два упомянутых раздела книги могут рассматриваться как дополняющие друг друга. Обучение индивида представляет собой процесс, который протекает на протяжении жизни человека, в онтогенезе. Биологическое воспроизведение есть явление, протекающее на протяжении жизни человеческого рода, в филогенезе, но обучается не только индивид, но и род в целом. Дарвиновский естественный отбор является разновидностью процесса родового обучения, он происходит в условиях, которые устанавливаются воспроизведением индивидов.

Третья группа тем данной книги также относится к проблемам обучения. Имеются в виду взаимоотношения машины и живого существа, а также систем, объединяющих в себе характеристики машин и живых существ. С учетом сказанного понятно, что рассмотрению подлежат нормативные, точнее, этические принципы. Мы изучим наиболее важные моральные ловушки, в которые, судя по всему, может угодить современное поколение, и затронем обширный комплекс человеческих традиций и легенд, окружающих магию и другие подобные материи.

Начнем с обучающихся машин. Организованной системой можно назвать такую систему, которая преобразует некое входящее сообщение в исходящее в соответствии с каким-то принципом трансформации. Если этот принцип трансформации регулируется некоторым критерием эффективности и если способ преобразования подразумевает повышение эффективности работы системы в соответствии с указанным критерием, значит, такую систему можно назвать обучаемой. Простейшим типом системы с легко интерпретируемым критерием эффективности является игра, которая ведется по определенным правилам, а критерием эффективности в ней выступает выигрыш, которого удалось добиться при соблюдении этих правил.

Есть игры, обладающие совершенной теорией и потому не представляющие для нас интереса. Примерами подобных игр служат «ним» по Бутону[6] и «крестики-нолики». В этих играх мы не просто можем теоретически найти наилучшую стратегию для выигрыша; теория победы заранее известна во всех подробностях. Игроки (тот или другой, не имеет значения) всегда могут выиграть или хотя бы свести поединок к ничьей, придерживаясь вышеназванной тактики. В теории любая игра может быть сведена к подобному состоянию (эта мысль принадлежит покойному Джону фон Нейману), однако, едва игра действительно оказывается в таком состоянии, к ней мгновенно утрачивают интерес и перестают воспринимать даже как развлечение.

Всеведущее существо наподобие Бога сочло бы шахматы и шашки (а также английские draughts и континентальные dames[7]) примерами игр в том смысле, который обозначил фон Нейман, но человек не разработал до сих пор полной их теории, а потому они по-прежнему воспринимаются как вдохновенные состязания в интуиции и силе ума и ведутся совсем не так, как предполагала теория фон Неймана.

В самом деле – ведь обычно игра не идет по принципу: сейчас я сделаю наилучший из возможных ходов, потом мой противник сделает наилучший из возможных ходов, потом я снова отвечу наилучшим из возможных ходов, и так далее, пока кто-то не выиграет или пока игра не обернется повторением ходов. Чтобы вести игру в соответствии с постулатами фон Неймана, следует, по сути, располагать полной теорией игры, то есть свести игру к тривиальному занятию.

Пожалуй, может показаться, что тема обучения, а в особенности тема машин, которые учатся играть в игры, достаточно далека от религии. Тем не менее, существует богословская проблема, для которой эти концепции являются релевантными. Это проблема игры между Творцом и творением – предмет книги Иова и «Потерянного рая» Джона Мильтона.

В обоих этих религиозных сочинениях дьявол показывается как ведущий игру с Богом – за душу Иова или за души всех людей на свете. При этом, согласно ортодоксальным иудейским и христианским воззрениям, дьявол тоже сотворен Богом, как и все живое. Любое иное допущение ведет к моральному дуализму с привкусом зороастризма и к тому «внебрачному» отпрыску зороастризма и христианства, которое принято называть манихейством[8].

Но если дьявол есть одно из творений Бога, то игра, о которой повествуют книга Иова и «Потерянный рай», представляет собой игру между Богом и одним из Его творений. Такая игра изначально выглядит неравноправным соперничеством, в котором один игрок обладает сокрушительным перевесом. Ввязываться в игру со всемогущим и всеведущим Богом попросту глупо, однако нам говорят, что дьявол искушен в кознях. Любое восстание мятежных ангелов обречено на поражение. Не требуется бунта Сатаны, возмутившегося, как Манфред[9], чтобы это доказать. Всемогущество же, которое для самоутверждения мечет с небес молнии, вовсе не всемогущество, а лишь некая могучая сила, следовательно, мятеж ангелов мог бы закончиться восхождением Сатаны на небесный трон и низвержением Бога в тьму вечного проклятия.

Таким образом, если мы не запутаемся в догмах всемогущества и всеведения, конфликт между Богом и дьяволом оказывается реальным конфликтом, в котором Бог выступает как нечто, не обладающее абсолютным всемогуществом. Да, Он действительно вовлекается в конфликт со Своим творением – и вполне может проиграть. Однако это творение создано Им по Его собственной воле, а значит, приобрело, по-видимому, свои способности к действиям от самого Бога. Может ли Бог вести полноценную игру со Своим творением? Способен ли вообще какой угодно творец, даже ограниченный в возможностях, вести полноценную игру с собственным творением?

Конструируя машины, с которыми он играет в игры, изобретатель присваивает себе функции творца, ограниченного в возможностях, какова бы ни была природа создаваемых им игровых устройств. Это в особенности верно применительно к игровым машинам, которые обучаются на своем опыте. Как уже отмечалось, такие машины существуют. Как они функционируют? Какого успеха они достигли?

Вместо того чтобы действовать согласно игровой теории фон Неймана, они ведут себя так, словно стараются подражать действиям обычного игрока-человека. На каждом этапе игры они подчиняются установленным правилам, которые ограничивают выбор следующего хода. Тот или иной ход выбирается согласно некоторому нормативному критерию хорошей игры.

Здесь опыт игры человека предоставляет ряд подсказок для выбора такого критерия. В шахматах или шашках обыкновенно невыгодно терять свои фигуры, зато обычно выгодно забирать фигуры противника. Игрок, сохраняющий подвижность своих фигур и право выбора ходов, как и тот, который контролирует большее число полей на доске, превосходит своего противника, не придающего значения этим факторам игры.

Данные критерии хорошей игры действуют на протяжении всей партии, но имеются и другие критерии, относящиеся к отдельным этапам игры. В финальной стадии, когда фигур на доске мало, намного труднее сблизиться с противником для «съедения» его фигур. В начале же игры – причем это куда важнее в шахматах, нежели в шашках – фигуры расположены в порядке, который лишает их подвижности и силы, а потому требуется некая тактика, позволяющая убрать фигуры с пути друг друга, как для нападения, так и для защиты. Кроме того – ведь в шахматах фигуры намного разнообразнее по сравнению с шашками, – существует множество особых критериев хорошей игры специально для шахмат, и важность их доказывается многовековым опытом.