Мир Лема - словарь и путеводитель - Страница 145

"Конца не было этим россказням, в которых вволю расходилось простецкое воображение, и лишь одно в них не менялось: мне всякий раз приписывали такие мерзости, какие только можно вообразить". — Маска

При более продолжительном контакте на отношение человека к роботу начинает влиять не внешность, а поведение. Начиная с какого-то уровня одушевленности (обычно с ощущаемой человеком свободы воли) человек начинает вести себя с роботом, как с человеком (вплоть до идентификации), при этом внешние характеристики (антропоморфность или ее отсутствие) тем слабее сказываются на поведении человека, чем больше человек вообще контактировал с роботами и электронными мозгами; возможно, что есть зависимость и от пола. Иногда возникает вопрос о "равенстве", но человек и как индивидуум, и как элемент системы (общества) описывается столь большим количеством параметров, что постановка вопроса о равенстве в общем виде невозможна, тем более, что не известен ни полный список параметров, ни принцип его построения.

"У Пиркса, да наверняка и не у него одного, в отношении этих своеобразных машин, которые так точно и подчас так творчески выполняли задания, была не очень чиста совесть. Может, это началось еще тогда, когда он командовал "Кориоланом"". — Несчастный случай

"Это было уже соперничеством не только со скалой, но как бы и с Анелом — ведь он здесь прошел, и к тому же один. Правда у него стальные пальцы…" — Несчастный случай

"Казалось, он не понимает, что произошло, колеблется, как поступить. В этом его колебании, в этой неуверенности, которую Пиркс великолепно понимал, было что-то столь близкое человеку, что комок сдавил Пирксу горло". — Охота на Сэтавра

"Пиркс переносил ящики, сворачивал металлические листы, то есть делал все то, что должен был делать Анел; когда он это осознал, он немного помедлил, прежде чем подать груз протянувшему руки Массене". — Несчастный случай

"Он вообразил себе ту сказочную, мифическую ситуацию, которая — он знал это не хуже других — была совершенно немыслимой: бунт роботов. И, ощущая в глубине души уверенность, что тогда он непременно оказался бы на их стороне, быстро погрузился в сон". — Несчастный случай

"Последствия открытий неумолимы — самое большее, можно на какое-то время затормозить их реализацию… Я считаю, что человечество не готово к нашествию искусственных человекоподобных существ. Разумеется, наиболее важно — действительно ли они равны человеку?" — Дознание

В результате у человека формируется специфическое отношение к роботам, которое отличается от отношения к людям в силу следующих причин — робот 1) обладает большими техническими возможностями в конкретной ситуации, 2) не может уклониться от выполнения ясно отданного распоряжения, 3) не может ответить на агрессию человека. Поэтому отношение к роботу похоже на отношение мужчины к влюбленной в него женщине. Отличие состоит в том, что отношения между людьми являются объектом оценки со стороны общества — посредством морали, референтной группы, рассеянной санкции и т. д., а отношение к роботам является объектом такой оценки в существенно меньшей степени и сильнее зависит от так называемой автономной морали. Отношение робота к человеку — в той мере, в которой оно не навязано программой — исходит из расчета на большее число шагов, чем это свойственно человеку.

"Пиркс уже давно приметил, что человек подчас легче познается в его отношении к роботам, чем к иным людям". — Несчастный случай

"Крулль с самого начала помыкал роботом, награждал его презрительными кличками и не раз давал поручения, от чего остальные члены группы воздерживались хотя бы потому, что универсальный робот — не лакей. И делал он это, видимо, затем, чтобы, унижая Анела, тем самым досадить Массене, прямо задирать которого не решался". — Несчастный случай

"Было какое-то изощренное коварство в том холодном спокойствии, с каким человек запихивал добытые о себе знания в бездушные машины, присматривая за тем, чтобы не повысился уровень их одушевленности и чтобы они не стали конкурентами своего творца в познании прелестей мира… автоматы не были обездоленными, не были они и объектом безудержной эксплуатации, все было проще и вы то же время хуже — с моральной точки зрения сложнее для критики; их возможности ограничили еще прежде, чем они появились, — на листах чертежей". — Несчастный случай

"И не это чувство побуждало меня спасать его от меня или не только от меня, ибо, когда я переставала рассуждать о своей любви, он становился мне совершенно безразличен, зато мне нужен был союзник в борьбе с тем, кто ночью вонзил в меня ядовитый металл. У меня никого больше не было, а он был мне предан безоглядно, и я могла на него рассчитывать". — Маска

Существенную часть отношения человека к роботам составляет требование, восприятие и оценка их повиновения, т. е. исполнения ими распоряжений. Предпринимая любые действия, человек стремится не усложнять свою картину мира, и, понимая, что картина мира должна соответствовать миру, чтобы ее применение было эффективным, предпочитает не усложнять мир, то есть требует повиновения от всего создаваемого. Отступление от этого требования возможно только при наличии прогноза какого-либо выигрыша от применения системы с большей самостоятельностью, а для этого требуется способность к более далекому прогнозу и достаточно высокая оценка отложенного выигрыша. В отношении роботов ситуация усложнена тем, что, не разделяя с человеком тех ресурсов, которые разделяет человек с другими людьми, роботы не склонны к противостоянию и борьбе "человеческого типа" с человеком, а человек этого может не понимать или не учитывать.

"… чего требуют конструкторы от своих кибернетических творений?… Повиновения. Об этом даже не говорят, а некоторые, пожалуй, и не знают. Но это основной молчаливо принятый принцип. Фатальная ошибка! Строят машину и вводят в нее программу, которую она должна выполнить… для достижения немедленных результатов они закрывают дорогу любым попыткам самопроизвольного поведения собственных творений…" — Доктор Диагор

"Пристрастившись к борьбе не на жизнь, а на смерть, вы тайно рассчитывали именно на такой оборот событий — на титаническую схватку с вашим творением — но это всего лишь ваше заблуждение". — Голем XIV

"Инстинктивно я принимал ЕГО, так сказать, вопреки собственным познаниям и надеждам, все же за еще одну разновидность, пусть очень высокоразвитую механического мозга; значит, этакий сверхэлектронный супер, мыслящий слуга человека; и только лишь той ночью я осознал свое безумие. ОН вовсе не был враждебен людям; ничего подобного. Не было и речи о конфликте, какой представляли себе раньше, вы знаете: бунт машин, бунт искусственного разума — мыслящих устройств. Только, видите ли, ОН превосходил знанием все три миллиарда разумных существ на земле, и сама мысль о том, что ОН мог бы нам служить, была для НЕГО такой же бессмыслицей, каким для людей было бы предложение, чтоб мы нашими знаниями, всеми средствами техники, цивилизации, разумом, наукой поддерживали, допустим, угрей….. ОН питал к нам такие же чувства, какие мы, наверное, питаем к бескостным рыбам, которые были нашими предками. Мы знаем, что не будь их — не было бы и нас, но не скажете же вы, что питаете чувство благодарности к этим рыбам? Или симпатию?" — Формула Лимфатера