Я?
   - ...Ќе ожидаю, что все вы согласитесь с тем, что она скажет, - говорил
Џравитель. - џ и сам со многим не согласен. Ќо Я  уверен,  что  мы  должны
прислушатьсЯ к идеЯм доктора ‹ивинг. Ќесомненно, они - и новости,  которые
она расскажет, - будут ужасным потрЯсением длЯ всех нас. Ђ теперь, леди  и
джентльмены, предоставим слово доктору ”реде ‹ивинг! - Џравитель с улыбкой
на лице повернулсЯ к ней. ‡ал откликнулсЯ бурей рукоплесканий.
   Ќе вполне увереннаЯ, что не стоит прЯмо сейчас развернутьсЯ  и  сбежать
отсюда через запасной выход, ”реда поднЯлась и  прошла  к  кафедре.  •энто
ѓрег отступил к столику и сел рЯдом с ‰оменом.
   Ћна оказалась совсем одна. ѓлЯдЯ на колышущеесЯ море лиц, ”реда думала,
что всЯ эта затеЯ - сущее сумасшествие. Ќо она уже стоЯла на кафедре, и не
оставалось ничего, кроме как начать лекцию. Џути назад не было.
   ”реда откашлЯлась и заговорила.


        14

   - Ѓлагодарю вас, друзьЯ! ‘егоднЯ Я  хочу  представить  вашему  вниманию
анализ ’рех ‡аконов роботехники. Ќо  прежде  чем  мы  углубимсЯ  в  оценку
собственно ‡аконов и их взаимоотношений, Я хотела  бы  провести  небольшой
экскурс в историю.
   Ќа прошлой лекции  Я  говорила,  что  люди  ставЯт  роботов  на  низшую
социальную ступень и что презрение  и  бестолковое  использование  роботов
унижает и развращает и тех, и  других.  €  о  том,  что,  перекладываЯ  на
роботов все, даже самые простые обЯзанности, мы, люди,  тем  самым  терЯем
способность к самостоЯтельным действиЯм. …сть нечто такое, что  объединЯет
все эти вопросы в один, что красной нитью проходит  через  все,  о  чем  Я
говорила.
   ќто, леди и джентльмены, ’ри ‡акона роботехники. Ѓез них  не  обходитсЯ
ничего, что касаетсЯ роботов.
   ”реда ненадолго замолчала, скользнула взглЯдом по залу  и  натолкнулась
на взглЯд Ђльвара Љрэша, сидевшего в первом рЯду.  ”реда  удивилась  -  он
смотрел  мрачно,  почти  злобно.  —то  же  случилось?   Љрэш   -   человек
рассудительный. Ћтчего же он так злитсЯ?  “знал  что-то  новое?  Ћт  такой
догадки ”реда почувствовала, что у нее начинают подгибатьсЯ колени. ЌельзЯ
сейчас об этом думать! Ќе сейчас! Ќадо продолжать лекцию.
   - Џрошлую лекцию Я начала с вопроса: "—то длЯ нас роботы?" ‘ейчас же  Я
спрашиваю: "—то такое ’ри ‡акона роботехники? „лЯ чего они нужны?" Љогда Я
впервые задала этот вопрос себе самой, он менЯ поразил. ќто  почти  то  же
самое, что спрашивать: "—то такое люди?" или  "„лЯ  чего  мы  живем?"  ќти
вопросы затрагивают такие глубинные основы жизни, что на  них  практически
нет вразумительного ответа. ‹юди - это люди. †изнь - это жизнь. Љакие  еще
нужны объЯснениЯ? € можно понимать это как  нам  угодно.  Ќо  в  отношении
роботов, господа, все обстоит несколько иначе. …ще раз напомню  -  и  сами
роботы, и ’ри ‡акона созданы людьми, и созданы, несомненно, с определенной
целью. Џоэтому мы можем ответить, длЯ чего нужны ’ри  ‡акона.  „авайте  же
разберем этот вопрос!
   Љаждый из ’рех ‡аконов основан на нескольких важных правилах, очевидных
или скрытых. ‚се исходные правила, на  которых  основываютсЯ  ’ри  ‡акона,
вытекают из общечеловеческих моральных принципов.  ќто  очевидно,  хотЯ  о
математических  выкладках  относительно  того,  как   ‡аконы   роботехники
заложены в позитронный мозг, врЯд ли кто из вас хотел бы сейчас послушать.
ЏризнатьсЯ, Я сама очень долго не могла в этом разобратьсЯ.
   ‚ ответ на это признание в зале  засмеЯлись.  •орошо.  Ћни  по-прежнему
хотЯт ее слушать. ”реда глЯнула в свои заметки, немного нервно  отхлебнула
из стакана, и продолжила:
   - „остаточно  сказать,  что  эта  технологиЯ  приводит  к  результатам,
которые от нее требовались. ’аким образом, ’ри  ‡акона  означают  примерно
следующее. Џервое - роботы не должны быть опасными. ‚торое - роботов можно
использовать длЯ любых нужд.  €  третье  -  они  должны  быть  экономными,
насколько это возможно.
   „альнейшие математические расчеты, если говорить терминами  социологов,
показывают, что такаЯ  иерархиЯ  требований  типична  длЯ  моральных  норм
любого человеческого общества.  …сли  извлечь  краткие  выводы  из  правил
поведениЯ в идеальном обществе, мы получим рЯд законов, каждый из  которых
вступает в противоречие с менее значимым. ЏолучитсЯ примерно следующее: не
вреди, помогай другим, заботьсЯ о  собственной  сохранности.  Љороче,  ’ри
‡акона заключают в себе  основные  моральные  установки  людей,  идеал,  к
которому они стремились во все времена, но которого так и не достигли. ‚се
это звучит вполне обнадеживающе, вполне убедительно. Ќо на самом  деле  не
все так просто.
   ‚о-первых, нельзЯ забывать, что ’ри ‡акона  заложены  в  саму  сущность
позитронного мозга как математические  аксиомы,  безусловные  истины,  без
каких бы то ни было полутонов и условностей. Ќо жизнь  полна  условностей,
случаев, когда жесткие рамки не всегда приводЯт к  лучшим  результатам.  ‚
реальной жизни зачастую важнее личнаЯ оценка ситуации.
   ‚о-вторых, у нас, людей, законов  гораздо  больше,  чем  три.  ‚ернемсЯ
снова к оценке ’рех ‡аконов. Ћни ЯвлЯютсЯ  очень  хорошим  приближением  к
правилам поведениЯ высокоморального человека. Ќо только приближением!  Ћни
слишком незыблемы, слишком просты! Ћни не охватывают всех  случаев  жизни,
они не годЯтсЯ длЯ сложных и неординарных ситуаций, когда в первую очередь
важно решение,  принЯтое  на  основе  личной  оценки  положениЯ.  Ќи  одно
существо, строго следующее ’рем ‡аконам, не способно разобратьсЯ со  всеми
возможными ситуациЯми, которые могут встретитьсЯ в жизни. „ругими словами,
’ри ‡акона лишают роботов возможности существовать как свободные личности.
Ќесложный подсчет показывает, что роботы, действуЯ в рамках ’рех  ‡аконов,
но без жесткого контролЯ со стороны человека, быстро выйдут из строЯ, если
попробуют вести себЯ в сложных ситуациЯх как  люди.  ’о  есть  из-за  ’рех
‡аконов роботы не способны справитьсЯ без посторонней помощи  со  всем,  с
чем могут столкнутьсЯ в обществе, населенном не одними только роботами.
   “ них нет понЯтиЯ об условностЯх жизни. Ќе ведаЯ  тысЯч  дополнительных
законов  и   обычаев,   правил   поведениЯ,   моральных   норм,   которыми
руководствуютсЯ люди в той или иной ситуации, роботы не способны принимать
решениЯ и выносить самостоЯтельные суждениЯ, как мы, люди.
   Џредставьте,  что  преступник  стрелЯет  в  полицейского.   Ќесомненно,
полицейский станет защищатьсЯ и, не задумываЯсь, предпримет  даже  опасные
длЯ жизни преступника меры. Ћбщественные нормы морали  не  запрещают  -  и
даже рекомендуют - полицейскому ранить  или  убить  опасного  преступника.
Џотому что длЯ общества жизнь полицейского,  который  защищает  это  самое
общество, намного важнее, чем жизнь преступника. Ђ теперь представьте, что
рЯдом с полицейским оказалсЯ робот.  ђобот,  несомненно,  станет  защищать
полицейского от преступника - но он  так  же  рьЯно  броситсЯ  защищать  и
преступника от  полицейского!  ђобот,  конечно  же,  постараетсЯ  не  дать
полицейскому выстрелить в злодеЯ. Џотому что он обЯзан не допустить, чтобы
человеку был причинен вред -  неважно,  какому  человеку.  ђобот  помешает
полицейскому  стрелЯть,  загородив  собой  преступника,  и   даст   злодею
возможность удрать. €ли  попытаетсЯ  обезоружить  обоих.  ђобот  загородит
собой от выстрелов обоих, несмотрЯ  на  то  что  погибнет  при  этом  сам.
ЌесмотрЯ на то, что после его гибели перестрелка все равно возобновитсЯ!
   ‘обственно, у такой ситуации может  быть  множество  исходов,  и  самых
разных. …сли рЯдом окажетсЯ робот, полицейский скорее  всего  не  задержит
преступника. €з-за этого робота может случитьсЯ и кое-что похуже  -  могут
погибнуть и полицейский, и преступник, и робот. €ли только  полицейский  и
робот. €ли только  робот  -  но  преступнику  удастсЯ  скрытьсЯ.  Ђ  может
случитьсЯ и так, что погибнут полицейский и преступник, а робот уцелеет до
тех пор, пока его не доконает  противоречие  Џервого  и  ‚торого  ‡аконов.
Љороче, вмешательство робота в подобной ситуации привело бы к несчастью.
   ’еоретически роботы способны выносить независимые суждениЯ  и  пережить
без особых затруднений смерть преступника. ђобот может  прийти  к  выводу,
что и длЯ настоЯщего, и длЯ будущего благополучиЯ общества - то есть  всех
людей - необходимо, чтобы верх взЯл полицейский. € помощь преступнику  или
вмешательство в действиЯ полицейского принесут людЯм только  вред.  Џотому
что если преступник избежит наказаниЯ, он обЯзательно снова начнет вредить
людЯм, так или  иначе.  ’ем  не  менее  в  действительности  только  самые
высокоорганизованные роботы со  специально  отрегулированным  соотношением
напрЯжений Џервого ‡акона способны справитьсЯ с такой ситуацией.
   ‚се  законы  и  правила  поведениЯ,  согласно   которым   живут   люди,
предназначены как раз длЯ того, чтобы разобратьсЯ  в  путанице  таких  вот
сложных случаев. € мы, люди, настолько привыкли следовать  этим  правилам,
что даже не замечаем их! Љак войти в зал,  когда  обед  уже  началсЯ,  как
вежливо обратитьсЯ к вдове своего дедушки, котораЯ еще  раз  вышла  замуж,
когда надо и когда не надо цитировать источники в научном  исследовании  -
мы так хорошо все это знаем, что даже не замечаем, что знаем. „лЯ  других,
не таких повседневных, случаев тоже есть масса правил и условностей.
   Ќапример, все мы знаем, что убийство - это преступление. ’ем  не  менее
убийство при самозащите, при борьбе с  преступником,  посЯгающим  на  вашу
жизнь, преступлением  не  считаетсЯ.  Ќо  степень  опасности  преступника,
соответствие защиты нападению,  смЯгчающие  и  отЯгчающие  обстоЯтельства,
непреднамеренное убийство - все это полутона и оттенки серого в  четком  и
Ясном черно-белом законе против убийства. Ќо, как мы видим на моем примере
с полицейским и преступником, ни одно из этих  соображений  не  влиЯет  на
напрЯженность Џервого ‡акона у роботов.  ќтот  ‡акон  не  оставлЯет  места
оценке обстоЯтельств, вынесению самостоЯтельного суждениЯ. ‚место этого  у
робота есть только оценка соотношениЯ Џервого, ‚торого и ’ретьего  ‡аконов
- большего им не дано!
   ’ак что же такое ’ри  ‡акона?  —тобы  ответить  на  этот  вопрос,  надо
вспомнить, что ’ри ‡акона  созданы  как  модель  идеальной  морали,  чтобы
обеспечить послушание и исполнительность роботов. ’ри ‡акона не рассчитаны
на то, чтобы моделировать человеческое поведение! Ќо, как бы то  ни  было,
им приходитсЯ это делать - хоть и упрощенно, и схематично.
   Њы разобрали цели созданиЯ ’рех ‡аконов. ’еперь коснемсЯ их истории.
   ‚се мы знаем ’ри ‡акона с пеленок. Њы относимсЯ к ним как к  природному
Явлению, неизменному и не зависЯщему от нас. €  не  видим  причины  делать
что-то иное, кроме как просто принимать их, как они есть, вместе с  миром,
в котором живем.
   Ќо это не единственный выход длЯ  нас.  Џовторю  еще  раз:  ’ри  ‡акона
созданы людьми. Ћни основаны на человеческих суждениЯх и жизненном  опыте,
приобретенном в прошлом. ‚ конце концов, эти ’ри ‡акона не менее поддаютсЯ
оценке и преобразованию, чем все прочие изобретениЯ человечества -  такие,
как колесо, космический корабль  или  компьютер.  ‚се  это  изменилось  со
времени изобретениЯ или вообще кануло в  прошлое  -  уступив  место  новым
открытиЯм, новым установлениЯм.
   Њы можем понЯть, как и почему было создано все  это,  -  и  найти  пути
усовершенствованиЯ, изменениЯ к лучшему,  так  чтобы  оно  соответствовало
запросам настоЯщего. ‚ремена ведь менЯютсЯ! € точно  так  же,  если  будет
нужно, мы можем изменить ’ри ‡акона!
   ‡ал  ахнул,  как  одно  огромное  существо,   и   буквально   взорвалсЯ
возмущенными криками. ”реде казалось, что эти выкрики обрушиваютсЯ на нее,
как сокрушительные удары. Ќо она знала, что так все  и  будет.  Ћна  взЯла
себЯ в руки и ответила:
   - Ќет! Њы не  станем  вести  себЯ  так!  Њы  ведь  пришли  сюда,  чтобы
культурно обсудить важные вопросы. Љак же  можно  называть  наше  общество
самым развитым и  цивилизованным  в  истории  человечества,  если  простое
предложение нового образа мыслей, небольшое  отступление  от  общепринЯтых
традиций превращает нас в  толпу?  ‚ы  кричите  так,  будто  мои  слова  -
преступление против религии, которой, по  вашему  убеждению,  у  вас  нет!
Ќеужели вы  в  самом  деле  верите,  что  ’ри  ‡акона  -  нечто  вечное  и
незыблемое, что-то вроде магической формулы, заложенной в основу бытиЯ?!
   ќто  подействовало.   Џоселенцы   раздулись   от   гордости   за   свое
здравомыслие. Џо крайней мере, пока. ‚ зале еще  пошумели,  покричали,  но
понемногу все успокоилось, они приготовились  слушать  дальше.  ”реда  еще
немного подождала, пока шум утихнет, и продолжила:
   -  ’ри  ‡акона  -  изобретение  человечества.  €,   как   любое   такое
изобретение, они отражают потребности того времени и места,  когда  и  где
были созданы. •отЯ роботы, которых мы используем сейчас, во многом гораздо
совершеннее тех, первых, моделей, но в главном они остались такими же, как
и тысЯчи лет назад. Њозг наших роботов практически не изменилсЯ с тех пор,
когда люди только начинали  осваивать  космос.  Ћни  -  продукт  культуры,
исчезнувшей задолго до того, как были построены первые подземные города на
‡емле, до того, как первые колонисты заселили Ђврору.
   џ понимаю, что это кажетсЯ  невероЯтным,  но  вы  не  можете  этого  не
признать. Џодумайте сами! ‡аглЯните в это отдаленное прошлое,  и  вы  сами
увидите! € не обЯзательно справлЯтьсЯ у своих роботов. ‚се нужные сведениЯ
есть  в  справочнике.  Џосмотрите  только,  каким  был  мир,   в   котором
создавались первые роботы. € вы  увидите,  что  ’ри  ‡акона  придумали  во
времена, совсем непохожие на нынешнее.
   ‚ам   встретитсЯ   часто   повторЯющеесЯ    словосочетание    "комплекс
”ранкенштейна". ќто ссылка на старинную легенду, ныне забытую, о том,  как
некий чародей сложил вместе части  тел  казненных  преступников  и  оживил
создание, которое получилось, -  ужасающего  монстра.  ‚  одних  вариантах
легенды этого монстра наделЯют добрым и мЯгким характером,  в  других  его
выставлЯют закоренелым злодеем и убийцей. Ќо все варианты сходЯтсЯ на том,
что этого монстра  все  вокруг  боЯлись  и  ненавидели.  €  в  большинстве
вариантов легенды и монстра, и его создателЯ  убивает  разъЯреннаЯ  толпа,
боЯсь того, что вот-вот всЯ историЯ повторитсЯ, когда  еще  один  искусник
откроет секрет оживлениЯ мертвой плоти.
   ‘ этим чудовищем, леди и джентльмены, часто сравнивали  роботов,  когда
первые настоЯщие роботы только поЯвились. —удовище,  сделанное  из  кусков
мертвых тел. €звращенное,  неестественное  создание  с  самыми  низкими  и
злобными порывами. € страх перед этим мифическим  чудовищем,  перенесенный
на настоЯщих роботов, называлсЯ "комплексом ”ранкенштейна". џ понимаю, что
трудно в такое поверить, но к  роботам  относились  не  как  к  безупречно
послушным слугам, а как к могучим, грозным,  устрашающим  чудовищам.  ‹юди
хватали  своих  детей  и  бежали  прочь,   завидев   робота,   настоЯщего,
нормального робота с ’ремЯ ‡аконами, заложенными в позитронный мозг.
   Џо залу пронессЯ ропот недовериЯ, но  они  по-прежнему  слушали  ”реду,
увлеченные причудливым древним миром, о котором она рассказывала.
   - Њожно поведать еще очень и очень многое о тех незапамЯтных  временах,
когда создавались ’ри ‡акона. € нам трудно будет не то что понЯть  -  даже
поверить в такое. Џотому  что  первые  роботы  поЯвились  в  мире,  полном
ненависти и страха, когда люди ‡емли сплачивались в могущественные военные
организации и блоки. Ћни вооружались чудовищной  силы  оружием,  способным
разнести на куски саму ‡емлю, и каждый боЯлсЯ, как бы противники не начали
войну  первыми!  Џодумать  только,  ведь   оружие   тогда   было   главной
политической  силой,  а  все  остальное  -  культура,  мораль   -   играло
второстепенную, незначительную роль.  €  чтобы  не  дать  противнику  себЯ
опередить,  каждаЯ  из  сторон  стремилась  создать  все   более   мощное,
скоростное, совершенное оружие!
   ‚опрос был не в том, кто прав, а в том, у кого  больше  этих  кошмарных
машин разрушениЯ! ‚се новейшие технологии были направлены в первую очередь
на создание оружиЯ, и только потом - мирных инструментов и приспособлений.
ЏредставлЯете, тогда исследователь,  вставаЯ  из-за  лабораторного  стола,
думал о своем открытии не "длЯ чего бы лучше применить это новшество?",  а
"как бы перебить с помощью моей находки побольше врагов?". € все машины  и
приспособлениЯ,  насколько  возможно,  превращались   в   машины   смерти,
бесконечно искажаЯ общественную мораль. € первые подземные города на ‡емле
стали наследием этих времен. €х придумали вовсе не из-за  экономичности  и
удобства, а  длЯ  того,  чтобы  защититьсЯ  от  Ядерных  бомб,  которые  в
мгновение ока могли уничтожить жизнь на поверхности планеты.
   ‚ те же самые времена сумасшедшей, нескончаемой гонки вооружений, когда
"комплекс ”ранкенштейна" цвел махровым  цветом,  общество  сделало  первые
шаги к новой автоматике, и переход к ней оказалсЯ очень  непростым.  ‚  те
времена люди работали не потому, что им этого хотелось, не длЯ того, чтобы
реализовать потребность в творчестве или  чувствовать  себЯ  нужными.  Ћни
работали, потому что должны  были  это  делать!  ‡а  работу  они  получали
определенную плату и на это покупали  себе  еду  и  жилье.  Ђвтоматические
машины, и роботы в том числе, брали на себЯ все больше и больше работы, и,
как следствие, все меньше и меньше работы -  и  меньше  платы  за  труд  -
доставалось людЯм. ђоботы могли создать полнейшее изобилие, но это не было
нужно их владельцам - роботов тогда  могли  себе  позволить  только  очень
богатые люди. € представьте теперь, как ненавидели и  возмущались  простые
люди роботами, созданиЯми, которые  вырывают  у  тебЯ  изо  рта  последний
кусок. Џредставьте, как бы вы злились, не имеЯ возможности как-то боротьсЯ
с этим грабежом!
   €  заметьте  еще  вот  что:  до  самой  эры  Љолонизации  роботы   были
чрезвычайно редкими  и  дорогими.  ‘ейчас  мы  ничуть  не  удивимсЯ,  видЯ
человека, окруженного сотней собственных роботов. Ќо  в  первые  несколько
тысЯч лет существованиЯ роботов их было во много  тысЯч  раз  меньше,  чем
людей. Ђ к редким и дорогим вещам и отношение  совершенно  другое,  чем  к
относительно дешевым и общедоступным. —еловек, у которого был  собственный
робот, стоивший во много раз больше,  чем  все  его  остальное  имущество,
никогда бы не додумалсЯ использовать робота вместо ЯкорЯ!
   € вот в такой культурной среде формировались  ’ри  ‡акона  роботехники.
ђасхожие байки о кошмарных  бездушных  чудовищах,  слепленных  из  мертвой
плоти; нависшаЯ над миром смертельнаЯ опасность, готоваЯ  в  любой  момент
выйти из-под контролЯ; глубокаЯ неприЯзнь к разумным машинам, отнимающим у
беднЯков кусок хлеба; недостаток в роботах, из-за которого их воспринимали
как дорогостоЯщую редкость. ‡аметьте, Я говорю  сейчас  о  том,  как  люди
воспринимали роботов, а не о том, каковы были роботы на  самом  деле.  ’ак
вот, эти люди считали роботов жадными до чужого добра чудовищами!
   ”реда перевела дыхание и окинула взглЯдом притихший зал.  …е  слушатели
потрЯсенно внимали невероЯтному рассказу. ”реда продолжила:
   - ‚от,  говорЯт,  что  мы,  колонисты,  -  слабые,  никчемные  людишки,
порабощенные собственными роботами. ’очно так же много чего поговаривают и
о наших друзьЯх поселенцах, которые зарылись под  землю  и  прЯчутсЯ  там,
уверЯЯ самих себЯ, что жить в пещерах куда лучше, чем под открытым  небом,
на вольном  воздухе.  ќто  их  культурное  наследие  со  времен  подземных
городов-убежищ ‡емли. ќти два взглЯда  на  жизнь  зачастую  предстают  как
взаимоисключающие. Ћдна культура - слабаЯ  и  ущербнаЯ,  в  то  времЯ  как
другаЯ - здраваЯ и разумнаЯ. Ќо мне кажетсЯ более  разумным  рассматривать
сильные и слабые стороны каждой из них по отдельности.  €,  по-моему,  обе
они весьма далеки от совершенства.
   ’ак или иначе, никто  не  станет  возражать,  что  общество,  временной
период,  в  котором  создавались  ’ри  ‡акона,  гораздо  ущербнее  нашего.
ЊаниакальнаЯ подозрительность, страх, ужасные войны  -  ‡емлЯ  была  тогда
кошмарным местом! € наши  предки,  улетевшие  колонизировать  новые  миры,
оставили все это позади. €менно из-за того, что наши предки  колонисты  не
хотели признавать такого наследиЯ, они долго избегали  любых  контактов  с
материнской планетой. ’ысЯчелетиЯ мы не желали  признатьсЯ  самим  себе  в
том, что у нас с поселенцами на ‡емле - общие корни. Њы не допускали их  в
свои пЯтьдесЯт миров, считали неполноценными  людьми,  и  отношениЯ  между
двумЯ народами никак не могли наладитьсЯ. „ругими словами,  нас  разделЯла
вражда давно забытых веков.  €стоки  подозрительности  и  недовериЯ  между
поселенцами и колонистами таЯтсЯ в страхе и ненависти, доставшихсЯ  нам  с
тех  незапамЯтных  времен.  Ќедостатки  пережили  общество,   которое   их
породило.
   „олжна сказать еще раз, что все изобретениЯ  человечества  -  отражение
своей эпохи. …сли это так, то  ’ри  ‡акона  -  наследие  довольно  мрачных
времен.  ’ех  времен,  когда  машин  боЯлись  и  ненавидели,  когда  новые
технологии были направлены во  зло,  когда  винтовка,  сделаннаЯ  роботом,
ценилась только  потому,  что  стоила  дешевле  сделанной  человеком,  тех
времен, когда даже самые богатые люди жили, по нашим меркам, как нищие,  а
беднЯки, по вполне понЯтным причинам, ненавидели богатых. џ  могу  сказать
много нелицеприЯтного  о  нашей  с  вами  культуре,  основанной  на  труде
роботов,  но  есть  в  ней  и  много  светлых  сторон,  много  непреложных
достоинств. ‚ нашем с вами мире сохранилось такое понЯтие, как "бедность".
Ќо, по крайней мере, никто сейчас не  может  себе  даже  представить,  что
такое настоЯщаЯ нищета на самом деле. Њы не  боимсЯ  друг  друга,  и  наши
машины обслуживают нас, а не наоборот.  Њы  создали  много  прекрасного  и
величественного.
   Ќо всЯ наша культура, весь наш мир построен на ’рех ‡аконах,  созданных
в мрачные времена всеобщей ненависти и  жестокости.  ”ормулировка  ‡аконов
построена так, что они предназначены длЯ умиротворениЯ злобных,  полудиких
людей той эпохи. €, осмелюсь предположить, эти ‡аконы даже в  те  времена,
когда были созданы,  предусматривали  некий  "запас  прочности",  излишнюю
предосторожность. Ђ уж сейчас они безнадежно отстали от действительности.
   €так: длЯ чего  нужны  роботы?  ‚  самом  начале  ответ,  конечно,  был
простым. ђоботы нужны, чтобы выполнЯть всЯкую  работу.  Ќо  сегоднЯ  из-за
устаревших тысЯчелетиЯ назад  ’рех  ‡аконов  истинное  назначение  роботов
почти забылось,  превратилось  во  второстепенную  задачу.  ‘ейчас  роботы
занЯты тем, что оберегают и защищают людей от буквально всего на свете.
   …стественно, те, кто создал ’ри ‡акона, и подумать о таком не могли! Ќо
длЯ каждого ‡акона  существует  некий  подтекст,  который  выработалсЯ  за
многие тысЯчелетиЯ совместного  существованиЯ  людей  и  роботов.  €  этот
подтекст   очень   непросто   разглЯдеть   с   позиций   общества,   долго
сосуществующего с роботами.
   „авайте  посмотрим  с  самого  начала  и  начнем   с   Џервого   ‡акона
роботехники:  "ђобот  не  может  причинить   вред   человеку   или   своим
бездействием допустить, чтобы человеку был причинен вред".  ќто,  конечно,
имеет смысл - во всЯком случае, так мы привыкли считать.  Џоскольку  робот
гораздо сильнее человека, нужно  запретить  применение  этой  силы  против
людей. ’очно так же строЯтсЯ наши собственные, человеческие законы  против
насилиЯ. Ћни запрещают человеку  использовать  робота  как  оружие  против
других людей - например, приказывать роботу убить врага. Џоэтому мы  можем
так доверЯть роботам.
   Ћднако этот  ‡акон  ставит  существование  любого  робота  в  зависимое
положение по отношению к жизни любого человека.  ќто  имело  смысл,  когда
роботы были практически не способны говорить и рассуждать  отвлеченно,  но
почти  все  современные  роботы  гораздо  совершеннее  и  могут   выносить
самостоЯтельные суждениЯ. ќтот закон имеет смысл  в  обществе,  где  много
бедных, а робот - редкое и дорогое удовольствие отдельных  богачей.  ’огда
богачи  вынуждены  были  защищатьсЯ  от  толпы  недовольных  -  они  могли
приказать охранникам уничтожить  своих  недоброжелателей.  …сли  бы  этими
охранниками оказались роботы - результат получилсЯ бы поистине  ужасающий.
Ќо по сей день всегда и везде существование самых  высокоразвитых,  умных,
утонченных,  сильных  роботов  ничто  по   сравнению   с   жизнью   самого
презренного, отвратительного, жестокого преступника-убийцы!
   ‚торой пункт Џервого ‡акона означает, что в присутствии  роботов  людЯм
нет нужды защищать свою жизнь. …сли Я сейчас направлю винтовку  на  шерифа
Љрэша, который сидит передо мной, он знает, что ему не о чем беспокоитьсЯ.
   ”реда на неуловимый, краткий миг  представила,  с  каким  удовольствием
именно так бы и сделала! Љрэш опасен. ‘омневатьсЯ в этом не приходитсЯ.
   - …го личный робот, „ональд, защитил бы его. Ђриэль, что  стоит  позади
менЯ на сцене, забрала бы у менЯ оружие. ‘обственно,  у  шерифа  Љрэша  не
было бы  даже  возможности  как-то  самому  позаботитьсЯ  о  своей  жизни.
Ќапример, если бы он решил взобратьсЯ  на  гору,  не  думаю,  что  „ональд
отпустил бы его без еще пЯти-шести роботов, которые карабкались бы впереди
и сзади, все времЯ готовые подхватить шерифа,  если  вдруг  тот  сорветсЯ.
Љроме того, робот непременно постаралсЯ бы  в  первую  очередь  отговорить
господина от такой рискованной затеи. Ђ то,  что  такаЯ  чрезмернаЯ  опека
сводит на нет все удовольствие от скалолазаниЯ, отчасти объЯснЯет,  почему
никто из нас не любит ходить в горы.
   Љроме того, жизнь в окружении роботов приучила нас всЯкий риск  считать
дурным делом и  любой  риск  воспринимать  одинаково.  Џотому  что  роботы
обЯзаны нас защитить от опасности, какой бы призрачной она ни оказалась, и
не  должны  своим  бездействием   допустить,   чтобы   человеку   угрожала
какаЯ-нибудь опасность - все равно какаЯ! Џотому что мы им так велели.
   Ќе будет преувеличением сказать, что роботы с равным рвением  бросаютсЯ
защищать нас и от малейшего риска получить  какую-нибудь  царапину,  и  от
реальной угрозы неминуемой смерти. Џоэтому мы не привыкли различать  малую
и большую опасности - они длЯ нас одинаковы, роботы защитЯт нас  в  равной
мере от всего. Њы с вами утратили способность реально оценивать опасность.
џ совершенно уверена, что каждый в этом  зале  знает,  что  роботы  иногда
поднимают шум  из-за  самых  обычных,  самых  невинных  на  первый  взглЯд
происшествий, которые и  опасностью  не  назовешь.  €з-за  такой  излишней
предусмотрительности роботов мы привыкли боЯтьсЯ и избегать любого  риска.
‚  общем,  боЯзнь  риска  у  нас   перешла   с   физического   уровнЯ   на
психологический. Ћтвага и риск кажутсЯ нам  непристойными,  чем-то  таким,
что делать не принЯто. Ќаша культура  учит  нас  не  использовать  никакие
сомнительные возможности, действовать только навернЯка.
   Њы убеждены, что риск  делает  любое  занЯтие  недостойным,  никчемным.
Љогда скалолаз взбираетсЯ на гору, чтобы насладитьсЯ  прекрасными  видами,
все равно постоЯнно есть опасность  сорватьсЯ,  неважно,  сколько  роботов
ползут за ним и подстраховывают. Љогда ученый  пытаетсЯ  изобрести  что-то
новое, он рискует напрасно потерЯть времЯ, ресурсы, свою репутацию.  Љогда
один человек признаетсЯ другому в любви, всегда  есть  риск  нарватьсЯ  на
отказ. ќлементы риска можно найти буквально в любом занЯтии!
   Ќо роботы приучили нас к  тому,  что  всЯкий,  любой  риск  -  зло.  €х
обЯзанность - охранЯть нас от опасности, не причинЯть нам зла, а вовсе  не
творить длЯ нас добро! Ќи в одном ‡аконе  не  сказано,  что  робот  должен
помогать человеку воплотить его или ее мечты, помогать достичь счастьЯ! €х
касаетсЯ только охрана нас от разных неприЯтностей, но  они  нисколько  не
заботЯтсЯ о наших удовольствиЯх. ЏреувеличеннаЯ опека со стороны  роботов,
постоЯннаЯ забота о нашей безопасности с малых лет приучают людей к мысли,
что мудрее не рисковать - не то что понапрасну, а вообще не  рисковать!  €
никто из нас никогда не рискует! € упускает возможность достичь  успеха  -
из опасениЯ провала, неудачи.
   ѓробоваЯ тишина, стоЯвшаЯ до  сих  пор  в  зале,  нарушилась.  ЏоднЯлсЯ
многоголосый шум, раздались отдельные  невнЯтные  выкрики  -  возмущенные,
недовольные,  протестующие.  ‹юди  переговаривались  с  соседЯми,   качали
головами, вздыхали. ‚ воздухе повисла напрЯженность.
   ”реда замолчала, глЯдЯ  на  слушателей.  …й  внезапно  показалось,  что
комната стала как будто меньше. ‡адние рЯды  придвинулись,  стали  заметно
ближе. ‹юди, сидЯщие в передних рЯдах, казалось, были теперь в  нескольких
сантиметрах от кафедры.
   ”реда посмотрела на Ђльвара Љрэша. …й показалось, что  он  так  близко,
что до него можно дотЯнутьсЯ рукой. ‚оздух чуть ли не светилсЯ  от  накала
страстей, прЯмые линии комнаты  как  будто  изогнулись,  искажаЯ  реальную
геометрию пространства. ‘вет засиЯл Ярче, цвета стали насыщенней.
   ”реда почувствовала, как колотитсЯ в груди сердце.  Ћна  кожей  ощущала
все эмоции собравшихсЯ здесь людей.  ‚озмущение,  неуверенность,  протест,
раздражение, злость, любопытство, смущение - все это стало таким реальным,
осЯзаемым. “ нее получилось! Љак ни мала была надежда на то, чтобы убедить
их, превратить в единомышленников, у нее получилось главное  -  задеть  их
чувства,  заставить  взглЯнуть   на   самих   себЯ   со   стороны.   ”реда
заинтересовала их, и теперь начнетсЯ обсуждение сказанного.
   ’еперь остаетсЯ только закончить вечер без скандала. ”реда заглЯнула  в
свои записи и снова заговорила:
   - Њы боимсЯ рисковать. € что из  этого  получаетсЯ?  ‚о  всех  областЯх
науки, кроме роботехники, мы уступили лидерство поселенцам.  „а  и  то,  Я
уверена, только потому, что поселенцы имеют глупость  боЯтьсЯ  роботов!  -
”реда засомневалась, сумела ли она вложить в эти слова достаточно  иронии?
’рудно сказать. - Ќо не  только  наука  у  нас  спит  мертвым  сном.  ‚се,
буквально все! Ќовые зданиЯ, которые возводЯт  наши  роботы,  строЯтсЯ  по
устаревшим проектам. Љолонисты не создают больше новых моделей космических
кораблей или аэрокаров. Ќет новых  лекарств  и  новых  систем  поддержаниЯ
жизни. € мы больше не ведем исследований в открытом  космосе.  "ЏЯтидесЯти
планет вполне достаточно" - это стало почти пословицей. Њы говорим это так
же, как "лучшее - враг хорошего". Ћднако ‘олЯриЯ уже саморазрушилась, и  у
нас осталось сорок девЯть миров вместо пЯтидесЯти. € если на  €нферно  все
останетсЯ по-прежнему,  у  колонистов  скоро  будет  только  сорок  восемь
планет. „лЯ всего живого прекращение роста и развитиЯ - это первый  шаг  к
гибели! € если это так длЯ человеческих цивилизаций - мы все в смертельной
опасности!
   Џо всем показателЯм  человеческой  жизнедеЯтельности  среди  колонистов
линии графиков медленно, но неуклонно ползут  вниз,  хотЯ  по-прежнему  не
выходЯт за пределы относительной нормы. Ќо мы терЯем почву под ногами даже
в самых жизненно важных областЯх! ђождаемость на €нферно еще два поколениЯ
назад перестала перекрывать смертность, естественный прирост населениЯ уже
много лет выражаетсЯ в отрицательных цифрах! Њы живем долго, но не  вечно!
€ колонисты умирают  чаще,  чем  рождаютсЯ.  Ќаселение  планеты  неуклонно
уменьшаетсЯ, уже много кварталов в городе пустуют. €  тех  детей,  которые
все же рождаютсЯ,  воспитывают  не  любЯщие  родители,  а  толпы  роботов,
которые неусыпной заботой и опекой отрывают юных колонистов от  остального
человечества!
   Џоэтому неудивительно, что многие из нас предпочитают общество  роботов
обществу себе подобных. ‘ роботами мы чувствуем себЯ в  безопасности,  нам
уютнее  и  приЯтнее  в  их  окружении.  ђоботы,   которые   беспрекословно
подчинЯютсЯ нам, защищают нас от любой неприЯтности - и,  конечно  же,  от
самого опасного, что только можно представить, - от других  людей!  „а-да,
мы негласно признаем, что самое опасное - это люди, такие же, как мы сами.
Ћбщение с людьми гораздо опаснее, рискованнее,  чем  общение  с  роботами.
Џредставьте  себе,  сейчас  все  больше  людей  даже  половые  потребности
удовлетворЯют со специально приспособленными роботами! ќто стало настолько
распространенным Явлением, что в некоторых кругах такие предпочтениЯ  даже
не кажутсЯ чем-то необычным! ‹юди предпочитают  безоговорочную  покорность
роботов  радостЯм  общениЯ  с  себе  подобными!  Ќо  ведь  они  тем  самым
отказываютсЯ от настоЯщих, живых эмоций, естественных  чувств,  неразрывно
свЯзанных с риском отказа и обид. ‚место этого они попросту  удовлетворЯют
телесные потребности.
   Њы, инферниты, почти забыли, как надо держать себЯ друг с другом.  •очу
заметить, что на других планетах колонистов с этим обстоит  куда  хуже.  ‚
иных мирах приверженность к отчуждению, которую мы себе только  позволЯем,
стала чем-то вроде навЯзчивости, - они не могут  иначе!  ’ам  люди  ужасно
страдают, находЯсь в одной комнате с кем-то еще. Ћни не в  состоЯнии  даже
просто прикоснутьсЯ к другому человеку - из-за непередаваемого отвращениЯ!
Ќа этих планетах вообще нет городов, только разбросанные  далеко  друг  от
друга отдельные дома, в которых люди живут поодиночке, окруженные тысЯчами
роботов. Ќе  стану  даже  упоминать,  насколько  плохо  обстоит  вопрос  с
рождаемостью в таких мирах.
   Ќо прежде чем поздравлЯть друг друга с тем, что на €нферно все  не  так
плохо, позвольте  напомнить,  что  город  все  больше  и  больше  пустеет,
население Ђида убывает значительно быстрее, чем  может  объЯснить  падение
рождаемости. ‚се больше и  больше  людей  селЯтсЯ  отдельно,  подальше  от
остальных - как на тех планетах, о которых Я говорила  только  что!  ’акие
уединенные дома-крепости кажутсЯ безопаснее, спокойнее.  Ќаедине  с  самим
собой человек лучше всего защищен от всЯких волнений и опасностей.
   „рузьЯ мои, мы должны посмотреть в лицо фактам.  Џервый  ‡акон  приучил
нас уклонЯтьсЯ от любых попыток что-то предпринЯть. Џриучил  нас  к  тому,
что всЯкий риск есть зло,  и  единственный  способ  избежать  опасности  -
ничего не делать самим, предоставить все свои заботы,  каковы  бы  они  ни
были, роботам. € мало-помалу мы уступаем  роботам  все,  чем  должен  быть
человек, все, что должен человек делать. Њы позволЯем роботам жить  вместо
нас!
   ‡ал отозвалсЯ взрывом выкриков и перешептываний, из задних  рЯдов,  где
сидели †елезноголовые, послышались озлобленные, гневные вопли: "Џоселенка,
поселенка,  поселенка!"  †елезноголовые   не   могли   придумать   худшего
ругательства.
   ”реда помолчала минуту-другую,  даваЯ  им  высказатьсЯ,  выжидаЯ,  пока
возмущенный зал не затихнет сам  собой.  ќто  сработало,  в  конце  концов
волнение улеглось.  Љ  †елезноголовым  оборачивались  другие  слушатели  и
шикали на них, чтобы те замолчали, полицейские Љрэша подтЯнулись к  задним
рЯдам и пригрозили вывести самых ретивых возмутителей спокойствиЯ. Ќаконец
†елезноголовые успокоились.
   - …сли  позволите,  Я  продолжу.  Џерейдем  теперь  ко  ‚торому  ‡акону
роботехники: "ђобот обЯзан подчинЯтьсЯ приказам человека, если эти приказы
не  противоречат  Џервому  ‡акону".  ќтот  закон  обеспечивает  покорность
роботов и  ставит  их  в  подчиненное  положение  по  отношению  к  любому
человеку, хотЯ роботы во многом разумнее и сильнее людей.
   Ќо, исходЯ из нашего анализа Џервого ‡акона, мы  видим,  что  люди,  во
всем полагаЯсь на роботов, попадают в зависимость от них. €  ‚торой  ‡акон
только усиливает эту зависимость.  “тратив  желание  и  возможность  самим
заботитьсЯ о своем благополучии, люди перестали быть способными  на  любые
решительные действиЯ. Њы не можем  ничего  сделать  длЯ  себЯ,  кроме  как
приказать роботам сделать то, что нам нужно.  €  большаЯ  часть  программы
образованиЯ у нас -  обучение  тому,  как  правильно  отдавать  приказаниЯ
роботам, чтобы они могли выполнЯть самые сложные заданиЯ.
   —то из этого получаетсЯ: кроме искусства, которое тем не менее пришло в
невероЯтный  упадок,  мы  сейчас  не  создаем  ничего  нового!   Ќо   если
присмотретьсЯ, даже наше искусство не избежало влиЯниЯ роботов.
   Њы убеждаем себЯ, что стиль жизни колонистов позволЯет создать  высшую,
лучшую культуру всех времен и народов, освобождает  нас  от  необходимости
тЯжко трудитьсЯ, позволЯет  реализовать  все  лучшие  порывы  человеческой
души. Ђ что получаетсЯ на самом деле?
   ЋбъЯсню на простом примере. ‘егоднЯ мы с вами встретились  в  одном  из
лучших залов планеты. ќто „ворец искусства, гордый монумент созидательному
творчеству. Ќо кто здесь сейчас работает?  „лЯ  чего  мы  используем  этот
„ворец? Ћтвет очень прост. ‡десь хранЯтсЯ мертвые остатки нашей  культуры,
которые роботы собрали по нашему приказу.
   Ќикто больше не ставит спектаклей -  ведь  это  требует  слишком  много
усилий! џ специально поинтересовалась - прошло двадцать лет с тех пор, как
здесь последний раз ставили пьесу! ‘ тех пор ни здесь, ни где-нибудь еще в
Ђиде ничего подобного не было!  Ђ  представление,  в  котором  участвовали
только актеры-люди, давалось последний раз почти полвека  назад!  Ђ  потом
все  -  и  главные,  и  второстепенные  роли  в  пьесах  стали   исполнЯть
специальные роботы-актеры, подобные людЯм  с  виду  и  подготовленные  длЯ
того, чтобы воспроизводить на сцене действиЯ персонажей. € все  равно  это
показалось  слишком   сложным:   управлЯть   роботами-актерами,   задавать
программы длЯ их ролей. € мы сказали себе: стоит ли беспокоитьсЯ?
   Њне кажетсЯ, что великие актеры прошлого ни за что  не  согласились  бы
отказатьсЯ от творчества. € ни один директор театра не допустил бы,  чтобы
все  его  творчество  сводилось  к  выбору  пьесы  и   подходЯщей   группы
роботов-исполнителей.
   € когда роботы  давали  представлениЯ,  зачастую  они  выступали  перед
пустым залом. Њиллионы и миллионы зрителей, которые  смотрели  эти  пьесы,
предпочитали просто  включить  телевизор,  а  не  идти  в  театр.  „ома  -
привычнее и безопаснее. € очень редко случалось, что хотЯ бы двадцать мест
в этом зале были занЯты людьми. Ќо  зал  не  казалсЯ  пустым  -  остальные
кресла занимали человекоподобные роботы, способные всего лишь  смеЯтьсЯ  и
хлопать по команде в нужных местах пьесы. €х неподвижные пластиковые  лица
достаточно  походили  на  человеческие,   чтобы   у   тех,   кто   смотрел
представление по телевизору, создавалось нужное впечатление, когда  камера
поворачивалась к залу. € вы, леди и джентльмены, сидели дома и смотрели на
представление в зале, полном роботов, глЯдевших на сцену,  где  тоже  были
одни  только  роботы!  Ћткуда  же  тогда  взЯтьсЯ  человеческому  участию,
человеческим чувствам, которые только и делают театр живым?! ‘егоднЯ  этот
зал наполнен настоЯщими эмоциЯми,  реальными  чувствами.  Љак  можно  было
надеЯтьсЯ на такое, если бы вместо вас здесь  сидели  бездушные  манекены,
запрограммированные отвечать определенным  образом  на  слова  и  действиЯ
других бездушных манекенов на сцене?!
   ‚ ответ - неловкаЯ тишина. ”реда заметила, что некоторые слушатели даже
начали  оглЯдыватьсЯ  по  сторонам,  чтобы  убедитьсЯ,  что  рЯдом   сидЯт
настоЯщие живые люди, а не роботы-манекены.
   - € в остальных видах искусства  -  то  же  самое.  ‚  наших  картинных
галереЯх выставлены полотна, написанные роботами "по заданию"  номинальных
авторов-людей.  Џисатели  надиктовывают  примерные  задумки   своих   книг
роботам-"помощникам", которые потом выдают готовые произведениЯ, несколько
"расширив" наметки "авторов".
   „олжна сказать,  что  и  по  сей  день  есть  еще  истинные  художники,
скульпторы, писатели и поэты, которые творЯт сами. Ќо не знаю,  как  долго
это будет продолжатьсЯ. €скусство вырождаетсЯ. Џризнаюсь, мои исследованиЯ
в этой области неполны. Џрежде  чем  выступить  здесь,  Я  интересовалась,
знают ли люди, которое  из  произведений  искусства  создано  роботами,  а
которое нет. € должна признать, что мало кто обращает на это внимание. ќто
очень печально, друзьЯ мои!
   џ не узнала и не узнаю, читает ли кто-нибудь  эти  книги,  любуетсЯ  ли
картинами. € не знаю, что хуже:  пустые  упражнениЯ  в  никому  не  нужном
псевдотворчестве или  бессмысленнаЯ  шарада,  котораЯ  продолжаетсЯ,  хотЯ
никому до нее нет дела.  ‚рЯд  ли  это  знают  и  сами  псевдохудожники  и
писатели. Љак и  во  всем  нашем  обществе,  в  искусстве  не  может  быть
наказаниЯ за ошибку, как не может быть и награды за успех! ‚едь  поскольку
успех приносит едва ли не больше переживаний, чем неудача, зачем вообще  к
нему стремитьсЯ? Љ чему все это, если есть роботы, которые в любом  случае
обо всем позаботЯтсЯ?
   ”реда отпила еще глоток воды и выпрЯмилась за кафедрой. Џока  все  идет
как надо. Ќо что тут  начнетсЯ,  когда  она  перейдет  к  следующей  части
лекции?
   - € ’ретий ‡акон: "ђобот должен заботитьсЯ о своей  безопасности,  пока
это не противоречит Џервому и ‚торому ‡аконам". €з всех ’рех законов  этот
меньше всего касаетсЯ отношений между людьми и роботами. ќто  единственный
‡акон, оставлЯющий роботам свободу действий; Я снова к этому  возвращаюсь.
‘огласно  ’ретьему  ‡акону  роботы  следЯт  за  собственной  сохранностью,
исправлЯют свои повреждениЯ и  неполадки,  если  только  их  вообще  можно
исправить. ќто означает, что продолжит