ya? - ...Ne ozhidayu, chto vse vy soglasites' s tem, chto ona skazhet, - govoril Pravitel'. - YA i sam so mnogim ne soglasen. No ya uveren, chto my dolzhny prislushat'sya k ideyam doktora Living. Nesomnenno, oni - i novosti, kotorye ona rasskazhet, - budut uzhasnym potryaseniem dlya vseh nas. A teper', ledi i dzhentl'meny, predostavim slovo doktoru Frede Living! - Pravitel' s ulybkoj na lice povernulsya k nej. Zal otkliknulsya burej rukopleskanij. Ne vpolne uverennaya, chto ne stoit pryamo sejchas razvernut'sya i sbezhat' otsyuda cherez zapasnoj vyhod, Freda podnyalas' i proshla k kafedre. Hento Greg otstupil k stoliku i sel ryadom s Jomenom. Ona okazalas' sovsem odna. Glyadya na kolyshushcheesya more lic, Freda dumala, chto vsya eta zateya - sushchee sumasshestvie. No ona uzhe stoyala na kafedre, i ne ostavalos' nichego, krome kak nachat' lekciyu. Puti nazad ne bylo. Freda otkashlyalas' i zagovorila. 14 - Blagodaryu vas, druz'ya! Segodnya ya hochu predstavit' vashemu vnimaniyu analiz Treh Zakonov robotehniki. No prezhde chem my uglubimsya v ocenku sobstvenno Zakonov i ih vzaimootnoshenij, ya hotela by provesti nebol'shoj ekskurs v istoriyu. Na proshloj lekcii ya govorila, chto lyudi stavyat robotov na nizshuyu social'nuyu stupen' i chto prezrenie i bestolkovoe ispol'zovanie robotov unizhaet i razvrashchaet i teh, i drugih. I o tom, chto, perekladyvaya na robotov vse, dazhe samye prostye obyazannosti, my, lyudi, tem samym teryaem sposobnost' k samostoyatel'nym dejstviyam. Est' nechto takoe, chto ob®edinyaet vse eti voprosy v odin, chto krasnoj nit'yu prohodit cherez vse, o chem ya govorila. |to, ledi i dzhentl'meny, Tri Zakona robotehniki. Bez nih ne obhoditsya nichego, chto kasaetsya robotov. Freda nenadolgo zamolchala, skol'znula vzglyadom po zalu i natolknulas' na vzglyad Al'vara Kresha, sidevshego v pervom ryadu. Freda udivilas' - on smotrel mrachno, pochti zlobno. CHto zhe sluchilos'? Kresh - chelovek rassuditel'nyj. Otchego zhe on tak zlitsya? Uznal chto-to novoe? Ot takoj dogadki Freda pochuvstvovala, chto u nee nachinayut podgibat'sya koleni. Nel'zya sejchas ob etom dumat'! Ne sejchas! Nado prodolzhat' lekciyu. - Proshluyu lekciyu ya nachala s voprosa: "CHto dlya nas roboty?" Sejchas zhe ya sprashivayu: "CHto takoe Tri Zakona robotehniki? Dlya chego oni nuzhny?" Kogda ya vpervye zadala etot vopros sebe samoj, on menya porazil. |to pochti to zhe samoe, chto sprashivat': "CHto takoe lyudi?" ili "Dlya chego my zhivem?" |ti voprosy zatragivayut takie glubinnye osnovy zhizni, chto na nih prakticheski net vrazumitel'nogo otveta. Lyudi - eto lyudi. ZHizn' - eto zhizn'. Kakie eshche nuzhny ob®yasneniya? I mozhno ponimat' eto kak nam ugodno. No v otnoshenii robotov, gospoda, vse obstoit neskol'ko inache. Eshche raz napomnyu - i sami roboty, i Tri Zakona sozdany lyud'mi, i sozdany, nesomnenno, s opredelennoj cel'yu. Poetomu my mozhem otvetit', dlya chego nuzhny Tri Zakona. Davajte zhe razberem etot vopros! Kazhdyj iz Treh Zakonov osnovan na neskol'kih vazhnyh pravilah, ochevidnyh ili skrytyh. Vse ishodnye pravila, na kotoryh osnovyvayutsya Tri Zakona, vytekayut iz obshchechelovecheskih moral'nyh principov. |to ochevidno, hotya o matematicheskih vykladkah otnositel'no togo, kak Zakony robotehniki zalozheny v pozitronnyj mozg, vryad li kto iz vas hotel by sejchas poslushat'. Priznat'sya, ya sama ochen' dolgo ne mogla v etom razobrat'sya. V otvet na eto priznanie v zale zasmeyalis'. Horosho. Oni po-prezhnemu hotyat ee slushat'. Freda glyanula v svoi zametki, nemnogo nervno othlebnula iz stakana, i prodolzhila: - Dostatochno skazat', chto eta tehnologiya privodit k rezul'tatam, kotorye ot nee trebovalis'. Takim obrazom, Tri Zakona oznachayut primerno sleduyushchee. Pervoe - roboty ne dolzhny byt' opasnymi. Vtoroe - robotov mozhno ispol'zovat' dlya lyubyh nuzhd. I tret'e - oni dolzhny byt' ekonomnymi, naskol'ko eto vozmozhno. Dal'nejshie matematicheskie raschety, esli govorit' terminami sociologov, pokazyvayut, chto takaya ierarhiya trebovanij tipichna dlya moral'nyh norm lyubogo chelovecheskogo obshchestva. Esli izvlech' kratkie vyvody iz pravil povedeniya v ideal'nom obshchestve, my poluchim ryad zakonov, kazhdyj iz kotoryh vstupaet v protivorechie s menee znachimym. Poluchitsya primerno sleduyushchee: ne vredi, pomogaj drugim, zabot'sya o sobstvennoj sohrannosti. Koroche, Tri Zakona zaklyuchayut v sebe osnovnye moral'nye ustanovki lyudej, ideal, k kotoromu oni stremilis' vo vse vremena, no kotorogo tak i ne dostigli. Vse eto zvuchit vpolne obnadezhivayushche, vpolne ubeditel'no. No na samom dele ne vse tak prosto. Vo-pervyh, nel'zya zabyvat', chto Tri Zakona zalozheny v samu sushchnost' pozitronnogo mozga kak matematicheskie aksiomy, bezuslovnye istiny, bez kakih by to ni bylo polutonov i uslovnostej. No zhizn' polna uslovnostej, sluchaev, kogda zhestkie ramki ne vsegda privodyat k luchshim rezul'tatam. V real'noj zhizni zachastuyu vazhnee lichnaya ocenka situacii. Vo-vtoryh, u nas, lyudej, zakonov gorazdo bol'she, chem tri. Vernemsya snova k ocenke Treh Zakonov. Oni yavlyayutsya ochen' horoshim priblizheniem k pravilam povedeniya vysokomoral'nogo cheloveka. No tol'ko priblizheniem! Oni slishkom nezyblemy, slishkom prosty! Oni ne ohvatyvayut vseh sluchaev zhizni, oni ne godyatsya dlya slozhnyh i neordinarnyh situacij, kogda v pervuyu ochered' vazhno reshenie, prinyatoe na osnove lichnoj ocenki polozheniya. Ni odno sushchestvo, strogo sleduyushchee Trem Zakonam, ne sposobno razobrat'sya so vsemi vozmozhnymi situaciyami, kotorye mogut vstretit'sya v zhizni. Drugimi slovami, Tri Zakona lishayut robotov vozmozhnosti sushchestvovat' kak svobodnye lichnosti. Neslozhnyj podschet pokazyvaet, chto roboty, dejstvuya v ramkah Treh Zakonov, no bez zhestkogo kontrolya so storony cheloveka, bystro vyjdut iz stroya, esli poprobuyut vesti sebya v slozhnyh situaciyah kak lyudi. To est' iz-za Treh Zakonov roboty ne sposobny spravit'sya bez postoronnej pomoshchi so vsem, s chem mogut stolknut'sya v obshchestve, naselennom ne odnimi tol'ko robotami. U nih net ponyatiya ob uslovnostyah zhizni. Ne vedaya tysyach dopolnitel'nyh zakonov i obychaev, pravil povedeniya, moral'nyh norm, kotorymi rukovodstvuyutsya lyudi v toj ili inoj situacii, roboty ne sposobny prinimat' resheniya i vynosit' samostoyatel'nye suzhdeniya, kak my, lyudi. Predstav'te, chto prestupnik strelyaet v policejskogo. Nesomnenno, policejskij stanet zashchishchat'sya i, ne zadumyvayas', predprimet dazhe opasnye dlya zhizni prestupnika mery. Obshchestvennye normy morali ne zapreshchayut - i dazhe rekomenduyut - policejskomu ranit' ili ubit' opasnogo prestupnika. Potomu chto dlya obshchestva zhizn' policejskogo, kotoryj zashchishchaet eto samoe obshchestvo, namnogo vazhnee, chem zhizn' prestupnika. A teper' predstav'te, chto ryadom s policejskim okazalsya robot. Robot, nesomnenno, stanet zashchishchat' policejskogo ot prestupnika - no on tak zhe r'yano brositsya zashchishchat' i prestupnika ot policejskogo! Robot, konechno zhe, postaraetsya ne dat' policejskomu vystrelit' v zlodeya. Potomu chto on obyazan ne dopustit', chtoby cheloveku byl prichinen vred - nevazhno, kakomu cheloveku. Robot pomeshaet policejskomu strelyat', zagorodiv soboj prestupnika, i dast zlodeyu vozmozhnost' udrat'. Ili popytaetsya obezoruzhit' oboih. Robot zagorodit soboj ot vystrelov oboih, nesmotrya na to chto pogibnet pri etom sam. Nesmotrya na to, chto posle ego gibeli perestrelka vse ravno vozobnovitsya! Sobstvenno, u takoj situacii mozhet byt' mnozhestvo ishodov, i samyh raznyh. Esli ryadom okazhetsya robot, policejskij skoree vsego ne zaderzhit prestupnika. Iz-za etogo robota mozhet sluchit'sya i koe-chto pohuzhe - mogut pogibnut' i policejskij, i prestupnik, i robot. Ili tol'ko policejskij i robot. Ili tol'ko robot - no prestupniku udastsya skryt'sya. A mozhet sluchit'sya i tak, chto pogibnut policejskij i prestupnik, a robot uceleet do teh por, poka ego ne dokonaet protivorechie Pervogo i Vtorogo Zakonov. Koroche, vmeshatel'stvo robota v podobnoj situacii privelo by k neschast'yu. Teoreticheski roboty sposobny vynosit' nezavisimye suzhdeniya i perezhit' bez osobyh zatrudnenij smert' prestupnika. Robot mozhet prijti k vyvodu, chto i dlya nastoyashchego, i dlya budushchego blagopoluchiya obshchestva - to est' vseh lyudej - neobhodimo, chtoby verh vzyal policejskij. I pomoshch' prestupniku ili vmeshatel'stvo v dejstviya policejskogo prinesut lyudyam tol'ko vred. Potomu chto esli prestupnik izbezhit nakazaniya, on obyazatel'no snova nachnet vredit' lyudyam, tak ili inache. Tem ne menee v dejstvitel'nosti tol'ko samye vysokoorganizovannye roboty so special'no otregulirovannym sootnosheniem napryazhenij Pervogo Zakona sposobny spravit'sya s takoj situaciej. Vse zakony i pravila povedeniya, soglasno kotorym zhivut lyudi, prednaznacheny kak raz dlya togo, chtoby razobrat'sya v putanice takih vot slozhnyh sluchaev. I my, lyudi, nastol'ko privykli sledovat' etim pravilam, chto dazhe ne zamechaem ih! Kak vojti v zal, kogda obed uzhe nachalsya, kak vezhlivo obratit'sya k vdove svoego dedushki, kotoraya eshche raz vyshla zamuzh, kogda nado i kogda ne nado citirovat' istochniki v nauchnom issledovanii - my tak horosho vse eto znaem, chto dazhe ne zamechaem, chto znaem. Dlya drugih, ne takih povsednevnyh, sluchaev tozhe est' massa pravil i uslovnostej. Naprimer, vse my znaem, chto ubijstvo - eto prestuplenie. Tem ne menee ubijstvo pri samozashchite, pri bor'be s prestupnikom, posyagayushchim na vashu zhizn', prestupleniem ne schitaetsya. No stepen' opasnosti prestupnika, sootvetstvie zashchity napadeniyu, smyagchayushchie i otyagchayushchie obstoyatel'stva, neprednamerennoe ubijstvo - vse eto polutona i ottenki serogo v chetkom i yasnom cherno-belom zakone protiv ubijstva. No, kak my vidim na moem primere s policejskim i prestupnikom, ni odno iz etih soobrazhenij ne vliyaet na napryazhennost' Pervogo Zakona u robotov. |tot Zakon ne ostavlyaet mesta ocenke obstoyatel'stv, vyneseniyu samostoyatel'nogo suzhdeniya. Vmesto etogo u robota est' tol'ko ocenka sootnosheniya Pervogo, Vtorogo i Tret'ego Zakonov - bol'shego im ne dano! Tak chto zhe takoe Tri Zakona? CHtoby otvetit' na etot vopros, nado vspomnit', chto Tri Zakona sozdany kak model' ideal'noj morali, chtoby obespechit' poslushanie i ispolnitel'nost' robotov. Tri Zakona ne rasschitany na to, chtoby modelirovat' chelovecheskoe povedenie! No, kak by to ni bylo, im prihoditsya eto delat' - hot' i uproshchenno, i shematichno. My razobrali celi sozdaniya Treh Zakonov. Teper' kosnemsya ih istorii. Vse my znaem Tri Zakona s pelenok. My otnosimsya k nim kak k prirodnomu yavleniyu, neizmennomu i ne zavisyashchemu ot nas. I ne vidim prichiny delat' chto-to inoe, krome kak prosto prinimat' ih, kak oni est', vmeste s mirom, v kotorom zhivem. No eto ne edinstvennyj vyhod dlya nas. Povtoryu eshche raz: Tri Zakona sozdany lyud'mi. Oni osnovany na chelovecheskih suzhdeniyah i zhiznennom opyte, priobretennom v proshlom. V konce koncov, eti Tri Zakona ne menee poddayutsya ocenke i preobrazovaniyu, chem vse prochie izobreteniya chelovechestva - takie, kak koleso, kosmicheskij korabl' ili komp'yuter. Vse eto izmenilos' so vremeni izobreteniya ili voobshche kanulo v proshloe - ustupiv mesto novym otkrytiyam, novym ustanovleniyam. My mozhem ponyat', kak i pochemu bylo sozdano vse eto, - i najti puti usovershenstvovaniya, izmeneniya k luchshemu, tak chtoby ono sootvetstvovalo zaprosam nastoyashchego. Vremena ved' menyayutsya! I tochno tak zhe, esli budet nuzhno, my mozhem izmenit' Tri Zakona! Zal ahnul, kak odno ogromnoe sushchestvo, i bukval'no vzorvalsya vozmushchennymi krikami. Frede kazalos', chto eti vykriki obrushivayutsya na nee, kak sokrushitel'nye udary. No ona znala, chto tak vse i budet. Ona vzyala sebya v ruki i otvetila: - Net! My ne stanem vesti sebya tak! My ved' prishli syuda, chtoby kul'turno obsudit' vazhnye voprosy. Kak zhe mozhno nazyvat' nashe obshchestvo samym razvitym i civilizovannym v istorii chelovechestva, esli prostoe predlozhenie novogo obraza myslej, nebol'shoe otstuplenie ot obshcheprinyatyh tradicij prevrashchaet nas v tolpu? Vy krichite tak, budto moi slova - prestuplenie protiv religii, kotoroj, po vashemu ubezhdeniyu, u vas net! Neuzheli vy v samom dele verite, chto Tri Zakona - nechto vechnoe i nezyblemoe, chto-to vrode magicheskoj formuly, zalozhennoj v osnovu bytiya?! |to podejstvovalo. Poselency razdulis' ot gordosti za svoe zdravomyslie. Po krajnej mere, poka. V zale eshche poshumeli, pokrichali, no ponemnogu vse uspokoilos', oni prigotovilis' slushat' dal'she. Freda eshche nemnogo podozhdala, poka shum utihnet, i prodolzhila: - Tri Zakona - izobretenie chelovechestva. I, kak lyuboe takoe izobretenie, oni otrazhayut potrebnosti togo vremeni i mesta, kogda i gde byli sozdany. Hotya roboty, kotoryh my ispol'zuem sejchas, vo mnogom gorazdo sovershennee teh, pervyh, modelej, no v glavnom oni ostalis' takimi zhe, kak i tysyachi let nazad. Mozg nashih robotov prakticheski ne izmenilsya s teh por, kogda lyudi tol'ko nachinali osvaivat' kosmos. Oni - produkt kul'tury, ischeznuvshej zadolgo do togo, kak byli postroeny pervye podzemnye goroda na Zemle, do togo, kak pervye kolonisty zaselili Avroru. YA ponimayu, chto eto kazhetsya neveroyatnym, no vy ne mozhete etogo ne priznat'. Podumajte sami! Zaglyanite v eto otdalennoe proshloe, i vy sami uvidite! I ne obyazatel'no spravlyat'sya u svoih robotov. Vse nuzhnye svedeniya est' v spravochnike. Posmotrite tol'ko, kakim byl mir, v kotorom sozdavalis' pervye roboty. I vy uvidite, chto Tri Zakona pridumali vo vremena, sovsem nepohozhie na nyneshnee. Vam vstretitsya chasto povtoryayushcheesya slovosochetanie "kompleks Frankenshtejna". |to ssylka na starinnuyu legendu, nyne zabytuyu, o tom, kak nekij charodej slozhil vmeste chasti tel kaznennyh prestupnikov i ozhivil sozdanie, kotoroe poluchilos', - uzhasayushchego monstra. V odnih variantah legendy etogo monstra nadelyayut dobrym i myagkim harakterom, v drugih ego vystavlyayut zakorenelym zlodeem i ubijcej. No vse varianty shodyatsya na tom, chto etogo monstra vse vokrug boyalis' i nenavideli. I v bol'shinstve variantov legendy i monstra, i ego sozdatelya ubivaet raz®yarennaya tolpa, boyas' togo, chto vot-vot vsya istoriya povtoritsya, kogda eshche odin iskusnik otkroet sekret ozhivleniya mertvoj ploti. S etim chudovishchem, ledi i dzhentl'meny, chasto sravnivali robotov, kogda pervye nastoyashchie roboty tol'ko poyavilis'. CHudovishche, sdelannoe iz kuskov mertvyh tel. Izvrashchennoe, neestestvennoe sozdanie s samymi nizkimi i zlobnymi poryvami. I strah pered etim mificheskim chudovishchem, perenesennyj na nastoyashchih robotov, nazyvalsya "kompleksom Frankenshtejna". YA ponimayu, chto trudno v takoe poverit', no k robotam otnosilis' ne kak k bezuprechno poslushnym slugam, a kak k moguchim, groznym, ustrashayushchim chudovishcham. Lyudi hvatali svoih detej i bezhali proch', zavidev robota, nastoyashchego, normal'nogo robota s Tremya Zakonami, zalozhennymi v pozitronnyj mozg. Po zalu pronessya ropot nedoveriya, no oni po-prezhnemu slushali Fredu, uvlechennye prichudlivym drevnim mirom, o kotorom ona rasskazyvala. - Mozhno povedat' eshche ochen' i ochen' mnogoe o teh nezapamyatnyh vremenah, kogda sozdavalis' Tri Zakona. I nam trudno budet ne to chto ponyat' - dazhe poverit' v takoe. Potomu chto pervye roboty poyavilis' v mire, polnom nenavisti i straha, kogda lyudi Zemli splachivalis' v mogushchestvennye voennye organizacii i bloki. Oni vooruzhalis' chudovishchnoj sily oruzhiem, sposobnym raznesti na kuski samu Zemlyu, i kazhdyj boyalsya, kak by protivniki ne nachali vojnu pervymi! Podumat' tol'ko, ved' oruzhie togda bylo glavnoj politicheskoj siloj, a vse ostal'noe - kul'tura, moral' - igralo vtorostepennuyu, neznachitel'nuyu rol'. I chtoby ne dat' protivniku sebya operedit', kazhdaya iz storon stremilas' sozdat' vse bolee moshchnoe, skorostnoe, sovershennoe oruzhie! Vopros byl ne v tom, kto prav, a v tom, u kogo bol'she etih koshmarnyh mashin razrusheniya! Vse novejshie tehnologii byli napravleny v pervuyu ochered' na sozdanie oruzhiya, i tol'ko potom - mirnyh instrumentov i prisposoblenij. Predstavlyaete, togda issledovatel', vstavaya iz-za laboratornogo stola, dumal o svoem otkrytii ne "dlya chego by luchshe primenit' eto novshestvo?", a "kak by perebit' s pomoshch'yu moej nahodki pobol'she vragov?". I vse mashiny i prisposobleniya, naskol'ko vozmozhno, prevrashchalis' v mashiny smerti, beskonechno iskazhaya obshchestvennuyu moral'. I pervye podzemnye goroda na Zemle stali naslediem etih vremen. Ih pridumali vovse ne iz-za ekonomichnosti i udobstva, a dlya togo, chtoby zashchitit'sya ot yadernyh bomb, kotorye v mgnovenie oka mogli unichtozhit' zhizn' na poverhnosti planety. V te zhe samye vremena sumasshedshej, neskonchaemoj gonki vooruzhenij, kogda "kompleks Frankenshtejna" cvel mahrovym cvetom, obshchestvo sdelalo pervye shagi k novoj avtomatike, i perehod k nej okazalsya ochen' neprostym. V te vremena lyudi rabotali ne potomu, chto im etogo hotelos', ne dlya togo, chtoby realizovat' potrebnost' v tvorchestve ili chuvstvovat' sebya nuzhnymi. Oni rabotali, potomu chto dolzhny byli eto delat'! Za rabotu oni poluchali opredelennuyu platu i na eto pokupali sebe edu i zhil'e. Avtomaticheskie mashiny, i roboty v tom chisle, brali na sebya vse bol'she i bol'she raboty, i, kak sledstvie, vse men'she i men'she raboty - i men'she platy za trud - dostavalos' lyudyam. Roboty mogli sozdat' polnejshee izobilie, no eto ne bylo nuzhno ih vladel'cam - robotov togda mogli sebe pozvolit' tol'ko ochen' bogatye lyudi. I predstav'te teper', kak nenavideli i vozmushchalis' prostye lyudi robotami, sozdaniyami, kotorye vyryvayut u tebya izo rta poslednij kusok. Predstav'te, kak by vy zlilis', ne imeya vozmozhnosti kak-to borot'sya s etim grabezhom! I zamet'te eshche vot chto: do samoj ery Kolonizacii roboty byli chrezvychajno redkimi i dorogimi. Sejchas my nichut' ne udivimsya, vidya cheloveka, okruzhennogo sotnej sobstvennyh robotov. No v pervye neskol'ko tysyach let sushchestvovaniya robotov ih bylo vo mnogo tysyach raz men'she, chem lyudej. A k redkim i dorogim veshcham i otnoshenie sovershenno drugoe, chem k otnositel'no deshevym i obshchedostupnym. CHelovek, u kotorogo byl sobstvennyj robot, stoivshij vo mnogo raz bol'she, chem vse ego ostal'noe imushchestvo, nikogda by ne dodumalsya ispol'zovat' robota vmesto yakorya! I vot v takoj kul'turnoj srede formirovalis' Tri Zakona robotehniki. Rashozhie bajki o koshmarnyh bezdushnyh chudovishchah, sleplennyh iz mertvoj ploti; navisshaya nad mirom smertel'naya opasnost', gotovaya v lyuboj moment vyjti iz-pod kontrolya; glubokaya nepriyazn' k razumnym mashinam, otnimayushchim u bednyakov kusok hleba; nedostatok v robotah, iz-za kotorogo ih vosprinimali kak dorogostoyashchuyu redkost'. Zamet'te, ya govoryu sejchas o tom, kak lyudi vosprinimali robotov, a ne o tom, kakovy byli roboty na samom dele. Tak vot, eti lyudi schitali robotov zhadnymi do chuzhogo dobra chudovishchami! Freda perevela dyhanie i okinula vzglyadom pritihshij zal. Ee slushateli potryasenno vnimali neveroyatnomu rasskazu. Freda prodolzhila: - Vot, govoryat, chto my, kolonisty, - slabye, nikchemnye lyudishki, poraboshchennye sobstvennymi robotami. Tochno tak zhe mnogo chego pogovarivayut i o nashih druz'yah poselencah, kotorye zarylis' pod zemlyu i pryachutsya tam, uveryaya samih sebya, chto zhit' v peshcherah kuda luchshe, chem pod otkrytym nebom, na vol'nom vozduhe. |to ih kul'turnoe nasledie so vremen podzemnyh gorodov-ubezhishch Zemli. |ti dva vzglyada na zhizn' zachastuyu predstayut kak vzaimoisklyuchayushchie. Odna kul'tura - slabaya i ushcherbnaya, v to vremya kak drugaya - zdravaya i razumnaya. No mne kazhetsya bolee razumnym rassmatrivat' sil'nye i slabye storony kazhdoj iz nih po otdel'nosti. I, po-moemu, obe oni ves'ma daleki ot sovershenstva. Tak ili inache, nikto ne stanet vozrazhat', chto obshchestvo, vremennoj period, v kotorom sozdavalis' Tri Zakona, gorazdo ushcherbnee nashego. Maniakal'naya podozritel'nost', strah, uzhasnye vojny - Zemlya byla togda koshmarnym mestom! I nashi predki, uletevshie kolonizirovat' novye miry, ostavili vse eto pozadi. Imenno iz-za togo, chto nashi predki kolonisty ne hoteli priznavat' takogo naslediya, oni dolgo izbegali lyubyh kontaktov s materinskoj planetoj. Tysyacheletiya my ne zhelali priznat'sya samim sebe v tom, chto u nas s poselencami na Zemle - obshchie korni. My ne dopuskali ih v svoi pyat'desyat mirov, schitali nepolnocennymi lyud'mi, i otnosheniya mezhdu dvumya narodami nikak ne mogli naladit'sya. Drugimi slovami, nas razdelyala vrazhda davno zabytyh vekov. Istoki podozritel'nosti i nedoveriya mezhdu poselencami i kolonistami tayatsya v strahe i nenavisti, dostavshihsya nam s teh nezapamyatnyh vremen. Nedostatki perezhili obshchestvo, kotoroe ih porodilo. Dolzhna skazat' eshche raz, chto vse izobreteniya chelovechestva - otrazhenie svoej epohi. Esli eto tak, to Tri Zakona - nasledie dovol'no mrachnyh vremen. Teh vremen, kogda mashin boyalis' i nenavideli, kogda novye tehnologii byli napravleny vo zlo, kogda vintovka, sdelannaya robotom, cenilas' tol'ko potomu, chto stoila deshevle sdelannoj chelovekom, teh vremen, kogda dazhe samye bogatye lyudi zhili, po nashim merkam, kak nishchie, a bednyaki, po vpolne ponyatnym prichinam, nenavideli bogatyh. YA mogu skazat' mnogo nelicepriyatnogo o nashej s vami kul'ture, osnovannoj na trude robotov, no est' v nej i mnogo svetlyh storon, mnogo neprelozhnyh dostoinstv. V nashem s vami mire sohranilos' takoe ponyatie, kak "bednost'". No, po krajnej mere, nikto sejchas ne mozhet sebe dazhe predstavit', chto takoe nastoyashchaya nishcheta na samom dele. My ne boimsya drug druga, i nashi mashiny obsluzhivayut nas, a ne naoborot. My sozdali mnogo prekrasnogo i velichestvennogo. No vsya nasha kul'tura, ves' nash mir postroen na Treh Zakonah, sozdannyh v mrachnye vremena vseobshchej nenavisti i zhestokosti. Formulirovka Zakonov postroena tak, chto oni prednaznacheny dlya umirotvoreniya zlobnyh, poludikih lyudej toj epohi. I, osmelyus' predpolozhit', eti Zakony dazhe v te vremena, kogda byli sozdany, predusmatrivali nekij "zapas prochnosti", izlishnyuyu predostorozhnost'. A uzh sejchas oni beznadezhno otstali ot dejstvitel'nosti. Itak: dlya chego nuzhny roboty? V samom nachale otvet, konechno, byl prostym. Roboty nuzhny, chtoby vypolnyat' vsyakuyu rabotu. No segodnya iz-za ustarevshih tysyacheletiya nazad Treh Zakonov istinnoe naznachenie robotov pochti zabylos', prevratilos' vo vtorostepennuyu zadachu. Sejchas roboty zanyaty tem, chto oberegayut i zashchishchayut lyudej ot bukval'no vsego na svete. Estestvenno, te, kto sozdal Tri Zakona, i podumat' o takom ne mogli! No dlya kazhdogo Zakona sushchestvuet nekij podtekst, kotoryj vyrabotalsya za mnogie tysyacheletiya sovmestnogo sushchestvovaniya lyudej i robotov. I etot podtekst ochen' neprosto razglyadet' s pozicij obshchestva, dolgo sosushchestvuyushchego s robotami. Davajte posmotrim s samogo nachala i nachnem s Pervogo Zakona robotehniki: "Robot ne mozhet prichinit' vred cheloveku ili svoim bezdejstviem dopustit', chtoby cheloveku byl prichinen vred". |to, konechno, imeet smysl - vo vsyakom sluchae, tak my privykli schitat'. Poskol'ku robot gorazdo sil'nee cheloveka, nuzhno zapretit' primenenie etoj sily protiv lyudej. Tochno tak zhe stroyatsya nashi sobstvennye, chelovecheskie zakony protiv nasiliya. Oni zapreshchayut cheloveku ispol'zovat' robota kak oruzhie protiv drugih lyudej - naprimer, prikazyvat' robotu ubit' vraga. Poetomu my mozhem tak doveryat' robotam. Odnako etot Zakon stavit sushchestvovanie lyubogo robota v zavisimoe polozhenie po otnosheniyu k zhizni lyubogo cheloveka. |to imelo smysl, kogda roboty byli prakticheski ne sposobny govorit' i rassuzhdat' otvlechenno, no pochti vse sovremennye roboty gorazdo sovershennee i mogut vynosit' samostoyatel'nye suzhdeniya. |tot zakon imeet smysl v obshchestve, gde mnogo bednyh, a robot - redkoe i dorogoe udovol'stvie otdel'nyh bogachej. Togda bogachi vynuzhdeny byli zashchishchat'sya ot tolpy nedovol'nyh - oni mogli prikazat' ohrannikam unichtozhit' svoih nedobrozhelatelej. Esli by etimi ohrannikami okazalis' roboty - rezul'tat poluchilsya by poistine uzhasayushchij. No po sej den' vsegda i vezde sushchestvovanie samyh vysokorazvityh, umnyh, utonchennyh, sil'nyh robotov nichto po sravneniyu s zhizn'yu samogo prezrennogo, otvratitel'nogo, zhestokogo prestupnika-ubijcy! Vtoroj punkt Pervogo Zakona oznachaet, chto v prisutstvii robotov lyudyam net nuzhdy zashchishchat' svoyu zhizn'. Esli ya sejchas napravlyu vintovku na sherifa Kresha, kotoryj sidit peredo mnoj, on znaet, chto emu ne o chem bespokoit'sya. Freda na neulovimyj, kratkij mig predstavila, s kakim udovol'stviem imenno tak by i sdelala! Kresh opasen. Somnevat'sya v etom ne prihoditsya. - Ego lichnyj robot, Donal'd, zashchitil by ego. Ariel', chto stoit pozadi menya na scene, zabrala by u menya oruzhie. Sobstvenno, u sherifa Kresha ne bylo by dazhe vozmozhnosti kak-to samomu pozabotit'sya o svoej zhizni. Naprimer, esli by on reshil vzobrat'sya na goru, ne dumayu, chto Donal'd otpustil by ego bez eshche pyati-shesti robotov, kotorye karabkalis' by vperedi i szadi, vse vremya gotovye podhvatit' sherifa, esli vdrug tot sorvetsya. Krome togo, robot nepremenno postaralsya by v pervuyu ochered' otgovorit' gospodina ot takoj riskovannoj zatei. A to, chto takaya chrezmernaya opeka svodit na net vse udovol'stvie ot skalolazaniya, otchasti ob®yasnyaet, pochemu nikto iz nas ne lyubit hodit' v gory. Krome togo, zhizn' v okruzhenii robotov priuchila nas vsyakij risk schitat' durnym delom i lyuboj risk vosprinimat' odinakovo. Potomu chto roboty obyazany nas zashchitit' ot opasnosti, kakoj by prizrachnoj ona ni okazalas', i ne dolzhny svoim bezdejstviem dopustit', chtoby cheloveku ugrozhala kakaya-nibud' opasnost' - vse ravno kakaya! Potomu chto my im tak veleli. Ne budet preuvelicheniem skazat', chto roboty s ravnym rveniem brosayutsya zashchishchat' nas i ot malejshego riska poluchit' kakuyu-nibud' carapinu, i ot real'noj ugrozy neminuemoj smerti. Poetomu my ne privykli razlichat' maluyu i bol'shuyu opasnosti - oni dlya nas odinakovy, roboty zashchityat nas v ravnoj mere ot vsego. My s vami utratili sposobnost' real'no ocenivat' opasnost'. YA sovershenno uverena, chto kazhdyj v etom zale znaet, chto roboty inogda podnimayut shum iz-za samyh obychnyh, samyh nevinnyh na pervyj vzglyad proisshestvij, kotorye i opasnost'yu ne nazovesh'. Iz-za takoj izlishnej predusmotritel'nosti robotov my privykli boyat'sya i izbegat' lyubogo riska. V obshchem, boyazn' riska u nas pereshla s fizicheskogo urovnya na psihologicheskij. Otvaga i risk kazhutsya nam nepristojnymi, chem-to takim, chto delat' ne prinyato. Nasha kul'tura uchit nas ne ispol'zovat' nikakie somnitel'nye vozmozhnosti, dejstvovat' tol'ko navernyaka. My ubezhdeny, chto risk delaet lyuboe zanyatie nedostojnym, nikchemnym. Kogda skalolaz vzbiraetsya na goru, chtoby nasladit'sya prekrasnymi vidami, vse ravno postoyanno est' opasnost' sorvat'sya, nevazhno, skol'ko robotov polzut za nim i podstrahovyvayut. Kogda uchenyj pytaetsya izobresti chto-to novoe, on riskuet naprasno poteryat' vremya, resursy, svoyu reputaciyu. Kogda odin chelovek priznaetsya drugomu v lyubvi, vsegda est' risk narvat'sya na otkaz. |lementy riska mozhno najti bukval'no v lyubom zanyatii! No roboty priuchili nas k tomu, chto vsyakij, lyuboj risk - zlo. Ih obyazannost' - ohranyat' nas ot opasnosti, ne prichinyat' nam zla, a vovse ne tvorit' dlya nas dobro! Ni v odnom Zakone ne skazano, chto robot dolzhen pomogat' cheloveku voplotit' ego ili ee mechty, pomogat' dostich' schast'ya! Ih kasaetsya tol'ko ohrana nas ot raznyh nepriyatnostej, no oni niskol'ko ne zabotyatsya o nashih udovol'stviyah. Preuvelichennaya opeka so storony robotov, postoyannaya zabota o nashej bezopasnosti s malyh let priuchayut lyudej k mysli, chto mudree ne riskovat' - ne to chto ponaprasnu, a voobshche ne riskovat'! I nikto iz nas nikogda ne riskuet! I upuskaet vozmozhnost' dostich' uspeha - iz opaseniya provala, neudachi. Grobovaya tishina, stoyavshaya do sih por v zale, narushilas'. Podnyalsya mnogogolosyj shum, razdalis' otdel'nye nevnyatnye vykriki - vozmushchennye, nedovol'nye, protestuyushchie. Lyudi peregovarivalis' s sosedyami, kachali golovami, vzdyhali. V vozduhe povisla napryazhennost'. Freda zamolchala, glyadya na slushatelej. Ej vnezapno pokazalos', chto komnata stala kak budto men'she. Zadnie ryady pridvinulis', stali zametno blizhe. Lyudi, sidyashchie v perednih ryadah, kazalos', byli teper' v neskol'kih santimetrah ot kafedry. Freda posmotrela na Al'vara Kresha. Ej pokazalos', chto on tak blizko, chto do nego mozhno dotyanut'sya rukoj. Vozduh chut' li ne svetilsya ot nakala strastej, pryamye linii komnaty kak budto izognulis', iskazhaya real'nuyu geometriyu prostranstva. Svet zasiyal yarche, cveta stali nasyshchennej. Freda pochuvstvovala, kak kolotitsya v grudi serdce. Ona kozhej oshchushchala vse emocii sobravshihsya zdes' lyudej. Vozmushchenie, neuverennost', protest, razdrazhenie, zlost', lyubopytstvo, smushchenie - vse eto stalo takim real'nym, osyazaemym. U nee poluchilos'! Kak ni mala byla nadezhda na to, chtoby ubedit' ih, prevratit' v edinomyshlennikov, u nee poluchilos' glavnoe - zadet' ih chuvstva, zastavit' vzglyanut' na samih sebya so storony. Freda zainteresovala ih, i teper' nachnetsya obsuzhdenie skazannogo. Teper' ostaetsya tol'ko zakonchit' vecher bez skandala. Freda zaglyanula v svoi zapisi i snova zagovorila: - My boimsya riskovat'. I chto iz etogo poluchaetsya? Vo vseh oblastyah nauki, krome robotehniki, my ustupili liderstvo poselencam. Da i to, ya uverena, tol'ko potomu, chto poselency imeyut glupost' boyat'sya robotov! - Freda zasomnevalas', sumela li ona vlozhit' v eti slova dostatochno ironii? Trudno skazat'. - No ne tol'ko nauka u nas spit mertvym snom. Vse, bukval'no vse! Novye zdaniya, kotorye vozvodyat nashi roboty, stroyatsya po ustarevshim proektam. Kolonisty ne sozdayut bol'she novyh modelej kosmicheskih korablej ili aerokarov. Net novyh lekarstv i novyh sistem podderzhaniya zhizni. I my bol'she ne vedem issledovanij v otkrytom kosmose. "Pyatidesyati planet vpolne dostatochno" - eto stalo pochti poslovicej. My govorim eto tak zhe, kak "luchshee - vrag horoshego". Odnako Solyariya uzhe samorazrushilas', i u nas ostalos' sorok devyat' mirov vmesto pyatidesyati. I esli na Inferno vse ostanetsya po-prezhnemu, u kolonistov skoro budet tol'ko sorok vosem' planet. Dlya vsego zhivogo prekrashchenie rosta i razvitiya - eto pervyj shag k gibeli! I esli eto tak dlya chelovecheskih civilizacij - my vse v smertel'noj opasnosti! Po vsem pokazatelyam chelovecheskoj zhiznedeyatel'nosti sredi kolonistov linii grafikov medlenno, no neuklonno polzut vniz, hotya po-prezhnemu ne vyhodyat za predely otnositel'noj normy. No my teryaem pochvu pod nogami dazhe v samyh zhiznenno vazhnyh oblastyah! Rozhdaemost' na Inferno eshche dva pokoleniya nazad perestala perekryvat' smertnost', estestvennyj prirost naseleniya uzhe mnogo let vyrazhaetsya v otricatel'nyh cifrah! My zhivem dolgo, no ne vechno! I kolonisty umirayut chashche, chem rozhdayutsya. Naselenie planety neuklonno umen'shaetsya, uzhe mnogo kvartalov v gorode pustuyut. I teh detej, kotorye vse zhe rozhdayutsya, vospityvayut ne lyubyashchie roditeli, a tolpy robotov, kotorye neusypnoj zabotoj i opekoj otryvayut yunyh kolonistov ot ostal'nogo chelovechestva! Poetomu neudivitel'no, chto mnogie iz nas predpochitayut obshchestvo robotov obshchestvu sebe podobnyh. S robotami my chuvstvuem sebya v bezopasnosti, nam uyutnee i priyatnee v ih okruzhenii. Roboty, kotorye besprekoslovno podchinyayutsya nam, zashchishchayut nas ot lyuboj nepriyatnosti - i, konechno zhe, ot samogo opasnogo, chto tol'ko mozhno predstavit', - ot drugih lyudej! Da-da, my neglasno priznaem, chto samoe opasnoe - eto lyudi, takie zhe, kak my sami. Obshchenie s lyud'mi gorazdo opasnee, riskovannee, chem obshchenie s robotami. Predstav'te sebe, sejchas vse bol'she lyudej dazhe polovye potrebnosti udovletvoryayut so special'no prisposoblennymi robotami! |to stalo nastol'ko rasprostranennym yavleniem, chto v nekotoryh krugah takie predpochteniya dazhe ne kazhutsya chem-to neobychnym! Lyudi predpochitayut bezogovorochnuyu pokornost' robotov radostyam obshcheniya s sebe podobnymi! No ved' oni tem samym otkazyvayutsya ot nastoyashchih, zhivyh emocij, estestvennyh chuvstv, nerazryvno svyazannyh s riskom otkaza i obid. Vmesto etogo oni poprostu udovletvoryayut telesnye potrebnosti. My, infernity, pochti zabyli, kak nado derzhat' sebya drug s drugom. Hochu zametit', chto na drugih planetah kolonistov s etim obstoit kuda huzhe. V inyh mirah priverzhennost' k otchuzhdeniyu, kotoruyu my sebe tol'ko pozvolyaem, stala chem-to vrode navyazchivosti, - oni ne mogut inache! Tam lyudi uzhasno stradayut, nahodyas' v odnoj komnate s kem-to eshche. Oni ne v sostoyanii dazhe prosto prikosnut'sya k drugomu cheloveku - iz-za neperedavaemogo otvrashcheniya! Na etih planetah voobshche net gorodov, tol'ko razbrosannye daleko drug ot druga otdel'nye doma, v kotoryh lyudi zhivut poodinochke, okruzhennye tysyachami robotov. Ne stanu dazhe upominat', naskol'ko ploho obstoit vopros s rozhdaemost'yu v takih mirah. No prezhde chem pozdravlyat' drug druga s tem, chto na Inferno vse ne tak ploho, pozvol'te napomnit', chto gorod vse bol'she i bol'she pusteet, naselenie Aida ubyvaet znachitel'no bystree, chem mozhet ob®yasnit' padenie rozhdaemosti. Vse bol'she i bol'she lyudej selyatsya otdel'no, podal'she ot ostal'nyh - kak na teh planetah, o kotoryh ya govorila tol'ko chto! Takie uedinennye doma-kreposti kazhutsya bezopasnee, spokojnee. Naedine s samim soboj chelovek luchshe vsego zashchishchen ot vsyakih volnenij i opasnostej. Druz'ya moi, my dolzhny posmotret' v lico faktam. Pervyj Zakon priuchil nas uklonyat'sya ot lyubyh popytok chto-to predprinyat'. Priuchil nas k tomu, chto vsyakij risk est' zlo, i edinstvennyj sposob izbezhat' opasnosti - nichego ne delat' samim, predostavit' vse svoi zaboty, kakovy by oni ni byli, robotam. I malo-pomalu my ustupaem robotam vse, chem dolzhen byt' chelovek, vse, chto dolzhen chelovek delat'. My pozvolyaem robotam zhit' vmesto nas! Zal otozvalsya vzryvom vykrikov i peresheptyvanij, iz zadnih ryadov, gde sideli ZHeleznogolovye, poslyshalis' ozloblennye, gnevnye vopli: "Poselenka, poselenka, poselenka!" ZHeleznogolovye ne mogli pridumat' hudshego rugatel'stva. Freda pomolchala minutu-druguyu, davaya im vyskazat'sya, vyzhidaya, poka vozmushchennyj zal ne zatihnet sam soboj. |to srabotalo, v konce koncov volnenie uleglos'. K ZHeleznogolovym oborachivalis' drugie slushateli i shikali na nih, chtoby te zamolchali, policejskie Kresha podtyanulis' k zadnim ryadam i prigrozili vyvesti samyh retivyh vozmutitelej spokojstviya. Nakonec ZHeleznogolovye uspokoilis'. - Esli pozvolite, ya prodolzhu. Perejdem teper' ko Vtoromu Zakonu robotehniki: "Robot obyazan podchinyat'sya prikazam cheloveka, esli eti prikazy ne protivorechat Pervomu Zakonu". |tot zakon obespechivaet pokornost' robotov i stavit ih v podchinennoe polozhenie po otnosheniyu k lyubomu cheloveku, hotya roboty vo mnogom razumnee i sil'nee lyudej. No, ishodya iz nashego analiza Pervogo Zakona, my vidim, chto lyudi, vo vsem polagayas' na robotov, popadayut v zavisimost' ot nih. I Vtoroj Zakon tol'ko usilivaet etu zavisimost'. Utrativ zhelanie i vozmozhnost' samim zabotit'sya o svoem blagopoluchii, lyudi perestali byt' sposobnymi na lyubye reshitel'nye dejstviya. My ne mozhem nichego sdelat' dlya sebya, krome kak prikazat' robotam sdelat' to, chto nam nuzhno. I bol'shaya chast' programmy obrazovaniya u nas - obuchenie tomu, kak pravil'no otdavat' prikazaniya robotam, chtoby oni mogli vypolnyat' samye slozhnye zadaniya. CHto iz etogo poluchaetsya: krome iskusstva, kotoroe tem ne menee prishlo v neveroyatnyj upadok, my sejchas ne sozdaem nichego novogo! No esli prismotret'sya, dazhe nashe iskusstvo ne izbezhalo vliyaniya robotov. My ubezhdaem sebya, chto stil' zhizni kolonistov pozvolyaet sozdat' vysshuyu, luchshuyu kul'turu vseh vremen i narodov, osvobozhdaet nas ot neobhodimosti tyazhko trudit'sya, pozvolyaet realizovat' vse luchshie poryvy chelovecheskoj dushi. A chto poluchaetsya na samom dele? Ob®yasnyu na prostom primere. Segodnya my s vami vstretilis' v odnom iz luchshih zalov planety. |to Dvorec iskusstva, gordyj monument sozidatel'nomu tvorchestvu. No kto zdes' sejchas rabotaet? Dlya chego my ispol'zuem etot Dvorec? Otvet ochen' prost. Zdes' hranyatsya mertvye ostatki nashej kul'tury, kotorye roboty sobrali po nashemu prikazu. Nikto bol'she ne stavit spektaklej - ved' eto trebuet slishkom mnogo usilij! YA special'no pointeresovalas' - proshlo dvadcat' let s teh por, kak zdes' poslednij raz stavili p'esu! S teh por ni zdes', ni gde-nibud' eshche v Aide nichego podobnogo ne bylo! A predstavlenie, v kotorom uchastvovali tol'ko aktery-lyudi, davalos' poslednij raz pochti polveka nazad! A potom vse - i glavnye, i vtorostepennye roli v p'esah stali ispolnyat' special'nye roboty-aktery, podobnye lyudyam s vidu i podgotovlennye dlya togo, chtoby vosproizvodit' na scene dejstviya personazhej. I vse ravno eto pokazalos' slishkom slozhnym: upravlyat' robotami-akterami, zadavat' programmy dlya ih rolej. I my skazali sebe: stoit li bespokoit'sya? Mne kazhetsya, chto velikie aktery proshlogo ni za chto ne soglasilis' by otkazat'sya ot tvorchestva. I ni odin direktor teatra ne dopustil by, chtoby vse ego tvorchestvo svodilos' k vyboru p'esy i podhodyashchej gruppy robotov-ispolnitelej. I kogda roboty davali predstavleniya, zachastuyu oni vystupali pered pustym zalom. Milliony i milliony zritelej, kotorye smotreli eti p'esy, predpochitali prosto vklyuchit' televizor, a ne idti v teatr. Doma - privychnee i bezopasnee. I ochen' redko sluchalos', chto hotya by dvadcat' mest v etom zale byli zanyaty lyud'mi. No zal ne kazalsya pustym - ostal'nye kresla zanimali chelovekopodobnye roboty, sposobnye vsego lish' smeyat'sya i hlopat' po komande v nuzhnyh mestah p'esy. Ih nepodvizhnye plastikovye lica dostatochno pohodili na chelovecheskie, chtoby u teh, kto smotrel predstavlenie po televizoru, sozdavalos' nuzhnoe vpechatlenie, kogda kamera povorachivalas' k zalu. I vy, ledi i dzhentl'meny, sideli doma i smotreli na predstavlenie v zale, polnom robotov, glyadevshih na scenu, gde tozhe byli odni tol'ko roboty! Otkuda zhe togda vzyat'sya chelovecheskomu uchastiyu, chelovecheskim chuvstvam, kotorye tol'ko i delayut teatr zhivym?! Segodnya etot zal napolnen nastoyashchimi emociyami, real'nymi chuvstvami. Kak mozhno bylo nadeyat'sya na takoe, esli by vmesto vas zdes' sideli bezdushnye manekeny, zaprogrammirovannye otvechat' opredelennym obrazom na slova i dejstviya drugih bezdushnyh manekenov na scene?! V otvet - nelovkaya tishina. Freda zametila, chto nekotorye slushateli dazhe nachali oglyadyvat'sya po storonam, chtoby ubedit'sya, chto ryadom sidyat nastoyashchie zhivye lyudi, a ne roboty-manekeny. - I v ostal'nyh vidah iskusstva - to zhe samoe. V nashih kartinnyh galereyah vystavleny polotna, napisannye robotami "po zadaniyu" nominal'nyh avtorov-lyudej. Pisateli nadiktovyvayut primernye zadumki svoih knig robotam-"pomoshchnikam", kotorye potom vydayut gotovye proizvedeniya, neskol'ko "rasshiriv" nametki "avtorov". Dolzhna skazat', chto i po sej den' est' eshche istinnye hudozhniki, skul'ptory, pisateli i poety, kotorye tvoryat sami. No ne znayu, kak dolgo eto budet prodolzhat'sya. Iskusstvo vyrozhdaetsya. Priznayus', moi issledovaniya v etoj oblasti nepolny. Prezhde chem vystupit' zdes', ya interesovalas', znayut li lyudi, kotoroe iz proizvedenij iskusstva sozdano robotami, a kotoroe net. I dolzhna priznat', chto malo kto obrashchaet na eto vnimanie. |to ochen' pechal'no, druz'ya moi! YA ne uznala i ne uznayu, chitaet li kto-nibud' eti knigi, lyubuetsya li kartinami. I ne znayu, chto huzhe: pustye uprazhneniya v nikomu ne nuzhnom psevdotvorchestve ili bessmyslennaya sharada, kotoraya prodolzhaetsya, hotya nikomu do nee net dela. Vryad li eto znayut i sami psevdohudozhniki i pisateli. Kak i vo vsem nashem obshchestve, v iskusstve ne mozhet byt' nakazaniya za oshibku, kak ne mozhet byt' i nagrady za uspeh! Ved' poskol'ku uspeh prinosit edva li ne bol'she perezhivanij, chem neudacha, zachem voobshche k nemu stremit'sya? K chemu vse eto, esli est' roboty, kotorye v lyubom sluchae obo vsem pozabotyatsya? Freda otpila eshche glotok vody i vypryamilas' za kafedroj. Poka vse idet kak nado. No chto tut nachnetsya, kogda ona perejdet k sleduyushchej chasti lekcii? - I Tretij Zakon: "Robot dolzhen zabotit'sya o svoej bezopasnosti, poka eto ne protivorechit Pervomu i Vtoromu Zakonam". Iz vseh Treh zakonov etot men'she vsego kasaetsya otnoshenij mezhdu lyud'mi i robotami. |to edinstvennyj Zakon, ostavlyayushchij robotam svobodu dejstvij; ya snova k etomu vozvrashchayus'. Soglasno Tret'emu Zakonu roboty sledyat za sobstvennoj sohrannost'yu, ispravlyayut svoi povrezhdeniya i nepoladki, esli tol'ko ih voobshche mozhno ispravit'. |to oznachaet, chto prodolzhit