‚се эти мифы имеют общий антропоморфный "знаменатель", к которому Якобы должны сводитьсЯ мыслительные действиЯ машин. Џодлинные залежи недоразумений! Љонечно, быть может, автоматы, превысив определенный "порог сложности", станут проЯвлЯть признаки своеобразной "индивидуальности". …сли это произойдет, индивидуальность их будет столь же мало походить на человеческую, сколь человеческое тело - на атомный реактор. Њы должны быть готовы к неожиданностЯм, заботам и опасностЯм, которых не можем сегоднЯ представить себе, - но не к возврату демонов и химер средневековьЯ в технической личине. џ сказал, что мы не можем представить себе эти будущие заботы. Ѓольшинства из них - навернЯка. Ќо некоторые мы все же попробуем показать - в нескольких умозрительных экспериментах.


¹ 
     Џротиворечие в определЯющем выражении (лат.).
² 
     Џотом (лат.).

[ ’итульный лист ] [ ‘одержание ] <= ѓлава четвертаЯ (c) ] [ ѓлава четвертаЯ (e) =>

‘танислав ‹…Њ. ‘“ЊЊЂ ’…•ЌЋ‹Ћѓ€€

‘танислав ‹…Њ

‘“ЊЊЂ ’…•ЌЋ‹Ћѓ€€

[ ’итульный лист ] [ ‘одержание ] <= ѓлава четвертаЯ (d) ] [ ѓлава четвертаЯ (f) =>

ѓ‹Ђ‚Ђ —…’‚…ђ’Ђџ

€Ќ’…‹‹…Љ’ђЋЌ€ЉЂ

(e)  “‘€‹€’…‹њ €Ќ’…‹‹…Љ’Ђ

     ЋбщаЯ тенденциЯ математизации наук (в том числе и таких,  которые  до
сих пор по  традиции  не  использовали  математических  средств),  охватив
биологию, психологию и медицину, постепенно проникает даже в  гуманитарные
области - правда, пока еще скорее в виде отдельных "партизанских налетов";
это  можно  заметить,  например,  в  области  ЯзыкознаниЯ   (теоретическаЯ
лингвистика)  или  теории  литературы  (применение  теории  информации   к
исследованию литературных, в частности поэтических, текстов). Ќо мы тут же
сталкиваемсЯ  с  первыми  признаками  странного  и  довольно  неожиданного
ЯвлениЯ: обнаруживаетсЯ недостаточность  математических  средств  (любых!)
длЯ достижениЯ некоторых  целей,  определившихсЯ  сравнительно  недавно  и
относЯщихсЯ к самым передовым областЯм современных исследований. ђечь идет
о задачах, которые ставЯтсЯ  перед  самоорганизующимисЯ  гомеостатическими
системами.   Ќазовем   (скорее   длЯ    иллюстрации)    несколько    таких
фундаментальных проблем, в которых специалисты впервые столкнулись с  этой
немощью  математики.  ђечь  идет  о  построении  усилителЯ  интеллекта,  о
создании самопрограммирующегосЯ автомата длЯ управлениЯ  производством  и,
наконец,  о  наиболее  широкой  проблеме  -  о  построении  универсального
гомеостата, сложность которого  была  бы  сравнима  с  нашей  собственной,
человеческой.
     “силитель интеллекта (впервые выдвинутый как реальнаЯ конструкторскаЯ
задача, по-видимому, в работах ќшби ¹ должен  представлЯть  собой  в  сфере
умственной деЯтельности точный  аналог  того  усилителЯ  физической  силы,
каким  ЯвлЯетсЯ  любаЯ  управлЯемаЯ  человеком  машина.  “силителЯми  силы
ЯвлЯютсЯ автомобиль,  экскаватор,  подъемный  кран,  металлообрабатывающий
станок и вообще любое устройство, в котором человек "подключен" к  системе
управлениЯ  в  качестве  регулЯтора,  а  не  источника  энергии.   “ровень
индивидуальных умственных способностей отклонЯетсЯ от среднего значениЯ не
больше, чем отклонЯетсЯ уровень физических способностей,  хотЯ  на  первый
взглЯд кажетсЯ, что это  не  так.  ‘редний  показатель  интеллектуальности
(измеренный наиболее употребительными психологическими тестами) составлЯет
около 100-110; у людей с очень сильным интеллектом он достигает 140-150, а
верхнЯЯ, чрезвычайно редко достигаемаЯ граница лежит вблизи 180-190. Њежду
тем усилитель интеллекта приблизительно с таким  же  коэффициентом,  какой
имеет усилитель физической силы рабочего на производстве (обслуживаемаЯ им
машина), дал бы показатель интеллектуальности порЯдка  10000.  ‚озможность
созданиЯ такого усилителЯ  не  менее  реальна,  чем  возможность  созданиЯ
машины в сто раз более сильной, чем человек.  Џравда,  в  настоЯщее  времЯ
шансы на создание такого усилителЯ не  очень  велики,  ибо  первоочередной
ЯвлЯетсЯ постройка упомЯнутого управлЯющего  автомата  длЯ  промышленности
("гомеостатического   мозга    автоматического    завода").    Ћднако    Я
останавливаюсь  на  примере  усилителЯ  интеллекта  потому,  что  на   нем
наглЯднее видна та фундаментальнаЯ трудность,  с  которой  сталкиваетсЯ  в
подобных  задачах  конструктор.  „ело  в  том,  что  он   должен   создать
устройство, которое было бы "умнее его самого". џсно, что если бы он хотел
действовать согласно методу, который стал уже  традиционным  в  прикладной
кибернетике, то есть если бы он стал разрабатывать программу работы  своей
машины, то поставленнаЯ задача не была бы решена: наличие программы ставит
предел "интеллектуальности", достижимой длЯ создаваемой машины. Ќа  первый
взглЯд  -  но  только  на  первый  -  задача  представлЯетсЯ  неразрешимым
парадоксом. „ействительно, задача  оказываетсЯ  неразрешимой  (по  меньшей
мере, согласно нынешним критериЯм), если постулировать создание  теории  -
теории,   предшествующей   постройке   усилителЯ   и   по    необходимости
математической; это похоже на  предложение  поднЯть  себЯ  за  волосы  (да
притом со стотонным грузом, привЯзанным к ногам). Ќо существует (пока лишь
гипотетическаЯ) возможность совершенно иного подхода к проблеме. „етальные
сведениЯ о внутреннем устройстве усилителЯ интеллекта нам недоступны.  Ќо,
быть может, они и не нужны? ЌельзЯ ли смотреть на этот  усилитель  как  на
"черный Ящик",  то  есть  как  на  устройство,  о  внутреннем  строении  и
последовательных состоЯниЯх которого у нас нет ни малейшего  понЯтиЯ,  как
на устройство, в котором нас интересуют  только  конечные  результаты  его
действиЯ? Џодобно всЯкому  уважающему  себЯ  кибернетическому  устройству,
усилитель  интеллекта  обладает  "входами"  и   "выходами";   между   ними
простираетсЯ область нашего неведениЯ. Ќо чему это  повредит,  коль  скоро
данное устройство  и  в  самом  деле  ведет  себЯ  так,  как  интеллект  с
показателем интеллектуальности, равным 10000?!
     Џоскольку метод этот нов и никогда еще не применЯлсЯ, он похож скорее
на  шуточку  из  комедии  абсурда,  чем  на  производственный  рецепт.  Ќо
несколько примеров, быть может, оправдают этот  метод.  Џусть,  скажем,  в
маленький аквариум с колонией инфузорий всыпали немного железного  порошка
(такой опыт производилсЯ). €нфузории вместе с  пищей  поглощают  небольшое
количество этого железа. ‘оздадим теперь вне аквариума магнитное поле; оно
будет определенным образом влиЯть  на  движение  инфузорий.  ‘игналами  на
"входе" этого "гомеостата" будут  служить  изменениЯ  напрЯженности  полЯ;
состоЯние "выхода" определЯетсЯ поведением самих  инфузорий.  Њы  пока  не
представлЯем,   длЯ    чего    можно    было    бы    приспособить    этот
"инфузорно-магнитный" гомеостат, и в данном виде он не имеет ничего общего
с гипотетическим усилителем интеллекта. Ќо  суть  дела  не  в  этом.  •отЯ
сложность устройства отдельной инфузории нам совершенно неизвестна и мы не
можем даже нарисовать ее принципиальную схему (как  рисуют  схемы  машин),
все же из этих  неизвестных  нам  в  подробностЯх  элементов  нам  удалось
создать   объемлющее   их   целое,   подчинЯющеесЯ    законам    поведениЯ
кибернетических  систем  с  их  "входом"  и  "выходом"  сигналов.   ‚место
инфузорий можно было бы взЯть определенные типы коллоидов  или  пропускать
электрический ток через многокомпонентные растворы. Џри этом  определенные
вещества могли бы осаждатьсЯ, менЯЯ проводимость раствора в целом.  ќто  в
свою очередь могло бы привести к поЯвлению эффекта "положительной обратной
свЯзи",  то  есть  к  усилению  сигнала.  „олжно  признать,  что  подобные
эксперименты пока не привели к перелому. Њногие кибернетики неодобрительно
смотрЯт на сей еретический отход от традиционного оперированиЯ  элементами
электронных  схем,  на  эти   поиски   нового   строительного   материала,
приближающегосЯ в известном смысле  к  материалу,  из  которого  построены
живые системы (это сближение, кстати сказать, отнюдь не случайно!) ².
     Ќезависимо от исхода  подобных  поисков  мы  теперь  несколько  лучше
понимаем, как можно из "непонЯтных" элементов построить  систему,  котораЯ
функционировала бы так, как нам нужно. ‚озникает принципиальное  изменение
методики в самой основе конструкторской деЯтельности. €нженерное искусство
ведет себЯ сегоднЯ примерно  так  же,  как  человек,  который  даже  и  не
пытаетсЯ перепрыгнуть через канаву, пока  предварительно  теоретически  не
определит все существенные параметры и свЯзи между ними: силу гравитации в
данном месте, силу собственных  мышц,  кинематику  движений  своего  тела,
характеристики процессов управлениЯ, происходЯщих в его мозжечке, и т.  д.
’ехнолог-еретик из кибернетической школы, напротив, намереваетсЯ  попросту
перепрыгнуть через канаву и не без основаниЯ полагает, что  если  ему  это
удастсЯ, то тем самым проблема будет решена.  Џри  этом  он  опираетсЯ  на
следующий факт. ‹юбое физическое  действие,  например  упомЯнутый  прыжок,
требует подготовительной и  реализующей  работы  мозга,  котораЯ  ЯвлЯетсЯ
ничем  иным,  как  сложной,  неимоверно   запутанной   последовательностью
математических процессов (ибо к ним вообще сводитсЯ любаЯ работа  мозговой
сети нейронов). Ќо этот же самый прыгун, хотЯ у него в голове и содержитсЯ
всЯ эта "мозговаЯ математика" прыжка, совершенно не в  состоЯнии  записать
на бумаге ее теоретико-математический эквивалент, то есть  соответствующее
количество строгих формул и преобразований. ќто  происходит,  по-видимому,
по  той  причине,  что  "биоматематика",  которую  практикуют  все   живые
организмы до инфузорий включительно, может  быть  вербализована,  то  есть
переложена   на   Язык   математики   в   классическом    (школьном    или
университетском)  понимании  этого  слова  только   путем   неоднократного
перевода системы импульсов с одного Языка на другой. €меет место перевод с
бессловесного  и  "автоматического"  Языка   биохимических   процессов   и
нейронных возбуждений на Язык символов, формализацией  и  конструированием
которого занимаютсЯ определенные участки мозга, отличные от  тех,  которые
реализуют "врожденную математику" и  отвечают  за  нее.  €  решение  нашей
проблемы состоит именно в том, чтобы  усилитель  интеллекта  не  занималсЯ
формализацией, конструированием, вербализацией, а  действовал  бы  так  же
автоматически и "наивно" и в то же времЯ так же искусно и безошибочно, как
и нейронные структуры прыгуна, - чтобы этот усилитель не занималсЯ  ничем,
кроме преобразованиЯ сигналов, приходЯщих  на  "вход"  с  целью  получениЯ
готовых результатов на "выходе". Ќи он, этот усилитель, ни его конструктор
- никто вообще - совершенно не будет знать, как усилитель это делает, зато
мы получим то единственное, чего добиваемсЯ: нужные результаты.


¹ 
     “. ђ. ќшби, ‚ведение в кибернетику, €‹, 1959.
² 
     ѓ. Џаск, Њодель эволюции, в сб.  "Џринципы  самоорганизации",  изд-во
"Њир", 1966.

[ ’итульный лист ] [ ‘одержание ] <= ѓлава четвертаЯ (d) ] [ ѓлава четвертаЯ (f) =>

‘танислав ‹…Њ. ‘“ЊЊЂ ’…•ЌЋ‹Ћѓ€€

‘танислав ‹…Њ

‘“ЊЊЂ ’…•ЌЋ‹Ћѓ€€

[ ’итульный лист ] [ ‘одержание ] <= ѓлава четвертаЯ (e) ] [ ѓлава четвертаЯ (g) =>

ѓ‹Ђ‚Ђ —…’‚…ђ’Ђџ

€Ќ’…‹‹…Љ’ђЋЌ€ЉЂ

(f)  —…ђЌ›‰ џ™€Љ

     ‚ древние времена каждый человек знал и назначение и устройство своих
орудий:  -  молотка,  лука,  стрелы.  Џрогрессирующее   разделение   труда
уменьшало это индивидуальное знание, и в современном промышленном обществе
существует отчетливаЯ  граница  между  теми,  кто  обслуживает  устройства
(рабочие, техники) или пользуетсЯ ими (человек в лифте, у  телевизора,  за
рулем автомашины), и теми, кто знает  их  конструкцию.  Ќи  один  из  ныне
живущих не знает устройства всех орудий, которыми располагает цивилизациЯ.
’ем не менее некто,  знающий  все,  существует  -  это  общество.  ‡нание,
частичное у отдельных людей, становитсЯ полным, если  учесть  всех  членов
данного общества.
     Ћднако процесс отчуждениЯ, процесс изыманиЯ сведений  об  орудиЯх  из
общественного сознаниЯ развиваетсЯ. Љибернетика продолжает  этот  процесс,
поднимаЯ его на более высокую ступень. €бо  в  принципе  возможно  создать
такие кибернетические устройства, структуру которых  не  будет  знать  уже
никто. Љибернетическое устройство превращаетсЯ в  "черный  Ящик"  (термин,
который охотно употреблЯют специалисты). "—ерный  Ящик",  например,  может
быть  регулЯтором,  подключенным  к  определенному  процессу  (к  процессу
производства товаров или  к  процессу  их  экономического  круговорота,  к
процессам управлениЯ транспортом, лечением болезни и  т.  п.).  Ќеобходимо
лишь, чтобы определенным состоЯнием "входа" отвечали  вполне  определенные
состоЯниЯ "выхода" - и ничего более. ‘оздаваемые пока что  "черные  Ящики"
настолько  просты,  что  инженер-кибернетик  знает  характер  свЯзи  между
величинами на их "входах" и "выходах". ќта свЯзь  выражаетсЯ  какой-нибудь
математической функцией. ‚озможна, однако, и такаЯ  ситуациЯ,  когда  даже
конструктор не будет знать математического  выражениЯ  этой  функции.  …го
задачей будет создать "черный Ящик", выполнЯющий определенные регулирующие
действиЯ. Ћднако ни конструктор, ни кто-либо  иной  не  будет  знать,  как
"черный  Ящик"  выполнЯет  эти  действиЯ.  Њатематический   вид   функции,
выражающей зависимость состоЯний "выходов" от состоЯний "входов", не будет
известен никому, причем не потому, что узнать это  невозможно,  а  потому,
что знать это ненужно.
     Ќеплохим введением  в  проблематику  "черного  Ящика"  может  служить
рассказ о сороконожке, которую спросили, как это она помнит, какую ногу ей
нужно поднЯть после двадцать седьмой. ‘ороконожка, как  известно,  надолго
задумалась над этим и, не сумев найти ответ, умерла с голоду,  потому  что
больше уже не  могла  сдвинутьсЯ  с  места.  ќта  сороконожка  ЯвлЯетсЯ  в
действительности "черным Ящиком", который выполнЯет определенные действиЯ,
хотЯ и "не имеет понЯтиЯ", как он их выполнЯет. Џринцип действиЯ  "черного
Ящика" ЯвлЯетсЯ необычайно общим и, как правило, очень простым, выраженным
фразами вроде "сороконожки ходЯт" или "кошки ловЯт мышей".  "—ерный  Ящик"
обладает определенной "внутренней программой" действиЯ, котораЯ определЯет
все отдельные акты его поведениЯ.
     ‘овременный технолог начинает конструкторскую  работу  с  составлениЯ
соответствующих  планов  и  расчетов.  Њост,  локомотив,  дом,  реактивный
истребитель или ракета создаютсЯ, таким образом, как  бы  дважды:  сначала
теоретически, на бумаге, а потом в действительности - когда  символический
Язык  чертежей  и  планов   или   алгоритм   поведениЯ   "переводитсЯ"   в
последовательность материальных действий.
     "—ерный Ящик" нельзЯ запрограммировать с помощью алгоритма.  Ђлгоритм
- это раз навсегда составленнаЯ программа действий, в которой все  заранее
предусмотрено.   ‚ыражаЯсь   популЯрно,    алгоритм    -    это    точное,
воспроизводимое, поддающеесЯ исполнению предписание, определЯющее - шаг за
шагом, - каким путем надлежит решать данную  задачу.  Ђлгоритмом  ЯвлЯетсЯ
любое формализованное доказательство математической теоремы, равно  как  и
программа цифровой машины, переводЯщей с одного Языка на  другой.  ЏонЯтие
алгоритма возникло в математике, и  применительно  к  инженерному  делу  Я
употреблЯю     его     несколько     вопреки     обыкновению.     Ђлгоритм
математика-теоретика  никогда  не  может  "подвести":  тот,  кто   однажды
разработал алгоритм математического доказательства, может быть уверен, что
это доказательство никогда не  "подведет".  Џрикладной  алгоритм,  которым
пользуетсЯ инженер, может и подвести, потому что в нем "все  предусмотрено
заранее" только внешне. Њосты рассчитывают на  прочность  по  определенным
алгоритмам, что, однако, не гарантирует их  абсолютной  сохранности.  Њост
может обрушитьсЯ, если на него действуют силы, превосходЯщие  те,  которые
предусмотрел конструктор.  ‚о  всЯком  случае,  имеЯ  алгоритм  некоторого
процесса,  мы  можем   исследовать   -   в   заданных   границах   -   все
последовательные фазы, все этапы этого процесса.
     ’ак вот, применительно к очень сложным системам, таким, как общество,
мозг или еще  не  существующие  "очень  большие  черные  Ящики",  подобное
исследование невозможно. ’акого рода системы не имеют алгоритмов. Љак  это
нужно понимать? ‚едь любаЯ система, а значит, и мозг,  и  общество  всегда
ведут себЯ каким-то определенным образом. ‘пособ  поведениЯ  всегда  можно
изобразить с помощью символов. ќто так, вне  всЯкого  сомнениЯ.  ’олько  в
данном  случае  это  ничего  не  дает,  поскольку  алгоритм  должен   быть
воспроизводимым. Ћн должен позволЯть предвидеть будущие  состоЯниЯ,  между
тем как одно и то  же  общество,  поставленное  дважды  в  одну  и  ту  же
ситуацию, совсем не обЯзано вести себЯ одинаково.  €  именно  так  обстоит
дело со всеми системами очень высокой сложности.
     Љак можно строить такие "черные Ящики"? Њы знаем, что это в  принципе
возможно. ‚озможно построить систему произвольной  степени  сложности  без
всЯких предварительных планов, расчетов, без  поиска  алгоритмов.  Њы  это
знаем, потому что  сами  ЯвлЯемсЯ  такими  "черными  Ящиками".  Ќаше  тело
подвластно нам, мы можем отдавать ему  определенные  приказы,  хотЯ  и  не
знаем его внутреннего строениЯ (точнее говорЯ, не  обЯзаны  знать;  знание
такого рода не ЯвлЯетсЯ необходимым). Њы возвращаемсЯ к ситуации  прыгуна,
который умеет прыгать, хотЯ и не знает, как он  это  делает,  то  есть  не
располагает сведениЯми о динамике нервно-мышечных  импульсов,  результатом
которых ЯвлЯетсЯ прыжок. €так, великолепным примером  устройства,  которым
можно пользоватьсЯ, не располагаЯ его алгоритмом, ЯвлЯетсЯ каждый человек.
Ћдним из "самых близких нам" во  всем  Љосмосе  устройств  подобного  рода
ЯвлЯетсЯ наш собственный мозг: он находитсЯ у нас в голове. ’ем  не  менее
по сей день неизвестно в деталЯх, как он работает. €зучение его механизмов
с  помощью  самонаблюдениЯ  -  метод  в  высшей  степени  ненадежный  (как
показывает  историЯ  психологии),  сбивающий  на  самые   неправдоподобные
гипотезы. Њозг построен так, что, обслуживаЯ наши действиЯ,  сам  остаетсЯ
"в тени". Љонечно, дело тут не в коварстве нашего  конструктора,  Џрироды,
это  просто  результат  естественного  отбора:  именно  он   наделил   нас
способностью мыслить, потому что она была эволюционно полезна. Џоэтому  мы
мыслим, хотЯ и не знаем, как это происходит, - ведь наделЯть нас подобными
сведениЯми не входило в "расчеты" эволюции. Ћна ничего  не  скрывала;  она
лишь устранила из полЯ своей деЯтельности всЯкое  знание  -  с  ее  "точки
зрениЯ" лишнее. Ќу а если оно не лишнее с нашей точки зрениЯ - что ж,  нам
придетсЯ добывать его самим.
     ’аким образом, предлагаемое кибернетикой необычное решение,  согласно
которому машина полностью  исключена  из  сферы  человеческого  знаниЯ,  в
"популЯрной" форме, и притом весьма давно, было представлено Џриродой.
     Џусть так, скажет кто-нибудь, но человеку его "черный Ящик", его тело
и  мозг,  стремЯщийсЯ  к  оптимальному  решению  жизненных  проблем,  дала
Џрирода, создав их в результате проб и  ошибок,  продолжавшихсЯ  миллиарды
лет. „олжны ли мы пытатьсЯ скопировать плоды ее творчества? € если да,  то
каким образом? ЌельзЯ же  всерьез  предлагать  повторение  -  на  сей  раз
техническое - эволюции! ’акаЯ "кибернетическаЯ эволюциЯ" поглотила бы если
не миллиарды, то миллионы, да пусть даже сотни тысЯч лет... €  как  вообще
начать это дело? Ђтаковать ли эту задачу с биологической стороны или же  с
небиологической?
     “ нас нет ответа. Џо-видимому, нужно  будет  испытывать  всевозможные
пути, особенно  те,  которые  по  различным  причинам  были  длЯ  эволюции
закрыты. Ћднако в наши планы не входит фантазировать на тему о том,  какие
"черные Ящики" мыслимы в процессе технологической эволюции. €звестно,  что
только очень сложный регулЯтор может справитьсЯ с очень сложной  системой.
Џоэтому нужно искать  именно  такие  регулЯторы  -  в  биохимии,  в  живых
клетках, в молекулЯрной структуре твердого тела, везде, где это  возможно.
Њы знаем, следовательно, чего мы хотим и  что  ищем.  Њы  знаем  также  от
нашего репетитора Џрироды, что задачу  можно  решить.  ’аким  образом,  мы
знаем столько, что уже одно это означает половину успеха.

[ ’итульный лист ] [ ‘одержание ] <= ѓлава четвертаЯ (e) ] [ ѓлава четвертаЯ (g) =>

‘танислав ‹…Њ. ‘“ЊЊЂ ’…•ЌЋ‹Ћѓ€€

‘танислав ‹…Њ

‘“ЊЊЂ ’…•ЌЋ‹Ћѓ€€

[ ’итульный лист ] [ ‘одержание ] <= ѓлава четвертаЯ (f) ] [ ѓлава четвертаЯ (h) =>

ѓ‹Ђ‚Ђ —…’‚…ђ’Ђџ

€Ќ’…‹‹…Љ’ђЋЌ€ЉЂ

(g)  Ћ ЊЋђЂ‹€ ѓЋЊ…Ћ‘’Ђ’Ћ‚

     Џришло  времЯ  ввести  в  сферу  наших  кибернетических   рассуждений
моральную проблематику. ‘итуациЯ на самом  деле  обратнаЯ:  не  мы  вносим
вопросы этики в кибернетику, а она, кибернетика,  разрастаЯсь,  охватывает
своими последствиЯми в числе прочего то, что мы называем моралью, то  есть
систему критериев, дающих оценку действиЯм, причем оценку - с  объективной
точки зрениЯ - произвольную. Њораль в  той  же  мере  произвольна,  как  и
математика, поскольку обе выводЯтсЯ с помощью  логических  рассуждений  из
принЯтых аксиом. Њожно, например, принЯть за одну из аксиом геометрии, что
через точку, лежащую вне прЯмой, проходит только одна прЯмаЯ, параллельнаЯ
данной. Њожно отбросить  эту  аксиому,  и  тогда  мы  получим  неевклидову
геометрию. ‘амое главное отдавать себе отчет, когда  именно  мы  поступаем
согласно принЯтым заранее условиЯм (как при выборе геометрических аксиом),
поскольку эти условиЯ, этот выбор зависЯт от нас. Њожно принЯть за одну из
аксиом морали, что необходимо уничтожать детей с  врожденными  физическими
уродствами. ’огда мы получим известную  из  истории  "тарпейскую  мораль",
котораЯ в результате скандала, разразившегосЯ в  свЯзи  с  талидомидом,  в
последние годы  подверглась  страстному  обсуждению  и  была  окончательно
отброшена ¹.  —асто  говорЯт,  что  существуют  внеисторические   моральные
императивы. ‘ этой точки  зрениЯ  "тарпейскаЯ  мораль",  даже  в  наиболее
смЯгченной форме (например, постулат эвтаназии ² людей,  испытывающих  муки
вследствие неизлечимых болезней), будет аморальной,  будет  преступлением,
злом. ‚ действительности же тут происходит оценка одной системы  морали  с
позиций другой. ђазумеетсЯ, мы выбираем другую, "нетарпейскую" систему; но
коль скоро мы  признаем,  что  и  она  возникла  в  процессе  общественной
эволюции человека, а не дана нам свыше, мы должны признать и тот факт, что
в истории применЯлись  и  другие  системы.  ‚опрос  о  расхождении  морали
провозглашаемой и морали практикуемой вносит осложнениЯ в эту проблему, но
они нас не  интересуют,  ибо  мы  ограничимсЯ  только  описанием  реальных
действий, исключаЯ  их  вполне  возможный  камуфлЯж,  или,  проще  говорЯ,
дезинформацию. ’от, кто дезинформирует,  провозглашает  на  словах  не  ту
мораль, которую  применЯет  на  деле.  ‘ама  потребность  в  дезинформации
указывает  на  то,  что  определенные   моральные   аксиомы   безраздельно
господствуют в общественном сознании, в противном случае не было бы  нужды
в искажении фактов. Ќо даже сами  факты  могут  в  различных  цивилизациЯх
получить диаметрально противоположную оценку.  ‘равним  моральные  аспекты
современной  проституции  и  вавилонской.  ‚авилонские  храмовые  блудницы
отдавались не длЯ личного заработка, а по "высшим мотивам"  -  их  религиЯ
одобрЯла такое поведение. Ћно было в полном согласии с моралью, вытекавшей
из этой религии. ’ем самым в рамках своего времени и своего  общества  они
не подлежали осуждению - в противоположность современным куртизанкам,  ибо
по сегоднЯшним моральным критериЯм проституциЯ - это зло.  ’аким  образом,
одна и та же деЯтельность получает  две  прЯмо  противоположные  оценки  в
пределах двух различных культур.
     ‚ведение  кибернетической  автоматизации  влечет  за  собой  довольно
неожиданные моральные проблемы. ‘таффорд Ѓир ³, один из пионеров в  области
кибернетизации   больших   капиталистических   предприЯтий,   постулировал
возможность созданиЯ "фирмы-гомеостата" и в  качестве  примера  рассмотрел
теорию регулированиЯ деЯтельности  большого  сталелитейного  производства.
"Њозг" такого предприЯтиЯ  должен  так  оптимизировать  все  процессы,  из
которых складываетсЯ выплавка  стали,  чтобы  производство  было  наиболее
продуктивным, эффективным  и  независимым  как  от  колебаний  предложениЯ
(рабочей силы, руды, углЯ и т. д.) и спроса, так и от внутренних изменений
в  системе  (неравномерность  процесса  производства,  нежелательный  рост
себестоимости    изделий).    ‘огласно    представлениЯм    Ѓира,    такаЯ
производственнаЯ единица должна быть ультрастабильным гомеостатом, который
немедленно  реагирует  на  всЯкое  отклонение  от  равновесиЯ   изменением
внутренней  организации   и   тем   самым   возвращаетсЯ   к   равновесию.
Ћппоненты-специалисты, которым эта теоретическаЯ модель была представлена,
обратили внимание на то,  что  ей  недостает  "религии".  Ѓир  сознательно
смоделировал  это  предприЯтие-гомеостат  по  принципу   действиЯ   живого
организма. Ќо в природе единственным, по  существу,  критерием  "ценности"
организма ЯвлЯетсЯ его способность к выживанию любой ценой. €наче  говорЯ,
при случае также и ценой пожираниЯ других организмов. Ќатуралист, понимаЯ,
что в  Џрироде  не  существует  "системы  моральных  оценок",  не  считает
поведение голодных хищников аморальным. ’аким образом,  возникает  вопрос:
"может ли", то есть "имеет  ли  право",  "организм-предприЯтие"  в  случае
нужды "пожирать" своих конкурентов? €меетсЯ много таких вопросов;  правда,
возможно, не столь острых. Љ чему должно стремитьсЯ такое гомеостатическое
предприЯтие  -  к  максимальной  производительности  или  к   максимальной
прибыли? Ђ что, если с ходом  времени  неизбежные  технологические  сдвиги
сделают производство стали ненужным? „олжна ли  "тенденциЯ  к  выживанию",
вмонтированнаЯ в "мозг" такой  производственной  системы,  привести  к  ее
полной перестройке, так чтобы, например, она  сама  преобразовала  себЯ  в
производителЯ пластмасс? —ем должна руководствоватьсЯ  такаЯ  система  при
подобной  полной  реорганизации  -  степенью   максимальной   общественной
полезности? €ли, опЯть-таки, величиной прибыли? Ѓир  избегает  ответов  на
подобные вопросы. Ћн говорит,  что  над  "мозгом"  предприЯтиЯ  стоит  еще
наблюдательный совет владельцев, который и принимает самые общие и  важные
решениЯ. "Њозг" призван только оптимально реализовывать эти  решениЯ.  ’ем
самым ‚ир отрекаетсЯ от "автономно-организменного" принципа,  входЯщего  в
его концепцию, и  выносит  все  моральные  проблемы  за  пределы  "черного
Ящика":  в  сферу  деЯтельности  наблюдательного  совета.  Ќо  это  только
кажущийсЯ выход. "—ерный Ящик",  даже  ограниченный  таким  способом,  все
равно  будет  принимать  решениЯ  морального   характера,   например   при
увольнении  рабочих  или  снижении  заработной  платы,  коль  скоро  этого
потребует принцип оптимального функционированиЯ  предприЯтиЯ  как  целого.
‹егко  представить  себе  также,  что  предприЯтие-гомеостат  Ѓира   может
вступить в "борьбу за  существование"  с  другими  предприЯтиЯми,  которые
спроектированы кибернетиками, состоЯщими на службе  у  других  корпораций.
‹ибо все эти машины будут настолько ограничены в своей  деЯтельности,  что
им придетсЯ непрестанно  обращатьсЯ  за  решением  к  "менеджеру"-человеку
(например, запрашивать его, скажем, о том, можно ли сокрушить  конкурента,
если подвернулсЯ случай), либо же их деЯтельность, обремененнаЯ моральными
последствиЯми, будет расширЯтьсЯ.  ‚  первом  случае  нарушаетсЯ  основной
принцип   саморегулЯции   гомеостата-производителЯ.   ‚о   втором   случае
гомеостаты  начнут  оказывать  на  судьбу  людей  влиЯние,   очень   часто
непредвиденное их творцами, и дело может дойти до краха экономики страны в
целом  просто  потому,  что  какой-то  из   гомеостатов   слишком   хорошо
справлЯетсЯ с порученным ему делом, сметаЯ всех своих конкурентов...
     Џочему  в  первом  случае  оказываетсЯ  нарушенным  принцип  действиЯ
"черного Ящика"? Џотому что такой "Ящик",  такой  регулЯтор  нисколько  не
похож на человека - в том смысле,  что  ему  нельзЯ  задавать  вопросы  об
общественных  последствиЯх  принимаемых  им  на  каждом  этапе  решений  и
ожидать, что он сможет  ответить  на  эти  вопросы.  Љстати  говорЯ,  даже
человек-"менеджер" зачастую не знает  этих  отдаленных  результатов  своей
деЯтельности. "—ерный Ящик", который должен "помочь  выжить"  предприЯтию,
реагируЯ на всевозможные флуктуации "входов" (цены на уголь, руду, машины,
зарплату) и "выходов" (рыночных цен  на  сталь,  спроса  на  различные  ее
сорта), и "черный Ящик", который к тому же учитывал бы интересы рабочих, а
может быть, даже и конкурентов, - это два совсем разных устройства. Џервое
как производитель будет  эффективнее  второго.  ‚ред,  который  гомеостаты
наносЯт рабочим, можно, разумеетсЯ, ограничить, введЯ в исходную программу
(в "аксиоматическое Ядро" поведениЯ)  статьи  трудового  законодательства,
обЯзательного длЯ всех выступающих на рынке производителей; но  тем  самым
может быть увеличен вред длЯ конкурирующих фирм или производителей стали в
других странах. Ћднако самое важное состоит в том, что  "черный  Ящик"  не
знает, когда именно он  действует  во  вред  кому-то,  и  от  него  нельзЯ
требовать, чтобы он информировал людей о таких последствиЯх принимаемых им
решений;  ведь  ex  definitione ⁴  никто  из   людей,   в   том   числе   и
конструктор-проектировщик, не знает его  внутренних  состоЯний.  ‚недрение
гомеостатических регулЯторов приводит к последствиЯм такого рода. €х-то  и
имел в виду Ќорберт ‚инер ⁵, когда в новом издании своего основополагающего
труда "Љибернетика" посвЯтил отдельную  главу  непредвиденным  результатам
деЯтельности гомеостатов. Њогло бы показатьсЯ, что опасность  такого  рода
можно устранить в зародыше, создав "черный Ящик" высшего типа  в  качестве
"машины длЯ управлениЯ", но не людьми, а подчиненными ей "черными Ящиками"
отдельных производителей. ЏоследствиЯ такого шага оказываютсЯ  чрезвычайно
интересными.


¹ 
     Љатастрофа,  вызваннаЯ  талидомидом,  описана  в  книге  ѓ.  ѓлезера,
Ќовейшие победы медицины ("ЊолодаЯ гвардиЯ", 1966). - Џрим. ред
² 
     ќвтаназиЯ (греч.) -  безболезненное  умерщвление,  Якобы  в  гуманных
целЯх. - Џрим. ред.
³ 
     ‘т. Ѓир, Ќа пути к  кибернетическому  предприЯтию,  в  сб.  "Џринципы
самоорганизации", изд-во "Њир", 1966.
⁴ 
     Џо определению (лат.).
⁵ 
     Ќ. ‚инер, Љибернетика, или управление и свЯзь в  животном  и  машине,
изд. 2-е, изд-во "‘оветское радио", 1968.

[ ’итульный лист ] [ ‘одержание ] <= ѓлава четвертаЯ (f) ] [ ѓлава четвертаЯ (h) =>

‘танислав ‹…Њ. ‘“ЊЊЂ ’…•ЌЋ‹Ћѓ€€

‘танислав ‹…Њ

‘“ЊЊЂ ’…•ЌЋ‹Ћѓ€€

[ ’итульный лист ] [ ‘одержание ] <= ѓлава четвертаЯ (g) ] [ ѓлава четвертаЯ (i) =>

ѓ‹Ђ‚Ђ —…’‚…ђ’Ђџ

€Ќ’…‹‹…Љ’ђЋЌ€ЉЂ

(h)  ЋЏЂ‘ЌЋ‘’€ ќ‹…Љ’ђЋЉђЂ’€€


     €так, стремЯсь избежать общественно вредных  результатов,  к  которым
приводит деЯтельность "черных Ящиков"  в  качестве  регулЯторов  отдельных
производственных единиц, мы возводим на трон экономической  власти  —ерный
Ящик -  ђегулЯтор  наивысшего  ранга.  Џредположим,  что  он  ограничивает
свободу   производственных   регулЯторов   и   неким    программированием,
равносильным законодательству, заставлЯет их  соблюдать  законы  о  труде,
быть  лоЯльным  по  отношению  к  конкурентам,  стремитьсЯ   ликвидировать
резервную армию труда (то есть безработицу) и так далее. ‚озможно ли  это?
’еоретически - да. Ќа практике, однако, такое программирование  обременено
огромным числом, мЯгко говорЯ, "неувЯзок".
     —ерный Ящик,  как  очень  сложнаЯ  система,  не  поддаетсЯ  описанию;
алгоритм его никому не известен и не может  быть  известен,  его  действиЯ
носЯт вероЯтностный характер, и, значит, поставленный дважды в одну  и  ту
же ситуацию, он вовсе не обЯзан поступать одинаково. Љроме того, - и  это,
наверное, самое важное -  —ерный  Ящик  есть  машина,  котораЯ  учитсЯ  на
собственных ошибках в процессе предпринимаемых ею конкретных действий.  €з
самых основ кибернетики следует, что ‚ластелин ќкономики  -  —ерный  Ящик,
который был бы заранее всеведущ  и  умел  бы  предвидеть  все  последствиЯ
принимаемых им решений, построен быть не может. ‹ишь  с  течением  времени
регулЯтор будет приближатьсЯ  к  этому  идеалу.  Љак  быстро  -  этого  мы
определить не умеем. Ѓыть может, он сначала подвергнет  государство  целой
серии ужасных кризисов, из которых постепенно его выведет. Ѓыть может,  он
заЯвит, что между аксиомами, введенными в Џрограмму  действиЯ,  существует
противоречие (например,  невозможно  проводить  экономически  рентабельную
автоматизацию  производственных  процессов  и  одновременно  стремитьсЯ  к
уменьшению безработицы, если параллельно не  будет  проводитьсЯ  множество
иных  мероприЯтий,  вроде  субсидируемого   государством   или   капиталом
переобучениЯ лиц, потерЯвших работу, и т.п.). —то тогда? ’рудно  вдаватьсЯ
в детальный анализ столь сложной проблемы. Њожно  только  сказать:  —ерный
Ящик, будь то регулЯтор  производства  в  одном  из  его  звеньев  или  же
универсальный регулЯтор в масштабах всего  государства,  всегда  действует
при неполном знании. €наче и быть не может. „опустим, что, проделав  много
проб и совершив много ошибок, сделав при этом несчастными миллионы  людей,
—ерный Ящик - ‚ластелин ќкономики - приобретет огромные знаниЯ, неизмеримо
большие, чем знаниЯ всех буржуазных экономистов, вместе взЯтых. Ќо даже  и
тогда  никто  не  может  поручитьсЯ,  что  очередную  порожденную   новыми
причинами флуктуацию он не попытаетсЯ ликвидировать  такими  методами,  от
которых  у  всех,  не  исключаЯ  и  его  создателей,  зашевелЯтсЯ  волосы.
ђассмотрим такую  возможность  на  конкретном  примере.  Џредположим,  что
прогнозирующий блок ("подсистема")  "черного  Ящика"  замечает  опасность,
грозЯщую    состоЯнию    гомеостатического    равновесиЯ,     благополучно
достигнутому, наконец, после многих  качаний.  Ћпасность  возникает  из-за
того,  что  прирост  населениЯ  превышает  имеющуюсЯ  в  данный  момент  у
цивилизации возможность удовлетворЯть  человеческие  потребности.  €менно,
пусть при нынешнем приросте начинаЯ с будущего года или же  по  прошествии
тридцати лет уровень жизни станет неуклонно понижатьсЯ. Џусть одновременно
по одному из "входов" в "черный Ящик"  поступила  информациЯ  об  открытии
некоего химического соединениЯ, которое вполне безвредно  длЯ  здоровьЯ  и
вызывает  такое  падение  возможности   овулЯции,   что   при   постоЯнном
употреблении этого средства женщина может зачать лишь в считанные  дни  (а
не так, как сейчас: в какой-либо из ста  с  лишним  дней  в  году).  ’огда
"черный Ящик" принимает решение ввести необходимые  микроскопические  дозы
этого соединениЯ в питьевую воду во всех водопроводных сетЯх  государства.
ђазумеетсЯ, длЯ успеха операции ее нужно  держать  в  тайне;  в  противном
случае прирост населениЯ снова проЯвит тенденцию  к  увеличению,  так  как
многие люди навернЯка  будут  старатьсЯ  пить  воду  без  этого  средства,
например воду из рек или из колодцев. ‘ледовательно, "черный Ящик"  станет
перед  дилеммой:  либо  информировать  общество  -  и  наткнутьсЯ  на  его
противодействие, либо не  информировать  -  и  тем  самым  сохранить  (длЯ
всеобщего блага) состоЯние существующего  равновесиЯ.  „опустим,  что  длЯ
охраны  общества  от  стремлениЯ  "черного  Ящика"   к   подобным   формам
"криптократии" ¹ программой "Ящика" предусмотрена  обЯзательнаЯ  публикациЯ
всех  намеченных  изменений.  Љроме  того,  у  "Ящика"  есть   специальный
"стоп-кран", который пускаетсЯ в ход  всЯкий  раз,  как  только  возникает
ситуациЯ вроде вышеописанной. ЃлагодарЯ всему этому регулЯтор, принимающий
решениЯми  состоЯщий  из  людей),  отменит  план,  выработанный  "Ящиком".
’рудность, однако, в том, что столь простые ситуации будут довольно редки,
а. в огромном большинстве случаев "орган, принимающий решениЯ",  не  будет
знать, не пора ли как раз дернуть  за  "стоп-кран".  ‚прочем,  от  слишком
частого применениЯ этого тормоза  всЯ  регулирующаЯ  деЯтельность  "Ящика"
стала бы иллюзорной, а общество  поверглось  бы  в  совершенный  хаос.  Ќе
говорЯ уже о том, что в высшей степени неЯсно, чьи,  собственно,  интересы
представлЯл бы этот  "орган".  Ќапример,  в  нынешних  ‘оединенных  татах
Ђмерики подобный "орган" навернЯка  заблокировал  бы  введение  бесплатной
медицинской помощи и системы пенсий (как это в действительности  и  сделал
Љонгресс, тогда как роль предложившего такие изменениЯ, но  остановленного
при помощи "стоп-крана" "Ящика" сыграл  президент  „ж.  Љеннеди).  —ьи  бы
интересы ни представлЯл этот орган, не следует недооценивать  способностей
"черного  Ящика".  Ћдин,  другой,  третий  раз  "заторможенный"  в   своих
начинаниЯх, он, вероЯтно, выработает новую стратегию. Ћн будет,  например,
добиватьсЯ, чтобы люди как можно позже вступали в брак, а малое количество
детей было особенно выгодно экономически. Ђ если и это не даст желательных
результатов, он постараетсЯ уменьшить прирост населениЯ еще более окольным
путем. „опустим, что некое лекарство  предотвращает  кариес  зубов.  Џусть
употребление этого лекарства  в  определенном  проценте  случаев  вызывает
мутацию генов, и пусть новый мутировавший ген сам по себе еще не уменьшает
плодовитости, а делает это лишь при встрече с другим,  также  мутировавшим
геном;  последний   возник   благодарЯ   применению   другого   лекарства,
употреблЯемого довольно давно.  ќто  второе  лекарство  избавило,  скажем,
мужскую   половину   рода   человеческого   от   терзаний,   свЯзанных   с
преждевременным   облысением.   ’огда   "черный   Ящик"   будет   всЯчески
распространЯть лекарство  против  кариеса,  и  в  результате  он  добьетсЯ
своего: по п