чтобы   "Гамлет"
существовал как  информация,  должен  существовать  некто,  способный  его
прочесть и понять. Отсюда довольно шокирующий вывод: "Гамлет" не  является
частью материального мира. По крайней мере как информация.
     Однако информация  существует  и  при  отсутствии  разумных  существ.
Содержит ли информацию оплодотворенное яйцо  крокодила?  Конечно,  и  даже
большую, чем "Гамлет". Различие состоит в том, что книга  "Гамлет"  -  это
статическая  структура,  динамизирующаяся  только  при  чтении,  то   есть
благодаря процессам, происходящим в  человеческом  мозгу,  а  яйцо  -  это
динамическая структура, которая "сама  себя  читает",  то  есть  запускает
соответствующие  процессы  развития,  приводящие  к  образованию   зрелого
организма. "Гамлет" как книга - существенно статическая структура,  но  ее
можно "динамизировать". Предположим, что  некий  астроинженер  "подключил"
текст  "Гамлета"  к  мощной  звезде   через   соответствующие   кодирующие
устройства.
     Затем этот инженер, а также все разумные существа в  космосе  умерли.
Кодирующее устройство "читает" "Гамлета", то есть превращает его  текст  -
буква за буквой - в импульсы, вызывающие строго определенные  изменения  в
звезде. Звезда, выбрасывая протуберанцы, сокращаясь и расширяясь, передает
"Гамлета"   своими   огненными   пульсациями.   "Гамлет"   превратился   в
своеобразный  "хромосомный  аппарат"  звезды,  так  как  он  управляет  ее
превращениями, подобно тому как хромосомы яйцеклетки  управляют  развитием
плода.
     Скажем ли мы и теперь, что "Гамлет" не является частью  материального
мира? Да. Создан мощный передатчик информации (звезда) и передающий  канал
-  весь  Космос.  По-прежнему,  однако,  нет  адресата,  получателя   этой
информации. Можно предположить,  что  излучение,  посылаемое  звездой  при
"передаче" сцены убийства Полония, вызывает взрывы соседних звезд. Пусть в
результате взрывов вокруг этих звезд возникают планеты, и пусть к  моменту
смерти Гамлета на этих планетах  появляются  зачатки  жизни:  передаваемые
звездой  в  виде  очень  жесткого  излучения  последние   сцены   трагедии
увеличивают частоту мутаций в наследственной плазме этих живых существ, из
которых  со  временем  образуются  первообезьяны.  Очень  интересная  цепь
явлений, несомненно. Однако что она имеет общего с содержанием  "Гамлета"?
Ничего. Может быть,  это  относится  только  к  семантической  информации?
Теория  информации  ею  не  занимается.  Она  измеряет  только  количество
информации. Пусть так. Сколько же информации содержится в  "Гамлете"?  Это
количество пропорционально изменению неопределенности  на  приемном  конце
канала связи, там,  где  находится  адресат.  Кто  же  этот  адресат?  Где
кончается канал передачи информации? В созвездии Андромеды? Или в  Большой
туманности Андромеды?  Примем  условно  в  качестве  "адресата"  некоторую
звезду, находящуюся недалеко от передающей. Как в  этом  случае  вычислять
неопределенность? Через негэнтропию? Ничего подобного;  энтропия  является
мерой информации только тогда, когда система, в  которой  она  измеряется,
находится в состоянии термодинамического равновесия. А если нет? Тогда она
зависит от системы соотнесения. Где же  эта  система?  Она  была  в  мозгу
Шекспира,  обусловленная  строением  этого  мозга  и  всей   цивилизацией,
воспитавшей и сформировавшей великого драматурга. Но теперь уже  нет  этой
цивилизации, как нет и никакой другой, - есть только пульсирующая  звезда,
"подключенная"  через  "переводное"  устройство  к  книге  под   названием
"Гамлет". Впрочем, звезда - это только усилитель; информация  находится  в
книге. Что же это все вместе означает?
     Язык - это система символов,  относящихся  к  внеязыковым  ситуациям.
Можно говорить, что существует польский язык, точно так же как  существует
язык наследственности ("язык хромосом"). Язык  людей  -  это  искусственно
созданный носитель информации. Язык хромосом  -  это  информационный  код,
созданный биологической  эволюцией.  Оба  имеют  своих  адресатов  и  свою
значимость. Определенный ген в яйце крокодила означает определенную  черту
организма  (он  является  символом  этой  черты  и  в  то  же   время   ее
потенциальным строителем в процессе  эмбриогенеза).  Если  яйцо  крокодила
"означает" его организм (содержит описание его конструкции), подобно  тому
как бумага с напечатанными на ней  буквами  означает  "Гамлета"  (содержит
описание конструкции разыгрываемой  пьесы),  то,  если  уж  на  то  пошло,
сжимающаяся туманность "означает"  (содержит  в  качестве  описания  набор
необходимых конструкционных условий) звезду, которая впоследствии  из  нее
возникнет.
     Но тогда падающая бомба - это символ взрыва, молния - символ грома, а
боль в животе - символ поноса. Это неприемлемая точка зрения. Символ может
быть предметом, но он относится не к самому этому предмету,  а  к  чему-то
другому.  Когда  носильщики  выносят  из  склада  слоновую   кость,   негр
откладывает костяшки. Эти костяшки - предметы, но они относятся  к  другим
предметам; в данном случае - это числовые символы, относящиеся к  слоновым
бивням. Символ в  принципе  не  является  ранним  этапом  развития  самого
явления, по крайней мере в области  человеческой  информационной  техники.
Сопоставление символа тому, что он обозначает, условно. Мы отнюдь не хотим
сказать,  что  такое  сопоставление  вполне  произвольно;  мы  хотим  лишь
сказать, что оно не устанавливает причинную связь  между  символом  и  его
денотатом. На самом деле гены не являются символами, поскольку как раз они
представляют  собой  тот  особый   случай,   когда   носитель   информации
одновременно является начальным этапом ее более позднего "значения". Можно
условиться, что они являются символами, -  это  вопрос  дефиниции,  но  не
эмпирического исследования: никакое  эмпирическое  исследование  не  может
обнаружить, является ли ген "символом" голубых глаз или только  "носителем
информации о голубых глазах". Такое определение непрактично:  слово  "ген"
будет тогда символом символа; кроме того, в обычном понимании  символы  не
способны к самопроизвольным изменениям (символы в химическом уравнении  не
вступают друг с другом в химическую реакцию). Поэтому  лучше  назвать  ген
информациеносным  знаком  (способным  к   самостоятельным   превращениям).
Следовательно, знак - это более общее понятие.
     Знак предполагает существование информации (он является элементом  ее
кода), информация же существует только тогда, когда  имеется  ее  адресат.
Известно, кто является адресатом  "Гамлета",  так  же  как  известно,  что
туманность не  имеет  адресата.  Но  кто  является  адресатом  хромосомной
информации, содержащейся в яйце крокодила? Зрелый организм не является им,
он  представляет  собой  лишь  некую   позднейшую   стадию   передаваемого
сообщения. Этот организм в свою очередь обладает адресатом; но где? Ни  на
Луне, ни на Сатурне крокодилы жить не могут; они могут жить только в  реке
с болотистыми берегами,  воды  которой  дают  им  пищу;  здесь  же,  найдя
партнеров, они могут размножаться. Следовательно,  адресатом  генетической
информации  крокодила  является  именно  данный  район  вместе   со   всей
популяцией  данного  вида  и  другими  организмами,  поедаемыми   им   или
поедающими его; короче: получателем генетической информации  особи  служит
ее биогеоценотическое окружение.  В  этой  среде  крокодил  будет  плодить
потомство,  и  тем  самым   будет   продолжен   кругооборот   генетической
информации,  составляющий   часть   эволюционного   процесса.   Аналогично
"средой",   делающей   возможным   существование    "Гамлета",    является
человеческий мозг.
     Почему бы в  таком  случае  не  сказать,  что  адресатом  информации,
заключенной в туманности, является вся Галактика?  А  если  не  Галактика,
так, быть может, планеты, которые породит звезда, возникшая из туманности?
На этих планетах возникнет жизнь и  достигнет  разумной  стадии,  -  может
быть, этот разум является "адресатом" небулярной&nbsp;<a name="s11"><a href="#s1"><sup>1</sup></a></a> информации?
     Из термодинамики известно, что количество информации (или негэтропии)
в  замкнутой  системе  не  может  возрастать.  Мы  возникли  из  звездного
вещества, а Космос является замкнутой системой, потому что, "кроме"  него,
ничего не существует. Отсюда однозначно следует, что и  "Гамлет",  и  все,
что человек создал, придумал или солгал, существовало как информация в той
первичной туманности, из которой возникли галактики,  звездные  скопления,
планеты, мы с  вами  и  эта  книга.  Тем  самым  рассуждение  благополучно
доведено до абсурда.
     Дело в том, что "информации вообще"  не  существует.  Не  существует,
даже если указать ее адресат. Информация существует только по отношению  к
определенной системе, в пределах которой производится  выбор.  Результатом
этого выбора (естественного отбоpa) может быть вид крокодилов или (отбор в
мозгу Шекспира) - драматургический "вид" трагедий.
     Если полиция намерена арестовать преступника и знает о нем лишь,  что
его фамилия Смит и  что  он  живет  в  известном  городке,  то  количество
информации, полученное благодаря знанию фамилии, зависит от того,  сколько
жителей городка носят фамилию Смит. Если число Смитов  равно  единице,  то
выбор отсутствует и информация равна  единице.  Если  все  жители  городка
имеют фамилию Смит, то для данной системы  известие  о  том,  что  фамилия
преступника Смит, содержит нуль информации. Заметим, кстати, что некоторые
допускают существование отрицательной информации; в нашем случае  примером
такой информации было бы сообщение в полицию, что  фамилия  преступника  -
Браун&nbsp;<a name="s22"><a href="#s2"><sup>2</sup></a></a>.
     Таким  образом,   мера   информации   относительна   и   зависит   от
предварительно принятого ансамбля возможностей (состояний). Данное явление
может быть символом (носителем информации) по  отношению  к  определенному
ансамблю потенциальных, возможных разновидностей этого явления, и может не
быть таким символом, если этот ансамбль (или соотнесенная с  ним  система)
будет  изменен.  Природа  крайне  редко  однозначно  определяет   ансамбль
возможных состояний. Человек, более или менее отдавая себе в  этом  отчет,
выбирает ансамбль, подходящий для поставленной цели, и поэтому  полученная
информация является  не  отражением  подлинного  состояния  мира,  а  лишь
функцией такого состояния, и  значение  ее  зависит  как  от  Природы  (от
исследуемой ее  части),  так  и  соотнесенного  с  ней  ансамбля,  автором
которого является человек <A HREF="#summprim.htm#[VII]">[VII]</a>.
</PRE>

<PRE>
<LEFT><HR ALINE=LEFT WIDTH="20%"></LEFT>
<a name="s1"><a href="#s11"><sup>1</sup></a></a>&nbsp;
     Nebula - туманность (лат.).
<a name="s2"><a href="#s22"><sup>2</sup></a></a>&nbsp;
     А. А. Харкевич, О ценности информации, "Проблемы кибернетики",  1960,
No 4.
</PRE>

<HR>
<LEFT>
<B>[ <A HREF="#summtitl.htm"> Титульный лист </A> ]</B>
<B>[ <A HREF="#summcont.htm"> Содержание </A>]</B>
 <B><= <A HREF="#summgl4m.htm"> Глава четвертая (m) </A>]</B>
<B>[ <A HREF="#summgl4o.htm"> Глава четвертая (o) </A> =></B>
</LEFT>
<HR>

</BODY>
</HTML>
<a name=summgl4o.htm></a>

<HTML>
<HEAD>
<TITLE> Станислав ЛЕМ.  СУММА ТЕХНОЛОГИИ </TITLE>
</HEAD>

<BODY BGCOLOR="#F5DEB3" LINK="#CC0000">

<CENTER>
<H2> Станислав ЛЕМ </H2>
<H1> СУММА ТЕХНОЛОГИИ </H1>
</CENTER>

<HR>
<LEFT>
<B>[ <A HREF="#summtitl.htm"> Титульный лист </A> ]</B>
<B>[ <A HREF="#summcont.htm"> Содержание </A>]</B>
 <B><= <A HREF="#summgl4n.htm"> Глава четвертая (n) </A>]</B>
<B>[ <A HREF="#summgl5a.htm"> Глава пятая (a) </A> =></B>
</LEFT>
<HR>

<H3>  ГЛАВА ЧЕТВЕРТАЯ    </H3>
<H3>  ИНТЕЛЛЕКТРОНИКА   </H3>

<PRE>
(o)  <B>СОМНЕНИЯ И АНТИНОМИИ</B>

     1.   Смелая   "программа-максимум",   намеченная   уже    создателями
кибернетики, в последние годы неоднократно подвергалась критике,  зачастую
весьма резкой; последняя объявляла эту программу  утопической  или  вообще
мифической,  как  об  этом  свидетельствует  хотя  бы  подзаголовок  книги
Мортимера Таубе - "Миф о думающих машинах".
     "Заметим... - пишет  Таубе,  -  что  гигантский  искусственный  мозг,
машины-переводчики,  обучающиеся  машины,  машины,  играющие  в   шахматы,
понимающие машины и  т.п.,  заполнившие  нашу  литературу,  обязаны  своим
"существованием" людям, пренебрегающим сослагательным наклонением.  В  эту
игру играют так. Сначала заявляют, что, если не  учитывать  незначительные
детали инженерного характера, машинную программу  можно  приравнять  самой
машине.  Затем  блок-схему  программы  приравнивают  самой  программе.   И
наконец,  заявление,  что  можно   составить   блок-схему   несуществующей
программы для  несуществующей  машины,  означает  уже  существование  этой
машины. Точно таким  путем  были  "созданы"  машины  условной  вероятности
Аттли, "перцептрон" Розенблатта, анализатор общих проблем  Симона,  Шоу  и
Ньювела и многие другие несуществующие машины,  на  которые  в  литературе
делаются ссылки как на существующие"&nbsp;<a name="s11"><a href="#s1"><sup>1</sup></a></a>.
     А несколько далее,  в  связи  с  вопросом  об  отношениях  в  системе
"человек - машина", М. Таубе пишет: "...классический порочный круг:
     1) предлагается конструкция машины, предназначенной для моделирования
человеческого мозга, который не описан;
     2) подробно описанные характеристики машины  полагаются  аналогичными
характеристикам мозга;
     3) затем делается "открытие", что машина ведет  себя  подобно  мозгу;
порочность состоит в "открытии" того, что было постулировано".
     В той мере, в какой технический прогресс  опроверг  некоторые  выводы
Таубе, полемика с его книгой, английское издание которой вышло в 1961  г.,
является сейчас излишней&nbsp;<a name="s22"><a href="#s2"><sup>2</sup></a></a>. Существует  уже  не  только  перцептрон,  но  и
действующие реальные программы для машинной игры в шахматы,  правда,  пока
только на уровне среднего шахматиста. Непонятно, однако, почему  признание
факта, что существуют машины, играющие в шахматы, следует отложить до  той
минуты, когда последний еще непобежденный  чемпион  мира  получит  мат  от
электронной машины, - ведь огромное большинство людей не умеет играть даже
на упомянутом среднем уровне (к их  числу,  хотя  это  и  не  довод,  увы,
относится и автор этих строк).
     Однако Таубе  в  своей  полемической,  местами  даже  нигилистической
книге,   в   манере,   весьма   характерной   для   определенного    круга
исследователей, высказал замечания, все еще достойные внимания.  Он  вновь
поднял вполне классическую проблему "Может ли машина мыслить?", разбив  ее
на две части: на  действия,  связанные  с  семантикой,  и  на  интуитивные
действия. Создается впечатление, что  формальные  процедуры  действительно
имеют ограничения, вытекающие как следствия из теоремы Геделя о  неполноте
дедуктивных систем, и что чисто  алгоритмическими  методами  невозможно  с
настоящей  эффективностью  переводить  с  одного  естественного  языка  на
другой, поскольку между ними не существует отношений взаимно  однозначного
соответствия.
     Этим вопросом мы займемся  несколько  позже.  Прежде  чем  перейти  к
обсуждению довольно туманного понятия интуиции,  добавим  еще,  что  Таубе
прав и тогда, когда отмечает, как часто  оказываются  сходными  результаты
деятельности человека и машины и как различны  процессы,  которые  к  этим
результатам приводят. Поэтому напрашивается предостерегающий вывод: нельзя
легкомысленно переносить наблюдения,  сделанные  при  изучении  устройств,
запрограммированных для решения конкретных задач, на  область  психической
деятельности человека. Подобное  сопоставление  человека  и  машины,  если
вдуматься, ведет еще дальше: вполне возможно, что у разных людей к одним и
тем же результатам приводят весьма различные мозговые  процессы.  Наконец,
даже один и тот же человек, перед которым несколько раз  ставятся  задачи,
принадлежащие с алгоритмической точки зрения к одному и тому же классу (то
есть такие, для которых известен алгоритм  решения),  зачастую  решает  их
различными  способами;   эта   нерегулярность   человеческого   поведения,
несомненно,  изрядно  портит   настроение   всем   тем,   кто   занимается
моделированием мозговых процессов.
     Что же касается интуиции, то проблема ее автоматизации, иначе  говоря
внемозгового воспроизведения, не  представляется  столь  безнадежной,  как
полагает Таубе. Были  проведены  интересные  исследования,  в  которых  на
примере игры в шахматы  сопоставлялась  эвристика  человека  с  эвристикой
машины. Дело в том, что  шахматы  не  несут  "семантической  нагрузки",  и
решение шахматных проблем в определенной степени не зависит  от  всяческих
"значений",  которые  вносят  тягостную  путаницу  в  область  психической
деятельности.  Необходимо  сразу  же  установить,  что  такое   эвристика.
Советский исследователь Тихомиров&nbsp;<a name="s33"><a href="#s3"><sup>3</sup></a></a> понимает  под  эвристикой  определенные
общие  правила,  которыми   пользуется   субъект,   стремясь   к   решению
поставленной перед ним задачи,  -  в  том  случае,  когда  систематический
перебор всех потенциально существующих вариантов  невозможен  (именно  так
обстоит дело в шахматах, где  число  возможных  партий  достигает  порядка
10<sup>99</sup>). Раньше пытались анализировать эвристику шахматиста,  требуя,  чтобы
на протяжении всей игры он думал вслух. Оказалось, однако, что большинство
операций  "слежения"  (поисков   оптимального   маневра)   происходит   на
доязыковом уровне, в чем шахматист, кстати говоря,  даже  не  отдает  себе
отчета.  Поэтому  Тихомиров  регистрировал   движение   глаз   шахматиста;
выяснилось, что поисковая эвристика игрока, хотя бы частично  отразившаяся
в  этих  движениях,  обладает  довольно  сложной  структурой.   Происходит
непрерывное  изменение  ширины  зоны  ориентации,  то  есть  того  участка
шахматной доски с фигурами на ней, который  шахматист  наблюдает  наиболее
активно. Перемещения глазных яблок сигнализируют о  наличии  определенных,
очень быстро конструируемых, своего  рода  "пробных"  серий  ходов  (таким
образом, эти серии - это  как  бы  "перенесенные  внутрь"  элементы  игры,
внутренние модели последовательно  выполняемых  операций,  рассматриваемые
поочередно). Когда ходы противника соответствуют ожидаемому, то есть тому,
что предвидел игрок,  зона  сужается  до  минимума,  и,  напротив,  каждый
неожиданный, непредвиденный ход влечет за  собой  значительное  расширение
зоны  ориентировочных  поисков  и  гораздо  более  обширное   исследование
альтернатив возникшей ситуации. Но особенно интересно,  что  определенного
рода "находки", все  эти  "внезапно  рождающиеся"  тактические  замыслы  -
своеобразный аналог  "творческого  вдохновения",  которое  в  классическом
рассказе символизируется возгласом "эврика", - предваряются сериями  очень
быстрых  движений  глаз,  между  тем  как  сам  шахматист  совершенно   не
предполагает, что у него вот-вот "родится в уме"  какая-то  мысль.  Отсюда
можно  заключить,  что  кажущаяся  внезапность  и   появление   "ниоткуда"
совершенно  новых   мыслей,   которое   субъективно   воспринимается   как
"откровение",  "озарение",  -  это  иллюзия  или  самообман,   порожденные
несовершенством нашего интроспективного  самоанализа.  В  действительности
каждой такой мысли предшествует ускоренный до предела сбор  информации  (в
данном случае получаемой с шахматной  доски),  а  "внезапность"  появления
мысли есть результат проникновения информации, организованной и по крайней
мере схематически обработанной на подпороговом уровне, в область сознания,
перехода ее с низших уровней  интеграции  на  тот  наивысший  уровень,  на
котором окончательно формулируется план наиболее эффективных действий.
     Конечно, мы по-прежнему ничего не знаем о том, что происходит на этих
низших  уровнях  мозговой  динамики;  во   всяком   случае,   исследования
Тихомирова подтверждают  гипотезу  о  том,  что  информационная  обработка
входных сигналов, которые получает мозг, является  многоступенчатой.  Если
понятие алгоритма вообще применимо к работе  мозга,  то  в  решении  задач
участвует сразу много алгоритмов, частично взаимно связанных,  а  частично
независимых.  Мозг  как  бы  слагается  из  целого  комплекса   подсистем,
работающих довольно независимо друг от друга, причем то, что  мы  называем
"сознанием", может, образно говоря, "увлечь" в одну сторону,  а  вместе  с
тем человек безотчетно ощущает, как "что-то" сбивает его с  пути,  который
он уже выбрал сознательно, хотя в его  сознании  еще  нет  никакого  иного
конкретного плана  действий.  Прибегая  к  метафоре,  можно  сказать,  что
подсознательные области, еще до того как они  могут  передать  в  сознание
готовый результат информационной обработки, "как-то" - не по "каналам"  ли
эмоционального   напряжения?   -   извещают   сознание    о    назревающей
"неожиданности". Нам пора, однако, как  можно  быстрее  оставить  подобную
образность; ведь в лучшем  случае  она  приведет  в  ярость  конструктора,
который стремится моделировать явления интуитивной  эвристики,  ибо  самый
изощренный  язык  "внутренних  монологов"  самоанализа  ничем  не  поможет
инженеру на его рабочем месте.
     Машина для игры в шахматы, то есть соответственно запрограммированная
электронная машина, практикует эвристику, в которую ее посвящает программа
(способная,  кстати  говоря,  к  самообучению).  Без  преувеличения  можно
сказать,  что  очень  многое  зависит   от   таланта   программиста   (ибо
программирование, несомненно, требует таланта). За единицу времени  машина
сумеет рассмотреть несравненно больше операций, чем человек (она действует
примерно в миллион раз быстрее его), и все же человек побивает ее,  потому
что он способен к своеобразной динамической  интеграции:  если  он  умелый
шахматист, то каждое отдельное  расположение  фигур  он  воспринимает  как
определенную  слитную  систему,  как  нечто  целостное,  обладающее  четко
выраженными "разветвляющимися"  тенденциями  развития.  Машина  пользуется
различными тактиками, следовательно,  она  может  с  помощью  определенных
ходов подготовить следующие ходы, может пойти на жертву  и  т.п.,  но  она
вынуждена в каждом отдельном случае "проквантовать" ситуацию на  доске,  а
свои предварительные расчеты она не способна,  конечно,  делать  на  много
ходов вперед, потому что это физически невозможно даже для машины.  Однако
шахматная эвристика человека позволяет ему  делать  такие  сокращения,  на
которые машина не способна. Позиция, обретая некую эмоционально-формальную
ценность, рассматривается  уже  как  индивидуализированное  целое.  Только
такой уровень интеграции,  когда  две  позиции  с  немногими  отличиями  в
расстановке  фигур  воспринимаются  как   совершенно   разные,   позволяет
гроссмейстеру разыгрывать несколько десятков партий одновременно.
     Отметив столь феноменальные - с "машинной" точки зрения - способности
мозга, мы вынуждены умолкнуть. Как бы там ни было, человеческая  эвристика
является производной от "эвристики" всех живых существ, потому  что,  едва
возникнув, живые организмы были вынуждены  всегда  действовать  только  на
основе неполной и неточной информации; им приходилось по этому приближению
отыскивать инварианты - то есть  довольствоваться  расплывчатым  решением.
Поэтому исходным в моделировании был бы не такой прибор, который на основе
имеющихся предпосылок действует строго  логически,  определяя  истину  или
ложь в 100% случаев, а устройство,  действующее  по  принципу  "более  или
менее",  "где-то  около",  "приближенно".  Уж  если  эволюция  (на  уровне
организмов в целом) создала в первую очередь  именно  такие  "устройства",
значит, это все-таки  было  проще,  чем  создавать  аппараты,  сознательно
пользующиеся  логикой.  Действительно,  каждый  человек,  даже   маленький
ребенок,  "сам  того  не  желая",   пользуется   логикой   (заложенной   в
неосознаваемых  законах  языка),  тогда  как  изучение  формальной  логики
требует немалых умственных усилий. То, что каждый отдельный  нейрон  можно
рассматривать при этом  как  миниатюрный  логический  элемент,  не  меняет
положения дел. Отметим еще и следующее. Число таких элементов  в  мозгу  у
каждого человека, грубо говоря, одно и то же. Однако между людьми  имеются
очень существенные различия: один, например, феноменально вычисляет в уме,
но является  посредственным  математиком;  другой  -  отличный  математик,
однако его затрудняют простые арифметические расчеты; третий - композитор,
способный понять лишь математические азы; наконец,  четвертый  -  человек,
лишенный как творческих, так и исполнительских способностей. Мы очень мало
знаем о том, что есть общего в функционировании  мозга  у  всех  людей,  и
вовсе ничего не знаем о материальных причинах столь резких различий. А это
в свою очередь еще  осложняет  нашу  проблему.  Вот  почему  кибернетик  с
радостью приветствует появление  устройств,  которые  хотя  бы  в  зачатке
способны к некоторым операциям познания, то  есть  действуют  по  Принципу
"более или менее", даже если общая  формальная  теория  такого  познавания
отсутствует. Мы имеем в виду перцептроны.
     Перцептроны&nbsp;<a name="s44"><a href="#s4"><sup>4</sup></a></a>  -  это  системы,  снабженные  "зрительным  рецептором",
который  представляет  собой  грубый  аналог  сетчатки  глаза,   а   также
псевдонейронными   элементами,   соединенными   случайным   ("лотерейным")
способом. Перцептроны приобретают способность распознавать образы (простые
плоские конфигурации, например  цифры  или  буквы)  в  процессе  обучения,
который  идет  по  довольно   простому   алгоритму.   Создаваемые   сейчас
перцептроны все еще примитивны и распознавать, например, человеческие лица
пока не могут, как не могут,  конечно,  и  "читать  тексты",  но  они  уже
представляют собой заметный шаг на пути к созданию машин, способных  такие
тексты читать. Это неслыханно упростит все процедуры, предваряющие ввод  в
цифровую машину информации о поставленной задаче: ведь сейчас каждую такую
задачу  нужно  сначала  перевести   на   язык   машины,   а   эта   -   не
автоматизированная - процедура поглощает много  времени  у  обслуживающего
персонала.  Поэтому  конструирование  все  более  сложных  и   все   более
"способных" перцептронов  представляется  весьма  многообещающим.  Это  не
означает, что перцептрон как модель мозга "точнее"  цифровой  машины  (тем
более что работу  перцептрона  можно  моделировать  на  цифровой  машине);
нельзя утверждать также, что перцептрон "более похож" на мозг,  чем  такая
машина.  Каждое  из  этих  устройств  моделирует  в  своей  узкой  области
определенные элементарные аспекты деятельности мозга -  и  это  все.  Быть
может, будущие перцептроны подведут  нас  ближе  к  пониманию  "интуиции".
Нужно добавить, что в литературе по этому вопросу существует  определенная
путаница  в  терминах  или  неясность  в  понятиях.   Некоторые   называют
"эвристическое  поведение"  "неалгоритмичным".  Но  подобное   определение
зависит  от  того,  считаем  ли  мы,  что   алгоритм   -   это   полностью
детерминированный  распорядок   действий,   не   меняющийся   в   процессе
реализации, или что это такой распорядок, который благодаря  преобразующим
его обратным связям в процессе работы сам переходит в форму,  отличную  от
исходной.  В  определенных  случаях  можно  было  бы  говорить   здесь   о
"самопрограммировании", что также вносит некоторую путаницу, поскольку это
понятие применяют к самым разным типам поведения. В классических  цифровых
машинах программа четко отделена от реализующих ее рабочих устройств, а  в
мозгу такое отчетливое разделение имеется не всегда. С той  минуты,  когда
поведение сложной системы становится "пластичным", иначе говоря, когда его
детерминизм оказывается лишь условным, вероятностным, когда оно  перестает
быть  прямолинейной  реализацией  жестких,  раз   навсегда   установленных
"предписаний", понятие алгоритма уже нельзя применять в том виде, в  каком
оно заимствовано прямо из дедуктивных наук. Ведь и  в  этом  случае  можно
диктовать детерминированное поведение, но лишь  до  определенной  границы.
Например, после некоторого числа шагов сообщить системе,  что  ей  следует
начать "свободный поиск"  очередного  шага  в  диапазоне  всего  множества
альтернатив; после чего она начнет действовать методом  "проб  и  ошибок",
пока не нащупает "оптимальное" значение,  например  минимум  или  максимум
какой-либо функции, и тогда вновь на какое-то  время  включится  "жесткий"
распорядок действий. Но возможен  также  и  случай,  когда  весь  алгоритм
является в определенном смысле слова "равномерно" вероятностным,  то  есть
никакой из очередных шагов не предписывается системе  "аподиктически",  ей
даются лишь некоторые пределы,  границы  допустимых  областей,  где  могут
включаться либо алгоритмы иного характера ("локально  детерминированные"),
либо  операции  типа  "сопоставления"  в  целях  поиска  сходства   (вроде
"распознавания  образов"  или  "форм").  Можно  при   этом   комбинировать
известные  операции  типа  "априорно  заданного"   управления,   "поиска",
"сравнения" и, наконец, "индукции". Здесь при решении вопроса, с чем же мы
имеем дело - с "алгоритмом" или с "эвристикой", основанной на  "интуиции",
- заметную роль играет уже просто соглашение (похожее на  соглашение,  что
вирус  в  кристаллической  форме  "неживой",  а  вирус,   внедрившийся   в
бактериальную клетку, "живой").

     2. Как же могут теперь выглядеть попытки ответа на  вопрос,  способны
ли результаты  "машинного  мышления"  превзойти  уровень  интеллектуальных
возможностей человека? По-видимому, следует перечислить возможные  ответы.
При этом мы не знаем, исчерпаны ли в_с_е возможные варианты, так же как не
знаем, какой из них истинен.
     А. Машинное мышление по некоторым принципиальным  причинам  не  может
превысить  "потолок  человеческого  интеллекта".  Например,  потому,   что
никакая система не может быть "разумнее" человека; мы  сами  уже  достигли
потолка, но просто не знаем об этом. Либо потому, что к мыслящим  системам
типа "человек" ведет  единственный  путь  -  путь  естественной  эволюции,
который  можно   в   лучшем   случае   "пройти   вновь",   используя   как
экспериментальный  полигон  всю  планету;  либо,  наконец,   потому,   что
небелковые   системы   в   интеллектуальном   отношении   (то   есть   как
преобразователи информации) всегда хуже белковых и т.п.
     Все  это  звучит  весьма  неправдоподобно,   хотя   исключить   такую
возможность пока нельзя. Я говорю  это,  опираясь  на  эвристику,  которая
подсказывает, что человек как  разумное  существо  вполне  зауряден,  коль
скоро его сформировал отбор по сравнительно  малому  числу  параметров  на
протяжении всего  лишь  миллиона  лет;  что  могут  существовать  и  более
"разумные" существа; что процессы  Природы  воспроизводимы  и  что  к  тем
состояниям, к которым Природа пришла одной цепочкой шагов, можно прийти  и
другими путями.
     Б. Машинное мышление способно превзойти человеческий интеллектуальный
потолок, подобно тому как учитель математики "умнее", чем его ученики.  Но
так  как  человек  способен  понимать  то,  к   чему   не   может   прийти
самостоятельно (например, дети понимают евклидову  геометрию,  хотя  и  не
придумывают  ее  сами),  то  человеческому  интеллекту  не  грозит  потеря
контроля над "познавательной стратегией машин"; он всегда будет  понимать,
что они делают, как они это делают и  почему  делают.  Эта  позиция  также
представляется мне неприемлемой.
     Собственно говоря, что означает фраза:  "Машинное  мышление  способно
превзойти интеллектуальный потолок  человека"?  Неправильно  понимать  это
превосходство  как  превосходство  учителя  над  учениками;   это   ложное
понимание - ведь учитель тоже не создал геометрии. Речь идет об  отношении
творцов науки  ко  всем  остальным  людям  -  вот  что  является  аналогом
отношения "машина - человек". А это значит,  что  машины  могут  создавать
теории, то есть выделять инварианты тех или иных классов явлений  в  более
широком диапазоне,  чем  человек.  "Усилитель  интеллекта"  Эшби&nbsp;<a name="s55"><a href="#s5"><sup>5</sup></a></a>,  в  его
первоначальном замысле, не  заменил  бы  ученого,  ибо  этот  усилитель  -
простой селектор информации, тогда как труд  ученого  к  отбору  несводим.
Разумеется, машина Эшби могла бы  охватить  в  качестве  элементов  выбора
значительно большее число альтернатив, чем на это  способен  человек.  Это
устройство вполне реально и полезно, если мы остановились  на  распутье  и
должны избрать дальнейшую дорогу. Оно оказывается  бесполезным,  если  нам
лишь предстоит догадаться, что какой-то путь вообще  существует,  например
путь "квантования процессов". Поэтому такой  усилитель  нельзя  считать  и
первым приближением к машине, автоматизирующей  творческий  труд  ученого.
Пока что мы не в состоянии начертить хотя бы приближенный эскиз того,  что
нам нужно. Однако мы знаем, по крайней мере в грубых  чертах,  что  должна
уметь такая "гностическая" машина: для создания теории сложных систем  она
должна учитывать огромное количество  параметров  -  такое  количество,  с
которым алгоритмы современной науки справиться не могут.
     В физике отдельные уровни явлений  можно  рассматривать  изолированно
(атомная физика,  ядерная  физика,  физика  твердого  тела,  механика).  В
социологии  это  невозможно:   различные   уровни   (сингулярно-единичный,
плюрально-массовый) попеременно оказываются ведущими, то  есть  определяют
динамическую траекторию системы. Основное препятствие как раз в количестве
переменных, подлежащих учету.  "Гностическая"  машина,  способная  создать
"теорию общественной системы"&nbsp;<a name="s66"><a href="#s6"><sup>6</sup></a></a>, должна была бы принять во  внимание  очень
большое число переменных и этим отличалась бы от известных нам  физических
формализмов. Итак, на выходе "гностического творца"  мы  получаем  теорию,
закодированную, скажем, в виде целой системы  уравнений.  Смогут  ли  люди
как-либо подступиться к этим уравнениям?
     Создавшуюся  ситуацию,  может  быть,   легче   понять   на   примере,
почерпнутом из биологии. Если информационная емкость яйцеклетки  совпадает
с количеством информации, содержащейся в энциклопедии,  и  если  заполнить
расшифровкой генотипа тома энциклопедии, то и тогда подобную  энциклопедию
можно будет прочесть, однако лишь потому, что  читателю  известны  физика,
химия, биохимия, теория эмбриогенеза, теория самоорганизующихся  систем  и
т.д. Одним  словом,  ему  известны  соответствующий  язык  и  правила  его
использования. В случае же теории, которую "породит" машина, он  не  будет
знать предварительно ни ее языка, ни законов его применения,  всему  этому
он должен будет еще учиться. Вопрос в  его  окончательном  виде  ставится,
следовательно, так: может ли читатель этому научиться?
     В этом месте в наши рассуждения входит фактор времени. Ведь, пожалуй,
вполне очевидно, что бактериальной клетке при делении нужно гораздо меньше
времени, чем нам, для того, чтобы прочитать содержащуюся в ней информацию,
закодированную на языке аминокислот и  нуклеотидов.  Пока  мы  "глазами  и
мозгом"  один  раз  прочтем  текст  "формализованной  и   перекодированной
бактерии", она успеет претерпеть сотни  делений,  потому  что  она-то  при
каждом своем делении "читает сама себя" несравненно быстрее.  А  в  случае
"теории общества" - или вообще какой-либо чрезвычайно  сложной  системы  -
время чтения может оказаться таким, что читателю не под силу будет  ничего
понять. Хотя бы потому, что он  не  сможет  мысленно  оперировать  членами
уравнений: из-за своей огромной длины они ускользают из его  поля  зрения,
превышают возможности его памяти; такое чтение станет  поистине  сизифовым
трудом. Но тогда вопрос прозвучит так: можно ли  свести  теорию,  выданную
машиной, к такой достаточно простой форме, чтобы человек  мог  эту  теорию
охватить? Боюсь, что это будет невозможно. Разумеется, упрощение  само  по
себе возможно, но только всякая следующая форма  теории  после  очередного
упрощения окажется, с одной стороны, беднее  оригинала  за  счет  каких-то
утраченных элементов, а с другой стороны, - все еще  слишком  сложной  для
человека.
     Таким образом, производя упрощение, машина будет заниматься  тем  же,
что делает физик, когда на публичной лекции излагает теорию гравитационных
волн, обходясь скудным арсеналом школьной математики. Или тем,  что  делал
мудрец из восточной сказки, который принес властелину, жаждавшему  знаний,
сначала библиотеку, занявшую целый караван верблюдов, потом  сотню  томов,
навьюченную на мула, и, наконец, толстые фолианты, которые нес один раб, -
ибо для властелина эти последовательные "упрощения" все еще были  "слишком
пространны".
     Из сказанного видно,  что  уже  нет  надобности  рассматривать  такую
(третью) возможность: машина способна превзойти  интеллектуальный  потолок
человека как в том, что человек еще может, так и в том,  чего  он  уже  не
может понять. Эта возможность появилась как следствие в ходе  опровержения
второй.
     Там,  куда  человек  сможет  дойти  своим  умом,  машина,   вероятно,
понадобится только в качестве "раба", который будет  выполнять  трудоемкие
вспомогательные операции (расчеты, доставка нужной  информации),  то  есть
будет  играть  роль   "ассистента"   при   "поэтапных   операциях",   роль
"вспомогательной  памяти"  и  т.п.  Там,  где  разум  человека  будет  уже
недостаточен, машина представит готовые модели  явлений,  готовые  теории.
Тогда возникает  вопрос-антиномия:  "Как  можно  контролировать  то,  чего
контролировать нельзя?" Может быть, следует создать  машины-"антагонисты",
которые взаимно  контролировали  бы  результаты  своих  действий?  Но  что
предпринять,  если  они  дадут  на  выходе  противоречивые  результаты?  В
конце-то концов судьба теорий, порожденных машинами,  зависит  от  нас;  в
особо конфликтной ситуации  мы  можем  даже  предать  теорию  огню.  Иначе
обстоит дело с управляющими машинами - такими машинами,  которые  являются
наиболее вероятным воплощением  усилителя  умственных  способностей  Эшби.
Роботов с квазичеловеческой  индивидуальностью  вряд  ли  кто-либо  станет
создавать.   Зато,   несомненно,   возникнут    и    будут    разрастаться
кибернетические   центры,   управляющие   производством,   товарооборотом,
распределением,  а  также  научными  исследованиями  (координация   усилий
ученых,  которым  на  начальной  стадии  работ  "симбиотически"   помогают
вспомогательные машины).
     Но  очевидно,  что  подобные  локальные  координаторы   нуждаются   в
сверхкоординаторах  в  масштабе,  например,  государства  или  континента.
Возможны ли между ними конфликты? Как  нельзя  более  возможны.  Конфликты
будут   возникать   в   связи   с   капиталовложениями,    исследованиями,
энергозатратами. Ведь всякий раз будет необходимо установить приоритет тех
или иных действий и шагов с учетом  целого  "муравейника"  взаимосвязанных
факторов. Такие конфликты  необходимо  будет  разрешать.  Мы,  разумеется,
спешим сказать: это будут делать люди. Отлично.  Вспомним,  что  конфликты
будут  касаться  проблем  огромной  сложности  и   людям   -   контролерам
Координатора,  чтобы  обрести  ориентировку  в  открывшемся   перед   ними
математическом море, придется прибегнуть к помощи других  машин  -  машин,
оптимизирующих решение. Над всем этим высится глобальный аспект  экономики
- ее тоже нужно координировать. Всепланетный Координатор - тоже машина, со
своим "консультативным советом", состоящим  из  людей,  которые  проверяют
локальные решения системы "машин-контролеров" на отдельных континентах. Но
как будут проводить такую проверку члены  "консультативного  совета"?  Для
этого у  них  будут  собственные  машины,  оптимизирующие  решения.  Тогда
возникает вопрос: возможно ли, что их машины при контрольном  дублировании
работы континентальных машин дадут иные результаты? Это  вполне  возможно:
ведь каждая машина при выполнении определенной цепочки шагов,  из  которых
слагается решение задачи (например, по методу последовательных приближений
из-за  огромного  числа  переменных),   становится   в   каком-то   смысле
"пристрастной" - тем, что на  английском  философском  жаргоне  выражается
словом "biased". Известно,  что  человек  в  принципе  не  может  не  быть
пристрастным; но почему должна быть пристрастной машина? Дело в  том,  что
пристрастность  отнюдь  не  обязана  вытекать  только  из   эмоционального
предубеждения, она возникает  в  машине  уже  тогда,  когда  конфликтующим
членам альтернативы машина придает различный "вес". Возможно ли,  что  при
расстановке оценок несколько независимо работающих машин дадут результаты,
отличные друг от друга? Конечно же, ведь эти машины будут  по  объективным
причинам вероятностными  устройствами  и  поэтому  не  смогут  действовать
одинаково. С алгоритмической точки зрения процесс управления  представляет
собой  "дерево  решений"  или  целый   класс   таких   "деревьев";   нужно
согласов