Она налила себе стакан воды из графина, стоявшего на столе, и задумалась. - Программа Дика Трейси все еще работает. Но я не думаю, чтобы она обнаружила что-нибудь новое, пока мы не введем в нее новые данные. - Значит, у вас остается свободное время - и вы сможете вплотную заняться со мной искусственным интеллектом, - сказал Брайан. - Потому что то, что мы наработаем, потом будет загружено в программу Дика Трейси. - Что-что? - в недоумении переспросил Бен. - А вы подумайте немного. Сейчас в вашем расследовании вас интересует только совершенное преступление. Очень хорошо - надеюсь, вы добьетесь успеха раньше, чем они доберутся до меня опять, потому что иначе мне крышка. Но мы должны посмотреть на это и с другой стороны. Вы задумывались над тем, что именно они похитили? - Это очевидно - твою машину. Искусственный интеллект. - Нет, не только. Они пытались убить всех, кто хоть что-нибудь об этом знал, выкрасть или уничтожить все записи. И все еще пытаются убить меня. Из этого может следовать только одно. - Ну конечно! - воскликнул Бен. - Как я сразу не сообразил? Они хотят не просто владеть искусственным интеллектом, а иметь на него монополию. Возможно, они уже пытаются им торговать. Они обязательно попробуют использовать его в коммерческих целях, чтобы на нем заработать. Но они совершили убийство и ограбление и, безусловно, не хотят быть обнаруженными. Им придется скрывать тот факт, что они его используют, - значит, они должны использовать его таким способом, чтобы об этом никто не догадался. - Я понимаю, что вы хотите сказать, - вмешалась Шелли. - Как только они наладят этот краденый искусственный интеллект, его можно будет использовать практически для чего угодно. Управлять механическими процессами, возможно, писать программы, развивать новые направления исследований, разрабатывать новые продукты - да мало ли что еще. Беникоф серьезно кивнул: - И поэтому их будет очень трудно поймать. Нам придется быть начеку, чтобы обнаружить не что-нибудь определенное, а буквально любой новый тип программ или машин, который окажется необычно оригинальным. - Это слишком общее требование, моя программа с ним не справится, - сказала Шелли. - Дик Трейси может работать только со тщательно структурированными базами данных. У него просто не хватит ни знаний, ни здравого смысла, чтобы решить проблему, если она поставлена так широко. - Значит, его нужно усовершенствовать, - сказал Брайан. - Как раз к этому я и веду. Теперь совершенно ясно, что нам надо делать. Прежде всего надо сделать Дика Трейси поумнее, начинить его общими знаниями. - Ты хочешь сказать - превратить его в усовершенствованный искусственный интеллектом - спросил Беникоф. - А потом с его помощью разыскать все остальные? Вроде того, как послать вора ловить вора? - Это только полдела. А вторая половина - то, что я собираюсь сделать с роботом Робином. Я сделаю его похожим на тот искусственный интеллект, о котором шла речь в моих заметках. Если мне это удастся, мы будем больше знать о том, на что способна украденная машина. И это поможет нам сузить поле для поисков. - Особенно если мы сможем загрузить все эти способности в Дика Трейси, - заметила Шелли. - Тогда он действительно будет знать, что искать. Они переглянулись. Обсуждать было больше нечего - и без того ясно, кому что делать. Шелли и Брайан встали и собрались уходить, но Бен остановил их. - Остался еще последний важный вопрос. Жилье для Шелли. - Жаль, что вы об этом напомнили, - сказала она. - Я чуть-чуть не сняла прелестную квартирку, но в самый последний момент из этого ничего не вышло. Бен смущенно сказал: - Я прошу прощения, но это дело моих рук. Я все думал о покушениях на жизнь Брайана и понял, что вы теперь тоже можете стать такой же мишенью. Как только вы займетесь искусственным интеллектом, та компания убийц захочет... мне нелегко это говорить, но они захотят убить вас так же, как и Брайана. Вы с этим согласны? Шелли неохотно кивнула. - А значит, вам придется обеспечить такую же степень безопасности, как и Брайану. Здесь, в "Мегалоуб". - Я повешусь, если мне придется жить в этом доме свиданий для коммивояжеров, где я помещаюсь сейчас. - Нет, об этом не может быть и речи! Я вас прекрасно понимаю, потому что сам провел там множество жутких ночей. Могу я кое-что предложить? В здешних казармах есть отделение для женского вспомогательного персонала. Если бы мы соединили пару комнат и оборудовали их под небольшую квартиру, вы бы согласились там жить? - Я должна сама решать, как их отделать. - Выбирайте, счета мы оплатим. Электронная кухня, ванна-джакузи - все, что вам будет угодно. Армейские саперы все установят. - Предложение принято. Когда я смогу посмотреть каталоги? - Они уже лежат в моем кабинете. - Бен, вы страшный человек. Откуда вы знали, что я соглашусь? - Я не знал, я просто надеялся. А если посмотреть на него со всех сторон, это же действительно единственный безопасный вариант. - А можно мне взять каталоги прямо сейчас? - Конечно. В этом корпусе, комната 412. Я позвоню своей секретарше и скажу, чтобы она их достала. Шелли двинулась к двери, но обернулась: - Простите, Брайан. Я должна была сначала спросить, не нужна ли я вам. - Нет, мне кажется, это прекрасная идея. В любом случае сегодня я в лабораторию не вернусь, у меня есть кое-какие другие дела. Давайте встретимся там завтра в девять утра. - Хорошо. Брайан подождал, пока дверь за ней не закрылась, и повернулся к Бену, но некоторое время молчал, кусая губы, прежде чем заговорить. - Я до сих пор так и не сказал ей о том процессоре, что вживлен мне в мозг. А она так ничего и не спросила насчет того разговора, когда он высказал свою догадку. Вас она тоже не спрашивала? - Нет, да и не спросит, я думаю. Шелли очень замкнутый человек, и мне кажется, что она ожидает того же и от других. А это важно? - Только для меня. Я же вам говорил, что чувствую себя каким-то уродом... - Ты не урод, как ты прекрасно знаешь. Не думаю, чтобы об этом когда-нибудь зашел разговор. - Со временем я ей скажу. Только не сейчас. Особенно из-за того, что у меня назначено несколько довольно длительных сеансов с доктором Снэрсбрук. - Он взглянул на часы. - Первый из них совсем скоро. Я это делаю в основном для того, чтобы ускорить работу над искусственным интеллектом. - Каким образом? - Я хочу иначе подойти к проблеме. До сих пор я занимаюсь только одним - просматриваю материалы той резервной базы данных, которую мы привезли из Мексики. Но это большей частью заметки и вопросы, которые касаются текущей работы. А мне нужно выйти на подлинные размышления и на результаты исследований, которые на них основаны. То, что я делаю сейчас, - медленная, нудная работа. - Почему? - Я был... есть... мы были... - Брайан криво усмехнулся. - Грамматически правильно никак не получается. В общем, тот "я", который набрасывал заметки, делал это очень неаккуратно. Вы же знаете - когда записываешь что-то для себя, обычно нацарапаешь пару слов, и этого хватает, чтобы восстановить в памяти всю мысль. Но того моего "я" больше не существует, и эти заметки мне ни о чем не напоминают. Поэтому я начал работать с доктором Снэрсбрук - мы хотим посмотреть, нельзя ли будет воспользоваться вживленным процессором, чтобы связать заметки с отдельными разрозненными воспоминаниями, которые все еще хранятся у меня в мозгу. Чтобы разработать искусственный интеллект в первый раз, мне понадобилось десять лет, и я боюсь, что теперь на это уйдет столько же времени. Я должен вернуть эти воспоминания. - А что-нибудь получается? - Пока рано. Мы все еще пытаемся найти способ устанавливать взаимосвязи, которые я смог бы надежно активировать по своему желанию. Процессор - машина, а я нет, и мы даже в самые лучшие моменты взаимодействуем плоховато. А в остальное время это как разговор по телефону при плохой слышимости. Знаете, когда оба человека говорят одновременно, и ни один другого не слышит. А бывает, что я просто ничего не понимаю в том, что до меня доходит. И приходится прекращать связь и начинать сначала. Очень досадно, можете мне поверить. Но я справлюсь. Надеюсь, что дело наладится. Бен проводил Брайана до поликлиники "Мегалоуб", распрощался с ним у дверей кабинета доктора Снэрсбрук и, проводив его глазами, некоторое время стоял неподвижно, погруженный в раздумья. Ему было о чем задуматься. Сеанс прошел удачно. Теперь Брайан уже мог получать доступ к процессору по собственному желанию и пользоваться им, чтобы извлекать нужные воспоминания. Система стала работать лучше, хотя иногда у него в голове возникали обрывки знаний, которые он не мог понять. Словно это были чьи-нибудь подсказки, а не его воспоминания. А время от времени, входя в память своего прежнего, взрослого "я", он обнаруживал, что теряет нить собственных мыслей, и когда ему удавалось восстановить контроль над ними, он с трудом мог припомнить, что за это время происходило. "Странно, - думал он. - Неужели во мне существуют две индивидуальности в одно и то же время? Могут ли в одном сознании помещаться сразу две индивидуальности - одна прежняя, другая новая?" Такое зондирование, во всяком случае, намного ускоряло его работу. Немного привыкнув, Брайан стал все больше и больше размышлять над проблемами, которые все еще возникали в работе искусственного интеллекта. Над разнообразными дефектами, которые приводили к сбоям, в результате чего машина начинала откалывать всевозможные коленца. - Брайан, ты меня слышишь? - Что? - Здравствуйте! Я тебя уже третий раз спрашиваю об одном и том же. Замечтался? - Прошу прощения. Просто все это совершенно непостижимо, и в моих заметках нет ничего такого, что помогло бы мне разобраться. Надо бы, чтобы часть моего мозга следила сама за собой, а остальная часть об этом не знала. Что-то такое, что поддерживало бы равновесие в управляющих цепях системы. Это не так уж сложно, когда сама система стабильна и не слишком меняется. Но когда она постоянно обучается новым способам обучения, ничего не получается. Нужна еще какая-то система, что-то вроде отдельного подсознания, которое могло бы хоть в какой-то степени сохранять контроль. - Звучит совсем по-фрейдистски. - Простите? - Напоминает теории Зигмунда Фрейда. - Что-то я не помню, чтобы такая фамилия попадалась мне в литературе по искусственному интеллекту. - Нетрудно понять почему. Это был психиатр, он работал в 90-х годах XIX века, когда еще не было никаких компьютеров. Когда он впервые выдвинул теорию, что сознание состоит из нескольких разных систем, он дал им имена - "ид", "эго", "суперэго", "цензор" и так далее. Предполагается, что подсознательно каждый нормальный человек постоянно испытывает всевозможные конфликты, сталкивается с противоречиями и несовместимыми целями. Вот почему я подумала, что тебе может что-нибудь прийти в голову, если ты займешься фрейдовской теорией сознания. - Звучит заманчиво. Давайте сделаем это прямо сейчас - загрузите все эти теории Фрейда мне в память. Доктора Снэрсбрук это немного обеспокоило. Она все еще рассматривала пользование вживленным компьютером как эксперимент, хотя для Брайана это уже стало привычным образом жизни. Теперь ему больше не приходилось корпеть над печатными страницами - достаточно было загрузить что угодно в память, а разбираться потом. К себе он возвращаться не стал, а ходил взад и вперед по комнате, мысленно углубляясь то в одну, то в другую часть учебника, сопоставляя их, усваивая новые ассоциации. В конце концов он воскликнул вслух: - Да это же то, что надо! В самом деле, такая теория идеально подходит к моей проблеме. "Суперэго" - это, по-видимому, механизм целеполагания, который появился после возникшего раньше механизма импринтинга. Ну, знаете, того механизма, который открыл Конрад Лоренц, - благодаря ему детеныши многих животных держатся вблизи источника заботы и защиты. Так у ребенка появляется сравнительно постоянная, стабильная система целей. После того как ребенок включает в нее образ матери или отца, такая структура может оставаться в его сознании всю жизнь. Но как бы ввести такое "суперэго" в мой искусственный интеллект? Смотрите: это можно было бы сделать, если загрузить достаточную часть моей собственной подсознательной системы ценностей. А почему бы и нет? Активировать все мои К-линии и немы, идентифицировать и записать все связанные с ними эмоции. Потом использовать эти данные, чтобы построить модель моего сознательного самоощущения. А потом добавить сюда мой идеал - то, к чему "суперэго" велит мне стремиться. Если удастся загрузить и это, мы далеко продвинемся к стабилизации нашего машинного интеллекта и управлению им. - Давай попробуем, - сказала доктор Снэрсбрук. - Пусть никто еще не доказал, что все это существует на самом деле. Мы просто предположим, что у тебя в голове все это есть. И возможно, окажемся первыми, кто сможет это обнаружить. Смотри, ведь мы вот уже столько месяцев разыскиваем и восстанавливаем твою матрицу памяти и мышления. А теперь мы можем сделать следующий шаг - только назад во времени, а не вперед. Мы можем попробовать проследить нити, ведущие из твоего детства, и посмотреть, не найдутся ли такие немы или связанные с ними воспоминания, которые будут соответствовать самым ранним твоим системам ценностей. - И вы думаете, что сможете это сделать? - Не вижу причин, почему бы нет - разве что того, что мы ищем, вообще не существует. Во всяком случае, по ходу дела мы, вероятно, сможем локализовать еще несколько сотен тысяч прежних К-линий и немов. Но нужно действовать осторожно. С доступом к таким глубоко погребенным эмоциям может быть связана серьезная опасность. Я хочу сначала попробовать это на внешнем компьютере, а твою внутреннюю машину на время отключу. Таким способом мы сможем зафиксировать структуры, которые будут обнаружены, вне мозга - возможно, с их помощью удастся усовершенствовать Робина. А тебя такие эксперименты не затронут, пока мы не почувствуем себя увереннее. - Ну что ж, я готов попробовать. 25. 31 МАЯ 2024 ГОДА - Брайан Дилени, уж не проработали ли вы здесь всю ночь? Когда я вчера вечером уходила, вы обещали, что задержитесь всего на несколько минут. А это было в десять часов. С этими словами в лабораторию вошла рассерженная Шелли. Брайан потер рукой предательскую щетину и заморгал покрасневшими от усталости виноватыми глазами. - Почему вы так думаете? - попробовал он увильнуть от ответа. Ноздри у Шелли сердито раздулись. - Ну, для этого более чем достаточно на вас посмотреть. Вид у вас ужасный. Кроме того, я попробовала вам позвонить, но ответа не было. Как вы можете понять, я забеспокоилась. Брайан схватился за ремень, где у него обычно висел телефон, но не обнаружил его. - Наверное, положил куда-нибудь. Я не слышал звонка. Она взяла свой телефон и одним нажатием кнопки памяти набрала его номер. Где-то вдалеке послышалось жужжание. Поглядев в ту сторону, Шелли увидела, что телефон лежит около кофеварки. Она молча протянула аппарат ему. - Спасибо. - От вас просто нельзя отходить ни на минуту. Мне пришлось идти разыскивать ваших телохранителей - они и сказали мне, что вы все еще здесь. - Предатели, - пробормотал он. - Они так же заботятся о вас, как и я. Нет таких важных дел, чтобы из-за них стоило рисковать здоровьем. - Есть, Шелли, в этом-то все и дело. Помните, когда вы уходили вчера вечером, мы бились с программой-координатором? Что бы мы ни делали, система норовила свернуться в клубок и умереть. Поэтому я начал с простой задачи - сортировки кубиков по цвету. Потом усложнил ее, предложив разноцветные кубики разной формы. А когда я через некоторое время посмотрел, программа-координатор все еще работала, но все остальные, видимо, отключились. Тогда я решил записать, что произойдет, когда я снова все запущу, и на этот раз ввел языковую программу, которая записывала все команды, поступавшие от координатора в остальные блоки. Теперь он стал работать медленнее, и я наконец понял, что происходит. Вот, смотрите сами. Он поставил запись, сделанную ночью. На экране показался робот, быстро сортирующий разноцветные кубики, потом он стал работать медленнее, еще медленнее и наконец совсем остановился. Из динамика слышался глубокий бас Робина-3: - ...К-линия 8997, выдай ответ на входной сигнал 10983... время реакции слишком велико... отвечай немедленно... блокирую. Задаю подпроблему 384. Принят ответ от К-4093. Блокирую замедленные ответы от К-3274 и К-2314. Задаю подпроблему 385. Ответы от К-2615 и К-1488 противоречат друг другу - блокирую обоих. Задаю... Брайан выключил динамик. - Понимаете? - Не совсем. Одно ясно: эта программа только и делает, что блокирует другие. - Ну да, в этом-то и дело. Предполагалось, что она должна обучаться на опыте, вознаграждая хорошо работающие блоки и блокируя плохо работающие. Но ей был задан слишком высокий порог - ее устраивали только безупречные и мгновенные ответы. Поэтому она вознаграждала только те блоки, которые отвечали быстро, а более медленные отключала - даже когда они пытались сделать то, что в конечном счете было бы правильнее. - А, понимаю. А дальше - эффект домино: когда какой-нибудь блок отключался, ослабевала связь других блоков с ним... - Вот именно. И тогда реакция этих блоков замедлялась, и они тоже в свою очередь отключались. Пока программа-координатор не заблокировала всех. - Какой ужас! Получается, что она совершила самоубийство! - Ничего подобного! - раздраженно сказал он голосом, хриплым от усталости. - Это чистейший антропоморфизм. Машина - не человек. И что такого ужасного, когда одна схема отключает другую схему? Да там же нет ничего, кроме электроники и программ. К человеку это никакого отношения не имеет, при чем тут ужас? - Не говорите со мной таким тоном! Кровь бросилась в лицо Брайану, но он тут же опустил глаза. - Простите, беру свои слова обратно. Кажется, я просто устал. - Вам кажется, а я точно это знаю. Ваши извинения приняты. И это действительно был антропоморфизм. Но дело не в том, что вы мне говорили, а в том, каким тоном. Давайте не будем больше цапаться, лучше пойдем подышим воздухом. И уложим вас спать. - Хорошо. Только сначала я кое-что просмотрю. Брайан подошел к терминалу и углубился в схему робота. Один за другим на экране появились чертежи. В конце концов он мрачно кивнул: - Ну конечно, опять ошибка. Она появилась после того, как я исправил последнюю. Помните, я ввел установку на подавление чрезмерной блокировки, чтобы робот не отключался сам собой? А теперь он бросился в другую крайность - не знает, когда нужно остановиться. Этот искусственный интеллект прекрасно отвечает на простые вопросы, но только если ответ можно найти почти не думая. А вы видели, что произошло, когда он не знал ответа. Начал произвольный поиск, заблудился и не понимал, что надо остановиться. Он, можно сказать, не знал, чего именно не знает. - Мне показалось, что он просто свихнулся. - Можно сказать и так. Для ошибок в работе человеческого мозга у нас есть множество слов - паранойя, кататония, фобия, невроз, нерациональное поведение. Наверное, для всех новых причуд, которые появятся у наших роботов, придется придумывать новые слова. И можно не надеяться, что новая конструкция заработает сразу после первого включения. В данном случае она пыталась воспользоваться всеми своими экспертными системами, чтобы решить одну и ту же задачу. Координатор оказался недостаточно силен, чтобы подавить ненужные. Весь этот набор слов свидетельствовал о том, что он цеплялся за любую ассоциацию, которая, казалось, может привести его к решению, как бы мало вероятно это ни было. А когда какой-нибудь подход оказывался неудачным, эта штука не догадывалась, что надо остановиться. Даже если наш искусственный интеллект будет работать, нет никакой гарантии, что он не окажется, с нашей точки зрения, ненормальным. Брайан потер небритую щеку и взглянул на замершую в неподвижности машину. - Давайте-ха как следует посмотрим вот здесь, - он ткнул пальцем в схему на экране. - Здесь видно, что случилось на этот раз. У Робина-3-1 была слишком сильная блокировка, и он отключался. Поэтому я изменил этот параметр, и теперь блокировка недостаточна. - Так что же делать? - Ответ простой - ответа не существует. Нет, это никакая не мистика. Я хочу сказать, что координатор должен знать больше. Именно потому, что чудес не бывает, что общего решения нет. Не может быть простого рецепта, который срабатывал бы во всех случаях, - потому что все случаи разные. Стоит только это признать, как все становится намного понятнее! Координатор должен быть связан с базой знаний. И тогда он сможет на опыте учиться тому, что должен делать! - Вы хотите сказать, что он узнает, какую стратегию применить в данной ситуации, вспомнив, какая пригодилась ему в прошлом? - Именно так. Вместо того чтобы искать жесткую формулу, которая срабатывала бы всегда, пусть учится на опыте, от одного случая к другому. Потому что нам нужна машина, которая была бы разумна сама по себе, чтобы не приходилось постоянно дежурить поблизости, поправляя ее, когда что-то идет не так. Мы должны научить ее исправлять ошибки по мере их появления. Исправлять самостоятельно, без нашей помощи. Теперь я знаю, что делать. Помните, когда она словно ходила по кругу, повторяя одно и то же? Нам-то легко было видеть, что она бьется на одном месте. Но она не понимала, что зациклилась, - и именно потому, что зациклилась, она не могла выйти за пределы замкнутого круга и увидеть его со стороны. Это мы исправим - добавим записывающее устройство, которое будет запоминать, что она только что делала. И часы, которые будут то и дело прерывать работу программы, чтобы она могла просмотреть запись и увидеть, что движется по кругу. - Или еще лучше - добавить еще один процессор, который будет постоянно работать, присматривая за первым. Мозг Б для присмотра за мозгом А. - А может быть, и мозг В для присмотра, не зациклился ли мозг Б. Черт возьми! Я только что вспомнил, что в одной из моих старых записей говорилось: "Здесь поставить мозг Б, чтобы подавить зацикливание". Надо бы мне, конечно, тогда писать пояснее. Дайте-ка я прикину, каким должен быть этот мозг Б. - Только не сейчас! В таком состоянии вы все испортите. - Вы правы. Пора спать. Лягу, не беспокойтесь, только сначала чего-нибудь поем. - Я пойду с вами и выпью кофе. Брайан отпер дверь и сощурился от яркого солнечного света. - Вы мне как будто не доверяете. - Да, не доверяю - после сегодняшней ночи. Шелли прихлебывала кофе, пока Брайан расправлялся с завтраком по-техасски - бифштексом с яйцом и оладьями. Не в состоянии его одолеть, он перевел дух и отодвинул тарелку. Если не считать двух сменившихся с дежурства охранников, которые сидели за столом в дальнем углу, они были в столовой одни. - Вот теперь я чувствую себя более или менее человеком, - сказал он. - Еще кофе? - Нет, мне более чем достаточно, спасибо. Как вы думаете, сумеете вы наладить ваш свихнувшийся искусственный интеллект? - Нет, я так на него разозлился, что стер ему всю память. Придется заново переписать кое-какие программы, прежде чем мы снова его загрузим. Это займет пару часов. Даже ассемблеру "лама-5" требуется для таких вещей много времени. И на этот раз, прежде чем запускать новый вариант, я хочу сделать резервную копию. - Это значит - дубликат. А как вы думаете, когда у вас будет работающий человекоподобный искусственный интеллект, можно будет снять копию и с него? - Конечно. Что бы он ни делал, это все равно всего лишь программа. Программу всегда можно скопировать, и любая копия ничем не будет от нее отличаться. А почему вы спрашиваете? - Проблема индивидуальности. Будет ли второй искусственный интеллект в точности таким же, как и первый? - Да, но только в тот момент, как будет скопирован. А как только заработает, начнет думать сам, - станет меняться. Вспомните: мы не что иное, как наша память. Когда мы что-то забываем, или чему-нибудь обучаемся, или нам приходит в голову новая мысль, новая ассоциация, - мы меняемся. Становимся кем-то другим. И это же относится к искусственному интеллекту. - Вы в этом уверены? - спросила она с сомнением. - Безусловно. Потому что именно так функционирует сознание. А это значит, что мне придется еще много поработать над критериями оценки. Потому-то и оказались неудачными столько прежних вариантов Робина. Проблема в оценке последствий - мы об этом уже говорили. На самом деле схема "возбудитель - реакция - вознаграждение" для обучения не годится: таким способом можно решать только простые задачи, дающие непосредственный результат. Нет, нужно добиваться масштабного мышления, надо обдумывать долгосрочные последствия, выяснять, какие стратегии действительно были эффективными, а какие заводили в тупик, какие ходы, казавшиеся полезными, на самом деле ничего не дали. - У вас получается, что сознание - это что-то вроде... вроде луковицы. - Ну да. - Он улыбнулся этому сравнению. - Хорошая аналогия. Слой за слоем, и все соединены между собой. Человеческая память не просто ассоциативна, она не ограничивается сопоставлением ситуаций, реакций на них и результатов. Это еще и прогноз. Возникающие ассоциации тоже должны включать долгосрочные цели и планы. Вот почему так важна разница между краткосрочной и долговременной памятью. Почему требуется примерно час, чтобы запомнить что-то надолго? Потому что должен быть какой-то буферный период, чтобы решить, какое поведение на самом деле достаточно полезно, чтобы занести его в память. Внезапно он ощутил усталость. Кофе остыл, голова начинала болеть, надвигалась депрессия. Шелли заметила это и дотронулась до его руки. - Пора спать, - сказала она. Он вяло кивнул и с трудом поднялся со стула. 26. 19 ИЮНЯ 2024 ГОДА Беникоф постучал, и Шелли открыла ему дверь. - Брайан только что пришел, - сказала она. - Я как раз достала для него пива. Вам тоже? - Если не трудно. - Заходите, взгляните, как я устроилась, - в конце концов, оплатили все это вы. Она ввела его в гостиную, где были тщательно вытравлены все следы казармы. Окно обрамляли шторы от пола до потолка из яркой ткани ручной работы. Темно-оранжевый ковер был подобран в тон их рисунку, с ним гармонировали и изящные линии датской мебели из тикового дерева, а почти целую стену занимало красочное пятно посткубистской картины. - Прекрасно смотрится, - сказал Бен. - Теперь я понимаю, почему бухгалтерия была в истерике. - Вовсе не из-за этого. Ткань и ковер - это израильский дизайн и арабская работа, стоили они не так уж дорого. Картину дала мне на время художница, моя подруга, она надеется, что кто-нибудь ее купит. Большая часть денег пошла на кухню - она оборудована по последнему слову техники. Хотите посмотреть? - Сначала пиво. Мне нужно к этому подготовиться. - Не хотите ли вы раскрыть тайну этого приглашения на таиландский обед? - спросил Брайан, уютно развалившийся в мягком кресле. - Вы же знаете, что мы с Шелли здесь, в "Мегалоуб", на положении пленников, пока вы не выловите убийц. Как мы можем отправиться в этот ваш таиландский ресторан? - Если вы не можете отправиться в Таиланд, Таиланд может прийти к вам. Когда вы сказали, что хотите ввести меня в курс вашей работы над искусственным интеллектом, я подумал, что это надо отпраздновать. Спасибо, Шелли. Бен сделал большой глоток холодного "Текате" и вздохнул: - Хорошее пиво. Все началось на прошлой неделе с проверки, которую проводит служба безопасности. Я вхожу в состав комиссии из военной разведки - она проверяет каждого солдата, которого предполагается перевести сюда. Таким способом я и узнал, что рядовой Лэт Фроа завербовался в армию, только чтобы не работать в отцовском ресторане. Он заявил, что ему невмоготу стоять у плиты и хочется отведать настоящей жизни. Однако после года армейской кормежки он более чем счастлив приготовить настоящий таиландский обед на здешней кухне, если я достану все нужные приправы. Я их достал. Повара ничего против не имеют, а для личного состава это долгожданное разнообразие. С двух часов столовка в полном нашем распоряжении. Мы выступаем в качестве морских свинок: если нам понравится, Лэт пообещал вечером накормить всех остальных. - Мне не терпится попробовать, - сказала Шелли. - Не то чтобы здесь так уж плохо кормили, но хочется чего-нибудь необычного. - А как идет расследование? - спросил Брайан, который никогда о нем не забывал. Бен хмуро уткнулся в свой бокал. - Рад был бы сообщить какую-нибудь хорошую новость, но мы, кажется, зашли в тупик. Мы достали послужной список Алекса Тотта. Пилот он был выдающийся, об этом говорит множество отзывов. Но сильно пил - на грани алкоголизма, и характер у него был скверный. После войны от него избавились при первой же возможности. По адресу, который он тогда оставил, мы не нашли никаких его следов. Его пилотские права еще действительны, ФБР проследило по ним, где он работал. Но сам он исчез - и след простыл. История, которую рассказал Дасти Родс, подтвердилась. Его впутали в это дело, а потом предоставили выпутываться, как сможет. Происхождение денег, переведенных на его счет, выяснить невозможно. - А что будет с Родсом? - спросила Шелли. - Теперь - ничего. Остаток денег, которые он от них получил, реквизирован и передан в фонд помощи жертвам преступлений, а он дал подробные показания обо всем, что произошло и что он делал. Теперь он будет вести себя паинькой, иначе ему придется отвечать сразу по многим статьям. Мы хотим, чтобы вокруг этого дела не было никакого шума, пока не закончится расследование. Шелли кивнула и повернулась к Брайану: - Расскажите мне о ваших успехах. Удалось вам заставить работать этот мозг Б? - Знаете, удалось, и иногда он работает на удивление хорошо. Но не настолько часто, чтобы на него можно было положиться. Там то и дело происходят какие-то необычные и очень любопытные сбои. - Неужели? Я думала, что с помощью "ламы-5" отыскивать дефекты станет проще. - Так оно и есть. Но я думаю, тут дело больше в конструкции. Вы знаете, что мозг Б должен контролировать мозг А и вмешиваться, когда надо, чтобы он не сбивался с толку. Теоретически это должно получаться лучше, когда мозг А не знает, что происходит. Но похоже, что у Робина мозг А до того поумнел, что научился замечать такое вмешательство, - и попытался найти способ возвращаться в прежнее состояние. Кончилось тем, что между ними началась борьба за власть, за управление. - Напоминает шизофрению у человека - расщепление личности. - Точно. Безумие человека отражается в сумасшествии машины, и наоборот. А почему бы и нет? Когда мозг начинает барахлить, одни и те же причины будут приводить к одним и тем же симптомам - что у машины, что у человека. - Должно быть, это не слишком приятно - когда ничего не можешь поделать с полоумным мозгом в металлическом корпусе. - Да нет, я бы не сказал. Это даже ободряет! Чем больше сбои у робота напоминают то, что случается с человеком, тем ближе мы к созданию человекоподобного машинного интеллекта. - Но если все хорошо, то чем вы так обеспокоены? - А что, это видно? Ну, возможно, дело в том, что я уже добрался до конца тех заметок, которые мы привезли. Проделал почти все, что в них описано. Значит, теперь я отправляюсь в плавание по неведомому морю. - А разве обязательно, чтобы этот ваш искусственный интеллект был таким же, как тот, который похитили? - В общем да, если не говорить о мелочах. Дело в том, что в нем уж слишком много дефектов - боюсь, не застряли ли мы на второстепенной вершине. - Что это значит? - спросил Бен. - Простая аналогия. Исследователь похож на слепого альпиниста. Он лезет в гору и в конце концов добирается до вершины - дальше подниматься некуда. Но поскольку он ничего не видит, он не может догадаться, что поднялся не на главную вершину, а на соседнюю, пониже, и что это тупик. Цели ему здесь не достигнуть - для этого надо снова спуститься вниз и искать другой путь к главной вершине. - В этом есть смысл, - сказал Бен. - Значит, ты хочешь сказать, что искусственный интеллект, который ты только что построил, - видимо, почти такой же, как тот, что похитили, - это, возможно, всего лишь второстепенная гора, а не главная вершина? - Боюсь, что так. Бен весело присвистнул: - Так это же самая лучшая новость, какую только можно придумать! - Вы случайно не переутомились? - А ты подумай! Это значит, что кто бы ни украл твою старую модель, теперь оказался в таком же тупике, - но он этого даже не знает! А тебе никто не мешает усовершенствовать свою машину. И тогда у нас будет то, что нужно, а у них нет! После недолгого раздумья на лице у Брайана появилась широкая улыбка. - Конечно, вы правы, это действительно самая лучшая новость. Те жулики застряли в тупике - а я буду двигаться дальше. - Только не сейчас, а после обеда, - заявила Шелли, ставя рюмку на стол и указывая на дверь. - Выметайтесь отсюда. Уже больше двух, и я умираю от голода. Еда - прежде всего, а все разговоры - потом. Когда они управились с си-хронг-му-сам-ротом - который, несмотря на устрашающее название, оказался необыкновенно вкусным и представлял собой кисло-сладко-соленую свиную грудинку, - у них едва хватило сил на десерт, состоявший из вареной на пару тыквы со сладкой начинкой. - Никогда больше не буду есть армейского пайка, - проворчал довольный Брайан, похлопывая себя по животу. - Скажите это повару - он будет счастлив, - отозвалась Шелли. - Во всяком случае, я так и сделаю. Лэт Фроа принял их похвалы как должное, удовлетворенно кивая: - Неплохо получилось, правда? Если остальным парням понравится, я постараюсь добиться, чтобы такие блюда включили в обычное меню. Хотя бы ради меня. Бен распрощался и ушел, а Брайан и Шелли решили немного пройтись после обеда, прежде чем идти в лабораторию. - Мне не терпится - но немного страшно, - сказал Брайан. - Отправляться в неведомые моря. До сих пор у меня была карта - мои собственные заметки, а теперь она кончилась. Не слишком ли большая наглость со стороны четырнадцатилетнего мальчишки - надеяться на успех там, где осрамился двадцатичетырехлетний? - Ну не скажите. Доктор Снэрсбрук говорит, что вы теперь соображаете лучше, чем раньше, - ваш имплантат наделил вас какими-то необыкновенными способностями. А кроме того, вы с ней очень многого добились, анализируя работу вашего мозга, - вы узнали о себе, наверное, больше, чем мог бы узнать целый полк психологов. Я убеждена, что вам все удастся, Брайан. И вы подарите миру нечто совершенно новое. - Человекоподобный машинный интеллект - не больше и не меньше! 27. 22 ИЮЛЯ 2024 ГОДА Проснувшись, Бен прослушал записи своего автосекретаря и услышал голос Брайана: - Бен, сейчас четыре утра, и дело в шляпе! Данных, которые были в Робине, почти хватило, а остальное добавила доктор Снэрсбрук - она раскодировала кое-что из моего мозга. Это была каторжная работа, но мы управились. Так что теперь Робин теоретически содержит копию моего "суперэго". Я велел компьютеру заново пересмотреть все программы Робина и попытаться интегрировать то, что в них было, с новым материалом. Теперь мне надо немного поспать. Если сможете, приходите, пожалуйста, в лабораторию после обеда - я вам все покажу. Конец связи - и спокойной ночи. - Дело в шляпе, - сказал Брайан, когда они встретились в лаборатории. - Данных, уже загруженных в Робина, было почти достаточно. А доктор Снэрсбрук добавила остальное - то, что можно назвать матрицей, копию моего "суперэго". Это, можно сказать, копия того, как в моем мозгу работают управляющие функции самого высшего уровня. Всю память, которая не связана с управлением, убрали, и осталась, как мы надеемся, матрица действующего разума. Не так просто было совместить эти программы с уже заложенными в Робина, но в конце концов нам это удалось. Впрочем, по ходу дела случилось несколько солидных сбоев - о некоторых вы знаете. - Вроде погрома в лаборатории на прошлой неделе. - И еще одного - во вторник, - добавила Шелли. - Но все это в прошлом. Теперь наш Свен просто прелесть. - Свен? - На самом деле - Робин-7: выяснилось, что у шестой модели не хватало объема памяти. - Это все Шелли, - сказал Брайан. - Ей кажется, что когда я со своим ирландским выговором произношу "seven" - "семь", получается похоже на "свен". Поэтому она тайком от меня ввела в программу шведский акцент, а кличка так и осталась. - Ну-ха, дайте мне послушать, как робот разговаривает со шведским акцентом! - К сожалению, ничего не выйдет. Акцент мы убрали. Слишком смешно получалось, невозможно было работать. - Тоже верно. Ну и когда же ты меня познакомишь с вашим искусственным интеллектом? - Сейчас. Только разбужу Свена, - и Брайан указал на неподвижного телеробота. - Разбудишь или включишь? - спросил Бен. - Компьютер, конечно, работает все время. А новая схема управления памятью, оказывается, вроде сна у человека - она сортирует воспоминания, накопившиеся за день, чтобы разрешить возможные противоречия и убрать лишнее. Нет смысла загружать память тем, что человек уже знает. Свен, можешь проснуться, - произнес Брайан громко. Крышки, закрывавшие три линзы, щелкнув, поднялись. Свен встрепенулся и повернулся к ним. - Добрый день, Брайан и Шелли. И незнакомец. - Это Бен. - Рад познакомиться с вами, Бен. Это ваше имя или фамилия? - Прозвище, - ответил Бен. Робин опять его не узнал - уже в третий раз; ничего удивительного, ведь у него заменили память. - Полностью - Альфред Дж.Беникоф. - Рад с вами познакомиться, мистер или миссис Беникоф. Бен удивленно поднял брови, а Брайан рассмеялся: - Свен еще не усвоил всю информацию, касающуюся распознавания половых различий. В сущности, он начинает с нуля, и задачи у нас сейчас совсем другие. Главное - целостность. Я хочу, чтобы у Свена был столь же целостный разум, как у ребенка. Вот сейчас я собираюсь научить его, как ребенка, переходить улицы. Мы идем на прогулку - пойдете с нами? Бен бросил взгляд на электронное оборудование, загромождавшее лабораторию, и снова поднял брови. Видя его удивление, Брайан рассмеялся и показал в дальний конец комнаты. - Виртуальная реальность. Мне даже не верится, что техника могла так далеко продвинуться вперед за эти десять лет. Мы наденем инфоскафандры, а Свен присоединится к нам через электронику. Шелли займется имитаторами. Скафандры расстегивались со спины. Брайан и Бен разулись и влезли в них. Скафандры были подвешены за крепления и позволяли на ходу поворачиваться и изгибаться. Плоские бегущие дорожки на полу позволяли шагать в любом направлении, а механические устройства в ботинках воспроизводили форму и характер имитируемой поверхности. Легкий, как перышко, шлем поворачивался вместе с головой, а на экране перед глазами разворачивалась картина, воссозданная компьютером. Бен взглянул вверх и увидел за верхушками деревьев обелиск в честь Джорджа Вашингтона. - Туманна