Станислав
ЛЕМ
Утраченные
иллюзии, или От интеллектроники к информатике
Краков, 1954—55 – октябрь 56
Разочарование в кибернетике после двух
десятилетий ее существования – частично практического, а частично теоретического
свойства. И поскольку теоретические «недомогания» более фундаментальны и
труднее поддаются диагностике, начнем именно с них. Известно, что отцы
кибернетики – Винер, Шеннон, фон Нейман – с самого начала предостерегали от
чрезмерного оптимизма видеть в кибернетике универсальный ключ к познанию. Но
известно также, что сами они не смогли избежать ни эйфории вследствие ее
успехов, ни завышенных ожиданий по ее поводу. Кибернетическая программа
познания – представленная, кстати говоря, скорее в популярном изложении, чем в
научных трудах – провозгласила возникновение нового языка, то есть системы
абстрагирования понятий и тем самым системы нового уровня обобщений, благодаря
которому стало бы возможно объединить множество до сей поры размежеванных, отделенных
друг от друга непреодолимыми барьерами областей – естествознания и гуманитарных
наук (например, биологии, геологии, физики – и антропологии, психологии,
лингвистики, социологии, литературоведения, в конце концов). Для этого нового
языка кибернетика располагает системными моделями, абстрактными в такой
степени, что с их помощью можно рассматривать бесчисленные явления, исследуемые
самыми различными науками при сохранении идентичности основных понятий –
информации, ее источника, пользователя и каналов поступления, системы,
снабженной «входами» и «выходами», обладающей положительными и отрицательными
обратными связями, траектории системы, обозначенной модулем трансформации[36].
Предполагалось, что эти понятия, математически выверенные, станут как бы общим
знаменателем для унифицированных дисциплин и одновременно дадут возможность
конкретизировать ход исследования в тех областях, где до этого считались
недопустимыми методы точных наук. Однако эта программа уже при самом своем
возникновении не могла быть реализована полностью – по двум причинам.
Во-первых, из-за несовершенства самой кибернетики – об этом ниже. Во-вторых, в
связи с проблемами, или, если кому-то больше нравится, кризисными явлениями,
которые переживает сама математика двадцатого века. А именно, человеческая
история выдвинула на первое место в математике и тем самым сделала частью ее
инструментария направления не из основ чистой математики, а побочные, как,
например, теория вероятности – основа теории информации по Шеннону, которую
собственно математики долгое время рассматривали в качестве
«незаконнорожденной», или же теория алгоритмов и теория систем, которые –
особенно последняя! – не были полностью формально разработаны, то есть они
изначально оперируют понятиями, не вызывающими доверия у математика. Мы не
можем здесь – да и не умеем – преподавать математику; достаточно сказать, что
эта почва в основании фундамента кибернетики, математическая почва, не очень-то
была надежной. Как теория вероятности, так и теория алгоритмов (теория систем,
чрезвычайно существенная для кибернетики, и вовсе остается скорее областью
пожеланий, собранием набросков и предложений, чем самостоятельной дисциплиной в
конкретном понимании) имеют, образно говоря, четкое, явно выкристаллизовавшееся
ядро и периферии, роящиеся нерешенными проблемами и сомнениями. Попытки
расширения этих уже обоснованных областей приводят к серьезным затруднениям,
связанным с неоднозначностью главных терминов – как «вероятность», так и
«алгоритм».
Можно заключить эти рассуждения
афоризмом, что в обоих направлениях можно или достичь немногого совершенно
надежным образом, или сделать много с очень спорным результатом. Для развития
кибернетики недостаточно простого применения теории вероятности и теории
алгоритмов, поэтому предполагалось, что этой новой науке придет на подмогу
чистая математика; среди прочих такую надежду обнаруживал упомянутый фон
Нейман, поскольку он видел несовершенство надежных, но не универсальных приемов
комбинаторики, следующих из возрожденной и внезапно сделавшейся модной булевой
алгебры. К сожалению, помощи оказалось недостаточно. Кроме того, над
математикой витают свойственные только ей заклятия, порожденные понятиями из
области бесконечности, от которых прикладная математика, применяемая в физике,
отказаться не может, потому что физика, особенно классическая, применяет
дифференциальное исчисление; а понятийный аппарат бесконечности, внедренный в
теорию множеств, кибернетике ни к чему, таким образом, здесь столкнулись две
противоречащие друг другу тенденции развития (финитная и инфинитная). Это
привело к возникновению фундаментального сомнения: чем, собственно, является
кибернетика – областью чистой математики или же математически
интерпретированной моделирующей областью физики? Этот вопрос не является таким
уж спекулятивно бесплодным, как может показаться. В качестве раздела физики
кибернетика получила бы эмпирическое происхождение и, таким образом,
подчинялась бы прежде всего экспериментальным исследованиям, представляя собой
теорию или же сочетание неустойчивых теорий. В качестве раздела математики она
была бы генератором моделей, то есть структур, которые по определению истинны в
той степени, в какой непротиворечивы расчеты, их формирующие, а вопрос их
познавательных возможностей в областях, не связанных с математикой, стоял бы
отдельно и был бы для кибернетиков периферийным. Надо сказать, что сами
кибернетики не могли определиться со статусом своей науки внутри указанной
альтернативы. Какой-нибудь фрейдист истории науки, может быть, сказал бы, что
они не хотели отказаться ни от некоей дедуктивной истинности, какой отличается
математика, ни от инструментальной результативности, которая характеризует
естественные дисциплины, таким образом, их «подсознание» мешало им осуществить
соответствующий акт классификации. Однако такое утверждение было бы хуже, чем
инсинуация, оно было бы упрощением – не от какой-то там ненасытной жадности, от
недостатка знаний происходило это состояние нерешительности. «Отцы» были по
образованию математиками, но только Винер ближе всех был к чистой математике:
фон Нейман, ум несомненно гениальный, занимался «всем понемногу» – квантовой
механикой, теорией автоматов и информации, химией, биологией, даже
нейрофизиологией; Шеннон, в свою очередь, был инженером связи. Непонятными
также были – и таковыми, собственно, и остались – отношения между кибернетикой
в конкретном понимании (сюда относится теория систем, имеющих входы и выходы, с
обратными связями, а также их всевозможными модификациями, с участками
гомеостаза, самоорганизации) и т.п. ей и их относительно автономными областями,
такими как теория информации Шеннона, а также еще менее связанными с
кибернетикой и более независимыми направлениями – от теории динамического
программирования до теории методов организации.
Главным упреком кибернетике с
самого начала было утверждение, что она не открывает ничего нового и только
переводит на собственный язык давно и хорошо известные, но представленные на
других языках описания системы и процессы, тем самым обрекая себя на бесплодие;
это не был полностью безосновательный аргумент. Плодотворность применения
кибернетического понятийного аппарата во многих областях оказалась никакой. Она
достаточно много проясняет – например, в теоретической биологии, – но сама по
себе к новым значительным открытиям не ведет. Применение ее не то чтобы дает
неправильные результаты, а только иногда применять ее преждевременно, иногда
неэффективно, например, когда отсутствие в рассматриваемой науке
соответствующих фактических данных делает невозможной подробную разработку
предварительно введенных кибернетикой схем. Потом обнаружилось, что теория
информации несовершенна в своем постулированном на вырост универсализме
применения; что понятие информации, даже асемантической, даже шенноновской
чрезвычайно трудно применять адекватно вне системы отношений, установленных
человеком в качестве системы соединений. Посвятим несколько слов этому очень
важному аспекту. Правда, препятствия в развитии кибернетики не сводятся к
информационным проблемам, но они необычайно важны, хотя бы потому, что трудно говорить
конкретно об «управлении и связях в системе и в механизме», если не установлены
конкретные понятия и параметры измерения информации, при помощи которых
упомянутые связи и упомянутое управление можно было бы измерить. Наибольшие
восхищение и радость, как бы сопутствующие открытию современного философского
камня, вызвало отождествление передающейся информации с термодинамической
энтропией, поскольку таким образом был перекинут, как говорили «отцы», например
фон Нейман, мост между логикой и физикой – впервые в истории познания.
Информация оказалась «отрицательной энтропией», «негэнтропией», антитезой
энтропии как физической величины, измеряющей «энергетическую диссипацию»,
«степень неупорядоченности» системы, понимаемой вероятностно (поскольку высшая гармония
термодинамически всегда соответствует наименее вероятным состояниям физической
системы).
К сожалению, эта радость очень
скоро принесла большое разочарование и озабоченность, поскольку, как оказалось,
она была оптимизмом на вырост. Поначалу считалось, что несовершенство
физикалистского определения информации связано только с особенностями его
семантики, с тем, что качество информации невозможно соотнести с теорией
Шеннона. Не прекращались также попытки разработать и семантическую теорию
информации в духе, например, Карнапа и Бар-Гиллеля. Однако оказалось, что даже
чисто ортодоксальная, из области передачи, выведенная из термодинамики теория
информации страдает определенным несовершенством. Это стало очевидным, когда
многочисленные исследователи в разных областях попытались установить хотя бы
приблизительное количество информации, заключенной в живом организме, в
яйцеклетке, в системе хромосом или же в генетическом наборе биоценозной
популяции – или же определить, где содержится больше информации: в зиготе или в
организме, который из нее возникает? Один из самых выдающихся лингвистов,
логиков и информатиков, Дж. Бар-Гиллель, в конце концов оповестил всех, что
вообще не имеет смысла в науке задавать вопросы о форме того, чем является Х
(то есть чем является информация), что это в каком-то смысле метафизически
сориентированные вопросы, которые ожидают «ультимативного» ответа, делающего
нам доступной «сущность» такого определенного «бытия», как информация или
гравитация – сущность, которой вечно самокорректирующаяся и эволюционирующая
наука прочным и устойчивым образом достичь не в состоянии. Этот его постулат
имеет прецеденты, как известно, существуют вопросы, prima facie[37] совершенно
обоснованные, то есть правильные с точки зрения логики, которые нельзя ставить
в квантовой механике в связи с опасностью получить ответ, внутренне
противоречивый и тем самым бессмысленный. Тем
не менее радикализм позиции Бар-Гиллеля может вызвать удручающие результаты.
Поскольку мы не только теряем шанс выяснить, чем, собственно, является
информация, что, может быть, она категориально принадлежит к семейству таких
понятий, как энергия и масса, что, может быть, это некое «обособленное бытие»,
но, кроме того – и быть может, и это самое плохое, – мы утрачиваем понимание
области ее применения, поскольку обнаруживается, что не определенная для
оперирования информация вообще не является осмысленной мерой ни в биологии, ни
в психологии – за исключением лингвистики ее нигде нельзя использовать за
пределами узкой, с инженерной точки зрения, области техники связи, то есть в
коммуникационных передатчиках, каналах и приемниках.
Лингвистика же потому только
остается верной служению информатике, поскольку рассматривается с точки зрения
комбинаторики и теории вероятности одновременно. (Хотя, собственно, и там
полная математизация трудна или даже невозможна, и приходится довольствоваться
эвристически определенной апроксимацией, когда, например, есть задача – точно
измерить частоту обнаружения букв в этническом языке, эту частоту можно
вычислить с достаточной на практике степенью точности, но невозможно вывести
теоретически завершенную формулу, потому что, когда доходит до проверки
выведенной формулы на материале наблюдения за говорящими, мы снова возвращаемся
к исходному пункту – к давнему противоречию между эмпирической вероятностью и
математической теорией ожиданий.) Надо сказать, что ограничение деятельности
информатиков (если они лингвисты) исследованием этнических языков следует
рассматривать как значительный урон с непредвиденными последствиями, и это
потому, что якобы такой спасительный для информатики ригоризм, или, говоря
иными словами, предусмотрительное самоограничение, отрезает ей все пути к
параллельному исследованию того «иного» языка, каким является хромосомный код в
биологии. Эмпирически прямо-таки бросающееся в глаза подобие передачи
наследственности и языковой артикуляции пробудило большие надежды в области
познания; ожидалось, что появится обобщение нового типа, при синтезе которого
понятие информации будет играть ведущую роль, поскольку как производное
одновременно из области логики и термодинамики даст возможность рассматривать в
идентичном ракурсе, с помощью идентичного терминологического аппарата как
естественных (этнических) языков, приспособленных для того, чтобы договариваться
между собой (для межличностной коммуникации), так и проверочных языков, то есть
являющихся самореализующимися гипотезами, каковые представляют собой
хромосомные артикуляции живых систем. И в то время как все, казалось бы,
указывало эмпирикам-натурфилософам на общую в корне природу языков этих двух
порядков – системы теоретических понятий, которые должны были эти факты,
обнаруженные с таким триумфом, упорядочить и открыть простор для дальнейших
исследований, именно в этот момент обнаружили свою беспомощность.
Миной замедленного действия,
расторопно установленной на этом участке исследования, было понятие сложности.
И ведь создали целую теорию систем, однако по-прежнему пытаются конструировать
только для того, чтобы в конце концов конкретизировать туманное и не
поддающееся определениям, особенно математическим, независимое, «не желающее»
подчиниться четкому обобщению понятие. Предостаточно также было попыток
наведения мостов между понятиями физической информации сложности таким образом,
чтобы измерения информации автоматически свидетельствовали об уровне сложности
исследуемого объекта. Попыток было много, о чем свидетельствует возникновение
терминов, определяющих информацию, – структурная, метрическая, топологическая,
алгоритмическая, даже вневероятностная, комбинаторная и т.п. К сожалению,
результаты принесли больше разочарования, чем успехов. Поясним коротко,
доступно, а следовательно, не по нашей вине приблизительно, в чем состоит
обреченность и ненадежность понятия информации по отношению к понятию сложности.
Понятие информации как бы обладает для многих субъективизмом, чуждым типичным
терминам физики, поскольку измерения информации всегда относительны.
Прибывающая информация – это акт выбора одного состояния из числа всех
возможных состояний – и поэтому она измеряется разностью вероятностей: до
поступления предпочтительного сигнала и после его поступления. Тем самым,
поступление информации в измерительном смысле адекватно понижению
неопределенности состояния, каким фактически характеризуется наблюдаемая система.
Данная система в этом случае всегда рассматривается как один из элементов
замкнутого счетного множества, включающего все возможные состояния этой
системы. Для лингвиста, например, нет ничего проще, чем определить границы
множества, поскольку его элементы представлены языковой артикуляцией, всегда
завершенной, а объем информации поддается точному комбинаторному определению –
по количеству знаков (букв алфавита), которые можно обнаружить в сообщении.
Простые операции комбинарики позволяют выполнить измерение, поскольку
изображение букв, их размер, конструкция, то, что они, например, расположены
горизонтально или вертикально, на плоскости или на поверхности геометрического
тела, закодированы ли они на материальном носителе, как бумага, или передаются,
например, как фонемы, колебаниями среды (воздуха) – не имеет никакого значения.
Количество информации, содержащейся
в напечатанной фразе, не изменится, если ее переписать палочкой на песке или
вылепить буквы из глины, отлить из металла, высечь в скальном грунте или
изготовить многотонные образцы из бетона и т.п. В то время как неизвестно,
собственно говоря, каким образом можно аналогично ограничить информацию, то
есть сделать ее независимой от носителя, – в случае с наследственным кодом.
Совокупность фраз английского языка и совокупность «хромосомных высказываний» –
как линейных артикуляций хромосомного «языка» – не поддается аналогичному
подытоживанию в отношении информационной насыщенности, поскольку «отделимость»
слов от эмиттента (источника информации) и рецептора (получателя) отличается
самым решительным образом – ведь мы знаем, что представляет собой фрагмент из
нескольких фраз на английском, но не знаем, чем, собственно, является
«несколько хромосомных фраз». Мы можем обозначить отдельные единицы хромосомного
кода – ДНК – буквами латинского алфавита. Мы всегда можем отличить
нагромождение букв от фразы по-английски, однако мы не сможем отличить
нагромождения «генных букв» от «фразы» на языке наследственности. Но то, что мы
сейчас этого еще не умеем, не представляет непреодолимой трудности для
информационного измерения. Ведь фразы на этнических языках – например,
напечатанные – никогда не являются истинными системами в физическом смысле.
Системность языковой фразы не является его физической характеристикой и даже
составной частью подобной характеристики. Системность фразы возникает из ее
подчиненности правилам синтаксиса, лексикографии и грамматики данного языка.
Если же мы станем рассматривать напечатанную фразу как физическую систему и
захотим измерить ее информацию, понимаемую термодинамически, то окажется, что
та мера упорядоченности, какую привносит печать (вид фразы, напечатанной на
бумаге) в целое энтропического баланса бумажного листа, ничтожна настолько, что
практически равна нулю.
С точки зрения термодинамики лист
бумаги, покрытый пятнышками или подтеками типографской краски, и лист,
заполненный осмысленным напечатанным текстом, почти идентичны информационно, то
есть энтропически. Это потому, что одному биту информации соответствует десять
– шестнадцать термодинамических единиц энтропии. Уровень упорядоченности
физической системы, каковой является лист бумаги, практически не увеличивается
посредством размещения на нем письма (напечатанного текста), поскольку на листе
поместилось бы от силы несколько сотен битов, в то время как его энтропия в
пересчете на биты является астрономической величиной (квинтиллионы или
квадриллионы битов). Подобным образом выглядит термодинамический и одновременно
информационный итог любой системы, созданной человеком, например, цифровая
машина порядка ста миллионов элементов: машина может вместить самое большее 4 х
109 битов, или 4 х 107 термодинамических единиц, то есть опять-таки ничтожно
мало. Ситуация меняется в случае с живыми системами, в виде зрелых организмов
или же клеток, например, генеративных, поскольку количество упорядоченных
элементов, составляющих подобную систему, насчитывает порядка 1012, и, таким
образом, физическая энтропия клетки или системы обнаруживает зависимость от
количества информации, содержащейся в этой системе и управляющей ее поведением
(например, эмбриогенетическим процессом). Непреодолимые трудности появляются,
однако, в ту же секунду, как только мы попробуем определить количество
информации во «фразе», выступающей в виде хромосомной нити из-за того, что мы
используем обычный статистический подход по отношению к «фразе», составленной
из единиц ДНК (дезоксирибонуклеиновых единиц). Топологические особенности
напечатанной фразы ни малейшего влияния не оказывают на ее информационную
насыщенность, однако на информационное содержание хромосомной нити они влияют
очень существенно. Поэтому нельзя отождествлять единицы ДНК, алфавита генного,
с алфавитом буквенным. Следует четко осознавать, что та легкость процедуры,
какая свойственна информационной трактовке языковых текстов, проистекает
попросту из того, что мы опускаем вообще все связи, в какие фраза,
воспринимаемая человеком, вступает с его мозгом; откуда-то нам известно, что
фраза эта становится тогда системой команд (приказов) и одновременно субстратом
сложной мозговой процедуры для принятия решений, подобно тому как хромосомная
нить одновременно является и системой команд (приказов), сориентированных на
протоплазму зиготы, а также – вместе с этой протоплазмой – субстратом сложной
процедуры для осуществления процессов (а именно: развития плода).
Таким образом, фразы естественного
языка всегда выступают в виде кардинального исключения из всех операций их
умственного восприятия, в то время как фразы языка наследственности аналогичной
автономии не обнаруживают. Правда, мы считаем, что речь идет о трудностях,
вызванных как бы технически, а не какими-то совершенно принципиальными
различиями, но как раз эти-то технические трудности и сводят на нет применение
простых методов статистики и теории вероятности в том ее элементарном виде,
которого достаточно для создания информационных расчетов в языкознании. Попытки
составления информационных расчетов, неоднократно предпринимаемые биологами при
изучении клеток или организмов, приводят как к гигантскому разбросу количественных
оценок, так и – что гораздо хуже – к принципиальным ошибкам и недоразумениям,
поскольку в процессе подобных вычислений понятие информации попросту
девальвируется, теряет всякий физический смысл, объяснимый происходящими
процессами. Например, оказывается, что практически объем информации в живой и
мертвой системах одинаков или почти одинаков, что количество информации в
зиготе может быть меньшим, чем в организме, который из нее возникает, а это
придает видимость истинности утверждению, что жизненные процессы протекали
«против течения» вектора энтропии и тем самым не подчинялись законам
термодинамики. Это, вне всякого сомнения, ложные выводы, которыми чреваты
понятия, ложно – то есть вопреки физической реальности – сформулированные.
Просто мы не можем так резко отгораживаться, исследуя с информационной точки
зрения явления жизни, как при исследовании языковых фраз-одиночек. То, что
можно опустить во втором случае, недопустимо в первом под угрозой впадения в
абсурд. Когда Шеннон советовался с фон Нейманом, как назвать фундаментальную
величину в его теории, последний предложил ему назвать ее энтропией не только
для сохранения идентичности формулы (поскольку формулы информации и энтропии
математически аналогичны), но и потому, что, как он язвительно заметил, никто,
собственно, не знает, что такое энтропия. Когда через несколько лет Л. Бриллюэн
писал книгу об информации в науке, то он назвал энтропию уровнем знания о
физической системе, каким мы обладаем, – а не уровнем «неупорядоченности» этой
системы вообще, что вызвало оживленные отклики и недоразумения, поскольку все
решили, что Брюллюэн считает энтропию – и тем самым информацию – мерой чисто
субъективной, определяющей, что мы знаем о предмете, а не то, что является
частью свойственной ему характеристики состояния. Мы видим, что Джон фон Нейман
действительно был прав.
Понятие энтропии выводится из
изучения различных состояний газа, особенно идеального, и из статистической
механики; оно охватывает наши представления о системе в том смысле, что данная
система – например, газ в сосуде – может находиться в одном из своих
бесчисленных состояний, которые мы не способны различить, поскольку невозможно
локализовать в один и тот же момент времени положение всех молекул газа. И
тогда энтропия относится ко всем без исключения, не идентифицируемым в данный
момент состояниям системы одновременно; поскольку они равновероятны, «с точки
зрения энтропии» они являются как бы одним и тем же. Итак, это действительно субъективное знание, тесно сопряженное,
однако, с объективным состоянием системы; когда же система переходит в
состояния менее вероятные, все более высокого уровня координации, ее энтропия
уменьшается, иными словами, совокупность равноправных по отношению друг к другу
конфигураций газовых молекул утрачивает численную силу за счет измерения.
Принципиально недостижимый энтропический ноль был бы состоянием, в котором о
системе мы знаем все (в физическом, то есть локальном смысле, а не в каком-то
там метафизическом понимании), поскольку в нем установилась целиком однозначная
и, что еще более важно, единственно возможная в этот момент конфигурация
частиц. (Этот ноль недостижим, поскольку неопределенность квантового
происхождения неустранима в принципе.) Хромосомы являются системами с
упорядоченностью очень высокого уровня – ведь в них каждая молекула должна
находиться в определенном для нее месте; их энтропия очень мала, их
информационное содержание – огромно, близкое, может быть, к максимальной
вместимости макромолекулы полимерного типа; как уже было сказано, упорядоченность
фразы, напечатанной буквами, относящейся к языку, в сравнении с «генной фразой»
– почти нулевая с точки зрения термодинамики. Связующая (коммуникативная)
способность языка является результатом его «спусковой» функции: по отношению к
языковой артикуляции мозг является чрезвычайно мощным усилителем также и
физического аспекта процессов. А это – поскольку проговоренная и услышанная
фраза, энтропия которой термодинамически чрезвычайно мала, – приводит в
действие в мозгу лавину скоординированных процессов, служащих «пониманию»
переданной таким образом и притом – микроскопической порции энтропии. Фраза в
этом случае является чем-то вроде курка или спускового крючка, который приводит
в движение каскад амплификации и в энергетическом разрезе (мозг для «понимания»
фразы потребляет такое количество энергии, какое с точки зрения
термодинамического баланса самой фразы представляется просто гигантским, хотя
оно и невелико в абсолютном измерении: вся мощность мозга достигает от силы
полутора десятков ватт). «Фраза» же, построенная из генов, хромосомная нить,
является не курком, а автоспуском, который приводит в движение и организует
процесс развития плода; такое было бы невозможно, если бы эта нить уже в самом
начале не располагала физической упорядоченностью не просто высокой, а высокой
сверх необходимости.
Одним словом, энергия лингвистов не
является собственно энтропией термодинамики, поскольку исследуемые лингвистами
системы не являются системами в физическом понимании: их физический аспект,
хотя и несомненный (ведь полностью вне физики ничего не происходит), в
процессах языковой коммуникации как передачи информации практически никакой
роли не играет (особенно во время чтения, поскольку оптический канал нормально
имеет очень большую вместимость и проводимость, не такую, как акустический).
Фразы языка являются детонаторами, приводящими к эскалации высокоупорядоченных
процессов в мозгу, и их восприятие становится как бы «все более физическим
явлением» в том смысле, что физический аспект работы мозга уже невозможно игнорировать.
Такое положение вещей как раз и облегчает применение простых до примитивности
измерительных процедур в лингвистике, а аналогичные измерения в генетике делает
неслыханно трудными. И это потому, что физический аспект хромосомных «фраз»
никогда нельзя игнорировать при подытоживании их информационной насыщенности.
По этой же причине для лингвистики достаточно простой комбинаторики в качестве
элемента логического анализа, и в то же время именно поэтому комбинаторика
неприменима в генетике, представленной в понятиях информатики: поскольку
химические, атомные и квантово-топологические аспекты написанной фразы никакого
значения не имеют, в то время как химические и квантово-топологические аспекты
хромосомы являются главными характеристиками ее организации. Фраза этнического
языка является корректной при условии построения ее согласно правилам
лексикографии, грамматики и синтаксиса (согласно правилам семантики – не
обязательно: ведь фраза: «Английские булавки отличным образом переночевали в
кратерах штопоров» корректна, поскольку с лингвистической точки зрения
построена правильно, хотя ее смысл весьма сомнителен). Генная «фраза»
корректна, если представляет собой систему команд, направленных на создание
определенной законченной системы, обладающей всеми свойствами системы; эта
система и является зрелым организмом. Она не может быть хорошо сконструирована
синтактически и при этом плохо – прогностически (на деле, то есть
телеологически), поскольку синтактической моделью генного кода является
эмбриогенезис. Если цепочка генов (единиц ДНК) никакого вида эмбриогенезиса не
инициирует, то мы не считаем, что речь идет о геноме; мы скорее предположим,
что это было химически осуществимое нагромождение элементов ДНК (ведь оно
представляло собой характерную спираль, хромосомную нить), на деле, однако, –
эмбриогенетически – бесплодное.
Теоретически можно было бы
вычислить все химически возможные комбинации соединений ДНК в виде набора
макромолекул размеров, сопоставимых с величиной (длиной) настоящих
(встречающихся в природе) геномов; количество комбинаций получилось бы
внушительным (примерно 10 в 3000-й степени, то есть в Космосе нет такого
количества электронов, чтобы этот набор создать), но беспредметным, и то, что
это технически неосуществимо, не имеет никакого значения. Такой набор
представлял бы схему того, как можно комбинировать «кирпичики наследственности»
также и в том случае, когда они вовсе не обладают функцией «кирпичиков
наследственности». Задача эта беспредметна, поскольку биолог-генетик не
собирается измерять «полную информацию», какую включают гены (как молекулы, как
атомные конгломераты, как электронные облака, как системы, исследуемые
квантовой механикой, et cetera[38]), его интересует только та часть их
конструкции, которая реализует эмбриогенезис. То есть для него важны не «все
биты», а только некие «биобиты», кванты, ответственные за развитие
эмбриогенезиса. Но такие «биобиты» имеют не много общего с энтропией лингвистов
и Шеннона. И это затрудняет создание этакой «обобщенной лингвистики», частными
случаями которой оказались бы все этнические языки, с одной стороны, и все
генные коды – с другой.
Поэтому не прекращались попытки
спасти ситуацию путем изменения базовых понятий теории информации, об этом мы
уже упоминали, однако все не-вероятностные теории информации обладают той общей
неприятной особенностью, что не имеют прекрасного и естественного перехода от
понятия информации к понятиям из области термодинамики, то есть из области
физики, которые нам открыл Шеннон. Одновременно становится очевидным, что признание
информации созданием субъективного характера (к чему склонны, например,
информатики-лингвисты) безосновательно, поскольку не подлежит никакому
сомнению, что зиготы, как и развитие плода, а также трансформация геномомов в
органические системы существовали за миллиарды лет до возникновения человека и
его этнической речи на Земле. Видимо, математический инструментарий, с помощью
которого осуществлялись попытки преодоления кризиса, слишком прост. Я считаю,
что от чистой математики помощь будет невелика, поскольку она никогда не
приведет нас к понятию порога минимальной сложности системы, а оно должно быть
существенным, если вообще не центральным в понимании явлений жизни. До сих пор
мы только интуитивно отдавали себе отчет в том, что количество информации,
содержащейся в объекте, не является однозначной функцией его сложности, попытка
же (предпринятая уже Бриллюэлом) разделения информации на «свободную», то есть
не интерпретированную физически, и «связанную», или отражающую информационную
насыщенность объекта в физическом смысле, является не решением проблемы, а ее
игнорированием. Также только интуитивно мы понимаем, что система, способная к
самовоспроизводству, должна характеризоваться определенным минимумом сложности,
ниже уровня которого она функционировать не в состоянии – независимо от
конструкции. (Вопросы, связанные с этими рассуждениями, я затронул в другом
контексте в опубликованном в «Философских исследованиях» эссе о ценностях в
биологии, и предполагая, что его наличие в примечаниях к новому изданию
«Диалогов» может быть полезным, включил эссе в эту книгу.)
Наряду с неудачами в области теории
познания – внутри программы унификации различных дисциплин естествознания,
выдвинутых на кибернетический «метауровень», – кибернетику постигло фиаско и на
других направлениях. Относительно многие исследователи считают, что понятие
информации Шеннона как бы зависло в пустоте или же осталось «недоработанным»,
причем надлежит стремиться к синтезу: так объединить это понятие с другими,
производными от физики, mutatis mutandis[39], как теория относительности
объединила категории времени и пространства в четырехмерный континуум; боюсь,
что это представление по природе своей ошибочно и вводит в заблуждение,
поскольку в этой области коротко, просто, ясно, конкретно и при этом точно, то
есть имея возможность измерения, ничего сделать не удастся. Это совсем не
означает, что я пессимист по отношению к будущему кибернетики, я просто не верю
в то, что какое-нибудь терминологическое или концептуальное изобретение,
какая-нибудь там революция в области понятий могут способствовать радикальному
перелому, сделать кибернетику многосторонне результативной гностически – и тем
самым с лихвой отдать долги, каких она понаделала, провозглашая амбициозные
лозунги и программы у истоков своего возникновения.
Фиаско в других областях – более
практического свойства: крах надежд создания «усилителя интеллекта», машины для
перевода, машины, имитирующей, в конце концов (хотя бы только в сфере
лингвистики), человека (это была программа Тьюринга) – связано, я думаю, с теми
не предвиденными вначале трудностями, с какими столкнулась теория автоматов –
или, если говорить менее возвышенно, попросту компьютерная техника. Крах надежд
был обусловлен тем, что компьютерное программирование сталкивается с трудностями
непредвиденными и вообще не существовавшими по мере того, как необходимые
программы становятся все более сложными. И не столько объем машинной памяти, не
столько общее направление развития – согласно оппозиции «цифровая машина
параллельного действия» versus «машина последовательного действия», не столько
другие аспекты технических характеристик сильнее всего ограничивают достижения
в этой области – сколько сама проблема написания программ, поскольку именно эту
проблему должно бы сделать частью физически интерпретированной теории
алгоритмов, а до этого, к сожалению, очень далеко, и на этом пути громоздятся
трудности поистине ужасающие. Коротко говоря – то есть говоря безапелляционно и
упрощая, – оптимизм первых кибернетиков основывался на обычно не высказываемом
explicite мнении, что интеллектуальная деятельность может быть автоматизирована
путем замены умственных процессов типа поиска уже на ранней стадии
бессмысленными процедурами с помощью ввода соответствующих алгоритмов. Мы
признаем, что так откровенно этот проект никто не формулировал. Однако чем
является поиск оптимальной программы шахматной игры, если не попыткой
составления – методом очередных прикидок, проб и ошибок – функциональной
аппроксимации алгоритма шахмат, который до сих пор невозможно составить чисто
математически? Должны были возникнуть и программы, способные к самообучению...
но, наверное, тоже благодаря тому, что их обучением управлял бы соответствующий
алгоритм. А чем иным должен был бы быть регулирующий селектор в усилителе интеллекта
Эшби, если не фильтром с алгоритмической характеристикой? Каждый раз дело
заключалось в представлении механизма, осуществляющего разного рода умственную
деятельность, – в самом упрощенном виде; обоснование должно было бы быть
всесторонним, с включениями в структуру сетевых соединений. По умолчанию в
основе этих проектов лежало убеждение о несущественной в принципе, раз можно ее
проигнорировать, сложности структуры мозга. Однако не обладаем ли мы косвенным
доводом в пользу утверждения, подвергающего сомнению этот чрезмерный оптимизм?
Если бы тактика выживаемости поддавалась в земных обителях алгоритмизации или
хотя бы ее не до конца сформализованному соответствию, то эволюция, несомненно,
протекала бы иначе, чем в действительности. Она совсем неплохой конструктор.
То, что она предлагает земным популяциям в качестве собственного производного
гомеостаза, очень хорошо приспособлено для этих популяций – в определенном
плане гомеостаза. Если бы была достижима еще какая-нибудь форма алгоритмизации
техники выживания, то совокупность таких алгоритмов создала бы для спецработы
эволюции поглощающий экран: потому что там, где алгоритм уже действует
оптимально как процесс, осуществляющий реальные задания, не может возникнуть
ничего «еще лучшего». Эволюция способности выживания свелась бы, таким образом,
к подбору и селекции алгоритмов, вводимых в жизнь повсеместно. То же, что
отдельные виды не являются «окончательными», что представляют собой звенья
созидательной цепи организационных улучшений в нейрообласти, то, что они
«пропускают» более «правильные» решения проблемы гомеостаза, раз им
подчиняются, то, что мозг человека так обширен, свидетельствует в пользу
утверждения, что процесс выживаемости не укладывается в алгоритмы ни в чисто
математическом виде, ни в виде аппроксимации, достигаемой методом проб и
ошибок.
Идей, на которых основывались планы
создания искусственного мозга, выдвигалось в пятидесятые годы колоссальное
количество – но никто как-то не пытался даже соорудить, основываясь на этих
идеях, хоть бы простенькую действующую модель. Странной была эта утопия
кибернетиков! Завороженные первым шагом, какой они совершили по пути имитации
умственного процесса, они поверили в повторяемые операции как в тактику
бездумности, способную функционально заменить мышление. Они говорили об этом
несколько иначе, но именно к этой цели стремились – напрасно. Значит ли это,
что они попросту ошибались? И да, и нет. Еще фон Нейман, сравнивая мозг и
цифровую машину, сосредоточивался на разнице размера и качества функций составляющих
элементов – в эпоху катодных ламп расхождения были в миллионы раз, но сегодня,
когда существует мономолекулярная память, транзисторы, нейристоры,
микроминиатюрные системы, интегральные схемы, блок-схемы, – они растворились в
перспективе технологического прогресса – и несмотря на это, мы нисколько не
приблизились к возможности сконструировать «заменитель мозга». Различия в
измерениях и функциональные возможности переработки информации отдельными
частями исходного образца оказались малосущественными! Эволюция – ленивый на
первый взгляд конструктор. Будучи строителем, она выжимает из своих материалов
все возможности, упорно придерживаясь раз сконструированной модели, только
повторяя ее во всевозможных вариантах. На радикальное изменение модели она
решается один раз в сто миллионов лет или еще реже. Хочу заметить: если бы
системы, значительно более простые, чем человеческий мозг, могли бы справиться
с заданиями, какие обнаруживает человек в своей экологической нише, то его
нервная система как раз и стала бы именно такой, значительно более простой
системой. Потому что прославленная, разрекламированная, повсеместно признанная
«безмерность» мозга есть фикция. Безмерен мозг в том отношении, что хотя он и
утрачивает каждый день около ста тысяч нейронов, гибнущих безвозвратно, он
продолжает функционировать и в глубокой старости, когда индивид располагает
60—70 процентами изначальной нейронной мощности. Он безмерен в возможности
самокомпенсации, поскольку справляется с потерями своей субстанции. Однако он
вовсе не безмерен относительно резервов, никогда не использованных в
какой-нибудь деятельности, относительно наличия как бы спящих областей,
разработка которых резко и блестящим образом повысила бы уровень
индивидуального интеллекта. Ибо мозг создан согласно тому же праксеологическому
правилу, которое лежит в основе всей биоэволюционной деятельности, его же
безмерность есть наше заблуждение как исследователей.
Заблуждение это проистекает из
того, что у нас в голове не умещается, как это орган, сформированный под воздействием
таких критериев естественного отбора, которые относились к области первобытного
антропогенеза, в эолите, и таким образом адекватный с точки зрения заданиям
«пещерного» уровня трудностей, мог, не обладая латентной в пещерную эпоху
избыточностью, справляться в дальнейшем с задачами всего исторического
развития: от построения пирамид и эпициклов – вплоть до создания теории
относительности и компьютеров. Однако речь идет именно о заблуждении, вызванном
нашим невежеством, поскольку точно так же маловероятным, точно так же
неправдоподобным представляется нам, что механизм, ответственный за размножение
микробов, амеб и трилобитов мог бы в принципе таким же образом создавать –
миллиарды лет спустя – и гигантозавров, китов и палеопитеков, самого человека,
в конце концов, но именно так оно и было, раз генный код возник однажды и по
единому образцу и в своей лексикографии, синтаксисе, грамматике он один и тот
же для всего, что только жило и живет на Земле.
Таким образом, мозг, возникший для
преодоления совокупности «пещерных» трудностей, отлично справился с решением
задач тензорной алгебры и теории групп. Он совсем не изменился; изменились
только каноны его индивидуального программирования, возникшие в результате
аккумуляции, причем культурной, а не наследственной. И тогда, если
алгоритмизация процесса познания в принципе возможна, если можно
автоматизировать процессы умственной деятельности, то подобные алгоритмы не
смогут составить гипотетические устройства, создание которых по сложности
задачи соотносимо с созданием мозга. Такие алгоритмы, если только они вообще
возможны, могут составить устройства, значительно более сложные, чем мозг, и
именно потому не реализованные в прогрессивном движении эволюции – поскольку
она всегда выбирает и решает задачи более простые. По-видимому, или такие
устройства невозможно сконструировать вообще, или затраты на их
конструирование, измеряемые временем и примененной в это время частотой
креативной комбинаторики, должны превышать те средства, которые эволюционный
процесс инвестировал в нас. Есть еще одна, третья возможность – вот когда бы
структурно-функциональное целое, унаследованное нашим мозгом от видов из группы
человекообразных оказалось бы в сильнейшем конструктивном противоречии со
схемой механизма алгоритмизированного гнозиса, то и тогда эволюция не смогла бы
создать такой механизм, поскольку эволюция производит изменения не резкими
скачками, но нарастанием медленных изменений, ползком. Для порядка только
упоминая о такой возможности, следует, однако же, признать, что она маловероятна,
поскольку интеллект в земной среде является ценностью, почти полностью
подчиненной выживанию, и поэтому каждый вид, который бы ею обладал, был бы
предпочтительнее в селекции: и несмотря на это, никто вне ареала
человекообразных не создал развитого интеллекта, то есть, иными словами, на эту
территорию нет выходов в форме короткого замыкания или пролома в стене; и это
следует для получения окончательного диагноза перемножить на количество всех
наделенных нервной системой видов животных, какие только возникали на нашей
планете в течение последних нескольких сотен миллионов лет. Таким образом,
создается впечатление, что царского пути к интеллекту, понимаемого в данном
случае как автоматизированное упрощение его завоевания способом применения
повторяемых операций вроде алгоритма, вообще не существует. А ведь именно люди,
которые конструировали по крайней мере оригинальные и логически выверенные
схемы типа логических сетей, должны были бы проложить этот путь – и фиаско их
начинаний также косвенно доказывает справедливость альтернативного тезиса.
Конечно, хорошо предсказывать post eventum[40], и к тому же этот вопрос не
представлялся так ясно полтора десятка лет тому назад. Особенно в то время не
было понятным, почему человеческий мозг отличается таким ничтожным, даже иногда
(ложно) принимаемым за нулевой, исходным, то есть младенческим, состоянием
предпрограммированности. Тогда не понимали, почему индивидуум вынужден с нуля
учиться практически всему, то есть не только речи, но даже и мышечно-чувственно-двигательной
координации, поскольку тогда считалось, что наследственное предпрограммирование
было бы (то есть должно быть) значительно более экономичной процедурой, чем
адаптация к условиям существования. Сейчас мы допускаем, что мозг именно потому
так блекло запрограммирован наследственностью, что преждевременная детерминация
в этой области серьезно снижает шансы приспособиться, а следовательно, и
сохраниться, а это происходит по той причине, что искусство созидания мозгов –
только частичка проблемы, обозначенной как «завоевание интеллекта», а другой
отдельной огромной составляющей здесь является искусство правильного
программирования. То есть наши мозги как бы из соображений очень серьезной
стратегии исходно «недопрограммированы», и их гигантская пластичность, этот их
перспективный потенциал, который во всех до сих пор известных из истории
цивилизациях уступал перспективным значениям, или фактической реализации,
отражает общее положение вещей, согласно которому преждевременная автоматизация
операций из области познания всегда приносит больше вреда, чем пользы.
Создается впечатление, что мир – это
такое особое место, где компоновка замкнутого, и в то же время универсально
пригодного в сфере познания объема директив принципиально невозможна – и это
после преодоления трудностей более высокого уровня, чем те, какие пришлось
преодолеть в процессе реализации мозга hominis sapientis[41]. Подобные
рассуждения помогают пока еще только в пределах некоего контекста понять крах
чересчур оптимистичных прогнозов, которые по сути стремились, хотя и
опосредованно, инкриминировать эволюции, что то, что можно сделать относительно
просто и легко, она производила путаным и многотрудным образом, создавая наши
мозги. Поскольку очевидно, что если бы универсальный алгоритм программ гнозиса,
рефлексии, познавания – в качестве игр с противником, Природой, – можно было бы
создать малыми затратами, то тем самым безмерность неприспособленности
человеческого мозга оказалась бы доказанной. Тем временем мозг оказался
устройством не только значительно более сложным, чем это себе представляли
различные специалисты – конечно, я высказываю банальные вещи, – но и, что уже
не является аналогичной банальностью, устройством в какой-то степени (или
вовсе) не безмерным с точки зрения своей функциональности. Этот диагноз наряду
с суждением о почти нулевом предпрограммировании наших мозгов заставляет
достаточно пессимистично рассматривать предполагаемые возможности открытия
простых и в то же время вполне определенных, поддающихся тиражированию,
выводимых из какой-нибудь алгоритмизированной теории множеств процессов
самопроизвольного программирования систем типа цифровой машины (или технически
реализованной версии универсального автомата Тьюринга). В области
информационных технологий, в области, отдаленной от физики, мы наблюдаем
интересное соответствие тому положению дел, с которым связано высказывание
Эйнштейна, что «raffiniert ist der Herrgott, aber boshaft ist Er nicht»[42]. С
одной стороны, уже не подлежит сомнению, что устройство, настолько прямо-таки чрезвычайно
элементарное, каковым является универсальный автомат Тьюринга, может выполнять
все операции, какие только возможны в пределах произвольно выбранной сложной
структуры наподобие мозга или супермозга; и отсюда напрашивается вывод, что
«der Herrgott ist nicht boshaft»; однако, для того чтобы этот простой аппарат
смог бы это «всё» реализовать, необходимы программы действия, которые мы уже не
сведем к общему знаменателю – алгоритму.
В чем, собственно, и проявляется
«изощренность Господа Бога», одной рукой как будто бы отбирающего то, что Он
дает другой рукой – в простоте выполняющего механизма и одновременно субстрата
каждой мысли, раз этот простой и доказуемо универсальный аппарат не поддается
ни простому, ни универсальному запрограммированию на выполнение функций, для
которых он создан... И, собственно, крах кибернетики, которая обещала создать
усилитель интеллекта, имитацию человека, трансляционный аппарат (для перевода),
отмеченное выше состояние вещей отражает в совокупности, являясь его технически-конструкторским
производным. Нелишним будет указать и на то, какими изобретениями в
рассматриваемой области может похвастаться природная эволюция в сравнении с
нами, которые viribus unitis[43] выдвинули ряд фиктивных изобретений. Так,
генератор информации Эшби, генеративные грамматики Хомского, моя идея
«пестования информации» – все они обладают той общей особенностью, что
увлеченно рассматривают разнообразные варианты проекта, широко представляя
теоретико-техническую сторону этой продукции, в то же время обходя молчанием
или же удостаивая парой ничего не значащих слов и оптимистических намеков
комплементарную проблему – селектора этого разнообразия. Что с того, что
создается некий избыток вариантов артикуляции, концепций, теорий или, в более
общем смысле, каких-нибудь структур, когда совершенно не известно, чем можно
заменить ту часть мозга, которая занимается отсеиванием альтернативных
возможностей? Что из того, что мы уже знаем, как произвести избыток, когда мы
по-прежнему не имеем понятия, как от него избавиться и отцедить из него
маленькую, микроскопическую частичку – ценностные структуры, то есть
осмысленные предложения в лингвистическом варианте или рациональные идеи в
случае с «усилителем интеллекта» – или, в конце концов, осмысленную теорию в
случае с моим «пестованием информации»? В каждом случае решается легкая часть
задачи, а более трудная оптимистично и небрежно сбрасывается на чужие плечи, и
кто-то другой должен этим делом заняться и поскорее реализовать замысел. В то
время как природная эволюция кроме генератора разнообразия, представленного
«артикуляционным полем геномов», или совокупностью всех наследственных кодов,
какими располагает данная популяция живых особей, на практике применяет
действие селектора, оставляющего только то, что пригодно: мы имеем в виду
обладающий марковской характеристикой – процесс естественного отбора. Этот так
плодотворно работающий двучленный агрегат у нас как у строителей вызывает ужас,
потому что деталь, определяющая успех, – отсеивающий механизм, или селективный фильтр
– требует, в эволюционном варианте, прежде всего времени, измеряемого
миллионами лет, чтобы творческий потенциал сконструированной подобным образом
машины мог бы полностью раскрыться. Это, к сожалению, тот параметр, какого мы
наверняка никогда в эволюционном варианте не примем со всем его
инструментальным богатством! В качестве рационализаторского приема для победы в
этом соревновании, в котором, в отличие от эволюции, у нас времени нет,
возникает концепция ускорения, скажем, миллионократного, селекции и отбора,
посредством передачи этой функции цифровым «световым» машинам, то есть
работающим со скоростью, приближающейся к скорости света. И хотя эта
перспектива представляется многообещающей, непонятно, возможно ли создание
макетов необходимого уровня сложности. Не исключено, что этот путь пролегает
через создание своеобразной «эволюционной лестницы» – или, лучше, иерархии
автоматов и операций – такой, чтобы более простые программы помогали в
составлении более сложных программ, и так до тех пор, пока на каком-то уровне
организованной таким образом работы не возникнут системы, не только по своему
быстродействию превосходящие реальную динамику биоэволюционной работы.
Однако, говоря о таком способе
организации процессов, мы предлагаем гипотезы из очень отдаленного будущего,
которое отделено от нас пространством еще неизвестных открытий и идей, которые
кроме успехов принесут еще не одно разочарование. А если конечный успех в
области соперничества с Природой на эволюционном фронте оказался бы совершенно
невозможным, то придется признать, что Эйнштейн ошибся, и констатировать, что
«der Herrgott» был не только «raffiniert», но так же и злонамерен – ужасно. II
Расхождение векторов ожиданий и свершений в кибернетике – это факт, вызывающий
вопрос: если, в самом деле, мы создаем компьютеры, но не можем создать
эффективной модели мозга, поскольку первая задача оказалась несравненно более
простой, чем вторая, то почему природная эволюция выбрала более трудную задачу?
Разве этот факт не противоречит тому, что мы сами утверждали – о свойственной
ей тенденции довольствоваться минимальными усилиями и, таким образом, более
простыми решениями? Вот ответ на этот вопрос: мы создаем универсальные цифровые
машины, однако не в состоянии составить в такой же степени универсальных машиночитаемых
программ, и нас устраивает такое положение вещей, поскольку мы устанавливаем
компьютеры только там, где и при отсутствии полной автономии функционирования
они справятся с предложенными заданиями. В то время как эволюция никогда не
оказывалась в ситуации аналогичного выбора, потому что никогда ее продукты –
живые системы – не отказывались от полной функциональной автаркии в пользу
узкой специализации – с тремя исключениями: кооперация как форма специализации
привела к возникновению неуплотненного конгломерата единиц гомеостаза, то есть
колоний живых организмов (кораллы, муравейники), создала из клеток,
утрачивающих универсальность, многоклеточные организмы и оформила паразитизм и
симбиоз. Вне этих выделенных для групп секторов тактики выживаемости организмы
вынуждены были бороться за решение конструкторских проблем центральной нервной
системы, аналога универсальной информационной машины, а также проблемы
составления для нее программ – одновременно, и поэтому до резкого разделения
обеих этих задач тоже не дошло. В процессе эволюции выработалась смешанная
тактика и стратегия – в эволюционных творениях; поэтому каждый организм
морфологически и функционально оформлен таким образом, что представляет собой
суверенную единицу – как игрока, сосредоточенного на борьбе с Природой за
выживание, – и пребывает в условиях полной автаркии, ведь он не может
рассчитывать ни на чью помощь, особенно информационную, – в то время как
компьютеры без человека представляют собой системы настолько же точные,
насколько и полностью беспомощные.
Таким образом, задачи эволюции с
самого начала качественно отличались от задач этой группы технологически
цифровых машин. Если бы цифровая машина – либо ее биологический и в то же время
изоморфный аналог – возникла в процессе эволюции и справлялась бы с типично
гомеостазными проблемами, то она, несомненно, сформировалась бы в течение
миллиардов лет развития биосферы. Пошаговый характер эволюции происходит от
того, что польза и вред от изменений, вызванных увеличением сложности систем, никогда
не уравниваются однозначно, то есть система, в которой происходит расширение и
усложнение сомы и мозга, обретает благодаря этому новые преимущества и новые
слабости – одним махом. Статистика дает основание полагать, что достигнутые
таким образом преимущества незначительно преобладают над возникающими
одновременно экзистенциальными недостатками – в противном случае это движение
от простого к сложному очень скоро бы увязло на месте. Бактерия не является
более сложной системой, чем универсальная цифровая машина – новейшего типа, –
однако очевидно, что способности к выживанию бактерии нельзя даже и сравнивать
с «выживанием» компьютера, помещенного в произвольной среде, поскольку он в
принципе не представляет собой самостоятельного гомеостата.
Таким образом, специфика задач
эволюционного развития определила направление конструкторских ходов эволюции,
коренным образом отличных от наших в сфере информационных технологий. Эта в
высшей степени несамостоятельность компьютеров, их полная зависимость от сотрудника-человека
демонстрирует ошибочность представлений о том, что возможен какой-то «бунт» и
как следствие – порабощение человечества машинами в форме «компьютерократии».
Эти представления основаны на совершенно ложных, неприменимых в интеллектронике
исторических аналогиях из области борьбы за власть, преобладание, социальной
устойчивости элиты и т.п. Компьютеры нас не поработят, если мы сами до этого не
доведем. А привести к этому состоянию можно двумя способами: намеренно,
воплощая стремление управляющих машин, – но тогда возникает банальная с точки
зрения социологии и этики проблема, раз обретение компьютерами высшей власти
будет зависеть от воли человека; или при полном отсутствии подобных планов и
намерений. Поэтому не исключена и такая возможность, что система «люди +
компьютеры» постепенно обретет динамическую характеристику, совершенно нами
нежелательную и в то же время – по крайней мере первоначально – абсолютно нам
неизвестную. Наше воображение, исследуя альтернативные варианты будущего,
скованное известными ему из истории моментами, ограничилось представлениями
«усилитель интеллекта», «гомункулус» – а также «электронный мудрец» или такой
же «черт»; этот последний предполагался особенно одаренным претендентом на роль
тирана. Однако действительность радикально отступает от этих наивных,
ситуативно беспочвенных моделей. Это не означает, что область сотрудничества
людей и информационных машин свободна от потенциальной опасности. Просто эта
опасность не содержит никакого «персоналистского» элемента: интеллектуальные
системы, если уж нас и поработят, то не как «личности», так или иначе
воспроизведенные.
В то же время именно потому эта
опасность страшнее и более реальна, чем если бы компьютеры в своей эволюции
приближались к обретению «персоналистических особенностей». Поскольку тогда по
крайней мере одна сторона – а именно компьютеры – действовала бы с полным
знанием обстановки: тот, кто стремится к власти, будучи при этом личностью,
должен осознавать, что делает! Он действует на основании разработанных планов,
этически, может быть, «черных», но все-таки планов, он использует их в
стратегии собственного поведения, а значит, было бы возможно это знание,
содержание этих планов, каким-то образом из него выделить! И если в результате
успешного срастания информационных машин и банков памяти возникнут
государственные, континентальные, а потом и планетарные компьютерные сети – а
это реальное направление развития, – то вся система, состоящая из людей и этих
сетей, может проявлять динамику, не отвечающую надеждам цивилизации. Говоря
точнее: система может лечь в дрейф. Потому что каждая большая и сложная система
обладает бесчисленными закономерностями; когда же человек реализует системы
подобного типа, то он сосредоточен на выгоде, какую принесет ему эта
реализация, а о непредвиденных последствиях он в этот момент не знает. Проблема
технологий, исторически первых, актуальных сводится к разделению надвое
глобального инструментального потенциала. Исстари и до сих пор мы использовали
только один вид технологий – направленных на производство энергии или
предметов, на транспортировку людей и материалов, одним словом, эти технологии
служили нам непосредственно. Их развитие привело к нарушению
самовосстанавливающегося равновесия в биосфере, и поэтому следующий шаг в
развитии технологий имеет одну исключительную задачу – поддержать это
поколебленное равновесие. Таким образом, технологии первой группы служили нам
непосредственно, в то время как вторая группа будет этому способствовать лишь
косвенно, поскольку их задачей будет не наше благоденствие, а спасение всего
земного жизненного пространства. Аналогом физического труда, выполняемого с
использованием технологий, труда по добыче полезных ископаемых и их
переработке, их последующей транспортировки на большие расстояния, усилий, необходимых
для выталкивания из земной гравитационной «воронки» космических снарядов,
энергии для обогрева арктического жилища человека и для охлаждения его
экваториального жилья и т.п., – аналогом всего этого является информационная
работа, причем важно осознавать, что обе эти работы сходны в физическом смысле:
поскольку суть всегда состоит в том, чтобы где-то уменьшилась энтропия за счет
ее увеличения в другом месте; к подобной трансакции принуждает нас природа
мира, в котором мы существуем. Мы стоим на пороге эры информационных
технологий, которые, кроме полезных для нас даров, могут преподнести и дары
данайцев. Потому что социально-экономический симбиоз человека и машин в
информационном плане может привести к стиранию реальных границ компетенции:
взаимовлияние составляющих этого симбиоза может выглядеть таким образом, что
уже будет непонятно, кто, собственно, ведущий, а кто – ведомый, или, что то же
самое, кто кем правит. Большая и сложная глобальная сеть, которая начнет
формироваться, будет обладать очень запутанной структурой собственных
закономерностей – мы будем ее успешно строить, предполагая определенные выгоды,
несомненно и быстро поддающиеся обнаружению на практике; однако система эта
может иметь и другие, невидимые вначале и только поэтому, а не в результате
чьего-либо коварства утаенные, – такие динамические черты, что незаметно
цивилизация ляжет в дрейф.
Повторяю, речь не идет о некоей
форме «криптократического» поведения компьютерных сетей; мы также не касаемся
уже многократно обсуждаемой угрозы человеческому праву на частную жизнь,
вызванной размещением в машинной памяти всех, даже самых интимных данных о
каждом индивидууме, – угрозы, которой, если уж она реальна, каким-то образом
удалось бы противостоять. Симбиоз машин и людей будет характеризоваться
определенным вкладом обеих «сторон» – тем, каков процент их участия в принятии
решений, в управлении и контроле. Однако система в целом может иметь
динамическую характеристику, неподвластную в своей целостности ни одной из
сторон, поскольку никакая система не может себя полностью ни описать, ни
контролировать: этот принцип непоколебим. Система не в состоянии создать свой
адекватный образ, то есть познать саму себя; благодаря отдельным актам
созерцания и обобщения она сможет открыть законы собственного движения, но
никогда не сможет обрести полную уверенность, что все законы уже открыты и
освоены. Это в состоянии сделать только система более высокого уровня,
выполняющая функции контроля над предыдущей. Но организация подобного контроля,
которая в сфере информации была бы явным аналогом того разделения, какое сейчас
происходит в технологии трудовых процессов, иными словами, создание информатики
«второго броска», функционирующей не для нас непосредственно, но только
наблюдающей симбиоз людей и машин, чтобы заданное ему равновесие не
превратилось в какое-нибудь подобие нежелательного дрейфа, – такая организация
может привести к фатальному regressus ad infinitum: или, в свою очередь,
следовало бы к контролеру приставить надзирателя еще более высокого уровня, который
бы присматривал за контролером: в противном случае возникает вопрос – quis
custodiet ipsos custodes?[44] Конечно, эту проблему мы не можем сегодня решить
даже приблизительно – решение это относится к очень неблизкому будущему, но о
ней не стоит забывать, поскольку она является свидетельством расхождения
предварительных ожиданий человека и их реализации, что, пожалуй, постоянно
происходит в нашей истории. Видение бесконечного ряда «информационных зеркал»
как пирамиды контроля, подвешенной над цивилизацией будущего – воистину
странно, как и сам процесс «отражения», моделирования происходящего на Земле с
целью оптимального за ним наблюдения – кажется, что это видение является
иронической реализацией стародавних представлений-мифов о высших силах, которым
все видно в человеческой жизни – и все подвластно. Если эта бесконечность
пирамиды надзора карикатурно представляет функцию Бога, архангелов, престолы,
господства и прочую иерархию небесной информатики, то делает это неумышленно:
впрочем, такой regressus ad infinitum не поддается воссозданию, а потому
информационной машины, которая бы воссоздавала бесконечное контролирующее
всеприсутствие Божества, скорее всего никогда не будет.
Сказанное выше наводит на следующие
размышления – в различных аспектах: 1) В связи с исключительной новизной
рассматриваемого явления характерно разделение исследовательской среды на
противоположные лагери. Общее для них – это лозунг «Все или ничего»; сторонники
кибернетики ожидали от нее «всего», в то время как критики считали ее сугубо
малоценной в познавательном отношении. Значительно реже встречается
промежуточная точка зрения; в пользу такой точки зрения я приводил аргументы в
1966 г. в «Сумме технологии», в разделе «Сомнения и антиномии» раздела
«Интеллектроника». Поведение критиков, таких как M. Таубе, – ликвидаторское;
неисправимые же оптимисты склонны к – в такой же по крайней мере степени
вредному – откладыванию сроков, когда «все» будет сказано, или же к форменной
фальсификации данных. Типичной в этом смысле может быть книга, изданная в 1968
г. издательством «Галлимар» в серии «Идеи», вышедшая из-под пера Ж.М. Фонты и
Ж.С. Кинью, «Упорядочивающие факторы: мифы и реальность» (Les ordinateurs –
mythes et realites), в которой полностью уничтожаются различия в степени трудностей
при составлении разных частей кибернетической программы и прямо сообщается, что
якобы в СССР переведен с английского на русский «некий» роман Диккенса при
помощи машины, да так хорошо, что перевод выдержал проверку сопоставлением с
литературным переводом, сделанным человеком (что попросту ложь – советские
источники ни о чем таком не сообщают). Нашлись логики-профессионалы, поверившие
в безграничные возможности кибернетики, если Вонг запрограммировал цифровую
машину так, что она за 8,5 минут доказала большую часть теорем из
фундаменального труда Б. Расселa и А. Уайтхедa «Principia Mathematica» – а эта
работа потребовала от указанных специалистов нескольких лет. В то же время до
сих пор нет программы, которая позволила бы вести с машиной ни к чему не обязывающую
свободную беседу в «дружеском» тоне. Однако подобная несоизмеримость
представляется в ином свете, если вспомнить, что человеческая рука
действительно не в состоянии поднять тяжесть, пустяковую для подъемного крана,
зато она может выполнить тысячи операций, на которые никакой подъемный кран не
способен. Наш мозг с трудом выполняет операции чисто дедуктивные, потому что
по-другому – универсально – сконструирован. Об интеллектуальных возможностях в
лингвистической области (вербальной) свидетельствует количество участков, где
расположены селекторы, формирующие высказывание, их количество в исключительных
случаях – например, «трудного» литературного текста – просто бесчисленное.
В принципе, машины могли бы уже
сейчас переводить небольшие научные тексты достаточно четко – при условии, что
их авторы, обстоятельно ознакомившись с особенностями компьютерных программ
перевода, согласно этим особенностям и писали бы свои статьи. Однако никто
таких дополнительных условий ученым не ставит, потому что жизненный опыт
подсказывает, что легче просто выучить иностранный язык в необходимом объеме,
чем пытаться высказываться в соответствии с переводческими способностями
машины. 2) Оппоненты (например, братья Дрейфусы) утверждают, что машина могла
бы сравниться с человеком, если бы сама была живым человекоподобным организмом,
то есть попросту человеком, «сотворенным в реторте». Защитники же ссылаются на
то, что созданию интеллектуально развитых машин препятствуют обстоятельства, не
связанные с кибернетикой, – например, баснословная стоимость, отсутствие
рыночного спроса на такие устройства или же чисто технические сиюминутные
трудности. Более информированные знают, что все эти аргументы противоречат
истине. Трудности имеют природу принципиальную и теоретическую; что же касается
спроса, то существуют могущественные круги, заинтересованные в создании
переданных военным «усилителей интеллекта», то есть барьер, сдерживающий
развитие кибернетики, – не экономического характера. Упорство энтузиастов
позволило создать программы игры в шахматы, обыгрывающие каждого, даже выше
среднего уровня шахматиста, кроме мастеров мирового уровня, но этот успех
является результатом совершенствования технических параметров обработки
информации, а не преодоления барьеров научного поиска и выхода на более высокий
уровень интеллектуальных возможностей компьютера. Как апологеты, так и
противники кибернетики переиначивают положение дел. В принципе, фигурой
умолчания оптимистов была возможность обойти все те действия, которые
реализовывала, создавая нас, природная эволюция. Они рассчитывали на то, что
развитие эволюции эквифинально алгоритмическим и эвристическим операциям,
которые можно быстро механизировать. Однако, как свидетельствует об этом, к
примеру, книга «Artificial Intelligence through Simulated Evolution»[45]
(изданная в 1966 г., авторы: L.J. Fogel, A.J. Owens и V.J. Walsh) – выводы
которой удивительно совпадают с моими из «Суммы технологии» (первое издание
1964 г.), – немало специалистов понимает необходимость выхода на более широкие
позиции: исследование моделей биоэволюции как «экзаменатора» функционирования
также и в интеллектуальном аспекте. Таким образом, согласно этим авторам,
моделирование эволюционных процессов является необходимой предпосылкой
автоматизации интеллекта. 3) Выскажемся, наконец, прямо: во всей
рассматриваемой нами области абсолютно не обязательна дихотомия, на основании
которой нужно или исповедовать веру в машины, равные человеку, – или не быть
таким верующим и тем самым признавать неколебимое превосходство человека над его
созданиями в умственной сфере. Совершенствование благодаря технологическому
прогрессу параметров машин не приведет само собой создателей компьютеров к
пределу, после которого возможно будет конструировать умные машины, но и
синтетически сконструированный человек, взятый сам по себе, не будет равен
природному homo sapiens. Задание оказалось на несколько уровней сложности более
трудным, чем это казалось двадцать лет назад – однако его нерешаемости никто не
доказал. Современные машины легко справляются с операциями трудными или вообще
непреодолимыми для человека, в то время как человек справляется с заданиями,
недоступными машине.
Таким образом, до сих пор пути
эволюции автоматизированного и природного интеллекта определенно расходятся.
Призыв прагматиков – что следует в связи с этим ограничиться использованием
машин там и только там, где они эффективны – практически разумный для
современных разработок, – может быть, однако, и вредным, если фигурой
умолчания, подразумеваемой в этом призыве, будет отказ от широкомасштабных
исследований, венцом которых станет автоматизация самих творческих способностей
человека. Потому что препятствием на этом пути – в виде абсолютного запрета –
является лишь наше незнание (или нежелание знать). Эта задача непомерна и не по
силам одному поколению – конечно; отсюда происходит психологически объяснимая
поспешность, а затем – разочарования в результате неоправданных, слишком
оптимистичных притязаний. Однако это задача, не потерявшая своей актуальности,
– и поэтому рано или поздно она будет решена.