ВЕСТНИК РОССИЙСКОЙ АКАДЕМИИ НАУК  том 68 №11 1998

Поводом для написания публикуемой ниже статьи стала общедоступная лекция о будущем компьютерных технологий, с которой глава известной фирмы "Microsoft" Билл Гейтс выступил в Государственном кремлевском дворце 10 октября 1997 г.

Президент корпорации "Microsoft" Б. Гейтс не первый человек, с воодушевлением говорящий о завоеваниях технического прогресса, о благах, которые он несет в мир, о радикальных изменениях, которым этот мир подвергается [1]. И действительно, все эти завоевания, блага и изменения отрицать трудно. Однако прислушаемся к тем, кто за блеском фасада достижений видит и обратную, негативную, сторону процесса. Одним из первых в России подверг сомнению слепую веру в технический прогресс Л.Н. Толстой:

"Я прошу читателя ... вспомнить те простые факты, что раз увеличенное войско никогда уже не может быть уменьшено; что раз уничтоженные вековые леса уже не могут быть возобновлены; что раз развращенное население удобствами комфорта никогда уже не может быть возвращено к первобытной простоте и умеренности".

"Верующие в прогресс искренно веруют потому, что вера их выгодна для них, и потому-то с озлоблением и ожесточением проповедуют свою веру. Я невольно вспоминаю Китайскую войну, в которой три великие державы совершенно искренно и наивно вводили веру прогресса в Китай посредством пороха и ядер" [2].

Как и следовало ожидать, первое эффективное применение компьютер нашел в науке. Он дал толчок бурному развитию многих научно-прикладных направлений, таких, например, как теория оптимального управления или вычислительная математика. Кибернетика как наука об управлении демонстрировала свои неоспоримые достижения. Появилась новая отрасль - программирование, новая профессия - программист, новое научное направление - языки программирования.

Однако первая волна эйфории прошла. Неожиданно обнаружилось, что увлечение вычислениями стало тормозить чисто теоретические исследования. На семинарах все больше обсуждались вычислительные результаты, интерпретация которых затруднялась отсутствием критического анализа теоретических моделей, положенных в основу вычислений. В классической триаде "модель-алгоритм-программа" наметился опасный перекос. Стремление поскорее внедрить компьютерные технологии во все сферы жизни привело к тому, что качество используемых теоретических моделей стало снижаться.

Многие ученые, верящие в информацию как в абсолютное благо, вторглись с компьютером в различные отрасли человеческой деятельности, чтобы помогать принятию рациональных решений. Однако математические методы и теоретические модели в своем развитии отставали от компьютера. А неадекватное программное обеспечение порождает у пользователя иллюзорное знание, в основе которого, как правило, лежит привычная рутина рабочих гипотез с ее устоявшимися заблуждениями. За истину принимается ее трансформация - правдоподобная иллюзия. Особенно опасно, когда это происходит при поиске кардинальных решений в социально-экономической сфере.

Однако опасность еще не столь велика. В среде посвященных компьютер занял свое достойное место - место умного, дисциплинированного помощника и даже, в определенном смысле, коллеги. Он остался подспорьем в интеллектуальной деятельности человека, но не стал искусственным интеллектом, хотя случается, что шахматные программы выигрывают партии и у чемпионов мира.

К счастью, законы интеллектуальной деятельности скрыты от нас за семью печатями. Ее высшая форма - творчество - дар божий (по образу и подобию) или, если хотите, результат миллионов лет эволюции, что, в конечном счете, одно и то же. Однако способность человека к творческому мышлению дана ему в потенции - проявиться и успешно развиваться она может лишь в интеллектуальной среде, в живом общении с себе подобными. Известно, что "маугли" - люди, воспитанные животными, практически навсегда утрачивали интеллект. Компьютер же никогда не обзаведется подобной средой, что бы ни говорилось о самообучающихся системах. Поэтому принципы, на которых организуется компьютерный интеллект (лучше говорить, псевдоинтеллект), совсем иные.

Сейчас распространено мнение, что главной причиной отставания во многих отраслях России от США стала недооценка компьютерных технологий. Это не совсем так. Вспомним, что Советский Союз быстро догнал Соединенные Штаты в создании ядерного оружия, а в средствах доставки опередил и первым вышел в космос. Никто не осмелится утверждать, что советские компьютеры были лучше американских. Выиграл гонку живой человеческий интеллект, который удалось эффективно направить на решение проблемы. Поэтому хотелось бы предостеречь от компьютерного фундаментализма.

Любое новое мощное средство - будь то автомобилизация или компьютеризация, помимо очевидных благ, несет в себе и далеко не очевидную угрозу гармоничному и стабильному существованию ноосферы. Компьютеризация опасна тем, что в первую очередь она воздействует на самую хрупкую и уязвимую составляющую ноосферы - живую интеллектуальную среду. О пользе компьютеризации профессионально и вдохновенно сказал Гейтс. Но стоит подумать о возможном необратимом негативе, который она может привнести в жизнь.

Начнем с самой важной, на наш взгляд, проблемы - с образования, которое, по словам Гейтса, "зазвучит совсем по-новому". Образование - очень емкое и многоплановое понятие. Дать ему исчерпывающее строгое определение, скорее всего, невозможно. Поэтому когда Гейтс утверждает, что "в будущем ключевым вопросом, который будут задавать, чтобы понять, где и как может работать человек, будет: «Какое образование вы имеете?»" [1], далеко не ясно, как сформулировать ответ.

Действительно, что делать пишущему эти строки, если в университетском дипломе он квалифицируется как механик, в дипломе доцента - как кибернетик, в дипломе профессора - как исследователь операций, а в дипломе академика - как специалист по информатике и автоматизации? Ведь каждая из перечисленных профессий может быть определена как образование, и в то же время они гармонично дополняют друг друга и, действуя во взаимосвязи, формируют качественно новое образование, дающее его владельцу неизмеримо большие возможности в научно-исследовательской работе, чем каждая по отдельности. И в России такое, скорее, повседневность, чем исключение.

К сожалению, компьютерные технологии уже покушаются на тысячелетний духовный тандем "учитель-ученик". Во многих институтах компьютер принимает экзамены, а точнее, тестирует. Такой экзамен лишен главного и самого важного элемента - диалога между учеником и учителем. Происходит "усреднение" всех экзаменующихся: компьютер не различает их неповторимой индивидуальности, он не может проследить логику мышления отвечающего, не позволяет ему в диалоге отстоять свою точку зрения.

Однако тестирование - это еще полбеды. Предполагается, что с помощью компьютерных технологий можно унифицировать лекционный процесс. Между тем лектор не просто озвучивает теоретический материал, он его интерпретирует. Сколько лекторов, столько и интерпретаций. Точно так же дирижеры каждый по-своему трактуют одно и то же музыкальное произведение, хотя, казалось бы, у оркестра есть одни и те же ноты. Не зря ведь существуют любимые дирижеры и любимые лекторы! Даже один и тот же лектор, читая одну и ту же лекцию, раз к разу не повторяет ее дословно. Чтение лекций - процесс творческий. В общении учеников с учителем или ученых на семинарах и конференциях возникает среда, без которой живой интеллект не может существовать и развиваться.

Компьютерные технологии в силу своей специфики несут в сферу образования такие любимые американцами атрибуты, как унификация и стандартизация. Полезные в меру, они, если не остановиться вовремя, приведут к бюрократизации образования, и оно как ритуал приобщения человека к знаниям, к истине перестанет существовать. Система будет штамповать, как метко заметил А.И. Солженицын, "образованцев", справляющихся с рутинной работой, но начисто лишенных культуры творческого мышления. Начнется распад научных школ, первые признаки которого уже налицо. И это опасно, поскольку людей, способных к творческому мышлению, в обществе не так уж и много. По словам Пуанкаре,

"большая часть людей не любит думать, и, может быть, это и к лучшему, ибо ими руководит инстинкт ... Но инстинкт - это рутина, и если бы его не оплодотворяла мысль, то он и в человеке не прогрессировал бы больше, чем в пчеле или в муравье. Необходимо, следовательно, чтобы кто-нибудь думал за тех, кто не любит думать" [3].

"... все наше достоинство состоит в мысли. В этом отношении мы должны возвышать себя, а не в отношении к пространству и времени, которые мы не сумели бы наполнить. Постараемся же научиться хорошо мыслить: вот принцип нравственности" [4].

В мире технологический прогресс реализуется и направляется усилиями и интересами бизнеса, который при всех своих неоспоримых достоинствах имеет весьма существенный недостаток: для него главным критерием является получение прибыли и, желательно, как можно быстрее. В силу этого, мягко говоря, он нейтрален по отношению к нравственности. Бизнес тороплив, хорошо мыслить не есть принцип бизнеса. Его принцип - мыслить эффективно.

По большому счету, бизнесу безразлично, что некоторые рекламируемые им компьютерные технологии породили компьютерных наркоманов, ушедших из реальной жизни в мир иллюзий виртуальной реальности. Складывается ситуация, когда жизнь должна адаптироваться к законам бизнеса, а не наоборот. Мир переворачивается вверх ногами: бизнес превращается в единственную объективную реальность, которую человечество должно осознать и принять. Все, что не дает прибыли, утрачивает право на существование. Свободное занятие бизнесом переходит в свою противоположность - в необходимое занятие, поэтому особенно успешно развиваются те компьютерные технологии, которые в первую очередь пользуются спросом у деловых людей, а также в сфере развлечений.

Для людей, достоинство которых состоит в мысли, а свобода обретается в познании истины, такой порядок вещей неприемлем. Исчезновение с арены жизни "безумных бессребреников" приведет к тому, что инстинктивное стремление "людей практики" к прибыли перестанет оплодотворяться мыслью, и практика будет неэффективной. Просто нечем будет торговать.

Я намеренно сгущаю краски. Конечно, все обстоит не так трагично. Но, согласитесь, что тенденция просматривается. А ведь выход из создавшегося положения известен: компьютерные технологии должны совершенствоваться. Они должны становиться все более наукоемкими, расширяя тем самым сферу своего применения. Нельзя забывать, для чего в первую очередь создавался компьютер. Его создатели имели в виду, что он будет способствовать не столько техническому прогрессу, сколько прогрессу человечества в его извечном стремлении к познанию истины. А на этом пути, как показывает история, и с техническим прогрессом все обстоит благополучно. Не случайно ведь Паскаль, призывающий нас прежде всего "научиться хорошо мыслить", был одновременно изобретателем суммирующей машины - первого, можно сказать, прототипа современного компьютера.

Так что же надо делать, чтобы компьютерные технологии становились все более наукоемкими? Постараюсь сформулировать ряд проблем, которые, как мне кажется, необходимо решить. Осознание их пришло в процессе двадцатилетней работы над системой автоматизированного проектирования, однако сами проблемы имеют настолько общий характер, что можно говорить о всей совокупности компьютерных технологий.

В первых системах автоматизированного проектирования разработчики стремились наиболее полно реализовать возможности, предоставляемые компьютером: быстрое выполнение большого количества вычислений, хранение и передачу большого объема информации, визуализация результатов с помощью компьютерной графики, общение человека с компьютером в режиме диалога. Этот подход со временем трансформировался в компьютерную технологию, которую принято теперь называть экспертной системой. Она основывается на представлении о пользователе как о специалисте в конкретной области знаний (врач, экономист, инженер, управленец и т.д.), которому необходимо помочь эффективно применить свои знания в конкретной работе. Такие системы используются сегодня в различных сферах деятельности. Они, например, весьма успешно справляются со специфическими задачами диагностики, когда знания представимы в виде достаточно жестких инструкций, действующих в строгих рамках формальной логики. Однако попытки использовать идеологию экспертных систем для автоматизации проектирования таких сложных объектов, как самолет, корабль, производственный комплекс или система управления ими, принципиальных проблем не решили.

Напомню, что автомобиль не снял с повестки дня транспортную проблему. Повсеместная автомобилизация породила новые проблемы: аварии и пробки на дорогах, загрязнение окружающей среды, трудности парковки и хранения. Точно так же, когда современные КБ оснастили персональными рабочими местами конструктора (некоторыми аналогами экспертных систем) и объединили их в сеть, предназначенную выполнять функции системы автоматизированного проектирования, возникли новые, не менее острые проблемы. Одна из них заключается в том, что в системе стали обрабатываться громадные объемы информации. А из теории известно, что это приводит к повышению энтропии в системе, то есть информация о текущем состоянии проекта искажается и тем сильнее, чем больше задействовано в ней исполнительных элементов, - будь то программа или живой конструктор на своем персональном рабочем месте. Бороться с ростом энтропии в сложных системах можно лишь с помощью агрегирования (укрупнения, обобщения) информации и распределения ее по уровням детализации (подробности), то есть нужно построить иерархическую систему обработки информации.

Так, в сущности, обстоит дело в любом крупном КБ, только возникающая стихийно, под давлением обстоятельств иерархия во многом зависит от сложившейся в данной организации практики проектирования. Поэтому простым интегрированием программ со всеми остальными элементами, как утверждает Гейтс, не обойтись - придется вникать в специализированные проблемы отраслей. Очевидно также, что не все иерархические системы проектирования в разных КБ эквивалентны. Одни из них работают более продуктивно, другие - менее. Таким образом, иерархия должна быть не произвольной, а естественно вытекающей из функциональной природы проектируемого объекта и степени его конструктивной сложности. Для проектирования гайки никакой иерархии не нужно.

Вопреки ожиданиям, с появлением компьютерных технологий проблема принятия инженерных решений не упростилась, а усложнилась. Высказывались жалобы, что невозможно сделать однозначный выбор, что его просто не существует. Попытки улучшать одни характеристики конструкции приводили к ухудшению других и наоборот. Безвыходность положения вынуждала прибегать к произволу: "лишнюю" информацию старались не замечать. Традиционная методология проектирования "от прототипа", по существу, не претерпела изменений. Однако привлечение компьютера в сферу проектирования практически впервые поставило инженера перед проблемой выбора во всей ее неприятной неоднозначности.

А теперь забудем о проектировании. Дело в том, что обсуждаемые проблемы встречаются повсюду, где приходится принимать решения (делать выбор) в сложной информационной среде. Понимая проектирование предельно широко, можно любую целенаправленную деятельность определить как проектирование, а проблема принятия решений более точно характеризуется понятием синтез.

Наука традиционно изучала реальность как данность. Ее методом был анализ. Настали времена, когда люди стали преобразовывать мир (о чем говорит и Гейтс). Эти преобразования - результат целенаправленной деятельности людей, и потому в повестку дня стала проблема целенаправленного синтеза систем и процессов разнообразной природы и сложности. Необходимо, чтобы компьютерные технологии позволили решать эту проблему наименее болезненно для нас и окружающей среды, что возможно лишь в том случае, если сами технологии будут помогать нам хорошо мыслить. Но чтобы хорошо мыслить, сначала нужно научиться правильно мыслить, опираясь на достижения фундаментальных наук.

В проблеме синтеза центральная задача - выбор. Выбирать можно только тогда, когда есть из
чего выбирать, когда есть множество альтернатив синтезируемой системы, объекта или процесса. Из теории известно, что выбор будет тем лучше, чем шире множество альтернатив. И здесь мы сталкиваемся с парадоксальной, на первый взгляд, ситуацией: чтобы построить оптимальный синтез, нужно суметь создать все множество возможных альтернатив. Эта задача чрезвычайно сложна, однако фундаментальные достижения в теории оптимизации, теории игр, математическом моделировании - составляющих общей теории принятия решений, а также совершенство современных компьютеров укрепляют нашу веру в успешном ее решении. Следующая задача - формирование системы критериев (оценок), на основе которых строится оптимальный синтез. Система критериев является ни чем иным, как формализацией наших пожеланий или требований к качествам синтезируемого объекта либо процесса. Беда в том, что, как правило, наши пожелания и требования противоречивы и не могут быть формализованы в виде одного критерия.

Каков же выход из такого положения? Ответ дает теория многокритериальной оптимизации: следует отказаться от категорической формы требований, и тогда решение существует. Но оно является неоднозначным. Оптимальный синтез представляет собой множество не улучшаемых по нашим требованиям альтернатив, и в общем случае, что очень важно, содержит меньше элементов, чем исходное.

Итак, однозначного решения нет. Однако если вдуматься, это не так уж и плохо, поскольку нам остается свобода дальнейшего выбора. Он может быть обусловлен соображениями более высокого
уровня, обсуждать которые здесь нет возможности, либо будет сделан на основе компромисса -
согласования требований. Может случиться и так, что необходимость вынудит нас реализовать все
результаты неоднозначного синтеза. Например, при производстве машин приходится изготовлять
и легковые автомобили, и грузовые. Оптимальный синтез в этом случае как бы подсказывает
нам, что удовлетворить наши потребности производством только легковых автомобилей или толь-
ко грузовых невозможно. Нужны и те, и другие.

Однако вернемся к синтезу исходного множества альтернатив. Обычно он делается с помощью структурно-параметрической модели синтезируемого объекта или процесса. Структурно-параметрическая модель позволяет путем вариаций структуры и параметров в заданных пределах получить все множество альтернатив, причем каждая вариация выделяет из множества конкретную альтернативу. Более сложному объекту или процессу соответствует и более сложная структурно-параметрическая модель. К сожалению, наука еще не умеет решать оптимизационные задачи, когда пространство варьируемых переменных имеет очень большую размерность, поэтому модель нужно упрощать, чтобы снизить число переменных до минимально возможного. Таким образом, приходится разбивать задачу на этапы (декомпозировать), то есть вводить иерархию структурно-параметрического описания по уровням детализации. Вспомним, что мы уже говорили об иерархии, когда обсуждали проблему роста энтропии в информационной среде. Реализуется такая иерархия с помощью процедуры последовательного агрегирования структурно-параметрической модели.

Наконец, нам потребуется модель функционирования объекта, поскольку без нее мы не сможем
вычислить значения критериев и вести отбраковку вариантов. Такая модель должна включать в себя все мыслимые режимы функционирования, и в технических отраслях ее практически строить умеют. Хуже обстоит дело с функционированием социально-экономических систем. Но будем считать, что модель функционирования у нас имеется. Очевидно, по сложности она не уступает структурно-параметрической модели и, следовательно, тоже подлежит декомпозиции, причем декомпозиция и той, и другой модели должна быть согласована так, чтобы укладываться в одну и ту же иерархию.

Теперь остается в общих чертах описать сам процесс оптимального синтеза сверху вниз. Предполагается, что верхний уровень - наиболее агрегированный, то есть самый упрощенный в информационном и описательном смысле. На нем имеют дело с макропараметрами, и называют его соответственно макроуровнем. Здесь и решается в основном задача оптимального синтеза, то есть отбраковываются заведомо неэффективные альтернативы. На верхнем же уровне определяются возможные обликовые характеристики (макрохарактеристики) будущего объекта или процесса. Они обладают тем свойством, что улучшить их по совокупности исходных требований уже невозможно. Ни одной из альтернатив мы не можем отдать предпочтения, так как по выбранной системе критериев они не сравнимы между собой.

Результаты предварительного синтеза поступают на второй, более детальный уровень. На нем сначала решают очень трудную задачу дезагрегирования информации: ищут все прообразы синтезируемого объекта или процесса данной детализации, которые соответствуют макрообразу, поступившему с верхнего уровня. Затем на полученном таким путем множестве альтернатив снова решают задачу оптимального синтеза, используя систему критериев второго уровня. И ее решать уже легче, чем в случае, если бы мы процесс сразу начали со второго уровня, поскольку на первом многие альтернативы были заранее отбракованы. И так следуем вниз по уровням, пока не будет построен полный оптимальный синтез - получено описание объекта или процесса на всех уровнях иерархии.

Далее с помощью традиционных методов анализа - поверочными расчетами на точных моделях или в эксперименте, если изготовлены опытные образцы, - предстоит выяснить, удовлетворяет ли нас построенный синтез. Если удовлетворяет, проблема считается решенной, если нет, процесс синтеза начинается вновь с учетом всех внесенных в него корректив. И так продолжается до тех пор, пока не получим искомый результат.

Думаю, я сказал достаточно, чтобы читатель понял всю сложность задач, которые приходится решать с помощью компьютерных технологий, и оценил требования, предъявляемые к этим технологиям. Замечу, что реализация фрагментов этой схемы оптимального синтеза в авиационном КБ России способствовала созданию одного из лучших маневренных самолетов мира.

Я не пророк, поэтому мне трудно судить, пойдет ли развитие компьютерных технологий по пути, намеченному Биллом Гейтсом, или они превратятся в нечто такое, чему еще пока нет названия. Освободят ли компьютерные технологии человеческий интеллект от повседневной рутины, проложат ли дорогу к истине?.. Во всяком случае, пока существуют "безумные бессребреники", надежда не потеряна. Выиграют все, в том числе и бизнес, доходы которого только возрастут, а сам он станет несравненно нравственнее. Лишь одна мысль тревожит меня: не утратят ли мои дети, внуки или правнуки естественную человеческую потребность в интеллектуально- эмоциональном напряжении, связанном с решением той или иной творческой задачи? Ведь успешное решение последней доставляет поистине ни с чем не сравнимое наслаждение.

1. Гейтс Б. О настоящем и будущем компьютерных технологий // Интернет: www.microsoft.com/rus/sem-inarsevens/billg.

2. Толстой Л.Н. Прогресс и определение образования. Ответ г-ну Маркову // Русский вестник. 1862. №5.

3. Пуанкаре А. Наука и метод. Кн. 1. СПб., 1908.

4. Паскаль Б. Мысли. СПб., 1888. С. 17.