ЧЕГО НЕ МОГУТ
ВЫЧИСЛИТЕЛЬНЫЕ
МАШИНЫ Х.Дрейфус
"Искусственный интеллект': история исследовании
Моделирование процессов познания
ПерераОотка семантической информации
Критика допущений, лежащих в основе "искусственного разума"
Ал/,тернагивь/ к сложившемуся подходу
Ограничения искусственного разума"
Будущее работ в области "искусственного интеллекта"

El
Издательство "Прогресс"

Hubert L. Dreyfus
WHAT COMPUTERS
CANT DO
A CRITIQUE OF ARTIFICIAL REASON
HARPER & ROW, PUBLISHERS

Х.Дрейфус
ЧЕГО
НЕ МОГУТ
ВЫЧИСЛИТЕЛЬНЫЕ
МАШИНЫ
КРИТИКА ИСКУССТВЕННОГО РАЗУМА
Перевод с английского Н.Родман
Общая редакция, послесловие и
примечания Б.В.Бирюкова
ИЗДАТЕЛЬСТВО "ПРОГРЕСС"
МОСКВА 1978

Редактор О.Н.Кессиди
Редакция литературы по философии и педагогике
© От издательства, перевод на русский язык,
примечания и "Что же могут вычислительные машины?
(вместо послесловия) ", "Прогресс", 1978
10501-060
Д 0-78
006 01 -78
Scan AAW

ОТ ИЗДАТЕЛЬСТВА
Книга американского фипософа Хьюберта Дрейфуса
посвящена методологическим проблемам кибернетики, точнее, вопросу о
возможностях и пределах машинной имитации и "усиления"
человеческого разума. В научной литературе эта область исследований
известна как кибернетическое моделирование познавательных
процессов и разработка систем "искусственного интеллекта". Под
последним понимаются системы, которые по некоторым своим
характеристикам существенно приближаются к процессам
функционирования чисто человеческих феноменов восприятия и
мышления и их проявления в разумном поведении.
Следует подчеркнуть, что в нашей стране данная область
кибернетики является предметом активных исследований. Так в
Академии наук СССР имеется Научный совет по искусственному
интеллекту, являющийся одновременно секцией Научного совета
по комплексной проблеме "Кибернетика" при Президиуме
Академии. Модельно-кибернетические исследования интенсивно
ведутся в Институте кибернетики АН УССР и многих других
научных центрах. В этой работе советские ученые деятельно
сотрудничают со своими зарубежными коллегами: в 1975 г. в
Тбилиси была проведена IV Международная объединенная
конференция по искусственному интеллекту, в которой приняла
участие большая группа американских кибернетиков; в апреле
1977 г. в Ленинграде состоялось Международное совещание по
искусственному интеллекту, на котором специалисты из
Советского Союза обсуждали проблемы кибернетического
моделирования познавательных процессов совместно со своими коллегами
из США и других зарубежных стран. За последние годы в нашей
стране был переведен ряд книг и статей, написанных видными
американскими кибернетиками, с многими из которых автор
полемизирует в предлагаемой читателю монографии.
Книга написана не ученым-кибернетиком, а философом,
основательно изучившим соответствующую проблематику и
стремящимся осмыслить возможности и границы "искусственного
разума". При этом автор уделяет особое внимание не столько
возможностям данного направления исследований (о них уже
5

достаточно много написано самими специалистами в области
"искусственного интеллекта"), сколько пределам его развития,
которые X. Дрейфус и стремится выявить в ходе своего анализа.
Появление такого рода работы в западной философско-кибер-
нетической литературе не случайно. Оно вызвано рекламными
заявлениями, которые были сделаны представителями данного
направления кибернетики в США, а также тем обстоятельством,
что некоторые из выдвигавшихся ими прогнозов относительно
реализации тех или иных модельно-кибернетических проектов
оказались неоправданными. В этой связи X. Дрейфус ставит ряд
важных проблем методологического характера, заслуживающих
критического анализа и осмысления с позиций диалектико-мате-
риалистической методологии. Такой анализ предпринят в статье
"Что же могут вычислительные машины? (вместо послесловия) ",
написанной доктором философских наук Б.В. Бирюковым,
которая помещена в конце книги. Книга снабжена также
примечаниями, разъясняющими, уточняющими и исправляющими
отдельные ее положения.
Предлагаемая вниманию читателей работа X. Дрейфуса,
основанная на богатом фактическом материале и носящая
дискуссионный характер, несомненно, привлечет внимание кибернетиков,
философов, психологов и специалистов других областей знания.

ВВЕДЕНИЕ
I
С тех пор как древние греки изобрели логику и геометрию,
мысль о том, что всякое рассуждение может быть сведено к
своего рода вычислению — так что любые дискуссии можно было
бы считать улаженными раз и навсегда,— занимала умы
большинства представителей точного знания на Западе. Первым, кто
высказал эту мысль, был Сократ. Рассказ об "искусственном
интеллекте" можно было бы начать с 450 г. до н.э., когда (как
повествует Платон) Сократ обратился с вопросом к афинскому
гражданину Эвтифрону, который собирался в порыве благочестия
выдать властям своего отца, совершившего убийство: "Открой же
мне теперь... то, что для тебя, по твоему признанию, совершенно
ясно, то есть как надобно отличать благочестие от нечестия... что
такое сама эта идея, чтобы, смотря на нее и пользуясь ею, как
образцом, я мог бы согласное с нею — и в твоих поступках, и в
поступках других людей — назвать святым, а несогласное —
несвятым"*. Сократ просит Эвтифрона открыть ему то, что
специалисты по математическому обеспечению вычислительных машин
назвали бы "эффективной процедурой", набором "сообщаемых
нам время от времени правил, которые точно регламентируют
наше поведение"**.
Платон придал этой потребности в моральной уверенности
эпистемологический характер. Согласно Платону, всякое знание
должно быть представлено в виде точных определений, которыми
может пользоваться всякий. Если человек не может представить
свое умение в виде такого рода точных правил, то есть если он не
в состоянии обратить свои знания о том, как нечто делается, в
знание о том, что делать, значит, он располагает не знанием, а
верой, уверенностью. Согласно Платону, повара, например,
руководствующиеся в своем деле вкусом и интуицией, и поэты, работа
*Платон. Соч., т. 1, Эвтифрон 5 D, 6 Е, СПб., 1863, с. 362, 365.
(Звездочками отмечены подстрочные примечания автора; цифрами —
примечания к русскому переводу, помещенные в конце книги. — Ред.)
** М. M и н с к и й. Вычисления и автоматы*!. М., 1971,с. 135.
Разумеется, Минский имеет в виду вычислительные процессы, а не действия
морального характера.
7

которых зависит от вдохновения, вообще не обладают знанием:
то, что они делают, не связано с пониманием и не может быть
понято. Таким образом, все, что не может быть сформулировано
в виде четких правил — все сферы человеческой мысли,
требующие мастерства, интуиции или чувства традиции,— следует
расценивать как своего рода бессмысленную одержимость.
Однако Платона еще нельзя считать кибернетиком в полном
смысле слова (хотя, согласно Н. Винеру, он был первым, кто
употребил этот термин2), поскольку его интересовали главным
образом семантические, а не синтаксические критерии. Платон
исходил из предположения, что человек понимает значение
понятий, составляющих правила. В "Государстве"* Платон говорит,
что понимание как таковое (то есть подразделяющаяся на части
и подчиняющаяся правилам линия познания) 3 зависит от разума,
который предполагает диалектический анализ и в конечном счете
интуитивные представления о значении основных понятий,
используемых в процессе понимания. Таким образом, Платон признает,
что его правила не могут быть полностью формализованы. Точно
так же современный специалист по вычислительным машинам
М. Минский, пытаясь реконструировать представления
Платона об эффективной процедуре4, замечает: "Эта попытка дать
определение вызывает критику, потому что интерпретация
предусмотренных правил не должна зависеть от некоторого субъекта
или посредника"**.
Аристотель, расходившийся с Платоном в этом вопросе, как и
во многих других, касающихся приложения теории к
практике, с удовлетворением отмечает, что для применения
платоновских правил необходимо обращение к интуиции. По его мнению,
совсем не просто найти формулу, с помощью которой можно
было бы определить, как далеко может зайти человек и до какой
степени он может заблуждаться, прежде чем в наших глазах он
станет виновным5. Точно так же трудно дать определение и в
случае любого объекта восприятия; такого рода вопросы о
степени виновности неразрывно связаны с обстоятельствами,
сопутствующими рассматриваемому конкретному случаю, где
единственным нашим критерием служит восприятие***.
Для того чтобы осуществить идею Платона, требуется только
одно: исключить какое бы то ни было обращение к интуиции и
оценкам, носящим характер мнений. Подобно тому как Г.
Галилей пришел к своему открытию чисто формального описания
движения физических тел, исключив из рассмотрения все второ-
*См.: Платон. Соч., т. 3. ч. 1, M., 1971, с. 89-454.
** M. М и н с к и й. Цит. соч. с. 135.
***См.: Аристотель. Этика (к Никомаху). В кн.: Этика
Аристотеля, СПб., 1908.
8

степенные факторы и телеологические соображения, новый
Галилей в науке о человеческом поведении мог бы добиться
успеха, сведя все семантические соображения (обращение к
значениям) к методам синтаксических (формальных)
преобразований.
Убеждение в возможности такого рода тотальной
формализации познания вскоре стало доминирующим в западной мысли.
Теперь оно уже выражало основной моральный и
интеллектуальный императив, а успехи физических наук подтверждали (как это
казалось философам XVI в., а сегодня — таким мыслителям, как
Минский) возможность реализации этого императива. Впервые
синтаксическая концепция мышления как процесса вычисления
была в явной форме сформулирована Т. Гоббсом: "Когда
человек рассуждает, он лишь образует в уме итоговую сумму путем
сложения частей... ибо рассуждение... есть не что иное, как
подсчитывание" *.
Оставалось только установить первичные элементы —
словесные "кванты"6, которыми мог бы оперировать этот чисто
синтаксический "калькулятор". Лейбниц — изобретатель
двоичной системы счисления — посвятил свою жизнь разработке
необходимого для этого однозначного формального языка. Он
полагал, что ему удалось найти универсальную и точную систему
обозначений, некоторую алгебру, символический язык,
"универсальную характеристику"7, с помощью которой каждому объекту
можно приписать определяющее его "характеристическое
число". Используя этот прием, всякое понятие можно
представить в виде небольшого количества исходных и неопределяемых
идей; все знание же может получить выражение и быть
объединено в единой дедуктивной системе. На основе этих
характеристических чисел-характеристик и правил их комбинирования может
быть разрешен любой спор и решена любая проблема. "И если
кто-нибудь усомнился бы в том, что я выдвигаю, я ответил бы
ему: "Давайте вычислим, сударь!" — и мы, взяв перо и чернила,
быстро вышли бы из затруднительного положения"**.
Подобно современному специалисту по математическому
обеспечению ЭВМ, сообщающему о некоторой программе,
которую он еще только собирается составить, Лейбниц заявляет:
"Так как в силу удивительной связи, в которой находятся все вещи,
чрезвычайно трудно выделить изолированные характеристические числа,
изображающие небольшое число отдельных вещей, я придумал остроумный
искусственный прием, с помощью которого удастся предварительно выра-
* Г о б с с. Избран, произв., т.2, М., 1964, с. 75, 76.
** G. W. L e i b n i z. Fragmente zur Logik. Akademie-Verlag. Berlin, 1960,
S.91ff8.
9

зить (darlegen) и зафиксировать определенные соотношения, после чего их
уже можно подтвердить далее арифметическим вычислением"*.
И Лейбниц не скрывает огромной важности этой почти
завершенной программы:
"...после того как для большинства понятий будут установлены
характеристические числа, человеческий род приобретет как бы новый орган,
который расширит творческие возможности духа в гораздо большей мере,
чем это делают оптические инструменты по отношению к остроте зрения, и
который в той же мере превзойдет микроскопы и телескопы, в какой
разум превосходит зрение"**.
Обладая этим новым мощным инструментом, искусство,
способы формализации которого безуспешно искал Платон,
можно поднять до уровня теории. В одной из своих "финансовых
заявок" (где он объясняет, каким образом можно было бы
свести все мышление к манипулированию числами, если бы для
этого имелось достаточно средств и времени) Лейбниц замечает:
"...наиболее важные наблюдения и тонкости в разного рода занятиях и
профессиях до сих пор не описаны. Это подтверждается на опыте, когда,
пытаясь что-либо произвести, мы переходим от теории к практике.
Разумеется, мы имеем возможность самым детальным образом описать
результаты этой практики, ибо практика есть, по сути, не что иное, как
более сложная и подробная теория"***.
Если Лейбниц только обещает, то Дж. Буль — математик и
логик XIX в.— предпринимает шаги для реализации этой
программы. Подобно Гоббсу, Буль считает, что рассуждение есть
вычисление; его цель —"исследовать основные законы тех операций
разума, посредством которых осуществляется рассуждение,
выразить их на символическом языке некоторого исчисления"****.
Булева алгебра — это бинарная алгебра для представления
элементарных логических функций. Если а и Ь— переменные, точка
представляет союз "и", знак плюс - союз "или", а 1 и 0
представляют соответственно "истину" и "ложь", то правила логических
переходов могут быть представлены в следующем
алгебраическом виде9:
э + а = а, з+0 = а, а+1 = 1,
а- а = а, а- О = 0, а- 1 = а.
Теперь западный человек был готов к началу вычисления.
Почти немедленно — с появлением изобретений Ч.Бэббеджа
(1835)—практика стала догонять теорию10. Бэббедж задумал
*G.W. Leibniz: Selections. Ph. W i e n e r (ed.). New York, Siribner,
1951, p. 15.
** Ibid., p. 23.
*** Ibid., p. 48 (курсив мой. - Х.Д.).
**** g. В о о I e. Collected Logical Works. Vol. II. The Laws of Thought
(1854). La salle, Illinois, 1952, p. 1.
10

проект "аналитической машины", как он ее назвал, которая —
хотя она так и не была построена11 - должна была функционировать
в точности так же, как и современная цифровая вычислительная
машина: в ней использовались перфокарты, сочетание
арифметических и логических операций, а логические решения,
принимавшиеся в ходе вычислительного процесса, находились в
зависимости от результатов предшествующих вычислений .
Существенная особенность машины Бэббеджа заключалась в
том, что она была цифровой. Существует два основных типа
вычислительных машин: аналоговые и цифровые. Аналоговые
машины не вычисляют в строгом смысле слова — их
функционирование заключается в измерении физических величин. Используя
такие физические величины, как электрическое напряжение,
длительность, угол поворота диска и т.д., пропорциональные
исследуемой величине» они физически комбинируют упомянутые
величины и измеряют получающийся результат. Типичный пример
аналоговой вычислительной машины — логарифмическая
линейка. В цифровой вычислительной машине, как это следует из
используемого в ее названии слова "цифровая" — по-английски
digit, что по-латыни означает "палец", — все величины
представлены дискретными состояниями, например состояниями реле
("включено- выключено") телефонного диска, занимающего
любую из десяти позиций, и т.д. Такая машина для получения
результата считает в буквальном смысле слова.
Таким образом, в то время как аналоговые вычислительные
машины оперируют непрерывными величинами, все цифровые
вычислительные машины являются машинами с дискретными
состояниями, или машинами дискретного действия. Говоря
словами А.Тьюринга, получившего известность благодаря данному
им определению природы цифровой вычислительной машины12,
работа машины с дискретными состояниями
"складывается из совершающихся последовательно одна за другой
резких смен их состояния. Состояния, о которых идет речь, достаточно
отличны друг от друга, для того чтобы можно было пренебречь
возможностью принять по ошибке одно из них за другое. Строго говоря, таких
машин не существует. В действительности всякое движение
непрерывно. Однако имеется много видов машин, которые удобно считать
машинами с дискретными состояниями. Например, если рассматривать
выключатели осветительной сети, то удобно считать, отвлекаясь от
действительного положения дел, что каждый выключатель может быть либо
включен, либо выключен. То, что выключатель фактически имеет также и
промежуточные состояния, несущественно для наших целей, и мы можем
об этом забыть"*.
Идеи Бэббеджа опередили технологию его времени, ибо в то
время еще не существовало быстрого и эффективного способа
* А. Тьюринг. Может ли машина мыслить? M., 1960, с. 28.
11

представления цифр и манипулирования с ними. Для реализации
дискретных состояний Бэббеджу пришлось использовать
неуклюжие механические средства, такие, например, как зубчатое
колесо. Необходимым технологическим решением оказались
электрические переключательные схемы. Когда в 1944 г. Х.Айкен
построил первую работающую цифровую вычислительную
машину, она представляла собой электромеханическое устройство, в
которое входило около 3000 телефонных реле. Однако подобные
машины работали еще медленно; и лишь следующее поколение
вычислительных машин, в котором использовались электронные
лампы, знаменовало собой появление современной ЭВМ,
пригодной для любых вычислений.
Но что значит "для любых вычислений"? Цифровая
вычислительная машина оперирует абстрактными символами, которые
могут означать все что угодно, и логическими операциями,
которые могут связывать все что угодно; поэтому любая
цифровая вычислительная машина (в отличие от аналоговой)
универсальна. Во-первых, говоря словами Тьюринга, она может
моделировать любую другую цифровую вычислительную машину.
"Именно это особое свойство цифровых вычислительных машин — то,
что они могут имитировать любую машину с дискретными состояниями,— и
имеют в виду, когда говорят, что цифровые вычислительные машины
являются универсальными машинами. Из того, что имеются машины,
обладающие свойством универсальности, вытекает важное следствие:
чтобы выполнять различные вычислительные процедуры, нам вовсе не нужно
создавать все новые и новые разнообразные машины (если отвлечься от
растущих требований к быстроте вычислений) . Все вычисления могут быть
выполнены с помощью одной-единственной цифровой вычислительной
машины, если снабжать ее надлежащей программой для каждого случая. В
дальнейшем мы увидим в качестве следствия из этого результата, что все
цифровые вычислительные машины в каком-то смысле эквивалентны друг
другу"*.
Во-вторых (для философа это крайне важно), любой процесс,
в случае если его можно формализовать таким образом, чтобы он
представлял собой последовательность правил выполнения
некоторых действий над дискретными элементами, может быть, по
крайней мере в принципе, воспроизведен на такой машине.
Следовательно, даже аналоговая вычислительная машина может
быть промоделирована на машине цифровой, при условии что
отношение между состояниями входа аналоговой машины и
состояниями ее выхода будет описано точной математической
функцией**.
*Там же, с. 31.
** В гл. 5 нам представится случай разобраться в том, как этот
принцип создает у исследователей, работающих в области моделирования
мыслительных процессов человека, глубокую, однако ни на чем не основанную
уверенность в правильности избранного ими пути.
12

Однако эти машины так и остались бы просто арифмометра-
ми-"переростками", если бы в них не нашли свое воплощение
идеи Платона, рафинирооанные двумя тысячелетиями развития
метафизики. Наконец появилась машина, оперирующая
"квантами" данных по синтаксическим правилам. Более того, эти
правила встроены в схемы самой машины. После того как в машину
закладывается программа, отпадает всякая необходимость в
интерпретации: никакого обращения к человеческой интуиции,
никаких суждений, основанных на мнениях. Именно к этому
стремились Т. Гоббс и Г.Лейбниц; недаром М. Хайдеггер
справедливо назвал кибернетику кульминацией философской
традиции*.
Таким образом, пока практичные люди вроде Дж. Эккерта и
Дж. Мошли проектировали в Пенсильванском университете
первую электронную цифровую вычислительную машину, теоретики,
такие, как А. Тьюринг, пытаясь понять, какова сущность и
возможности машин такого типа, оказались вовлеченными в круг
вопросов, который до той поры находился в ведении философов:
какова природа рассуждения как такового?
В 1950 г. Тьюринг написал программную статью
"Вычислительные машины и интеллект", в которой подчеркнул, что «наш
интерес к "мыслящим машинам" возник благодаря машине
особого рода, обычно называемой "электронной вычислительной
машиной" или "цифровой вычислительной машиной"»**. Затем он
поставил вопрос: "Могут ли (такие.— Х.Д.) машины мыслить?"
Для получения ответа на него Тьюринг предложил тест,
который назвал игрой в имитацию. Мы читаем:
"Эта новая форма проблемы может быть описана с помощью игры,
которую мы назовем "игрой в имитацию". В этой игре участвуют три
человека: мужчина (А), женщина (В) и кто-нибудь задающий вопросы (С),
которым может быть лицо любого пола. Задающий вопросы отделен от
двух других участников игры стенами комнаты, в которой он находится.
Цель игры для задающего вопросы состоит в том, чтобы определить, кто из
двух других участников игры является мужчиной (.4), а кто — женщиной
(В). Он знает их под обозначениями X и У и в конце игры говорит либо: "X
есть А и У есть В", либо: "X есть В, и У есть А". Ему разрешается задавать
вопросы такого, например, рода:
С: "Попрошу X сообщить мне длину его (или ее) волос".
Допустим теперь, что в действительности X есть А. В таком случае А и
должен давать ответ. Для А цель игры состоит в том, чтобы побудить С
прийти к неверному заключению. Поэтому его ответ может быть,
например, таким:
* М. Н е i d e g g е г. La fin de la philosophie et la tache de la pensee.-ln:
Kierkegaard vivant, Paris, 1966, p. 178-17913: "В нашу эпоху философия
пришла к своему завершению. Она нашла свое место в научном взгляде
на мир... Фундаментальной особенностью научного детерминизма является
его кибернетичность".
** А. Т ь ю р и н г. Цит. соч., с. 22-23.
13

"Мои волосы коротко острижены, а самые длинные пряди имеют около
девяти дюймов в длину".
Чтобы задающий вопросы не мог определить по голосу, кто из двух
других участников игры мужчина, а кто — женщина, ответы на вопросы
следовало бы давать в письменном виде или, еще лучше, печатать на
машинке. Идеальным случаем было бы телеграфное сообщение между
комнатами, где находятся участники игры. Если же этого сделать нельзя, то
ответы и вопросы может передавать какой-нибудь посредник. Цель игры
для третьего игрока — женщины (В) — состоит в том, чтобы помочь
задающему вопросы. Для нее, вероятно, лучшая стратегия — давать правдивые
ответы. Она также может делать такие замечания, как: "Женщина —я, не
слушайте его!" — но этим она ничего не достигнет, так как мужчина тоже
может делать подобные замечания.
Поставим теперь вопрос: "Что произойдет, если в этой игре вместо А
будет участвовать машина?" Будет ли в этом случае задающий вопросы
ошибаться столь же часто, как и в игре, где участниками являются только
люди? Эти вопросы и заменят наш первоначальный вопрос: "Могут ли
машины мыслить?"*
Этот тест получил известность как тест Тьюринга. Вероятно,
философу простое сходство в поведении машины и поведении
человека покажется недостаточным основанием для признания за
машиной свойства разумности**, но в качестве цели работы для
тех, кто действительно пытается построить думающую машину, а
также в качестве критерия, которым можно было бы
пользоваться при критической оценке этих попыток, тест Тьюринга
подходил как нельзя лучше.
Конечно, ни одна из существовавших тогда машин не могла
быть немедленно использована в качестве партнера в игре
Тьюринга. Цифровые вычислительные машины, несмотря на их
быстродействие, точность и универсальность, все еще оставались ничем
иным, как устройствами для переработки символов
произвольного вида. Дело, однако, явно склонялось в пользу лейбницевской
позиции. Пришло время для создания соответствующего
символизма и детальных предписаний, с помощью которых правила
ведения рассуждений можно было бы включить в программу для
вычислительной машины. Осознав эту задачу, Тьюринг и
предложил критерий проверки эффективности такой программы.
Однако его статья заканчивается лишь очень общими
соображениями по поводу имеющихся перспектив:
"Мы можем надеяться, что машины в конце концов будут успешно
соперничать с людьми во всех чисто интеллектуальных областях. Но какие
из этих областей наиболее пригодны для того, чтобы начать именно с них?
Решение даже этого вопроса наталкивается на затруднения. Многие
считают, что начать лучше всего с какой-нибудь очень абстрактной деятельности,
например с игры в шахматы. Другие предлагают снабдить машину
хорошими органами чувств, а затем научить ее понимать и говорить по-англий-
*Там же, с. 19-20.
**См., например, критические статьи К. Гундерсона и М.Скрайвена в
кн.: A. R. Anderson. Minds and Machines. N.Y., Printice-Hall, 1964.
14

ски. В этом случае машину можно будет обучать, как ребенка:
указывать на предметы и называть их и т.д. В чем состоит правильный
ответ на этот вопрос, я не знаю, но думаю, что следует испытать оба
подхода"*.
Методов нахождения правил, существование которых
предполагали мыслители от Платона до Тьюринга — методов
превращения любой практической деятельности, будь то игра в шахматы
или обучение языку, в набор указаний-команд, который Лейбниц
называл теорией,— еще не было. Но немедленно, как будто по
подсказке Тьюринга, начались работы по программированию игры
в шахматы и машинной обработке информации, записанной на
естественном языке. В том же году, когда была опубликована
статья Тьюринга, появилась статья создателя теории информации
К. Шеннона о машинах, играющих в шахматы, в которой
обсуждались возможные подходы к программированию игры в шахматы
на цифровой вычислительной машине.
"Исследование одного направления развития игры на 40 ходов вперед
настолько же плохо, как и исследование вариантов только на два хода.
Подходящим компромиссом было бы исследование только важнейших
возможных вариантов, таких, как форсированные варианты взятия фигур
и основные угрозы, и продолжение их исследования настолько далеко,
чтобы проверить каждый такой вариант до полной ясности. Вполне
возможно установить некоторые грубые критерии для выбора важнейших
вариантов, конечно, не так эффективно, как это делает шахматист, но
достаточно для того, чтобы ощутимо уменьшить число вариантов и,
следовательно, позволить рассматривать достаточно глубоко выбранные
варианты"**.
К.Шеннон не составил шахматной программы, но он выразил
уверенность в том, что ''по описанной выше программе машина
будет играть довольно сильно и по скорости сравнимо с
человеком"***.
В 1955 г. А.Ньюэлл произвел серьезный обзор проблем,
возникающих при программировании игры в шахматы, включив в
него собственные соображения по поводу того, как к этим
проблемам можно было бы подойти. Он писал: "Эти
(предлагаемые им.— Х.Д.) механизмы настолько сложны, что невозможно
сказать заранее, будут ли они работать"****. Однако уже в
следующем году мы стали свидетелями потрясающего успеха.
Группа исследователей из Лос-Аламоса составила программу,
которая позволила машине играть в шахматы на уменьшенной
* А. Тьюринг. Цит. соч., с. 57.
** К. Ш е н н о н. Машина для игры в шахматы.— В кн.: К. Ш е н н о н.
Работы по теории информации и кибернетике14. М., 1963, с. 187.
***Тамже, с. 188.
****A.N ewel I. The Chess Machine.- In: TheModelingof Mind, K.M. Say-
re and F.J. Crosson (eds.). South Bend, Ind., Notre Dame University Press, 1963,
p. 89.
15

доске — хотя и слабо, но с полным соблюдением шахматных
правил. Анализируя эту работу, А.Ньюэлл, Дж.Шоу и Г.Саймон
писали: "машина с очень несложной программой способна по
крайней мере вступить на шахматное поприще: она может
обыграть начинающего игрока"*. К 1957 г. А. Бернштейн уже
располагал программой для IBM-704, сыгравшей две "сносные
любительские партии"**.
Тем временем А.Эттингер работал над реализацией второго из
предложенных Тьюрингом подходов. Уже в 1952 г. он реализовал
на машине программу, моделирующую простой условный
рефлекс — способность усиления или ослабления определенной
реакции в зависимости от положительного или отрицательного
подкрепления. Затем А.Эттингер занялся проблемой
автоматического перевода и составил программу для машинной реализации
русско-английского словаря. Казалось, что дальнейшие
исследования в этом направлении приведут к созданию такой машины,
которую можно научить устанавливать связи между словами и
объектами.
Однако ни тот, ни другой подход не привели ни к чему, хотя
бы отдаленно напоминающему общую теорию разумного
поведения. Отсутствовали правила, в соответствии с которыми любой
вид интеллектуальной деятельности можно было бы представить в
виде набора инструкций (команд, указаний). В это время
Г.Саймон и А.Ньюэлл, анализируя процесс решения студентами
логических задач, обратили внимание на то, что их испытуемые
зачастую пользуются такими правилами или "прямолинейными"
приемами, которые, не будучи универсально применимыми, во
многих случаях приводят к успеху, хотя случается и так, что они
не позволяют решить задачу. Примером такого чисто
эмпирического приема может служить следующее правило: всегда
старайся заменить длинное выражение более коротким. А.Ньюэлл и
Г.Саймон решили попытаться разработать модель такого
практического интеллекта. Получающиеся при этом программы были
названы "эвристическими"—этим подчеркивалось их отличие от
так называемых алгоритмических программ, которые хотя и
гарантируют решение соответствующих задач (используя метод
исчерпывающего поиска), однако слишком громоздки для
практической реализации.
Понятие практически применимого правила дало возможность
расширить поле деятельности исследователей, занятых поисками
путей программирования на вычислительных машинах таких
*А. Ньюэлл, Дж.Шоу, Г.Саймон. Программа для игры в
шахматы и проблема сложности. — В кн.: Вычислительные машины и
мышление, под ред. Э.Фейгенбаума и Дж. Фельдмана1**, м., 1967, с.45.
**Там же, с. 45.
16

форм поведения, которые имеют место при решении задач общего
характера. Волнение, вызванное появлением этой новой идеи, в
некоторой степени отразилось на первом параграфе ставшей
классической статьи А.Ньюэлла, Дж.Шоу и Г.Саймона
«Эмпирические исследования машины "Логик-теоретик"; пример
изучения эвристики»:
"Эта работа касается изучения процесса решения задач и является
частью программы исследования сложных систем обработки информации.
Мы разработали схему для нахождения доказательства теорем в
элементарной символической логике. Составив по этой схеме программу для
вычислительной машины, мы с ее помощью получили эмпирические
данные, касающиеся процесса решения задач в элементарной логике. Мы
назвали эту программу «машина Логик-теоретик» (ЛТ). Она была
разработана для того, чтобы изучить возможность решения таких трудных
задач, как доказательство математических теорем, выявление научных
законов в совокупности опытных данных, игра в шахматы или понимание
смысла английской прозы.
Цель настоящего исследования — разобраться в тех сложных процессах
("эвристиках"), которые участвуют в решении задач. Поэтому мы не
интересуемся методами, обеспечивающими решения задач, но требующими
очень большого объема вычислений, а стремимся понять, каким образом,
например, математик в состоянии доказать теорему, даже если он вначале
не знает, как ему это сделать, и сможет ли он вообще ее доказать"*-
Однако вскоре А.Ньюэлл и Г.Саймон осознали, что и этот
подход не может считаться достаточно общим. В следующем, 1957 г.
они поставили перед собой задачу выделить используемые в
"Логике-теоретике" эвристики и применить их к другим задачам
того же рода. В результате возникла программа, получившая
название "Общий решатель задач"—по-английски "General
Problem Solving (сокращенное название - GPS). Мотивы,
побудившие ее авторов заняться "Общим решателем задач", и
направленность всей работы в своем первом серьезном отчете об этом
начинании Ньюэлл, Шоу и Саймон объясняют следующим
образом:
"Данная статья... является частью работы, посвященной изучению
чрезвычайно сложных процессов, протекающих при разумном, адаптивном
и творческом поведении...
Решению задач может способствовать использование информации
самого различного рода: информация может подсказать порядок, в котором
следует проверять возможные решения; послужить основанием для того,
чтобы исключить из рассмотрения целый класс решений, считавшихся ранее
допустимыми; она может оказаться простым тестом для различения
правдоподобных и маловероятных вариантов и т.д. Всякая
информация такого рода есть эвристика, то есть то, что способствует
открытию. Эвристики в редких случаях могут служить безошибочным
руководством... Они часто "срабатывают", но их результаты варьируют от
А. Ньюэлл, Дж. Шоу, Г. С а й м о н. Эмпирические исследования
машины "Логик-теоретик"; пример изучения эвристики. — В кн.:
Вычислительные машины и мышление, с. 113.
17

задачи к задаче, и успешность их применения нельзя гарантировать"*.
Для того чтобы передать смысл тех общих эвристик, которые
Ньюэлл и Саймон используют в своей программе, они приводят
пример повседневного разумного поведения:
"Я хочу отправить своего сына в ясли. Что мешает достичь соответствия
между тем, что есть, и тем, к чему я стремлюсь? Расстояние. Что может
устранить это несоответствие? Использование автомашины. Но мой
автомобиль не работает. Что нужно, чтобы он заработал? Новый аккумулятор. А
где его достать? В авторемонтной мастерской. Итак, мне нужно обратиться
в авторемонтную мастерскую. Но в мастерской не знают о том, что мне
нужен аккумулятор. В чем затруднение? В связи. Как установить связь?
Для этого существует телефон... И так далее.
Такого рода анализ — классификация объектов с точки зрения
функций, которые они выполняют, и переход от поставленных целей к
необходимым для их выполнения функциям и средствам их реализации и
обратно — составляет основу системы эвристик GPS.
Точнее, такая эвристическая система анализа в терминах "средств и
целей" предполагает следующее:
1. Если дан объект, отличный от цели — желаемого объекта,— то следует
стремиться к тому, чтобы установить различия между наличным объектом
и целью.
2. Операторы воздействуют на одни признаки операндов^, оставляя
другие неизменными. Следовательно, операторы можно охарактеризовать,
указав на изменения, которые они производят; применяя соответствующие
операторы к имеющимся объектам, можно устранять различия между ними
и целевыми объектами.
3. Одни различия поддаются воздействию операторов с большим
трудом, чем другие. Поэтому следует стремиться к элиминации "трудных"
различий, пусть даже ценой введения новых различий, но меньшей
трудности. Этот процесс можно продолжать до тех пор, пока не будет достигнут
прогресс в элиминации более "трудных" различий"**.
Когда выяснилось, что цифровые машины могут решать
задачи такого; например, рода, как задача о людоедах и
миссионерах (каким образом перерравить через реку трех людоедов и трех
миссионеров, и при этом так, чтобы ни один миссионер не был
съеден?) 17, возникло ощущение, что наконец-то мечта философов
нашла необходимые для своей реализации технические средства и
что в универсальную быстродействующую ЭВМ удалось ввести
правила, превращающие рассуждение в вычисление. Г.Саймон и
А.Ньюэлл почувствовали важность момента и торжественно
провозгласили наступление эры разумных машин:
«Мы начинаем понимать, как использовать ЭВМ для решения задач,
по отношению к которым мы не располагаем регулярно
применимыми и эффективными алгоритмами. И теперь, по крайней мере в
некоторой ограниченной области, мы умеем не только программировать
* A. Newell, J. С. Shaw and H. A. S i m о n, Report on a General
Problem-Solving Program. —In: Proc. Int. Conf. on Information Processing, Paris,
UNESCO, 1960, p. 257.
** Ibid., p. 259.
18

ЭВМ таким образом, чтобы она успешно выполняла действия, ведущие к
решению задачи, но и закладывать в нее способность научения этому.
Короче говоря, теперь в нашем распоряжении имеются элементы теории
эвристического (в отличие от алгоритмического) решения задач. Мы
можем использовать эту теорию как для того, чтобы понять, как
организованы эвристические процессы у человека, так и для того, чтобы
моделировать эти процессы на -цифровой машине. Интуицию, инсайт и обучение
нельзя более считать исключительной прерогативой человека: ими
располагает любая достаточно крупная быстродействующая ЭВМ,
запрограммированная соответствующим образом"*.
Эта область исследований, в которой цифровые
вычислительные машины используются для моделирования разумного
поведения, вскоре получила название "искусственного интеллекта"18.
Не следует, однако, думать, что она действительно соответствует
этому названию. Вне всякого сомнения, искусственная нервная
система, в достаточной степени близкая к человеческой, которая
связана с органами чувств и реализована в некотором теле,
конечно, будет обладать разумом. Однако термин
"искусственный" не означает, что исследователи искусственного интеллекта
пытаются построить искусственного человека. На современном
уровне развития физики, химии и нейрофизиологии это
недостижимо. Саймон и другие пионеры "искусственного интеллекта"
предлагают создать нечто более ограниченное: эвристическую
программу, дающую возможность цифровой машине,
перерабатывающей информацию, проявлять разумность.
Термин "интеллект" тоже может привести к недоразумениям.
Проектируя робота, никто не ожидает от него, что он будет
воспроизводить любое поведение, которое считается разумным
для человека. Роботу не придется, например, выбирать себе
хорошую жену или переходить улицу на оживленном
перекрестке. Он должен конкурировать с человеком только в более
объективных и отвлеченных сферах человеческого поведения — с
тем чтобы быть в состоянии одержать верх в игре Тьюринга.
Но именно эта ограниченность цели, поставленной
исследователями, работающими в области "искусственного интеллекта",
придает такое большое значение их работе. Эти "последние
метафизики" делают ставку только на способность человека к
формализации своего поведения; в случае выигрыша они смогут,
пренебрегая мозгом и телом, постичь самую суть рационального.
Вычислительные машины уже привели к научно-технической
революции, сравнимой по значению с промышленной революцией.
Если Саймон прав, говоря о неизбежности "искусственного
интеллекта", то ЭВМ подводят нас к грани свершения еще более
значительной, концептуальной революции — к изменению наших
* H.A.S i m о п, A.N е w e I I. Heuristic Problem Solving: The Next Advance
in Operations Research.- Operations Research, vol. 6, 1958, January-February,
P. 6.
19

представлений о человеке. Важность этой революции ощущается
всеми, однако мы настолько близки к соответствующим
событиям, что порой бывает трудно четко представить себе их смысл.
Во всяком случае, ясно следующее. Аристотель назвал человека
разумным животным, и с тех пор считалось, что разум неразрывно
связан с сущностью человека. Если мы находимся на пороге
создания искусственного интеллекта, то в ближайшее время мы
станем свидетелями триумфа весьма ограниченного
представления о разуме. Действительно, если разум может быть "заложен" в
вычислительную машину, то это подтвердит такое понимание
природы человека, к которому в течение двух тысяч лет на ощупь
шли западные мыслители и которое лишь сегодня получило
средства для выражения и реализации. Воплощение этой
интуитивной идеи коренным образом изменит наши представления о
самих себе. Если же создание "искусственного интеллекта"
окажется невозможным, то нам придется найти ту границу,
которая отделяет человеческий разум от искусственного, что
также радикально изменит наше понимание самих себя. Таким
образом, наступил тот момент, когда мы должны либо
окончательно признать, что имеющее за собой глубочайшую традицию
интуитивное прозрение оказалось верным, либо отказаться от тех
представлений, которые в течение двух тысячелетий считались
проникновением в природу человека.
Хотя сейчас, по-видимому, еще не наступило время решения
этого вопроса, мы все-таки обязаны попытаться определить
масштабы и пределы такого рода разума, который полностью
вступил в свои права с тех пор, как ''аналитическая машина" была
доведена до совершенства. Мы должны попытаться понять, в
какой степени осуществим "искусственный интеллект", а если
возможности машинного моделирования разумного поведения
ограниченны, мы должны найти эти границы, определить, где они
проходят. Все, что мы узнаем о границах разумного в применении
к вычислительным машинам, будет добавлением к нашему
представлению о характере и объеме человеческого интеллекта. Для
этого нам понадобится ни больше ни меньше, как критика
"искусственного разума".
II
Потребность в критике "искусственного разума" есть лишь
частное проявление общей потребности в критическом отношении
к наукам о поведении. Н.Хомский однажды заметил, что в этих
науках "всегда наблюдалась вполне естественная, но достойная
сожаления тенденция к "экстраполяции": полученный в
результате тщательной экспериментальной работы и точной обработки
20

данных минимум знаний экстраполировался на вопросы, которые
имеют гораздо более широкое значение и наполнены огромным
социальным содержанием". Его вывод, относящийся к 1968 г.,
состоит в следующем:
«[ Специалисты] несут на себе ответственность за то, чтобы были ясны
действительные пределы их знания и тех результатов, которые получены
ими на сегодняшний день, а внимательный анализ этих пределов
продемонстрирует, по моему мнению, что практически в каждой области
социальных и поведенческих наук достигнутые на сегодня результаты не
оправдывают такую "экстраполяцию"»*.
На первый взгляд кажется, будто искусственный интеллект
является счастливым исключением из этого прискорбного
правила. Каждый день мы читаем о том, как цифровые вычислительные
машины играют в шахматы, переводят тексты, распознают образы
и скоро вообще смогут делать всю нашу работу. В самом деле,
это начинает походить на детскую забаву. В буквальном смысле
этого слова! В издании Североамериканского газетного
объединения, вышедшем в декабре 1968 г., была помещена статья,
озаглавленная "Компьютер для детишек", в которой говорится:
"Западногерманское издательство "Космос"... предложило новую идею
подарка... Это самый настоящий (хотя и маленький) компьютер
стоимостью не более 20 долларов. Работает на батарейках и внешне напоминает
портативную пишущую машинку. Однако, как и в любую большую ЭВМ, в
это устройство можно вводить программы для перевода с иностранных
языков, диагностики заболеваний и даже для получения прогноза погоды".
Из статьи под названием "Будьте знакомы: Шейки — первый
электронный человек", появившейся 20 ноября 1970 г. в журнале
"Life", ошарашенный читатель узнает о существовании ЭВМ,
«"смонтированной из пяти главных электронных систем, в
значительной степени соответствующих основным способностям
человека: восприятию, разуму, речи, памяти [и] "самосознанию"». Судя
по статье, эта ЭВМ "видит", "понимает", "учится" и вообще
"доказала, что машины могут мыслить". Цитируются также
высказывания некоторых известных ученых — специалистов по
вычислительным машинам, которые предсказывают, что по
прошествии трех—пятнадцати лет "будет создана машина, общий
интеллект которой будет на уровне среднего человека, а еще через
несколько месяцев он окажется на уровне гения...".
Хотя до создания совершенного робота пройдет еще
несколько лет, все, кто интересуется, как будет выглядеть мир на рубеже
двух столетий, могут посмотреть фильм "2001 год: космическая
Одиссея", в котором показан робот по имени ХЭЛ,
невозмутимый, рассудительный, знающий и умеющий чуть ли не все на
свете. И этот фильм нельзя считать просто плодом научной
фантазии: "Космическая Одиссея" снималась после тщательной
*Н. Хомский. Язык и мышление1^. М., 1972, с. 10—11.
21

документальной проверки. Постановщик фильма С.Кубрик
консультировался с самыми видными специалистами по
вычислительной математике и технике, стремясь избежать ошибок и не
включать в фильм совсем уж маловероятные вещи. Сам Тьюринг
в 1950 г. выразил уверенность в том, что "к концу нашего века
употребление слов и мнения, разделяемые большинством
образованных людей, изменятся настолько, что можно будет говорить о
мыслящих машинах, не боясь, что тебя поймут неправильно"*.
Технический консультант этого фильма профессор Массачусетско-
го технологического института М.Минский, работавший в своей
лаборатории над одним из первых прототипов ХЭЛа, заверил
Кубрика, что если Тьюринг и ошибается, то только в сторону
излишнего пессимизма.
Тот факт, что С. Кубрик правильно истолковал слова М.
Минского, очевиден из редакционной статьи последнего в "Science
Journal", которая весьма напоминает сценарий к фильму
"2001 год":
"Сначала машины выполняли самые простые действия. Но скоро их
поведение станет фантастически изящным. Если раньше глаза ЭВМ могли
нащупать лишь дырочки на перфокартах, то сейчас они распознают контуры
на ровном фоне. Скоро они станут соперничать с человеком в анализе
окружающей его обстановки. Было время, когда машины просто
складывали столбики цифр. Сейчас они могут участвовать в играх (типа шахмат),
понимают простой разговор, учитывают множество факторов при принятии
решений. Что будет дальше?
Сегодня машины решают задачи главным образом по тем правилам,
которые мы в них закладываем. Однако недалеко то время, когда мы,
возможно, научимся настраивать их таким образом, чтобы они могли
работать над очень важной проблемой совершенствования собственной
способности решения задач. При этом может случиться так, что после
перехода через некоторый порог способности машины будут расти все
быстрее, словно по спирали удаляясь от исходной точки, так что создание
надежного их "регулятора" окажется совсем нелегким делом"**.
Складывается впечатление, что нет предела размаху и
великолепию надлежащим образом запрограммированной ЭЦВМ.
Неудивительно поэтому, что среди тех, кто занимается философией
науки, встречается мнение, согласно которому машина в
состоянии делать все, что в состоянии делать человек (это
сопровождается попыткой представить себе, чем такая точка зрения чревата для
философского осмысления разума); в то же время некоторые
моралисты и теологи не на жизнь, а на смерть защищают такие в
высшей степени утонченные формы поведения, как моральный
выбор, любовь и творчество, считая их находящимися вне
досягаемости машины. Однако мыслители как того, так и другого
*А. Тьюринг. Цит. соч., с. 32.
**M.Minsky. Machines Are More Than They Seem.-Science Journal,
1968, October, p. 3.
22

толка оставляют без внимания вопрос, который должен был бы
предшествовать всем остальным, а именно: действительно ли
машины могут достичь хотя бы элементов творчества, играя в
шахматы, разрешая простые проблемные ситуации, читая простые
предложения и распознавая образы? По-видимому, это связано с
тем, что под влиянием прессы и таких исследователей,
работающих в области "искусственного интеллекта", как М. Минский, у
них сложилось впечатление, что простые задачи — и даже
некоторые из очень трудных — уже решены или находятся на пороге
решения. Поэтому прежде всего займемся проверкой этих
заверений.
Уместно начать с предсказания, сделанного Г.Саймоном в
1957 г., когда, казалось, его "Общий решатель задач" открывал
эру искусственного интеллекта:
"В мои намерения не входит удивить или поразить вас... То, что я хочу
сказать, можно выразить в нескольких словах: в настоящее время в мире
существуют машины, которые мыслят, учатся и проявляют способность к
творчеству. Более того, эти их способности будут быстро расти вплоть до
того момента в обозримом уже будущем, когда сфера их деятельности
охватит круг всех вопросов, над которыми когда-либо размышлял
человеческий разум".
Далее Саймон продолжает:
"1.Не пройдет и десяти лет, как цифровая вычислительная машина
станет чемпионом мира по шахматам, если не будут введены правила, не
допускающие ее к соревнованиям.
2. Не пройдет и десяти лет, как вычислительная машина найдет и
докажет важную и до сих пор неизвестную математическую теорему.
3. Не пройдет и десяти лет, как большинство психологических теорий
примет форму программ для вычислительных машин или
качественных утверждений о тех или иных характеристиках машинных
программ"*.
К сожалению, десятая годовщина этого исторического
выступления прошла незамеченной, а исследователям "искусственного
интеллекта" ни на одной из своих многочисленных конференций
(как международных, так и внутри США) так и не удалось
выкроить время между докладами, посвященными их успешной
работе, чтобы сопоставить эти предсказания с реальными
результатами. До настоящего момента прошло уже четырнадцать лет20,
и нас по-прежнему предупреждают, что, быть может, вскоре нам
будет трудно справляться с нашими роботами, Вне всякого
сомнения, давно пора сопоставить эти своеобразные пророчества с
действительностью.
По прошествии пяти лет после предсказаний Саймона в
опубликованных работах появились намеки на то, что первое из
* Н. A.S i гл о n, A.N е w e I I. Heuristic Problem Solving: The Next Advance
in Operations Research. Operations Research, vol. 6, 1958, p. 6 .
23

его предвидений уже наполовину осуществилось, а в отношении
второго наблюдается значительный прогресс. Что касается этого
последнего, то есть предсказания о машинных открытиях теорем,
то его стали считать "исполнившимся" после того, как У.Р.Эш-
би — один из ведущих авторитетов в этой области — в
произведенном им обзоре коллективного труда "Вычислительные машины и
мышление", вышедшего под редакцией Э.Фейгенбаума и
Дж. Фельдмана, поделился своими восторгами по поводу
математических способностей надлежащим образом
запрограммированной ЭВМ: "Программа Гелернтера для доказательства теорем
нашла новое доказательство теоремы pons asinorum, которое не
требует никаких построений". Это доказательство, продолжает
доктор Эшби, "в течение 2000 лет оставалось не замеченным
величайшими математиками... будь оно найдено, это
доказательство получило бы самую высокую оценку"*.
Машинная теорема выглядит внушительно, и наивный читатель
невольно начинает разделять энтузиазм У.Эшби. Однако
небольшое углубление в вопрос показывает, что pons asinorum, или
«ослиный мост», есть не что иное, как элементарная теорема,
доказываемая в геометрии Евклида21; согласно этой теореме, в
равнобедренном треугольнике углы, лежащие против равных
сторон, равны. Более того, первое упоминание об этом будто бы
новом доказательстве, "открытом" машиной, приписывается Пап-
пу Александрийскому, жившему в конце III — начале IV в. н.э.**
Несоответствие между ликованием Эшби, древностью теоремы и
тривиальностью ее доказательства просто поразительно. Нет, мы
еще весьма далеки от "важной математической теоремы",
которая должна была быть найдена к 1967 году!
История с игрой в шахматы более запутана, она могла бы
послужить моделью для изучения процесса возникновения
интеллектуального смога. В 1958 г., через год после предсказания
Саймона, появилась тщательно разработанная шахматная
программа Ньюэлла, Шоу и Саймона. Как указывалось в их классической
работе, названной "Программа для игры в шахматы и проблема
сложности", эта программа была "еще полностью не отлажена",
так что о ее поведении имелся "лишь небольшой фактический
материал"***; тем не менее авторы предполагают, что принципов,
заложенных ими в программу, достаточно для разыгрывания
дебютов. Это была последняя подробная публикация, посвященная
данной программе. Однако в том же году Ньюэлл, Шоу и Саймон
* W.R. A s h b у. Review of E.A. Feigenbaum and J.Feldman (eds ).
Computers and Thought. The Journal of Nervous and Mental Diseases, vol. 140, No 6,
June 1965, p. 468-470.
** D.E.S m i t h. History of Mathematics. Boston, Ginn, 1925, vol. II, p. 284.
*** A. Newell, J. Shaw and H. Simon. Chess-Playing Program and
the Problem of Company, p.60.
24

провозгласили: "Мы составили программу, играющую в
шахматы"*. На основе этого заявления Саймон пересмотрел
сделанное им ранее предсказание:
"В одной из наших публикаций мы предсказывали, что не пройдет и
десяти лет, как ЭЦВМ откроет и докажет важную математическую теорему.
Исходя из опыта нашей работы с эвристиками в логике и шахматах, мы
готовы добавить к этому дополнительное предсказание: понадобится всего
лишь незначительное развитие возможностей уже существующей
программы для того, чтобы достичь необходимого для такого рода моделирования
увеличения ее мощности в решении задач" **.
Доверчивость читателей и энтузиазм Саймона были столь
велики, что одних только заверений Ньюэлла, Шоу и Саймона,
касающихся их все еще не отлаженной программы, оказалось
достаточно, чтобы шахматная машина была запущена на орбиту
научной мифологии. В 1959г. Н.Винер, развивая утверждение
Саймона об умении программы "хорошо разыгрывать дебюты",
сообщил Институту философии Нью-Йоркского университета, что
"машины, играющие в шахматы, типа тех, которые существуют
уже сегодня, будут отвечать на ходы мастера ходами, которые
рекомендуются для таких позиций в учебниках; на этом уровне
машина сможет продолжать игру вплоть до определенного
момента в миттельшпиле"***. На том же симпозиуме М. Скрайвен
перешел от расплывчатых заверений типа "машины теперь
играют в шахматы" к более сильному утверждению о том, что
"способности машины уже позволяют ей вести хорошую
игру"****.
На самом же деле в нескольких зарегистрированных играх
программа Ньюэлла, Шоу и Саймона играла слабо, хотя и по
правилам, а в официальной схватке в октябре 1960 г. она
проиграла на 35 ходу десятилетнему начинающему шахматисту.
Этот факт, однако, не имеет отношения к делу.
В то время как программа Ньюэлла, Шоу и Саймона терпела
поражение в плохо сыгранных ею пяти-шести партиях, а
порожденная теми же авторами мифическая программа успешно
противостояла шахматным мастерам вплоть до миттельшпиля, сами
авторы хранили молчание. Когда же года три спустя они вновь
обрели дар речи, то сообщили не о трудностях и разочарованиях, а
скорее наоборот: как бы продолжая прерванное изложение мифа,
в статье, опубликованной в журнале "Behavioral Science", Саймон
A.N e w e I I, J.Shaw and H.Simon. - The Processes of Creative
Thinking, The RAND Corporation, P-1320, September 16 1958, p 6
**lbid., p. 78.
*** N.Wiener. The Brain and the Mashine (Summary).-ln: Dimensions
Df Mind S. H о о k (ed.). New York, Collier, 1961, p. 110.
*** M.Scriven. The Complete Robot: A Prolegomena to Androidolo-
gy.-ln: Dimensions of Mind, p. 122.
25

объявил о создании программы, которая может играть
"высокотворческие" шахматные эндшпили, включающие
"комбинации, не уступающие по сложности любым из тех, которые вошли в
историю шахмат"*. Тот факт, что программа ограничивается
только рассмотрением эндшпилей, в которых можно непрерывно
шаховать противника, что значительно сокращает перебор
вариантов, лишь упоминается, но не подчеркивается. Искусственно
создается впечатление, что такие же простые эвристики
достаточны для ведения игры на уровне мастера даже в
миттельшпиле**. Таким образом, у читателя создается впечатление, что
та часть предсказаний, которая касается шахмат, почти
реализована. С такими достижениями можно хоть сегодня
претендовать на титул чемпиона мира по шахматам. И
действительно, один из специалистов по вычислительным машинам
назвал прогноз Г.Саймона, рассчитанный на десять лет,
"консервативным"***. Другой ученый — Ф. Грюнбергер из корпорации
RAND — намекнул, что титула чемпиона мира недостаточно
и что следует стремиться к созданию "программы, которая
играла бы лучше любого шахматиста"****. Эта новая волна тумана
наводит на мысль о загадочном звере из французской
легенды, который мог дышать только дымом, им же
извергаемым.
А действительность, прихрамывая, плетется позади этих
впечатляющих заверений. Замешательство, вызванное моей
попыткой привлечь внимание исследователей в области
"искусственного интеллекта" к несоответствию между их энтузиазмом и по-
Н. A.Simon and P. A. S i m о п. Trail and Error Search in Solving
Difficult Problems: Evidence from the Game of Chess.- Behavioral Science vol. 7
1962, October, p. 429.
** Например, в резюме к работе Г. Саймона и П. Саймона (см.
предыдущее примечание) даже не упоминается, что речь идет о форсированных
матах; авторы просто заключают, что "в этой работе делается попытка до
какой-то степени рассеять мифический туман, окутывающий игру в
шахматы; мы показали, что успешное решение задач основывается не на
чудесном даре воспоминания и озарения, а на некоторой эвристической
"программе", обладающей высоким уровнем избирательности" (р. 425). А
в заключении к самой статье делается ничем не оправданное обобщение:
"Из приведенных данных следует совершенно определенный вывод:
мастерам шахматной игры удается находить те или иные комбинации не потому,
что они быстрее думают или лучше запоминают, чем другие люди, а потому,
что их программы реализуют мощные эвристики выбора" (р. 429). Если к
приведенным данным отнестись честно, то из них в лучшем случае следует,
что этот вывод применим лишь к некоторым конкретным ситуациям
эндшпиля.
*** См.: Р. А р м е р. О возможностях кибернетических систем22. — В
кн.: M. Т а у б е. Вычислительные машины и здравый смысл. Миф о
думающих машинах, 1964, с. 181.
**** F.Grunberger. Benchmarks in Artificial Intelligence.-The RAND
Corporation, P-2586, 1962, June, p. 6.
26

лученными результатами, в конце концов привело к появлению
более или менее компетентной программы. "Мак Хэк" —
программа, написанная Р. Гринблатом, — действительно победила
автора этих строк*, типичного шахматиста-любителя, и приняла
участие в нескольких турнирах, где выиграла некоторое
количество партий. Этот скромный успех возродил былые надежды и
претензии. С.Пейперт, второе по рангу лицо в реализации
программы разработки роботов в Массачусетском технологическом
институте, выступил в защиту предсказания Саймона, заявив, что
"в качестве формулировки ближайших целей, которые
исследователи в данной области считают достижимыми, оно вполне
разумно"**. А на первой странице октябрьского выпуска "Science
Journal" за 1968 г. Д.Мичи, возглавляющий исследования в
области "искусственного интеллекта" в Англии, писал: "Сегодня
машины могут играть в шахматы на уровне чемпионов"***.
Однако, как сказал при обсуждении первых шахматных
программ шахматный мастер А. де Гроот, "машины все еще очень
слабо играют в шахматы, и у меня мало надежд на существенное
улучшение их игры в будущем". Другой шахматист, Э.Херст,
обсуждая на страницах журнала "Psychology Today" шахматную
программу, составленную в Массачусетском технологическом
институте, добавляет, что, хотя "замечание де Гроота было
сделано в 1964 г., результаты, полученные "Мак Хэк" на
последнем турнире, не изменили бы его мнения"****. То же можно
сказать и о положении дел в настоящее время. Программа Грин-
блата постепенно усовершенствовалась; однако она достигла, по-
* Ликование, охватившее "машинные" круги в связи с сообщением об
этом новом успехе, который якобы подтверждает обоснованность
предшествующих заявлений о возможностях ЭВМ, нашло отзвук в книге
А. Тофлера "Грядущий шок" (А. Т о f f I e г, Future Schock, New York,
Random House, 1971, p. 187). По словам этого автора, я будто бы
утверждал, что ни одна вычислительная машина никогда не сможет играть в
шахматы даже на любительском уровне. Если взять эту цитату в контексте,
то станет ясно, что автор искажает смысл сказанного мною. Мое
утверждение сводилось просто к объективной констатации уровня развития
программирования шахмат на тот момент (1965 г.), когда оно было
выдвинуто: "В соответствии с оценкой, даваемой Ньюэллом, Шоу и
Саймоном программам Лос-Аламосской группы исследователей, группы
исследовательского центра фирмы 'ВМ и их собственной, "все три
программы играют приблизительно на одном уровне (посредственном), затрачивая
при этом приблизительно одно и то же машинное время". Однако ни одна
шахматная программа не в состоянии вести игру даже на уровне любителя,
в то время как до мирового чемпионата по шахматам осталось только два
года".
** S. P a p e r t. 9th RAND Symposium, 1966, November 7, p. 116.
*** D. M i с h i e. Machines that Play and Plan.—"Science Journal," vol 4,
1968 No. 10, October, p. 83.
**** E.Hearst. Psychology Across the Chessboard.-Psychology Today
1967, June, p. 32.
27

видимому, некоторой точки "насыщения". За прошедшие два
года она проиграла все партии в турнирах, в которых принимала
участие, и больше о ней не упоминалось. Вскоре мы увидим, что,
учитывая ограниченные возможности вычислительных машин,
именно этого и следовало ожидать.
К чести Р. Гринблата следует сказать, что, даже когда его "Мак
Хэк" находилась в зените славы, он избегал предсказаний; что же
касается прогнозов Саймона и вопроса об участии ЭВМ в борьбе
за шахматную корону, то заметим только, что десять лет давно
прошли, а вычислительная машина в лучшем случае в состоянии
претендовать в шахматах на категорию С23, то есть любительскую
категорию*.
Надеюсь, что этот беглый обзор положения дел в данной
области и его сопоставление с обоими предсказаниями Саймона
прояснили существующую ситуацию. Очень важно с самого начала
отдавать себе отчет в том, что, несмотря на всякого рода
предсказания, сообщения в печати, демонстрации кинофильмов и
т.д., "искусственный интеллект" все еще остается обещанием, а
не свершившимся фактом. Только при этом условии мы можем
начать исследование реального положения дел и будущих
перспектив, касающихся "искусственного интеллекта" на достаточно
изначальном уровне.
В области "искусственного интеллекта" существует
множество делений и подразделений, но самые важные работы можно
сгруппировать в следующие четыре направления:
программирование игр, автоматический перевод, решение задач24 и
распознавание образов. Какого уровня достигли исследователи в
программировании игр, мы уже видели. Ниже мы займемся более
детальным анализом остальных трех направлений. Основной
тезис, развиваемый мною в части I, сводится к тому, что в области
"искусственного интеллекта" ход событий следует одной и той же
схеме: первоначальный впечатляющий успех быстро сменяется
неожиданными трудностями. Эта схема присутствует во всех
четырех областях, реализуясь в два этапа, каждый из которых
* Третье предсказание — о том, что большинство психологических
теорий примут форму программ для ЭВМ, — действительно до некоторой
степени осуществилось, хотя в психологии до сих пор имеется немало
"чистых бихевиористов". Однако действительно важным является не
решение тех или иных задач, пусть даже весьма значительных (например,
составление программ игры в шахматы на уровне мастера или
доказательство нетривиальных теорем), а то, представляет ли реализация некоторого
предсказания фактический шаг вперед. Так, неясно, насколько
плодотворным в психологии оказывается переход от "поведенческих" моделей к
моделям машинным. Этот вопрос достаточно сложен и требует подробного
обсуждения (см. гл. 4).
28

длится приблизительно пять лет. С 1957 по 1962 г. (гл. 1) в
основном велись работы по моделированию познавательных
процессов, заключавшиеся в использовании эвристического
программирования для машинного воспроизведения человеческого
поведения; при этом предпринимались попытки имитации тех
мыслительных переходов, которыми человек фактически пользуется.
На втором этапе (гл. 2) центром тяжести стало изучение
процессов переработки семантической информации. Здесь термин
"искусственный интеллект" приобрел более узкий смысл, чем
тот, который я в него вкладывал в предшествующем изложении.
ИИ (я буду использовать такое сокращение для обозначения
этого более узкого смысла) представляет собой попытку
моделирования разумного поведения человека с помощью таких методов
программирования, которые не имеют или почти не имеют
сходства с мыслительными процессами человека. Трудности, с
которыми мы сталкиваемся при таком подходе, уже начали
проявляться. Остальные главы части I касаются вопроса о том,
какова основная причина всех этих, казалось бы не связанных
между собой, неудач.
Однако все практические трудности и провалы ни в коей мере
не приводят в отчаяние самих исследователей: создается
впечатление, что их оптимизм растет с каждым новым разочарованием.
Поэтому мы вынуждены заняться вопросом о том, какие
предпосылки заложены в столь стойком к постоянным неудачам
оптимизме. В части II предпринимается попытка выявить четыре
допущения, четыре глубоко укоренившихся предрассудка,
которые мешают видеть всю серьезность создавшегося безвыходного
положения и прояснить путаницу понятий, порождаемую этими
предрассудками.
Эти предрассудки столь глубоко укоренились в нашем
сознании, что кажется, будто единственной альтернативой для них
может быть обскурантистское отрицание всякой возможности
точной науки о человеческом поведении. В части III мы
попытаемся отвести это опасение (в той мере, в какой его можно вообще
отвести), предлагая некоторую альтернативу упомянутым
традиционным допущениям; последняя основывается на идеях,
выдвинутых теми мыслителями XX столетия, в работах которых
имплицитно содержится критика "искусственного интеллекта", —
идеях, которые до сих пор не рассматривались под таким углом
зрения.
На этой основе в заключение становится возможным
выявление основных характеристик "искусственного разума" и
указание его возможностей и его ограничений. Это в свою очередь
создает базу для разграничения различных форм разумного
поведения и оценки, в какой степени каждая из них может быть
предметом программирования — как с практической точки зре-
29

ния, так и в принципе.
В некотором ограниченном круге вопросов ИИ может — и, по
всей вероятности, будет — иметь практическую ценность,
несмотря на те ограничения, которые, как я попытаюсь показать в
дальнейшем, являются фундаментальными. (Я ограничиваюсь
рассмотрением только ИИ, ибо все еще неясно, может ли то
наивное моделирование человеческого процесса познания — в том
виде, в каком оно имеет место сегодня, — иметь вообще какую
бы то ни было ценность, кроме, может быть, той, что оно служит
нагляднейшим доказательством того факта, что человек,
демонстрирующий разумное поведение, обрабатывает информацию
не так, как это делает эвристически запрограммированная
ЭЦВМ.) Устройства специального назначения могут заменять
человека при выполнении некоторых задач, например в
исследованиях других планет; при этом они не обязательно должны
действовать так же, как человек, и проявлять свойственную
человеку гибкость. Неверно говорить, что исследования в этой
области не имеют смысла, хотя следует заметить, что
определенное философское осмысление вопроса и здесь способствовало бы
выработке более трезвого взгляда на то, чего можно и чего нельзя
ожидать от такого рода устройств.

Часть I
ДЕСЯТЬ ЛЕТ ИССЛЕДОВАНИЙ В ОБЛАСТИ
"ИСКУССТВЕННОГО ИНТЕЛЛЕКТА"
(1957-1967)

Глава 1. ПЕРВЫЙ ЭТАП
(1957-1962)
МОДЕЛИРОВАНИЕ ПРОЦЕССОВ ПОЗНАНИЯ
I. Анализ работ в области машинного перевода,
решения задач и распознавания образов
Машинный перевод
В области машинного перевода успехи наметились раньше, чем
в других областях: именно здесь велись наиболее интенсивные
исследования, именно сюда вкладывалось больше всего средств и
именно здесь неудачи были наиболее очевидны. Очень скоро
выяснилось, что сконструировать машинный словарь, в котором
лингвистические единицы, будь то части слов, целые слова или
группы слов, могли бы одна за другой независимо от контекста
переводиться в соответствующие единицы другого языка, не
представляет большого труда. А. Эттингер, автор первого
машинного словаря (1954), так описывает настроение тех дней:
"Представление о ...полностью автоматизированном
высококачественном машинном переводе, распространяемое чересчур рьяными
пропагандистами машинного перевода... и взлелеянное теми, кто
в нем заинтересован, однако принимает желаемое за реальность,
разрослось, как буйный сорняк"*. Этот первоначальный
энтузиазм и сменившее его затем отрезвление образуют своего рода
клише для всех работ в этой области. В докладе "Современное
состояние автоматического перевода" об этом очень удачно
сказал И.Бар-Хиллел:
"В течение первого года работы над машинным переводом были
достигнуты значительные успехи... В результате этого специалисты,
работающие в данной области, прониклись уверенностью, что реально
работающая система находится где-то очень близко, буквально за ближайшим
поворотом. И хотя причины появления в то время подобной иллюзии
вполне понятны, тем не менее это была лишь иллюзия. Она возникла... в
связи с тем, что решение довольно значительного числа задач не вызвало
затруднений... Еще не до конца был осознан тот факт, что разрыв между
этими результатами... и собственно высококачественным переводом все
еще огромен. К тому времени удалось решить лишь наиболее простые
задачи, и, хотя их было действительно много, по-прежнему "несколько"
*A.G.Oettinger. The State of the Art of Automatic Language
Translation: An Appraisal, —in Beitraege zur Sprachkunde und Informations Verarbeit-
ung, H.Marchl (ed.), vol. 1, H. 2, Munich, Oldenbourg Verlag, 1963, p. 18.
33

наиболее сложных задач оставались нерешенными. Это были
по-настоящему сложные задачи"*.
За десять лет, прошедших с момента появления машинного
словаря, пять государственных агентств потратили около 20 млн.
долларов на исследования в области автоматического перевода**.
Несмотря на восторги журналистов по поводу того, что
машинный перевод стал наконец реальностью, единственным
результатом этих исследований явилось более глубокое осознание
неожиданной сложности языковых синтаксиса и семантики. И, по
замечанию А.Эттингера, "остается нерешенной основная
задача — задача выбора в языке, на который мы переводим,
подходящего слова, соответствующего исходному слову в данном
контексте. Не решена также родственная задача установления
однозначной синтаксической структуры предложения,— структуры,
единственность которой для человека очевидна"***. В
заключение А. Эттингер пишет: "Для тех, кто до сих пор лелеет надежду на
получение полностью автоматического высококачественного
машинного перевода, перспективы весьма неутешительны"****.
Так обстояло дело в 1963 г. Три года спустя в
правительственном отчете "Язык и машины", изданном
Научно-исследовательским советом при Национальной академии наук США, был
подведен итог буму, созданному вокруг машинного перевода.
Тщательно сравнив переводы, сделанные человеком и машиной,
комиссия пришла к выводу:
"Как мы уже отмечали, несмотря на то что уже в настоящее время
существует перевод научного текста средней трудности, выполняемый с
помощью машины, полностью автоматического перевода, которым можно
было бы пользоваться, у нас нет. Более того, его не следует ожидать ни
завтра, ни в обозримом будущем"*****.
* Y. В a r-H i I I e I. The Present Status of Automatic Translation of Lan-
guages.-ln: Advances in Computers, F.L.AI t (ed). New York, Academic Press,
1960, vol. 1, p. 94.
** Language and Machines. National Academy of Sciences, Washington, 1966,
p. 29.
*** A. G. О e 11 i n g e r. Op. cit., p. 21.
**** Ibid., S. 27. Часто такого рода критические оценки работ по
машинному переводу заканчиваются обескураживающим заключением, что,
мол, проделанная работа во всяком случае помогает глубже понять
структуру языка. Однако даже это оправдание весьма сомнительно. Н. Хомский
(1968 г.) относится с недоверием к такого рода "уверткам":
"Ощутимые затраты времени, энергии и денег на применение вычислительных
машин в лингвистическом исследовании (ощутимые в рамках такой
небольшой области, как лингвистика) не обеспечили сколько-нибудь
значительного прогресса в нашем понимании использования языка и его
природы. Это резкие суждения, но я думаю, они аргументированы. Они к
тому же практически не оспариваются активными исследователями в
области лингвистики и психолингвистики" (Н. X о м с к и й. Язык и
мышление, с. 16).
***** Language and Machines, p. 32.
34

С тех пор как возникли надежды на машинный перевод,
прошло 10 лет. В то время еще полет на Луну казался научной
фантастикой, а создание механического секретаря было где-то "за
ближайшим поворотом". Сегодня мы уже совершили посадку на
Луне, а машинописный научный текст для автоматического
перевода — не говоря уже о разговорной речи и более общем
материале — все еще за горизонтом, и горизонт этот, по-видимому,
удаляется от нас со всевозрастающей скоростью. Поскольку
надежды на создание роботов вроде тех, которые показаны в
фильме "2001 год", или хотя бы более скромных "слуг" большей
частью зависят от степени понимания природы естественного
языка (что необходимо также и для машинного перевода),
заключение Национальной академии наук наносит удар сразу по
всем предсказаниям — в том числе и по предсказаниям М.
Минского - о том, что уже следующее поколение в основном решит
проблему создания искусственного интеллекта.
Решение задач
Толчок большинству работ по "искусственному интеллекту",
и особенно по моделированию игр и решению задач, на начальном
этапе дали исследования А.Ньюэлла, Дж.Шоу и Г.Саймона в
корпорации RAND и в Технологическом институте Карнеги*; эти
исследования оказали влияние на последующие работы в данных
направлениях. Упомянутые авторы назвали свой подход
"моделированием процесса познания", так как основная методика,
которую они использовали, заключалась в получении от
испытуемых отчетов о ходе их рассуждений и последующем анализе
отчетов с целью выявления эвристик, к которым испытуемые
прибегали**. Затем на основе таких "чисто эмпирических
правил" писалась программа для ЭВМ.
' Наиболее существенные работы, содержащие описание результатов
исследований, которые проводились в тот период, включены в вышедший в
1963 г. коллективный труд: Е. F e i q e n b a u m and J.Feldman (eds.).
Computers and Thought. A collection of articles. New York—San Francisco-
Toronto-London.
** Под "отчетом"' — протоколом эксперимента — следует понимать
устное изложение испытуемым процесса своего рассуждения при решении
задачи. Вот типичный отчет человека, решающего логическую задачу: "Ну
что же, взглянув на левую часть уравнения, нам сначала хочется уничтожить
одну из частей, используя правило 8. Однако оно кажется слишком
сложным для того, чтобы начинать с него. Тогда... нет, нет, я не могу этого
сделать, так как я тогда уничтожу либо О, либо Рв том общем выражении.
Я не хочу с этого начинать. Поищу-ка способ избавиться от "подковы"
внутри пары скобок в левой и правой частях уравнения. Я не вижу, как это
можно было бы сделать. Ага, если применить правило 6 к обеим частям
уравнения, то после этого станет видно, можно ли применить правило 7"
(Вычислительные машины и мышление, с. 287) 25.
35

И в данном случае начало работы было успешным: в 1957 г.
программа "Логик-теоретик" Ньюэлла, Саймона и Шоу на основе
эвристически направляемого метода проб и ошибок доказала 38
из 52 теорем из труда ' "Principia Mathematica". Спустя два года
программа "Общий решатель задач" на основе более изощренной
процедуры в терминах "средств и целей" решила задачу о
людоедах и миссионерах, а также ряд других задач той же степени
сложности*.
В 1961 г. после сравнения машинной выдачи с протоколом
эксперимента (который до некоторой степени соответствовал
машинному результату) Ньюэлл и Саймон сделали довольно
осторожный вывод:
"Фрагментарные результаты, которые мы имеем на сегодняшний день,
позволяют нам заключить, что "Общий решатель задач" дает неплохое
первое приближение к теории информационных процессов, касающейся
некоторых форм мышления и поведения при решении задач. Процесс "мышления"
уже нельзя более считать полностью таинственным"**.
Вскоре, однако, Саймон приходит к более оптимистическим
заключениям:
«Последующая работа подтверждает справедливость [наших]
первоначальных догадок и показывает, что эвристики, или чисто эмпирические
правила, образуют целостное ядро процессов решения проблем человеком
По мере проникновения в природу эвристик, которыми люди пользуются в
процессе мышления, становятся все менее загадочными такие [до сих пор]
смутно понимаемые процессы, как "интуиция" и "рассудок"»***
Но, как и в случае лингвистического перевода, трудности
вновь и вновь напоминали о себе. На этот раз "загадочность"
рассудка оказывает влияние на организацию программ по
решению задач. Уже в 1961 г., когда энтузиазм Саймона достиг
кульминационной точки, Минский хорошо видел трудности,
которые неизбежно возникают при попытке использовать метод проб
и ошибок для решения действительно сложных задач:
"Простейшие задачи, например программирование игры в крестики и
нолики или доказательство самых элементарных теорем математической
логики, могут быть решены с помощью простого рекурсивного
использования имеющихся преобразований, применяемых к соответствующей
ситуации; при этом отдельные подзадачи решаются по мере их возникновения.
* Н. A. S i m о п. Modeling Human Mental Processes.-The RAND
Corporation, P-2221, 1961, February 20, p. 15. Следует иметь в виду, что эти задачи
уже имели решение. Было опубликовано несколько обычных, не
содержащих эвристик математических алгоритмов, дающих решение и
подобных, и более сложных задач рутинного характера.
**А. Newell and H.A.Simon. Computer Simulation of Human
Thinking.-The RAND Corporation, P-2276, 1961, April, 20, опубликовано
также в "Science", vol. 134,1961, December22, p. 19 (курсив мой.-Х.Д) 27.
*** H A Simon. Op. cit., p. 12.
36

LOH (ПОР)
L1 (RDIP)- (1RDQ)
ЦЕЛЬ 1 ПРЕОБРАЗОВАТЬ L1 В LO
ЦЕЛЬ 2 ИЗБАВИТЬСЯ ОТ R В L1
ЦЕЛЬ 3 ПРИМЕНИТЬ R8 К L1
ПРИВОДИТ К L2 RD ПР
ЦЕЛЬ 4 ПРЕОБРАЗОВАТЬ L2 В LO
ЦЕЛЬ 5 ВВЕСТИ Q В L2
ОТБРОСИТЬ
ЦЕЛЬ 2
ЦЕЛЬ 6 ПРИМЕНИТЬ R8 К L1
ПРИВОДИТ К L3HR3Q
ЦЕЛЬ 7 ПРЕОБРАЗОВАТЬ L3 В LO
ЦЕЛЬ 8 ДОБАВИТЬ Р К L3
ОТБРОСИТЬ
ЦЕЛЬ 2
ЦЕЛЬ 9 ПРИМЕНИТЬ R7 К L1
ЦЕЛЬ 10 ЗАМЕНИТЬ СВЯЗКУ HAV В ЛЕВОЙ ЧАСТИ L1
ЦЕЛЬ 11 ПРИМЕНИТЬ R6 К ЛЕВОЙ ЧАСТИ L1
ПРИВОДИТ К L4(-|RVnP) - HRDQ)
ЦЕЛЫ2 ПРИМЕНИТЬ R7 К L4
ЦЕЛЬ 13 ЗАМЕНИТЬ СВЯЗКУ НА V В ПРАВОЙ ЧАСТИ L4
ЦЕЛЫ4 ПРИМЕНИТЬ R6 К ПРАВОЙ ЧАСТИ L4
ПРИВОДИТК L5 (HRVHP) ¦ (RVQ)
ЦЕЛЫ5 ПРИМЕНИТЬ R7 К L5
ЦЕЛЬ 16 ИЗМЕНИТЬ ЗНАК ЛЕВОЙ ЧАСТИ ПРАВОЙ ЧАСТИ L5
ЦЕЛЫ7 ПРИМЕНИТЬ R6 К ПРАВОЙ ЧАСТИ L5
ПРИВОДИТК L6 (~1RV~IP) • (IRDQ)
ЦЕЛЫ8 ПРИМЕНИТЬ R7 К L6
ЦЕЛЬ 19 ЗАМЕНИТЬ СВЯЗКУ НА V В ПРАВОЙ ЧАСТИ L6
ОТБРОСИТЬ
ЦЕЛЫ 6
БОЛЬШЕ НИЧЕГО
ЦЕЛЬ 13
БОЛЬШЕ НИЧЕГО
ЦЕЛЬЮ
БОЛЬШЕ НИЧЕГО

Такой метод становится непрактичным при решении более сложных задач,
поскольку пространство поиска увеличивается и каждая проверка требует
все больших затрат времени и усилий. Здесь уже нельзя позволить себе
простого отбрасывания неудачных вариантов с переходом к последующим.
Поскольку каждая попытка решения трудной задачи требует очень
больших усилий, нужно быть достаточно уверенным в том, что независимо от
результатов эти усилия в какой-то мере себя оправдывают. Поэтому
следует быть крайне осторожным и не допускать ни одной проверки без
достаточно веских оснований"*.
Из сказанного, как полагает М. Минский, следует
необходимость планирующей программы; однако далее он пишет:
"Методы планирования... оказываются под угрозой провала
тогда, когда фиксированные наборы понятий, адекватных для
простых задач, приходится заменять выражениями из дескриптивного
языка"**.
В работе "Некоторые вопросы исходной организации
Программ по решению задач" (1962) Ньюэлл, обсуждая некоторые
проблемы, возникающие при организации шахматных
программ — "Логика-теоретика" и особенно "Общего решателя
задач" — откровенно признает, что "большинство [этих проблем]
либо решены частично, либо полностью не решены, либо
найденное решение неудовлетворительно в том или ином аспекте"***. С
тех пор не появилось никаких данных, свидетельствующих о
разработке удачной иерархической организации эвристических
программ. (Любопытно, что величайшее достижение в области
машинного доказательства теорем — программа, созданная Хао
Ваном28# которая доказала менее чем за 5 минут все 52 теоремы, с
которыми экспериментировали Ньюэлл, Шоу и Саймон,—
абсолютно не использует эвристик.)
Однако публичное признание того факта, что работа над
"Общим решателем задач" зашла в тупик, произошло значительно
позднее. В 1967 г., спустя ровно десять лет после предсказания
Г.Саймона, А.Ньюэлл (и Дж.Эрнст) спокойно, трезво, хотя
несколько неопределенно, заявил, что работа над GPS
прекращается****. Ясно, что программа GPS не выдержала тяжести своей
собственной организации. Раздел их работы, названный
"Общность и GPS", кончается словами:
"Размеры программы и объем соответствующей тщательно
разработанной структуры данных сильно ограничивает предполагаемые возможности
* М.М i n s k у. Descriptive Languages and Problem Solving.-In: Proceedings
of the 1961 Western Joint Computer Conference; перепечатано в: Semantic
Information Processing, M.M i n s к у (ed), Cambridge, Mass., 1968, p. 420.
** Ibid., p. 420.
*** A.Newell. Some Problems of Basic Organization in Problem-Solving
Programs.- The RAND Corporation, RM-3283-PR, 1962, December, p. 4.
****G. W. E r nst, A.Newell. Generality and GPS.-Carnegie Institute
of Technology, 1967, January, p. i.
38

GPS. Сама программа занимает внушительную часть запоминающего
устройстве машины, и построение новых структур данных в процессе
решения задачи быстро исчерпывает остатки памяти. Поэтому GPS
предназначена для решения только простых задач, представление которых не
слишком запутано. Несмотря на то что больший объем запоминающего
устройства сделал бы более приемлемым расточительное использование
машинной памяти, характерное для GPS, тем не менее концептуальные
трудности остались бы непреодоленными"* .
Этот переход от первых успехов к энтузиазму, а потом к
разочарованию в полученных результатах в меньшем масштабе
можно проследить и в случае программы для доказательства
геометрических теорем Г. Гелернтера (1959). Поначалу успешная
работа с теоремами, подобными теореме ponsasinorum,
послужившая поводом для тех предсказаний, о которых мы говорили
ранее, оказалась полностью дискредитированной. В статье,
опубликованной в 1960 г., Гелернтер, объясняя характер эвристик,
используемых в его программе, в заключение говорит2^: 'Три года
назад преобладало мнение, что геометрическая машина не будет
создана к настоящему времени. Ныне же специалист вряд ли
будет оспаривать, что через три года машина будет доказывать
интересные теоремы из области арифметики"** (то есть в
1963 г.). С тех пор от Г.Гелернтера ничего не было слышно, равно
как ничего не слышно и о дальнейшем прогрессе в области "чисто
механической математики".
Распознавание образов
Эту сферу исследований мы рассматриваем в последнюю
очередь, так как трудности, препятствующие дальнейшему
развитию программирования игр, машинного решения задач и
автоматического перевода, могут быть преодолены только после
продвижения в машинном распознавании образов (для чего в свою
очередь необходимо решить вопросы, возникающие в
вышеупомянутых областях). Как подчеркивают в своей ставшей
классической работе "Машинное распознавание образов" О.Сэлфридж и
У.Ниссер:
"В каждый момент на человека через органы чувств обрушивается
лавина информации, из которой он абстрагирует образы, имеющие
отношение к его деятельности в данный момент. Его способность решать задачи,
доказывать теоремы и вообще существовать зависит от этого типа
восприятия. Мы полагаем, что до тех пор, пока не будут созданы программы,
* Ibid., р. 45.
** Г. Г е л е р н т е р, Дж. Хазен и Д. Лавлен г. Экспериментальное
исследование машины для доказательства геометрических теорем.-В кн.-
Вычислительные машины и мышление, с. 173.
39

воспринимающие образы, всякое достижение в машинном решении задач
будет просто отдельным техническим успехом"*.
Как обычно, и в этой области исследований в начале ее
развития наблюдается блестящий успех. Так, в лаборатории
Линкольна группа под руководством Б.Гоулда составляет
программу для распознавания рукописных знаков азбуки Морзе.
Позднее пишутся программы распознавания ограниченного
набора рукописных слов и печатных букв различных шрифтов. Все эти
программы осуществляют поиск заранее заданных
топологических признаков подлежащих распознаванию букв и затем
сверяют найденные характеристики с "определениями" каждой
буквы, данными в терминах этих признаков. Эти определения
либо формулируются заранее, либо вырабатываются в процессе
обучения. Все дело в том, чтобы найти существенные свойства
изображений, то есть такие, которые остаются инвариантными при
изменениях их размеров, ориентации и прочих искажениях. Как
это ни удивительно, такой подход действительно приводит к
успеху в тех случаях, когда узнавание зависит от небольшого
числа специфических признаков.
Однако ни одна из этих программ не может претендовать на
принципиальное решение задачи распознавания образов. Каждая
из них — маленький триумф изобретательного программиста,
решение ad hoc, придуманное для специфической задачи, которое
не допускает обобщения и распространения на другие
задачи30. М. Иден - один из ведущих специалистов в данной
области — пишет в своем обзоре работ по распознаванию образов,
выполненных до 1968 года:
"В тех случаях, когда удавалось создать искусственные устройства,
способные к распознаванию образов, это было достигнуто с помощью
методов, выбранных специально для каждой данной задачи; иными
словами, эти эффективные методы обеспечивают надежную классификацию той
конкретной совокупности образов, для которых они были разработаны, но,
по-видимому, не представляют сколько-нибудь значительной ценности
применительно к задаче классификации какой-либо другой совокупности
образов"**.
Да и в каждом специальном случае, как справедливо отмечают
О. Сэлфридж и У. Ниссер, "машина может получить адекватный
набор признаков только от программиста"***. Их статья
заканчивается словами, которые можно назвать скорее вызовом, чем
предсказанием:
*0. G.Selfridge and U.Neisser. Pattern Recognition by
Machine.—In: Computers and Thought, p. 238.
** Распознавание образов. Исследование живых и автоматических
распознающих систем31 (гл. VIII "Другие задачи распознавания и некоторые
обобщения", написанная М.Иденом), M., 1970, с. 246—247.
***<Э. G.Sel fridge and U.Neisser. Op. cit., p. 224.
40

"Пока еще мы ничего не знаем о самом важном аспекте процесса
обучения: ни одна из существующих программ не может сама генерировать
признаки, по которым ведется распознавание. Эффективность всех этих
программ раз и навсегда ограничена заложенными в них
изобретательностью или произволом написавших их программистов. Как избавиться от
этой ограниченности, сейчас можно только догадываться, но до тех пор,
пока это не сделано, "искусственный интеллект" будет иметь налет
искусственности"*.
Однако, быть может, и эти замечания слишком оптимистичны,
поскольку основная трудность заключается отнюдь не в
генерировании признаков. Относительный успех программы Л.Юра и
Ч.Фосслера, которая строит и оценивает свои собственные
операторы, показывает, что эта задача до какой-то степени может быть
решена**. Но машинное распознавание, которое использует
ограниченный набор признаков — независимо от того, специальны ли
они или имеют общий характер, заложены ли в программу заранее
или вырабатываются самой программой,— почти исчерпало свои
возможности. Число признаков, которые можно просмотреть за
некоторый обозримый период времени, ограниченко, и
сегодняшние программы уже приблизились к этому технологическому
пределу. В работе, представленной на Международной
конференции по методологии распознавания образов (Гавайи, 1968),
Л.Кэнел и Б.Чандрасекаран так характеризуют создавшееся
безвыходное положение:
"Очевидно, что инженерный подход неразрывно связан с некоторыми
ограничениями. Существует определенный уровень сложности, начиная с
которого не помогают уже никакие программистские трюки. Так, хотя
опыты по распознаванию печатного текста с различным шрифтом были
достаточно успешными, тем не менее, несмотря ни на какие усилия,
удовлетворительного решения задачи распознавания рукописного текста
найти не удается. Столь же большой разрыв существует, по-видимому,
между распознаванием речи, состоящей из отдельных частей, и слитной
речи. Надежды, возлагавшиеся на моделирование процессов распознавания
у человека, также не оправдались. Вполне вероятно, что именно те
проблемы, которые с таким трудом поддаются инженерной мысли, удастся
решить только после того, как более глубоко и подробно будут изучены
распознающие системы человека. Во всяком случае, ясно, что ощущение
кризиса, возникшее в этой области исследований, тесно связано с тем же
ощущением в других областях "искусственного интеллекта"—.
программировании игр и автоматическом переводе"***.
* Ibid., p. 250.
** См: Л. Ю р, Н. Ф о с с л е р. Программа распознавания образов,
которая вырабатывает, оценивает и улучшает свои операторы. — В кн.:
Вычислительные машины и мышление, под ред. Э.Фейгенбаума и
Дж. Фельдмана. М., 1967.
*** L. К anal, B.Chandrasekaran. Recognition, Machine
Recognition and Statistical Approaches.—In: Methodologies of Pattern Recognition.
New York, Academic Press, 1969, p. 318-319.
41

События разворачиваются здесь по той же схеме: на смену
оптимизму приходит крушение иллюзий. Зачастую у тех, кто
прошел этот путь, даже нет отчетливого понимания, почему их
надежды не оправдались; но их недоумения тонут в хоре
обещаний и сообщений о небольших технологических достижениях.
Один из таких недоумевающих — В.Джулиано, работавший ранее
в "Arthur D.Little Corporation". Будь его оценка заблуждений,
имевших место в распознавании образов, несколько более
подробной и глубокой, ее, пожалуй, можно было бы сравнить с
заключениями А.Эттингера и И.Бар-Хиллела. В.Джулиано пишет:
"Как и многие мои коллеги, я страстно желал найти пути создания того,
что мы иногда называем искусственным интеллектом... В середине 50-х
годов была начата разработка множества многообещающих проектов,
целью которых было наглядное доказательство способности
вычислительных машин к обучению и, следовательно, к смысловому переводу, ведению
свободного и непринужденного разговора с человеком, распознаванию речи
с выводом ее на печать, диагностике заболеваний. Все эти виды
деятельности включают в себя выделение и изучение сложных образов.
Всего несколько лет назад мы действительно верили, что в конце
концов вычислительным машинам можно будет полностью поручить
решение такого рода задач, если суметь запрограммировать их
соответствующим образом.
Увы! На мой взгляд, многие наши ожидания, по всей вероятности,
опираются на идеи, напоминающие фарфоровые яйца: сколько их ни
высиживай, никто из них не вылупится. Это объясняется тем, что мы
возлагаем задачу открытия нового на машину саму по себе. Однако
проблемы, связанные с открытием, требуют человеческих способностей"*.
Заключение
К 1962 г., если судить по опубликованным работам, начала
вырисовываться общая схема (правда, в некоторых случаях это
стало очевидно несколько позже): быстрый и эффектный успех,
связанный с нетрудоемкими, простыми задачами, либо весьма
неудовлетворительное решение сложных задач; затем снижение
эффективности работы, разочарование, подчас пессимизм. Такой
ход развития нельзя объяснить давлением, оказываемым на
исследователей теми, кто с интересом следит за их работой (как
скептики, так и доброжелатели) и требует слишком многого за
короткий срок. Для того чтобы понять незначительность
полученных результатов, достаточно сравнить обещания с фактами.
Впрочем, даже когда общая ситуация безнадежна, энтузиасты
всегда могут обратиться за поддержкой к своему собственному
оптимизму. Такая тенденция подменять создание работающей
программы долгосрочными прогнозами проскальзывает в ут-
* V.E.G i u I i a n о. How We Find Patterns.— International Science and
Technology, 1967, February, p. 40.
42

верждении Э.Фейгенбаума и Дж.Фельдмана о том, что
предсказания в отношении моделирования познавательных процессов
человека являются обнадеживающими*. Что касается предсказаний, то
они всегда были таковыми. Однако насколько обнадеживающи
перспективы! Фейгенбаум и Фельдман утверждают, что реальный
прогресс постоянно ощущается, однако определяется он ими
весьма осторожно — как "движение к конечной цели"**. Если
следовать этому определению, получается, что первый же человек,
взобравшийся на дерево, имеет право утверждать, что сделал шаг
к Луне.
Однако вместо того чтобы карабкаться вслепую, не лучше ли
попытаться понять, куда мы хотим попасть? Не пора ли серьезно
задуматься над специфическими проблемами, стоящими перед
создателями "искусственного интеллекта", и теми трудностями,
которые стоят на пути их решения?
II. Причина неудач
Отрицательный результат, если, разумеется, мы признаем его
таковым, может быть интересен сам по себе. Спад результативной
работы, наблюдающийся вместо предсказывавшегося
нарастающего успеха, быть может, свидетельствует о том, что мы
столкнулись с каким-то неожиданным явлением. Существует, возможно,
некая аналогия между исследованиями в области
"искусственного интеллекта" и достижением все больших скоростей, где
прогресс становится все более и более труднодоступным по мере
того, как мы приближаемся к скорости света. Возможно также,
что путь к успеху неровен и вместо того, чтобы прилагать все
больше усилий в одном направлении, лучше прибегнуть к
принципиально другим путям и методам работы, — стремясь к Луне, не
обязательно взбираться на дерево.
Казалось бы, вполне естественно критически
проанализировать именно эту сторону дела, однако в данной области, как ни
странно, до сих пор это не сделано. Между тем если этим заняться,
то обнаружится, что каждому из четырех рассмотренных выше
направлений противостоят специфически человеческие формы
"процессов переработки информации", позволяющие субъекту в
сфере своей деятельности преодолевать или обходить трудности,
неизбежно возникающие перед создателями "искусственной
личности". Ниже мы выделяем четыре такие формы "переработки
информации" человеком и сравниваем их с соответствующими
машинными суррогатами.
* См : Вычислительные машины и мышление, M. 1967.
** См. там же.
43

Эвристически направляемый поиск
или периферийное сознание
Общеизвестно, что некоторые игры можно реализовать на
современных ЭЦВМ с помощью современных.методов
программирования. Такие игры, как "ним" или "крестики и нолики",
могут быть запрограммированы так, что каждую партию машина
либо выиграет, либо сведет к ничьей. Однако существуют игры,
которые не могут быть полностью решены на нынешних машинах,
но которые тем не менее успешно программируются. Так,
например, выясняется, что в игре в шашки существуют надежные
способы определения вероятностной оценки хода, использующие
такие параметры, как контроль над центром, развитие и другие.
Если наряду с этим учесть, что количество ходов здесь
относительно невелико, поскольку шашки блокируют друг друга и взятия
обязательны, то можно исследовать все варианты на 20 ходов
вперед, что вполне достаточно для отличной игры.
В шахматах, однако (хотя для них в принципе возможен
полный просчет всех прямых и ответных полуходов), возникает
задача, неизбежно связанная с выбором пути в лабиринте — и,
значит, с экспоненциальным ростом. Число альтернативных
вариантов возрастает настолько быстро, что мы не в состоянии
оценить каждую из возникающих возможностей хотя бы на
глубину, достаточную для того, чтобы решить, заслуживает ли
данный ход дальнейшего исследования. А.Ньюэлл отмечает, что
машине потребовалось бы слишком много времени для выбора
интересного хода, если бы она исследовала одно за другим
положения всех фигур на доске. Он также отдает себе отчет, что
если этого не делать, то машина может подчас пропустить
какую-нибудь важную и интересную комбинацию. "Мы не
стремимся к тому, чтобы машина тратила все свое время на
исследование последствий связок фигур; однако если она никогда не
будет проводить таких исследований, то может пропустить
реальные возможности выигрыша"*.
Первое, что предложил А.Ньюэлл для решения этой
задачи,— это введение "случайного элемента". "Машина должна время
от времени (то есть совершенно случайно. — Х.Д.) просчитывать
варианты, в которых жертвуется ферзь"**. Но это решение
неудовлетворительно, как, по-видимому, в настоящее время
понимает и сам Ньюэлл. Машина должна не просто время от
времени просчитывать последствия жертвы ферзя, а исследовать
* A.N e w e I I. The Chess Machine.—In: The Modeling of Mind, K.M.S ay -
re and F.J.C rosso n (eds.), South Bend, Ind. Notre Dame University Press,
1963, p. 80.
** Ibid., p. 80.
44

те варианты, в которых такая жертва имеет смысл. Хорошие
эвристики как раз и должны обеспечивать подобное поведение,
приводя к сокращению числа подлежащих анализу ветвей при
сохранении наиболее многообещающих альтернатив.
Однако ни одной такой эвристики на уровне мастера пока не
обнаружено. Все существующие эвристики либо исключают
некоторые потенциально хорошие ходы — ходы, которые не ушли бы
от внимания мастера,— либо оказываются перед лицом
экспоненциального роста. Г.Саймон тем не менее убежден (его доводы
обсуждаются в части II), что шахматные мастера пользуются
такого рода эвристиками. Отсюда его уверенность в том, что если
изучать отчеты мастера о принимаемых им решениях, следить за
движением его глаз и, быть может, допрашивать его под светом
юпитеров, то можно в конце концов обнаружить эти эвристики и
встроить их в программу, сократив тем самым поиск по
экспоненциально растущему дереву игры. Давайте, однако, рассмотрим
более пристально те данные, из которых якобы следует, что
процесс игры в шахматы управляется эвристиками.
Обратимся к протоколу эксперимента, цитируемому
Саймоном, придавая особое значение тому, как он начинается (а не
тому, чем заканчивается). Шахматист говорит:
"Я опять замечаю, что одна из фигур противника, ладья, не защищена;
наверняка существуют какие-то пути использования этого преимущества.
Например, я могу продвинуть пешку и напасть на слона; если слон
отступит, ферзь противника окажется под ударом и я смогу взять ладью.
Если же..." и т.д.*
В конце мы видим пример процесса, который я буду называть
"просчитыванием", — продумывание различных возможных
вариантов путем простого перебора ходов. Каждому из нас знаком
этот процесс: считается, что именно такая процедура, управляемая
различными эвристиками, реализуется в игре шахматных
мастеров. Однако как же наш шахматист заметил, что ладья
противника не защищена? Он что, действительно последовательно (или
одновременно) исследовал положение всех фигур противника и
возможные способы защиты, до тех пор пока не наткнулся на
уязвимую ладью? Для этого ему понадобилось бы рассмотреть
слишком много вариантов, ибо, как пишут Ньюэлл, Шоу и
Саймон, "по наиболее достоверным данным, человек при выборе
хода рассматривает значительно менее ста позиций"**. Что же
касается поведения шахматиста, то ему для оценки ситуации
пришлось бы в приведенном выше примере рассматривать еще
*A.Newell, HASimon. Computer Simulation of Human
Thinking.- The RAND Corporation, P-2276, 1961, April 20, p. 15.
** А. Ньюэлл, Дж. Шоу, Г.Саймон. Программа для игры в
шахматы и проблема сложности.— В кн.: Вычислительные машины и
мышление, с. 44.
45

массу возможных позиций, которые следуют из незащищенности
ладьи противника. Нет необходимости обращаться к
интроспекции, чтобы выяснить, что именно делает игрок до того, как
начинает просчитывать варианты. Непосредственно из протокола
ясно, что игрок "фокусирует внимание" на перспективном
варианте ("я замечаю, что одна из фигур противника не
защищена") . Только после того, как шахматист обратил
внимание на некоторую особенность позиции на доске, он
действительно начинает просчитывать и проверять, что можно из нее
извлечь.
Анализ шахматной программы "Мак Хэк", составленной
Р. Гринблатом, наглядно иллюстрирует разницу между тем, как
человек схватывает шахматную позицию, и тем, как машина
производит сплошной перебор. Даже "Мак Хэк" не в состоянии
просчитать все альтернативы. В программу включен рационально
действующий генератор ходов, который оставляет для
рассмотрения только более или менее многообещающие варианты. И тем не
менее, когда в одной из партий турнира программа однажды
крепко "задумалась", она затратила на один ход 15 мин и
просчитала 26 000 вариантов, в то время как человек может
просчитать их только 100, от силы 200. Программа "Мак Хэк"
нашла отличный ход, что, впрочем, отнюдь не означает, что
мастер-шахматист не нашел бы лучшего; но в данном случае для
нас существенно важно не качество хода, а количественное
различие между просчетом в 26 000 и 200 вариантов. При таком
разрыве естественно предположить, что человек, играя в
шахматы, не только просчитывает варианты, но и производит действия
совсем иного порядка. Именно этот вопрос нас и интересует: что
же делает человек, благодаря чему ему удается, рассмотрев всего
100 — 200 альтернатив, найти более сильный ход, нежели машина,
"прокрутившая" их 26 000.
Шахматист, отчет которого мы цитировали выше, даже не
осознает, что он фактически проверил (или фактически исключил
из рассмотрения) несколько сот позиций, которые пришлось бы
просчитать для трго, чтобы путем перебора оценить конкретную
ситуацию на шахматной доске. А ведь та конкретная ситуация, на
которой в конце концов останавливается внимание испытуемого,
зависит от общей позиции. Для того чтобы понять, как все это
возможно, рассмотрим феномен, который У.Джемс называл
"периферийным сознанием". Тот факт, что мы замечаем тиканье
часов только тогда, когда они остановились, являет собой простой
пример подобного рода краевого сознания. Другим, более
сложным и подходящим к делу примером является то расплывчатое
восприятие лиц, какое имеет место, когда мы ищем в толпе
знакомого.
Однако невозможно привести вполне адекватный пример
46

феномена такого рода, поскольку речь идет о явлении, которое
противоположно процессу явного осознания, основанному
на просчитывании. Ни в одном из подобных примеров
нельзя с уверенностью сказать, что испытуемый
действительно использует информацию, остающуюся на периферийных
полях его сознания. Пример с шахматами лучше всего
представлять себе в терминах данного М. Поляным общего описания
способности краевого сознания концентрировать
информацию, относящуюся к нашей "периферической" психической
деятельности.
"Эта способность присуща той области, которая имеет тенденцию
действовать как фон, потому что располагается она где-то вокруг
центрального объекта нашего внимания. Наблюдаемая уголком глаза или
хранящаяся в закоулках нашей памяти, эта область неизбежно влияет на то, как
мы воспринимаем объект, находящийся в центре внимания. Можно даже
сказать, что мы осознаем эту едва замечаемую нами область главным
образом потому, что на ней мы выделяем тот объект, который привлек
наше внимание"*.
Если мы, например, знаем, что такое "дом", то его передняя
сторона будет выглядеть "толще", чем собственно фасад, потому
что подсознательно мы чувствуем за ней сам дом. Так и в
шахматах: связи, соединяющие между собой различные фигуры,
оставаясь в периферийном сознании, привлекают внимание
шахматиста к ситуациям на шахматной доске, которые он
воспринимает либо как многообещающие, либо как опасные или просто
стоящие внимания.
А.Ньюэлл и Г.Саймон сами отмечают:
«В шахматной игре человек использует категории гораздо более
* M.P о I a n у i. Experience and Perception of Pattern.— In: The Modeling of
Mind, p. 214. Насколько я знаю, первым, кто обратил внимание на то, что
такого рода гештальтистский анализ имеет отношение к "искусственному
интеллекту", был Ф. Кроссон. В предисловии к книге "Модели разума "он
пишет: ((Некоторые функции человеческого мышления подчас реализуются
путем использования информации или неявных ориентиров^, которые не
переводятся в точную форму и находятся как бы "не в фокусе";
по-видимому, это свидетельствует о фундаментальных различиях между этими
функциями и теми процессами, посредством которых они моделируются в
терминах автоматов. Причина такого различия заключается в том, что
ЭЦВМ, на которых реализуются соответствующие модели, оперируют
бинарными кодами. Вследствие этого всякая функция, которую машина
может реализовать... должна на каждой стадии удовлетворять принципу "все
или ничего", то есть быть в достаточной степени конкретной и четкой, с тем
чтобы на все связанные с ней вопросы можно было ответить "да" или "нет"»
(The Modeling of Mind, p. 21). Впрочем, Кроссон четко не
определяет особенности и функции этой "внефокусной" формы
восприятия, в результате чего остается неясным, можно ли в принципе, с его точки
зрения, выразить в явной форме любое смутное содержание и что будет
потеряно (и будет ли потеряно вообще) в модели, которая имеет дело
только с четко выраженным материалом.
47

глобальные, нежели те, о которых мы говорили выше; например,
"развитие фигур", "контроль над центром", "выигрышная позиция", "слабый
королевский фланг", "закрытая позиция"»* .
Более того, они признают:
«Иногда в эксперименте де Гроота испытумый употреблял очень общие
выражения, такие, как "для белых эта позиция выигрышна"; при этом
невозможно было определить структуру или характеристику позиции,
ведущую к этой оценке»**.
Именно к таким выражениям прибегают Ньюэлл и Саймон,
когда они не видят, как в терминах эвристически направляемого
просчитывания процесса можно подойти к анализу того, каким
образом возникает данная глобальная оценка. И вполне
справедливо — но, по-видимому, не отдавая себе отчета в том, как это
скажется на правдоподобии предсказаний Саймона,— они
продолжают:
"На сегодняшний день работа над шахматными программами мало
прибавила к нашему пониманию подобных понятий более высокого
уровня"***.
Это типичный пример неопределенности высказываний
Саймона и Ньюэлла. Что они имеют в виду? Что более совершенные
статичные оценки, то есть более совершенные эвристики для
выделения удовлетворительных ходов, позволят
промоделировать явление фокусировки внимания? Их неослабевающая вера
в возможность создания "машинного шахматиста", играющего на
уровне мастера, приводит нас именно к такому толкованию.
Однако предпринятый ими анализ игры мастера, основывающийся
на работе де Гроота, мог бы послужить достаточным основанием
для пессимизма. (Как мы видели, сам де Гроот говорит, что он не
очень-то надеется на существенное улучшение эвристической
шахматной программы.)
А.Ньюэлл и Г.Саймон замечают далее:
"В конце концов де Гроот нашел способ отличать сильных игроков от
слабых с помощью теста на восприятие, заключающегося в
воспроизведении по памяти шахматной позиции после предъявления ее на короткий
* A.N е w e I I, H.S imon. An Example of Human Chess Play in the Light
of Chess Playing Programs,— Carnegie Institute of Technology, 1964, August,
p. 10-11.
** Ibid., p. 13 (курсив мой. -Х.Д- ) •
*** Ibid., p. 11. Далее А. Ньюэлл и Г.Саймон пишут: "И вообще
психология мало что может сказать о том, как глобальные понятия организуют
поведение". Это, конечно, проявление крайней узости кругозора. Ведь
гештальтпсихологи почти ни о чем больше и не говорят. Ньюэлл и Саймон
же имеют в виду, что психология такого рода, с которой они предпочитают
иметь дело, — то есть психология, использующая в качестве объясняющей
модели программу для вычислительной машины, — не имеет доступа к
подобным глобальным процессам.
48

промежуток времени (3-7 сек). Гроссмейстер оказался в состоянии
полностью воспроизвести позицию; по мере ухудшения качества
игры шахматистов заметно ухудшались и их результаты в этой
проверке^. Это привело де Гроота к выводу, что перцептивные способности
и организация восприятия чрезвычайно существенны для очень хорошей
игры"*.
В статье, которую мы уже обсуждали, мастер по шахматам
Э. Херст делает еще один шаг к выяснению сущности процесса
восприятия и причин, по которым этот процесс не поддается
программированию:
"Очевидно, мастер воспринимает расположение фигур на доске
крупными блоками, такими, как пешечная структура и взаимодействия
фигур... Если он все же делает ошибку, то это нередко объясняется тем, что
он помещает какую-нибудь фигуру на определенное поле, стремясь создать
выгодную для себя позицию"**.
Э. Херст резюмирует свою точку зрения следующим образом:
"В связи с множеством первичных ассоциаций, которыми располагает
опытный игрок, он видит шахматную позицию не как конгломерат
шахматных полей со стоящими на них деревянными фигурами, а как
определенным способом организованную структуру (подобную образу,
"гештальту" или целостной конфигурации, играющей столь существенную
роль в гештальтпсихологии) "***.
Опираясь на эти высказывания, вернемся к анализу
приведенного выше отчета шахматиста о своих рассуждениях. Мы можем
сделать вывод, что знакомство нашего испытуемого с
глобальными характеристиками шахматной игры и с предыдущими
ходами данной конкретной партии дало ему возможность увидеть
линии давления на противника, слабые и сильные стороны своей
позиции и ее специфические особенности. Он видит, что позиция
противника уязвима в таких-то пунктах (подобно тому как
человек, имеющий представление о домах вообще и о некотором
конкретном доме в частности, всегда воспринимает этот
последний в неразрывной связи с той частью дома, которая
расположена за его фасадом) и, фиксируя на этом внимание,
обнаруживает незащищенную ладью. Этот шаг можно рассматривать
как отдельную ступеньку в динамике восприятия структуры
позиции.
Ни в одной из существующих шахматных программ не
делается даже попытки использовать в этом плане опыт,
накапливающийся в ходе игры. Наоборот, каждый ход ищется заново,
как если бы это была отдельная шахматная задача из учебника.
Программист вынужден считаться с таким положением дел, ибо в
• ibid, р. 14.
** E.Hearst Psychology Across the Chessboard.-Psychology Today,
1967, June, p. 35.
*** Ibid., p. 37.
49

противном случае программа, обрастая информацией о прошлых
положениях каждой фигуры, вскоре потонет в нарастающей массе
данных. В действительности необходимо, чтобы программа
отбирала из накапливающейся информации о ходе игры именно то, что
существенно и для выработки собственной стратегии, и для
понимания стратегии противника. Но поскольку в существующих
программах вообще не присутствует долгосрочная стратегия,
остается единственный выход — порция за порцией накапливать и
рассортировывать данные, хотя это требует очень больших затрат
времени34. Без глобального рассмотрения — восприятия
целостных образов или структур, по-видимому, невозможно
избежать ситуации экспоненциального роста и преодолеть
ограниченные возможности эвристик в выборе вариантов, подлежащих
рассмотрению*.
Итак, глобальная форма "информационного процесса" (или
"процесса переработки информации"), при которой информация
рассматривается не в четкой форме, а остается, скорее, в
периферийной сфере сознания и учитывается неявно, действует
постоянно, непрерывно организуя наше эмпирическое познание. Поэтому
нет оснований полагать, что обнаружение незащищенной ладьи
является результатом осуществляемого испытуемым быстрого
подсознательного просчета вариантов, продолжающегося до тех
пор, пока наступит момент, когда последний переходит в область
явного сознания. Более того, есть убедительные причины для
того, чтобы отбросить это предположение, поскольку с ним
связано больше вопросов, чем позитивных решений.
Если испытуемый подсознательно, пользуясь прекрасными
эвристиками, просчитывает тысячи альтернатив для того, чтобы
достичь момента, в который он фиксирует свое внимание на
ладье, то почему этот подсознательный процесс не
продолжается до конца, то есть вплоть до того момента, когда
шахматисту вдруг приходит в голову, какой ход является наилучшим?
Если, с одной стороны, подсознательное просчитывание столь
быстро и точно, почему тогда в какой-то момент - а именно
когда испытуемый замечает ладью - он обращается к обремени-
* M. Минский осознает эти трудности, однако сохраняет уверенность в
том, что должно существовать какое-то их эвристическое решение:
"Наверно, это можно произвести с помощью некоторого эвристического метода,
который сделает возможным учет относящихся к делу факторов, или с
помощью логики, позволяющей извлекать из них соответствующие
следствия. В этом последнем случае неудобство заключается в том, что
антецеденты всех утверждений должны содержать описание состояния
данной системы, а для сложных систем оно становится слишком
громоздким. Иные — регулярные систематические — решения проблемы,
по-видимому, также неприемлемы. По всей вероятности, это одна из тех задач,
которая настоятельно требует именно эвристического решения" (Semantic
Information Processing, p. 422).
50

тельному методу медленного и трудного сознательного
просчитывания? Если же, с другой стороны, подсознательного
просчитывания недостаточно для адекватного решения задачи, то каковы
преимущества переключения на осознанный вариант того же
процесса?
Такого рода "телеологические" рассуждения сами по себе не
могут служить доказательством недискретного характера
функционирования подсознания. Тем не менее при таком подходе
становится ясно, что бремя доказательства должно лечь на плечи
тех, кто выдвигает предположение о дискретности
подсознательных процессов или даже считает его обязательным. Нет никаких
данных, ни поведенческих, ни интроспективных,
свидетельствующих о том, что просчитывание является единственной формой
"информационного процесса", используемого при игре в
шахматы, и что "существо задачи — это поиск в пространстве
возможностей, число которых растет по экспоненциальному закону"*.
Скорее, наоборот, все протоколы экспериментов свидетельствуют
о том, что при игре в шахматы используется два типа поведения:
1) фокусировка, фиксация внимания - путем глобальной
организации поля восприятия — на области, ранее находившейся в
периферийном сознании; в результате интерес к другим областям,
все еще находящимся на периферии сознания, повышается;
2) явное просчитывание альтернатив.
Такое разделение объясняет столь характерный для первых
работ по моделированию процесса познания первоначальный
успех и позднейшие неудачи. Во всех игровых программах
быстрый успех был получен при программировании таких игр или
таких частей игр, для которых применим метод эвристически
направляемого просчитывания. Неудачи же начинаются там, где в
силу большой сложности задачи становится необходимым
глобальное восприятие образов, с тем чтобы избежать непомерного
экспоненциального роста числа возможностей, подлежащих
просчету.
Бесконтекстная точность или допустимая
неоднозначность?
В программировании игр отчетливо проявилась
необходимость обработки "информации", не рассматриваемой в явном
виде, но и не исключаемой из рассмотрения, то есть информации,
* А. Н ь ю э л л, Дж. Шоу, Г. Саймон. Программа для игры в
шахматы и проблема сложности. — В кн.: Вычислительные машины и
мышление, с. 65.
51

находящейся на периферии сознания. Приостановка работ по
машинному переводу была связана со второй
непрограммируемой формой "обработки информации": умением человека
учитывать нечеткие ситуации, не прибегая к замене их точными
описаниями.
Мы видели, что И.Бар-Хиллел и А.Эттингер — одни из самых
уважаемых и знающих исследователей в области автоматического
перевода — сошлись в своих пессимистических оценках
возможности дальнейшего прогресса в этом направлении. Оба они
пришли к выводу, что, для того чтобы переводить с одного
естественного языка на другой, требуется нечто большее, чем
машинный словарь (каким бы полным он ни был) и правила
грамматики (сколь совершенными они ни оказались бы).
Порядок слов в предложении не дает машине достаточной информации
для того, чтобы решить, какой из возможных грамматических
разборов данного предложения наиболее приемлем в
соответствующем случае, а стоящие рядом слова (письменный контекст) не
всегда дают возможность определить, какое из нескольких
допустимых значений данного слова имел в виду автор.
Рассматривая различные системы синтаксического анализа
предложений, допустимых в данной грамматике, Эттингер
говорит:
"К настоящему времени опыт такого анализа показал, что как в
русском, так и в английском языках степень допустимой синтаксической
неоднозначности гораздо выше, чем это предполагалось ранее. В этой связи,
а также в связи с относительной нечеткостью границ между грамматически
правильным и неправильным предложениями возникает серьезный вопрос
о принципиальной возможности создания системы эффективной, полностью
автоматизированной обработки русского или английского текста,
пригодной для любых целей перевода или обмена информацией"*.
Работа А.Эттингера над машинным словарем была на первых
порах успешной; позднее он вместе с Куно и другими работал над
системами синтаксического анализа. Тем не менее он не берет на
себя смелость утверждать, что туман, окутывающий процессы
понимания естественного языка, начинает рассеиваться, оставляя
неясными лишь некоторые наиболее трудные проблемы. Скорее
наоборот. Эттингер обращает внимание на "чрезвычайно
загадочные семантические процессы, благодаря которым
большинство людей в своих рассуждениях интерпретируют большинство
осмысленных предложений в большинстве случаев однозначно"**
Здесь мы видим еще один пример важности краевого
сознания. Не вызывает сомнения, что человек, владеющий
естественным языком, не осознает всех тех смутных мотивов, неявных
* А.О е 11 i n g e r. Op.cit, p. 26,
** Ibid., p. 26.
52

ориентиров, которые помогают ему в решении вопроса о
синтаксической структуре и смысле высказывания. В то же время ничто не
указывает на подсознательное использование этих скрытых
ориентиров. И действительно, имеется два соображения, которые
исключают возможность учета этих скрытых ориентиров в какой-
либо последовательно или даже параллельно работающей
программе*.
Во-первых, это доводы И. Бар-Хиллела (в гл. 6 мы разберем
их более подробно), указывающего на то, что таких смутных,
ориентиров может быть бесконечно много. Во-вторых, даже если
бы число таких неявных факторов не превосходило некоторых
разумных пределов, это бы нас все равно не спасло, так как для
того, чтобы составить программу, использующую эти факторы
для определения значения словосочетания, нам пришлось бы
сформулировать некоторые синтаксические и семантические
критерии в виде строгих правил; а ведь при пользовании языком мы
не опираемся на строгие правила и это не приводит к неясностям.
Еще Б.Паскаль писал о том, что разум в процессе восприятия
функционирует втихомолку, "про себя", естественно и не по
правилам технического характера. Эту глубокую идею в
применении к языку тщательно исследовал Л.Витгенштейн: ,
"Мы не в состоянии точно описать понятия, которыми мы пользуемся,
не потому, что не знаем их реальных определений, а потому, что таких
"реальных определений" не существует. Предположение, что они непременно
должны существовать, равносильно предположению, что всякий раз, когда дети
играют в мячик, они играют в какую-то игру со строгими правилами"**.
Естественным языком люди пользуются в ситуациях, в
которых они преследуют те или иные цели. Эти внелингвистические
*При последовательной переработке информации программа задает
последовательность операций, в которой каждая операция зависит от
результатов выполнения предыдущих. При параллельной переработке
одновременно производится несколько таких последовательных вычислений.
Параллельная переработка может быть промоделирована последовательной
программой; однако между этими двумя случаями имеется важное
логическое различие: если программа носит последовательный характер, то
каждый шаг определяемых ею вычислений зависит от предыдущих шагов;
если же программа параллельна, то операции, входящие в каждую
последовательность, не зависят от операций, выполняемых в других
последовательностях.
** L.Wittgenstein. The Blue and Brown Books. Oxford, Eng., B. Black-
well, 1960, p. 25. (M. К о с h e n, D. M. M а с К а у, M. E. M a r о n, M. S с г i-
ven, LA) h r. Computers and Comprehension, The RAND Corporation,
RM-4065-PR, April 1964, p. 12.) Участники симпозиума "Вычислительные
машины и процессы понимания", проведенного корпорацией RAND,
высказывали предположения о преимуществах и психологической
обоснованности такого "нерегулярного" характера естественного языка. "Все
определяется тем фактом, что язык представляет собой комбинаторный набор
вариантов с неограниченным числом возможных комбинаций, значение которых
может быть выведено из конечного множества "правил", управляющих
значениями компонент. (Так называемые "правила" вырабатываются при
53

цели, сами по себе не предполагающие ни точной формулировки,
ни даже ее возможности, и определяют для человека те скрытые
ориентиры, которые служат ограничению неоднозначности
высказываний, причем настолько, насколько это необходимо для
решения соответствующей задачи. Фраза типа "Держись ко мне
поближе" может означать все что угодно, начиная от "Держись
рядом со мной" и кончая "Находись от меня на расстоянии
километра" — в зависимости от того, обращаются ли с ней к
ребенку на многолюдной улице или к товарищу-космонавту во
время экспедиции на Луне. Эта фраза никогда не имеет
совершенно однозначного смысла, одинакового во всех ситуациях,
что, впрочем, вполне разумно; но ее значение в каждой
конкретной ситуации всегда может быть сделано достаточно
определенным для того, чтобы можно было достичь желаемого
результата.
Наша способность использовать глобальный контекст для
требуемого уменьшения неоднозначности, не прибегая при этом к
формализации (то есть к полному исключению
неопределенности) , выявляет вторую фундаментальную форму "переработки
информации" человеком, которая вытекает из первой.
Периферийное, краевое сознание учитывает неявные ориентиры,
заключенные в контексте, а также, вероятно, некоторые возможные
грамматические конструкции и смысл, значение — все то, что на
выходе машины должно быть сформулировано в четкой форме.
Присущее человеку ощущение ситуации позволяет ему исключать
из рассмотрения большинство возможных вариантов до всякого
точного их анализа. Будем называть эту способность сужать
спектр возможных значений в соответствии с ситуацией
"допустимой неоднозначностью".
Высказывание и понимание предложения естественного языка
предполагают имплицитное знание того, как предложение зависит
от контекста. Поэтому, как и предполагал Тьюринг,
единственный способ заставить ЭЦВМ понимать и переводить естественный
язык — это, по всей видимости, составить программу, которая
даст машине возможность познавать мир. "Я не допускаю
возможности,— говорит И.Бар-Хиллел,—что машины, программы
которых не позволяют им обучаться в подлинном смысле этого
слова, смогут когда-либо надежно осуществлять
высококачественный перевод"*. Признавая время от времени, что применение
существующих методов наталкивается на известные трудности,
энтузиасты "искусственного интеллекта" в качестве панацеи пред-
обучении в виде наборов ответных реакций, и они лишь частично поддаются
формализации.) "
* Y.B a r-H i I I e I. The Present Status of Automatic Translation of Language.
-In: Advances in Computers, p. 105-106.
54

лагают прибегнуть к обучению. С. Пейперт, проводящий
исследования в Массачусетском технологическом институте,
например, недавно заявил, что нельзя ожидать от машины
действий, подобных поведению взрослого человека, если машина
не прошла предварительного обучения, и что задача сводится
к тому, чтобы создать ЭЦВМ, обладающую той же способностью
к обучению, что и ребенок. Однако такой подход, как мы
увидим ниже, только уводит нас от рассматриваемой
проблемы.
В области обучения языку единственной интересной и удачной
программой была программа Э. Фейгенбаума ЕРАМ («Elementary
Preceiver and Memorizer» — "Система элементарного воприятия и
запоминания"). ЕРАМ моделирует процесс обучения ассоциациям
бессмысленных слогов, который Э.Фейгенбаум называет
упрощенным вариантом вербального обучения*. Однако обучение
бессмысленным слогам вообще не является обучением языку.
Обучение ассоциациям бессмысленных слогов фактически есть не
что иное, как приобретение своего рода условного рефлекса в
смысле И. П. Павлова. Экспериментатор последовательно
предъявляет испытуемому карточки с надписями DAX и JIR; но
он мог бы с тем же успехом включать сначала красную, а потом
зеленую лампочки. После достаточного числа этих
последовательных экспозиций испытуемый научается предугадывать второй
элемент пары. В эксперименте такого рода субъекту отводится
абсолютно пассивная роль. В некотором смысле он ничему не
обучается — просто с ним что-то проделывают. Кем бы ни был
испытуемый — слабоумным, ребенком, взрослым
человеком,— эффект обучения бессмысленным слогам будет
совершенно одним и тем же. В конце XIX в. такая форма выработки
условной связи была предложена Г.Эбингаузом специально для
того, чтобы исключить какое бы то ни было влияние уже
сложившихся ассоциаций на процесс осмысленного разбиения на
классы или обращения к контексту.
Неудивительно поэтому, что в таких случаях отчеты
испытуемых и машинный результат почти точно соответствуют друг
другу. Однако это весьма сомнительный успех, ибо единственный
случай удачного моделирования познания имитирует процесс, в
котором отсутствует понимание и который поэтому нельзя
считать познавательным.
Обучение языку является значительно более сложным и
загадочным процессом, нежели тот род условного рефлекса,
который лежит в основе научения ассоциациям бессмысленных
слогов. Для того чтобы объяснить человеку значение какого-либо
*См.: Э. Фейгенбаум. Моделирование вербального поведения. —
В кн.: Вычислительные машины и мышление, с. 302—316.
55

нового слова, иногда достаточно просто указать пальцем на
обозначаемый этим словом предмет. Блаженный Августин в
своей "Исповеди" и А.Тьюринг в своей статье о "машинном
интеллекте" полагают, что именно таким способом мы обучаем
детей языку. Однако Л.Витгенштейн замечает, что просто указав
пальцем, например, на стол и сказав слово "коричневый", мы тем
самым еще не дадим знать ребенку, что именно имеется в виду:
цвет, размер или форма стола, тип объекта или его собственное
имя. Если же ребенок уже владеет языком, то ему можно сказать,
что имеется в виду именно цвет. Ну, а с чего начать, если ребенок
еще совсем не понимает языка? Витгенштейн считает, что для
этого ребенок должен быть погружен в своего рода "жизненную
среду", в которой он разделяет по крайней мере некоторые из
целей и интересов своего учителя; при этом каждодневная
деятельность ребенка помогает ему устанавливать соответствия
между употребляемыми словами и тем, что они обозначают.
Коль скоро это так, то чему же можно научить машину?
Именно этот вопрос ставится в одной из немногих серьезных и
критически окрашенных работ, вышедших из-под пера
исследователей "искусственного интеллекта". Э.Сэмюэль, составивший
известную шашечную программу, утверждает, что машина не
может считаться разумной, поскольку она в состоянии делать
только то, что ей предписано программой. М. Минский не
принимает этого положения, ибо, по его мнению, достижения наших
машин могут оказаться неожиданными для нас самих. Сэмюэль,
как никто иной, знает об этом, поскольку его собственная
шашечная программа его обыграла. Скорее всего, он имеет в виду
другое: только запрограммировав машину соответствующим
образом, можно вложить в нее способность выигрывать;
программирование же в корне отличается от процесса обучения ребенка игре в
шашки. Доводы Сэмюэля отклоняются М. Скрайвеном, который
утверждает, что новые стратегии «"закладываются"
программистом в вычислительную машину... точно в том же
метафорическом смысле, в каком мы говорим о "закладывании" в ребенка
необходимых для его дальнейшей жизни знаний»*. Однако Сэмюэ-
лю, устоявшему против давления со стороны своих коллег, не
следует поддаваться наступлению философов. Информация
действительно "закладывается" в машину, но способом, совершенно
отличным от процесса обучения детей. Мы только что видели, что
этому процессу не дано и, как мы увидим в гл. 6, не может быть
дано точное определение. Наши попытки объяснить обучаемому
какое-либо выражение всегда происходят в определенном
контексте, помогающем усвоить или уточнить его смысл. Обучение в
* M.Scri ve n. Primary Philosophy. New York, McGraw-Hill, 1966.
p. 186.
56

отличие от запоминания и заучивания с необходимостью
предполагает своего рода оценивание. Вот что пишет по этому поводу
Л.Витгенштейн:
"Может ли кто-нибудь быть учителем в этом процессе? Конечно. Время
от времени он дает ученику нужный намек... Именно в этом заключаются
преподавание и обучение в данном случае... На этом уровне человек
усваивает не какой-то технический навык, а учится верному взгляду на
вещи. Правила здесь также существуют, но они не образуют системы и
применять их надлежащим образом могут только опытные люди; как это
не похоже на правила, по которым производятся вычисления!"*
Вот эта-то способность улавливать смысл в конкретном
контексте и характеризует настоящее обучение; как только дети
начинают с этим справляться, они постоянно удивляют нас,
преподнося нам сюрприз за сюрпризом.
Из всего сказанного относительно существенной роли
контекста и неоднозначности в процессе использования естественного
языка становится понятным, почему работа в области машинного
перевода приостановилась на этапе создания машинного словаря.
Как мы видели, способность научения языку предполагает ту же
сложную комбинацию сугубо человеческих форм "процесса
переработки информации'', которая необходима для его понимания.
Вопрос о том, как с помощью научения обойти трудности, с
которыми неизбежно сталкивается эта область исследований,
остается открытым.
Метод проб и ошибок
или отделение существенного от
несущественного?
В моделировании решения задач также встречаются два типа
функционирования мышления: один, элементарный и
допускающий разложение на составные части, объясняет удачное начало
исследований в данной области; другой, более сложный и
включающий в себя феномен "инсайта", оказался недоступным для
"пошаговых" программ типа программы "Общего решателя
задач" Саймона. При решении элементарных задач наиболее
эффективен простой перебор всех возможных комбинаций,
продолжающийся до тех пор, пока не подвернется нужное решение. Такой
поиск с помощью метода проб и ошибок являет собой еще один
пример "силового приема" типа сплошного просчитывания в
шахматах. Но как и при моделировании игр, возможности
*L. Wittgenstein. Philosophical Investigations. Oxford, Eng. D. Black-
well, 1953, p. 227. Здесь Л. Витгенштейн имеет в виду приобретение
способности судить о проявлениях чувств, однако его утверждение имеет и
более общий смысл.
57

машины и здесь вскоре оказываются исчерпанными. При
моделировании решения задач необходимо найти какой-то
систематический метод сужения зоны поиска, который не позволял бы
тратить время на проверку неперспективных альтернатив. Именно
на этом этапе в человеческом мышлении начинает действовать
механизм "инсайта" — "озарения", интуиции,— в то время как
математики-программисты впадают в глубокое уныние.
Допустим, что задача сформулирована просто, то есть
совершенно детерминистским образом, так что нам известна исходная
ситуация, мы представляем себе искомое заключительное
состояние и располагаем набором простых, специально заданных
операторов для перехода от одного состояния к другому (иными
словами, пусть мы имеем дело с тем, что Саймон назвал "простой
формальной задачей"). Тогда созданный Саймоном "Общий
решатель задач", произведя перебор значительного числа возможностей,
будет сближать "начало" и "конец" до тех пор, пока задача не
окажется решенной. Мы имеем, таким образом, удачный вариант
применения анализа в терминах "средств и целей". Но даже в
таком простом случае возникает масса трудностей. Если сравнить
этапы машинного решения задачи на основе программы GPS,
выданные на печать, с записью словесного отчета испытуемого о
том, как он решал ту же самую задачу, то мы обнаружим, что
ЭВМ совершала шаги (формальный поиск), которым нет
соответствия в протоколе эксперимента. Как же объясняет Саймон
факт отсутствия в отчете испытуемого этих шагов? С
методологической точки зрения весьма сомнительно: "многое, связанное с
задачей, не было высказано субъектом в явном виде (или даже не
было им осознано) "*. Еще более необоснованным выглядит
предположение Саймона о том, что эти невербализованные
операции столь же элементарны, как и те, которые нашли явное
выражение в протоколе опыта. А между тем некоторые
подробности, упомянутые в работе Ньюэлла и Саймона "GPS —
программа, моделирующая процесс человеческого мышления", наводят на
мысль о том, что эти глубоко упрятанные операции вообще не
имеют ничего общего с операциями, производимыми машиной
согласно программе GPS.
В одном из экспериментов Саймона испытуемым предлагались
задачи, относящиеся к формальной логике; при этом испытуемых
снабжали перечнем правил преобразования символических
выражений; их просили устно комментировать каждый шаг поиска
решения. Не будем излагать правил преобразования; для нас
существенно другое: в определенном месте протокола субъект
говорит, что он применяет правило (А-ВЭА) и правило
*А. Ньюэлл и Г. Саймон. GPS — программа, моделирующая
процесс человеческого мышления. - В кн.: Вычислительные машины и
мышление, с. 295.
58

(А-ВЭВ) к конъюнкции (nRV~IP7 (RVQ). По этому поводу
Ньюэлл и Саймон замечают:
"Субъект использовал обе формы правила 8 совместно, по крайней мере
если судить по его рассуждениям, GPS же рассматривает каждую форму
правила 8 отдельным пунктом. Возможно, что субъект действует так
бессознательно и просто выдает два результата одновременно"*.
Не менее вероятно, однако, что испытуемый уловил
симметричность конъюнкции относительно преобразования,
производимого данным правилом, и действительно применил сразу обе
его формы. Даже сами Ньюэлл и Саймон признают, что было бы
предпочтительнее, если бы GPS применила обе формы правила
в одном пункте. Только в этом случае их программа могла бы
послужить основой для создания психологической теории,
описывающей этапы рассуждений испытуемого. Однако они
благоразумно воздерживаются от попыток составить программу,
которая могла бы определять, в каких случаях следует применять
обе формы правила сразу, а в каких — нет. Составление такой
программы (что отнюдь не устранило бы описанного выше
несоответствия машинного и человеческого подходов)
потребовало бы дополнительных сведений о действиях субъекта —
сведений, не нашедших отражения в протоколе эксперимента,— и тем
самым привело бы к увеличению расхождений между отчетом
испытуемого и программой. Таким образом, будучи не в
состоянии избежать этих расхождений и не пытаясь даже понять их
смысл, Ньюэлл и Саймон просто отмахиваются от них, считая,
что имеют здесь дело с "примером параллельно протекающих
процессов"**.
Однако в другом приводимом Ньюэллом и Саймоном случае
расхождений уже нельзя отделаться такой оговоркой. Так, в
одном из протоколов мы читаем: "Собственно говоря, мне
следовало бы применить правило 6 лишь к левой части уравнения.
Итак, надо применить правило 6, но только к левой части".
Саймон пишет:
"Здесь есть сильное расхождение со схемой действий GPS... И субъект
и GPS нашли, что именно правило 6 подходит для изменения знаков.
Здесь GPS просто применила правило к текущему выражению, в то время
как испытуемый вернулся назад и исправил предшествующее применение.
В программе мы не найдем чего-либо, что соответствовало бы этому
* Там же, с. 296.
** См.там же, с. 297. Произвольный характер этого объяснения ad hoc
ясен из контекста. Более того, отвечая на соответствующий вопрос во
время своей Мэллоновской лекции в Массачусетском технологическом
институте в 1968 г., Саймон сказал по этому поводу, что, по его мнению,
параллельно протекающие процессы не играют никакой роли в познании и
что, насколько он помнит, он никогда этого не утверждал.
59

действию. Наиболее непосредственное объяснение состоит в том, что
применение правила 6 в обратном направлении рассматривается субъектом
как уничтожение правила 6, примененного ранее"*.
И действительно, это объяснение напрашивается прежде всего,
однако Ньюэлл и Саймон, по-видимому, не осознают, что этот
отход от схемы действий машины, не объяснимый ссылкой на
параллельно протекающие процессы, чреват для их теории таким
же крушением, которое потерпела теория Птолемея, когда
обнаружилось, что действительные траектории планет ей не
соответствуют. Все дело в том, что здесь имеет место какая-то иная
форма мышления, отличная от простого поиска!
Ньюэлл и Саймон понимают суть проблемы, ибо замечают:
''Здесь речь идет о механизме (а может быть, и о целом
комплексе механизмов), который отсутствует у GPS"**. Но,
подобно древним астрономам, они пытаются спасти свою теорию,
добавляя к ней пару-другую эпициклов. Они по-прежнему
полагают — без достаточных на то оснований, — что в основе
подобного механизма лежат просто более изощренные методы поиска и
что если дать GPS возможность "постоянно немного оглядываться
назад, на свои предыдущие действия"***, то все будет в порядке.
Ньюэлл и Саймон не отдают себе отчета в том, что, представляя
разумное поведение как результат применения эвристических
правил, они вынуждены принять малоправдоподобную точку
зрения, согласно которой намерение субъекта провести анализ
предшествующей части решения должно быть результатом в
высшей степени избирательной процедуры проверки. В
противном случае возникнет необходимость на каждом этапе решения
проверять все предыдущие шаги, что безнадежно утяжелит
программу.
С научной точки зрения более продуктивным было бы
произвести дальнейший анализ тех пяти случаев расхождений, о
которых говорится в статье Ньюэлла и Саймона, с тем чтобы
определить, не используется ли в данном случае человеком какая-либо
другая форма "информационных процессов". Так, гештальтпси-
холог М.Вертгеймер в своей классической работе "Продуктивное
мышление" отмечает, что представление о решении задач как о
последовательности проб и ошибок исключает из рассмотрения
важнейший аспект процесса решения задач, а именно то
"схватывание" ее существенной структуры, которое он называет "инсай-
том"****. При выполнении этой операции человек отвлекается от
поверхности задачи и видит ее основу — то, что М.Вертгеймер
#Там же, с. 298-299.
** Там же, с. 300.
Там же.
**** M.Wer t h e i m e r. Productive Thinking, New York, Harper and
Bros., 1945, p. 202.
60

называет "глубинной структурой"; именно она дает ему
возможность организовать необходимые для отыскания решения
шаги. Может показаться, что эта гештальтистская концепция в
корне противоречит операционистским воззрениям сторонников
"искусственного интеллекта", однако М. Минский, правда в
других выражениях, делает следующее признание:
"Способность решения трудной задачи зависит от умения либо
разделить ее на несколько подзадач меньшей трудности, либо преобразовать ее в
менее сложную задачу. Для того чтобы не делать этого наугад, требуется
некоторое понимание ситуации. Человек должен уметь логически
обосновать или просто догадаться о последствиях той или иной формулировки
задачи, с тем чтобы суметь построить более простые модели проблемной
ситуации. Эти модели должны иметь достаточно богатую структуру; тогда,
по всей вероятности, найденные для них решения удастся расширить до
решения исходной задачи"*.
Поскольку при решении сложных задач человек, как правило,
прибегает к помощи "инсайта" — интуиции — и поскольку то, о
чем говорит М. Минский, никогда не было доведено до уровня
программы, нет ничего удивительного в том, что в работе
Ньюэлла и Саймона такого рода интуитивная перестройка
структуры задачи тайком производится самими программистами. В
работе "Процесс творческого мышления" Ньюэлл, Шоу и Саймон
для объяснения тех характеристик отчета испытуемого, которые
не укладываются в рамки простого анализа в терминах "средств и
целей", вводят так называемые проектирующие эвристики
("эвристики планирования").
"Мы разработали программу... описывающую метод, с помощью
которого некоторые испытуемые решают логические задачи исчисления О. Мура.
Чтобы объяснить, в чем состоит введенное нами понятие "планирования",
проще всего, пожалуй, описать эту программу. Исходя из чисто
практических соображений, все двенадцать операторов, входящих в эту
логическую систему, можно разбить на два класса; операторы одного из них мы
будем называть "существенными", второго — "несущественными". Будем
считать оператор существенным, если его применение к выражению
"сильно" изменит вид этого выражения (примером может служить переход от
PVP к Р). Несущественные операторы "слабо" меняют выражение
(таков, например, переход от PVQ к QVP). Как мы уже сказали, различие
между существенными и несущественными операторами носит чисто
прагматический характер. Из двенадцати операторов рассматриваемого
исчисления восемь мы отнесли к классу существенных, а четыре — к классу
несущественных...
Далее, если нам дано некоторое выражение, то мы можем выделить из
него только такие характеристики, которые связаны с существенными
изменениями. Например, из выражения PVQ мы можем получить
выражение (PQ), в котором порядок следования символов можно не принимать во
внимание. Очевидно, если к полученному выражению применить несу-
* М.М i n s k у. Descriptive Languages and Problem Solving.- In: Semantic
Information Processing, p. 421.
61

щественный оператор, то оно не изменится, в то время как применение
существенного оператора может привести к его изменению.
Теперь мы можем установить некоторое соответствие между
исходными выражениями и операторами, с одной стороны, и производными
выражениями и существенными операторами — с другой. При этом
исходной задаче преобразования выражения а в выражение b будет
соответствовать новая задача — задача преобразования выражения а' в выражении Ь
(где а' и b'извлекаются из выражений а и b соответственно).
Предположим теперь, что мы решили эту новую задачу и что последовательность
выражений, ведущая к решению, есть а', с', б',..., Ь'. Тогда мы можем
вернуться к исходной постановке проблемы и заняться решением новых
задач — преобразованием выражения а в с, с в d и т.д. Таким образом,
решение задачи в пространстве проектирования дает нам некоторый план
решения исходной задачи"*.
Комментарии, как говорится, излишни. Остается только
подчеркнуть, что описание самой программы начинается с
параграфа 2. Классификация операторов на существенные и
несущественные, то есть та операция, которую Вертгеймер называет
"нахождением глубинной структуры" или "инсайтом",
выполняется программистами еще до начала самого программирования.
Подобная "ловкость рук" прошла незамеченной для
Дж.Миллера, Е. Галантера и К.Прибрама, если судить по их книге "Планы
и структура поведения" (1960), которая представляет собой
попытку создания психологической теории, разработанной под
влиянием работ А.Ньюэлла, Дж.Шоу и Г.Саймона. Дж.Миллер и
др. для начала приводят слова Дж.Пойа, прекрасно отдающего
себе отчет в том, какую важную роль играет интуиция в решении
задач:
"В своей известной работе "Как решать задачу"... Пойа различает...
[следующие] фазы эвристических процессов.
Во-первых, мы должны понять задачу. Мы должны ясно представить то,
что дано, в каких условиях это дано и то неизвестное, которое мы ищем.
Во-вторых, мы должны составить план, который приведет нас к
решению и свяжет данное с неизвестным"**.
Затем Миллер, Галантер и Прибрам сводят к минимуму
значение первой фазы; попросту говоря, они решают не обращать
внимания на этот этап:
"Очевидно, что второй из этих этапов самый трудный. Первый этап,
который мы уже описали в главе X!, сводится к созданию четкого образа
ситуации, необходимого для того, чтобы найти способ решения этой задачи.
Это, конечно, необходимо, но, обсуждая четко сформулированные задачи,
мы принимаем, что это уже выполнено" **.
Тем не менее вся эта психологическая теория решения задач
немногого будет стоить, если в машинную модель не удастся
* A.N e w е II, J.S h a w , H.S i m о п. The Processes of Creative Think-
jng35.-The RAND Corporation, P-1320, 1958, September 16, p. 43-44.
** Дж. Миллер, Е. Галантер и К. Прибрам. Планы и
структура поведения 36. м., 1965, с. 197.
*** Там же.
62

ввести этот первый этап. Поэтому нет ничего удивительного в
том, что где-то страниц через десять, принимая и оправдывая
анализ в терминах "средств и целей" Саймона, Миллер и его
соавторы с облегчением ссылаются на "метод планирования"*
Саймона, по-видимому, имея в виду те самые абзацы, которые мы
только что обсуждали:
"Вторая общая система эвристической логики, использованная Ньюэл-
лом, Шоу и Саймоном, состоит в пренебрежении рядом деталей задачи.
Обычно это упрощает задачу, и эта упрощенная задача может быть решена с
помощью знакомого нам плана. План, используемый для решения простых
задач, затем применяется как стратегия при решении исходных сложных
проблем. Например, при решении задач пропозиционального исчисления
машина может игнорировать различия между логическими связями и
порядок символов"**.
Но, как мы видели, не машина игнорирует эти решения, а сами
Ньюэлл, Шоу и Саймон. Говорить в данном случае об
эвристиках — значит просто вводить читателя в заблуждение, поскольку
никому еще не удавалось сформулировать правила, по которым
производится этот предварительный выбор, а также показать, что
на этом требующем интуиции этапе человек вообще следует
каким бы то ни было правилам. Таким образом, выясняется, что
никакой машинно-ориентированной теории для этого
фундаментального первого этапа решения задач, состоящего в разделении
существенного и несущественного, не существует. Только
исследователи, столь уверенные в собственной правоте, как Миллер и
его соавторы, могли оставить без внимания тот факт, что "метод
планирования" Саймона с его предварительной обработкой
исходного материала не столько приводит к решению проблемы
машинного моделирования, сколько ставит ее.
Именно способность человека отделять существенное от
несущественного в каждой конкретной задаче объясняет наличие
расхождений между отчетом испытуемого, решающего задачу, и
результатом работы GPS. Мы уже указывали на то, что
испытуемый применяет обе формы правила 8 вместе вследствие того, что
уже на этой начальной стадии он осознает равноправие обоих
членов конъюнкции. Аналогичным образом вследствие того, что
он постиг существенную функцию, которая заключена в правиле 6,
субъект в состоянии заметить, что повторное применение этого
правила просто нейтрализует предыдущее применение. Как
замечает М.Вертгеймер:
"Этот процесс (структурирования задачи.— Х.Д.) не исчерпывается
рассмотрением данных ее частей и их преобразованиями. Он происходит на
основе того материала, который по своей структуре адекватен задаче, но
выбирается из прошлого опыта"***.
* Там же, с. 214.
**Там же, с. 209-210 (курсив мой.- Х.Д.).
***М. Wertheimer. Productive Thinking, p. 195.
63

Поскольку игра есть одна из форм решения задач, вполне
возможно, что этот процесс имеет место в шахматах. Как следует
из цитаты Э.Херста, это действительно так.
"В результате своего исследования де Гроот приходит к выводу, что
различия в силе игры в гораздо меньшей степени зависят от способности
просчитывания, чем от умения "концептуально видеть задачу". По всей
вероятности, гроссмейстер превосходит мастера в умении выделять
наиболее существенные особенности позиции, а не в общем числе ходов, которые
он в состоянии рассмотреть. Несколько неожиданным для де Гроота
оказался тот факт, что при выборе конкретного хода гроссмейстеры
исследуют не больше возникающих при этом вариантов, чем более слабые
игроки или мастера (в среднем от двух до четырех начальных ходов на
позицию). Нельзя также сказать, что они просматривают эти варианты на
большую глубину (обычно максимум на шесть-семь ходов вперед).
Гроссмейстер каким-то образом способен сразу ''увидеть" суть задачи, в то
время как более слабый игрок постигает ее с трудом или вообще не
постигает, даже если анализирует столько же вариантов и видит на столько
же ходов вперед, что и гроссмейстер"*.
Как мы видели, М. Минский уже в 1961 г. ясно осознавал
важность этих проблем. Единственное, на что он надеялся,— это на
то, что удастся изобрести такую планирующую программу, в
которой обычный эвристический поиск будет использоваться на
более высоком уровне.
"Когда мы настаиваем на применении "рассуждения", мы ни в коей
мере не предлагаем отказаться от нашего основного замысла и ввести некую
интеллектуальную процедуру. Программа, управляющая поиском, будет не
чем иным, как еще одной эвристической программой. Почти наверняка в
нее будут входить в основном только объекты и процессы того же типа, что
и в программы первого уровня"**.
Но такая планирующая программа со своей стороны
потребовала бы разделения операторов на существенные и
несущественные. Если сам программист не проведет на каком-то этапе такого
разделения, то он будет вынужден бесконечно наращивать
планирующие программы, так как для каждой из них потребуется
программа более высокого уровня, чтобы формализовать
соответствующую ей задачу с плохой структурой. Именно здесь, при
переходе от простых форм "информационных процессов" к
сложным, Минский делает обычный в таких случаях ход — вводит
обучение.
"Проблема подбора способа дедукции полезных заключений из
большого массива высказываний (то есть проблема соотнесения различных
методов с различными типами задач) ставит новую задачу поиска.
Логическое исследование должно проводиться только по тем данным, которые
*E.Hearst. Psychology Across the Chessboard.-Psychology Today,
1967, June, p. 32.
** M.M i n s k y.Descriptive Languages and Problem Solving.- In: Semantic
Information Processing, p. 420.
64

вероятнее всего имеют отношение к текущей задаче. Малоправдоподобно,
чтобы эта функция отбора была полностью задана с самого начала. Она
должна совершенствоваться по мере накопления данных в ходе
эксперимента"*.
Однако до сих пор никто даже не попытался гипотетически
описать, каким образом машина могла бы осуществлять эту
операцию отбора или как следует ее запрограммировать, чтобы
она могла научиться этому, поскольку иначе никакое обучение на
основе прошлого опыта невозможно.
Оценивая работы, выполненные после выхода в свет труда
"Вычислительные машины и мышление", Э.Фейгенбаум отмечает
бросающееся в глаза отсутствие обучающихся программ:
"До сих пор в области ИИ значение машинного обучения для решения
проблем осознавалось весьма слабо. Единственную, по существу, за много
лет заслуживающую упоминания работу представляет известная шашечная
программа Сэмюэля и использованная в ней процедура обучения.
(Большой интерес в свое время вызвала предложенная Ньюэллом, Шоу и
Саймоном система обучения GPS , однако она осталась нереализованной.)
Как это ни удивительно, и в наши дни ситуация остается прежней"**.
Такая задержка развития удивительна только для тех, кто,
подобно Фейгенбауму, не осознает, что способность к различению
существенного и несущественного является чисто человеческой
формой "процесса переработки информации", необходимой для
обучения и решения задач; она не воспроизводится методами
машинного поиска, которые эффективны только после того, как
такое разделение произведено. Именно эта функция интеллекта
преграждает путь дальнейшему прогрессу в области решения
задач.
Более того, представление, что проблема планирования может
быть решена изолированно и что возможно разделение операторов
на существенные и несущественные — наподобие готовых блоков,
которые остается только рассортировать,— является
представлением чисто иллюзорным, возникшим под влиянием
искусственных— ad hoc — приемов решения задач и простых случаев
(например, относящихся к области логики); легко поддаться
искушению и уверовать в то, что те или иные операторы существенны или
несущественны сами по себе. Возникает взгляд, что, поскольку
операторы таковы, на нашу долю остается лишь установление
эвристического правила для их сортировки. Однако обычно
(нередко даже в логике) существенность операторов
находится в зависимости от контекста прагматического
характера.
* Ibid., p. 123.
**Э. Фейгенбаум. Искусственный интеллект: темы исследования
во втором десятилетии развития. — Кибернетический сборник, Новая
серия, вып. 10, М., 1973, с. 18437.
65

Ньюэлл, Шоу и Саймон откровенно признают, что они
вынуждены прибегать к предварительной обработке исходного
материала, использующей интуицию. В связи с этим у них, казалось
бы, нет ни малейшего основания утверждать, что при решении
задач человеком тот тип поведения, который не очень ясно
называют сообразительностью, интуицией, проникающим в суть
дела "озарением", в действительности является результатом
рассудочного применения тех или иных эвристик, служащих для
сужения пространства поиска решения. Наоборот, их работа с GPS
показала, что до тех пор, пока не будет произведена
предварительная структуризация задачи, всякий поиск усложнен настолько,
что его и поиском-то не назовешь.
Шутки ради заметим, что исследования в области
моделирования процессов познания сами являют прекрасный пример, так
сказать, разумного поведения по программе GPS, когда она
предоставлена самой себе. Здесь мы также сталкиваемся с чем-то
вроде залатывания дыр и подшивания кусочков с помощью
приемов ad hoc — поведением, характерным для человека,
завороженного поверхностной структурой задачи; это своего рода
карабканье на дерево в надежде добраться до Луны. Может быть,
именно потому, что в "моделировании процесса познания"
интуиция не в чести, некоторые исследователи в этой области ошибочно
приняли поведение GPS за разумное.
Списочная организация признаков или
осмысленная группировка объектов?
Вычислительная машина распознает любой образ только на
основе заданного перечня специфических признаков. При этом
возникает проблема экспоненциального роста,— проблема,
которую человек способен обойти, потому что идет каким-то другим
путем. Следовательно, при моделировании распознавания даже
простых образов может потребоваться обращение ко всем
рассмотренным нами выше основным формам "переработки
информации" человеком. И если исследователям в области
"искусственного интеллекта" удалось, используя машинные методы, добиться
некоторых успехов в простых случаях, то такие сложные
образования, как художественные стили или лица людей, обладающие
весьма расплывчатыми чертами сходства и различия,
по-видимому, требуют для их узнавания своеобразной комбинации
процессов, происходящих на периферии сознания, феномена допустимой
неоднозначности и "инсайта" — всего того, что недоступно
цифровой вычислительной машине. Неудивительно поэтому, что
работа по распознаванию образов довольно поздно началась и
довольно быстро притормозилась.
66

В гл. 1 мы отметили, что слабая сторона существующих в
настоящее время программ по распознаванию образов (за
исключением, возможно, программы Л.Юра и Ч.Фосслера, возможности
операторов которой — она распознает всего пять букв — еще
недостаточно проверены) заключается в том, что они не в состоянии
сами вырабатывать операторы выбора. Теперь, однако, мы
покажем, что такая постановка вопроса основывается на
предпосылках, таящих в себе более глубокие и более сложные
проблемы.
"Инсайт". Первый признак, указывающий на то, что
распознавание образов человеком и ЭЦВМ различается коренным образом,
состоит в том, что человек (и животные) — в отличие от
машины — справляется с изменениями в ориентации и размерах
изображений, его неполнотой, искажениями, зашумленностью фона.
В пору возникновения направления "искусственного
интеллекта" специалисты, разрабатывавшие программы распознавания,
сначала старались нормализовать изображение, а потом
проверяли, как оно идентифицируется с образами некоторого
множества. Однако человек при распознавании объектов,
по-видимому, пренебрегает изменениями их размеров и ориентации,
пропусками в изображении фигур и т.п. Хотя некоторые
константы восприятия действительно подвергаются определенной
нормализации (кажущиеся размеры и яркость варьируют в меньшей
степени, чем соответствующие изменения сигнала, достигающего
сетчатки глаза), не вызывает сомнения, что мы не нуждаемся в
полностью нормализованном и "сглаженном" изображении,
поскольку, воспринимая изображение искаженным, неполным,
большим или маленьким и т.д., мы можем в то же время узнать
его.
В программах более позднего времени нормализации
изображения нет — в них используются мощные операторы, выделяющие
отличительные характеристики образов и в то же время
нечувствительные к искажению и шумам. Однако маловероятно, чтобы
в процессе распознавания человек применял такого рода
искусственные приемы. Как выяснилось, в тех особых случаях, когда
человек может выразить словами то, на что он обращает
внимание, он пользуется не мощными операторами, которые позволяют
справляться с размазанными изображениями и шумом, а скорее
набором идеальных характеристик, к которым каждый
конкретный распознаваемый объект может только приближаться. Мы
узнаем искаженные образы не потому, что они попадают в рамки,
определяемые бон ее широким и более искусно заданным набором
признаков, а вследствие того, что образы эти обладают теми же
простыми свойствами, что и образы неискаженные,— вместе с
некоторыми случайными чертами. Аналогичным образом мы не
проверяем наличие шума, с тем чтобы потом его отбросить, а
67

просто игнорируем его, считая несущественным*. И здесь мы
опять сталкиваемся со способностью человека к различению
существенного и несущественного.
Периферийное сознание. Для того чтобы определить, с каким
из множества уже проанализированных образов предъявляемый
объект имеет наибольшее сходство, был предложен способ
последовательной проверки наличия у него определенных признаков из
некоторого их набора (метод дерева решения). Другой часто
встречающийся метод (он реализован в программе О.Сэлфриджа
"Пандемониум") состоит в использовании вероятностей
присутствия признаков (из заданного их множества). Оба эти метода с
несомненностью предполагают, что человек, подобно
механическому распознающему устройству, обязательно классифицирует
образы в терминах четко заданного списка признаков. О.Сэл-
фридж и У.Ниссер не сомневаются в том, что "человек,
выделяющий какой-либо образ из совокупности раздражителей, по
существу, уже провел классификацию всех возможных входных
сигналов"**. В обзоре работ по распознаванию образов И. Хант
придерживается того же мнения: "Распознавание образов, так же
как и формирование понятий, включает в себя научение правилам
классификации"***.
Однако в тех случаях, когда образ хоть сколько-нибудь
сложен и достаточно сходен с большим числом других
образов — в результате чего для его распознавания требуется большое
число признаков, — возникает угроза экспоненциального роста.
Таким образом, предположение, что всякое распознающее
устройство, будь то человек или машина, работает по аналитическому
принципу, выделяет отдельные черты объекта, ведет к
предположению, что должны существовать определенные критические
признаки, которые делают распознавание осуществимым; все
дело в том, чтобы их отыскать либо запрограммировать ЭЦВМ
так, чтобы она сама их находила. Тем самым нас склоняют к
поиску своего рода эвристик восприятия, "мощных ' операторов,
которых покз еще никому не удалось обнаружить. Как
шахматист не в состоянии объяснить программистам, каким образом он
* Каковы бы ни были процессы переработки информации, которые
осуществляет мозг человека для выделения образов, этому, несомненно,
способствует организация рецепторов. Но даже если бы удалось так
сконструировать рецептивный вход вычислительной машины, чтобы она
осуществляла перцептивное выделение объекта (отделение фигуры от
фона), то такого рода селективные рецепторы потребовали бы введения
стадии аналоговой обработки информации, чего исследователи в области
"искусственного интеллекта" стараются избегать.
** О. G. S e I f r i d g e, U. N е i s s е г. Pattern Recognition by Machine.-ln:
Computers and Thought, p. 238.
*** E.Hunt. Computer Simulation: Artificial Intelligence Studies and
Their Relevance to Psychology .-In: Annyal Review of Psychology, P.R.F a r n s-
worth (ed.),vol. 19, Palo Alto (Calif.), 1968, p. 145.
68

находит кратчайший путь к решению, так и, как отмечают
Сэлфридж и Ниссер, в случае распознавания образов "очень часто
принцип классификации остается неизвестным даже (самому
распознающему.— Х.Д.)". Тем не менее Сэлфридж и Ниссер,
подобно Ньюэллу и Саймону, исходят из предпосылки, что
испытуемый подсознательно производит поиск в лабиринте — в
данном случае просматривает список признаков. При этом они
вынуждены заключить, что подобный принцип классификации
"слишком сложен для точного описания"*.
Однако поиск, основанный на таком списке, чрезвычайно
затруднителен, по крайней мере для человека — последний для
принятия того или иного решения в состоянии исследовать
последовательно (или параллельно) далеко не все релевантные
признаки; многие признаки, определяющие исход распознавания,
вообще никогда не рассматриваются в явном виде, но оказывают
свое влияние, оставаясь на периферии сознания.
Если в шахматах мы начинаем с общего "чувства ситуации" и
только на заключительном этапе анализа переходим к просчитыва-
нию, то в процессе восприятия мы вообще никогда не обращаемся
к каким бы то ни было четким признакам. Как правило, мы
распознаем сходство предмета с другими предметами, не отдавая
себе отчета в том, что он является примером предметов данного
типа или элементом некоторого класса предметов, задаваемого
набором специфических признаков. Анализируя различия между
перцептивным и понятийным сознанием, А.Гурвич пишет:
"Воспринимаемые предметы являются нам вместе с задающими их
родовыми характеристиками... Но — и это крайне важно — воспринимать
объект некоторого рода — совсем не значит понимать, что этот предмет
является представителем или частным случаем предметов того или иного
типа "**.
Иногда, разумеется, можно выделить определяющие
характеристики в явном виде:
«Первый шаг в становлении понятийного сознания состоит в акте
расчленения предмета, воспринимаемого в его типичности. Образующие
предмет родовые признаки, которые до этого имманентно в нем
присутствовали и были слиты с предметом, теперь отделяются, освобождаются от
него. Выраженные в явной форме, эти признаки могут восприниматься
сами по себе... В результате такого расчленения родовые признаки
превращаются в объект генерализации. В этой своей новой сущности они
противостоят тому предмету восприятия, от которого только что
отделились и который теперь превратился в пример или частный случай... [Таким
образом, неявные ориентиры.— Х.Д. ] могут быть выделены и превращены
* O.G.S e I f r i d g e, U.Neisser. Pattern Recognition by Machine.—In:
Computers and Thought p. 238.
** A. G u r w i t s с h. On the Conceptual Consciousness.—In: The Modeling
of Mind, p. 203.
69

в объект [специфический признак, который мы осознаем. — Х.Д. ]... в то
время как ранее они только способствовали образованию другого объекта
[образа. — Х.Д.), находясь, так сказать, на "немых ролях"»*.
Это движение от перцептивного сознания к понятийному
(говоря словами Паскаля, от перцептивного склада ума к
математическому) не обязательно означает шаг вперед. А. Гельб и
К. Голдштейн исследовали нескольких человек, страдающих
афазией, которые утратили способность перцептивного
распознавания. Для такого больного всякое распознавание превращается в
задачу классификации. Подобно цифровой вычислительной
машине, больному приходится обращаться к тестовым наборам
признаков и поисковым процедурам. Некоторые из больных афазией
могут узнать геометрическую фигуру, например треугольник,
только проверяя соответствующие признаки, то есть подсчитав
число ее сторон, после чего делается вывод: 'Треугольник имеет
три стороны. Следовательно, это треугольник"**. Такое
понятийное, концептуальное распознавание требует много времени и
очень неуклюже: жертвы подобного нарушения деятельности
мозга абсолютно не приспособлены к повседневной жизни.
Очевидно, в распознавании образов переход от неявного
перцептивного разбиения на группы к точной понятийной
классификации—даже на завершающей стадии, как это имеет место в
шахматах,— обычно невыгоден. Тот факт, что для того, чтобы
распознать некоторый образ, нам не нужно концептуализировать
признаки или четко формулировать свойства, присущие
нескольким экземплярам данного объекта, указывает на отличие
человеческих способов распознавания от машинных, при которых
распознавание происходит только на явном концептуальном
уровне, в терминах принадлежности предметов к определенным
классам.
Уменьшение неоднозначности, основанное на учете контекста.
В рассмотренных до сих пор случаях признаки, определяющие
принадлежность элемента некоторому классу, могли всегда быть
представлены, по крайней мере в принципе, в явной форме, хотя,
как правило, для практического использования в распознавании
они слишком многочисленны. В некоторых случаях, однако,
формализация признаков невозможна даже в принципе. Для того
чтобы разобраться в этом вопросе, мы должны сначала убедиться
в несостоятельности мнения, разделяемого в равной степени как
"традиционными" философами, так и исследователями в области
"искусственного интеллекта", согласно которому распознавание
образов всегда можно представить себе как своего рода класси-
* Ibid., p. 204-205.
** М. М е г I e a u-P о n t у. Phenomenology of Perception. London, R. and
K.Paul, 1962, p. 128tf.
70

фикацию. В этом слишком поспешном заключении объединяются
без разбора три разных типа узнавания, ни один из которых не
обладает теми характеристиками, которых требуют от него
философы и цифровые вычислительные машины.
Во-первых, существует тип узнавания или распознавания,
который А. Гурвич называет "родоотносящим". С помощью
узнавания такого типа мы можем сказать, например, что данный
предмет есть карандаш. Гурвич подчеркивает, что этот тип
распознавания, хотя он и представлен в нечеткой форме,
поддается уточнению в терминах списка признаков. Таким образом его,
по-видимому, можно привести к виду, допускающему
программирование. При этом, однако, Гурвич упускает из виду, что при
распознавании такого типа отбор существенных признаков и
использование некоторых из них в качестве основы узнавания
определяются назначением, целью. Например, когда-то для
человека, который хотел писать чернилами, было важно то, что
гусиное перо, если его заточить, может быть пишущим
инструментом. Однако после того, как появились металлические ручки,
за ними сохранилось наименование перьев (но не карандашей),
по-видимому в связи с тем, что для тех, кто стал ими
пользоваться, решающим оказалось их свойство оставлять на бумаге знаки,
которые нельзя стереть.
Из этого можно было бы сделать вывод, что свойство
оставлять нестираемые знаки является определяющим критерием
для того, чтобы считать предмет пером, в то время как форма
пера есть, говоря словами Л.Витгенштейна, только
"симптом" — "явление, относительно которого опыт показал нам, что
оно тем или иным образом сочетается с данным явлением,
выступающим в качестве определяющего критерия". Можно
попытаться даже встроить это различие между симптомом и
критерием в нашу программу. Однако, по мнению
Л.Витгенштейна, это различие характеризуется тем, что не является
данным раз и навсегда, а изменяется вместе с изменением наших
целей и знаний.
"Если вас спросят, какое явление есть определяющий критерий, а
какое — симптом, то практически вы почти всегда окажетесь не в
состоянии ответить на этот вопрос — разве что возьмете ответ "с потолка". В
одном случае, возможно, будет удобно при определении некоторого слова
использовать в качестве критерия одно явление, однако в другом случае
выяснится, что это же слово можно определить с помощью другого
явления, которое в первом случае оказывается только симптомом. Врачи
пользуются наименованиями заболеваний, не задумываясь над тем, какие
явления следует считать определяющими критериями, а какие —
симптомами, что совсем не обязательно ведет к прискорбному отсутствию
ясности"*.
* LW ittgenstein. The Blue and Brown Books, p. 25.
71

И в самом деле, это один из путей, на котором наши понятия
становятся критериями, открытыми для применения при
распознавании образов человеком, приобретая гибкость, которой так
не хватает вычислительной машине, использующей
фиксированный набор существенных признаков.
Второй тип узнавания — это распознавание сходства. В
узнавании этого типа, как и в феномене "ограничения"* при
определении значений слов и предложений, решающую роль играет
контекст. Благодаря контексту мы начинаем замечать те признаки
сходства, которые впоследствии можем узнать в изолированном
виде — как в случае фигур, допускающих двоякое толкование,
таких, как утка-кролик Л.Витгенштейна: будучи окружена
изображениями уток, она похожа на утку, а в окружении кроликов
напоминает кролика. При других обстоятельствах контекст
помогает нам обратить внимание на некоторые аспекты образа, как в
знаменитом эксперименте В.И. Пудовкина38-
"Однажды Пудовкин сделал крупным планом снимок Мозжухина,
выражение лица которого было абсолютно бесстрастным, а затем
смонтировал три отрывка, в каждом из которых кадры с Мозжухиным шли после
следующих кадров: в первом случае — тарелки с супом, во втором —
молодой женщины, лежащей в гробу, и, наконец, ребенка, играющего с
плюшевым мишкой. И что же получилось? Создалось полное впечатление,
что в каждом из этих кадров Мозжухин смотрит соответственно на
тарелку, на женщину и на ребенка: на суп он глядит задумчиво, на
женщину — с выражением горя, а на ребенка — улыбаясь. Зрители были
поражены разнообразием его выразительных средств, хотя во всех трех
случаях был использован один и тот же кадр, о котором если и можно
что-то сказать, так только то, что он на редкость невыразителен"
Вот поразительный пример того, как контекст определяет
различие в восприятии определенного выражения лица в ситуации,
когда никакие характеристики лица, воспроизводимого на
экране, не могут объяснить этого различия. Нам могут возразить,
что то выразительное, по мнению зрителей, лицо, которое они
видели на экране, имело определенные черты — печальные глаза,
например, или счастливую улыбку, которые и помогли зрителю
узнать то или иное выражение. Но выражение части лица,
например глаз человека, может зависеть от всего лица таким образом,
что, если закрыть остальную часть лица, оно станет совсем иным.
* Разумеется, это выглядит как ''сужение смысла" или "снятие
неоднозначности" только в глазах тех, кто подходит к этому вопросу с
позиций вычислительной машины. Ниже мы убедимся, что человек
структурирует ситуацию в терминах взаимозависимых значений, так что все
остальные возможные значения слова или предложения ему даже не нужно
исключать из рассмотрения. Они просто у него не возникают.
** Цит. по: М.М е г I eau-Pon ty. Sense and Non-Sense. Evanston, III.,
Northwestern University Press, 1964, p. 54.
72

Более того, то или иное выражение глаз может подчеркнуть
определенный изгиб носа, который остался бы незаметен на
другом лице; нос в свою очередь может превратить улыбку в
кривую усмешку, изменив при этом выражение глаз. По
замечанию Л.Витгенштейна, "человеческий рот улыбается только на
человеческом лице"*. В подобных случаях черты, необходимые
для распознавания сходства (бегающий взгляд, насмешливая
улыбка и т.д.), даже когда они носят вполне определенный
характер, нельзя изолировать, то есть рассматривать нейтрально,
вне контекста. Более того, как и в случае уточнения
лингвистического смысла, контекст — в нашем примере человеческое
лицо — не только определяет существенные для распознавания
признаки, но и в свою очередь определяется ими. Выражение лица
нельзя вывести из совокупности признаков, оно есть просто
соотнесенность глаз, рта и т.д., подобно мелодии, которая, будучи
составлена из отдельных нот, сама же и придает им специфические
значения. При рассмотрении сходства, основанного на
соотношениях такого рода, понятие узнавания в терминах изолированных
признаков бессодержательно.
Существует еще один тип сходства, при котором предметы,
опознаваемые как принадлежащие одному и тому же классу,
вообще не имеют каких-либо общих признаков — даже зависящих
от контекста. В процессе изучения естественного языка
Витгенштейн пришел к исследованию этого типа
"неклассификационного" распознавания:
"Мы сталкиваемся с очень сложной сетью перекрывающих друг
друга и пересекающихся сходств. Иногда эти сходства носят общий характер,
иногда касаются лишь деталей.
Лучшим выражением такого рода сходств является "фамильное
сходство"; моменты сходства, присущие членам одной семьи, такие, как
осанка, черты лица, цвет глаз, походка, темперамент и т.д., пересекаются и
перекрывают друг друга именно таким образом. ...Мы расширяем наше
понятие... подобно тому как при прядении нити скручиваем между собой
отдельные волокна пряжи"**.
Фамильное сходство отличается от сходства членов одного и
того же класса следующими весьма существенными моментами.
Классы могут быть заданы в терминах признаков, даже если они
не содержат ни одного элемента, в то время как фамильное
сходство распознается только в терминах действительных или
воображаемых примеров***. Более того, в то время как принад-
* LW ittgensteln. Philosophical Investigations, p. 583.
** Ibid., p. 32.
*** Поскольку типичность в отличие от принадлежности к классу
зависит от сравнений отдельных примеров, сходство, определяющее тип,
должно быть достаточно конкретным. Так, можно говорить о типичном
индейце, но не о типичном человеке.
73

лежность к классу есть отношение типа "все или ничего"*,
фамильное сходство образует целый спектр признаков, от
"типичных" до "нетипичных". Нетипичного члена семьи, например,
можно узнать, выстроив в ряд всех членов семьи, начиная с
типичного ее представителя и кончая данным нетипичным.
Аналогичным образом некоторые понятия, например "изящный",
"аляповатый", "вульгарный", невозможно определить в терминах
необходимых и достаточных условий; единственный способ дать
о них представление — это продемонстрировать типичные случаи.
Поскольку подобное распознавание членства в "семье"
происходит не с помощью перечня признаков, а путем восприятия данного
элемента в терминах близости его к некоторой парадигме
(типичному элементу), постольку оно дает нам пример еще одного типа
"открытости" и гибкости.
Наконец, Витгенштейн идет еще дальше и утверждает, что в
некоторых случаях распознавание может происходить при полном
отсутствии общих признаков, даже перекрывающихся.
Продолжая вышеприведенный отрывок, Витгенштейн говорит довольно
туманно:
«Если кто-нибудь скажет: "Существует нечто общее для всех этих
конструкций, а именно дизъюнкция всех их общих свойств", то я отвечу,
что это просто игра слов. С тем же успехом можно сказать: "Нечто
проходит чеоез всю нить, а именно непрерывное переплетение
составляющих ее волокон")/**.
Возможно, что Витгенштейн говорит здесь о третьем типе
распознавания, который он явно не отделяет от узнавания по
сходству; мы могли бы назвать это распознаванием на основе
подобия.
Витгенштейн в своей интерпретации, по-видимому, имеет в
•Интересная попытка перешагнуть через этот дискретный ("все или
ничего") характер отношения принадлежности к классу была
предпринята Л. Заде (см., например, L. A. Z a d e h. Fuzzy Sets.—"Information
and Control". Vol. 8, 1965, № 3, June). Однако в работе Заде
(самой по себе интересной) классы все еще определяются в терминах
конкретных признаков, просто при определении отношения
принадлежности к классу допускается различная степень этой принадлежности.
"Расплывчатое множество есть класс объектов, степени принадлежности
которых этому классу образуют континуум" (р. 338). Более того, в том
смысле, в каком употребляет это понятие Заде, расплывчатость сама по
себе является расплывчатым понятием. В своем понятии расплывчатости
Заде сваливает в одну кучу пять различных аспектов распознавания
образов, а именно, аспекты, относящиеся к нечеткости границ, к
зависимости от контекста, цели, субъективной оценки и к фамильному сходству.
В результате совершенно непонятно, какой же аспект распознавания
поддается формализации при помощи понятия расплывчатости (и поддается
ли вообще хоть один) 39.
**L. Wittgenstein. Philosophical Investigations, p. 32.
74

виду не просто необозримый характер соответствующей
дизъюнкции, обусловленный тем, что в процессе распознавания
используется очень много перекрывающих друг друга признаков, в силу
чего ею нельзя оперировать. Последовательно продолжая ход его
рассуждений, уместно заключить, что не только каждый из
признаков, упоминаемых им при рассмотрении фамильного
сходства — осанка, цвет глаз, походка и т.д.,— не совпадает полностью
у любых двух членов семьи, но что сами эти признаки в свою
очередь представляют собой сеть пересекающихся подобий.
Продолжая ту же аналогию, можно сказать, что каждое волокно
состоит из волокон, со всеми вытекающими отсюда
последствиями. Таким образом, любые два члена семьи могут иметь
фамильное сходство и в то же время не иметь никаких
идентичных признаков. В анализе Витгенштейна подобие является
исходным понятием, несводимым к списку или дизъюнкции
идентичных по характеру, жестко определенных черт, как того требует
"машинное мышление"*.
Для тех, кто может опознать члена "семьи", не нужно умения
перечислять какие бы то ни было точно совпадающие признаки,
общие хотя бы для двух ее членов — не говоря уже о том, что нет
основания полагать, что такие признаки вообще существуют.
Действительно, формализация фамильного сходства в терминах
точного подобия признаков привела бы к тому, что оно утратило
бы свойство "открытости" для новых случаев,— свойство,
которое составляет наиболее яркое проявление феномена узнавания
этого типа. Независимо от уже построенного дизъюнктивного
списка признаков в "семью" всегда можно ввести новый член,
признаки которого будут подобны признакам других ее членов,
но в то же время не совпадут точно с какими-либо признаками
последних; и тем не менее в некоторых ситуациях этот член
можно будет распознать как принадлежащий к той же "семье",
что и остальные.
Этот сложный, но очень часто встречающийся тип
распознавания использует особую комбинацию всех трех вышеописанных
форм "переработки информации": периферийное сознание, "ин-
сайт" и обращение к контексту. Начнем с того, что этот процесс
протекает в скрытой форме. В нем используется информация,
которая остается, так сказать, на краю сферы сознания. Для того
чтобы понять, какую роль играет в нем интуиция, мы должны
прежде всего выделить различия между "родоотносящим" и
"типоотносящим" узнаванием, хотя у А. Гурвича оба эти понятия
Этот анализ получил дальнейшую разработку у Р. Бамбру
(R. Bambrough. Universals and Family Resemblances).
75

взаимозаменимы. Согласно Гурвичу, родоотносящее
распознавание зависит от скрытых ориентиров, которые всегда можно
представить в явной форме. Распознавание типоотноснщее - в
том смысле, в каком мы до сих пор использовали это
понятие,— зависит от подобий, которые не могут быть
объективированы. Следовательно, распознавание типичного в отличие от
распознавания родового требует интуитивного упорядочения
относительно некоторой парадигмы. Парадигма выполняет свои
функции постольку, поскольку является самым отчетливым
проявлением того, что, по существу, делает все элементы
элементами именно данной группы. Наконец, распознавание в терминах
близости к парадигме есть не что иное, как форма обращения к
контексту.
Л.Витгенштейн отмечает, что "осмысленное
представление — это именно такое понимание, которое заключается в
улавливании связей"*. Следуя Витгенштейну, мы называли эту
комбинацию периферийного сознания, "инсайта" и зависимости от
контекста "осмысленным разбиением на группы — осмысленной
группировкой". Эта форма процесса "переработки информации"
человеком не менее важна, чем те три основные формы обработки
информации, которые входят в нее как составные части.
Расположим в порядке возрастания трудности те условия, при
которых человек в состоянии узнавать объекты.
1) Распознаваемый объект может быть повернут, неполон, искажен,
сопровождаться шумами, помехами.
2) Признаки, необходимые для узнавания, могут быть столь
"тонки и многочисленны", что даже если бы их и можно было
формализовать, то все равно по мере добавления новых подлежащих узнаванию
объектов с их признаками дерево поиска стало бы чрезвычайно
громоздким.
3) Признаки могут зависеть как от внешнего, так и от внутреннего
контекста, поэтому их бесконтекстная спецификация может оказаться
невозможной.
4) Возможно отсутствие общих признаков при наличии "сложной сети
перекрывающихся подобий", которая может служить для выделения все
новых и новых вариаций.
Следовательно, всякая система, претендующая на
адекватность человеческому распознаванию, должна быть в состоянии:
1) для данного конкретного объекта отличать существенные признаки
от несущественных;
2) использовать неявные ориентиры, хранящиеся на периферии
сознания;
3) учитывать контекст;
* Ibid., p. 49.
76

4) воспринимать индивидуальное как типичное, то есть определять
отношение индивидуального к некоторой парадигме.
Поскольку распознавание образов даже умеренной сложности
может потребовать использования всех четырех форм процесса
"переработки информации" человеком, исследования в области
машинного распознавания объектов не продвинулись дальше
многотрудного узнавания простых изображений типа печатных
букв разных шрифтов и цифр почтового кода. Но
общепризнанно, что до тех пор, пока не произойдет существенного сдвига в
работах по распознаванию образов, невозможен дальнейший
прогресс в области моделирования игр, автоматического перевода и
машинного решения задач.
Заключение
Итак, мы выяснили, что основная проблема, стоящая перед
теми, кто пытается использовать ЭЦВМ для моделирования
разумного поведения человека, заключается в необходимости
представления каждой альтернативы в четкой форме. При
моделировании игр экспоненциальный рост дерева альтернатив требует
ограничения числа прослеживаемых путей; в сложных играх,
таких, как шахматы, существующие в настоящее время
программы не в состоянии выбирать наиболее многообещающие
ходы. В проблематике решения задач вопрос упирается не только
в то, как вести избирательный поиск по дереву явно заданных
альтернатив, но и в то, как структурировать задачу, обеспечив тем
самым возможность начала процесса поиска. В области
автоматического перевода в связи с тончайшими нюансами, характерными
длн естественного языка, возникают неясности уже на уровне
самих элементов, подлежащих обработке. Ь распознавании
образов безнадежно переплетаются все три вышеупомянутые
проблемы; кромр того, дело усложняется тем, что типичность и подобие,
по-видимому, являются неотъемлемыми составляющими
восприятия. Все эти трудности и явились причиной того, что через пять
лет после начала работы над "моделированием процесса
познания" в этой области наступило затишье40-
Ни одно из предсказаний Саймона не сбылось. Два первых
предсказания, касающиеся умения машин играть в шахматы и
доказывать математические теоремы, своим провалом поставили
под сомнение и третье его предсказание, касающееся
психологической теорич поведения человека. Несмотря на доверчивость и
рвение, с которыми психологи взялись за дело, за протекшие
десять лет психологические теории в своем большинстве не
приняли форму программ для вычислительных машин.
77

Вместо обещанных триумфов отчетливо проступил общий
контур развития: удачное моделирование простых механических
форм процесса переработки информации, связанные с этим
радужные надежды и, наконец, их крушение при столкновении с
более сложными формами поведения. Предсказания Саймона
оказались просто еще одним примером явления, которое Бар-
Хиллел назвал "обманчивостью первого удачного шага"*. Однако
сам Саймон не пришел к такому отрезвляющему выводу. В своем
последнем предсказании, сделанном в 1965 г., он заявил, что "не
более чем через 20 лет машины смогут выполнять ту же работу,
которая под силу человеку"**.
Часть II нашей книги посвящена обсуждению причин столь
непоколебимого оптимизма. Но сначала мы должны провести
анализ работ в области "искусственного интеллекта",
пришедшего на смену выдохшемуся "моделированию процесса
познания"41 .
* Работа Э.Тофлера "Грядущий шок" представляет собой блестящую
вариацию на ту же тему "первого шага" (см. гл. 2, с. 76).
** H.S imon. The Shape of Automation for Men and Management. New
York, Harper and Row, 1965, p. 96.
78

Глава 2. ВТОРОЙ ЭТАП
(1962-1967)
ПРОЦЕССЫ ПЕРЕРАБОТКИ СЕМАНТИЧЕСКОЙ ИНФОРМАЦИИ
Для того чтобы определить место первого этапа в общей
картине развития и дать представление о том, что ожидалось и что
было сделано на втором этапе, начнем с того, что приведем цитату
из краткого обзора истории работ по "машинному интеллекту",
произведенного М.Минским:
"В начале 50-х годов, когда универсальные вычислительные машины
стали доступным средством научных изысканий, кибернетика распалась...
на три главных направления. В исследованиях, происходивших в рамках
первого из них, продолжались поиски простых фундаментальных
принципов. Целью этих поисков стало отыскание того, что мы могли бы назвать
"минимальными самоорганизующимися системами". Для этого подхода
характерна установка на построение большого набора, как правило,
однотипных элементов, который, будучи организован в некоторую
структуру с очень слабыми ограничениями и погружен в соответствующую
внешнюю среду, начинает вести себя "адаптивным" образом. В конечном
счете можно полагать, что разумное поведение возникает на основе
эволюции такого рода систем"*.
Поскольку исследователи, до сих пор придерживающиеся
этого направления (его иногда называют кибернетикой)42,не
создали ничего интересного — несмотря на то, что выразитель
соответствующих идей Ф.Розенблат является автором самых
фантастических предсказаний и заявлений**,— здесь мы не будем
касаться их работ.
* М. М i n s k у. Introduction.-In: M. M i n s к у (ed). Semantic
Information Processing, Cambridge, p. 6—7.
** Например, следующее сообщение, помещенное в "Chicago Tribune" от
7 июня 1963 г.: "Вчера один из сотрудников Корнелльского университета,
специалист по обучающимся машинам, сообщил о разработке машины,
которая может выдавать на печать текст любого воспринимаемого ею
выступления на уровне секретаря-машинистки. Ожидается, что к осени
(Sic! — Х.Д.) устройство будет готово. Ф. Розенблат, руководитель
проводимых в Корнелльском университете разработок по моделированию
познающих систем, сказал, что эта машина станет самым крупным
"мыслящим" устройством, известным на сегодняшний день. Розенблат выступил с
этим заявлением на одном из совещаний по обучающимся машинам,
которое проходило в Технологическом институте Северо-западного
университета".
В своей математической работе "Перцептроны" (Cambridge, Mass., M.I.T.
Press, 1969) М. Минский и С. Пейперт гораздо менее оптимистически
оценивают исследования в области перцептронов: "Перцептроны широко
рекламировались как машины для "распознавания образов" или "обу-
79

"Второе важное направление включает в себя попытки построения
действующих моделей поведения человека... при этом требуется, чтобы
поведение машины было адекватно поведению испытуемого..."*
"Хороший обзор результатов, полученных в этой области до 1961 г.,
дается в книге "Вычислительные машины и мышление", редакторы
которой — Э.Фейгенбаум и Дж. Фельдман — выполняли свою диссертационную
работу в исследовательской группе института Карнеги"**.
Имеются в виду именно те исследования в области
моделирования процесса познания, проводимые Ньюэллом и Саймоном,
критике которых была посвящена гл.1. Минский также
критически относится к этим работам; в частности, в статье, написанной
им где-то в конце первого этапа, он говорит:
"Методы, дающие неплохие результаты при решении простых задач, с
большим трудом удается распространить на сложные задачи. Дальнейшее
их развитие потребует реализации новых идей, так как в настоящее время
мы вплотную сталкиваемся с очень трудными задачами"***.
Так звучит в устах Минского признание уже отм ченного нами
застоя. Тем не менее Минский вместе со своей группой в
Массачусетском технологическом институте берется выдвинуть
новые идеи и реализовать их:
"Третье направление, которое мы будем называть искусственным
интеллектом, представляет собой попытку построения "разумных машин"
без претензии на создание простейших биологических или "гуманоидных"
систем. Исследователи, работающие в этом направлении, считают разра-
чающиеся машины" и как таковые обсуждались в многочисленных
книгах, журнальных статьях и объемистых "отчетах". Большая часть этих
творений... лишена научной ценности" (M. М и н с к и й, С. П е й п е р т. Пер-
цептроны. М., 1971, с. 10); «схемы Розенблата [1958] быстро
укоренились, и в скором времени буквально сотни групп, больших и малых, стали
проводить опыты с этой моделью под видом либо "обучающейся машины",
либо "адаптивной", то есть "самоорганизующейся" системы, либо системы
"автоматического управления".
Результаты этих сотен проектов и опытов, как правило,
разочаровывали, а объяснения не убеждали. Машины обычно хорошо вели себя на очень
простых задачах, но весьма быстро сдавали позиции, как только
порученные им задания становились сложнее» (там же, с. 25).
В свете этих практических трудностей и теоретических ограничений,
обрисованных Минским и Пейпертом, энтузиазм по поводу ожидающего
перцептрсчы будущыо представляет собой идеальную иллюстрацию
эффекта "обманчивости первого шага"43 (см. подстрочное примечание на
с. 78) . Характерное выражение подобная ошибочная экстраполяция
нашла в заявлении Тофлера '«Future Shock», p. 186): "Эксперименты...
Фрэнка Розенблата и других доказывают, что машины могут учиться на
своих ошибках, улучшать свои результаты, а в случае некоторых
ограниченных типов процесса обучения они в состоянии превзойти человека".
Тофлер ничего не говорит о том, насколько серьезны эти ограничения.
* M.MInsky. Introduction.-In: M. M i n s k у (ed.). Semantic
information Processing, p. 7.
** Ibid., p. 8.
*** M.M i n sky. Descriptive Languages and Problem Solving.-I^:
M. Minsky (ed.). Semantic Information Processing, p. 419
80

ботку самоорганизующихся систем малообещающим или, лучше сказать,
преждевременным делом. Даже если принять в качестве основной цели
простоту изначальной организации, не исключено, что потребуется
накопление предварительного опыта с действующими "разумными системами"
(принцип действия которых, если нет другого выхода, может быть основан
на приемах ad hoc ), прежде чем в конце концов удастся построить более
экономичные модели"*.
Перейдем к рассмотрению этого третьего и сравнительно
недавнего направления и попытаемся на основе результатов,
опубликованных в книге М. Минского "Процессы переработки
семантической информации", разобраться, что же в
действительности было сделано. Сам Минский однажды предложил для
оценки программ, представленных в его книге, пользоваться
следующими пятью вопросами:
1. Почему были выбраны именно данные конкретные задачи?
2. Как работают данные программы?
3. Каковы пределы возможностей программ?
4. Что реально они делают?
5. Как может быть расширена область их применения?
Если в соответствии с этими вопросами мы проанализируем
программы, которые Минский считает лучшими из всех
написанных с 1962 г., мы увидим, что в отличие от работ, выполненных
до 1961 г. (когда впечатление "разумности" создавалось в
основном за счет моделирования простых механических аспектов
разумного поведения), для предлагаемого подхода характерно
следующее: с помощью специальных приемов, подбираемых ad
hoc, решаются искусно подобранные задачи, создающие иллюзию
сложной интеллектуальной деятельности. Однако проблемы,
бывшие камнем преткновения на первом этапе, так и остаются
нерешенными. Кроме того, мы еще раз убедимся в том, что лишь
не допускающая никаких сомнений изначальная уверенность
таких исследователей, как Минский, дает им возможность считать
существующую ситуацию обнадеживающей.
Рассмотрим эти программы более подробно.
I. Анализ программ переработки семантической
информации
Программа, "понимающая английский
язык" - программа STUDENT, составленная
Д. Бобровым.
STUDENT— это программа для решения алгебраических задач
на составление уравнений. Она рассматривается в качестве лучшей
из всех пяти программ переработки семантической информации,
представленных в книге М.Минского. Программа Д. Боброва,
* M. M i n s k у. introduction,—In: M. M i n s к у (ed.). Semantic
Information Processing, p. 8.
81

говорит Минский,—"блестящая демонстрация возможностей
использования смысла при решении лингвистических задач"*. И
действительно, Минский посвящает этой программе значительную
часть своей статьи в журнале "Scientific American", где считает
возможным утверждать даже, будто эта программа позволяет
машине "понимать английский язык"**.
Поскольку эту программу на сегодняшний день считают
наилучшей, начнем с детального ее анализа в соответствии с
предложенными М.Минским пятью вопросами.
Почему были выбраны именно данные конкретные задачи?
Сам Д. Бобров говорит:
"При построении системы, отвечающей на вопросы, многие задачи
значительно упрощаются, если ограничивать их контексты"***.
Более того:
"Существует несколько причин, в связи с которыми именно
алгебраические задачи на составление уравнений были выбраны в качестве
материала для развития методов, позволяющих машинной системе для решения
задач воспринимать информацию, выраженную на естественном языке.
Во-первых, уже существует хорошая структура данных, дающая
возможность заносить в память машины сведения, необходимые для ответа
на вопросы, которые относятся к контексту алгебраических задач, а
именно алгебраические уравнения"****.
Существенно, что выбор данной задачи связан с тем, что
ограниченность контекста облегчает ее решение. Вся важность
этого ограничения станет очевидна только после рассмотрения
следующих двух вопросов.
Как работает данная программа?
Программа! попросту разбивает предложения, фигурирующие
в тексте задачи, на отдельные блоки, пользуясь для этого такими
ориентирами, как слова "больше чем", "равно", "во столько-то
раз" и т.д.; затем, используя переменныех и у, она приравнивает
друг к другу полученные куски предложений и пытается добиться
одновременного выполнения получившегося равенства. Если
полученные уравнения решить не удается, программа переходит к
другим правилам разбиения данных предложений и
предпринимает новую попытку решения. Вся эта схема может работать
только потому, что выполняется некоторое ограничение
(отсутствующее в задачах на понимание обычной разговорной речи),
благодаря которому тот или иной способ замены кусков
предложений переменными приводит к уравнениям, имеющим решение.
По выражению Минского, "некоторая возможность синтакси-
* Ibid, р.5.
** См.: м. Минский. Искусственный разум44-— В кн.: Информация,
М., 1968, с. 210.
*** D. В ob row. Natural Language Input for a Computer Problem
Solving Sistem.-ln: M.Minsky (ed.). Semantic Information Processing, p. 135
**** Ibid., p. 137.
82

ческой неоднозначности на входе устраняется, исходя из общего
принципа алгебраической непротиворечивости"*.
Существует также еще одна особенность задач на составление
уравнений, благодаря которой выбор пал именно на них.
"В естественном языке неоднозначность возникает не только в связи с
тем, что слова в предложении могут быть по-разному структурированы за
счет разбиения на группы различными способами, но также в связи с тем,
что каждому отдельному слову можно приписать разные значения. В
программе STUDENT положение более или менее облегчается тем, что
выполняется такое сильное семантическое ограничение, при котором
рассматриваемые предложения выражают алгебраические соотношения
между обозначаемыми сущностями"**.
Каковы возможности этой программы?
Использование алгебраического контекста, с одной стороны,
несет с собой определенные преимущества; с другой же стороны,
однако, оно существенно ограничивает область применения
программы. Подобное "сильное ограничение" исключает из
рассмотрения как раз тот аспект естественного языка (а именно его
неоднозначность), который усложняет задачу машинной
обработки естественного языка и, быть может, делает ее вообще
неразрешимой. Подобные программы настолько далеки от
семантического понимания как такового, что, как признает сам Бобров,
"фраза the number of times I went to the movies, которая
должна была бы интерпретироваться как последовательность, имеющая
характер переменной, будет неправильно истолкована
программой как результат применения оператора к двум
переменным —number of й I went to the movies,-поскольку times всегда
рассматривается как знак операции"***.
Что же, собственно, было достигнуто?
Д.Бобров довольно осторожен. Хотя его работа несколько
опрометчиво озаглавлена "Программа решения задач на ЭВМ с
вводом исходных данных на естественном языке", он с самого
начала недвусмысленно говорит, что его программа способна
"воспринимать достаточное, но ограниченное подмножество
выражений английского языка"****. Затем он добавляет:
"В дальнейшем изложении я буду пользоваться фразами типа
"программа понимает английский". Во всех подобных случаях под "английским"
понимается ограниченное подмножество выражений английского языка,
допустимое на входе обсуждаемой программы для вычислительной ма-
шины "»**¦*.
*M.Minsky. Introduction.—In: M. M i n s k у (ed). Semantic
Information Processing, p. 18.
#* Ibid., p. 20.
*** D. В о b г о w. Op. cit., p. 18345.
**** D. Bobrow. Natural Language Input for a Computer Problem
Solving Program, MAC-TR-1, V.Y.Т.,abstract of thesis, p. 3 (курсив мой.-Х.Л).
• ##*# о. В о b г о w. Natural Language Input for a Computer Problem
Solving System.—In: M. Minsky (ed.). Semantic Information Processing, p. 135.
83

Достаточно прямолинейное заявление. Автор программы
претендует только на то, что оправдано ограниченным выбором
материала. Он подчеркивает, что "программа STUDENT
воспринимает слова как символы и ограничивается лишь тем
минимумом знания слов, который необходим для решения данной
конкретной задачи"*.
Другими словами, эта программа воплощает в себе некий
минимум семантического понимания. Бобров горд тем, что
достиг столь многого при минимальных затратах. "В основу
семантической модели системы STUDENT положено одно
отношение (равенство) и пять основных арифметических функций**.
В равной степени осторожность Боброва проявляется в
подчеркивании специфичности значения глагола "понимать".
"Для целей данной работы я воспользовался следующим
операциональным определением термина "понимание". Вычислительная машина
понимает предложение из определенного подмножества предложений
английского языка, если она воспринимает это предложение и отвечает на вопросы,
касающиеся информации, в нем содержащейся. В этом смысле система
STUDENT понимает английский язык"***.
В заключение Бобров осторожно пишет: "Я полагаю, что нам
далеко еще до написания программы, которая могла бы понимать
весь английский язык или хотя бы его достаточно большую часть.
Однако в своей узкой специальной области программа STUDENT
доказала, что "понимающие" машины могут быть построены"****.
Тем не менее в своей статье в журнале "Scientific American"
М.Минский говорит, что "STUDENT ...понимает английский
язык". Что же произошло?
Дело в том, что Бобров ставит слово "понимает" в кавычки.
Следует все время помнить, что "понимает" для него значит
просто "отвечает на вопросы, относящиеся к некоторой части
английского языка, ограниченной контекстом задач на
составление алгебраических уравнений". При этом он предпочитает
говорить "понимает", а не "перерабатывает информацию". Однако
невольно возникает ощущение, что его программа имеет какое-то
отношение к человеческому пониманию. Этим и воспользовался
Минский: в своей риторической статье он просто опустил
кавычки.
Еще более удивительны и чреваты ошибочными выводами
* D.Bob row. Natural Language Input for a Computer Problem Solving
System.- In: M. M i n s k у (ed.). Semantic Information Processing, p. 144.
** Ibid., p. 191.
*** Ibid., p. 135. в том смысле, в каком Бобров употребляет слова
"понимает" и "английский язык", даже машина, которая, будучи снабжена
фразой "You are on" ("Вы включены"), только и может что ответить
"Yes" на вопрос "Are you on?", уже "понимает английский язык".
***# Ibid., 194.
84

заявления М. Минского, касающиеся «огромного потенциала
обучения» программы Д. Боброва:
"Обратите внимание на то, как качественно меняется вся работа
программы Боброва STUDENT после того, как ей скажут, что "расстояние
равняется скорости, умноженной на время"! Уже этот единичный акт
расширения ее опыта дает ей возможность решать новый род задач
школьной алгебры, а именно физические задачи, в которых фигурируют
расстояние, скорость и время. Не следует думать, что кривая научения
всегда должна медленно ползти вверх на фоне тошнотворно частых
повторений. Очень важно отвыкнуть от взгляда, что обучение есть только
там, где имеет место этот процесс.
В программе Боброва нет никаких специально предусмотренных
статистических механизмов, так что ей не нужно повторять что-то снова и
снова; ее обучение настолько блестяще, что его и не назовешь
обучением"*.
Однако в этом случае нетрудно показать, что процесс,
который происходит в машине, никак нельзя назвать "пониманием". В
машину действительно было введено еще одно уравнение, но
машина не понимает, что это формула; иначе говоря, программа
может, конечно, подставить в уравнение d= r-t одно значение
расстояния, одно значение скорости и одно значение времени, но
она ничего не понимает, так как не может использовать это
уравнение дважды в одной и той же задаче, поскольку неспособна
решать вопрос о том, какие величины связывают друг с другом те
или иные уравнения. Как признает Бобров, "в задаче одна и та же
переменная должна быть представлена одной и той же фразой"**.
Итак, обучения не произошло.
Отбросив кавычки в слове "понимает", а в слове "обучение"
сделав их символом сверхчеловеческого обучения, Минский
переходит в область умозрительных рассуждений:
"Чтобы машины могли хотя бы улучшить свою работу, существенно
необходимо иметь в машине элементарное понимание собственного
процесса решения задач и некоторую способность распознавать улучшение,
когда оно найдено. Я не вижу веских причин, почему это невозможно для
машины. Если заложить в машину модель ее собственной работы, она
наряду с решением других задач могла бы работать и над задачей
самосовершенствования...
После того как мы создадим программы, наделяющие машины
подлинной способностью к самоулучшению, начнется быстро развивающийся
процесс в этой области. Поскольку машина улучшает и самое себя и
собственную модель, мы сумеем увидеть все те явления, которые мы
связываем с такими понятиями, как "сознание", "интуиция" и даже
"разум". Трудно сказать, насколько близко мы подошли к этому порогу,
но когда-нибудь мир переступит через этот порог и ему уже невозможно
будет остаться прежним"***
* M. M i n s k у. Introduction.— In: M. M i n s к у (ed.). Semantic
Information Processing, p. 14.
** D. Bob row. Op. cit.—In: M. M i n s к у (ed.). Semantic Information
Processing, p. 192.
*** M. M и н с к и й. Искусственный разум. — В кн.: Информация,
с. 214-215.
85

Однако не так уж трудно, вопреки мнению М.Минского,
сказать, насколько близки мы к этому порогу. Поскольку
считается, что в программе Д.Боброва реализованы те зачатки
понимания и обучения, на которые рассчитывает Минский, нам
остается только поставить вопрос: до какой степени могут быть
обобщены и расширены методы, использованные Бобровым?
Это приводит нас к последнему вопросу: каким образом
можно распространить рассматриваемую программу на более
широкие области применения?
Здесь уже и Д.Бобров отбрасывает всякую осторожность:
вопреки своему прежнему замечанию о том, что семантическая
модель построена на единственном отношении (равенстве) и,
следовательно, может составлять и решать уравнения только в тех
случаях, когда удается использовать некоторое алгебраическое
условие, он заявляет, что его "семантическая теория словесного
общения может послужить основой для значительно более общей
системы переработки языковых соотношений"*. Автореферат
своей диссертации Бобров заключает уже знакомой нам
вариацией на тему "первого шага". "Система STUDENT- это первый
шаг к общению с вычислительной машиной на естественном
языке. Дальнейшая работа над этой семантической теорией
должна привести к гораздо более тонким и богатым системам"**.
Со времени этого заявления прошло пять лет, однако никакой
более богатой возможностями семантической теории не
появилось46-Трудно понять, почему Д.Бобров и М.Минский, отдавая
себе отчет о всех специфических ограничениях, соблюдение
которых необходимо для нормальной работы данной программы,
считают тем не менее, что такое обобщение наверняка возможно.
Я полагаю, что ни оправдать, ни хотя бы объяснить их оптимизм
по отношению именно к этому, по общему признанию весьма
ограниченному, подходу ad hoc нельзя ничем. Что же касается их
"глобального" оптимизма в отношении того, что некоторый
машинный подход в данной области обязательно будет
реализован, то его истоки можно проследить вплоть до фундаментальной
метафизической предпосылки, касающейся природы языка и
разумного поведения человека, согласно которой любое
упорядоченное поведение человека может быть в принципе
формализовано и представлено в виде программы для цифровой
вычислительной машины (см. гл. 5). Этим и объясняется уверенность
М.Минского и Д.Боброва, позволяющая им расценивать все
трудности, возникающие на их пути, как технологические затруд-
* D.Bobrow. Op.cit- In: M.M i n s k y.(ed.). Semantic Information
Processing, p. 194.
** D.Bobrow. Natural Language Input for a Computer Solving Program.
Abstract of thesis, p. 3.
86

нения, связанные, в частности, с ограниченной емкостью
запоминающих устройств современных ЭВМ*.
Не будь этой предпосылки, частичный успех работы Д.
Боброва, которую М. Минский объявил наиболее многообещающей из
существующих, был бы воспринят как искусный трюк, ничего не
говорящий ни за, ни против возможности существования
машинного понимания. Тот факт, что эта работа — лучшее, что сумел
создать столь незаурядный человек, как Д. Бобров, пробудил бы
сомнения в возможности достижения рубежа, за которым
начинаются самосовершенствующиеся машины.
Программа определения аналогий,
разработанная Т. Э в а н сом
Вся "коллекция" аргументов М. Минского сделана по одному
шаблону: о решении с помощью приема ad hoc некоторой
ограниченной задачи сначала сообщается с некоторой
осторожностью, а затем это решение трактуется как первый шаг к
развитию более общих методов. Но все работы, представленные в
сборнике М.Минского, были закончены к 1964 г., и, хотя с той
поры прошло еще семь лет, ни одно из прокламированных
обобщений так и не было осуществлено.
Рассмотрим, к примеру, программу определения аналогий
Т.Эванса - сложную, умело написанную программу для решения
задач на обнаружение сходства типа тех, которые
используются в тестировании интеллекта (рис.). Программа решает крайне
специфическую задачу, и решает ее на уровне среднего
десятиклассника, что, учитывая современный уровень таких программ,
является выдающимся достижением. Что еще более существенно,
Эванс отдает себе отчет в том, что эта удачная сама по себе работа
мало что дает: ее можно признать успешной только в том случае,
если методы, использованные в ней, допускают какое-то
обобщение. Но в отличие от Д. Боброва он не удовлетворяется
утверждением, что такое обобщение возможно. В заключении к своей
работе он пытается набросать в общих чертах такое обобщение и
описать те преимущества, которые при этом получат программы
для решения задач (типа GPS) и распознавания образов:
* В статье, помещенной в журнале "Scientific American", M. Минский
ставит вопрос: "Почему машины не более разумны, чем это есть на самом
деле?" - и отвечает: "До настоящего времени были весьма ограничены
ресурсы в людях, времени и сами возможности вычислительных машин.
Некоторые наиболее тщательно продуманные и серьезные попытки
разработки разумных машин уже приближаются к поставленным частным
целям...; другие исследования были ограничены возможностями
оперативной памяти вычислительной машины; третьи столкнулись с трудностями
программирования" (М. Минский. Искусственный разум. — В кн.:
Информация, с. 213-214).
87

«На последних страницах этой главы мы опишем процесс
"распознавания образов", главные идеи которого основываются на описанном
выше понятии аналогии. Предлагаемый подход претендует на некоторые
преимущества, главным образом за счет того, что вводятся более мощные и
более общие схемы описаний для рассматриваемых "объектов"»*.
"GPSтрактует составные части некоторого данного объекта с помощью
организации его в терминах целей и подцелей. Тем самым GPS уходит от
рассмотрения сложных структур на каждом конкретном уровне путем
разложения их на более мелкие структуры, связанные с подцелями. Таким
образом, GPS никогда не воспринимает отдельную сложную структуру как
таковую; когда какая-либо подструктура рассматривается на более
глубоком уровне подцелей, она находится "вне контекста" в том смысле, что
отсутствует необходимая информация о том, что даст достижение этой
подцели для продвижения к цели более высокого уровня. Ньюэлл
обсуждает одну из таких "бесконтекстных" задач и делает несколько довольно
безуспешных попыток ее решения. Описанный нами в общих чертах
механизм представляет собой систему распознавания образов, которая в
состоянии воспринимать "глобальный" аспект задачи и в то же время имеет
доступ ко всей ее структуре. "Глобальное" управление такого рода может
оказаться полезным для GPS, давая возможность экономить время
(поскольку при существующем варианте программы много времени
тратится на выдвижение и достижение подцелей, не ведущих к целям самого
высокого или близкого к нему уровня). Уже одно это будет большим
шагом вперед"**.
Т.Эванс выдвигает также некоторые предложения,
касающиеся обучения:
* Th. Evan s. A Program for the Solution of a Class of Geometric-Analogy
Intelligence Test Question,- In: M.M insky (ed.). Semantic Information
Processing, p.346-347.
** Ibid., p. 349.
88

"Разумеется, изучение этих проблем в относительно хорошо
разработанной области языков со структурой непосредственных составляющих^
представляет собой естественный шаг вперед по направлению к созданию
настоящего машинного "обучения обобщению"; кроме того, решение этих
задач откроет путь к исследованию проблемы моделирования обучения в
случае более сложно описываемых языков. Поскольку правила
преобразования могут быть сами выражены в терминах структуры непосредственных
составляющих, одна из интересных возможностей состоит в том, чтобы
применить совокупный аппарат "структура непосредственных
составляющих плюс GPS" для улучшения собственного набора правил
преобразования"*.
Т.Эванс понимает, что "это, по-видимому, крайне трудная
задача"**. Скорее всего, так оно и оказалось, поскольку с
момента завершения в 1963 г. его работы над этим проектом о нем
больше не было опубликовано ни слова. Как мы видели,
Ньюэлл также забросил свою GPS, а распознающие программы, по
словам М.Идена, в 1968 г. основывались по-прежнему на приемах
ad hoc. Отсюда вновь следует знакомый вопрос: почему
М.Минский и Т.Эванс так уверены, что метод ad hoc, приведший к
решению этой специфической и довольно сложной задачи
отыскания аналогий, может быть обобщен? Некоторый намек на причины
этой уверенности можно найти в довольно неожиданном
сравнении, которое проводит Минский между программой Эванса и
человеческим способом решения задач, основанном на аналогии.
Вопреки своим обычным заверениям о том, что ИИ не имеет
отношения к моделированию познания, Минский дает следующее
"менталистское" описание работы программы Эванса:
"Для изложения сущности этой работы лучше всего описать данную
программу в менталистских терминах. Если задан некоторый набор фигур,
то программа строит набор гипотез или теорий следующим образом:
1. Основываясь на описаниях D(A) и D(B) фигур АиВ (см.рис.2.
— Х.Д.), можно выбрать много путей преобразования D(A) в D(B); выбери
один из них.
2. Существует также много путей установления соответствия между
частями фигуры А и частями фигуры С; каждое такое соответствие может
стать основой некоторого отношения того типа, о котором шла речь в п. 1,
но на сей раз связывающего фигуру С с какими-то другими фигурами.
3. Маловероятно, что какое-нибудь из отношений, найденных в п. 2,
окажется полностью применимым к какой-нибудь фигуре-ответу. (Если
оно окажется таковым, то соответствующая фигура и есть результат
работы программы.) Для каждой фигуры-ответа каждое отношение
должно быть "ослаблено" (то есть обобщено) ровно настолько, насколько
это нужно для того, чтобы оно оказалось применимо к данной фигуре.
4. И наконец, программа учитывает степень ослабления каждого
отношения. Она выбирает то из отношений, которое требует наименьшего
изменения и выдает в качестве результата соответствующую фигуру из
множества фигур-ответов.
Выбирая гипотезу, связанную с минимальным "ослаблением"
исходного преобразования А -> В, программа тем самым отдает предпочтение
* Ibid., p. 350.
** Ibid.
89

тому объяснению, в котором заключено больше информации, общей для
отношений А-* В и С-* D. Подробности правил выбора на этапах 1, 2, 3, 4 и
составляют, в сущности, предложенную Эвансом теорию человеческого
поведения в подобных ситуациях. Я совершенно убежден в том, что любое
рассуждение по аналогии включает в себя нечто, имеющее именно такой
общий характер"*.
В статье, опубликованной в журнале "Scientific American",
М. Минский сформулировал это "нечто" более четко: "Я убежден,
что все виды рассуждения по методу аналогии повинуются этим
правилам"**. Это та же самая предпосылка, которая, как мы
видели, лежит в основе работ Ньюэлла и Саймона в области
моделирования процессов познания. При описании процедуры
решения задачи Т.Эванс фактически повторяет Ньюэлла:
"Эти программы, в сущности, похожи. Их работа — процесс не простой,
так что мы можем сказать, что обе программы действительно решают
задачу, а не просто осуществляют шаг за шагом те процедуры поиска
решения, которые придумал программист. Они имеют дело с
формализованными задачами, хотя и трудными, но с "хорошей структурой".
Программы строятся на единой системе понятий: они находят
комбинаторную интерпретацию задачи, сводя ее к поиску правильной
последовательности операций среди множества всех возможных
последовательностей. Все программы порождают то или иное дерево возможностей
и шаг за шагом исследуют все допустимые последовательности. Множество
всех последовательностей слишком необъятно, его нельзя построить и
просмотреть in to to, поэтому для сокращения числа возможностей до
разумных пределов, поддающихся машинной обработке, используются
различные ухищрения, называемые эвристиками".
В заключение Т.Эванс пишет:
"Программа геометрических аналогий также подпадает под это
описание. Говоря очень кратко, при рассмотрении задач такого типа программа
использует различные эвристики для выбора (за разумный срок)
"адекватного" правила из очень широкого класса допустимых правил"***.
Можно с уверенностью сказать, что если бы человек решал
задачи поиска аналогий именно таким образом, то были бы все
основания надеяться на улучшение и обобщение программы
Эванса, поскольку человек, разумеется, далеко превосходит
уровень, демонстрируемый существующими программами. Однако,
как и в случае GPS, ничто не говорит в пользу того, что человек
действует именно таким образом, а данные эмпирической
психологии свидетельствуют как раз об обратном.
Р.Арнхейм, профессор психологии Гарвардского
университета, анализируя работу Эванса, указал на иной подход, которым
пользуется человек, решая задачи такого рода. Слова Арнхейма
стоят того, чтобы привести их полностью:
* М.М i n s k у. Introduction.—In: M.M i n s к у (ed.). Semantic Information
Processing, p.16 (курсив мой.-Х.Д.).
**M. Минский. Искусственный разум. — В кн.: Информация, с. 206.
***Th. Evans. Op.cit.-ln: M.M in sky (ed.). Semantic Information
Processing, p. 280 (курсив мой.- Х.Д.).
90

"Что происходит, когда человек сталкивается с фигурой, подобной той,
которая изображена на рис. [2] ? Реакция будет несколько меняться от
человека к человеку, поскольку нет никакого конкретного контекста,
способствующего концентрации внимания на тех или иных специфических
структурных признаках. Однако в общем и целом испытуемый, вероятнее
всего, заметит своего рода вертикальную организацию, состоящую из двух
частей, верхняя из которых сложнее и больше по величине, чем нижняя4^;
он может заметить также различия в контурах. Другими словами, он
воспримет качественные характеристики конфигурации, относительные
величины и очертания, в то время как большинство метрических свойств, с
учета которых должно начинаться восприятие образа вычислительной
машиной, а именно абсолютные размеры и те или иные длины и растояния,
характеризующие данную конкретную фигуру, он вряд ли заметит. Если
попросить испытуемых нарисовать фигуру, которую они воспринимают, то
выяснится, что они обращают внимание на топологические особенности и
пренебрегают точными размерами.
Если теперь испытуемый столкнется с сочетанием фигур А и В, опыт его
резко расширится и обогатится. Сначала у него появится смутное
ощущение сходства между совершенно различными как будто изображениями.
Конструкция, состоящая из двух данных фигур, в целом может показаться
несоединимой, иррациональней, непостижимой. Налицо две вертикальные
организации, сочетающиеся в своего рода симметрии, которая разрушается
отношениями по диагонали между двумя большими "заполненными"
кругами и двумя маленькими "незаполненными" фигурками.
Многообразие структурных характеристик никак не складывается в единое,
устойчивое и доступное пониманию целое. Не исключено, однако, что
испытуемый внезапно уловит, что четыре меньших фигуры — два равных
кружка вверху и два равных квадрата внизу — составляют вместе простую
прямоугольную структуру. Как только эта структура станет
доминирующим мотивом или организующей основой целого, остальные
фигурки — два больших круга — добавятся к основному образу в качестве
второстепенных "диагональных украшений". Иерархия структур
установлена. Теперь конструкция из двух фигур устойчива, обозрима, доступна
пониманию и потому готова к сравнению с другими фигурами. Первый акт
поиска решения задачи произошел.
Когда после этого человек обратится к фигуре С, то новое в ней для
него с самого начала будет определяться опытом, накопленным при
рассмотрении фигур А и В. Будучи сравниваема с фигурой А, фигура С
обнаруживает аналогичную вертикальную структуру, отличающуюся от
структуры А по существу второстепенным различием контуров фигурок.
«Фамильное» сходство обеих фигур достаточно велико, и отношения между
ними устанавливаются просто. Если же теперь С сопоставить с D1, то их
сходство кажется избыточным, симметрия слишком совершенной.
Сравнение с D2, напротив, дает слишком малое сходство. Если отношение между
А и В было установлено правильно, то D3 сразу распознается как
подходящая к С пара — недостающий четвертый элемент аналогии.
Этот пример из области перцептивного решения задач включает все
характеристики подлинного мышления: проблемную ситуацию,
продуктивный поиск, надежды и догадки, частичные решения, неприятное ощущение
противоречия, внезапное озарение, ведущее к окончательному решению,
адекватность которого очевидна, структурные преобразования,
возникающие под давлением изменения ситуации в целом, обнаружение
элементов сходства между различными образами. Все это, вместе взятое,
представляет собой в небольшом масштабе живой опыт, достойный существа,
которому дарован разум. Когда решение наконец найдено, мы ощущаем
спад напряжения, удовлетворение, покой.
В вычислительной машине все происходит иначе, и не потому, что она не
обладает сознанием, а потому, что принцип ее действия в корне иной. Мы
91

поражаемся, когда узнаем, что для того, чтобы научить машину решить
задачу по аналогии, экспериментатору "пришлось разработать, пожалуй,
одну из самых сложных из всех когда-либо написанных программ". Для
нас эта задача не сложна — она доступна начинающим студентам. Причина
такого различия в том, что подобные процессы требуют рассмотрения
топологических отношений, а это влечет за собой отбрасывание отношений
чисто метрических. Мозг приводится в движение именно такими
"топографическими" признаками, так как они дают нам информацию о типовых
характеристиках вещей, а не об их конкретных количественных
характеристиках"*.
Как и в шахматах, глобальное перцептивное разбиение на
группы обязательно предшествует управляемому правилами
перебору — единственному виду деятельности, доступному машине.
Как пишет Р.Арнхейм, "топология была открыта перцептивной
мощью мозга и рассчитана на перцептивные, а не арифметические
его возможности"**.
По-видимому, Минский и Эванс полагают, что человек находит
аналогии с помощью правил преобразования, поскольку прогресс
в развитии ИИ возможен только в предположении, что человек
решает задачи именно таким образом. Но это рассуждение
заведомо порочно, поскольку нельзя основывать свой оптимизм
на гипотезе, которая в свою очередь подтверждается только тем
фактом, что, окажись она верной, оптимизм ее сторонников был
бы оправдан.
Программа организации семантической
памяти, составленная Р. Квиллианом
Последняя из рассматриваемых нами программ самая
интересная, так как она наиболее обща и наименее претенциозна — по
крайней мере ее автор (он работает под руководством Г.Саймона,
а не М. Минского) не делает никаких огульных заявлений и
обещаний***. Это программа подтверждает общее правило
оценки качества эвристических программ (вспомним сдержанность
А. Сэмюэля, когда он говорит о своей программе, и ее
результативность, с одной стороны, и претенциозность Г. Саймона и X. Ге-
лернтера при очень скромных успехах — с другой), которое
заключается в следующем: значимость программы часто
находится в обратной зависимости от обещаний и рекламных заявлений
ее авторов.
* F.A r n h e i m. Intelligence Simulated. —"Midway", University of Chicago,
June 1967, p.85-87.
** Ibid.
*** В отличие от М.Минского Г.Саймон, по-видимому, не требует от
своих учеников публичного обета верности, хотя сам принадлежит к числу
"верующих".
92

Р.Квиллиан, как и Д.Бобров, занимается моделированием
явления понимания естественного языка, но в отличие от Боброва
и Минского он отдает себе отчет в том, что к этой задаче нет
смысла подходить с позиции поиска решения с помощью
приемов ad hoc.
"Прежде всего, мы полагаем, что авторы теорий переработки
информации или машинных моделей, если они хотят добиться успеха, не должны
игнорировать семантику или устранять ее, как это до сих пор имеет место в
большинстве программ по переработке информации, заданной на
естественном языке. Неважно, что именно по замыслу автора должна делать
программа — производить грамматический анализ предложения, переводить
с одного языка на другой или отвечать на вопросы, задаваемые на
естественном языке,—если в ней не учитываются семантические
характеристики, причем изначально и достаточно часто, то, я думаю, у нее нет
шансов достичь уровня человека"*.
Предприняв обзор всех имеющихся в этой области работ,
включая работу Д. Боброва,Р. Квиллиан пишет:
"Программы, подобные программе Боброва, в состоянии составлять
уравнения, соответствующие некоторым текстовым алгебраическим
задачам, с помощью почти полностью "синтаксической" процедуры. ...Однако
если попытаться расширить ту часть языка, которая доступна такой
программе, то неизбежно придется вводить в нее все большее число
семантических фактов"**.
В заключение Р.Квиллиан говорит:
"...вопрос о том, что должно храниться в общей долговременной
памяти, подобной памяти человека, как должна записываться в ней
информация, как память должна быть организована, в предшествующих
моделирующих программах не был рассмотрен во всей его общности...
Дальнейшее развитие моделирования решения задач, моделирования игр, а
также речевого поведения, несомненно, потребует создания программ,
организующих большие массивы памяти и взаимодействующих с ними"***.
Затем Квиллиан переходит к описанию своей сложной
эвристической программы, обеспечивающей занесение в память и
извлечение из нее значений слов и "всего того, что можно выразить
в языке, почувствовать в восприятии или каким-либо иным путем
постигнуть и запомнить"****, — программы, организующей
содержание памяти в виде одной "огромной, взаимосвязанной
сети"*****. По предположению Квиллиана, в этой программе
воплощена "разумная точка зрения на то, как организована
* R.Q u i I I i a n. Semantic Memory.- In: M.M i n s k у (ed.). Semantic
Information Processing, p.251.
** R.Qu i I I i an. Semantic Memory. Bolt, Beranek and Newman, Inc., Paper
AFCRL-66-189, 1966, October, p. 54. (В сжатом варианте диссертации,
приводимом в книге под редакцией М. Минского, этого нет.)
*** R. Q u i I I i a n. Op. cit.-ln: M. M i n s k у (ed.). Semantic Information
Processing, p.219-220.
**** Ibid., p.221.
•**** Ibid., p.222.
93

семантическая информация в мозгу человека"*. Однако
никаких доводов в пользу разумности этой точки зрения он не
приводит, за исключением разве что того соображения, что если
бы необходимость хранения семантической информации возникла
перед вычислительной машиной, то предлагаемая программа
оказалась бы для этого разумной моделью. В действительности
человек не осознает того, как он проводит сложные процессы
занесения в память и извлечения из нее, о которых говорит
Р. Квиллиан. Однако последнего это мало волнует; он, как и его
учитель Саймон, всегда может сказать, что эти процессы все же
происходят, подсознательно.
"Хотя процесс кодирования текста, разумеется, не совпадает с тем
скрытым от нас процессом, который приводит к пониманию текстового
материала при обычном чтении, все же он... в каком-то смысле является
его замедленной и доступной для обозрения версией**.
Тот факт, что подобная подсознательная переработка
информации действительно имеет место и, более того, происходит в
соответствии с эвристическими правилами, отнюдь не очевиден.
Мы уже видели, что и в игре в шахматы, и при отыскании
аналогий решающее значение имеет разбиение объектов на
группы, основанное на целостном восприятии; очень может быть, что
и в данном случае это так. Но создается впечатление, что
Р. Квиллиан усвоил от Ньюэлла и Саймона безоговорочно
принимаемое ими допущение, что человек действует по эвристическим
программам.
"Эвристические методы, с помощью которых выбирается единственное
конкретное осмысление текста, составляют центральную проблему для
всякого, кто хочет объяснить "понимание"; точно так же эвристические
методы, с помощью которых выбирается единственный конкретный ход из
всех возможных ходов, составляют центральную проблему для всякого,
кто хочет объяснить процесс игры в шахматы"***.
Приняв такое допущение, Квиллиан с неизбежностью должен
предположить, что идеал программы должен состоять в том,
чтобы задавать функционирование системы в направлении "от
частей к целому".
"Выбирая задачу, в рамках которой можно было бы работать с моделью
памяти, естественно начать со способности к пониманию незнакомых
предложений. По-видимому, разумно предположить, что у человека нет
другого пути понимания новых предложений, кроме извлечения из памяти
хранящейся в ней информации о значениях отдельных слов и
словосочетаний (и, возможно, небольшого изменения этих значений) с последующим
комбинированием значений в целях формирования смысла предложения. В
* Ibid., р. 216.
** Ibid., p. 247.
*** R. Q u i I M a n. Semantic Memory, Bolt, Beranek and Newman, Inc.,
Paper AFCRL-66-189, p. 113.
94

соответствии с этим в нашу задачу входит построение модели хранения
семантических сведений и формулирование правил комбинирования, по
которым из хранящихся в памяти смыслов слов происходит построение
значений предложений"*
Квиллиан также ждет от своей системы многого:
"Далее, вполне правдоподобно, что если бы удалось адекватно
закодировать и вложить в память ЭВМ хотя бы несколько значений слов, а затем
формализовать на уровне машинной программы работоспособный набор
правил их комбинирования, то можно было бы слово за словом
наращивать запас закодированных значений наподобие шнуровки на ботинках;
тогда вычислительная машина сама бы "понимала" предложения, которые
ею построены, и использовала их для формулировки определений других
слов. А это значит, что если новое, еще не закодированное слово может
быть определено с помощью предложения, в которое входят только слова с
уже закодированными значениями, то машина в состоянии построить
объект, представляющий смысл этого предложения, исходя из уже
имеющихся у нее сведений и правил комбинирования;объект этот —
представитель смысла — и будет тем соответствующим предложению кодом, который
следует добавить к содержимому в памяти в качестве значения нового
слова"**.
С откровенностью, столь редкой в публикациях на данную
тему, Р. Квиллиан сообщает также и о своих разочарованиях:
"К сожалению, два года работы над данной проблемой показали, что
для нынешнего уровня знаний эта задача слишком трудна. Процессы,
происходящие в мозгу человека, когда он "понимает" предложение и
включает его смысл в свою память, очень сложны, и происходят они
практически без участия сознания"***.
Масштабы задачи, стоящей перед Р.Квиллианом, станут яснее,
если мы заметим, что
"определение восьмисот пятидесяти слов вмещает в себя больше
информации, чем в состоянии вместить магнитные запоминающие
устройства современных вычислительных машин"****.
Эти трудности наводят на мысль, что, быть может, ошибка
кроется в самой модели, то есть в идее о том, что наше понимание
естественного языка включает в себя построение
структурированного целого из огромного числа точно описанных частей.
Работа Р. Квиллиана скорее ставит, чем решает вопрос о
запоминании этого колоссального множества фактов, — вопрос,
возникающий в связи с тем, что в проводимом анализе отсутствуют
перцептивные гештальты. Если структура данных по мере
добавления новых определений будет расти слишком быстро, то и без
того не слишком обнадеживающую работу Квиллиана можно
считать reductio ad absurdum всего машинно-ориентированного
* R.Q u i I I i а п. Semantic Memory.- In: M.M insky (ed.), Semantic
Information Processing, p.235.
** Ibid., p.235.
***lbid
**** lbid,p.241.
95

подхода. Прежде чем решить, дает ли работа Квиллиана основание
для оптимизма, любопытно получить ответ на коренной вопрос:
как с увеличением числа элементов растет база данных у
Квиллиана — линейно или экспоненциально?
По поводу этого основного вопроса, как это ни удивительно,
можно встретить массу обнадеживающих заверений, но мало
информации. Программа Квиллиана имеет дело только с 50 — 60
словами. М. Минский в сборнике, вышедшем в 1968 г., то есть
спустя три года после завершения этой программы, вынужден
признать, что «пока мы еще мало знаем о том, насколько
эффективными станут методы Квиллиана при использовании
более содержательных "банков знаний"»*. И опять о дальнейшем
развитии сообщений не имеется.
II. Значение сегодняшних трудностей
Каковы разумные перспективы? По оценке М.Минского, в
настоящее время программа Квиллиана содержит несколько
сотен фактов, в то время как "для мощного интеллекта
потребуется миллион фактов"**. Он также признает, что каждая из
"рассмотренных (в его книге.— Х.Д.) программ лучше всего
будет работать при условии обеспечения ее только необходимыми
фактами, ибо по мере роста массивов информации программы
безнадежно увязают в массе фактов"***.
Если так, то возникает вопрос, существуют ли хотя бы какие-
нибудь основания для уверенности в том, что эти программы
приближают нас к тем "эвристикам высшего уровня,
управляющим познавательной структурой", которыми, как считает
Минский, располагает человек? Можно ли согласиться со следующим
заявлением Минского, сделанным в другой его работе:
"При жизни нашего поколения... останется лишь немного
интеллектуальных задач, которые будут не под силу машинам: проблема создания
"искусственного интеллекта" будет в основном решена"****.
Во всяком случае, труд "Процессы переработки
семантической информации" не дает оснований для такой уверенности.
М. Минский, как мы видели, критикует более ранние программы
за недостаточную общность. "Каждая программа работает только
в соответствующей специальной области, и стыковать две разные
программы оказывается совершенно невозможно"*****. Однако
* М. М i n s k у (ed.). Semantic Information Processing, p. 1.
** Ibid., p. 26.
***lbid.,p. 18.
**** M. M i n s к у. Computation: Finite and Infinite Machines. Englewood
Cliffs, N.J., Prentice-Hall, 1967, p. 2.
***** M. M i n s к у (ed.). Semantic Information Processing, p. 13.
96

предлагаемые Минским решения остаются, как правило, на
уровне приемов ad hoc, и тем не менее с некоторой долей беспечности
он пишет далее:
"Рассмотренные в данной книге программы все еще страдают этим
недостатком, но их авторы уже не игнорируют этой проблемы. Их основная
задача фактически состоит в том, чтобы решить ее"*.
Но как-то незаметно, чтобы хоть одна из представленных
М. Минским работ что-нибудь решала. Ни одной общей
характеристики способности человека к разумному поведению найти не
удалось. Все, что предлагает Минский, — это частные решения
отдельных задач, как у Боброва и Эванса, или предельно
упрощенные модели, как у Квиллиана, которые работают именно потому,
что проблема структурирования и хранения необходимого объема
данных была исключена из рассмотрения. Минский, конечно, уже
ответил на эти очевидные обвинения новой вариацией на тему
"первого шага":
"Хотя область применения предлагаемого пакета программ все еще
производит впечатление довольно узкой, это не доказывает отсутствия
прогресса в движении к более общим результатам. Каждая из этих
программ — шаг вперед к управлению знанием"**.
По-видимому, на втором этапе игра заключается в
следующем: выяснить, в какой мере можно наращивать видимость
сложного, оставаясь в то же время на безопасном расстоянии от
подлинной проблемы сложности, а затем, убедившись, что
обобщение невозможно, объявить, что сделан только первый шаг49-
Такой подход неизбежен до тех пор, пока исследователи
в области ИИ будут стремиться к эффективным
результатам, не решив практической задачи хранения в памяти
большого объема данных, необходимого — хотя, быть может, и
недостаточного — для всесторонней гибкой переработки
семантической информации. Оглядываясь на достигнутые
результаты, М. Минский с удовлетворением отмечает: "Трудно
сдержать изумление, видя, как много все-таки достигнуто при
столь ограниченной семантике"***. И. Бар-Хиллел в беседе с
представителями SIGART (Special Interest Group In Artificial
Intelligence of the Association for Computing Machinery)
подчеркнул, что такого рода заявления лишь вводят в
заблуждение:
"Существует немало людей во всех областях знания и особенно в сфере
ИИ, которые расценивают любой первый шаг в использовании ЭВМ там, где
* Ibid.
** Ibid, (курсив мой.- Х.Д.)
***lbid„ p. 26.
97

они ранее не применялись, как такое достижение, которое делает
оставшиеся шаги делом "простой техники". В сущности, такая точка зрения
равносильна утверждению, что если какая-то работа может быть вообще
передана вычислительной машине, то она будет выполняться ею хорошо.
Дело обстоит как раз наоборот: шаг, ведущий от полной невозможности
выполнить что-то к возможности выполнить это хоть как-нибудь,
значительно короче следующего шага, приводящего к умению выполнить это
хорошо. В исследованиях в области ИИ подобное заблуждение встречается
постоянно"*.
Однако И.Бар-Хиллел, пожалуй, излишне простодушен, если
полагает, что это непонимание является простым следствием
недооценки трудностей, связанных с прогрессом в данной
области. Для того чтобы иметь основание утверждать, что первый,
пусть даже маленький шаг уже сделан, надо быть уверенным в
том, что последующие шаги в конце концов достигнут желаемой
цели. Как мы видели, книга М.Минского таких оснований не
дает. Вполне возможно, что вышеупомянутые шаги окажутся
семимильными шагами в противоположном направлении.
Ограниченность результатов, описываемых Минским, в сочетании с тем
фактом, что за последние пять лет ни одно из множества
прокламированных обобщений не было реализовано, наводят на
мысль, что человек в отличие от ЭВМ вовсе не имеет дела с массой
изолированных фактов, поэтому ему нет необходимости
накапливать и извлекать из памяти эти факты, пользуясь эвристическими
правилами. Судя по его поведению, человек обходит те
трудности, с которыми на каждом шагу сталкиваются исследователи в
области моделирования процесса познания и создания
искусственного интеллекта, он делает это, избегая дискретного метода
переработки информации, который эти трудности вызывает.
Таким образом, весьма сомнительно, чтобы тот сдвиг, который
М. Минский называет шагом к управлению "знанием" (пусть
незначительным шагом), вообще вел к искусственному
интеллекту.
ЗАКЛЮЧЕНИЕ
Как мы видели, первый этап — этап, провозглашенный
"первым шагом", — не привел к успеху. Это относится как к GPS, так
и вообще ко всем программам моделирования доказательства
теорем, игры в шахматы и перевода с одного естественного языка
на другой, созданным на этом этапе. М.Минский и сам признает
неудачу; его диагноз точен, хотя он и пытается свести понесенные
потери к минимуму:
* Y.B а г-Н i I I e I. Critique of June 1966 Meeting, SIGART Newsletter, p.1.
98

"Несколько исследований, по существу, не оправдали возлагавшихся на
них надежд. Я имею в виду весьма нашумевшие проекты по переводу с
одного языка на другой и доказательству математических теорем. Я
думаю, что в обоих случаях это были незрелые попытки комплексной
формализации, не подкрепленные достаточно глубоким постижением
смысла самих объектов формализации"*
Второй этап — новый "первый шаг" — начался где-то в 1961 г.,
когда в Массачусетс к ом технологическом институте ученики
Минского начали работать над диссертациями, темы которых
были определены задачей преодоления этих трудностей. Его
конец можно отнести к 1968 г., когда вышла в свет книга под
редакцией М.Минского "Процессы переработки семантической
информации' — своего рода отчет об этих попытках, завершенных
уже к 1964 г. Учитывая, по общему признанию, узкий — ad
hoc - характер соответствующих программ, которые Минский
считает наиболее удачными, и отмечая отсутствие дальнейшего их
развития за последние пять лет, мы можем сделать единственный
вывод: второй этап тоже не привел к успеху.
Авторы большинства работ, посвященных описанию состояния
дел в этой области, не подчеркивают этот факт. Р.Соломонов в
своем обзоре, опубликованном в "Трудах Института инженеров
по электротехнике и радиоэлектронике" в 1966 г. и посвященном
обзору работ в области ИИ, вышедших после 1960 г., первые три
страницы уделяет программе GPS и другим достижениям
прошлого, уже завершенным к 1960 г.; на следующих трех страницах
обсуждается блестящее будущее работы С.Амареля, посвященной
индукции: "Хотя Амарель не представил ни одну из своих теорий
в виде программы, важность его идей и проведенного им анализа
несомненна"**. О программах для переработки семантической
информации, которым М. Минский придает такое значение, почти
ничего не говорится. Все надежды возлагаются на индукцию и
обучение. К сожалению, "во всех упомянутых обучающихся
системах машина может самосовершенствоваться только в очень
ограниченных пределах... Перед нами все еще стоит вопрос о том,
какого типа эвристики требуются для нахождения эвристик;
неизвестно также, в каких языках удобнее их описывать"***.
Поскольку не нашлось никого, кому удалось бы хоть что-
нибудь сделать для нахождения таких эвристик, Р.Соломонов
возлагает свои последние надежды на искусственную эволюцию:
"Перспективность искусственной эволюции объясняется тем, что о
механизмах естественной эволюции мы знаем очень много и о многом
*ММинский. Искусственный разум. — В кн.: Информация, с.214.
** R.S olomonoff. Some Recent *Work in Artificial
Intelligence.—Proceedings of the IEEE, vol.54, No. 12, 1966, December, p. 1689.
*** Ibid., p. 1691.
99

догадываемся. А ведь эти механизмы могут быть прямо или косвенно
использованы для решения тех проблем, которые возникают в их
искусственных аналогах. Моделирование эволюции предоставляет
исследователям в области "искусственного интеллекта" несравнимо более богатые
возможности, чем моделирование нейронных сетей, поскольку о
нейронных сетях почти ничего не известно из того, что могло бы хоть сколько-
нибудь помочь в решении сложных проблем"*.
Однако такого рода работа по искусственной эволюции
только начинается. "Исследования в области моделирования эволюции
до сих пор чрезвычайно ограничены как количественно, так и
качественно"**.
Когда статья, предназначенная для подведения итогов работы,
проделанной с 1960 г., начинается с упоминания достижений
предшествующих лет и кончается общими рассуждениями без
единого примера, подтверждающего действительный прогресс, то
между строк с отчетливостью проступают признаки застоя.
Подчас и в самих строках можно уловить оттенок
разочарования. Так, например, Ф.Тонг в своей серьезной, без претензий
статье об эвристическом алгоритме балансирования работы
сборочного конвейера, опубликованной в 1968 г. и позднее
вошедшей в коллективный труд "Вычислительные машины и
мышление'^, заканчивает обзор работ по "искусственному интеллекту"
следующими словами:
"Несмотря на создание множества интересных программ (и нескольких
любопытных устройств), прогресс в области "искусственного интеллекта"
нельзя назвать ни волнующим, ни блестящим... По крайней мере в
некоторой степени это связано с тем, что во многих публикациях, и в
прошлом, и в настоящем, отсутствует четкое различение того, что
достигнуто, и того, что еще предстоит сделать. В этой области, как и во многих
других, существует огромная разница между утверждением, что то или
иное усовершенствование "по всей вероятности может быть" реализовано,
и его действительной реализацией.
Очень мало ощутимых, значительных Переломных достижений"***.
Затем Тонг перечисляет те достижения, которые он считает
"переломными". Сюда входят: программа Ньюэлла, Шоу и
Саймона "Логик-теоретик", шашечная программа Сэмюэля и
распознающая программа Л.Юра и Ч.Фосслера. Но все три работы
закончены задолго до 1961 г. и все три — тупиковые, если об этом
позволительно судить по дальнейшим работам.
Чтобы отклонить возможные упреки в пристрастности моей
оценки этой обзорной работы Тонга, сошлюсь для сравнения на
следующий принадлежащий П. Гринвуду реферат,
помещенный в реферативном журнале "Computing Reviews": "Из
этого сжатого описания сегодняшнего состояния дел по
* Ibid. p. 1693.
## Ibid.
***F.M.Tonge. A View of Artificial Intelligence.- In: Proceedings,
A.CM.National Meeting, 1966, p. 37950.
100

проблеме "искусственного интеллекта" можно сделать вывод, что
за период, истекший с 1960 г., прогресс в этой области был весьма
незначителен, а перспективы на ближайшее будущее оставляют
желать лучшего"*.
Остается непонятным, почему эти трудности не смущают
исследователей, работающих в области моделирования процесса
познания, которые полагают, что переработка информации,
производящаяся вычислительной машиной, проливает свет на
скрытые от нас информационные процессы у человека, и почему
те, кто занимается "искусственным интеллектом", считают, что
должен существовать дискретный метод решения тех задач,
которые разрешимы для человека. Насколько мне известно, в
этой области исследований не нашлось никого, кто задумался бы
над этими вопросами. Фактически во всем конгломерате
естественных наук "искусственный интеллект" представляет собой
наименее самокритичную область. Должна же существовать
какая-то причина, объясняющая тот факт, что все эти разумные
люди почти единогласно сводят к минимуму или вообще
отказываются видеть возникающие на их пути трудности и продолжают
догматически верить в успех. Очевидно, какая-то сила,
заключающаяся в их исходных допущениях (а отнюдь не в успехах их
работ), заставляет их игнорировать необходимость оправдания
этой уверенности. Теперь нам необходимо разобраться, почему,
несмотря на всевозрастающие трудности, исследователи в области
"искусственного интеллекта" сохраняют столь непоколебимую
твердость.
Computing Reviews, vol. 8, No. 1, 1967, January-February, p 31.
101

Часть II
ДОПУЩЕНИЯ, ЛЕЖАЩИЕ В ОСНОВЕ
"СТОЙКОГО ОПТИМИЗМА'7

ВВЕДЕНИЕ
Несмотря на серьезные трудности, исследователи, работающие
в области моделирования процесса познания и создания
"искусственного интеллекта", не пали духом. Более того, они настроены
на редкость оптимистично. Их оптимизм основан на убеждении,
что у человека переработка информации, вне всякого сомнения,
носит дискретный характер, подобно тому как это происходит в
цифровой машине. Коль скоро природа, основываясь на этом
принципе, уже реализовала разумное поведение, то, составив
соответствующую программу, мы имеем возможность наделить
такой же способностью и вычислительные машины. При этом мы
можем идти по пути имитации природы, либо программирования
ее внешних проявлений.
Предположение, согласно которому как у человека, так и у
машины переработка информации в конечном счете основана на
одних и тех же элементарных действиях, высказывается порой с
наивной откровенностью. А.Ньюэлл и Г.Саймон начинают одну из
своих статей следующим замечанием:
"Ясно, что при таком подходе не делается каких-либо предположений о
сходстве конструкции машины и мозга, за исключением того, что обе эти
системы представляют собой универсальные устройства символьной
переработки информации, и того, что должным образом запрограммированная
вычислительная машина может выполнять элементарные информационные
процессы в функциональном отношении точно так же, как они происходят
в мозгу"*.
Это предположение, однако, не столь невинно и очевидно, как
представляется на первый взгляд. Что такое "универсальное
устройство символьной переработки информации"? Каковы те
"элементарные информационные процессы", которые, как
утверждается, одинаковы для человека и машины? Все работы по
"искусственному интеллекту" осуществляются на цифровых
машинах, поскольку это единственное универсальное устройство
переработки информации, которое мы в настоящее время умеем
конструировать и вообще можем себе представить. Вся информа-
* A.N е w e I I, H.A.S i m о п. Computer Simulation of Human Thinking.-
fhe RAND Corporation, P-2276, 1961, April 20, p. 9
105

ция, с которой работают эти ЦВМ, должна быть выражена в
терминах дискретных элементов. Для современных цифровых
машин информация представляется в двоичной форме, то есть в
виде последовательностей сигналов "да" и "нет" либо "включено"
и "выключено". Машина должна обрабатывать строчки
определенных элементов конечной длины как последовательности
объектов, отношения между которыми задаются строгими правилами.
Таким образом, предположение, согласно которому человек
действует подобно устройству для символьной обработки
информации, связано со следующими допущениями:
1. Биологическое допущение: на некотором уровне — обычно
полагают, что на уровне нейронов, — операции по переработке
информации носят дискретный характер и происходят на основе
некоторого биологического эквивалента переключательных схем.
2. Психологическое допущение: мышление можно
рассматривать как переработку информации, заданной в бинарном
(двоичном) коде51, причем переработка происходит в соответствии с
некоторыми формальными правилами. Таким образом, в
психологии вычислительная машина служит в качестве модели
рассудка, каким его представляли эмпирики, такие, например, как
Д.Юм (в этом случае информационным "битам" соответствуют
атомарные впечатления), или идеалисты вроде И.Канта (в этом
случае программа реализует правила мыслительного процесса).
Они подготовили почву для модельного представления
мышления в виде процесса переработки информации — безличного
процесса, в котором "процессор" не играет существенной роли52.
3. Эпистемологическое допущение: все знания могут быть
формализованы, то есть все, что может быть понято, может быть
выражено в терминах логических отношений, точнее, в терминах
булевых функций — логического исчисления, задающего правила
обращения с информацией, заданной в двоичном кодебЗ.
4. Наконец, поскольку вся информация, которая вводится в
машину, должна быть представлена в двоичной форме — в
битах,— машинная модель мышления предполагает, что все сведения
о мире, все, что составляет основу разумного поведения, должно
в принципе допускать анализ в терминах множества элементов,
безразличных к ситуациям. Таково онтологическое допущение:
все, происходящее в мире, можно представить в виде множества
фактов, каждый из которых логически не зависит от остальных.
В следующих главах мы перейдем к анализу правдоподобия
каждого из этих допущений. Мы убедимся, что, как правило, то,
что исследователям, работающим в области моделирования
процесса познания и создания "искусственного интеллекта",
представляется аксиомой, гарантирующей получение результатов, в
действительности является лишь одной из возможных гипотез,
подлежащих проверке в ходе дальнейшей работы. Более того, ни
106

одно из этих четырех допущений не может быть оправдано ни
эмпирически, ни a priori. Наконец, последние три
допущения — носящие скорее философский, чем эмпирический
характер,— можно подвергнуть критике с философских позиций.
Каждое из них при последовательном применении к осмыслению
разумного поведения ведет к затруднениям концептуального
характера.
После анализа каждого из этих допущений нам будет легче
понять устойчивый оптимизм специалистов в области
"искусственного интеллекта", а также оценить действительную
значимость результатов, полученных ими к настоящему времени.

Глава 3. БИОЛОГИЧЕСКОЕ ДОПУЩЕНИЕ
В период между изобретением телефонного реле и созданием
вычислительной машины — этой кульминации принципа,
заложенного в основу работы реле,— мозг всегда представлялся в
терминах новейших технических достижений: его функционирование
мыслилось по аналогии с работой большой телефонной станции, а
значительно позднее - с электронной вычислительной машиной.
Эта модель мозга связана и с исследованиями в области
нейрофизиологии, в результате которых было обнаружено, что нейроны
дают всплески электрической активности по принципу "все или
ничего". Такой всплеск, или импульс, стали рассматривать как
единицу информации, циркулирующей в мозгу, подобно
машинному "биту". Эта модель, и по сей день некритически
принимаемая всеми, кто непосредственно не связан с
нейрофизиологией, и является основой наивного представления о том, что
человек — это ходячий пример успешно работающей программы
для цифровой вычислительной машины.
Начнем с того, что, даже если бы мозг на некотором уровне
действительно работал подобно цифровой машине, это совсем не
обязательно оправдало бы надежды специалистов в области
моделирования познавательных процессов и "искусственного
интеллекта". В самом деле, можно представить себе, что мозг
смонтирован как большое скопление случайно соединенных
нейронов. Именно по такому принципу был построен перцептрон,
предложенный группой "ранних кибернетиков", как их
пренебрежительно называет М. Минский*. Такая нейронная сеть может
быть промоделирована с помощью программы для
вычислительной машины, однако подобная программа не будет эвристической
* В свете предстоящего анализа следует заметить, что, даже если удастся
показать, что перцептроны из некоторого узкого класса подобных систем
неспособны к распознаванию образов или обучению (см. с. 79) , это не
исключает теоретической возможности того, что достаточно сложная
нейронная сеть проявит эту способность. Такую возможность не следует
упускать из виду при оценке тех аргументов в пользу биологического и
психологического допущений, согласно которым мозг или мышление
должны функционировать по типу эвристически запрограммированной
цифровой вычислительной машины.
108

ни в каком смысле этого слова. Таким образом, тот факт, что
мозг может оказаться цифровой машиной, отнюдь не дает
достаточно оснований для оптимистических настроений относительно
возможности создания искусственного интеллекта, как его
определяют Саймон и Минский.
Более того, вопрос о том, в какой мере элементарные
информационные процессы мозга могут быть поняты в терминах
цифровой модели, требует экспериментальной проверки. Мозг,
быть может, перерабатывает информацию совершенно иным,
полностью отличным от машинного способом. Информация,
например, может перерабатываться глобально, подобно тому как
это происходит в состоящих из электрических сопротивлений
аналоговых схемах при решении задач на определение
кратчайшего пути в некоторой сети. Как показали многочисленные
экспериментальные данные, модель мозга, построенная на
"нейронных переключателях", практически не находит
подтверждения. Уже в 1956 г. Дж. Нейман — один из создателей современной
вычислительной техники — высказал следующие сомнения:
"Если теперь говорить конкретно о нервной системе человека, то
это— механизм огромной сложности, по крайней мере в 10^ раз большей,
чем любой известный нам искусственный механизм, и его действия
соответственно этому разнообразны и сложны. В число функций этого
механизма входит интерпретация внешних чувственных восприятий, а
также сообщений о физических или химических условиях, управление
двигательной активностью и внутренними химическими уровнями,
функция памяти с ее очень сложными действиями преобразования и отыскания
информации и, разумеется, непрерывная передача кодированных приказов
и более или менее количественно выраженных сообщений. Все эти
процессы могут трактоваться при помощи цифровых методов (то есть с
использованием чисел, выраженных в двоичной системе или при помощи
некоторых дополнительных приемов кодирования, в десятичной или
какой-либо другой системе), в терминах обработки цифровой (обычно
числовой) информации алгебраическими (то есть в основном арифметическими)
методами. Это наиболее вероятный путь, по которому в настоящее время
пошел бы человек, пытаясь решить такую проблему ...ооступные нам
сведения, хотя они скудны и не точны, указывают, скорее на то, что
нервная система человека использует иные принципы и проиессы. Так,
цепочки импульсов, по-видимому, передают информацию, используя
аналоговый принцип (однако, в пределах импульсных кодов, то ее здесь мы
имеем дело со смешанной системой, которая частично цифрован, частично
аналоговая), как, например, временную плотность последовательности
импульсов в одной линии, корреляции во времени серий импульсов в
различных волокнах одного пучка и т.д."*.
Что он имеет в виду под "смешанным характером
живых организмов", фон Нейман уточняет следующим
образом"
* Дж. Нейман. Вероятностная логика и синтез надежных организмов
из ненадежных компонент. — В сб.: Автоматы, под ред. К.Э.Шеннона и
Дж. Маккарти. М., 1956, с. 12954
109

"Нейрон подает импульс... Нервный импульс в основном подчиняется
принципу "включено — выключено", "все или ничего", и его можно
сравнить с двоичной цифрой. Таким образом, наличие цифрового элемента
очевидно, но также очевидно, что это еще не все. Многое из того, что
происходит в организме, обусловлено не явлениями этого рода, а зависит
от общего химического состава крови и других гуморальных сред. Хорошо
известно, что в организме имеется множество сложных функциональных
цепей, в которых переход от первоначального раздражения к конечному
эффекту осуществляется через целый ряд этапов; некоторые из этих
этапов являются нейронными, то есть цифровыми, другие —
гуморальными, то есть аналоговыми"*.
Но даже и это описание отдает слишком большую дань
цифровой модели. Из того факта, что нервные импульсы
построены по принципу "все или ничего", вовсе не следует, что имеет
место цифровой процесс в любой его форме. Различие между
цифровым и аналоговым вычислением — это логическое различие,
которое не зависит ни от конструкции системы, ни от вида
используемых в ней электрических импульсов. Существенное
различие между цифровым и аналоговым способами переработки
информации состоит в том, что при цифровом способе отдельный
элемент представляет символ некоторого описательного языка, то
есть несет конкретный квант информации, тогда как в
устройствах, работающих по аналоговому принципу, подлежащая
обработке информация представляется непрерывными физическими
величинами. Мозг, оперирующий потоками импульсов, можно
считать цифровым вычислительным устройством только в том
случае, если каждый импульс окажется связанным с
определенным шагом в процессе переработки информации; если же,
напротив, обнаружится, что минимальной "единицей" в модели
информационного процесса должна быть частота импульса-
ции — как, по-видимому, считает Нейман,— то мозг работает как
аналоговое устройство**.
После такого разъяснения понятий мы можем считать, что фон
Нейман предложил чисто аналоговую модель работы мозга; и
последующие исследования, видимо, это подтверждают. Даже для
тех, кто не знаком со специальными вопросами, которым
посвящена цитируемая ниже работа, понятен смысл следующих слов:
"У высших беспозвоночных мы впервые сталкиваемся с такими
явлениями, как нарастающий синаптическии потенциал, при котором перед
возникновением постсинаптического импульса происходит алгебраическое
сложение действия нескольких входных пресинаптических воздействий,
осуществляемое сложным механизмом. Эти входные воздействия имеют
различную значимость в зависимости от характера проводящего пути и
состояния синапса. Это нелинейное и локальное явление, предшествующее
* Дж. фон Нейман. Общая и логическая теория автоматов^.— В кн.:
А. Т ь ю р и н г. Может ли машина мыслить? М., 1960, с. 70.
** Это различение мне помогли сформулировать У. Эльзассер и П.
Грегори, за что я им весьма признателен.
110

возникновению всякого постсинаптического импульса, может быть
настолько существенным, что мы не можем более считать типичный синапс в
интегрирующих системах чисто цифровым устройством, как обычно
предполагалось несколько лет назад. Это, скорее, сложное аналоговое
устройство"*.
Сравнительно недавно Дж.Летвин, сотрудник Массачусетского
технологического института, высказал предположение, что
толщина аксона может играть решающую роль в переработке
информации, так как она определяет параметры аксона как фильтра**.
Отдельный нейрон возбуждается с определенной частотой.
Различные ветви его аксона действуют как низкочастотные фильтры,
полоса пропускания которых определяется диаметром ветви.
Поэтому выходной сигнал клетки будет вызывать сигналы
разных частот на разных окончаниях аксона. Вообще характеристики
аксона как фильтра изменяются с его диаметром, который в свою
очередь, быть может, зависит от времени, прошедшего с момента
предыдущего его "срабатывания", и даже, возможно, от
активации непосредственно примыкающих аксонов. Если подобные
временные факторы и пространственные взаимодействия играют
решающую роль, то нет никаких оснований надеяться, что
переработка информации на нейрофизиологическом уровне может быть
описана в терминах цифрового формализма или какого бы то ни
было формализма вообще56-
В 1966 г. У. Розенблит,также сотрудник Массачусетского
технологического института и один из пионеров использования ЭВМ в
нейрофизиологии, подвел итоги сложившейся ситуации
следующим образом:
"Более того, мы не придерживаемся ранее широко распространенного
мнения, что закон передачи нервных импульсов по так называемому
принципу "все или ничего" дает нам право считать реле хорошей моделью
нейрона. Кроме того, на нас производит все большее впечатление то
взаимодействие, которое имеет место между нейронами: в некоторых
случаях последовательность нервных импульсов может достаточно четко
отражать работу буквально тысяч нейронов. Но если мы имеем дело с
системой, многочисленные элементы которой вступают между собой в
столь сильное взаимодействие, то описание в терминах поведения
индивидуальных нейронов вряд ли обеспечит ее наилучшее понимание... Попытка
установления детальной аналогии между организацией мозга и структурой
вычислительной системы была бы тщетной и неубедительной"***.
Итак, точка зрения, согласно которой мозг как универсальная
система переработки символьной информации работает подобно
* Th.H.Bu I I о с k. Evolution of Neurophysiology Mechanisms.- In:
Behavior and Evolution, A.R о e and G.S i m ps о n (eds.). New Haven, Conn.,
Yale University Press, 1958, p 172
**J. Lettvin. Lecture at the University of California. Berkeley, November
1969.
*** W. A. R о s e n b I i t h. On Cybernetics and the Human Brain.—The
American Scholar, 1966, Spring, p. 247.
111

цифровой машине, является эмпирической гипотезой, время
которой уже прошло. Современные экспериментальные данные о
работе мозга не дают никаких аргументов в пользу возможности
создания "искусственного интеллекта". В действительности мы
отчетливо видим различие между организацией мозга, основанной
на "сильном взаимодействии" его элементов, и структурой
машины, лишенной такого взаимодействия. Если признать
биологические данные существенными, то это различие
свидетельствует против возможности создания интеллекта на базе
цифровых ЭВМ.

Глава 4. ПСИХОЛОГИЧЕСКОЕ ДОПУЩЕНИЕ
Вопрос о том, действует ли мозг подобно цифровой машине,
является чисто экспериментальным, и разрешить его должна
нейрофизиология. "Компьютерная" модель просто не согласуется
с фактами. Однако нельзя дать столь однозначный ответ на
связанный с предыдущим, но совершенно иного плана вопрос:
работает ли разум на тех же принципах, что и цифровая
вычислительная машина, то есть оправдано ли применение машинно-
цифровой модели в психологии? В данном случае значительно
труднее определить суть вопроса. Мозг - это, безусловно,
физический объект, в котором происходит преобразование энергии
физического мира на основе физических процессов. Но, коль
скоро психология отличается от биологии, психолог обязан
выделить несколько иной уровень функционирования, чем
уровень физико-химических реакций мозга.
Теория, которую мы будем оспаривать, утверждает, что такой
уровень существует и это — уровень информационных процессов.
Формируя на этом уровне разумное поведение, наше мышление
использует вычислительные процессы, такие, как сравнение,
классификация, перебор и т.д. Согласно этой теории, такой
ментальный уровень — уровень, отличный от уровня физических
процессов,— должен быть введен в рассмотрение как некоторый
возможный языково-мыслительный уровень. Поэтому вопросы,
которые здесь будут обсуждаться, носят скорее философско-
теоретический, чем опытно-экспериментальный характер. Мы
убедимся, что допущение существования уровня
"информационных процессов" отнюдь не столь самоочевидно, как это полагают
специалисты по моделированию процессов познания, что имеются
веские основания сомневаться в самой возможности какой бы то
ни было "переработки информации" вообще и что, следовательно,
тезис о том, что мышление построено на принципах цифровой
вычислительной машины, также представляется сомнительным.
В 1957 г. Саймон предсказывал, что через десять лет
психологические теории примут форму программ для вычислительных
машин, и он сам принялся за воплощение своего предсказания,
составив серию программ, которые, как он полагал, моделируют
113

процесс человеческого познания. В них должны были быть
отражены сознательные и подсознательные шаги, осуществление
которых приводит личность к специфически разумной
деятельности. Как мы уже видели, несмотря на общее несоответствие
подобных программ их замыслу (признаваемое даже таким
энтузиастом, как Минский), все специалисты в области
"искусственного интеллекта" (включая Минского) разделяют мнение о
том, что разумное поведение людей основано на определенных
эвристических правилах, некоторое подобие которых и следует
ввести в ЭВМ для обеспечения такого же рода машинного
поведения.
Более того, несмотря на ограниченность результатов,
предсказание Саймона в некотором смысле сбылось. В психологии
произошел общий сдвиг от бихевиоризма к ментализму. Многие
влиятельные психологи и философы, занимающиеся проблемами
психологии, перешли на сторону Саймона и стали формулировать
свои проблемы в терминах, основанных на аналогии с
вычислительными машинами. Так, У.Ниссер полагает, что "задача
психолога, пытающегося понять механизм человеческого познания,
подобна попытке выяснить, как запрограммирована
вычислительная машина"*. А Дж. Миллер из Гарвардского университета
говорит о "новейших достижениях в области понимания человека,
рассматриваемого как система, перерабатывающая
информацию"**.
Обычно в пользу этой новой догмы о том, что человек — это
система переработки информации, действующая подобно
эвристически запрограммированному "компьютеру", не приводится
никаких аргументов. Создается впечатление, что это
утверждение — безусловная аксиома, так как в противном случае оно
требовало бы тщательного и критического анализа. Поскольку
мозг физически реален и, образно выражаясь, "перерабатывает
информацию", постольку существует известный соблазн
предположить, что должен существовать некоторый уровень
"информационных процессов" — некая динамическая операциональная
структура, в терминах которой может быть описана
информационная активность мозга. Однако, как мы видели в главе 3,
именно потому, что мозг материален и производит переработку
информации, биологи не видят никаких оснований считать, что он
работает подобно цифровой вычислительной машине. Это верно и
для психологического уровня. Хотя психологи и описывают
функцию мозга, называемую разумом, как "процесс переработки
* U.N e i s s е г. Cognitive Psychology. New York, Appleton-Century-Crofts,
1967, p. 6.
** См.: Дж.Миллер, Е.Галантер и К.Прибрам. Планы и
структура поведения, с. 74.
114

информации", это совсем не значит, что мозг действительно
перерабатывает информацию в принятом в современной
литературе смысле этого выражения или что мозг работает как
цифровая машина, то есть обладает некоторой программой.
Выражение "переработка информации", или
"информационный процесс", неоднозначно. Если оно означает просто то, что наш
разум на основе одних осмысленных образований строит другие
осмысленные образования, то это утверждение, конечно,
неопровержимо. Но кибернетическая теория информации, восходящая к
работе К.Шеннона 1948 г., не имеет ничего общего со "смыслом"
(или "значением") в обычном словоупотреблении.
Математическая теория пропускной способности канала передачи
сообщений совсем не связана с семантикой. Один бит (двоичная
единица) информации сообщает своему получателю только о том,
какая из двух равновероятных альтернатив реализовалась.
В своей классической работе "Математическая теория связи"
К.Шеннон совершенно ясно указывает на то, что его теория,
исследующая задачи, возникающие в телефонной связи,
полностью игнорирует как несущественное значение передаваемых
сообщений.
"Основная задача связи состоит в точном или приближенном
воспроизведении в некотором месте сообщения, выбранного для передачи в другом
месте. Часто сообщения имеют значение, то есть относятся к некоторой
системе, имеющей физическую или умозрительную сущность, или
находятся в соответствии с некоторой системой. Эти семантические аспекты
связи не имеют отношения к технической стороне дела"*.
У.Уивер, объясняя значение работы Шеннона, высказывается
еще более выразительно:
«В этой теории слово информация используется в специальном смысле,
который не следует смешивать с обычным словоупотреблением. В
частности, информацию не следует путать со "значением"».
На самом деле два сообщения, в одном из которых заложен
глубокий смысл, а другое являет собой чистую бессмыслицу,
могут быть абсолютно эквивалентны с точки зрения несомой ими
информации, коль скоро она понимается в современном смысле
слова. Именно это, несомненно, имеет в виду Шеннон, когда
говорит, что "эти семантические аспекты связи не имеют
отношения к технической стороне дела"**.
Когда, вопреки предупреждению К. Шеннона58 идеи и аппарат
теории информации неправомерно переносят в сферу "теории
значения", то под влиянием опыта работы с ЭВМ исходят из того,
* К« Ш е н н о н. Математическая теория связи57._в кн.: К. Ш е н н о н.
Работы по теории информации и кибернетике. M., 1963, с. 243.
**W. Weaver. Recent Contributions to the Mathematical Theory of
Communication.- In: C.S h a n n о n, W.W e a v e r (eds.). The Mathematical Theory
of Communication. Urbana, University of Illinois Press, 1962, p. 99.
115

что эмпирические данные могут быть разложены на
изолированные, атомарные альтернативы. Но для "теории значения" такое
допущение отнюдь не очевидно. Гештальтпсихологи, например
(как мы уже видели в части I и детально рассмотрим в части III),
заявляют, что мышление и восприятие включают целостные
процессы, которые не могут быть поняты в терминах ряда
последовательно или даже параллельно осуществляемых
дискретных операций*. А поскольку мозг по крайней мере отчасти
работает, видимо, как аналоговое устройство, то весьма вероятно,
что и наш разум порождает мысли и восприятия на базе "полей",
"сил", "конфигураций" и т.п.; по-видимому, это как раз то, что
дано нам на феноменологическом уровне**.
Роль программиста именно в том и состоит, чтобы перевести
осмысленные утверждения (содержащие информацию в ее
обычном понимании) в последовательности дискретных и лишенных
смысла двоичных цифр (информацию в техническом смысле
слова), с которыми может иметь дело машина. Цель работ по
"искусственному интеллекту" состоит в том, чтобы заставить
ЭВМ выполнять этот перевод самостоятельно. Однако остается
неясным, можно ли при этом обойтись без переводчика-человека.
Многие работы по моделированию процесса познания создают
иллюзию успеха именно благодаря смешению обычного смысла
слова "информация" с тем специальным значением, которое это
слово приобрело за последнее время. Но для того, чтобы не
затемнять философскую сторону дела, не следует предрешать основной
вопрос: действительно ли человеческий интеллект предполагает
регулярность операций над дискретными элементами? Вот почему,
когда речь идет о человеке, требуется особая осторожность при
употреблении слов "переработка информации" (в кавычках) 59.
Более того, если бы даже наш разум перерабатывал
информацию в смысле Шеннона, действуя тем самым как цифровая
машина, это еще не дало бы оснований полагать, что он
непременно придерживается определенной программы. Если бы мозг был
сетью случайно соединенных нейронов, то мы не обнаружили бы
никакой динамической структуры, никаких последовательностей,
регулируемых правилами шагов, совершающихся на уровне
информационных процессовбО.
* В этом контексте утверждение Ньюэлла, Шоу и Саймона о том, что им
удалось объединить в одно целое результаты, полученные бихевиористами и
гештальтистами, усвоив, с одной стороны, поведенческий подход, а с
другой — согласившись с тем, что "человек представляет собой
чрезвычайно сложно организованную систему" (А. Ньюэлл и Г. Саймон.
GPS — программа, моделирующая процесс человеческого мышления. — В
кн.: Вычислительные машины и мышление, с. 284), демонстрирует либо
желание затемнить суть дела, либо полное непонимание основных
достижений каждой из этих школ.
**См. часть III.
116

Обе эти подмены понятий - смешение обычного и
технического смыслов слова "информация" и неявный переход от
вычислительной машины вообще к эвристически
запрограммированной цифровой машине — способствуют ложному переходу от
того факта, что мозг в определенном смысле перерабатывает
сигналы, поступающие на его вход, к заключению о том, что мозг
или разум выполняют некоторую последовательность действий
дискретного характера. Это заблуждение в своей худшей форме
представлено в недавно вышедшей работе Дж.Фодора.
Поучительно проследить ход его рассуждений.
Фодор начинает с общеизвестных фактов, касающихся
центральной нервной системы:
"Если точка зрения,согласно которой причиной восприятия глубины
является текстурный градиент, истинна, а также если центральная
нервная система действительно соответствует тому представлению о ней,
которое сложилось у наиболее проницательных исследователей, то
некоторые из тех вещей, которые выполняет нервная система, некоторые
физические процессы, происходящие в ней, когда мы устанавливаем
глубину, могут описываться такими понятиями, как "вычисление
текстурных градиентов", "обработка информации о текстурных градиентах",
"вычисление производных текстурных градиентов" и т.д."*.
Так Дж.Фодор приходит к заключению, что "всякая операция,
выполняемая нервной системой, идентична некоторой
последовательности элементарных операций"**.
Оставляя в стороне вызывающий недоумение вопрос об
использовании в этом контексте выражения "обработка
информации", мы можем возразить, что такая операция, как
вычисление первой производной текстурного градиента, вполне может
быть осуществлена на того или иного рода аналоговом
устройстве. Поэтому у нас нет никаких оснований заключить, что
"всякая операция, выполняемая нервной системой, идентична
некоторой последовательности элементарных операций".
Аналогично нет ни малейшего оправдания заявлению такого рода: "Для
каждого типа поведения из "репертуара" данного организма
предполагаемый ответ на вопрос: "Как осуществляется поведение
этого типа?"— принимает вид набора специфических инструкций,
позволяющих реализовать это поведение с помощью некоторого
набора машинных операций"***.
Правдоподобно'сть этого рассуждения объясняется тем
фактом, что если бы психолог взял первую производную текстурного
градиента, то его вычисление было бы произведено по
определенным формальным правилам (дифференциального исчисления),
J.A.Fodor. The Appeal to Tacit Knowledge in Psychological
Explanation. - The Journal of Philosophy, vol. LXV, No 20 , 1968, October 24 p. 632
** Ibid., p. 629.
*** Ibid., p. 637.
117

которые могут быть реализованы на цифровой машине в виде
ряда дискретных операций. Но утверждать, что мозг при
вычислении текстурного градиента непременно осуществляет ряд
операций, так же абсурдно, как утверждать, что, обращаясь по своим
орбитам вокруг Солнца, планеты решают дифференциальные
уравнения или что логарифмическая линейка (аналоговая
машина) , вычисляя квадратный корень, осуществляет ту же
последовательность шагов, что и цифровая машина, которая ищет
соответствующее значение, записанное в двоичной системе
счисления.
Возможно, что для нахождения текстурного градиента или для
моделирования других перцептивных феноменов может быть
использован процесс перехода ионного раствора в равновесное
состояние. Но верно ли, что в растворе, приближающемся к
равновесию, осуществляется тот же ряд дискретных операций, что
и в цифровой машине, решающей дифференциальные уравнения,
которые описывают этот процесс? В данном случае в растворе в
считанные мгновения происходит процесс решения задачи,
которую цифровой машине пришлось бы решать веками, если бы
вообще она получила решение. Чем это объясняется? Может быть,
тем, что раствор — это в высшей степени быстродействующая
вычислительная машина? Или же тем, что он упрощает задачу с
помощью разумных эвристик, как это делает шахматист при
выборе нужного хода? Очевидно, ни тем, ни другим. Мы можем
описать процесс перехода в состояние равновесия в форме
дифференциальных уравнений, а затем для реализации его с
помощью машины разбить решение этих уравнений на дискретные
операции. Но это вовсе не значит, что сам процесс перехода в
состояние равновесия происходит дискретно. Точно так же из
того факта, что все непрерывные психохимические процессы,
участвующие в человеческих "информационных процессах",
могут быть в принципе формализованы и рассчитаны в дискретной
форме, вовсе не следует, что какие-либо дискретные процессы
имеют место в действительности.
Более того, если бы даже кто-то смог написать такую
программу, которая моделировала бы психохимические процессы мозга,
она оказалась бы совершенно бесполезной для психологии.
Если понимать моделирование в самом слабом смысле слова,
то любая программа будет моделировать любое данное
устройство, если она осуществляет то же самое преобразование "вход -
выход" (в заданной области), что и это устройство. Возможна
или нет такая модель для мозга — во всяком случае, ясно одно:
она не обладает необходимым с точки зрения психологической
теории свойством — быть средством оценки действительной
"работы" разума. Для психологического объяснении требуется,
чтобы способ представления, соответствие были в некотором
118

смысле более сильными, чем простое моделирование. Фодор
отмечает:
"Мы можем сказать, что машина сильно эквивалентна организму в
определенном отношении, если она слабо эквивалентна в том же отношении
и если процессы, определяющие поведение машины, относятся к тому же
типу, что и процессы, определяющие поведение организма"*.
Это значит, что эквивалентность в плане психологии
предполагает существование в машине процессов психологического типа**.
К психологическим операциям относятся такие процессы,
которые при переработке информации человеком, по крайней мере
иногда, осуществляются сознательно — например, поиск,
сортировка, хранение данных. Эти процессы отнюдь не являются
психохимическими реакциями организма. Представим себе, что
шахматист в следующих словах говорит о том, каким образом он
сосредоточивает свое внимание на ладье: "Теперь мой мозг достиг
определенного химического равновесия, описываемого некоторой
*J.Fodor. Psychological Explanation. New York, Random House, 1968,
p. 138.
** Утверждение о моделируем ости допускает еще одно прочтение-
прочтение, которое адекватно "менталистской" установке, однако, к
сожалению, не отличается непосредственной убедительностью, свойственной
приведенному выше. Его суть сводится к тому, что для каждого
аналогового процессора также можно найти нечто, ему соответствующее,— его
представление. Однако, чтобы нащупать слабое место этого истолкования,
нам потребуется привести несколько примеров на различие между
моделированием и тем, что мы имеем в виду под представлением. Деление с
помощью логарифмической линейки моделируется посредством любого
алгоритма, позволяющего найти соответствующее частное; но сказать, что
мы нашли представление этой операции, можно только в том случае, если
частное получается способом, близким к принципу, заложенному в
логарифмической линейке, — таким, что каждый шаг представляет собой
сравнение длин. В случае вычислительной машины это приняло бы форму
использования соответствующих (коллинеарных) пространственных
координат, мантисс из двух таблиц логарифмов и осуществления "перевода" с
помощью вычитания. Если взять более общий случай, то мы будем иметь
дело с моделированием гармонической системы итерационного типа
(подобной большинству коммерческих аналоговых машин) посредством
решения описывающих ее дифференциальных уравнений. В то же время
представление — или, грубо говоря, моделирование как конечного
результата, так и внутреннего механизма процесса — потребовало бы
моделирования каждой электронной компоненты (сопротивлений, конденсаторов,
электрических контактов и т.д.), а также эффекта, производимого ими
друг на друга, и, следовательно, их повторяющихся во времени изменений.
В последнем случае каждая аналоговая компонента оказывается как
моделируемой, так и представляемой, но это отнюдь не всегда имеет место.
Существуют аналоговые явления, не разложимые на отчетливо различимые
части, например мыльная пленка, "вычисляющая" минимальную
поверхность, ограниченную случайным образом изогнутой проволокой, не
допускает представления типа описанного выше.
Правда, можно было бы сказать, что, поскольку мыльный пузырь (или
любой другой материальный объект) состоит из атомов, для него в
119

системой дифференциальных уравнений". В этом высказывании
речь идет о физиологическом процессе, несомненно связанном с
"переработкой информации", но никак не о самом
информационном процессе.
Непонятно, на какой статус претендуют рассуждения Фодора:
носят ли они априорный характер или предполагают
эмпирическую основу? Иначе говоря, неясно, является ли вывод о том, что
мозг работает на основе последовательно выполняемых
элементарных операций, логическим следствием учета мозгом
текстурных градиентов или нет. Пример, выбранный Фодором, менее
всего способствует утверждению взгляда, что мозг или разум
вообще выполняют какие-либо элементарные операции. Стало
быть, мысль о необходимой связи между нахождением
текстурных градиентов, процессом вычисления и последовательным
выполнением операций — это просто его мнение. Правда, если
окажется, что это рассуждение основано на смешении ряда
понятий, сторонники психологического допущения всегда могут
сменить платформу, заявив, что это отнюдь не априорная
аргументация, а основанные на экспериментальных данных выводы.
В докладе, представленном Американской философской
ассоциации, Фодор занял "априористскую" позицию, в то время как
Дж.Миллер, Е.Галантер и К.Прибрам оправдывали свой подход
ссылкой на имеющиеся, с их точки зрения, успехи в области
моделирования процессов познания.
"Для организма план в основном представляет собой то же самое, что и
программа для математической машины... Ньюэлл, Шоу и Саймон очень
четко и систематично применяли иерархическую структуру перечней в
своей работе над "языками для обработки информации", которые приме-
принципе всегда можно найти представление в виде необъятной (!)
системы уравнений квантовой механики. Однако крайне сомнительно, что
такая громада уравнений приведет хоть к какому-нибудь объяснению
функционирования какого-либо объекта или, если речь идет о мозге, хоть к
какой-нибудь связи с психологией. Если этих аргументов недостаточно,
попробуйте представить себе обыкновенный арифмометр, состоящий из
шестеренок и зубчатых передач; наша уверенность в том, что он работает в
соответствии с законами механики и что любой содержательный аспект его
функционирования допускает некоторое представление, ни в коей мере не
связана с тем фактом, что он состоит из атомов. В самом деле, будь он
изготовлен из какой-то таинственной неделимой субстанции, мы тем не
менее были бы твердо уверены, что до тех пор, пока он функционирует
посредством шестеренок, зубчатых передач и т.п., он остается некоторым
механизмом и любое представление его в терминах шестеренок и зубчатых
передач является его объяснением. То же самое, в сущности, касается и
электронных аналоговых машин, и логарифмических линеек, и т.д.
Таким образом, принятие a priori положения, согласно которому для
аналогового процесса всегда может быть найдено дискретное
представление, совершенно неправомерно; оно заимствовано, так сказать, у
правильного, но более слабого и не имеющего отношения к данному вопросу
утверждения о простой моделируемости.
120

няются при программировании для скоростных цифровых математических
машин в случаях моделирования человеческих процессов мышления. Их
успех в этом отношении, который, по нашему мнению, является очень
значительным и многообещающим, подтверждает правильность гипотезы,
что иерархическая структура является основной формой организации при
решении задач человеком" *.
В части I мы видели, что результаты работ Ньюэлла, Шоу и
Саймона далеко не впечатляющи. В чем же тогда состоят
многообещающие экспериментальные подтверждения? Далее мы
рассмотрим, на основании каких принципов оценивается работа
А.Ньюэлла, Дж.Шоу и Г.Саймона.
I. Экспериментальные данные в пользу
психологического допущения:
критика научной методологии,
используемой при моделировании процессов познания
Попытка экспериментального оправдания психологического
допущения ставит методологический вопрос о том, как оценивать
экспериментальные данные. Простое сходство между поведением
машин и людей не оправдывает психологического допущения, но
существующая на сегодняшний день невозможность выявления
деталей упомянутого сходства не оправдывает и отказ от этого
допущения. Проверка психологического допущения требует
тщательного сравнения отдельных шагов, посредством которых
осуществляется обработка информации машиной и человеком. Как
мы видели (гл. 1, разд. II), Ньюэлл, Шоу и Саймон откровенно
отмечают черты сходства и различия между отчетами о поведении
испытуемых при решении задач и результатами машинного
моделирования процесса их решения. Посмотрим, как они оценивают
полученные результаты.
А.Ньюэлл и Г.Саймон приходят к выводу, что их методы
"...дают общую схему для понимания механизмов поведения человека
при решении задач... они в конечном счете достаточно ясно показывают,
что в основе свободного поведения мыслящего человека лежит сложный,
но конечный и вполне определенный комплекс правил переработки
информации"**.
Такой вывод на редкость ненаучен, так как Ньюэлл и Саймон
признают, что их специфические теории — подобно любым научным
теориям — должны приниматься или отвергаться на основе учета
своей общности, то есть учета того круга явлений, которые их
* Дж. Миллер, Е. Таланте р, К.Прибрам. Цит.соч., с. 30—31
(курсив мой. — Х.Д.).
** А.Н ь ю э л л и Г.С а й м о н. GPS — программа, моделирующая
процесс человеческого мышления. — В кн.: Вычислительные машины и
мышление, с. 301.
121

программы в состоянии объяснить*. Но программы этих ученых
не являются достаточно общими по крайней мере в трех
отношениях. Имеющиеся данные касаются только таких наиболее
благоприятных случаев, когда испытуемый может хотя бы частично
дать отчет о своем поведении при "переработке информации"
(игра, решение простых задач); случаи эти не включают
распознавания образов, обучения естественному языку и его
использования. Более того, даже в упомянутой ограниченной области
результаты машинного моделирования соответствуют поведению
индивидуума только после некоторой подстройки ad hoc. И
наконец, даже это соответствие оказывается лишь частичным.
Ньюэлл и Саймон отмечают, что их программа "обеспечивает
полное объяснение поведения испытуемых при решении задач,
хотя имеются пять исключений различной степени серьезности"**.
Исходя из этих ограничений и исключений, непонятно, каким
образом Ньюэлл и Саймон могут претендовать на "общую
структуру" и какую-либо научную интерпретацию соответствующих
феноменов вообще. Дело здесь, по-видимому, в неправильном
истолковании универсальности научных законов и теорий. Как
известно, научные законы не допускают исключений; в данном же
случае исключения признаются с откровенностью в надежде на то,
что сам факт признания таковых компенсирует их важность.
(Представим себе Галилея, утверждающего, что закон падающих
тел справедлив для всех объектов, кроме пяти, относительно
которых установлено, что они падают с иной скоростью.) Это не
предполагает, разумеется, что наличие исключений обязательно
дискредитирует научное положение. В науке существуют
общепринятые способы преодоления такого рода трудностей. Для
начала обобщение может быть выдвинуто как рабочая гипотеза,
однако, пока не выяснены причины исключений, с
провозглашением соответствующего научного закона следует повременить.
Рабочая гипотеза не обязана объяснять все данные. Но, когда
ученый претендует на создание научной теории — не говоря уже об
"общей структуре понимания",— он обязан либо объяснить
исключения на основе своей теории (подобно тому как
отклонение от законов механического движения объясняется трением),
либо предложить, в каком направлении искать объяснение, либо,
наконец, исходя из своей теории, указать источник возникающих
трудностей. Ньюэлл и Саймон, однако, не следуют ни по одному
из этих путей.
На сказанное нами эти ученые могут возразить, что оснований
для беспокойства нет, так как даже очень хорошие теории имеют
* A.N e w e I I, H.A.S imon. Computer Simulation of Human Thinking,
P. 9.
** Ibid, p. 292.
122

исключения. Так, в своем исследовании научных революций
Т. Кун отмечает наличие постоянных аномалий во всех нормально
развивающихся областях естественных наук.
"Какие-то расхождения есть всегда. Даже наиболее неподатливые
расхождения в конце концов приводятся обычно в соответствие с
нормальной практикой научного исследования. Очень часто ученые предпочитают
подождать, особенно если в других разделах данной области исследования
есть много проблем, доступных для решения. Мы уже отметили, например,
что в течение шестидесяти лет после исходных расчетов Ньютона
предсказываемые сдвиги в перигее Луны составляли по величине только половину от
наблюдаемых"*.
Но это не может служить утешением для Ньюэлла и Саймонь
Подобная терпимость к аномалиям возможна лишь в том случае
если уже существует развивающаяся наука и "принимаемая ь
качестве парадигмы теория должна казаться лучше, чем конкури
рующие с ней другие теории"**. А это предполагает, что теория
"работает" в совершенстве, по крайней мере в некоторой четко
определенной области. Но теорию познавательных процессов
Ньюэлла и Саймона нельзя считать не только общей, но и вполне
применимой к специально подобранному случаю. Именно там, где
следует как будто ожидать полного соответствия, являющегося
основанием для формирования парадигмы, мы находим
исключения. Таким образом, хотя работа Ньюэлла и Саймона содержит
несколько достойных внимания приближений, она не порождает
знание, действенное в той мере, которая ей позволяет
претендовать на открытие общих законов даже при наличии аномалий.
В своем рассуждении о "ньютоновской аномалии", вслед за
отрывком, который мы процитировали выше, Т. Кун указывает,
что "специалисты по математической физике в Европе
продолжали безуспешно бороться с хорошо известным
расхождением"***. Отсутствие подобного положения также невыгодно
отличает работу Ньюэлла и Саймона от принятой научной практики.
После того как исключения были установлены, никто из
специалистов по моделированию процессов познания — и менее всего
Ньюэлл и Саймон — не предпринял, судя по всему, даже попытки
к их объяснению. Напротив, они продолжали практику своих
грубых обобщений ad hoc, обращаясь к другим областям.
Существует и другой приемлемый способ обращения с
исключениями. Если бы, исходя из независимых соображений, было
установлено, что процессы мышления должны быть результатом
последовательно выполняемых дискретных операций,
определяемых некоторыми правилами, то в этом случае исключения
* Т. Кун. Структура научных революций^!, М., 1975, с. 110.
** Там же, с. 36.
***Тамже, с. 111.
123

можно было бы рассматривать либо как трудности случайного
рода, связанные с методикой эксперимента, либо же как
сомнительные случаи, которым предстоит дать объяснение на основе
соответствующего закона. Только в этом случае специалисты в
исследуемой области имели бы право считать каждую программу,
моделирующую разумное поведение — независимо от степени
приближения,— некоторым достижением, а все неудачи рассматривать
как трудные случаи, требующие поиска более остроумных
эвристик и программистской изобретательности. Однако тогда
возникает проблема иного рода: как, исходя из независимых
соображений, оправдать допущение о том, что человеческие
"информационные процессы" носят дискретный характер? (В
противном случае наличие исключений наряду с ограничениями в
применении программ и отсутствием прогресса за последние
10 лет скорее служит опровержением, чем подтверждением
упомянутой гипотезы.) Историю "оправдания" можно разделить на
два этапа.
В своих ранних работах, не пытаясь оправдать важное — и
спорное — допущение о дискретности, Ньюэлл и Саймон
представляют его в качестве постулата или рабочей гипотезы, которая
служит как бы путеводной нитью в их исследованиях. "Мы
постулируем, что человеческое поведение управляется
программой, организованной в виде ряда элементарных процессов
переработки информации"*. Этот постулат, который сам по себе
представляется достаточно спорным, в свою очередь выводится из
такого основного методологического принципа, как принцип
простоты. Согласно Ньюэллу и Саймону, этот принцип
предписывает принимать в качестве предварительной наиболее простую
гипотезу; в данном случае предварительная гипотеза состоит в
том, что любой информационный процесс в некоторой степени
напоминает процесс, реализуемый программно управляемой
цифровой вычислительной машиной. Мы можем предположить,
например, что при игре в шахматы, когда шахматист концентрирует
внимание на определенной ситуации, сложившейся на шахматной
доске, он подсознательно производит вычисления. Вообще
говоря, если выданный машиной результат — машинная
распечатка - содержит шаги, отсутствующие в отчете, который был
дан испытуемым,— принцип простоты оправдывает в качестве
руководства в проведении эксперимента простую рабочую
гипотезу, гласящую, что соответствующие шаги были осуществлены
человеком неосознанно. Дальнейшее исследование, разумеется,
должно подтвердить эту гипотезу, в противном случае она в конце
концов должна быть отвергнута.
* A.N e w e I I, H.S i m о п. Computer Simulation of Human Thinking, p. 9.
124

Однако расхождения между отчетами испытуемых и
результатами машинных экспериментов, равно как и трудности,
возникающие при планировании62, указывают, что дело обстоит
гораздо сложнее, чем это получается, если следовать одному
принципу простоты. В свете этого естественно было бы пересмотреть
рабочую гипотезу — поступить аналогично тому, как поступила
наука, покинувшая позиции Ньютоновой механики, когда они
оказались не в состоянии объяснить определенные явления; но
именно здесь исследования в области моделирования процессов
познания начинают идти в разрез с общепринятыми научными
нормами. Подводя итог работам, проделанным в упомянутой
области, Ньюэлл и Саймон заключают:
"Постоянно растущая масса данных свидетельствует о том, что
элементарные процессы по переработке информации, происходящие в
человеческом мозгу, в высшей степени напоминают некоторые из тех
элементарных информационных процессов, которые включаются в системы команд,
выполняемых современными вычислительными машинами"*.
Что же это за "растущая масса данных"? Разве были
заполнены пробелы в протоколах или объяснены исключения? Вовсе
нет. Видимо, "растущая масса данных"— это сами программы,
программы, отсутствие у которых свойства универсальности
могло бы, кажется, бросить тень сомнения на весь замысел, если
бы не независимое от этих "данных" допущение о "цифровой"
природе мозга. Для того чтобы — при наличии исключений —
признать эти специфические программы законченными теориями,
необходимо, чтобы психологическое допущение было
предварительно обосновано независимо от них; между тем сегодня это
допущение трактуется как гипотеза, которая подтверждается
единственно успешной работой этих программ. Гипотезы,
основанные на методологических принципах, которые в дальнейшем
подтверждаются фактами, имеют право на существование.
Однако в таких случаях недопустимо и совершенно непринято, чтобы
гипотеза сама порождала те свидетельства, которые служат ее
подтверждению.
Независимых эмпирических данных, свидетельствующих в
пользу психологического допущения, не существует. А
экспериментальный материал, который приводится в качестве
подтверждения того факта, что разум работает подобно цифровой
машине, свидетельствует о том, что это допущение, если только его не
постулировать заранее, скорее всего, противоречит фактам.
Такого рода методологическая путаница свойственна в
основном исследователям, работающим в области моделирования
процессов познания. Однако и специалисты по "искусственному
* H.S i m о n, A.N е w e I I. Information Processing in Computer and Man.-
American Scientist, vol. 52, 1964, September, p. 282.
125

интеллекту" глубоко убеждены в плодотворности эвристического
программирования; они также склонны думать, что все
трудности носят случайный характер, а неудачи нисколько не
свидетельствуют против применяемого экспериментального подхода.
Основываясь на сравнительно небольшом круге задач, в которых
их разработки привели к успеху, представители обоих
направлений ничуть не сомневаются в том, что все еще не выясненные ими
вопросы лежат в плоскости их исследований. Можно сказать, что
все они держат себя так, как будто взятое ими в кредит
психологическое допущение уже оплачено (хотя некоторые из
них, а именно специалисты по моделированию процессов
познания, пытаются представить этот "заем" как нечто
второстепенное) . Специалистам, работающим в этих областях,
психологическое допущение представляется не гипотезой, которая может
быть либо подтверждена, либо опровергнута опытом, а своего рода
философской аксиомой, справедливость которой гарантирована а
priori.
II. Априорные аргументы в пользу психологического
допущения
Априорный характер этой аксиомы ясно проявляется в том
способе, каким Дж.Миллер, Е. Галантер и К.Прибрам вводят свою
машинную модель. Процитированному нами выше (см.с.114)
тексту, в котором утверждается, что успех Г.Саймона в
значительной степени подтверждает точку зрения данных авторов,
предшествуют слова, в которых они следующим образом определяют
свои цели:
"Всякое полное описание поведения должно быть пригодным для того,
чтобы служить перечнем инструкций, то есть оно должно обладать
характерными чертами плана, который может руководить описываемым
действием"*.
Дж. Миллер, Е. Галантер и К.Прибрам исходят из того, что
само наше понятие объяснения или полного описания с
неизбежностью предполагает, что поведение должно описываться в
терминах перечня инструкций, то есть последовательности
определенных реакций на определенные ситуации. Поэтому не удивительно,
что такие психологи, как А.Ньюэлл, У.Ниссер и Дж.Миллер,
считают работу по моделированию процессов познания
многообещающей. С их точки зрения, если психология как наука вообще
возможна, то она должна быть выразима в форме программ для
вычислительных машин. Этот вывод следует не из эмпирических
* Дж. Миллер, Е. Галантер и К. Прибрам. Цит. соч., с. 30
(курсив мой. — X. Д.).
126

данных, а вытекает из самого определения объяснения.
Естественно поэтому, что отклонения от протоколов экспериментов и
всякого рода неудачи можно игнорировать. Сколь ни шатки
экспериментальные результаты в области моделирования
процессов познания, они должны быть первым шагом в направлении
более адекватной теории.
Это определение объяснения требует дальнейшего анализа.
Имеет ли оно смысл? Даже если ответ на этот вопрос
положителен, можем ли мы предрешать результаты психологии, заранее
предписывая ее теориям форму программ для вычислительных
машин на том основании, что в противном случае психология
вообще невозможна? А может быть, психология, понимаемая как
моделирование процессов познания,— это тупик?
Начнем с утверждения о том, что всякое полное описание
должно иметь форму перечня инструкций. Оно неясно.
Рассмотрим поведение человека, которому предлагается выбрать из
множества разноцветных геометрических фигур красный
квадрат. Полное описание такого поведения, согласно Дж. Миллеру и
его соавторам, должно представлять собой систему инструкций,
то есть план, следуя которому испытуемый решает данную задачу.
Какими же должны быть эти инструкции? Это могут быть самые
общие правила такого рода: выслушай команду, посмотри на
предметы, обрати внимание на их форму и выбери нужный
предмет. Но какие более детальные инструкции следует дать,
чтобы отличить квадрат от круга? Можно сказать: ''Подсчитай
число сторон. Если их четыре, то это квадрат". А какие требуются
инструкции для узнавания стороны? "Выбери наугад несколько
точек и проверь, находятся ли они на кратчайшей линии,
соединяющей концевые точки", и т.д. А как найти эти точки? Ведь в
конце концов я воспринимаю геометрические фигуры, а не точки.
Быть может, здесь наступает конец инструкциям и следует просто
сказать: "Вы подсознательно воспринимаете точки,
подсознательно обращаете на них внимание"? Но так ли это? И почему
инструкции заканчиваются в этом пункте, а не раньше или позже?
Если же инструкции такого рода вам все же кажутся
приемлемыми, то какими инструкциями вы воспользуетесь, чтобы
отличить красное от синего? На сей раз тем более неясно, почему и как
полное описание должно в психологии даваться в виде ряда
инструкций.
И все же такие утверждения имеют давнюю традицию. Кант в
явной форме анализировал весь опыт и даже восприятие,
перцепцию в терминах системы правил, а представление о том, что
наши знания основаны на системе четких инструкций, восходит к
еще более давним временам. Как мы видели, взгляд, согласно
которому для понимания происходящего требуется полное
описание, состоящее из последовательности правил, восходит к
127

истокам философской мысли, то есть к тому времени, когда
впервые были сформулированы наши представления о понимании
и разуме. Платон, проанализировавший в "Эвтифроне" этот
взгляд, спрашивает в "Меноне": необходимо ли добродетельному
человеку руководствоваться точным знанием, доступным лишь
философам? Иными словами, является ли "точное знание"
необходимым условием для философского понимания
действительности или же оно обязательно для добродетельного поведения
любого человека? Вообще говоря, Платон расценивал навыки
просто как средство для достижения прагматических целей.
Поэтому он не сомневался в том, что точное знание не
обязательно влечет за собой понимание (или реализацию) основанного на
навыках поведения. Когда же речь идет о геометрических
построениях или добродетельных поступках людей, то, по мысли
Платона, даже не отдавая себе отчета о тех или иных правилах,
люди тем не менее действуют на основе четкой рациональной
структуры, выявление которой доступно философам. Далее
Платон ставит вопрос, не следует ли скрыто человек, действующие
как математик или носитель морального начала, подобного роде
программе, когда он поступает разумно.
В этом состоит решающий момент в истории развития
концепций "понимания" и "объяснения". Позиция самого Платона ь
этом вопросе не оставляет никаких сомнений в том, что всякое
разумное действие, то есть действие, не являющееся произволь
ным, имеет для него рациональную структуру, которая может
быть выражена в терминах некоторой теории, и всякое лицо,
предпринимающее подобное действие, непременно следует
определенному набору правил, то есть некоторому знанию. Согласно
Платону, это знание уже заложено в сознании человека, предопре
делено еще до его рождения и может быть выявлено с помощью
вопросно-ответного метода*. Таким образом, теория
человеческой деятельности, которая, по Платону, позволяет понять, что
совершается на каждом этапе поведения человека, является для
него также и объяснением того, как такое поведение строится.
Приняв такое представление о понимании и такое отождествление
понимания и объяснения, мы с неизбежностью становимся на
точку зрения сторонников моделирования процессов познания,
которые нисколько не сомневаются в том, что полное описание
поведения представляет собой четкий набор инструкций для
цифровой машины, а также в том, что эти правила в
действительности могут быть использованы для составления программ
машинного воспроизведения соответствующего поведения.
Мы уже рассмотрели предположение, согласно которому мыш-
ление есть вычисление**. Мы видели, что его притягательность
*См.: Платон. Менон 82а - 86в. Соч., т. 1, с 385-392.
** См."Введение", разд. I.
128

восходит еще к идее Платона о том, что наша жизнь в моральном
отношении была бы гораздо более сносной, а наши знания более
определенными, если бы они соответствовали истине.
Правдоподобность этого предположения покоится, однако, просто на
смешении механистических допущений, лежащих в основе
успехов современных естественных наук, со своим коррелятом —
формалистическим допущением о том, какой должна быть наука
о человеческом поведении, если таковая возможна.
На определенном уровне это априорное допущение имеет
смысл. Человек — это реальный объект. Успехи в области
естественных наук убедили нас в том, что полное описание
поведения всякого реального объекта может быть выражено с
помощью точных законов. Такое описание в свою очередь может
послужить созданию программ для вычислительных машин,
которые, по крайней мере в принципе, в состоянии моделировать
соответствующее поведение. Так родилась идея
нейрофизиологического описания поведения человека в терминах ''входов"
(потоков энергии, физико-химических процессов мозга) и
"выходов" (движений физических тел),— описания, которое в принципе
допускает моделирование на цифровой вычислительной машине.
Такой уровень описания имеет смысл, по крайней мере в
первом приближении. Соответствующая идея со времен
Р.Декарта составляет часть общей физической картины вселенной.
Безусловно, мозг - это орган, преобразующий энергию. Он улавливает
входные сигналы, например изменение интенсивности освещения
и связанные с ним изменения текстурных градиентов. Но, к
великому сожалению психологов, физическое описание ни в коей
мере не дает психологического объяснения, поскольку в нем
отсутствуют какие бы то ни было психологические понятия. На
этом уровне нельзя достаточно квалифицированно судить о таких
сугубо человеческих факторах, как разум, мотивация,
восприятие, память и даже цветовые и звуковые ощущения, в том плане,
как это хотелось бы психологам. Энергия принимается и
преобразуется — вот и весь сказ.
Разумеется, есть и другой уровень — назовем его
феноменологическим, - на котором имеет смысл говорить о таких
человеческих факторах, как целенаправленное действие, восприятие
объектов и т.д. На этом уровне то, что мы видим,— это столы,
стулья, другие люди; то, что мы слышим,— это звуки, иногда
слова, предложения; то, что мы делаем,— это осмысленные
действия в определенных осмысленных ситуациях. Но этот уровень
устраивает психолога не более, чем физиологический, поскольку
здесь нет ничего, что говорило бы о следовании инструкциям или
правилам; психологическое объяснение — в том виде, который
требуется для моделирования процессов познания, — здесь
отсутствует. При столкновении с таким концептуальным кризисом
129

психологи всегда стараются найти некоторый третий
уровень — уровень, который был бы психологическим и в то же
время давал бы объяснение поведению.
Для того чтобы психология могла претендовать на статус
науки о человеческом поведении, она должна иметь предметом
изучения человека, но человека не просто как физический объект,
приходящий в движение, когда на него подается энергия (это
задача физики и нейрофизиологии). Альтернатива состоит в том,
чтобы попытаться изучить поведение человека как "входо-выход-
ной" процесс — как совокупность определенного рода объектов-
реакций в ответ на воздействие объектов некоего другого рода.
Какого рода должны быть объекты на выходе и на входе, никогда
не было ясно, но при всех обстоятельствах считалось, что для
получения объяснения требуется представить себе человека в виде
устройства, реагирующего на дискретные элементы по
определенным законам. Последние могут быть похожи на закономерности
причинно-следственного характера, описывая стереотипные схемы
организма, взаимодействие которых с сигналами, поступающими
из окружающей среды, обеспечивает сложные виды поведения.
Устройство в данном случае — это ''рефлекторный механизм", а
законы являются законами формирования ассоциаций. Так мы
приходим к эмпирической психологии Д.Юма и ее современному
варианту — психологической теории, основанной на отношении
"стимул — реакция" (S—R-психология). Но предмет психологии
может пониматься и иначе — как устройство по переработке
информации, а законы могут трактоваться в рамках кантовской
"модели" - как рассудок, составляющий правила разума,
руководствуясь которыми последний отвечает на входные
воздействия. В психологии эту школу называли "идеалистической",
"интеллектуалистской" или "менталистской", теперь же к ней
применяют термин "когнитивная психология".
До появления ЭВМ развитие эмпирической школы имело
определенный предел, потому что с позиций "интеллектуализма"
просто невозможно было расценивать человека как вычислимый
объект. Но взгляд на субъект как на "трансцедентальное ego",
применяющее правила, позволял относить научную теорию
поведения к некоему "маленькому человечку" (гомункулу),
пребывавшему в разуме и руководившему его действиями. Появление
вычислительных машин, однако, вызвало непреодолимое желание
трактовать действия в соответствии с правилами без привлечения
"трансцедентального ego" или гомункула. Более того,
представилась возможность программировать на вычислительных машинах
модели, служащие для анализа даже таких форм поведения, как
коммуникация на естественном языке, — форм, которые, как
представляется, слишком сложны для оценки их в терминах
психологии "стимула и реакции". Словом, теперь есть устройство,
130

которое может служить моделью для "менталистских" воззрений,
и разочарованные бихевиоризмом психологи независимо от
убедительности соответствующих аргументов или
экспериментальных данных будут хвататься за эту столь "надежную" соломинку.
Вычислительная машина — это физический объект. Однако
для описания работы машины нет необходимости вдаваться в
рассуждения о колебаниях электронов, происходящих в ее
транзисторах; описание производится на уровне организации ее двух-
позиционных элементов — триггеров. И если психологам удастся
интерпретировать организацию триггеров — а их срабатывание
подчинено четким правилам — в терминах более высокого
уровня, то их область исследований найдет наконец способ
объяснения человеческого поведения.
Приманка, заключенная в описанном подходе, столь
соблазнительна, что основной вопрос: допустимо ли на этом "третьем"
уровне — промежуточном между физическим и
феноменологическим уровнями — логичное, связное, понятное рассмотрение —
даже не ставится. Но сигналы для тревоги налицо. Язык таких
авторов, как Дж.Миллер и его соавторы, У.Ниссер или Дж.Фодор,
непоследователен в буквальном смысле этого слова. Почти на
каждой странице мы встречаем такого рода высказывания:
"Когда организм выполняет ппаи,он делает это шаг за шагом, завершая
одну его часть и затем переходя к следующей"*.
Здесь все три уровня представлены в неустойчивой и
грамматически неправильной смеси. "Когда организм (биологический
уровень.— Х.Д.) выполняет (машинная аналогия, заимствованная
из человеческой деятельности. —Х.Д.) план, он (человеческий
фактор. — Х.Д.)"ЪЗ и т.д. Можно "прокрутить" и наоборот:
вместо персонифицированного организма ввести
механизированный. Дж.Фодор говорит о "ментальной — мыслительной —
переработке"**, или "ментальных операциях"***, так, как будто всем
уже ясно, что это значит.
*Дж. Миллер, У. Таланте р, К. Прибрам. Цит. соч., с. 32. Ср.
следующие слова М.Минского в статье "Искусственный разум": "Эванс
начал свою работу над задачей... с того, что сформулировал некую гипотезу
о последовательности тех этапов или процессов, которые могли бы
протекать в мозгу человека, когда он действует в такой же ситуации"
(М. М и н с к и й. Искусственный разум.— В кн.: Информация,
с. 205). К тому же М.Минский и С.Пейперт адресуют свою книгу
"Персептроны" "психологам и биологам, которым хотелось бы
знать, как мозг «вычисляет» мысли" (М. Минский, С. Пейперт.
Персептроны, с. 7). В своей диссертации "Семантическая память"
Р.Квиллиан говорит: "Понять значение — это не что иное, как найти,
либо создать в мозгу того, кто понимает, некоторую конфигурацию
символов" (R. Q u i I I i а п. Semantic Memory. Bolt, Beranek and Newman,
Inc., paper AFCRL-66-189, October 1966, p. 70).
** J. F о d о r. Psychological Explanation, p. 30.
*** Ibid., p. 22.
131

Если это смешение понятий у Дж. Миллера и его соавторов
носит завуалированный характер, то у У.Ниссера и Дж.Фодора
оно выступает совершенно отчетливо. Дело в том, что эти
последние — в отличие от других специалистов, работающих в
данной области,— стремятся выделить философскую основу своих
исследований. Для уяснения того, в чем состоит упомянутое
смешение, лучше всего четко представить себе
нейрофизиологический и феноменологический уровни описания, а затем
попытаться поместить между ними психологический уровень.
Определяя место уровня информационных процессов, У.Нис-
сео гозооит:
"Безусловно, существует реальный мир, мир деревьев, людей,
автомобилей и даже книг... Но у нас нет непосредственного доступа ни к этому
миру, ни к какому-либо из его свойств"*.
Это, безусловно, верно, если речь идет о физических
объектах**. Как определил Ниссер, "сенсорный вход - это не
страница текста, а определенная конфигурация световых лучей"***.
Все это так, но дальше Ниссер начинает смешивать физический и
феноменологический уровни: "Лучи, сфокусированные должным
образом линзой... попадают на чувствительную сетчатку, вызывая
нервный процесс, который в ко^це коичов приводит к
способности видеть, читать и запоминать"****. Дело, однако, обстоит не
так просто. Выражение "приводит к" двусмысленно. Световые
волны, падая на ретину, приводят в конце концов к
возникновению физико-химических процессов в мозгу, однако из этого
вовсе не следует, что лучи света или нейронные процессы приводят к
возникновению способности видеть**51***. Способность видеть
— это не химический процесс и, следовательно, не может быть
конечным результатом ряда таких процессов. Если же выражение
"приводит к" понимать как "необходимо и достаточно для", то
либо способность видеть и есть вся цепь явлений, приводящая к
зрительному восприятию, либо это нечто совершенно отличное от
самой цепи и любого из ее звеньев. И в обоих случаях не ясно, на
каком основании Ниссер утверждает, что у нас нет
непосредственного доступа к воспринимаемому миру.
Как только произведено это неправомерное объединение двух
уровней — нейронного и феноменологического — в единую струк-
* U. N е i s s e г. Op. cit., p. 3.
** Разумеется, с феноменологической точки зрения мы имеем
непосредственный доступ именно к объектам, а не к световым волнам.
***U.Neisser. Op.cit, p.3.
**** Ibid., p. 3 (курсив мон.-Х.Д.).
***** По крайней мере если не считать себя сторонником теории
тождества ощущений и мозговых процессов, а к таковым У.Ниссер,
по-видимому, себя не пречисляет, ибо подобная позиция непременно потребовала бы
некоторой дополнительной аргументации, отсутствующей у Ниссера.
132

туру, располагающуюся между личностью и миром, возникает
необходимость создания нового словаря. Эта "ничейная" область
описывается в терминах "сенсорных входов" и их
"преобразований".
"В данном употреблении термин "познание" относится ко всем
процессам, посредством которых сенсорные входные данные преобразуются,
сжимаются, обрабатываются, запоминаются, извлекаются из памяти и,
наконец, используются... Такие термины, как ощущение, восприятие,
воображение, впечатление, вспоминание, решение задач и мышление,
наряду с многими другими относятся к гипотетическим стадиям или
аспектам процесса познания"*.
Коль скоро вместо мира, в котором мы находимся, вводится
понятие "сенсорного входа", "сенсорных входных данных",
приходится допустить, что наше восприятие есть результат
"развертывания" или "преобразования" этих "входных раздражителей"**.
Но что означает такое преобразование, зависит от в высшей
степени двусмысленного понятия "входного раздражителя". Если
на вход действует энергия, то она с необходимостью
преобразуется в какой-то иной вид энергии — вне всякого сомнения,
процессы в мозгу материальны от начала и до конца.
Вещественно-энергетические процессы могут преобразовываться, сжиматься,
обрабатываться, накапливаться, извлекаться и использоваться, но
при этом они всегда будут оставаться
вещественно-энергетическими. Если, однако, раздражитель — это своего рода
примитивное восприятие, элементарная перцепция, как, по-видимому, и
считает У.Ниссер ("второй раздражитель оказывает некоторое
рпияние на восприятие непродолжительно действовавшего
первого"***) , то нам следует выяснить, с какого рода "перцептом"
мы в этом случае имеем дело. Философы больше не верят в
"чувственные данные", и, если Ниссер вводит понятие
"элементарного перцепта", он должен привести для этого немало
аргументов и подкрепляющих фактов. В феноменологическом плане
мы непосредственно воспринимаем физические объекты,
воспринимаем, не отдавая себе отчета ни о чувственных данных, ни о
световых лучах. Если Ниссер хочет перенести понятие входного
воздействия из физической в перцептивную область, то ему
следует объяснить, какого рода восприятие он имеет в виду и
какими данными он располагает для доказательства того, что
существует результат перцепции, который не является ни конфи-
* U.N e i s s е г. Op.cit, p. 4 (курсив *ло\л.—Х.Д.) .
** Ibid., p. 5: "Наши знания о мире, — говорит здесь же Ниссер, —
должны быть каким-то образом извлечены из входных раздражителей".
*** Ibid., р. 22.
133

гурацией световых лучей, ни визуальным образом материального
объекта*.
Выход из положения, оказывается, заключается в
использовании понятия "информации". "Информация" - говорит Ниссер,
* Возрождение юмовской концепции "данных органов чувств"
неизбежно приводит исследователя к введению кантовских правил, служащих
объяснению синтеза этих данных при переходе к восприятию объектов.
Было бы более естественно и потому более целесообразно с точки зрения
определения направления дальнейших исследований выяснить, что же
именно делают такие психологи, как У. Ниссер, независимо от ошибочности
вводимых ими понятий. Такого рода работа предполагает попытку
определения тех скрытых ориентиров в перцептивном поле, которые
оказываются существенными в различных областях восприятия, например тех,
которые играют важную роль в восприятии глубины. Вопрос о том,
какие именно неявные ориентиры необходимы, можно решить посредством
систематического исключения различных факторов, таких, как
бинокулярное зрение, смещение, текстурный градиент, и т.д. Можно даже определить
порядок зависимости и количество этих скрытых ориентиров, которые
являются существенными в данный момент. В результате, как надеются
сторонники этого направления, будут выявлены последовательные шаги,
соответствующая компоновка которых позволит разработать структурную
схему программы для ЭВМ. Если это удастся, то появится возможность
формализовать законы, по которым на каждом этапе вход преобразуется в
выход.
Для работы такого рода нет необходимости прибегать к
"подсознательным правилам", конституирующим воспринимаемое целое из некоторых
составляющих элементов. В этом случае мы уже никогда не скажем, что "у
нас нет непосредственного доступа ни к этому миру, ни к какому-либо из
его свойств". Психологически реальными в подобной теории будут не
элементы и правила, а как раз те самые, используемые в нашем обычном
восприятии объектов, скрытые ориентиры, которые и важны для теории.
Хотя в большинстве случаев мы не отдаем себе отчета в их
существовании, эти скрытые ориентиры отнюдь не неосознаваемы. Фокусируя на них
внимание, мы в состоянии осознать их — в отличие от событий на
нейронном уровне или даже от тех "моментальных снимков" объектов, которые,
по утверждению Ниссера, мы действительно воспринимаем. Иногда эти
ориентиры до такой степени неуловимы, что мы не можем обнаружить их
при простом рассматривании. Так, например, невозможно уловить
незначительные смещения каждой точки на картинке Джулеза, благодаря которым
возникает иллюзия глубины. Но если бы нам сказали, на что следует
обратить внимание, то с помощью подходящего измерительного устройства
мы смогли бы, скорее всего, обнаружить эти смещения. Таким образом,
можно сказать, что эти неявные ориентиры реально существуют с
психологической точки зрения, то есть в том смысле, что мы можем их осознать.
"Структурная схема" тоже реальна с психологической точки зрения, но
лишь в тех узких рамках, когда она выражает порядок зависимости
неявных ориентиров. Нет никакого сомнения в том, что существует
какое-то весьма прибгизительное соответствие между структурной схемой,
о которой идет речь, и протекающими в мозгу физическими процессами, но
даже в этих случаях нет оснований говорить о такой подсознательной
переработке, как если бы мозг представлял собой цифровую
вычислительную машину, работающую по некоторой программе.
Любопытно, что, когда психологи действительно проводят подобного
рода исследования, они обнаруживают, что отдельных ориентиров, которые
134

- вот что преобразуется, и наша цель — понять структурную
картину этого преобразования"*. Но поскольку понятие
входного раздражителя осталось неоднозначным, мы так и не знаем,
что это за информация и как предполагается соотнести ее с
"входным раздражителем", который может быть либо энергией,
либо непосредственно восприятием.
И наконец, смешение этих двух взаимозависимых и
неоднозначных понятий — "входной раздражитель" и "информация"
— проявляется особенно отчетливо в "основной мысли" книги
У. Ниссера:
"Основная мысль состоит в том, что способность видеть, слышать и
запоминать — все это конструктивные акты, в которых в зависимости от
обстоятельств в большей или меньшей степени используется информация
(Sic. - Х.Дщ), содержащаяся в раздражителе. Мы полагаем, что эти
конструктивные процессы проходят в два этапа. Первый носит
предварительный характер; на нем происходит охват явления в целом; имеет
место грубая обработка информации, процесс "запараллелен". На втором
этапе переработка информации осуществляется последовательно;
происходит обдуманный, тщательный, требующий внимания процесс
конструирования"**.
Неоднозначность представления о "входной информации" и
связанную с этим логическую гетерогенность той системы
понятий, которая лежит в основе этого подхода и его следствий, легче
всего продемонстрировать на конкретном примере. Посмотрим,
как УаНиссер анализирует восприятие страницы текста.
"Мы воспринимаем движущиеся объекты как цельные вещи. Эту
способность можно объяснить только тем, что восприятие является
результатом интегративного процесса, развертывающегося во времени. Тот же
процесс, безусловно, лежит в основе построения визуальных объектов на
основе последовательности "моментальных снимков", производимых
движущимся глазом"***.
Здесь следует задать вопрос: Что это за "моментальные
снимки"? Конфигурации распределения энергии? Или мгновенные
картины страницы? Если это конфигурации распределения энер-
были бы достаточны и необходимы, не существует, однако различные их
комбинации оказываются достаточными при некоторых конкретных
ограничениях. Порядок зависимости неявных ориентиров также меняется от
ситуации к ситуации. Поэтому получающиеся при этом результаты могут
быть истолкованы как структурная схема лишь в очень редких случаях и
только в очень ограниченном смысле. Для того чтобы полностью
формализовать свою теорию в терминах машинных моделей, экспериментаторам
пришлось бы либо определить вход с помощью абстрактных, не зависящих
от ситуации переменных, либо отыскать метаправила, по которым
распознаются конкретные ситуации и устанавливается соответствие между этими
ситуациями и конкретным порядком зависимости. До сих пор не удалось
обнаружить ни таких абстрактных переменных, ни таких правил. (См. мою
статью Phenomenology and Mechanisms. In: NOUS, vol. V, No.I, February, 1971.)
* U. N e i s s e r. Op. cit., p. 8.
** Ibid., p. 10.
*** Ibid., p. 140.
135

гии, то не имеет смысла говорить, что они воспринимаются; их
интеграция производится не воспринимающим субъектом, а
мозгом как физическим объектом. В то же время на
феноменологическом уровне вообще нет надобности интегрировать
отдельные "моментальные снимки"страницы. Последняя воспринимается
постоянно, а представление о том, что йна зрительно дается в
форме последовательности "моментальных снимков" или
"входных раздражителей",— это уже результат абстракции от этой
непрерывно наличествующей страницы. Разумеется, зрительная
фиксация страницы связана с некоторой "переработкой", но с
переработкой не результатов первичного восприятия объектов,
или "моментальных снимков" — что может только привести к
вопросу о принципах их собственной "конструкции", — а с
переработкой некоторых меняющихся форм распределения
энергии, воздействующей на глаз.
Смешение понятий, явившееся результатом попытки введения
промежуточного уровня рассмотрения между физиологическим и
феноменологическим, еще более отчетливо выражено в работе
Дж.Фодора, которая не оставляет сомнений относительно позиции
ее автора по данному вопросу. Обсуждая восприятие зрительных
и слуховых образов, Фодор отмечает: "Представление о лице,
мелодии или форме, которым вы располагаете... включает
описание формальной структуры, относящейся к соответствующей
области, и акт распознавания построен на использовании такого
рода информации для интеграции текущих сенсорных входов"*.
И опять возникает вопрос, что' значит "сенсорный вход". Если
"сенсорный вход" — это сразу или лицо, или мелодия, или форма,
то все уже сделано. Если же, напротив, "сенсорный вход" — это
физическая энергия, воздействующая на органы чувств, то
невозможно понять, что имеет в виду Фодор, говоря об
"использовании" "представления1' или "информации" для интеграции таких
"входов", поскольку интеграция в применении к физической
энергии является, несомненно, процессом дальнейшего
энергетического преобразования.
Разумеется, если считать этот спорный вопрос решенным и
согласиться с тем, что мозг — это цифровая машина, то идея,
согласно которой понятие, или "концепт",— это формальная
структура для организации данных, приобретет некоторый смысл.
В этом случае "сенсорный вход" не будет трактоваться ни как
результат восприятия, ни как форма распределения энергии — это
будет последовательность квантов информации, а понятие,
"концепт", будет представлять собой систему инструкций для
соотнесения этих квантов с ранее накопленными данными и опознавания
результата. Но это равноценно гипотезе о том, что человеческое
поведение может быть понято на основе аналогии с цифровой
* J. Fodor. Psychological Explanation, p. 26.
136

машиной. Для подтверждения этой гипотезы потребуется
создание теории, объясняющей, чем являются эти "кванты", и
опирающейся на экспериментальный материал.
Но Дж.Фодор, равно как и Дж.Миллер и его соавторы,
считает, что представление о "сенсорном входе" и "концепте" как
о правиле организации этого "входа" не требует никаких
оправданий. Оно содержится в самом понятии психологического
объяснения.
"Психологическая теория — в той мере, в какой это касается поведения,
— может рассматриваться как функция, отображающая конечное
множество входных воздействий на организм в бесконечное множество
возможных выходных реакций"*.
В качестве концептуального представления отношений,
имеющих место между восприятием и поведением, — представления,
которое нам предлагают принять вне зависимости от
экспериментальных сведений о работе мозга, — такое описание просто
непостижимо.
Как и в случае с У.Ниссером, непоследовательность этого
анализа лучше всего видна на конкретном примере. Дж.Фодор
пытается выяснить, каким образом "мы можем воспринимать
как сходное" — речь идет о мелодии — "то, что с физической точки
зрения представляет собой совершенно различные
последовательности тонов" (музыкальных звуков) **. Анализ такого рода не
может не вызвать многочисленных вопросов: понимаются ли
последовательности тонов в физическом или феноменологическом
смысле? Что это — структуры, состоящие из звуковых волн или же из
"перцептов"? Замечание о физическом различии тонов
предполагает, видимо, первое. И в самом деле, на уровне вещественно-
энергетических процессов несомненно, что входная энергия
различных частот коррелирует с перцептивными состояниями.
Происходящие при этом преобразования энергии, видимо, будут
когда-то открыты нейрофизиологами. Но такие физические
последовательности тонов нельзя "услышать" — мы не можем
слышать частот; мы слышим только звуки и потому a fortiori
частоты не могут быть "слышимы, воспринимаемы как сходное".
Если же мы в то же время будем трактовать входной сигнал как
последовательность тонов в феноменологическом смысле, где уже
можно предположить, что мы "слышим нечто как сходное", то
мы окажемся на уровне восприятия и, к несчастью для Фодора,
вопрос о том, каким образом эти последовательности тонов наш
слух воспринимает как одинаковые, снимается. Ибо для того
чтобы корректно сформулировать эту проблему, надо в первую
очередь исходить из уже известного нам факта, что в феноменоло-
* Ibid., p. 29.
** Ibid., p. 26.
137

гическом смысле последовательности тонов воспринимаются
одинаково. На феноменологическом уровне мы слышим их
одинаково, потому что они звучат одинаково.
Подходя к этому вопросу с другой стороны, Дж.Фодор задает
вопрос: "Какую конкретно ноту (то есть в каком ключе, при
каких абсолютных значениях длительности, насыщенности,
ударности, высоты тона и силы звучания) мы ожидаем услышать
после того, как прослушали первые несколько нот песни
Лилибурлеро64*- Но мы "ожидаем" повсе не каких-то
"абсолютных значений". Мы ожидаем услышать мелодию.
Абсолютные значения составляют проблему для нейрофизиолога,
вооруженного осциллографом, или для того, кто хочет слышать
отдельные ноты, но не для человека, воспринимающего мелодию.
Если бы мы в действительности воспринимали эти
"абсолютные значения", то для объяснения того, как мы узнаем в
различных последовательностях тонов одну и ту же мелодию, нам
действительно пришлось бы стать на позицию "последовательного
концептуализма", которую защищает Фодор.
"Весьма трудно объяснить способность к распознаванию типа объектов,
несмотря на большое различие в их признаках, если не принять тот факт,
что при распознавании используются чрезвычайно абстрактные понятия. Но
и в этом случае трудно объяснить ...способ применения этих понятий, если
не допустить возможности участия психологических механизмов
исключительной сложности"**.
Здесь налицо путаница в использовании слов "тип" и
"признак". Что это за признаки? Воспринимаемая в
феноменологическом смысле последовательность звуков (мелодия) не может
быть абстракцией (типом), по отношению к которой входные
потоки физической энергии являются конкретизацией
(признаками) . Восприятие и физическая энергия в равной степени
являются конкретными явлениями, но они совершенно разного
рода. Никакие ухищрения не приведут к устранению разрыва
между колебаниями энергии на входе и длительным восприятием
звучания. Одно не является конкретизацией другого. Но в равной
степени нельзя считать, что признаки — это феноменологические
последовательности изолированных абсолютных тонов (в том
смысле, как это понимают сторонники теории "чувственных
данных"). Слушая мелодию, мы не воспринимаем абсолютных
тонов, поэтому в данной интерпретации не должно быть места ни
для каких признаков.
Но даже если предположить, что Дж.Фодор имеет в виду
физическую модель, которую можно вложить в вычислительную
машину, то данный вид распознавания образов можно осу-
* Ibid, p. 28.
** Ibid.
138

ществить, скажем, с помощью нейронной сети или аналогового
устройства, если, разумеется, это возможно в принципе. Нет
никаких оснований полагать, что такую модель можно
реализовать с помощью эвристической программы (системы абстрактных
понятий), не говоря уже о том, нужна ли вообще такая
программа в концептуальном плане.
И все же Фодор никогда не ставит под вопрос допущение,
согласно которому существует некоторый уровень переработки
информации, при котором процесс преобразования энергии может
рассматриваться в терминах последовательности определенных
операций. Единственно, что его интересует, это: "Как можно
установить, что машина руководствуется той же программой, что
и мы, то есть выполняет те же операции?" Так, например,
поставив вопрос, как определить, удачна ли оказалась некоторая
машинная модель, Фодор говорит: "Нам следует лишь принять
соглашение, что формы поведения выделяются не только в
соответствии с внешне наблюдаемыми реакциями организма, но
также и на основе учета той последовательности мыслительных
(ментальных) операций, которая лежит в основе этих внешних
реакций"*.
Или еще яснее:
"Сильная эквивалентность требует, чтобы операции, на которых
основано поведение машины, были того же типа, что и операции, лежащие в
основе поведения организма"**
Здесь следует принять во внимание, что аргументация Дж.
Фодора зависит от двоякого рода допущений. Во-первых, подобно
Дж. Миллеру и его соавторам, а также У.Ниссеру, Дж. Фодор
использует неоднозначное понятие "входа", "входного
раздражителя", "входного стимула". Оно позволяет ему ввести такой
уровень рассмотрения, на котором представляется возможным
строить анализ перцепции так, как если бы человек был
машиной, на вход которой подаются данные, называемые
"информацией, содержащейся в раздражителе". Это равносильно
другому допущению — о том, что, помимо энергетических
преобразований, "в процессе восприятия происходит переработка
данных"***.
Далее Дж. Фодор делает два допущения иного рода —
допущения, которые он, по-видимому, не вполне осознает: 1) что
"данные" обрабатываются подобно тому, как это делается на
цифровой машине, то есть с помощью дискретно выполняемых
операций, и 2) что работа этой цифровой машины носит
последовательный характер и направляется чем-то вроде эвристической
* Ibid, p. 140 (курсив мой.-Х.Д).
** Ibid., р. 141.
*** Ibid., p. 83.
139

программы, в силу чего можно говорить о некоторой
последовательности такого рода операций. Защищая идею
"последовательного концептуализма", согласно которой процесс восприятия
требует сложных мыслительных операций, Фодор таким образом
догматически вводит представление о "процессе переработки
информации", оставляя без внимания вопрос об иных формах
вычислительных устройств и даже иных формах цифровой
обработки данных. Вот какими словами завершает Дж.Фодор свой
анализ явления распознавания мелодии:
"Отличительным признаком этого явления оказывается выделение
"инвариантов", то есть факторов, приводящих восприятие к радикальному
и постоянному отбрасыванию информации, непосредственно содержащейся
в физическом входном воздействии. Такие факторы со времен Г. Гельм-
гольца считаются лучшим аргументом в пользу существования
неосознаваемых мыслительных операций. Если мы хотим объяснить несоответствие
между входным воздействием и результатом восприятия, то другой
альтернативы не существует"*.
Свое рассмотрение логики машинного моделирования
Дж.Фодор строит на основе непоколебимого доверия к этим
шатким допущениям. Легкость, с которой эти лжеаргументы
сходят за концептуальный анализ, показывает, сколь сильны
тиски платоновской традиции и сколь необходима вера в
"уровень информационных процессов", который должен
существовать, если психология возможна как наука65-
Безусловно, использование вычислительных машин в качестве
модели правомерно при условии, что мы отдаем себе отчет в том,
что имеем дело только с гипотезой. Но в работах Дж. Миллера и
его соавторов, У.Ниссера и Дж.Фодора, как мы видели, эта
гипотеза преподносится как априорная истина, то есть как
результат глубокого концептуального анализа процесса
поведения человека.
Правда, время от времени нам удается мельком увидеть
эмпирическую основу данного допущения. Аргументы
Дж.Фодора в пользу правомерности использования
машинно-математических моделей в психологии полностью покоятся на
гипотетическом представлении о том, что "мы располагаем машиной,
удовлетворяющей любым экспериментальным тестам, которые
можно придумать для проверки соответствия всех форм
поведения машины, с одной стороны, и организма — с другой"**.
Однако эмпирический характер этого утверждения, выраженный
в столь завуалированной форме, опровергается уже тем, что оно
построено в терминах "последовательности мыслительных
операций", как будто заранее известно, что машина, о которой идет
речь, возможна.
* Ibid, p. 85 (курсив мой.— Х.Д.).
** Ibid., p. 146.
140

Только в том случае, если машина, о которой говорит
Дж.Фодор, существует и действительно работает по принципу
последовательного выполнения операций, для постановки и
интерпретации экспериментов в психологии правомерно использовать
понятия, относящиеся к цифровому вычислительному
устройству, управляемому эвристической программой. Но чтобы решить
вопрос о возможности такой разумной машины, и,
соответственно, о правомерности данной системы понятий, необходимо для
начала попытаться запрограммировать такую машину или оценить
уже испытанные программы. Если же "машинный язык"
используется как самоочевидное и бесспорное средство для
формулировки той системы понятий и представлений, в терминах которой
должны ставиться эксперименты и пониматься их результаты, и
если при этом не выдвигается аргументов, значимых a priori, и не
предлагается экспериментального доказательства существования
упомянутой машины, то ни к чему, кроме путаницы, мы не
придем.
ЗАКЛЮЧЕНИЕ
Итак, мы снова движемся по замкнутому кругу. В конце
разд. I этой главы мы видели, что множество исключений, не
получивших объяснения, и отсутствие моделей процессов более
высоких порядков, таких как сосредоточение внимания и различение
существенного и несущественного, ставят под сомнение
соответствующие экспериментальные результаты. Последние можно
считать многообещающими, только приняв априорное допущение,
согласно которому наш разум должен работать подобно цифровой
машине, управляемой эвристической программой. Но сейчас мы
видели, что лишь достаточно обоснованные аргументы в пользу того,
что разум функционирует подобно вычислительной машине, могут
свидетельствовать о действительном или потенциальном
существовании такого рода разумной машины.
Ответ на вопрос, может ли человек создать подобную машину,
должен основываться на уже проведенной работе. Учитывая то,
что было сделано ранее, и тот застой, который наблюдается на
сегодняшний день, наиболее правдоподобным представляется
отрицательный ответ: "Нет". Невозможно обрабатывать
недифференцированный "входной сигнал", не проводя различия между
существенными и несущественными, важными и маловажными
данными. Мы видели, что А.Ньюэллу, Дж.Шоу и Г.Саймону
удалось избежать этой проблемы лишь путем предварительной
обработки данных и что Дж. Миллер и его соавторы избежали ее
только потому, что ошибочно полагали, будто Ньюэлл, Шоу и
Саймон уже располагают программой для выполнения этого
141

первоначального отбора. Но коль скоро такие многообещающие
эмпирические результаты отсутствуют, то и все эти сами себя
подтверждающие аргументы разваливаются как карточный
домик.
Единственный способ справиться с феноменом
избирательности состоит в использовании процедур аналогового характера,
соответствующих избирательной способности наших органов
чувств. Но тогда процесс в целом не будет более цифровым, и у
нас, естественно, возникает вопрос, ограничивается ли типичный
аналоговый процесс только периферическими органами. Все это
бросает тень сомнения на идею "последовательно выполняемых
операций" и возвращает нас к началу дискуссии. Затруднения
такого рода означают, что хотя человек - это, безусловно,
физический объект, перерабатывающий физические входные сигналы
по законам физики и химии, может оказаться, что человеческЪе
поведение необъяснимо в терминах информационного процесса,
состоящего в получении и обработке дискретных входных
сигналов. Более того, ни из физики, ни из результатов опытного
характера отнюдь не следует, что действия человека следует
объяснять именно таким способом, поскольку на физическом
уровне мы имеем дело с непрерывно меняющимися формами
энергии, а на феноменологическом — с объектами уже
организованной области опыта.
Изучение этой области опыта и должно составить альтернативу
для психологии в качестве возможной сферы ее исследований. Но
прежде чем перейти к рассмотрению этой альтернативной теории
(часть III), мы должны рассмотреть два других допущения -
допущения, которые если и не укрепляют направление
"моделирования процессов познания", тем не менее, по крайней мере на
первый взгляд, дают надежду на успех в области "искусственного
интеллекта".

Глава 5. ЭПИСТЕМОЛОГИЧЕСКОЕ ДОПУЩЕНИЕ
Мы видели, сколь трудно определить, что такое "менталь
ный"— мыслительный — уровень функционирования. Чем бы
сознание ни являлось, совсем не обязательно, чтобы оно
действовало подобноЭВМ. Утверждение специалистов в области моделиро
вания процессов познания, согласно которому разум можно
понимать как процесс переработки информации по эври
стическим правилам, практически оказывается непонятным
Машинная модель совершенно бесполезна при попытке объяснить,
что происходит с людьми в процессе мышления и восприятия. А
тот факт, что люди обладают способностью мыслить и
воспринимать, вовсе не дает оснований для оптимизма тем исследователям,
которые пытаются воспроизвести человеческое поведение с
помощью цифровой вычислительной машины.
Однако для оптимизма еще сохраняется одно основание: хотя
действия человека^ не могут быть объяснены на основе
предположения, что люди на самом деле следуют эвристическим правилам,
неосознанно выполняя некоторую последовательность операций,
разумное поведение может быть тем не менее формализовано в
терминах такого рода правил и благодаря этому воспроизведено
на машине*. В этом состоит эпистемологическое допущение.
Рассмотрим, например, движение планет. Обращаясь вокруг
Солнца, они не решают дифференциальных уравнений. Они вооб-
* Под "воспроизведением" понимается реализация существенных
характеристик рассматриваемого поведения. Имеется в виду не абсолютно
полное копирование, а отношение, подобное тому, которое имеется между
Эйфелевой башней, которая сделана из стали, и ее фотографией. Поскольку
мы не можем рассчитывать на то, что вычислительные машины будут
двигаться и проявлять формы человеческого поведения в обычном смысле
слова, нас не будет интересовать использование формальной теории
некоторой деятельности, являющейся точной копией этой деятельности.
Реализацию существенных характеристик некоторых действий, без имитации
действий во всех деталях, можно было бы, вообще говоря, назвать
"моделированием". Так, на ЭВМ можно моделировать выборы, не
предполагая фактического голосования. Однако термин "моделирование" уже
"узурпирован" теми исследователями, которые занимаются построением
моделей когнитивных процессов и включают в эти модели не только
главные черты поведения, но и те шаги, которые имеют место при его
осуществлении.
143

ще не следуют каким-либо правилам, однако их поведение
подчиняется определенным законам, для понимания которых
используется формальный аппарат — в данном случае
дифференциальные уравнения,- выражающий это поведение как движение
в соответствии с некоторым правилом. Или другой пример:
велосипедист для сохранения равновесия то и дело перемещает
центр тяжести своего тела, предотвращая тем самым падение.
Рациональное содержание его движений можно выразить
правилом: ехать так, чтобы кривизна траектории его пути была все
время обратно пропорциональна квадрату скорости*.
Велосипедист, разумеется, не следует этому правилу сознательно, и нет
оснований предполагать, что он следует ему бессознательно. Тем
не менее такая формализация помогает нам выразить или понять
его компетенцию, то есть его способность реализовать данное
поведение. Это, однако, не является способом объяснения его
действий. Формализация говорит лишь о том, что значит хорошо
ездить на велосипеде, и нич . о о том, что происходит в моз-
* Пример с велосипедистом заимствован мною из книги М.Поляного
"Познание и личность" (М. Р о I a n у i, Personal Knowledge, London, R. &
К. Paul, p. 49). Анализ этого примера, проводимый Поляным, заслуживает
того, чтобы привести его полностью: "После моих бесед с физиками,
инженерами и изготовителями велосипедов я пришел к выводу, что
принцип, в соответствии с которым велосипедист удерживает равновесие,
мало кому известен. Правило, которому следует велосипедист,
заключается в следующем: когда он начинает падать на правую сторону, он
поворачивает руль вправо с тем, чтобы траектория велосипеда также
отклонилась вправо. В результате возникает центробежная сила,
толкающая велосипедиста влево и уравновешивающая силу тяжести, действующую
справа. Этот маневр быстро приводит к тому, что велосипедист начинает
падать влево; противодействуя этому, он поворачивает руль влево;
подобным образом он и едет, продолжительное время сохраняя равновесие.
Нетрудно показать, что для данного угла наклона кривизна траектории
обратно пропорциональна квадрату скорости, с которой движется велосипедист.
Но можно ли на основании этого утверждать, что мы доподлинно знаем,
как ездить на велосипеде? Совершенно очевидно, что невозможно ехать
так, чтобы угол поворота руля велосипеда все время находился в
соответствии с отношением угла наклона к квадрату скорости, с которой вы
движетесь; даже если вы будете выполнять это правило, то все равно
свалитесь с велосипеда, поскольку существует еще масса других факторов,
которые следует учитывать при практической езде, но на которые не
распространяется данное правило".
В этом примере содержится важная догадка — догадка о том, что
формализм не может быть основой действий. Однако Поляный несколько
смазывает ее значение, ссылаясь на "скрытые правила" (р. 53). Эта ссылка
показывает, что Поляный, как и Платон, не делает различия между
выполнением некоторого действия и компетенцией, между пониманием чего-то
человеком и научным объяснением, между правилом, которому следуют, и
правилом, которое используется для описания происходящего. Именно это
смешение понятий и порождает оптимизм, свойственный исследователям в
области моделировании процессов познания.
У самого Поляного есть свои возражения против упомянутого только
что направления исследований. Он считает, что "в некотором существенном
144

гу или разуме велосипедиста в процессе выполнения им этой
задачи.
Таким образом, существует почти неуловимое, но очень
важное различие между психологическим и эпистемологическим
допущением. И то и другое основано на платоновском
представлении о понимании как о формализации. Однако сторонники
психологического допущения (исследователи, занимающиеся
моделированием процессов познания) считают, что правила,
применяемые для формализации поведения, являются теми же
самыми, что и правила, реализующие это поведение. Сторонники
же эпистемологического допущения (исследователи в области
"искусственного интеллекта") утверждают, что всякое
непроизвольное поведение может быть формализовано в соответствии с
некоторыми правилами, а также что эти правила, какими бы они
ни были, могут затем использоваться вычислительной машиной
для воспроизведения этого поведения.
Эпистемологическое допущение слабее и потому менее
уязвимо, чем психологическое. Но тем не менее оно уязвимо.
Сторонники эпистемологического допущения понимают, что их
формальный аппарат, рассматриваемый в качестве теории компетенции, не
обязан быть теорией человеческой деятельности. Однако их
зависимость от платоновских идей не позволяет им осознать, что
любая теория компетенции не может служить адекватной теорией
также и машинного функционирования. Таким образом,
эпистемологическое допущение основано на двух утверждениях:
а) всякое непроизвольное поведение может быть формализовано
и б) для воспроизведения интересующего нас поведения может
быть использован формальный метод. В этой главе мы
подвергнем критическому анализу утверждение а) на том основании, что
оно неоправданно распространяет методологию естественных
наук на область психических явлений, а также утверждение б),
поскольку теория компетенции, как мы постараемся показать, не
может быть теорией деятельности: в отличие от технологического
применения законов физики, служащего для реализации
соответствующих физических феноменов,теория компетенции, в которой
не учитывается ни время, ни контекст, не может быть использова-
смысле слова" мы действительно знаем соответствующие правила; однако
при этом он утверждает, что "мы не можем обращаться с ними так, как
будто они составляют неосознаваемое знание, поскольку главное в этом
знании (более или менее подсознательном) — ориентация на некоторую
конечную цель. Именно это качество "потенциально-вспомогательной" осо-
знаваемости, качество функциональной формируемости действий машина
не может имитировать, поскольку она всегда работает на одном-единст-
венном уровне осознания" (из личной переписки). Это интересная
промежуточная позиция; при этом, однако, автор оставляет открытым вопрос о
том, насколько необходимо предполагать, что мы в каком бы то ни было
смысле вообще следуем правилам при наличии этого второго типа
осознания.
145

на для воспроизведения протекающего во времени поведения,
требующегося в человеческой деятельности; в действительности
теория человеческой деятельности вообще не может
существовать. Если этот аргумент убедителен, то эпистемологическое
допущение — в той форме, в какой его придерживаются
сторонники "искусственного интеллекта", — как выясняется,
несостоятельно и, если его правильно понимать, свидетельствует скорее
против, чем в пользу возможности создания "искусственного
интеллекта".
Утверждение а) — о том, что всякое непроизвольное поведение
может быть формализовано,— не является аксиомой. Оно, скорее,
выражает определенную концепцию "понимания", которая
глубоко укоренилась в нашей культуре, но которая, возможно,
окажется в конце концов ошибочной. Поэтому нам следует обратиться к
эмпирическому материалу, который может быть использован для
оправдания этой гипотезы. Мы выяснили, что никакие
эмпирические доказательства, основанные на успехах в области
"искусственного интеллекта", недостаточны, поскольку представляют
собой просто интерпретацию, причем преувеличивающую значение
таких скромных результатов, как рассмотренная нами работа
Д. Боброва.
Поскольку эпистемологическое допущение находит
поддержку в двух сферах успешной формализации — физике и
лингвистике,— нам предстоит рассмотреть обе эти области. В физике
действительно имеются формальные структуры, описывающие
поведение (например, обращение планет вокруг Солнца), однако,
как мы вскоре убедимся, такого рода формализм не пригоден
для исследователей "искусственного интеллекта". В то же время
мы увидим, что в лингвистике существует некоторый
формальный аппарат, имеющий прямое отношение к искусственному
интеллекту и свидетельствующий в пользу предположения,
согласно которому всякое непроизвольное поведение может быть
формализовано. Однако, как выяснится, этот аппарат,
выражающий компетенцию говорящего, иными словами, то, что он
способен осуществить, не позволяет применить ЭВМ для
воспроизведения его действий, то есть того, что реализуется в его поведении.
I. Ошибочный аргумент,
основанный на успехах физики
Оптимизм МвМинского —то есть его уверенность в том, что
всякое непроизвольное поведение поддается формализации и
благодаря этому может быть воспроизведено на цифровой
вычислительной машине,— является типичным примером
эпистемологического допущения. Именно эта уверенность позволяет
Минскому с такой твердостью заявлять, что нет оснований
146

полагать, будто "машины подвержены каким-либо ограничениям,
не распространяющимся на человека"*. Рассмотрим доводы,
приводимые в поддержку этого утверждения. Для начала, однако,
выясним, что сторонник формальных методов имеет в виду под
машиной.
Цифровая вычислительная машина — это машина, которая
работает в соответствии с теми критериями, которые Платон
некогда выдвигал для понимания всякого упорядоченного
поведения. Эта машина, согласно определению М.Минского, которое в
свою очередь основано на определении А.Тьюринга, есть
"подчиняющийся правилам механизм". У Тьюринга мы читаем:
"Предполагается, что эти машины [придерживаются]... определенных,
раз навсегда заданных правил... Обязанность контролирующего
устройства — следить за тем, чтобы эти команды выполнялись
безошибочно и в правильном порядке. Контролирующее
устройство сконструировано так, что это происходит непременно"**.
Следовательно, рассматриваемая машина является ограниченным,
но весьма фундаментальным типом механизма. Она работает с
четко определенными квантами данных — битами
информации — в соответствии со строгими правилами, которые
применяются к этим данным однозначно. Утверждается, что машина
такого типа — машина Тьюринга, выражающая сущность ЦВМ, —
может, в принципе, делать все то, что может делать человек, то
есть разделяет, в принципе, только те ограничения, которым
подвластен и последний.
М. Минский рассматривает встречное "антиформалистское"
утверждение, согласно которому существуют "процессы,
которые, будучи каким-либо способом полностью определены, в то же
время не могут быть описаны вообще"***. Вместо того чтобы
прямо ответить на это возражение, он ссылается на "блестящую",
по его мнению, статью А«Тьюринга, аргументы которой содержат
"убедительное опровержение многих из таких возражений"****.
На деле же Тьюринг принимает подобные возражения,
обосновывая это следующим образом: "Невозможно выработать правила,
предписывающие, что именно должен делать человек во всех
случаях, при всех возможных обстоятельствах"*****. По-видимому,
здесь Тьюринг обобщает довод Л.Витгенштейна о том, что
невозможно описать нормативные правила, которые заранее
предписывают правильное использование слова во всех ситуациях.
"Опровержение" Тьюринга состоит в том, что он проводит различие
между "правилами действия" и "законами поведения", а затем утвер-
*М. Минский. Вычисления и автоматы. M., 1971, с. 18.
** А. Т ь ю р и н г. Могут ли машины мыслить? с. 23—24.
*** М. М и н с к и й. Вычислений и автоматы, M., 1971, с. 134.
**** М. М и н с к и й. Цит. соч., с. 137.
***** А. Т ь ю р и н г. Цит. соч., с. 46.
147

ждает, что "в отсутствии законов поведения, которые в своей
совокупности полностью определяли бы нашу жизнь, нельзя
убедиться столь же легко, как в отсутствии законченного списка
правил действия"*.
В качестве ответа на утверждение Л.Витгенштейна это можно
принять. А.Тьюринг, в сущности, утверждает, что, хотя мы не
можем сформулировать нормативные правила для правильного
применения отдельного предиката, это еще не доказывает, что мы
не можем сформулировать правила, которые описывают, как в
действительности отдельный индивидуум применяет такой
предикат. Другими словам, хотя Тьюринг готов допустить, что в
принципе невозможно представить набор правил, описывающих,
что должен делать человек в каждом конкретном случае, он тем
не менее считает, что в принципе существует возможность
открытия системы правил, описывающих, что человек мог бы делать в
каждом таком случае. Но почему это предположение кажется
столь самоочевидным, что бремя доказательства ложится на тех,
кто подвергает его сомнению? Почему мы должны убеждаться в
отсутствии "законченного списка правил действия", а не в его
наличии? Здесь мы опять сталкиваемся с эпистемологическим
допущением. Попытаемся выделить тот фактор, который
придает этому положению предполагаемую априорную
правдоподобность.
Начнем с того, что понятие "законы поведения" допускает
двоякое толкование. В том смысле, в каком закономерность
означает упорядоченность, человеческое поведение, безусловно,
закономерно. Но предполагать, что интересующие нас законы
поведения могут быть воплощены в программах для ЭВМ или в
каком-либо эквивалентном формализме,— совсем иное и гораздо
более серьезное утверждение, которое нуждается в дальнейшем
обосновании.
Сторонники "искусственного интеллекта" игнорируют этот
вопрос, исходя из установки, согласно которой любое описание
поведения может быть формализовано и затем представлено в
виде программы для ЭВМ. Они предполагают, что - по крайней
мере в принципе — поведение человека можно представить с
помощью набора независимых утверждений, описывающих
"входы" организма и соотнесенных с утверждениями, описывающими
его "выходы". Наиболее характерный пример такого рода
утверждения можно заимствовать у Дж. Калбертсона, начинающего с
заявления о том, что по крайней мере в теории можно построить
робот, используя лишь триггеры, и заканчивающего заявлением,
что из этого следует возможность воспроизведения всего
человеческого поведения в целом:
* Там же, с. 47.
148

"Используя подходящие рецепторы и эффекторы, мы можем связать их
вместе посредством центральных клеток. Если бы мы могли располагать
достаточным количеством центральных клеток, если бы они были
достаточно малы и каждая из них имела бы достаточное число концевых
пластинок, если бы каждый синапс можно было снабдить пластинками в
достаточном числе, если бы, наконец, мы располагали временем,
достаточным, чтобы собрать все это вместе, то мы могли бы построить роботы,
действующие по любой заданной программе, то есть роботы, ведущие себя
при любом состоянии внешней среды так, как желательно нам... Было бы
нетрудно построить робот, ведущий себя в точности, как Джон Джонс или
Генри Смит, или же робот, имеющий любое желаемое усовершенствование
свойств поведения Джонса или Смита"*.
Далее автор выражается еще более определенно:
"В силу того что принципиально они могут выполнять любую заданную
программу, полные роботы могут совершать предписанные им действия в
любых предписанных условиях: искусно разрешать проблемы, сочинять
симфонии, создавать произведения искусства, литературы и инженерного
дела, преследовать любые цели"**.
Но, как мы видели в гл. 4, неизвестно, какими
предположительно должны быть эти "входы" и "выходы" в применении к
человеку***. Согласно Дж. Калбертсону, мозг функционирует на
основе установления связей между изолированными квантами
данных; это утверждение в свою очередь основано на
предположении, что нейроны работают как переключатели. Поскольку в гл. 3
мы видели, что это, по-видимому, не так и что, более того, нет ни
одного аргумента в пользу данного предположения, в то время
как имеется несколько аргументов против, мы вправе
усомниться в том, что "входы" и "выходы" у человека существуют
изолированно, а их соотношения могут быть формализованы.
Предположение Калбертсона остается предположением и более
ничем; поэтому оно никоим образом не может подтвердить его
заключений.
Убежденный сторонник формальных методов имеет все же
еще один ход. Используя неоднозначность понятия "законы
поведения", он может трактовать поведение не как осмысленное
человеческое действие, а просто как физическое движение
человеческого организма. В таком случае, поскольку тело человека
является частью физического мира, а, как мы видели, объекты
физического мира подчиняются законам, которые могут быть
выражены с помощью поддающихся программированию
формализованных построений, то сторонник формального подхода может
* Дж. Калбертсон. Некоторые неэкономичные роботы. — В кн.:
Автоматы, под ред. К.Шеннона и Д ж. Мак карт и, М«, 1956, с. 142.
** Там же, с. 160.
*#* Ответ на вопрос о том, почему нельзя найти таких допускающих
выделения входов и выходов, можно будет дать только после того, как мы
опишем отношения между человеком и окружающим его миром. См. гл. 8,
особенно с. 235-236.
149

настаивать на том, что законы человеческого поведения также
подчиняются предложенному им формальному описанию. Для
большей конкретности возьмем нервную систему: она
подчиняется законам физики и химии, с чем мы уже имели случай
согласиться. Тогда мы так или иначе могли бы воспроизвести
поведение нервной системы с помощью некоторого физического
устройства. Последнее не обязательно должно быть цифровой
машиной или реализацией функции "входа—выхода", прямо
описывающей поведение человека; оно может, к примеру, иметь
форму "аналоговой вычислительной машины", использующей
ионные растворы, электрические свойства которых меняются в
зависимости от степени локальной насыщенности. В этом случае,
как мы указывали в гл. 4, зная сочетание растворов в этом
устройстве, мы могли, хотя бы в принципе, написать физико-
химические уравнения, описывающие его "влажные"
компоненты, и решить эти уравнения на совершенно "сухой" цифровой
вычислительной машине. Следовательно, при наличии
достаточного количества времени и памяти на ЦВМ можно
промоделировать любую вычислительную машину, даже такого специального
вида, как аналоговая. Вообще говоря, приняв такие
фундаментальные допущения, как положение о том, что нервная система
есть часть физического мира и что любой физический процесс
может быть описан с помощью некоторого математического
формализма (который в свою очередь можно запрограммировать
на ЦВМ), можно прийти к весьма сильному утверждению,
согласно которому поведение, являющееся результатом "переработки
информации" у человека независимо от того, можно или нет его
непосредственно формализовать, опосредованно всегда может
быть воспроизведено на некоторой цифровой вычислительной
машине.
Это утверждение может вполне объяснить уверенность
сторонников формальных методов, но что фактически объясняет или
доказывает та фундаментальная истина, что любая форма
"переработки информации" (даже та, которую на практике можно
осуществить только на "аналоговой вычислительной машине")
может быть в принципе моделируема на ЦВМ? Как мы видели,
она не оправдывает претензий "менталистов", согласно которым,
хотя человек в процессе переработки информации не осознает
используемые им операции дискретного характера, он тем не
менее бессознательно следует некоторому набору правил.
Оправдывает ли это заключение эпистемологическое допущение о том,
что всякое непроизвольное поведение может быть
формализовано?
Необходимо четко определить, что следует считать процессом
переработки информации на вычислительной машине. Цифровая
машина, решая уравнения, которые описывают аналоговое
150

устройство по переработке информации, и моделируя таким
образом реализуемую ими функцию, тем самым еще не моделирует
соответствующий "информационный процесс". Последний
касается информации, перерабатываемой моделируемым аналогом, а
она совершенно отлична от информации, касающейся физических
или химических свойств аналога. Следовательно, приведенное
выше сильное утверждение, гласящее, что любой вид информации
может быть передан цифровой машине для переработки, вводит в
заблуждение. Не вызывает сомнений только тот факт, что для
любого заданного вида информации можно в принципе составить
программу для ЦВМ, имитирующую устройство, которое может
обрабатывать указанную информацию.
Таким образом, поведение человека, понимаемое как
движение — как поступление "входных" и выдача "выходных"
физических сигналов,— является, по-видимому, вполне закономерным
в том смысле, какой предполагают сторонники формальных
методов. Однако это никоим образом не обосновывает их
допущения в том виде, в каком оно представлено у М.Минского и
А.Тьюринга. Ибо когда Минский и Тьюринг заявляют, что
человек есть машина Тьюринга, они не имеют права подразумевать под
этим, что человек есть физическая система. В противном случае
можно было бы сказать, что и самолеты, и корабли — все это тоже
машины Тьюринга. Их поведение также можно описать с
помощью законов, представляемых в математической форме,—
законов, устанавливающих соответствие между энергетическими
"входами" и "выходами",— и воспроизвести, по крайней мере в
принципе, на ЦВМ с любой степенью точности. Несомненно, когда
М.Минский и А.Тьюринг заявляют, что человека можно
рассматривать как машину Тьюринга, они, скорее всего, имеют в виду,
что ЦВМ может воспроизводить человеческое поведение не путем
решения физических уравнений, а путем процесса переработки
данных, полученных из окружающей среды, посредством
логических операций, которые можно свести к операциям сравнения,
классификации и булевым операциям. Как заметил Минский:
"Умственные процессы похожи на... тот вид процессов, который мы
встречаем в программах вычислительных машин: произвольные ассоциации
символов, древообразные схемы распределения памяти, условные
переходы и т.п."*.
Исследователи в области "искусственного интеллекта"
утверждают, что этот ментальный уровень "переработки
информации" можно описать с помощью формальных цифровых
моделей. Все работы в этой области нацелены на использование
логических операций для манипулирования данными, получен-
* М.М i n s k у. Matter, Mind, and Models.- In: M.M i n s к y.(ed.). Semantic
Information Processing, p. 429.
151

ными непосредственно из окружающего мира, но не для решения
уравнений физики, описывающих физические объекты.
Аргументы из области физики привлекаются лишь для того, чтобы
показать, что энергетическое состояние "входов" и
нейрофизиологические процессы, направленные на их преобразование, могут в
принципе быть описаны в цифровой форме.
Никто не пробовал — и не пытается пробовать — использовать
законы физики для детального вычисления движения
человеческого тела. Это и физически вряд ли возможно, поскольку, как
показал Х.Дж. Бремерман:
"Ни одна система переработки данных, будь то искусственная или
естественная , не может переработать более (20x10^7) бит/сек на грамм
своей массы"*.
Далее Бремерман продолжает:
"В году 7Г х 10? секунд. Возраст Земли равен почти 10$ лет, ее масса
меньше чем 6x1
027 граммов. Следовательно, даже вычислительная
машина размером с Землю не могла бы переработать более 10^3 бит в течение
времени, равного возрасту Земли. [ Даже без учета того, между прочим,
факта, что, чем больше вычислительная машина, тем в большей степени
скорость света становится фактором, замедляющим ее работу. — Х.Д.\..
Доказательство теорем и решение задач... ведет к экспоненциальному
росту дерева задач. Если наше предположение верно, то получается, что
трудности, которые в настоящее время стоят на пути исследований в
области распознавания образов и доказательства теорем, не будут
разрешены и тогда, когда на грядущих сверхмощных вычислительных машинах
будет достигнута предельная скорость обработки данных"**.
Если эти расчеты верны, то любая попытка моделирования
мозга как физической системы невозможна в собственном
смысле слова: необходимые для этого громадные вычисления могут
оказаться неосуществимыми в силу самих законов физики и
теории информации, требующих таких вычислений.
По-видимому, это смешение законов физики с правилами
переработки информации служит для исследователей проблем
"искусственного интеллекта", начиная с А.Тьюринга и кончая
М. Минским, своего рода прибежищем; оно позволяет им верить в
возможность формализации человеческого поведения; что же
касается бремени доказательства, то оно, по их мнению, ложится
на тех, кто утверждает, что существуют "процессы, которые,
будучи каким-либо способом полностью определены, в то же
время не могут быть описаны вообще"***.
Но если сомнительность аргументации, основанной на
оперировании понятиями "законы физики" и "правила переработки
информации", установлена, как еще может обосновываться тезис
* H.J.B remermann. Optimization Through Evolution and
Recombination. In: Self-Organizing Systems, Washington. 1962, p. 1.
** Ibid., p. 2.
*** M. M и н с к и й. Вычисление и автоматы, с. 134.
152

о том, что человеческое поведение на "уровне переработки
информации", как выражаются специалисты в области
''искусственного интеллекта", можно описать с помощью строгих
правил?
II. Ошибочный аргумент,
основанный на успехах современной лингвистики
Если ни один аргумент, базирующийся на материале из
области физических наук, не может быть привлечен для
выяснения вопроса о перспективах работ в области "искусственного
интеллекта" (поскольку направление "искусственного
интеллекта" имеет задачей формализацию человеческого поведения, а
не физического движения), то остается единственная
надежда — вернуться в сферу самих наук о поведении. Галилей смог
заложить фундамент современной физики потому, что,
абстрагировавшись от ряда представлений аристотелевой физики о
свойствах и отношениях тел, обнаружил, что для описания движения
материальных объектов достаточно оставшихся математических
соотношений. Чтобы оптимизм сторонников "искусственного
интеллекта" получил обоснование, необходим Галилей
исследования разума, который, применив надлежащие абстракции, открыл
бы формальный аппарат, достаточный для описания человеческого
поведения.
Дж. Маккарти следующим образом формулирует это
стремление связать физику с науками о поведении:
"Хотя для выражения наиболее важных областей математики были
созданы формальные теории, а в формализации отдельных эмпирических
наук был достигнут некоторый прогресс, в настоящее время не существует
формальной теории, позволяющей выразить тот тип анализа в терминах
"средств и целей", который используется в повседневной жизни... Наш
подход к проблеме "искусственного интеллекта" требует формальной
теории"*.
Недавно такой крупный прорыв — в направлении
формализации лингвистики — был осуществлен Н. Хомским и другими
представителями трансформационной лингвистики. Они нашли,
что если отвлечься от использования языка человеком — от
употребления тех или иных предложений в различных конкретных
ситуациях,— то можно формализовать все остальное в языке, то
есть человеческую способность к узнаванию грамматически
правильных и отбрасыванию грамматически неправильных
предложений. Иными словами, они считают, что создаваемая ими
формальная теория в состоянии охватить многое из того, что относится к
*J. McCarthy. Programs with Common Sense.—In: M.Minsky (ed.).
Semantic Information Processing, p. 410.
153

"лингвистической компетенции))*. Этот успех воодушевил тех
исследователей в области "искусственного интеллекта", которые
утверждают, что человеческое поведение может быть формализо-
* Н.Хомский имеет обыкновение опредять "лингвистическую
компетенцию" и "использованиеязыка"таким образом, чтобы обеспечить это
разделение, а связь между теорией компетенции и теорией употребления
языка превратить в чисто эмпирический вопрос. Например он говорит:
"...чтобы избежать одного постоянного недоразумения, вероятно, стоит
повторить, что порождающая грамматика не является моделью для
говорящего или для слушающего. Она стремится охарактеризовать в наиболее
нейтральных терминах знание языка, которое дает основу для
действительного использования языка говорящим-слушающим. Когда мы говорим о
грамматике, что она порождает предложение с определенным структурным
описанием, мы просто имеем в виду, что грамматика приписывает
предложению это структурное описание" (Н.Хо м с к и й. Аспекты теории
синтаксиса67- М., 1972, с. 13-14) (курсив мой. - Х.Д.).
Однако это прямолинейное определение не отвечает полностью на
вопрос, в чем, по мнению Н.Хомского, заключается различие между
понятиями языковых компетенции и употребления, которые он вводит.
Если компетенцией считать знание какого-то языка, то вопрос о роли
правил, описывающих компетенцию, и об их участии в употреблении языка
оказывается вопросом эмпирическим. Но в ряде случаев Хомский считает
компетенцию необходимой для употребления языка; эта мысль имеется
уже в самом определении "компетенции", "употребления" языка и их
отношений: "Под "порождающей грамматикой" я имею в виду описание
той невыраженной компетенции говорящего-слушающего, которая лежит в
основе фактического употребления им языка, как в процессе речи, так и
при ее восприятии (понимании). Порождающая грамматика по своему
замыслу должна служить установлению соответствий между
фонетическими и семантическими представлениями — их "спариванию" в
некоторой бесконечной области. Таким образом, порождающая грамматика
представляет собой определенную гипотезу, объясняющую, каким образом
говорящий-слушающий интерпретирует те или иные речевые
акты-высказывания, отвлекаясь от многих факторов, которые, взаимодействуя с не
находящей выражения компетенцией, определяют фактическое
использование, употребление языка" (N.Chomsky. Cartesian Linguistics. New York,
Harper and Row, 1966, p. 75) (курсив мой.—Х.Д) •
Или возьмем следующее замечание: "Мы должны абстрагировать для
отдельного и независимого изучения определенную систему
интеллектуальных способностей, систему знаний и убеждений, которая развивается в
раннем детстве и во взаимодействии с многими другими факторами
определяет те виды поведения, которые мы наблюдаем; если ввести
формальный термин, то можно сказать, что мы должны изолировать и изучать
систему языковой компетенции, которая лежит в основе поведения, но
которая не реализуется в поведении каким-либо прямым или простым
образом" (Н.Хо мс кий. Язык и мышление, с. 15 (курсив мой. — Х.Д.).
Когда Хомский говорит о "не выраженой компетенции", которая
"лежит в основе фактического употребления" языка и которая
"определяет... виды поведения", мы сталкиваемся с той же самой тенденцией,
что и у М.Поля но го, который полагает, что правило, описывающее, как он
считает, "компетенцию велосипедной езды", используется в самом процессе
езды на велосипеде. При таком прочтении роль формальных методов,
выражающих "компетенцию", перестает быть нейтральной. Сколь бы
строгим ни был формализм, он обязательно должен использоваться в языковом
поведении.
154

вано без сведения его к физическому уровню, ибо он говорит в
пользу по крайней мере первой части эпистемологической
гипотезы. В самом деле, определенная область упорядоченного
поведения, на первый взгляд не подчиняющаяся никаким правилам,
была описана с помощью сложных правил такого типа, что они
могут быть непосредственно запрограммированы для передачи их
цифровой вычислительной машине ("непосредственно", то есть
минуя описание колебаний голосовых связок говорящего или
физико-химических процессов, протекающих в его мозгу).
Но такая формализация подтверждает лишь половину
эпистемологического допущения. Лингвистическая компетенция отно-
Но тем не менее если различие "компетенции" и "использования"
необходимо приводит к отделению формальной теории от теории
психологической, то отношения между теорией компетенции и теорией
использования языка не могут строиться на основе определения; другими
словами, если в определение компетенции включен в качестве ее
характеристики тот факт, что она лежит в основе использования языка, то
недостаточно считать компетенцию просто формальной теорией, которая служит
"установлению соответствий между фонетическими и семантическими
представлениями — их "спариванию" в некоторой бесконечной области".
Ибо под компетенцией в этом случае понималась бы некая
идеализированная психологическая теория, описывающая процесс реализации языка, а
различение лингвистической компетенции и употребление языка
свидетельствовало бы только о признании того факта, что существуют и другие
факторы, такие, как утомление или обучение, которые в данном случае не
рассматриваются.
Иногда кажется, что Хомский придерживается именно такой точки
зрения: "Мы интерпретируем то, что говорится в нашем присутствии, не
только с помощью лингвистических принципов, определяющих
фонетические и семантические свойства высказывания. Фундаментальную роль в
определении того, как произносятся, идентифицируются и понимаются
высказывания, играют экстралингвистические представления о данном
говорящем и о той ситуации, в которой он находится. Использование
языка, кроме того, подчиняется принципам концептуальной структуры
(например, ограничениям, которым подчинена память), — принципам,
которые, строго говоря, не могут быть отнесены к языку как таковому.
Следовательно, для того, чтобы изучить язык, мы должны попытаться
выделить ту разнородную группу факторов, которая взаимодействует с
лежащей в ее основе компетенцией, в результате чего окажется возможным
определить и то, что относится к фактическому использованию языка; в
строгом смысле слова термин "компетенция" означает способность
идеализированного говорящего-слушающего ассоциировать звуки и значения в
точном соответствии с правилами своего языка". (N.Chomsky. The
Formal Nature of Language.-ln: E.H. Lenneberg. (ed.). Biological
Foundations of Language, New York-London-Sydney, 1967, p. 398; (курсив мой.-
Х.Д.) •
Какова же в таком случае связь между лингвистической компетенцией
и употреблением языка? Что, если вдруг психолингвисты обнаружат, что
произнесение высказывания происходит вообще без участия тех правил,
которые предписывает лингвистический формализм Хомского?
По-видимому, именно в пользу этой точки зрения свидетельствуют последние
результаты, полученные в психолингвистике [ср. следующие слова Т.Биве-
ра: "В поведенческих процессах используются лингвистически
определенные внутренние и внешние структуры, но грамматические процессы.
155

сится к другой области исследования, нежели та, которую
сторонники "искусственного интеллекта" стремятся формализовать.
Если машины должны общаться с человеком на естественном
языке, то их программы должны содержать не только правила
грамматики, но и правила, относящиеся к "лингвистическому
использованию языка". Другими словами, те факторы, которые
были опущены при формулировке лингвистической теории — тот,
например, факт, что люди умеют применять язык,— и должны
быть формализованы.
Вопрос об оправдании эпистемологического допущения
сводится к следующей принципиальной проблеме: есть ли основание
связывающие эти структуры внутри некоторой грамматики, не находят
зеркального отражения в поведении, не моделируются им непосредственно.
Такой вывод служит опровержением любой из тех моделей распознавания
речи, в которых делается попытка представить грамматические правила
как такую составляющую процессов распознавания, которая поддается
обособлению" (Т. В е v e r. The Cognitive Basis for Linguistic Structures,
Preprint, p. 101, глава, из которой взята эта цитата, озаглавлена
"Неразличение взрослыми лингвистической компетенции и использования
языка"). Откажется ли теперь Хомский от своего формального
подхода к описанию языка? По всей видимости, ему хотелось бы сохранить
обе возможности: с одной стороны, сделать свое формальное описание
компетенции независимым от психологии (в результате чего оно
сохранило бы свою силу, какими бы ни оказались экспериментальные
результаты) , а с другой стороны, признать роль формализма в употреблении
языка вопросом определения. Так, Хомский пишет: "Когда мы
говорим, что предложение имеет определенный вывод по отношению к
конкретной порождающей грамматике, мы ничего не говорим о том, как
практически и эффективным образом действовать говорящему или слушающему,
чтобы построить этот вывод. Эти вопросы относятся к теории
использования языка — к теории употребления". (Н. Хомский. Аспекты теории
синтаксиса, с. 14; курсив мой. — Х.Д.). ,Однако на с. 30 своей работы
"Язык и мышление" он говорит: "Проблема определения характера таких
грамматик и принципов, которые управляют ими, является типичной
проблемой науки, возможно, очень трудной проблемой, но в принципе
допускающей определенные ответы, которые истинны или ложны в
зависимости от того, соответствуют они умственной реальности или нет"
(курсив мой. — Х.Д»). ,
Мы сталкиваемся здесь с явной неопределенностью в вопросе о статусе
формальных грамматических структур, характеризующих интуитивное
узнавание говорящим грамматической правильности. В основе этой
неопределенности лежит весьма сильная конъюнкция—объединение двух
допущений: платоновского, гласящего, что формализм, который дает
возможность понять поведение, используется и при построении этого поведения; и
кантовского, согласно которому всякое упорядоченное поведение
подчиняется некоторым правилам (оба допущения кашли подкрепление в идее
создания соответствующих программ для вычислительных машин).
Н.Хомский не подвергает сомнению ни допущение, согласно которому "человек,
который усвоил знание языка, хранит в себе систему правил" (Н.Хом-
с к и й. Язык и мышление, с. 37), ни утверждение о том, что эти правила
функционируют как "механизм" для "порождения" предложений. Если
допустить, что оба эти утверждения справедливы, то мы придем к
картезианской теории врожденных идей Хомского — теории, которая даже ему
самому кажется не очень приемлемой: "Нелегко согласиться с точкой
156

полагать, что может существовать некоторая формальная
теория "употребления" языка? Имеется два рода причин считать,
что подобное распространение лингвистической теории
невозможно. Во-первых, несостоятельна попытка опереться на принцип
(к рассмотрению которого мы обратимся в следующей главе),
гласящий: коль скоро существует теория употребления языка, то
должна существовать и теория человеческого познания в целом;
ибо такая теория неосуществима. Во-вторых, не всякое языковое
поведение подчиняется правилам; мы признаем некоторые
языковые обороты необычными — нарушающими правила,— но это не
зрения, в соответствии с которой уже ребенок в состоянии построить
чрезвычайно сложный механизм, порождающий множество предложений,
лишь некоторые из которых ребенок слышал раньше, а взрослый человек
умеет мгновенно определять, может ли (а если может, то как) этот
механизм породить данное конкретное языковое выражение; при этом
следует принимать во внимание, что механизм, о котором идет речь,
обладает многими свойствами, характерными для абстрактной
дедуктивной теории. Тем не менее, по-видимому, такое описание употребления
языка говорящими — тем, к кому обращена речь, и тем, кто воспринимает
ее со стороны,— довольно близко к истине" (N. С h о m s k у. A Review
of B.F. Skinner's "Verbal Behavior".-ln.: The Structure of Language, Englewood
Cliffs, N.J., Prentice-Hall, 1964, p. 577).
Эта точка зрения при всем своем неправдоподобии, кажется
приемлемой благодаря существованию вычислительных машин: "В принципе не
составит трудности заложить в программу вычислительной машины схему,
которая жестко ограничивает вид порождающей грамматики или
процедуру оценки для грамматик данного вида, или методику определения того,
совместимы ли фиксированные данные с грамматикой данного вида, или
определенную подструктуру элементов (типа различных признаков),
правил и принципов и так далее — коротко говоря, универсальную
грамматику того типа, что была предложена в последние годы" (Н. Хомский.
Язык и мышление, с. 101).
Далее Хомский переходит к установлению связей между этой
машинной моделью и классической традицией: "По причинам, уже
упоминавшимся мною, я считаю, что эти предложения вполне могут рассматриваться как
дальнейшее развитие классической рационалистической доктрины, как
разработка некоторых из ее главных идей относительно языка и
мышления" (там же).
В заключение Н.Хомский пишет: "Проводя те виды исследования,
которые представляются сейчас осуществимыми, и концентрируя внимание
на определенных проблемах, которые сейчас доступны для изучения, мы,
вероятно, можем расшифровать с некоторой степенью подробности те
сложные и абстрактные вычисления, которые определяют, отчасти,
сущность результатов перцепции и характер знания, которое мы можем
усвоить, — весьма специфические способы интерпретации явлений, которые, в
большой степени, находятся за пределами нашего сознания и контроля и
которые, вероятно, являются уникальными свойствами человека" ("Язык
и мышление", с. 116). В такого рода неокартезианстве находит свое полное
выражение традиционное философское допущение: отличительный атрибут
человека можно видеть в том, что он представляет собой чрезвычайно
сложно организованную вычислительную машину. Пожалуй, со времен
Т.Го?бса, который (несколько преждевременно) вывел это заключение из
ньютоновской физики, эта идея впервые вновь появилась на сцене.
157

мешает нам понимать их смысл. К рассмотрению этого
"дескриптивного" возражения мы сейчас и перейдем.
Во многих случаях носитель языка признает то или иное
словоупотребление необычным, но тем не менее он в состоянии
его понять. Например, фраза "Мысль еще не дошла до бумаги"68
ясна нам в ситуации, когда речь идет об обещании, данном
каким-то автором; но машина, достигнув этого момента, не
сможет работать дальше, поскольку ее правила "допускают до
бумаги" только такие объекты, как знаки, нанесенные чернилами,
оттиски типографских букв, и т.п. Кроме того, поскольку мысль
не является физическим объектом, машина сможет только
отвергнуть то, что она может "дойти до бумаги" или в лучшем
случае дать упомянутому обороту произвольную интерпретацию.
Понимание этой же фразы слушателем-человеком далеко не
произвольно. Зная из опыта, сколь далеки подчас бывают намерения
людей от их осуществления, зная также, сколь многое требуется
для написания книги, выслушавший эту фразу человек уловит ее
основной смысл, а тот, кто ее произнес, по реакции слушающего
поймет, что его поняли. Значит ли это, что в актах понимания или
использования необычных оборотов речи человек исходит из
определенного правила — в данном случае из правила,
позволяющего соответствующим образом модифицировать значение
выражения "дойти до"?.Скорее всего, не значит, поскольку данный
оборот признается "необычным", по-видимому, даже теми, кто
его произносит.
Этот пример подводит нас к основной трудности, стоящей на
пути моделирования поведения. Акты поведения, если оно
запрограммировано, либо выполняются в строгом соответствии с
правилами, либо носят случайный характер. Поэтому,
столкнувшись с новым оборотом, машина должна либо поступить с ним
как с понятным случаем, подпадающим под правила, либо сделать
шаг наугад. Человек как носитель языка чувствует, что у него
есть третья возможность. Он может оценить оборот как
необычный, как случай, не подпадающий под правила, и тем не менее
осмыслить оборот — придать ему то или иное значение в
контексте человеческой жизни, не следуя каким-либо жестким
правилам, но и не приписывая ему произвольного значения.
Откровенное нарушение правил использования языка
особенно наглядно демонстрирует эту способность. Люди, как правило,
понимают друг друга, даже если один из говорящих допускает
грамматическую или семантическую ошибку. Выражение может
быть не только вне правил, но фактически запрещаться ими,- и
тем не менее подобное нарушение часто проходит незамеченным,
поскольку соответствующий оборот легко понять.
Человек, сталкиваясь с необычными выражениями и явными
ошибками, постепенно адаптируется к ним, осмысляя те измене-
158

ния в понимании языка, которые они вносят. Для машины же
есть только две возможности. Она может начать с ошибки, а
затем, когда ее научат, пересмотреть правила с тем, чтобы в них
был предусмотрен новый оборот. Другой путь состоит в том,
чтобы заранее вложить в машину все нужные правила — даже
правила о том, как нарушать правила и все-таки сохранять
способность осмысления языковых выражений. Принять первый
вариант — первоначальная ошибка, а затем ее исправление —
значит допустить в принципе, а не только на практике, что машина
обречена следовать за человеком, т.е. что она не способна к
достижению человеческого уровня. Второй же вариант — вариант,
при котором правила, охватывающие все возможные случаи,
должны быть либо прямо заложены в машину, либо
вырабатываться в ней в ходе обучения (поскольку это единственный способ,
позволяющий цифровой вычислительной машине моделировать
способность человека оперировать необычным
словоупотреблением) ,— противоречит как логике, так и опыту.
С логической точки зрения трудно усмотреть, каким образом
можно сформулировать правила разумного нарушения правил.
Ибо независимо от того, какие метаправила формулируются, мы
интуитивно чувствуем, что носитель языка может и их нарушать,
рассчитывая на то, что контекст позволит донести смысл его речи
до собеседника. Таким образом, независимо от того, какой
выбран уровень метаправил, всегда, по-видимому, существует
более высокий уровень понимания — не выраженное явно
понимание того, как нарушать правила более низких уровней и тем не
менее быть понимаемым.
В феноменологическом (эмпирическом) плане
постулирование системы неосознаваемых метаправил, в которых мы не
отдаем себе отчета, ведет к возникновению других трудностей.
Так же как в шахматах принятие цифровой модели предполагает,
что шахматист неосознанно использует эвристические правила
(даже когда согласно его собственному отчету он поглощен
выявлением сильных и слабых сторон позиции, сложившейся на
доске), так и допущение о предсуществовании правил устранения
языковых неоднозначностей вводит представление о процессе,
относительно которого мы не располагаем опытными
данными,— представление, в котором должным образом не учитывается
наше ощущение необычности определенных языковых оборотов.
И здесь, как и в случае с шахматами, эта насмешка со стороны
феноменологических свидетельств приводит к телеологической
загадке: почему, если каждый понимаемый нами случай
применения языка подчиняется правилам, некоторые из этих случаев
кажутся нам необычными,— настолько необычными, что мы не
можем применить к ним какое-либо правило для объяснения
своей интерпретации? Почему, располагая правилами такой силы
159

и молниеносной способностью использовать их на
подсознательном уровне, мы уже на уровне сознания в иных случаях приходим
в замешательство и считаем эти случаи необычными, причем даже
после того, как поняли их?
Эти соображения подсказывают нам, в каком месте
возникают противоречия. Они возникают, когда мы требуем создания
формализма для применения языка, сравнимого с формализмом
общей теории синтаксической и семантической компетенции.
Последняя может содержать точное знание, поскольку имеет дело
с вневременными явлениями и не претендует на формализацию
феномена понимания языка в различных конкретных ситуациях.
Описанные трудности, однако, не волнуют лингвистов,
которые, подобно истинным ученым, с большой осторожностью
ограничивают свою область исследования "лингвистической
компетенцией", т.е. общими принципами, которые применяются во всех
случаях. Что же касается нашей способности применять язык в
конкретных ситуациях, то ее исключают из рассмотрения как
экстралингвистическую. Как указывает С. Кьеркегор, законы
науки69 универсальны и вневременны, они трактуют всякий опыт
так, как если бы он мог иметь место или был в прошлом*.
Исследователи же в области "искусственного интеллекта" хотят,
чтобы их машины взаимодействовали с людьми в реальных
жизненных ситуациях, при которых объекты имеют
специфическое ситуативное значение. Но вычислительные машины не
участвуют в ситуациях. Каждый бит информации всегда имеет
одно и то же значение. Вычислительные машины, правда, не
являются "трасцендентально тупыми", как сказал бы Кант. Они
могут применить правило к конкретному случаю, если этот
случай предварительно однозначно описан в терминах общих
признаков, фигурирующих в этом правиле. Они могут, таким
образом, моделировать одну из разновидностей теоретического
понимания. Но у машин отсутствует практический интеллект.
Они "экзистенциально тупы" в том смысле, что не в состоянии
справляться с конкретными ситуациями. Иными словами, они не
допускают неоднозначности и нарушения правил до тех пор, пока
в них не будут введены правила оперирования с отклонениями от
правил, причем такие, которые полностью исключают
возможность неоднозначности. Для того чтобы преодолеть эту
неспособность, исследователи в области "искусственного интеллекта"
должны разработать вневременную, внеситуативную теорию
текущей человеческой деятельности.
Своеобразие, важность — и вместе с тем проклятие — работ по
созданию систем общения человека с машиной на естественном
* S.Kierkegaard. Concluding Unscientific Postscript, Princeton, N.J.;
Princeton University Press, 1944, p. 108, 311.
160

языке состоит в том, что машине приходится использовать
формальные методы для того, чтобы справляться с реальными
жизненными ситуациями, как только они возникают. Она должна
иметь дело с явлениями, которые принадлежат к "миру
ситуаций", окружающему человека, как если бы эти явления
относились к объективному формализуемому универсуму научного
знания. Исследователь, уверенный в разрешимости задачи
оснащения машины способностью понимать и использовать язык и
вдохновляемый успехами в области лингвистики, не понимает не
столько того, как функционирует сознание, сколько того, каково
соотношение между феноменами теоретического и практического
понимания. Он полагает, что мир практики, в который активно
вовлечен индивид, можно понять в тех же терминах, что и
объективный мир научного знания. Короче, он утверждает, вслед
за пионером этой идеи — Лейбницем, что можно создать теорию
практики.
Подобная прикладная теория, однако, не может быть
аналогичной приложениям теоретической физики к технике, какие бы
параллели здесь ни проводились. Когда мы используем законы
физики для управления ракетами, реальное движение последних в
пространстве есть конкретная реализация вневременных,
универсальных законов, соотносимых с ситуацией не иначе, как в
собственных терминах. Но в случае языка, как мы видели,
говорящий принимает обычные ситуативные представления и цели
как сами собой разумеющиеся. Таким образом, общие законы
"лингвистической компетенции" не могут прямо применяться к
моделированию языкового поведения. Чтобы от
лингвистического формализма перейти к конкретному употреблению
языка, следует учитывать тот факт, что говорящий понимает
ситуацию, в которой находится. Если теория использования языка
возможна как самостоятельная теория, то это должна быть теория
совсем иного рода — теория ситуативного контекста, полностью
описывающая его в универсально значимых, но не в физических
терминах. Однако ни физика, ни лингвистика не предложили ни
одного подхода к созданию подобной теории и, более того, не
подали никакой надежды на то, что такая теория когда-либо
появится.
Заключение
Чтобы опровергнуть эпистемологическое допущение о
возможности теории, охватывающей практическую деятельность, а в
случае языка — о возможности полной формализации правил,
управляющих использованием языковых выражений в реальных
условиях,— недостаточно указать на то, что до сих пор не су-
161

ществует системы автоматического перевода, или на то, что
способы использования языка чрезвычайно гибки и явно не
подчиняются правилам. "Формалист" может, следуя Платону,
парировать это возражение, заявив, что если мы не в состоянии
формализовать нашу способность пользоваться разговорным
языком, то это доказывает лишь недостаточное понимание данного
типа поведения, а также то, что правила полного описания
употребления языка еще не найдены*.
Эта оборонительная позиция на первый взгляд как будто бы
напоминает позицию представителей эвристического
программирования, уверенных в том, что рано или поздно они найдут
эвристики, обеспечивающие машине возможность играть в
шахматы,— пусть до сих пор эти эвристики и не найдены. Но это только
на первый взгляд: если уверенность в своей правоте, присущая
составителю эвристических программ, базируется на
необоснованном психологическом допущении относительно характера
информационных процессов, протекающих в мозгу человека, то
утверждение "формалиста" основывается на истинном понимании
природы научного объяснения. До тех пор, пока наше поведение не
определено в терминах единственно возможных и точно
определенных реакций на точно определенные объекты в среде
универсально определенных ситуаций, мы не "поймем" каше поведение в
единственно возможном для науки смысле.
Чтобы противостоять этому априорному императиву
теоретического понимания, недостаточно апелляции к
феноменологическому описанию. Надо показать невыполнимость этого
теоретического императива в его собственных терминах - показать, что
правила, которые дают возможность носителю языка гово-
рить, не могут быть полностью формализованы, а также
что эпистемологическое допущение не только неправдоподобно,
но и ведет к противоречиям.
Л. Витгенштейн был, по-видимому, первым философом со
времен Б. Паскаля, который заметил: "Вообще говоря, мы
* Эта точка зрения отчетливо и наивно выражена во введении К.Сайра к
сборнику "Моделирование разума":
"Любая умственная функция, отличающаяся тем, что 1) ее вход и
выход могут быть выражены в точном виде и 2) выполняемое ею
преобразование может быть приближено некоторыми уравнениями,
описывающими определенные соотношения между входом и выходом, —любая
такая функция уже только на этом основании может быть
промоделирована с той или иной степенью точности. В то же время если у нас нет
четкого представления ни о входе, ни о выходе, ни о соответствующем
преобразовании, то мы не сможем получить адекватную модель этой
функции. Однако наше бессилие в этом случае можно будет считать
свидетельством недостаточного уровня развития нашего мышления, а не
признаком какой-то "трансцендентальности" умственных функций"
(K.Sayre and J. Crosson (eds.). The Modeling of Mind, South Bend,
Ind., Notre Dame University Press, 1962, p. 14).
162

используем язык, не руководствуясь строгими правилами, и учат
нас языку тоже не по строгим правилам"*. Однако аргументация
Л. Витгенштейна, направленная против утверждения, что язык
есть исчисление, базируется не только на феноменологическом
описании такого использования языка, которое не подчиняется
каким-либо правилам. Его сильнейший аргумент носит
диалектический характер и основан на представлении о сведении одних
правил к другим. В соответствии со взглядами критикуемых им
философов-рационалистов, он сначала предполагает, что всякое
непроизвольное поведение должно подчиняться правилам, а затем
сводит это предположение к абсурду, требуя для применяемых
правил в свою очередь правил их применения, и так далее.
Бесспорно, что мы всегда имеем возможность нарушить
правила и вместе с тем быть понятыми. В конце концов, то, что
нарушениям правил не поставлено границ,— это мы просто
чувствуем. Но мы можем и ошибаться. Остается неясным вопрос о
том, возможно ли полное понимание поведения в терминах
правил. Л.Витгенштейн утверждает, как некогда утверждал
Аристотель в споре с Платоном, что всегда должно оставаться место
для интерпретации. И вопрос не в том (как, по-видимому, считает
Тьюринг), имеются ли правила, диктующие нам то, что надлежит
делать, —его мы вправе игнорировать. Главное состоит в том,
могут ли существовать правила, описывающие то, что говорящий
делает в действительности. Чтобы иметь полную теорию того, что
может делать носитель языка, нужно располагать не только
грамматическими и семантическими правилами, но и правилами,
которые дали бы возможность человеку или машине распознавать
контекст, в котором правила должны применяться. Так, должны
существовать правила для распознавания ситуации, намерений
говорящего и т.д. Но если теория требует дальнейших правил для
объяснения того, каким образом осуществляется применение
этих правил, то, рассуждая чисто логически, мы впадаем в
бесконечное сведение одних правил к другим. И то что мы,
несмотря на это, ухитряемся применять язык, означает, что такая
редукция не представляет проблемы для человека. Если
"искусственный интеллект" возможен, то сведение, редукция правил не
должна быть проблемой и для машин.
Л.Витгенштейн, как и специалисты в области вычислительной
математики и ЭВМ, вынуждены согласиться с тем, что существует
некоторый уровень, на котором правила просто применяются
непосредственно, и для своего применения не требуют новых
правил. Однако относительно того, как описывать этот камень
преткновения, мнение Л.Витгенштейна коренным образом отли-
* LWi 11 ge n s te i n. The Blue and Brown Books, Oxford, Engl., B.
Blackwell, 1960, p. 25.
163

чается от взглядов специалистов в области "искусственного
интеллекта". Витгенштейн вообще не видит здесь проблемы: мы
"вытаскиваем" такое количество правил, которого требует
данная ситуация. На каком-то уровне, в зависимости от того, что
именно мы пытаемся делать, интерпретация правила совершенно
очевидна и редукция прекращается*.
Для тех, кто имеет дело с вычислительными машинами,
редукция также прекращается вместе с интерпретацией, которая
самоочевидна, однако эта интерпретация не имеет ничего общего с
требованиями ситуации. И не может иметь, поскольку
вычислительная машина не человек, и не находится "в ситуации". Она не
порождает какого-либо ситуативного контекста. Для специалиста
в области вычислительной математики и техники решение
проблемы состоит в том, чтобы создать машину, способную реагировать
в конечном счете на кванты свободных от контекста, полностью
детерминированных данных, понимание которых не требует
дальнейшей интерпретации. Как только данные введены в машину,
дальнейшая их обработка должна производиться по правилам. Но
считывание данных есть непосредственное отражение
детерминированности признаков машинной среды, таких, как, например,
дырочки на перфокартах или мозаика телевизионной камеры;
поэтому на этом самом низком уровне машине не нужны правила
для применения ее правил. Точно так же, как красное пятно
управляет поведением птенца серебристой чайки в процессе
питания, а глаз лягушки автоматически сигнализирует о наличии
движущегося черного пятна, так и человеческое поведение, если
бы его удалось понять до конца и "компьютеризовать",
представлялось бы как управляемое специфическими условиями внешней
среды.
В качестве психологической теории поведения человека эта
гипотеза, разумеется, неприемлема. Чувство необычности,
возникающее при отклонении от правильного словоупотребления,
наряду с ощущением того, что ничто в окружающем мире не
обязано вызывать в нас неизбежную и неизменную реакцию,
* См., например: L. Wittgenstein. Philosophical Investigations.
Oxford, Eng., B.BIackwell, 1953, p. 39, 40, 41, 42. Витгенштейн пишет также:
"Правило есть своего рода дорожный указатель. — Разрешает ли
дорожный указатель все мои сомнения по поводу того, куда направиться?
Говорит ли он, куда двигаться, миновав его: вдоль дороги по тропинке или
по пересеченной местности? Он не определяет, какой путь мне нужно
избрать, — тот, который указывает его стрелка, или, скажем,
противоположный. — А если бы был не один, а целая серия указателей и проезжая часть
дороги была бы размечена, — разве интерпретация всего этого была бы
единственной! — Можно сказать, что дорожный указатель действительно
разрешает все сомнения. Но можно сказать и так: иногда разрешает, а
иногда нет. Но в таком виде утверждение уже перестает быть философским
и переходит в область эмпирических соображений" (р. 39, 40).
164

восстает против подобной точки зрения. Более того, в качестве
теории нашей "практической компетенции" (независимо от того,
как мы в действительности проявляем свое поведение) эта
гипотеза выглядит не более привлекательной. Глобальная
адаптируемость языка, которая дает нам возможность изменять
значения и изобретать аналогии, так же как общая гибкость поведения
человека и даже высших животных, является непостижимой с
этой точки зрения. Однако все эти возражения не носят
обязательного характера. Они правдоподобны, но могут оказаться не
убедительными для тех, кто целиком доверился
эпистемологическому допущению.
Полное опровержение эпистемологического допущения
потребовало бы доказательства того, что мир принципиально не может
быть проанализирован в терминах четко определенных данных.
Тогда поскольку предположение о существовании основных
однозначных элементов есть единственный способ спасти
эпистемологическое допущение от "бесконечной редукции" правил, то
"формалисты", осознав невозможность, с одной стороны, заполучить
правила на все случаи, а с другой — найти окончательные
однозначные данные, должны будут вообще отказаться от
эпистемологического допущения.
Допущение о том, что мир может быть исчерпывающим
образом проанализирован в терминах четко определенных данных
или атомарных фактов, пронизывает все работы в области
"искусственного интеллекта". За ним стоит целая философская
традиция. Назовем это допущение онтологическим и обратимся к
анализу его преимуществ и недостатков.

Глава 6. ОНТОЛОГИЧЕСКОЕ ДОПУЩЕНИЕ
До сих пор мы были заняты безуспешным поиском доводов и
эмпирических данных, подтверждающих гипотезу о том, что
разум перерабатывает информацию, проходя последовательность
дискретных шагов, как это делает эвристически
запрограммированная цифровая вычислительная машина, или о том, что
поведение человека может быть формализовано в этих терминах. Мы
показали, что существует четыре особенности переработки
информации человеком — периферийное сознание, оперирование с
неоднозначностями, способность к различению существенного и
несущественного и умение производить осмысленное разбиение на
группы,— которые не поддаются формализации в терминах
эвристических правил. Мы видели, что ни биологическое, ни
психологическое, ни эпистемологическое допущения, на основании
которых исследователь мог бы позволить себе воспринимать эти
трудности как временные, полностью не доказаны и вполне могут
оказаться несостоятельными. Теперь мы перейдем к
рассмотрению еще более глубокой трудности, возникающей перед всяким,
кто надеется создать искусственный интеллект на базе цифрового
устройства: данные, которыми вынуждена оперировать
вычислительная машина для того, чтобы воспринимать окружающий мир,
говорить на естественном языке и вообще проявлять разумное
поведение, должны быть дискретными, явными и четко
определенными; в противном случае они не будут иметь тот вид, при
котором информация может быть введена в машину для
обработки по тем или иным правилам. Ведь нет ни малейшего основания
считать, что такого рода данные о мире человека могут быть
сделаны доступными для вычислительной машины; напротив,
можно указать сразу несколько причин, на основании которых
можно утверждать, что таких данных не может быть.
Онтологическое допущение, которое гласит, что все,
являющееся существенным для разумного поведения, может быть
представлено в терминах множества четко определенных
независимых элементов, позволяет исследователям "искусственного
интеллекта" не обращать внимания на эту проблему. Как мы
вскоре увидим, это допущение лежит в основе всех научных
166

изысканий в данной области и подчас кажется исследователям
настолько самоочевидным, что необходимости в его точной
формулировке даже не возникает. Как и в случае
эпистемологического допущения, мы увидим, что такая убежденность в
несомненности положения, которое фактически является только
гипотезой, отражает философскую традицию, насчитывающую два
тысячелетия и закрепившуюся в результате неправильного
истолкования прогресса наук физического цикла. Если же четко
сформулировать эту гипотезу и исследовать ее во всех подробностях, то
выяснится, что в ее подтверждение не было приведено ни одного
довода, а при использовании ее в качестве основы теории, на
которой должны строиться практические разработки (как это
произошло в ИИ), она ведет к серьезным концептуальным трудностям.
Во введении к труду "Процессы переработки семантической
информации" М.Минский предостерегает:
"Когда кто-нибудь говорит (пусть с самыми лучшими намерениями),
что вычислительная машина — это не более чем соединение триггеров и что
машинная программа есть не что иное, как последовательность операций
над двоичными числами и т. д., это просто затемняет суть дела"*.
Он пытается опровергнуть такой обескураживающий взгляд
на цифровую систему переработки данных:
"Хотя это одно из полезных представлений, тем не менее столь же
правильно будет сказать, что вычислительная машина есть не что иное, как
ансамбль элементов, служащих для осуществления
символьно-ассоциативных и информационно-управляемых процессов, и что программы
представляют собой не что иное, как сети взаимосвязанных процессов по
формулированию целей и оценке результатов в терминах "средств и целей". В
действительности последняя трактовка гораздо предпочтительнее,
поскольку она несколько сглаживает "эгоистическую" тенденцию человеческого
мышления, склонного считать, что в случае машины все возможные
будущие следствия абсолютно ясны"**.
Но М. Минский лишь наполовину отдает себе отчет о
трудностях, которые возникают в связи с тем, что машина должна
оперировать четко определенными, независимыми элементами.
Может быть, действительно правила более высоких порядков
можно сформулировать так, чтобы тот факт, что машина
составлена из триггеров, никак не отразился на структурной схеме
программы, т.е. на информационном уровне. (На этом уровне,
как мы видели в двух предыдущих главах, недоразумения
возникают скорее в связи с допущением четких правил,
применимых во всех случаях жизни, чем в связи с тем, что эти правила
должны обязательно представлять собой последовательность
операций над двоичными числами.) Триггеры становятся проблемой
только тогда, когда мы переходим к рассмотрению способов
* М. М i n s k у: lntroduction.-ln: М. М [ п s к у. (ed.). Semantic
Information Processing, p. 11.
** Ibid.
167

представления информации, подлежащей введению в машину*.
Мы видели, что А.Ньюэлл вполне откровенно описывает GPS
(программу, которая на информационном уровне совершенно
оправданно может быть описана в терминах взаимосвязанных
целей и соотношений между ''средствами" и "конечными
состояниями") как "программу, реализующую задачу восприятия
внешнего мира, который описан в терминах дискретных объектов"**.
Именно эти дискретные объекты должны служить "наполнением"
для триггеров или, для этой же цели, должны быть разложены на
дискретные элементы следующего уровня. Любая программа
цифровой машины воспринимает необходимые ей данные только
в дискретной форме.
При таком подходе возникает специфическая проблема —
точнее говоря, этот подход сам ее и создает— проблема точного
определения характера всех тех вопросов, которые связаны с
введением в машину информации. В нейтральной формулировке
проблема сводится к следующему: как мы видели, для того
чтобы понять то или иное высказывание, структурировать ту или
иную задачу или распознать тот или иной образ, вычислительная
машина должна выбрать требующуюся информацию и
интерпретировать ее в терминах некоторого контекста. Но как сообщить
машине этот контекст? Лучше всего эта проблема
сформулирована (все в той же нейтральной форме) в обзоре работ по
распознаванию рукописного текста, представленном М.Иденом:
"Читающий может восстановить ее (букву написанного неразборчиво
текста.— Х.Д.\ на основании имеющихся у него сведений о грамматике
данного языка, по смыслу текста, который ему удалось прочесть, по
общему содержанию рукописи и, быть может, исходя из соображений о
душевном состоянии ее автора. Но, увы, пока еще мы совершенно не
знаем, как вложить все эти знания о мире и его процессах в программу
вычислительной машины"***.
Здесь М„Иден весьма благоразумно ничего не говорит о том,
Разумеется, на некотором уровне использование триггеров диктуется
лишь соображениями технического удобства, также как и двоичная
система, к которой они приводят. Всякая машина с конечным числом
состояний, будь то машина, использующая троичные элементы, шестерни с
десятью зубцами или элементы с любым другим набором дискретных
состояний, вынудила бы нас принять то же самое онтологическое допущение. Ведь
на более глубоком уровне использование триггеров выражает тот факт, что
цифровая вычислительная машина представляет собой логическую машину,
в которой реализуемые операции могут быть заданы в виде таблиц
истинности. Таким образом, любая информация, которая может быть введена в
машину, допускает представление в виде набора высказываний, для
которых определены значения "истина" и "ложь", "О" и "1"
**A.Newell. Learning, Generality and Problem Solving. The RAND
Corporation, RM-3285-1-PR, February 1963, p. 17.
*** Распознавание образов. Исследование живых и автоматических
распознающих систем (гл. V "Генерирование и распознавание
рукописного текста", написанная М.Иденом), М., 1970, с. 194 (курсив мой. — Х.Д) •
168

что же означают "знания о мире и его процессах". Однако в его
рассмотрении незаметно появляются триггеры, которые наряду с
онтологическим допущением диктуют ответ на поставленный
вопрос, причем ответ уже не нейтральный, а отражающий в себе
ограничения, вытекающие из цифрового представления данных в
вычислительной машине. На вопрос о том, что представляют
собой эти "знания о мире", следует ответ, что это просто
огромная масса дискретных фактов.
Заканчивая вступительную статью к труду "Процессы
переработки семантической информации", М, Минский задает
вопрос: "Каков массив знаний, необходимый для интеллекта
гуманоиднсго типа?"*. Его ответ предрешен — ни минуты не
колеблясь, он отвечает в терминах "количества фактов":
"Если мы исключим из рассмотрения специализированные знания и
ограничимся вопросом о количестве фактов, касающихся повседневны:
бытовых задач, знание которых необходимо человеку, не лишенному
обычного здравого смысла, мы обнаружим прежде всего набор
необходимых категорий, каждая из которых довольно сложна. Это геометрические
и механические свойства объектов и пространства; назначение и свойства
нескольких тысяч объектов; сотни "фактов" о сотнях людей, тысячи
фактов о десятках людей, десятки фактов о тысячах людей; сотни фактов
о сотнях организаций. Если кто-нибудь попробует заняться
классификацией рсего, что он знает, то сначала число категорий будет быстро расти,
однако спустя некоторое время находить их будет все труднее. По моему
мнению, главное состоит в том, что обнаружится не более десяти областей
знания, в каждой из которых наберется больше десяти тысяч "связей".
Невозможно найти сто объектов, о которых нам известно по тысяче
фактов; или тысячу вещей с сотнями новых связей каждая. Поэтому мне
представляется что машине для того, чтобы она вела себя более или менее
разумно в обычных ситуациях, в крайнем случае понадобится порядка ста
тысяч элементарных сведений. Для очень высокого уровня интеллекта
будет достаточно миллиона, разумеется, при надлежащей организации. Если
мои доводы не убедили вас, увеличьте все числа на порядок"*4'.
Допустим, в качестве предположения, что любого рода
человеческие знания могут быть представлены в виде списка объектов и
сведений о фактах, касающихся этих объектов. В связи с
проведенным Минским анализом возникает проблема занесения
всей этой огромной массы фактов в память машины и
организации доступа к этой информации. Каким образом нужно
структурировать эти данные — сто тысяч дискретных элементов,— чтобы
можно было за разумный промежуток времени отыскать среди
них требуемую информацию? Если предположить, что наше знание
о мире представляет собой знание миллионов дискретных фактов,
то проблема возможности искусственного интеллекта сводится к
проблеме организации хранения огромной базы данных и доступа
к ней?0. Минский отдает себе отчет в том, что это ведет к
серьезным затруднениям:
* М. М i n s k у. Introduction.—In: M. M I n s к у (ed.). Semantic
Information Processing, p. 25.
** Ibid., p. 25, 26.
169

«Каждый из нас знает, как трудно найти систему классификации
знаний, которая бы работала достаточно хорошо в применении к большому
числу задач различных типов: уже построение подходящего тезауруса71,
обеспечивающего работу хотя бы в одном классе задач, требует
чрезвычайных усилий. Более того, всякая конкретная структура выборки
информации непременно имеет некоторые ограничения, которые затрудняют
введение в нее новых понятий после того, как исходная структура уже
реализована. Невольно напрашивается следующий вывод: было бы глупо
строить нашу разумную машину на основе некоторой конкретной
тщательно разработанной классификации знаний, имеющей вид тезауруса —
некоего построенного ad hoc путеводителя по массиву информации. Этот путь,
разумеется, не ведет к "универсальному интеллекту"»*.
И действительно, решение проблемы создания больших баз
данных продвинулось вперед весьма незначительно. Любопытно,
что, несмотря на прекрасно сформулированные аргументы,
М. Минский в заключение пишет:
"Но нам следует с осторожностью относиться к самой осторожности,
поскольку из-за нее мы подвергаемся гораздо более далеко идущему
соблазну — попытаться найти источник чистого интеллекта. Я не вижу
оснований для предположения, что интеллект может существовать вне
связи с высокоорганизованным массивом знаний, вне связи с моделями и
процессами. Для нашей цивилизации всегда было естественным полагать,
что интеллект кристаллизован в некотором изолированном
образовании — называйте его сознанием, умом, инсайтом, гештальтом или как вам
будет угодно; но при этом решение проблемы подменяется ее называнием.
Способность решать задачи, свойственная человеку с высоким уровнем
интеллекта, объясняется частично большим совершенством его эвристик,
используемых для организации структуры его знаний, а частично самой
структурой; вероятно, эти два момента в какой-то степени неразделимы. Во
всяком случае, нет никаких оснований полагать, что возможны какие-либо
другие пути к тому, что называется интеллектом, кроме использования
адекватных, вполне конкретных знаний или модельных структур"**.
Однако это никак не назовешь доводом, укрепляющим
"машинный оптимизм". Люди действительно ухитряются быть
разумными, но не будь онтологического допущения, этот факт не мог
бы служить утешением для исследователей в области
"искусственного интеллекта". Отнюдь не доказано, что, для того, чтобы стать
разумным, человек тем или иным способом решил или должен
был решить проблему большой базы данных. Вполне возможно,
что сама эта проблема возникла как "артефакт", связанный с тем,
что вычислительная машина вынуждена оперировать дискретными
элементами. Человеческие знания, по-видимому, нельзя
разложить на простые категории, как этого хотелось бы М. Минскому.
Ту или иную ошибку, столкновение мнений, деликатное
положение и т.д. никак не назовешь объектами или фактами,
касающимися объектов. Даже обыкновенный стул невозможно
представить себе в терминах какого бы то ни было множества фактов
* Ibid., p. 26, 27.
** Ibid., p 27.
170

или "элементов знания". Отнести какой-нибудь объект к разряду
стульев — значит понять, как он соотносится с другими объектами
и человеком. При этом оказывается затронутым весь контекст
человеческой деятельности, в котором форма нашего тела,
возникновение потребности в мебели, явление усталости человека
и т.п. составляют лишь небольшую часть. А эти факторы в свою
очередь не легче выделить в чистом виде, чем просто стул. Любой
из них приобретает смысл только в контексте человеческой
деятельности, в которую он входит как составная часть (см.
гл. 8).
Как правило, имплицитно понимая человеческую ситуацию,
создающую данный контекст, и сталкиваясь в этом контексте с
конкретными фактами, мы не находим для них эксплицитного
выражения. Нет оснований — кроме навязываемых
онтологическим допущением — предполагать, что все факты, касающиеся
данной ситуации, которые мы в состоянии выразить в явном виде,
подсознательно уже выражены в какой-то "модельной
структуре", причем выражены эксплицитно, или что мы вообще в
состоянии представить ситуацию в абсолютно явной и четкой
форме, если очень постараемся*.
Почему это допущение представляется М. Минскому столь
очевидным? Почему он до такой степени не отдает себе отчета в
возможности альтернативного пути, что принимает как аксиому, а
не как гипотезу утверждение, будто интеллект предполагает
"конкретные знания или модельную структуру", огромный
систематизированный массив фактов? Любопытно, что, по мнению
Минского, провозглашение этой аксиомы опровергает традицию.
"Для нашей цивилизации всегда было естественным полагать, что
интеллект кристаллизован в некотором изолированном
образовании—называйте его сознанием, умом, инсайтом, гештальтом..."
В действительности же, допуская существование только двух
альтернатив — либо хорошо структурированного массива фактов,
либо какого-то отвлеченного способа рассмотрения фактических
данных,— Минский настолько традиционен, что даже не в
состоянии осознать то фундаментальное допущение, которое он
разделяет со всеми представителями философской традиции.
Утверждая, что все, что мы получаем из внешнего мира,— это только
факты, Минский слово в слово повторяет положение,
разрабатывавшееся еще со времен Платона и к настоящему времени
настолько глубоко проникшее в умы людей, что стало
самоочевидным.
* Вообще говоря, нам не известно, что, собственно, означает
"представить ситуацию в абсолютно явной и четкой форме", и мы не умеем этого
делать. Единственное, что мы знаем, — это что значит представить ситуацию
в форме, которая носит достаточно явный и четкий вид для того, чтобы
можно было достигнуть некоторой конкретной цели.
171

Как мы видели, суть философской традиции, воплотившейся в
нашей культуре,— избегать всякого риска: морального,
интеллектуального и практического. Действительно, требование, согласно
которому знание должно быть представлено в терминах правил и
определений, применяющихся без риска быть подвергнутыми
различным интерпретациям, можно встретить еще у Платона; это
же касается и уверенности в существовании простых элементов, к
которым эти правила применяются*. У Лейбница связь между
традиционной идеей знания и близкой к ней позицией, по которой
мир обязательно допускает разложение на дискретные элементы
(это позиция Минского), выражена вполне четко. Согласно
Лейбницу, понимание заключается в разложении понятий на более
простые элементы. При этом во избежание бесконечного процесса
сведения ко все более и более простым элементам в рассмотрение
должны быть введены изначальные неразложимые сущности, в
терминах которых можно постичь любые сложные понятия. Более
того, если мы хотим, чтобы эти понятия можно было применять к
реальности, должны существовать и логически неразложимые
сущности, с которыми соотносятся эти элементы. Лейбниц
рассматривал "своего рода алфавит человеческих мыслей"**,
"характеристические знаки которого должны выражать (при их
использовании в доказательствах) связь, группировку и порядок такого
же рода, который встречается и у объектов"***. Традиция
эмпиризма также развивалась при доминирующем влиянии
представлений о дискретных элементах знания. По мнению Юма, весь опыт
складывается из впечатлений — жестко определенных и четко
различимых атомов опыта. Рационализм и эмпиризм слились в
логическом атомизме Б. Рассела; наиболее полное выражение эта
идея получила в "Логико-философском трактате" Л.
Витгенштейна; в этом труде мир определяется в терминах множества
атомарных фактов, которые могут быть выражены логически
независимыми предложениями. Это и есть формулировка
онтологического допущения в его чистом виде; она является
необходимой предпосылкой возможности искусственного интеллекта,
поскольку цифровая машина, состоящая из триггеров, должна,
безусловно, содержать модель мира, представленную в виде
структурированного множества фактов или предложений, каждое
из которых обязательно либо истинно, либо ложно. Таким
образом, и философия, и прикладные науки в конце концов
приходят к постулированию положения, которое было намечено
Платоном: мы живем в мире, в котором гарантирована ясность,
определенность и управляемость; в мире структурированных
* См. сноску на с. 166.
** G.W. Leibniz. Selections. Ph. Wiener (ed.). New York, Scribner,
1951, p. 20.
*** Ibid., S. 100.
172

данных, теории принятия решений и автоматизации.
Однако не успела эта концепция "определенности" мира найти
свое четкое окончательное выражение, как философы начали
сомневаться в ней. Представители феноменологической школы
Европейского континента объявили ее результатом философской
традиции и попытались показать ее ограниченность. М. Мерло-
Понти именует предпосылку, согласно которой все существующее
может рассматриваться как совокупность атомарных фактов,
prejuge du monde—"презумпцией здравого смысла"*. М. Хайдег-
гер называет ее предпосылкой "вычисляющего мышления", ге-
chnende Denken**, — мышления, к которому стремится такая
философия, которая с неизбежностью находит свое высшее
выражение в приложениях науки к технике. Таким образом,
прикладные области техники со свойственной им установкой на
"безоговорочную вычислимость объектов" оказываются, по Хайдег-
геру***, неизбежной кульминацией метафизики. Они
характеризуются исключительным интересом к бытию (объектам) и
вытекающим отсюда отказом от рассмотрения Бытия (под бытием с
большой буквы понимается при этом, грубо говоря, человеческое
чувство ситуации, определяющее, что же должно считаться
объектом). В Англии нечто аналогичное было высказано Л.
Витгенштейном, выступившим суровейшим критиком самого себя; в
форме скорее аналитической, чем пророческой, он признал
невозможность проведения до конца того онтологического анализа,
который был им предложен в его "Трактате"****.
В части III у нас будет возможность подробно остановиться
на взглядах М. Мерло-Понти, Л. Витгенштейна, М. Хайдеггера и
на их критике традиционного онтологического допущения и
*M.Merleau-Ponty. Phenomenology of Perception, London, R. and
K.Paul, 1962, p. 5, 58 ff.
** M.Heidegger. Der Satz vom Grund, Pfullingen, G.Neske, 1957, S. 42.
*** М.Хайдеггер говорит: "Исходной идеей, позволившей создать
основу для построения думающих машин и организации больших
вычислительных сетей, стала идея о переносе центра внимания на информационные
аспекты языка"; "теория информации по своему характеру уже
подготавливает такое положение вещей, при котором всякому объекту придается
форма, гарантирующая господство человека над всей землей и даже над
другими планетами" (M.Heidegger. Op. cit., S. 203).
****У Л.Витгенштейна читаем: "Что люди подразумевают, когда
говорят, что имена действительно обозначают простые, неразложимые
сущности? — Сократ говорит в 'Теэтете": "Я тоже слышал от каких-то людей, что
именно те первоначала, из которых состоим мы и все прочее, не поддаются
объяснению... А вот состоящие из этих первоначал вещи и сами
представляют собою некое переплетение, и имена их, также переплетаясь, образуют
объяснение, сущность которого, как известно, в сплетении имен". Как
"индивиды" Рассела, так и мои "объекты" ("Логико-философский
трактат") представляют собой именно такие первичные элементы. Но из каких
простых составляющих состоит действительность?.. Совершенно
бессмысленно говорить об "элементарных частях стула"" (L. Wittgenstei
n.Philosophical Investigations, p. 21).
173

предлагаемой ими альтернативе. Впрочем, мы уже имеем
достаточно оснований для утверждения, что в нашем опыте мы
воспринимаем мир отнюдь не как набор фактов, с которыми
сталкиваемся в повседневной деятельности, и что далеко не
очевидна сама возможность такого рода анализа.
Но если онтологическое допущение в такой большой степени
не согласуется с нашим опытом, то откуда же у него такая сила?
Если необходимость понимания мира и умения управлять им
вынуждала традицию к упрощению действительности, в то время
как на самом деле она гораздо сложнее, то откуда все же столь
"устойчивый оптимизм"? Где эти мечты черпают свое
вдохновение? Как мы уже имели возможность убедиться в другой связи,
распространению этого мифа способствовали успехи современной
физики. Здесь, по крайней мере в первом приближении,
онтологическое допущение вполне "работает". Только после того, как
Г.Галилей сумел представить движение в терминах жестких
объектов, движущихся под воздействием детерминированных
сил, которые можно вычислять, появился Т. Гоббс, который
провозгласил, что всякое рассуждение есть нахождение суммы
путем сложения частей. Представление о Вселенной — как она
изучается в физике — в виде множества независимых,
взаимодействующих друг с другом элементов, оказалось в этом отношении
очень удобным. Онтологическое допущение — утверждение о том,
что мир данной человеческой личности также может быть
представлен в терминах множества элементов, — приобретает
правдоподобный характер, только если пренебречь различием между
миром человека и Вселенной или, что в общем-то одно и то же,
между ситуациями, в которых оказываются люди, и состояниями
физической системы.
Если в работе М.Минского такое смешение еще четко не
проявляется, то в интерпретации его бывшего коллеги Дж.Мак-
карти, возглавляющего в настоящее время исследования в
области "искусственного интеллекта" в Станфорде, оно становится
исходным пунктом всей аргументации. В статье "Программы,
обладающие здравым смыслом", включенной в книгу
М.Минского, Маккарти предлагает нашему вниманию программу,
"принимающую советы" для "решения задач посредством
преобразования предложений в формальных языках". Поведение
программы "можно будет совершенствовать с помощью
соответствующих сообщений как об окружающей обстановке, так и о том,
какие сведения надлежит от нее получить"*. Маккарти прекрасно
понимает, что "первое, что требуется для программы,
принимающей советы, — это формальная система, в которой отражены
*J.McCarthy. Programs with Common Sense. In: M.M i n s k у (ed„).
Semantic Information Processing, p. 403.
174

сведения о ситуации, целях и действиях"*. Отсюда тотчас же
возникает основной вопрос: как можно описать ситуацию в
формальной системе? Однако Маккарти не считает этот вопрос
достаточно серьезным, поскольку ситуация для него — в этом он
нисколько не сомневается — представляет собой физическое
состояние:
"Одним из основных элементов нашей теории является ситуация.
Интуитивно под ситуацией мы понимаем все то, что имеет место в
некоторый момент времени. Законы движения некоторой системы
определяют все будущие ситуации, которые последуют за данной. Таким образом,
ситуация соответствует понятию точки в фазовом пространстве"**.
Однако один и тот же тип ситуации может встретиться вновь, в
связи с уже другими объектами, людьми и a fortiori различными
физическими ситуациями. Более того, одну и ту же материальную
физическую структуру можно представить себе как несколько
различных ситуаций в зависимости от целей и намерений
различных участников этих ситуаций. Таким образом, хотя в каждый
данный момент Вселенная находится только в одном физическом
состоянии, ситуаций может оказаться столько же, сколько людей.
Утверждая, что "каждому данному моменту времени
соответствует в точности одна ситуация"***, Маккарти явно путает
конкретную ситуацию с физическим состоянием Вселенной. Точнее
говоря, он путает признак ситуации и ее тип. Признак ситуации может
совпадать с признаком физического состояния (определяемого
точкой в фазовом пространстве). Но тип ситуации никак не
может быть идентичным типу физического состояния.
Приведем конкретный пример. Возьмем ситуацию, которой
Маккарти уделяет много места, — "быть дома". "Выражение "быть
(я, дом) (s)" означает, что в ситуации $я нахожусь дома"****. По
всей видимости, Маккарти считает, что это то же самое, что
находиться в доме, то есть что это физическое состояние. Но ведь
я могу быть дома и в то же время находиться во дворе, то есть
физически находиться совсем не "в своем доме". Может также
случиться, что физически-я нахожусь "в своем доме", но пока я
еще "не дома", — если я, к примеру, купил этот дом, но еще не
перевез мебель. Быть дома — это специфически человеческая
ситуация, для которой трудно найти простое соответствие с
физическим состоянием нахождения человека в доме. Не говоря
уже о том, что необходимым, если не достаточным условием того,
чтобы "быть дома" в рассматриваемом смысле слова, является
факт моего владения или аренды дома, предполагающий сложное
переплетение социальных отношений, не сводимых ни к какому
* Ibid., р. 410.
** Ibid., р. 411.
*#* Ibid., р. 413.
**** Ibid., р. 411.
175

множеству физических состояний. Даже физическое описание
определенного "узора", нанесенного чернилами на определенный
лист бумаги в конкретной временной последовательности, не
образует достаточного и необходимого условия для передачи
права на собственность. Написанная фамилия не всегда подпись,
так же как "наблюдать" еще не значит "быть свидетелем".
Легко понять, почему Дж.Маккарти предпочитает
рассматривать ситуацию как физическое состояние. Дело в том, что
переходы от одного физического состояния к другому могут
быть формализованы с помощью аппарата дифференциальных
уравнений и затем воспроизведены на цифровой машине. Что же
касается ситуаций, то они, напротив, ставят неразрешимые
проблемы перед любой попыткой представить их в некоторой
формальной системе. Формализация в этом случае может
оказаться в принципе невозможной, как это нагляднее всего показывает
рассмотрение проблемы машинного перевода.
В части I мы видели, что причиной неудач автоматического
перевода с одного языка на другой послужил тот факт, что
выражения естественного языка оказались гораздо более
многозначными, чем поначалу предполагалось. В процессе сужения
границ подобной семантической и синтаксической
неоднозначности носитель языка может использовать известную ему
конкретную информацию о мире. И.Бар-Хиллел отмечает этот
момент в своем рассуждении, которое сводится, по его словам, "к
почти законченному доказательству недостижимости полностью
автоматического высококачественного перевода не только на
ближайшее будущее, но и вообще"*. Его аргументация настолько
существенна для нашего анализа, что заслуживает объемистой
цитаты:
"Я собираюсь показать, что в английском языке (и, я уверен, во
всяком другом естественном языке) существуют чрезвычайно простые
предложения, которые в пределах определенного лингвистического
контекста могут быть недвусмысленно и единственным образом (с точностью
до простой синонимии) переведены на любой другой язык любым
человеком, обладающим достаточным знанием обоих используемых в переводе
языков. В то же время я не знаю ни одной программы, которая давала бы
вычислительной машине возможность построить этот единственно
возможный перевод каким-нибудь методом, отличным от совершенно
произвольной и искусственной процедуры, неэффективность которой можно
усмотреть из следующего примера.
Вот предложение такого рода:
The box was in the pen.
Лингвистический контекст этого предложения будет примерно
следующим:
* Y.B a r-H i I I e I. The Present Status of Automatic Translation of
Language. In: Advances in Computers, vol. 1, p. 94.
176

Little John was looking for his toy box. Finally he found it. The box was in
the pen. John was very happy?2.
Предположим для простоты, что слово "реп" в английском языке имеет
только два следующих значения: 1) определенная письменная
принадлежность; 2) детский манеж. Теперь я беру на себя смелость утверждать, что
ни одна из существующих или доступных нашему воображению программ
не даст вычислительной машине возможность определить, что слово "реп" в
данном предложении в пределах данного контекста имеет второе из
вышеупомянутых значений, в то время как любой читатель, обладающий
достаточным знанием английского языка, сделает это "автоматически".
Что дает возможность обладающему интеллектом читателю столь
решительно выбрать именно это значение? Помимо всех остальных
признаков, которые рассматривались в работах по машинному
переводу ... ему помогает знание того факта, что относительные размеры
"реп" как письменной принадлежности и как детского манежа
таковы, что если кто-то в обычной ситуации и в контексте, близком
к приведенному выше, пишет 'The box was in the pen", то почти
наверняка речь идет о помещении для игры и, уж во всяком случае, не о
ручке"*.
И далее Бар-Хиллел переходит к опровержению положения
(отстаиваемого, например, М. Минским) о введении в
вычислительную машину, используемую для перевода, универсальной
энциклопедии, называя его "абсолютной химерой". "Число
известных людям фактов существенно бесконечно"**.
Суть дела схвачена Бар-Хиллелом очень верно; однако
приводимый им пример конкретного физического факта неудачен, ибо
может ввести исследователей в области "искусственного
интеллекта" (типа Минского) в искушение предложить
решение в терминах модели физических фактов: "...было бы совсем
неплохо ввести в семантическую модель достаточный объем
сведений, относящихся к хорошо знакомой всем геометрии
обычного физического пространства с тем, чтобы мысль о том,
* Ibid., p. 158, 159. При рассмотрении приводимого И. Бар-Хиллелом
примера может сложиться впечатление, что для того, чтобы определить
требующееся значение слова "playpen", машине достаточно проверить
непосредственный вербальный контекст, учтя наличие в нем такого, например,
слова, как "toy". Однако уже небольшое изменение этого примера,
предложенное Дж.Хогландом, показывает, что возражения Бар-Хиллела невозможно
обойти, апеллируя к контексту: "Little Johnny was playing on the floor beside
his pen. He was drawing a picture with a red pen on some green paper. When the
drawing was finished, he looked for his toy box, and found it inside the pen"73.
Можно еще допустить, что значение первых двух вхождений слова "реп"
может быть установлено благодаря информации, которую несут
окружающие их слова. Но совершенно очевидно, что, поскольку ключ к выделению
нужного значения слова "реп" из двух возможных значений заключен в
непосредственном вербальном контексте, в котором появляется последнее
предложение (на самом деле — в самом этом предложении), однозначное
понимание слова "реп" в его третьем вхождении требует тех "знаний
общего характера", которые имеет в виду Бар-Хиллел.
** Ibid., р. 160.
177

что ящик находится в авторучке, стала неправдоподобной"*.
Существует, однако, другой способ устранения
неоднозначности, который подводит нас к самой сути этого трудного
вопроса. В процессе снятия неоднозначности может играть роль
"чувство ситуации", как это показывает следующий пример,
приводимый Дж.Катцем и Дж.Фодором:
«Неоднозначноепредложение типа "Он идет по следам Канта",
расположенное в контексте, из которого ясно, что говорящий имеет в виду
* М. М i n s k у (ed.). Semantic Information Processing, p. 23. Кроме того,
может сложиться впечатление, что доводы Бар-Хиллела основаны на
использовании неоднозначностей случайного рода, которых можно было
бы избежать, приписывая различным значениям слова
"реп"соответствующие индексы. Однако в ответ на это возражение можно привести
интересный аргумент, выдвинутый Дж. Хогландом, из которого следует, что
такого рода неоднозначности возникают неизбежно, по крайней мере
при переводе с одного языка на другой:
"Представьте себе, что мы построили язык Eng', который во всем
совпадает с английским, кроме одного: все разные значения одного и того же
слова отличаются в нем с помощью индексов (например, реп-j —
письменная принадлежность, реп2 — детский манеж и т.д.). Совершенно
очевидно, что, несмотря на то, что это позволит избавиться от неоднозначностей
типа тех, которые фигурируют в примере Бар-Хиллела, проблемы,
возникающие при переводе с языка Eng' на некоторый произвольный язык
("выходной" язык; обозначим его Таг'), в действительности ничуть не
станут легче. Удачным примером может служить перевод слов "брат",
"сестра", "двоюродный брат" и "двоюродная сестра" на любой из
полинезийских языков. В двух приводимых ниже таблицах столбцы
соответствуют допустимым подстановкам слов "мальчик" и. "девочка" для пар детей,
строки — генеалогической связи между ними, а в прямоугольниках
указывается наименование их родственных отношений друг к другу при
различных условиях. Так, в английском языке а считается братом b только в
том случае, если а — мальчик и а и Ь имеют одних и тех же родителей.
Проблема сводится к тому, что 6parj — слово, имеющее в Eng' только
одно значение, будет неоднозначным для говорящего на языке тонган,
поскольку на этом языке оно имеет два различных смысла — "брат
мальчика" и"брат девочки".
Английский
Тонган
(полинезийский)
Пола
Пол в
айв имеют
одних и тех же
родителей
а и в не имеют
одних и тех же
родителей, но
имеют одних и
тех же дедушек
и бабушек по
материнской и
отцовской линиям
п**
,**
двоюродный брат
двоюродная сестра
с
с
(0
О)
с
(0
D
*"*
(0
ZJ
о
-?
О
+->
0)
.Е 1
fef
СО
3
vm — мальчик;
- девочка.
178

историю развития идей, не допускает прочтения типа: "Он напал на след
бандита"»*.
Такого рода затруднения рассматриваются в статье Катца и
Фодора "Структура семантической теории":
"Полная теория выбора^ должна предусмотреть в качестве составной
части акта произнесения любого высказывания каждый признак, любое
свойство мира, которое служит говорящему для того, чтобы указать
предпочтительное прочтение его слов ...практически каждый элемент
информации о мире существен для устранения какой-нибудь
неопределенности. Отсюда следуют два заключения. Во-первых, такая теория не
может в принципе различить знание говорящим языка и знание им мира...
Во-вторых, поскольку вряд ли можно всерьез рассчитывать на
систематизацию всего знания о мире, которым располагает говорящий ... (такая
теория.— Х.Д.) не представляет серьезной модели для лингвистики"**.
Далее Дж.Катц и Дж.Фодор пишут:
"Ни одно из приведенных выше соображений не отвергает возможности
создания ограниченной теории выбора, основанной на учете социально-
физического окружения, позволяющего наложить относительно сильные
ограничения на информацию о мире, теоретически представленном
посредством некоторых характеристик. Если эти соображения что-то и
доказывают, так это невозможность построения полной теории такого рода"***.
Итак, И. Бар-Хиллел утверждает, что необходимо включать в
рассмотрение такие специфические факты, как величина
авторучек и ящиков; Дж.Катц и Дж.Фодор считают, что необходимо
ввести в рассмотрение социально-физическое окружение. Более
того, обращение к контексту, по-видимому, играет более
фундаментальную роль, чем обращение к фактам, потому что именно
контекст определяет значимость фактов. Так, вопреки нашим
Из этого примера следует два заключения. Во-первых, неоднозначность
значений слов относительна. Так, слово "брат" в одних языках может быть
однозначным (это имеет место, например, в немецком языке), в других —
неоднозначным в вышеуказанном смысле, а в иных,вероятно,
неоднозначным еще в каком-то смысле. Во-вторых, недопустимо говорить о каком-то
языке (скажем, Land'), что он однозначен относительно всех
существующих естественных языков. Ибо если в языке Lang' найдется хотя бы одно
существительное, не являющееся собственным именем, то ему обязательно
будут соответствовать по крайней мере два отличных друг от друга
состояния универсума. А тогда вполне возможно, что где-то существует
естественный язык, в котором два нарицательных существительных
различаются между собой таким же образом, каким в языке Lang' различаются
выражения, имеющие разные референты?^- Поскольку это противоречит
нашей гипотезе, мы приходим к выводу, что в языке Lang' могут
существовать только собственные имена существительные (по одному на
каждое доступное выделению состояние универсума), что, с моей точки зрения,
есть reductio ad absurdum" (из личной переписки).
* J. К a t z, J. Fodor. The Structure of a Semantic Theory. In. J. К a t z,
J.Fodor. The Structure of Language. Englewood Cliffs, N.J., Prentice-Hall,
1964, p. 487.
** Ibid., p. 489.
*** Ibid., p. 489-490.
179

общим представлениям об относительной величине авторучек и
ящиков, если бы случилось так, что мы услышали фразу "The box
is in the pen", произнесенную шепотом в фильме о Джеймсе
Бонде, мы бы, пожалуй, нашли для нее интерпретацию, резко
отличную от той, которую она имеет в домашней обстановке или
на сельскохозяйственной ферме. И наоборот, если нет указаний на
более или менее необычный контекст, то мы склонны расценивать
контекст как "нормальный", приписывая "нормальную"
значимость фактам, касающимся относительных размеров.
"Физическая" модель, предлагаемая М.Минским, затушевывает
потребность в таком неявном обращении к ситуации, но отнюдь не
устраняет ее.
Ни М.Минский, ни И.Бар-Хиллел, ни Дж.Фодор и Дж.Катц не
заметили того существенного различия, которое имеется между
устранением неоднозначности путем обращения к фактам и путем
обращения к ситуации; по-видимому, это объясняется тем, что,
по их мнению, сама окружающая обстановка определяется нами
на основе признаков, представляющих собой факты, и поэтому ее
роль в процессе устранения неоднозначности аналогична роли
некоторого факта. Однако, как будет показано ниже, такое
пренебрежение различием между фактом и ситуацией приводит к
тому, что ни Бар-Хиллел, ни Фодор — Катц не могут дать прямого
ответа на вопрос, является ли автоматический перевод
практически нереальным или просто невозможным.
Вернемся к приводимому И. Бар-Хил л ел ом "доказательству"
того, что, поскольку устранение неоднозначности зависит от
использования фактов, а число фактов "существенно
бесконечно", полностью автоматический высококачественный перевод
получить невозможно; остается неясным, что именно
утверждается в этом тезисе. Если выражение "получить невозможно"
означает, что при помощи современных вычислительных машин и
уже работающих или разрабатываемых сегодня программ нельзя
реализовать хранение и выборку таких объемов информации,
тогда доказательство проходит, и уже этого тезиса оказывается
достаточно для весьма серьезных сомнений в возможности
осуществления машинного перевода в обозримом будущем. Если же
это выражение означает теоретическую неосуществимость (а
такой вариант представляется вполне вероятным в связи с
упоминанием бесконечности), тогда утверждение И.Бар-Хиллела
слишком сильно. Нам нет надобности вводить в машину
бесконечное число фактов, поскольку, согласно представлениям
М.Минского, она может неограниченно генерировать все новые и
новые факты из достаточно большого числа исходных фактов и
правил их комбинирования, таких, например, как физические
законы. Правда, ни одна из существующих программ не дает
машине возможности рассортировать всю эту безмерную массу
180

данных. На сегодняшний день мы не располагаем ни такой
машиной, ни такой программой, которые позволяли бы хранить в
запоминающем устройстве хотя бы просто очень большой массив
данных, с тем чтобы выборка релевантной информации могла
осуществляться в разумных пределах времени. Тем не менее в
настоящее время продолжаются работы над развитием так
называемой "ассоциативной памяти"; математики-программисты
проявляют большую изобретательность, разрабатывая такие приемы,
как хэш-кодирование76- В отдаленном будущем это может
привести к созданию средств хранения и выборки огромных массивов
информации. В таком случае если факты — это все, что нам нужно, то
необходимую информацию окажется возможным ввести в
машинную память, причем таким образом, что в каждом конкретном
случае можно будет ограничиться рассмотрением только
конечного множества релевантных фактов.
До тех пор пока Дж.Катц и Дж.Фодор, так же как и
И. Бар-Хиллел, придерживаются онтологического допущения и
говорят об окружающей обстановке в терминах "элементов
информации", их аргументация будет столь же двусмысленна, как
и доводы М. Минского. Они не правомочны переходить от
утверждения о том, что "вряд ли можно всерьез рассчитывать" на
систематизацию знаний, необходимых для снятия
неоднозначности (которая, по-видимому, сводится к констатации
несовершенства нашей технологии), к утверждению о том, что полная
теория выбора, основанная на социально-физическом аспекте
окружающей обстановки, невозможна. Если когда-нибудь будет
разработана программа, оперирующая всем объемом знаний — а в
соответствии с представлением о мире, которое сложилось у этих
исследователей, на это вполне можно рассчитывать,— то такая
программа и будет искомой теорией.
Только в том случае, если мы откажемся от онтологического
допущения, согласно которому мир может быть разложен на
совокупность фактов — элементов информации, — мы получим
право выйти за рамки практической неосуществимости. Нам уже
встречались примеры, из которых становится ясно, что ситуация
может представлять собой нечто совершенно отличное от
совокупности фактов и что функция, выполняемая ею, может
радикально отличаться от функции, выполняемой какой-либо их
цепочкой. В примере с Кантом ситуация (академическое
исследование) однозначно определяет, о каком Канте идет речь — об
Иммануиле Канте,— и, кроме того, подсказывает нам, какие
факты имеют отношение к уточнению значения словосочетания
"идет по следам" — идеологические или хронологические (когда
родился последователь Канта, каковы его философские взгляды,
и т.д.). В примере с ящиком детских игрушек и манежем,
очевидно, отношение к делу имеют размеры ящика и манежа,
181

поскольку речь идет о физических объектах, находящихся "в"
других физических объектах; но значимость используемых в
этом рассмотрении фактов определяется здесь ситуацией, которая
может носить бытовой, сельскохозяйственный или "шпионский"
характер. Таким образом, именно наше чувство ситуации
позволяет нам выбрать из потенциально бесконечного множества
фактов только те, которые релевантны — имеют непосредственное
отношение к делу, а после того, как релевантные факты найдены,
оценить их значимость. Отсюда следует, что если не существует
каких-либо фактов, релевантность и значимость которых
инвариантны во всех ситуациях (а пока еще таких фактов никто не
обнаружил), то нам придется заложить в вычислительную машину
некоторый способ распознавания ситуаций; в противном случае
машина окажется не в состоянии устранять неоднозначность и
поэтому в принципе не сможет понимать высказываний
естественного языка.
Среди исследователей, работающих в области "искусственного
интеллекта", по-видимому, один Дж.Вейценбаум отдает себе отчет
в существовании этих проблем. Разрабатывая программу,
которая обеспечила бы человеку возможность общения с машиной на
естественном языке, и сталкиваясь в этой связи с существенной
ролью ситуации, Вейценбаум осознает, что ее нельзя
рассматривать как простой набор фактов. Его замечания о важности
глобального контекста заслуживают пространной цитаты:
"В отсутствие некоего установленного глобального контекста никакое
понимание вообще невозможно. Конечно, незнакомые люди встречаются,
вступают в беседу и сразу же понимают друг друга (я по крайней мере
уверен, что это так). Но они действуют в рамках общей культуры (что
связано и с тем языком, на котором они говорят), и при любых условиях,
за исключением самых тривиальных, их поведение напоминает охоту, цель
которой — создание некоего "контекстуального каркаса" "*.
"В реальном разговоре глобальный контекст придает высказываниям
только самый общий смысл. В процессе развития разговора
устанавливаются "подконтексты", внутри этих "подконтекстов" — "подподкон-
тексты" и так далее"**.
Дж.Вейценбаум считает, что в общем и целом эти вопросы
достаточно трудны, но принципиальных проблем они не ставят.
"Мы еще раз привлекли внимание читателя к вопросу о контексте,
чтобы подчеркнуть следующее положение: хотя создание программы,
"понимающей" естественный язык в самом общем смысле слова, сейчас
еще невозможно, обеспечение контекстуального каркаса, пусть даже весьма
широкого, позволяет разрабатывать программы, способные к
распознаванию языковых образов"***.
* Распознавание образов. Исследование живых и автоматических
распознающих систем (гл. VII "Понимание связного текста вычислительной
машиной", написанная Дж.Вейценбаумом), М., 1970, с. 228.
** Там же, с. 229.
*** Там же, с. 239.
182

Итак, Дж. Вейценбаум предлагает запрограммировать пучок
контекстов в терминах некоторого "контекстуального дерева":
"После самого верхнего, или начального, узла генерируется новый
узел, представляющий определенный подконтекст, от этого узла
генерируется следующий узел, и, таким образом, процесс
продолжается, образуя подконтексты различных уровней"*.
Совершенно очевидно, что в его представлении сами эти контексты в
конечном счете можно считать наборами фактов: "Для
отдельного индивидуума аналогом разговорного дерева служит то, что
Абельсон называет структурой мнений"**,™ есть упорядоченной
совокупностью фактов, касающихся запаса знаний,
эмоционального склада, целей и т.д. индивида.
Очевидно, что осознание решающей роли ситуации само по
себе не дает достаточных оснований для отказа от исследований в
области "искусственного интеллекта". Представитель
"традиционной онтологии" (которая нашла новое воплощение во взглядах
Дж.Вейценбаума и исследователей проблемы ИИ) может
допустить, что используемые в разговоре факты выбираются и
интерпретируются в терминах глобального контекста; его вывод
просто-напросто сведется к тому, что начинать следует с отбора и
программирования тех признаков, которые характеризуют эту
более широкую ситуацию. Однако в замечаниях Вейценбаума
содержатся и элементы принципиальных возражений против
возможности создания машин, обладающих интеллектом на
уровне человека. Чтобы разобраться в этом, нам придется сначала
показать, что Вейценбаум не случайно выбирает данный способ
анализа этой проблемы (отделение значения контекста от
значений используемых в нем слов); этот способ диктуется самой
природой вычислительных машин. В нашем повседневном опыте
мы не обнаруживаем такого разделения. По-видимому, мы
понимаем ситуацию в терминах значений слов в той же мере, в какой
мы понимаем значения в терминах ситуации. Что же касается
машины, то в ней этот единый взаимосвязанный процесс
определения значений должен быть разбит на последовательность
отдельных операций. Поскольку Вейценбаум понимает, что значения
слов невозможно определить до тех пор, пока мы не знаем
смыслового контекста, он делает совершенно правильный, с
точки зрения математика-программиста, вывод: в первую
очередь следует определить контекст, а затем использовать его
свойства для определения значения входящих в контекст
элементов.
Более того, из анализа Вейценбаума следует, что для
машинного понимания естественного языка необходимо, чтобы органи-
* Там же, с. 229.
** Там же.
183

зация контекстов имела вид системы иерархически
организованных подконтекстов. Для того чтобы понять, почему Вейценбаум
считает обязательным использование иерархии контекстов и
почему, по его мнению, вся процедура обработки этой иерархии
должна начинаться с ее вершины, нам придется вернуться к общей
проблеме распознавания ситуаций. Если для того, чтобы
вычислительная машина могла устранять неоднозначности и вообще
понимать высказывания естественного языка, ей необходимо
использовать ситуацию или контекст, то математик-программист
должен уметь заложить в машину (которая сама по себе не имеет
отношения к каким-либо ситуациям) некоторый метод
распознавания и использования контекстов. Но те же описанные нами
выше проблемы, которые возникают при устранении
неоднозначностей и приводят к необходимости учета ситуации, сразу же
возникают снова на уровне распознавания контекстов и
вынуждают нас начинать анализ с самого широкого контекста. В самом
деле, если при устранении неоднозначностей число возможных
релевантных фактов в некотором смысле бесконечно (в
результате чего еще до начала процесса интерпретации приходится
применять тот или иной критерий отбора), то и число фактов,
релевантных для распознавания контекстов, также будет
бесконечным. Каким образом машина окажется в состоянии
производить анализ всех этих отличительных особенностей ситуации
(таких, например, как число присутствующих людей, давление,
температура, день недели и т.д.), любая из которых может
оказаться решающей в некотором контексте? Далее, даже если в
программе имеются правила для выделения релевантных фактов,
все равно эти факты не будут носить однозначный характер (т.е.
будут характеризовать несколько различных контекстов) до тех
пор, пока не будет найдена их интерпретация.
Очевидно, что для выделения релевантных признаков (из
бесконечного множества признаков), а также для нахождения их
интерпретации придется воспользоваться более широким
контекстом. Но если программа в свою очередь должна обеспечить
машине возможность идентифицировать более широкий контекст
в терминах признаков, релевантных этому контексту (а только
так может действовать вычислительная машина, оперирующая
дискретными элементами), то программист либо должен
постулировать, что некоторые признаки изначально релевантны и имеют
одно и то же значение независимо от контекста (возможность,
заранее исключаемая первоначальным обращением к контексту),
либо вступить на путь бесконечного процесса сведения одних
контекстов к другим. Существует, по-видимому, только один
выход: вместо того чтобы проводить анализ, двигаясь вверх по
дереву — восходя ко все более и более широким
контекстам,— машина должна идти вниз, начиная с первоначального
184

контекста,— того самого, который Вейценбаум называет общей
для всех нас культурой.
К счастью, что-то вроде этого первоначального контекста,
кажется, действительно существует, однако, как мы увидим в
дальнейшем, он оказывается таким же непрограммируемым, как
и бесконечная редукция контекстов, во избежание которой он
вводится. Как мы видели, для того чтобы определить, какие
факты релевантны для распознавания, с какой ситуацией —
"академической" или "шпионской" — мы имеем дело, а также для
интерпретации этих фактов, мы должны перейти к более
широкому контексту. Таким образом, лишь в более широком
контексте нашего социального общения мы обычно принимаем во
внимание, во что человек одет и что он делает, и пренебрегаем
тем, сколько насекомых в воздухе или какую форму принимают
облака ровно в полдень или минутой позже. И только этот более
широкий контекст дает нам возможность определить, имеют ли
эти факты обычное значение.
Более того, даже те факты, которые необходимы для
распознавания характера соответствующей сети социальных связей,
могут быть выделены только потому, что социальное общение
представляет собой частный случай человеческой деятельности
вообще — деятельности, в которую входит и работа в одиночку, и
изучение примитивных племен. И наконец, сама человеческая
деятельность является частью некоторой еще более широкой
ситуации — назовем ее миром человеческой жизни — и в нее уже
Придется включить даже те ситуации, в которых ни один человек
не принимает непосредственного участия. Но какие факты будут
в достаточной степени релевантны при распознавании этой самой
широкой ситуации? Имеет ли вообще смысл говорить о
"распознавании" жизненного мира? Коль скоро мы люди, мы, по всей
вероятности, просто считаем эту первоначальную ситуацию
непосредственно данной. Говоря словами Л.Витгенштейна:
"Все, с чем мы должны считаться, все, что нам дано, можно назвать
формами жизни*'*.
Допустим, что это так. Тогда почему бы не выразить в точном
виде существенные признаки человеческих форм жизни, исходя
из них самих? Действительно, это решение в духе deus ex machina
в течение двух тысячелетий было путеводной нитью философских
размышлений; и не удивительно поэтому, что "искусственный
интеллект" не может предложить никаких способов
формализации человеческой жизни (из этого не следует, однако, что это
может сделать обычный интеллект). Что же нам в таком случае
делать? Все, с чем мы так или иначе сталкиваемся на опыте, будь
то конкретные объекты или отвлеченные идеи, отражает наши
* L.W ittgenstein. Philosophical Investigations, p. 226.
185

человеческие устремления. Вне конкретной заинтересованности,
без наличия конкретного предмета исследования — всего того, что
позволяет производить выбор и интерпретацию,— мы вновь
оказываемся перед лицом бесконечности неосмысленных фактов,
которой мы стремились избежать.
Итак, если мы примем точку зрения специалистов в
области "искусственного интеллекта", согласно которой процесс
рассуждения, мышление есть просчитывание фактов и
(согласимся с допущением, по которому релевантность и значимость
фактов не просто зависят от контекста, но вне его вообще не
имеют смысла), мы придем к заключению, что попытка
конструирования разумного поведения приводит к
неразрешимому противоречию — антиномии. С одной стороны, имеется
тезис: для каждого данного контекста всегда должен
существовать более широкий контекст; в противном случае не было бы
никакого способа различения релевантных и нерелевантных
фактов. С другой стороны, имеется и антитезис: должен существовать
какой-то первичный, ни к чему не сводимый контекст, не
требующий интерпретации; иначе возникнет бесконечная
редукция контекстов, и мы никогда не сможем приступить к
формализации.
Человек, по-видимому, воплощает в себе третью возможность,
которая может подсказать нам решение этой дилеммы. Нет
никакой иерархии контекстов — просто наличная ситуация
воспринимается нами как продолжение или модификация
предшествующей. Тем самым мы переносим из непосредственного
прошлого совокупность предвидений, основанных на том, что
было существенным и важным мгновение назад. Этот перенос
создает определенную установку, определяющую то, на что нам
следует обратить внимание.
Однако если поставить вопрос о программировании этого
альтернативного подхода, то обнаружится, что он отнюдь не
решает проблемы распознавания контекстов — он просто
переводит сведение контекстов в некоторой их иерархической
структуре в сведение, развертывающееся во времени. Каким образом
возникла ситуация, которую человек переносит из одного
временного момента в другой? В "программистских" терминах этот
вопрос звучит так: каким образом из бесконечного числа фактов
происходит первоначальный выбор именно тех из них, которые
имеют отношение к формам человеческой жизни,— выбор,
преследующий цель определить тот контекст, который впоследствии
будет подвергаться корректировке? Скорее всего, ответ на этот
вопрос будет следующим: наследственная природа человека
такова, что, еще будучи младенцем, он четко реагирует на некоторые
детали окружающей среды, такие, например, как материнская
грудь и улыбка, от которых решающим образом зависит его
186

выживание. Если запрограммировать эти изначальные рефлексы и
обеспечить машине возможность обучения, то, быть может,
окажется возможным решить проблему распознавания контекстов;
необходимо, однако, оговориться, что в настоящее время этот
подход в "искусственном интеллекте" совершенно не
разрабатывается*. Искусственный интеллект, как его сейчас определяют
Е.Фейгенбаум, Г.Саймон, М.Минский, Дж.Вейценбаум и др.,
фактически представляет собой попытку построения полностью
сформированного интеллекта взрослого человека — нечто вроде
Афины Паллады, в полном вооружении появившейся из головы
Зевса. Из сказанного выше, однако, не следует, что предложенное
решение позволит снять исходную дилемму. Остается неясным,
каким образом ребенок проходит путь развития от неизменных
реакций, вызываемых фиксированными особенностями
окружающей среды, до определения смысла в терминах контекста, что, по
признанию даже исследователей в области ИИ, характеризует
поведение взрослого человека.
Как только ребенок научается определять значения в терминах
ситуаций, он приобретает способность так преобразовывать
ситуации, с которыми он сталкивался в прошлом, чтобы они отвечали
текущему положению; однако первоначальный переход от
неизменных реакций к реакциям гибким, основанным на учете
смысла ситуаций, по-прежнему остается неясным. Одно из двух:
либо этот переход следует понимать как непрекращающуюся
модификацию предшествующих ситуаций (и тогда из сказанного
нами выше понятно, что именно в этом случае подлежит
объяснению) , либо так называемый глобальный контекст должен
распознаваться в терминах фиксированных, не зависящих от контекста
признаков, и тогда мы не столько решаем проблему, сколько
* По-видимому, единственное исключение представляет отчет Т. Джоунса
"Машинная модель простых форм обучения" (Th. L. J о п е s. A Computer
Model of Simple Forms of Learning).Т.Джоунс следующим образом
описывает свою программу:
"INSIML представляет собой программу, написанную на языке ЛИСП,
моделирующую простые формы обучения ребенка в первые недели его
жизни, такие, как сосание пальца или элементарная координация рук и
глаз.
Программа работает по принципу обнаружения причинно-следственных
связей и упорядочения их в виде дерева целей. Если, например, явление А
вызывает явление В и программе требуется получить В, то А будет
выделено в качестве подцели; в таком обратном направлении анализ будет
производиться до тех пор, пока программа не встретит подцель, которая
может быть реализована непосредственно, то есть путем реализации
мышечного усилия".
Эта работа находится в самом начале, поэтому трудно дать ей какую-
либо оценку. Если это исследование — не случайное явление, а отражает
определенную тенденцию, то можно ожидать существенного сдвига в целях
и методах "искусственного интеллекта".
187

игнорируем ее. С одной стороны, ребенок или машина в
состоянии производить отбор релевантных фактов, приписывать всем
подобным фактам их обычные значения и вместе с тем, в случае
необходимости, прорывать границы их обычных значений в
нужном направлении. В этом случае ни про какую совокупность
фиксированных характеристик, даже ту, которую в состоянии
воспринять ребенок, нельзя сказать, что она имеет фиксированное
значение, в терминах которого начинается весь этот процесс. С
другой стороны, если все, что нам нужно,— это фиксированные
характеристики, тогда нам придется отказаться, как от
иллюзорной, от той гибкости, которую мы так старались объяснить. По
всей видимости, не существует ни способа проникновения внутрь
ситуации, ни способа распознавания ее извне.
Тем не менее, как все мы знаем, способность к обобщению и
гибкому оперированию со значениями постепенно развивается в
процессе обучения и вся наша проблематика погружается в
проблему обучения. Создается впечатление, что либо развитие
ребенка заключается в том, что он в каждый момент времени
приобретает все более сложные неизменные реакции, либо что он
с самого начала способен интерпретировать конкретные факты в
терминах общего контекста, развивая и все более тонко
структурируя чувство ситуации. Если в применении к взрослому
человеку мы откажемся от анализа в терминах фиксированных
реакций, считая, что в этом случае подобный подход не
применим, то мы вновь столкнемся с временной версией исходной
антиномии. Одно из двух: либо должен существовать самый
первый контекст — контекст, который машина не в силах
распознать из-за отсутствия предыдущего контекста, в терминах
которого происходит выделение существенных характеристик данного
контекста; либо возникнет редукция контекстов во времени,
уходящая в сколь угодно отдаленное прошлое, и тогда машина
окажется не в состоянии начать процесс распознавания.
Как говорил И.Кант, для того чтобы разрешить антиномию,
нужно отказаться от предположения, что две рассматриваемые
альтернативы являются единственно возможными. Но для тех,
кто занят построением искусственного разума, возможны только
эти альтернативы*. Однако, коль скоро люди пользуются языком и
понимают друг друга, должна существовать еще одна
альтернатива. Должен существовать некоторый способ обхода внутренне
противоречивой редукции контекстов или маловразумительного
понятия распознавания изначального контекста, —способ, который в
* За исключением альтернативы, предполагающей существование таких
фактов, которые имеют не зависящие от контекста фиксированные
значения, — альтернативы, которую, как мы видели, такие исследователи
проблемы "искусственного интеллекта", как Дж. Вейценбаум, молчаливо
исключают из рассмотрения.
188

настоящее время только представляется возможным для
придания значения независимым нейтральным фактам.
Единственным выходом из этого положения является, по-видимому,
отказ от разграничения фактов и ситуаций, к чему, как мы
видели, и был вынужден прибегнуть Дж.Вейценбаум,
учитывавший последовательный характер функционирования цифровых
машин. Общеизвестно, что человек не в состоянии исключить из
рассмотрения ситуацию, отдав предпочтение фактам,
релевантность и значимость которых фиксированы независимо от
контекста; единственная имеющаяся возможность сохранения
неразрывной связи фактов и ситуаций заключена в отказе от тезиса о
независимости фактов и в попытке трактовать их как продукт
соответствующих ситуаций. Для обоснования этого положения
следует показать, что о существовании фактов вообще можно
говорить лишь в категориях их релевантности данной ситуации.
Тогда проблема распознавания ситуаций извне отпадет вообще,
ибо для того, чтобы интеллект мог интерпретировать какие-либо
факты, он должен находиться "внутри" некоторой ситуации.
В части III мы покажем, каким образом возможна реализация
этой альтернативы и как она связана с человеческой жизнью
вообще. Только после этого станет понятным, почему вариант с
фиксированными характеристиками является неосуществимым с
эмпирической точки зрения, а также почему невозможно
запрограммировать формы человеческой жизни.

ЗАКЛЮЧЕНИЕ
В нашем анализе всех четырех допущений, лежащих в основе
оптимистической интерпретации результатов, достигнутых в
области "искусственного интеллекта", мы каждый раз сталкивались с
одним и тем же ходом событий. Каждое допущение принимается
как нечто само собой разумеющееся, то есть как аксиома, редко
отчетливо формулируемая и никогда не подвергающаяся
сомнению. На деле же рассматриваемое допущение оказывается отнюдь
не единственно возможной и, вообще говоря, весьма спорной
гипотезой. Биологическое допущение, предполагающее, что
функционирование мозга подобно работе цифровой
вычислительной машины, в наши дни уже не соответствует имеющимся
данным. Три другие допущения приводят к затруднениям
концептуального порядка.
Психологическое допущение, согласно которому разум
руководствуется некоторой эвристической программой, не
выдерживает критики с эмпирических позиций, априорная же
аргументация в его пользу оказывается несостоятельной в связи с
неудачей попыток изучения логически допустимого уровня
рассмотрения, промежуточного между физическим и
феноменологическим уровнями. Это не доказывает, что задача, стоящая перед
исследователями проблематики моделирования процессов
познания, безнадежна. Однако без поддержки психологической
аксиомы исчезает единственный аргумент, дающий хоть какие-нибудь
основания надеяться на успех в данной области. Если бы удалось
доказать, что переработка информации необходимо
осуществляется по эвристическим правилам, то перед специалистами,
работающими в области моделирования процессов познания, возникла
бы реальная задача отыскания этих правил. А без опоры на эту
аксиому все трудности, связанные с разработкой проблематики
моделирования процессов познания, выявившиеся за последние
десять лет, приобретают новый смысл; мы просто не имеем права
игнорировать всевозрастающую массу эмпирических данных,
свидетельствующих о том, что процессы переработки информации
человеком и машиной протекают совершенно по-разному.
Исследователи, работающие в сфере ИИ (и принявшие
эстафету от направления моделирования процесса познания, точно так
190

же, как М.Минский принял эстафету от Г.Саймона), разработали
программы, позволяющие цифровой машине получать, используя
логические операции, результаты, приближающиеся к тем,
которые человек, по-видимому, достигает, не решая, а обходя
трудности, неразрывно связанные с формализацией. Но ведь
формализация ограниченного контекста представляет собой "решение" ad
hoc; при этом проблема формализации всего массива человеческих
знаний, необходимых для разумного поведения, остается
нетронутой. Эта фундаментальная трудность скрыта за гносеологическим
и онтологическим допущениями, согласно которым все
человеческое поведение необходимо допускает анализ в терминах
правил, связывающих между собой атомарные факты.
Однако концептуальные трудности, связанные с этими
допущениями, оказываются еще более серьезными, чем трудности,
вытекающие из психологического допущения. Неизбежное
использование обоих допущений в качестве основополагающего
принципа теории, объясняющей практическую деятельность
человека, приводит к "регрессу в бесконечность": к введению все
более и более специфических правил — правил применения
правил — или все более и более общих контекстов, необходимых для
контекстуального распознавания. В свете этих противоречий
разумно предположить, что на информационном уровне, в отличие
от уровня физических законов, мы не можем представить
поведение человека в терминах, подчиняющихся правилам
манипуляций над некоторым множеством элементов. А поскольку
теоретики "искусственного интеллекта" не выдвигают никаких
аргументов для доказательства того, что человеческое поведение
должно быть воспроизводимым на цифровой машине,
оперирующей детерминированными "квантами" информации по
строгим правилам, у нас, по всей видимости, есть вполне веские
философские основания отказаться от этих допущений.
Если мы действительно перестанем опираться на эти четыре
допущения, то накопившиеся к настоящему времени
эмпирические данные приобретут иное значение. Тот факт, что можно
найти такие поисковые эвристики, которые позволят машине
использовать свое быстродействие и точность операций для того,
чтобы проникнуть в сферы поведения человека, в которых тот
применяет более утонченные методы, уже не будет столь
очевидным. При отсутствии каких бы то ни было априорных
оснований для уверенности в такой возможности мы можем
опираться только на уже достигнутые результаты. Хотя ранние
успехи в этой области исследования показали возможность
применения в ней грубых "силовых" методов, однако те трудности,
которые на сегодняшний день имеются в программировании игр,
машинном переводе, решении задач и распознавании образов,
указывают на существование предела нашей способности заменять
191

один тип "обработки информации" другим. Только опытным
путем можно установить, в какой степени новые, более
быстродействующие машины, более совершенные языки программирования
и более хитроумные эвристики позволят нам отодвинуть этот
предел. Но неуклонный спад, наблюдаемый в рассмотренных
нами областях, и несостоятельность всех ранее сделанных по
этому поводу прогнозов наводят на мысль, что этот предел,
по-видимому, не очень далек. Если не принимать на веру эти
четыре допущения, то существующий застой, скорее, дает
основание для пессимизма.
Разумеется, все это чревато серьезными последствиями для
нашей философской традиции. Если затруднения, с которыми
сталкиваются все без исключения исследования в области
"искусственного интеллекта", расценивать как неудачи, то они должны
интерпретироваться как эмпирические свидетельства, говорящие
о несостоятельности психологического, эпистемологического и
онтологического допущений. Говоря словами М.Хайдеггера, если
западная метафизика достигла в кибернетике своей высшей
точки, то возникшие за последнее время трудности в разработке
проблем "искусственного интеллекта" отражают не столько
недостаточное развитие нашей технологии, сколько, пожалуй,
указывают на принципиальные границы ее возможностей.

Часть III
АЛЬТЕРНАТИВЫ К ТРАДИЦИОННЫМ ВОЗЗРЕНИЯМ

ВВЕДЕНИЕ
Общей чертой психологического, эпистемологического и
онтологического допущений является взгляд на человека как на
устройство, действующее на основе определенных правил
организации данных, имеющих вид атомарных фактов. Эта идея была
вынесена на поверхность в результате слияния двух мощных
потоков; у истоков одного из них стоит философская концепция
Платона, другой был вызван появлением современных
электронных цифровых вычислительных машин. Платон сводил всякое
рассуждение к четким правилам, а мир — к атомарным фактам, к
которым, по его мнению, единственно возможно применять эти
правила, не опасаясь противоречий в их интерпретации. В свою
очередь изобретение цифровой вычислительной машины явилось
итогом работ по созданию устройства общего назначения для
обработки информации, которое производит вычисления по
точным правилам и воспринимает данные лишь в виде атомарных
элементов, логически друг от друга не зависящих. Случись
подобное открытие в рамках какой-либо иной культуры, вполне
возможно, что создание цифровых машин не воспринималось бы
как многообещающая модель "искусственного разума"; однако
на почве нашей культурной традиции вычислительная машина
представляется подлинной парадигмой логического мышления,
которой не хватает только некоторой совершенной программы,
чтобы сравняться с человеком в его отличительном свойстве —
рациональности, разумности.
В результате этого взаимодействия двухтысячелетней
культурной традиции и ее продукта — самого мощного устройства из
всех когда-либо изобретенных человеком — возник толчок такой
силы, что его нельзя не только затормозить или направить в
другом направлении, но даже полностью осознать. Самое большее,
на что можно надеяться,— это на понимание того факта, что, даже
если эта линия развития неизбежна, она не единственно
возможна; кроме того, предположения, лежащие в основе тезиса о
возможности "искусственного интеллекта", есть всего лишь
предположения, а не аксиомы. Короче говоря, может существовать
иной подход к пониманию человеческого разума, который объяс-
195

нит нам как то, почему "машинная установка" столь сильна и
живуча, так и то, почему она неизбежно должна "сойти со сцены".
Развитие подобного альтернативного подхода связано с
многими трудностями, и самая серьезная из них состоит в том, что его
невозможно представить в форме естественнонаучного
объяснения. Мы уже видели, что смысл процедуры, считающейся
"полным описанием" или объяснением, предопределяется той самой
традицией, для которой мы ищем альтернативу. Последняя
определяет следующую точку зрения: невозможно понять такой
способности человека, как владение естественным языком, до тех пор
пока не найдена теория — или формальная система правил - для
описания соответствующей компетенции. Нельзя понять поведения
человека, в частности языкового его аспекта (применения языка в
общении), до тех пор пока поведение не выражено в терминах
однозначных и точно определенных реакций на точно определенные
объекты в универсальным образом заданных ситуациях. Западная
мысль и оказалась во власти такого рода взглядов на объяснение
человеческого поведения. Эти взгляды были теоретическим
отражением сложившейся практики, при которой человек
рассматривался как устройство или объект, реагирующий на воздействия со
стороны других объектов согласно универсальным законам или
правилам.
Но именно подобные теоретические представления —
представления, прошедшие двухтысячелетний путь развития и
совершенствования,— ныне стали в такой степени проблематичными,
что от них вынуждены отказываться как англо-американские, так
и континентально-европейские философские направления.
Именно эти представления привели к тому, что специалисты,
разрабатывающие проблематику "искусственного интеллекта",
натолкнулись на каменную стену. Неудачи в данном случае касаются не
конкретного подхода к объяснению — нет, крушение потерпела
вся концептуальная схема, строящаяся на той предпосылке, что
объяснение человеческого поведения может и должно быть
выражено в рамках идущей от Платона схемы, которая оказалась
столь успешной в применении к естественным наукам; что
ситуации, с которыми сталкивается человек, можно трактовать
подобно физическим состояниям; что мир человека допустимо
трактовать так же, как Вселенную, изучаемую в физике. Коль
скоро эта схема оказывается несостоятельной, то, пытаясь
предложить альтернативный подход, мы должны пойти по пути
объяснения соэершенно другого рода, то есть дать совершенно иной ответ
на вопрос: "Каким образом человек осуществляет разумное
поведение?"; или даже рам вопрос должен в этом случае звучать
иначе, ибо выражение "человек осуществляет" (а не просто
"проявляет") несет на себе печать традиционного подхода. Ибо
любая вещь должна быть как-то осуществлена; если же вещь
196

нельзя произвести каким-то определенным способом, то для
объяснения ее появления приходится обращаться к магии.
Ответ на этот вопрос не предполагает предварительного
нахождения управляемых правилами точных отношений между точно
определенными объектами. Этот ответ будет иметь форму
феноменологического описания рассматриваемого типа поведения.
Такое описание позволит нам понять также, можно ли ставить
задачу нахождения общих характеристик поведения такого,
например, типа, как восприятие стола или дома или вообще
процессы перцепции, решения задач, применения языка и т.д.
Подобное описание вполне можно назвать объяснением, если пойти
еще дальше и попытаться найти фундаментальные отличительные
черты человеческой деятельности, которые представляют собой
необходимые и достаточные условия любых форм человеческого
поведения.
Такого рода объяснение — дань методу Аристотеля, но без
привлечения его рассмотрений и аргументации. В отличие
от Платона, который имел в виду критерии поведения в виде
правил, Аристотель пытался описать общую структуру
восприятия и суждения. Но как свидетельствует его представление о том,
что действия людей основываются на практически применяемых
силлогизмах, он все же смотрел на человека как на вычислимое и
вычисляющее устройство - рассуждающее животное. В результате
его фактический подход представлял собой лишь еще один шаг в
русле описанной выше философской традиции — традиции,
которая в конечном счете вела к разделению разумного и животного
начал в человеке и попыткам моделирования его способности к
рассуждению, исходя из нее самой.
И лишь недавно, когда наконец в полной мере стали
очевидными все следствия, которые вытекают из представления о
человеке как об "устройстве" или "объекте", в философии
началась разработка нового подхода. Пионерами в этой области
выступили М.Хайдеггер и Л.Витгенштейн77.
С тех пор аналогичные идеи каждый по-своему собирали,
развивали и применяли ряд других философов, в частности
М.Мерло-Понти и М.Поляный. В настоящее время их
исследования продолжают молодые философы, такие, как Ч.Тэйлор и
С.Тоудс. В своих попытках разработки альтернативной точки
зрения, основанной на сопоставлении трех основных допущений
традиционной мысли с феноменологическим описанием
структуры человеческого поведения, я буду опираться преимущественно
на работы упомянутых выше исследователей.
Я полностью отдаю себе отчет в том, что предлагаемая
"тяжба" с традицией носит более туманный характер и означает
нечто менее подтвержденное экспериментом, чем любой
бихевиоризм или ментализм, на вытеснение которых он направлен. Но
197

нельзя позволить до такой степени увлечься формализуемыми
аспектами предмета, чтобы забыть о тех серьезных вопросах,
которые первоначально собственно и дали толчок
соответствующим исследованиям; нельзя во что бы то ни стало стремиться к
все новым экспериментальным результатам, используя старые
методы, которые, хотя и "работают", тем не менее уже давно не
ведут к новым открытиям или идеям. Одним из немногих ученых,
работающих в области наук о человеке и осознавших эту
опасность, является Н.Хомский. Вот его слова:
"Не желая возвеличивать культ благовоспитанного дилетантизма, мы
должны тем не менее признать, что классические споры обладают
свежестью и значимостью, которых, возможно, недостает в исследовательской
области, определяемой скорее применимостью некоторых инструментов и
методов, нежели проблемами, которые представляют интерес сами по себе.
Поучительный вывод состоит не в том, чтобы отказываться от полезных
инструментов; скорее, он состоит в том, что, во-первых, мы не должны
терять перспективу, чтобы вовремя заметить неизбежное наступление того
дня, когда исследование, которое может быть проведено с помощью этих
инструментов, уже больше не является существенным; и, во-вторых, что
мы должны ценить идеи и проницательные наблюдения, которые прямо
относятся к нашей теме, хотя, возможно, и являются преждевременными,
неопределенными и неспособными дать толчок развернутым
исследованиям на конкретной ступени развития методики научных представлений"*.
Запомним этот совет и обратимся к рассмотрению трех
факторов, которые обходятся специалистами, работающими в
области моделирования процессов познания и "искусственного
интеллекта", но которые, на наш взгляд, составляют основу
всякого разумного поведения: роли тела в организации и
интеграции нашего опыта; роли ситуации как основы для такого
упорядочения поведения, которое не предполагает использования
каких-либо правил; и, наконец, роли человеческих целей и
потребностей в процессе организации ситуаций, с тем чтобы
производить распознавание объектов как релевантных и
приемлемых.
Н.Х р м с к и й. Язык и мышление, с. 33.
198

Глава 7. ТЕЛЕСНАЯ ОРГАНИЗАЦИЯ ЧЕЛОВЕКА
И РАЗУМНОЕ ПОВЕДЕНИЕ
Психологическое и эпистемологическое допущения,
утверждающие формализуемость человеческого поведения с помощью
эвристических программ для цифровой машины, с неизбежностью
привели к разработке такой теории разумного поведения, в
которой совершенно игнорируется тот факт, что у человека есть
тело, поскольку на данном этапе развития вычислительной
техники говорить о "теле цифровой машины" не приходится. Полагая,
что без тела можно обойтись, сторонники этой теории и на сей раз
следуют традиции, которая, начиная с Платона и кончая
Декартом, представляла себе тело как простое вместилище интеллекта
и мышления, а не как необходимое для них условие. Но коль
скоро выяснится, что тело совершенно необходимо для
разумного поведения человека, естественно, возникнет вопрос: можно
ли его промоделировать с помощью эвристической программы
для вычислительной машины? Если ответ на этот вопрос окажется
отрицательным, то надежды на создание искусственного
интеллекта с самого начала обречены на крушение. Именно выяснением
этого вопроса мы сейчас и займемся.
Р. Декарт — первый мыслитель, оценивший возможности
роботов, — первым же осознал и ограниченность их возможностей. В
"Рассуждении о методе" он замечает:
"Хотя бы такие машины выполняли много вещей так же хорошо или,
может быть, даже лучше, чем кто-либо из нас, они неизбежно не могли бы
выполнить ряд других... Ибо, в то время как разум является орудием
универсальным, которое может служить при всякого рода обстоятельствах,
эти органы нуждаются в некотором особом расположении для выполнения
каждого особого действия. Отсюда явствует, что морально [то есть
практически78. — Х.Д.] невозможно иметь достаточно органов в одной
машине, чтобы они заставляли ее действовать во всех обстоятельствах
жизни таким же образом, как нам позволяет действовать наш разум" .
Таким образом, не сознавая различия между ситуацией и
физическим состоянием, Р.Декарт тем не менее понимал, что мозг
может охватить сколь угодно большое количество ситуаций, тогда
* Р.Д е к а р т. Рассуждение о методе. - В кн.: Р.Д е к а р т. Избранные
произведения. М., 1950, с. 301.
199

как машина имеет лишь ограниченный набор состояний и потому
неизбежно проявит свою неспособность к соответствующим
реакциям. Декарт полагал, что такая присущая любому механизму
ограниченность делает необходимым постулат о существовании
нематериальной души.
Этот любопытный аргумент или какая-либо его модификация
в некоторой степени, быть может, и справедлива, тем не менее
убедительность этого довода основывается на предположении, что
робот может иметь лишь сравнительно небольшое число
состояний. Однако если говорить о современной вычислительной
машине, то число возможных ее состояний составляет порядок
10Ю10; в этом случае не ясно, сохраняет ли свою силу
аргументация Декарта. Ибо такая машина, по крайней мере в принципе,
могла бы реагировать в некотором смысле на неограниченно
большое число ситуаций, и если исходить из позиций Декарта, то
ее нельзя было бы отличить от человека, что, несомненно,
подрывает самое основу его рассуждения, состоящую в том, что
разумное поведение возможно только в том случае, когда
реализующий его механизм каким-то образом связан с нематериальной
душой. Но тут можно выдвинуть новый аргумент, до некоторой
степени противоположный соображению Декарта: "мозг в колбе"
— цифровая машина — не в состоянии должным образом
реагировать на все новые и новые ситуации еще и потому, что сама
способность находиться в некоторой ситуации, быть может,
зависит не столько от гибкости нашей нервной системы, сколько
от нашей способности к практической деятельности. После ряда
попыток программирования подобного устройства можно
признать, что наше отличие от машины вне зависимости от сложности
ее конструкции связано отнюдь не с обособленной,
универсальной, нематериальной душой, а со сложно организованным
материальным телом, находящимся в самодвижении.
В самом деле, именно "телесный аспект" разумного поведения
явился основным препятствием для тех, кто работает над
созданием искусственного интеллекта. Г.Саймон, который в свое
время был лишь несколько обескуражен неудачами этого
направления в последнее десятилетие, теперь считает, что «не более чем
через 20 лет машины смогут выполнять ту же работу, которая под
силу человеку»*; тем не менее он допускает, что "автоматизация
гибкой центральной нервной системы произойдет гораздо раньше,
чем автоматизация более гибкой сенсорной и "манипулятивной",
или двигательной, систем"**. Но что если работа центральной
нервной системы зависит от функций двигательной системы, или,
* Н. S i m о п. The Shape of Automation for Men and Management, N.Y.,
Harper and Row, 1965, p. 96.
** Ibid., p. 40.
200

выражаясь в феноменологических терминах, что если "высшие"
четко определенные, обособленные, логические формы
интеллекта с необходимостью выводятся из весьма сложных и более
общих "низших" его форм и даже управляются этими
последними? В этом случае оптимизм Саймона, основанный на трех
допущениях, лежащих в основе работ по "искусственному интеллекту",
а также на философской традиции, окажется неоправданным.
Неподатливость "низших" функций уже вызвала
определенную ироническую реакцию. Применение вычислительной техники
оказалось наиболее успешным при моделировании так
называемых рациональных функций — тех, которые некогда считались
уникальной особенностью человека. Вычислительные машины
блестяще справляются с абстрактными языками и логическими
отношениями. Как выяснилось, именно форма психики,
роднящая нас с животным миром, в частности распознавание образов
(наряду с использованием языка, которое и на самом деле может
считаться уникальной способностью человека), не поддается
машинному моделированию.
Рассмотрим критически две взаимосвязанные области, в
рамках которых исследования по "искусственному интеллекту" не
оправдали первоначальных ожиданий: игру (например, шахматы)
и распознавание образов. До сих пор я пытался объяснять
существующие неудачи невозможностью формализации самих
задач, а также тем, что неформальные процессы "переработки
информации", обязательно имеющие место и в том и в другом
случае, выделяются в особую область. Теперь я попытаюсь
показать, что неформализуемые процессы обработки
информации, о которых здесь идет речь, возможны только для существ,
наделенных телом.
Для того чтобы убедиться в этом, перейдем к более
подробному рассмотрению проблемы распознания образов. С помощью
понятий, заимствованных из феноменологии79, я попытаюсь
показать, что распознавание образов требует определенного рода
предвидения, носящего недетерминированный и общий характер.
Эта установка или предвидение присуще нашему телу как
"машине", состоящей из нервов и мускулов, функцию которой
может изучать анатом. Вместе с тем мы постоянно ощущаем свое
тело, наделенное способностью движения и манипулирования
объектами внешнего мира. Я намерен привести доводы в пользу
того, что и в том, и в другом случае тело человека нельзя
воспроизвести с помощью эвристической программы для
цифровой машины (даже если машина будет передвигаться и иметь
органы-манипуляторы) и что, следовательно, благодаря нашей
телесной организации мы можем решать задачи, лежащие за
пределами способностей любого эвристически
запрограммированного робота.
201

Как мы видели, ограниченная применимость программ по
распознаванию образов наводит на мысль, что процесс
распознавания происходит каким-то иным способом, нежели поиск на
основе списка признаков. В самом деле, как указывают
представители направлений феноменологии и гештальтпсихологии,
распознавание человеком обычных пространственных или временных
объектов совсем не похоже на просматривание списка четко
различимых "нейтральных" и специфических характеристик80.
Например, при распознавании мелодии ноты приобретают свое
значение, если их воспринимать как часть мелодии, а не наоборот,
поскольку мелодия распознается не путем узнавания отдельных
нот. Аналогично при восприятии объектов не существует
нейтральных в отношении объекта отличительных признаков. Один и
тот же слегка заметный налет на яблоке может показаться мне
пылью, если я считаю, что яблоко из воска, и влагой, — если я
смотрю на настоящее яблоко. Стало быть, само значение деталей и
даже данный мне их внешний вид определяются моим
восприятием предмета как целого.
Распознавание разговорной речи наиболее ярко демонстрирует
этот "ситуационно-глобальный" характер нашего опыта. Время от
времейи некоторые исследователи, в частности Ф.Розенблат,
смело предсказывали создание механического секретаря,
которому можно будет диктовать (или с которым окажется
возможным говорить); соответствующая программа будет
преобразовывать звуки в слова, и машина будет выдавать текст на печать. В
действительности же никто не знает, как приступить к созданию
столь гибкого устройства, и дальнейший прогресс в этой области
вряд ли возможен, поскольку ход исследований показал, что одно
и то же физическое сочетание звуковых волн слышится как
совершенно разные фонемы в зависимости от ожидаемого
значения.
А.Эттингер уделил этой проблеме большое внимание. Данный
им анализ проблем распознавания речи стоит привести подробно,
во-первых, потому что проблема распознавания образов
достаточно важна сама по себе и, во-вторых, потому, что на примере
этой работы мы сможем проследить переход от первоначального
успеха к последующим неудачам, сопутствующий ныне,
по-видимому, любому исследованию в области "искусственного
интеллекта":
"Процесс создания аппарата для вычленения из непрерывного речевого
потока последовательности дискретных фонем на первых порах протекал
вполне успешно. Хотя в этой области преобладал фонематический анализ,
одновременно в проблеме речевого декодирования были испробованы
многочисленные иные подходы. Однако все они разделили участь первого
подхода: первоначальный успех и последующая неспособность
значительного выхода за пределы распознавания речи очень немногих и сильно
отличающихся по тембру голосов людей, а также распознавание очень
202

ограниченного числа отчетливых звуковых образов, будь то фонемы, слова
или что-либо еще. Таким образом, необходим четко ограниченный круг
говорящих или произносимых ими звуков, или то и другое вместе.
В пределах этих ограничений можно добиться очень
интересных результатов. В настоящее время существует множество машин, одни
из которых представляют собой экспериментальные устройства, другие уже
не совсем экспериментальные. Машины эти могут распознавать где-то от 20
до 100 четких звуковых образов; некоторые из них весьма сложны.
Обычный прием, напоминающий идентификацию какого-то определенного
набора признаков, состоит в рассмотрении последних как координат в
некотором гиперпространстве и последующем проведении плоскостей,
которые разбивают это пространство на различные блоки. Если речевое
событие попадает внутрь одного из блоков, вы говорите, что оно должно
представлять собой такой-то звук, и, стало быть, вы его распознаете.
Эта игра была весьма успешной в диапазоне от 20 до 100 различных
объектов распознавания, но, если блоков оказывалось больше, они
становились столь малы и так тесно сгруппированы, что становилось
затруднительно найти надежный способ их разделения. Все шло насмарку"*.
Это приводит Эттингера к следующему замечанию чисто
феноменологического рода:
"Быть может... при восприятии, так же как при сознательном научном
анализе, фонема появляется после самого факта, а именно ...она строится
(если это вообще возможно) как следствие перцепции, не являясь сама по
себе шагом в перцептивном процессе"**.
Это, по-видимому, означает, что общий смысл фразы (или
мелодии, или любого воспринимаемого объекта) определяет
значение, которое приписывается индивидуальным элементам.
А. Эттингер с сожалением констатирует:
"Это приводит меня к заключению (которое, по-видимому, вряд ли
будет плодотворным для последующих исследований и, наверное, не
встретит понимания), что, быть может, здесь кроется нечто вроде гештальт-
восприятия: вот вы, к примеру, меня слушаете, и каким-то образом смысл
моей речи доходит до вас полностью. Но только a posteriori и только в
том случае, если вы сами себя заставите, вы остановитесь и скажете себе:
"Так, это было предложение, и слова в нем были такого-то типа, а здесь,
наверное, было существительное, а здесь — гласная буква, и эта гласная была
такой-то фонемой, а предложение было повествовательным и т.д."***.
Феноменологи, не занимающиеся разделением образов с тем,
чтобы сделать возможным процесс машинного распознавания,
меньше боятся этой трудности, однако и они поддались влиянию
гештальтистской концепции восприятия. В самом деле, последняя
подвергалась систематической разработке в их исследованиях,
касающихся уровней восприятия. Ими рассматривались две
формы сознания. Во-первых, это фундаментальный феномен
отношения "фигура — фон", являющийся необходимым условием вос-
* А.0 е 11 i n g e r. Language and Information.— American Documentation,
vol. 19, No. 3, July 1968, p. 297.
** A.0 e 11 i n g e r.The Semantic Wall. (Опубликовано в издании
Лаборатории фирмы Белл.)
***A.Oettinger. Language and Information, p. 298.
203

приятия любого вида: все, что мы замечаем в нашем опыте, все,
привлекающее наше внимание, проявляется на некотором фоне,
который остается более или менее неопределенным. Этот задний
план, или фон, от которого не требуется никакой определенности,
воздействует на то, что воспринимается, выделяя его в
определенное, единое, четко ограниченное изображение. В
знаменитом рисунке Е. Рубина "Кубок Петра и Павла" (рис.) "контур,
Г©
?
в
с
о ©
о
D,
о
D2
/\0
О
D3
/6\
отделяющий изображение от фона, "принадлежит" только
изображению и совершенно меняет свой характер, если сделать фоном
то, что ранее было изображением"*. Таким образом, данное
изображение имеет специфически отличительные характеристики,
тогда как фон может быть охарактеризован лишь путем
отрицания: это то, что не является изображением.
Эта неопределенность играет решающую роль в человеческом
восприятии. М.Мерло-Понти указывает на то, что большая часть
данного нам в опыте остается на заднем плане, чтобы служить
фоном восприятия того, что выступает на передний план как
предмет перцепции.
«Когда гештальттеория говорит нам, что фигура на некотором поле есть
простейшая доступная нам чувственная данность, мы отвечаем: это не есть
какая-то случайная характеристика фактического восприятия, которая
предоставляет — в рамках некоторого идеального анализа — свободу
введения понятия впечатления; это подлинная дефиниция феномена
восприятия... Перцептивное "нечто" всегда находится в окружении чего-то еще;
оно всегда образует часть некоторого "поля"»**.
Именно этот фон, или внешний горизонт, как назвал его
Гуссерль, основоположник феноменологии, оставаясь
неопределенным в нашем примере игры в шахматы, тем не менее
обеспечивает специфические условия или контекст для
шахматных расчетов, в результате чего играющий, делая конкретный ход,
всегда так или иначе учитывает его значейие в дальнейшей игре.
Аналогично наше чувство общего контекста организует и направ-
* U.N e i s s e r. Cognitive Psychology, p. 90.
** М.М е г I e a u-P о n t у. Phenomenology of Perception, p. 4.
204

ляет восприятие деталей в процессе осмысления предложения.
Для машины каждый бит вводимой в нее информации должен
быть выражен в явной форме, в противном случае она не
воспримет ничего, ибо у нее полностью отсутствует внешний
горизонт. Любая информация, подлежащая вводу в машину,
должна быть столь же четко определена, как и изображение.
Отсюда та громоздкость вычислений, которую мы видели в
шахматных программах и на которую сетует Эттингер, говоря о
лингвистических программах.
Итак, внешний горизонт характеризует, каким образом
игнорируется фоновая информация, скажем, о беседе или игре, не
будучи исключенной до конца. Однако он не дает представления о
той части этой информации, которая способствует концентрации
внимания играющего на некоторой части шахматной доски, или
же о том, как предвосхищение смысла всего предложения
определяет понимание входящих в него элементов. Чтобы понять это,
мы должны рассмотреть второй тип перцептивной
недетерминированности, исследованный Гуссерлем и гештальтпсихологами, — то,
что Гуссерль называет внутренним горизонтом. Будучи "чем-то
большим, чем сама фигура", фон в данном случае является не
столь неопределенным, как внешний горизонт. Воспринимая
объект, мы отдаем себе отчет в том, что у него больше аспектов,
нежели мы в состоянии рассмотреть в данный момент. Более
того, поскольку в нашем опыте имеются дополнительные
аспекты, они переживаются как наличные, подобно непосредственно
воспринимаемым аспектам, либо как скрыто содержащиеся в
последних. Следовательно, для обычных ситуаций можно
говорить о восприятии объекта в целом и даже о его скрытых
аспектах, потому что неявные аспекты непосредственно
воздействуют на нашу перцепцию. Например, мы воспринимаем дом не
только как имеющий фасад, но и как обладающий глубиной,
задней стеной и т.д. — тем, что составляет внутренний горизонт
для данного восприятия. Сначала мы реагируем на объект в
целом, а затем по мере дальнейшего ознакомления с ним
Происходит наполнение конкретными деталями того, что
находится внутри дома и на его задней стороне. Машина, не имея
эквивалента "внутреннему горизонту", должна перерабатывать
информацию в обратном порядке: от деталей к целому. Если
машине задан какой-либо аспект объекта, то она с помощью
своих рецепторов либо опишет данный объект, либо нет. Вся
дополнительная информация - о других аспектах объекта —
должна храниться в памяти машины в явном виде (модель типа
разработанной М. Минским) или же определяться по мере
необходимости. Это отсутствие горизонтов существенно отличает образ
на киноленте или телеэкране от подобной же ситуации,
переживаемой в действительности реальным человеком.
205

"Когда в фильме объект дается наплывом, мы можем помнить, что нам
показывают пепельницу или руку актера, но в действительности мы их не
отождествляем. Это происходит потому, что сцена не имеет горизонтов"*.
В шахматах и в распознавании грамматических предложений
этот феномен играет решающую роль. Наше общее чувство
ситуации в целом, или внешний горизонт, и наш прошлый опыт
общения с данным объектом либо с интересующим нас образом,
или внутренний горизонт, дают нам ощущение целого и
руководят нашим постижением деталей объекта**.
Лучше всего этот процесс осознается при его нарушении. Если
вы хотите взять стакан воды, а по ошибке берете молоко, то
первый глоток вызовет у вас замешательство: вы не почувствуете
вкуса ни воды, ни молока. Рот ваш полон того, что Э. Гуссерль
называет "чистым чувственным материалом" или "гилетическими
данными"82, и, естественно, вы захотите выплюнуть это. Однако
если вы достаточно быстро найдете правильное глобальное
значение, то сможете вовремя сориентироваться и узнать молоко. В
этом случае определяются и другие его характеристики: свежее
или кислое, жирное или снятое.
Можно лишь удивляться тому, на что мы опираемся, когда
определяем, что это молоко, а не, скажем, бензин. Нужны ли нам
какие-либо нейтральные к ситуации отличительные признаки для
того, чтобы начать процесс распознавания? Несомненное
"ясновидение" воспринимающего субъекта столь парадоксально, что
возникает искушение принять машинную модель, несмотря на все
связанные с нею трудности. Но этот процесс покажется менее
таинственным, если вспомнить, что каждое новое значение дано в
некотором нашем внешнем горизонте, который уже
организован — в данном случае речь идет о пище — на основе наших
ожиданий. Важно также отметить, что мы иногда строим
неправильные значения; в этих случаях то, что нам дается, вообще
лишено смысла и нам приходится заново испытать новую общую
гипотезу.
Вычислительную машину, работающую только с полностью
определенными, четко детерминированными данными в
соответствии со строго определенными правилами, в лучшем случае
можно запрограммировать на испытание ряда гипотез с целью
* Ibid., p. 68.
** На этом явлении основывается вся теория восприятия Э. Гуссерля.
Гуссерль утверждает, что, узнавая объект, мы придаем до некоторой
степени определенное глобальное значение—он называет это значение
"ноэмой" — тому, что до этого момента было неопределенным, но
допускающим уточнение чувственным материалом. Затем происходит процесс
придания этому открытому глобальному значению все большей определен-
ности(см.: Е. Husserl. Ideas. New York, Collier, 1931, Part III; см. также
мою работу "Феноменология восприятия Э. Гуссерля" (Husserl's
Phenomenology of Perception, Northwestern University Press)***, находящуюся в печати).
206

выбора такой, которая наиболее подходит к этим
фиксированным данным. Не приходится говорить, сколь все это далеко от
того гибкого взаимодействия недетерминированных данных и
недетерминированных прогнозов, которое, по-видимому,
характерно для распознавания образов человеком.
Как и следовало ожидать, исследователи, работающие в
области вычислительной математики, находясь под влиянием
философской традиции и успехов физики, редко обращают внимание
на эту проблему. Философы представляли человека созерцателем,
пассивно воспринимающим сведения, поступающие из
окружающего мира, а затем упорядочивающим их. Физика, для которой
мозг есть физический объект, придала этой концепции
правдоподобие. Мозг пассивно получает энергию из физического мира и
перерабатывает ее в соответствии со своим состоянием в
настоящий момент, используя полученную ранее энергию. Если принять
такую пассивную интерпретацию деятельности разума и
пренебречь различием между физическим уровнем переработки энергии
и уровнем "переработки информации", то само собой получится,
что разум подобно вычислительной машине просто получает
"кванты" четко определенных данных. В вводной статье
"Информация" в тематическом номере журнала "Scientific American",
посвященном вычислительным машинам, Дж.Маккарти наивно
смешивает мозг и разум, энергию и информацию, в результате
чего пассивность машины воспринимается как естественная
модель процессов "переработки информации" у человека.
"Человеческий мозг также воспринимает внешнюю информацию,
сопоставляет ее с информацией, каким-то образом хранящейся внутри него, и
возвращает обработанную информацию в окружающий мир"*.
У.Ниссер гораздо более тонок. Он также недооценивает
проблемы, возникающие в связи с ролью предвосхищения, но его
работы в области психологии привели его по крайней мере к
признанию необходимости "целостных операций, формирующих
те единицы, на которые затем мы и направляем свое
внимание"**. Этот факт он пытается согласовать со своей полной
приверженностью к машинной модели. В результате возникает
путаница между значением "глобальный или целостный" ("холистский")
в смысле гештальтпсихологии и тем, что это должно означать в
машинной программе. Это положение настолько показательно,
что стоит остановиться на нем подробнее.
Общая характерная черта "гештальта", или феномена
"глобальности", состоит в следующем: интерпретация части зависит от
целого, которому эта часть принадлежит. Однако это определение
слишком общо. Оно позволяет М. Минскому, например, опустить
* Дж. Маккарти. Информация.- В кн.: Информация. M., 1968, с. 7.
** U. N е i s s е г. Op. cit., p. 86.
207

проблему в целом. В своей статье в журнале "Scientific American"
он считает программу распознавания аналогии Т.Эванса
способной "принимать во внимание глобальный аспект ситуации"*.
Оказывается, это означает, что на основе расчетов, выполняемых
по некоторым локальным признакам фигур, программа разделяет
две наложенные друг на друга фигуры именно таким, а не
каким-либо другим способом. Для тех, кто знаком с функцией
"гештальтов", или глобальных конфигураций в нашем опыте,
здесь нет ничего ни удивительного, ни интересного.
Для того чтобы увидеть различие между процессами
восприятия целостностей, которые интересуют У.Ниссера, и теми
процессами, которые М. Минский называет глобальным распознаванием,
необходимо более четкое определение феномена "гештальта".
Оперируя понятием временного "гештальта", или ритма
(любимый пример гештальтистов), Ниссер дает следующее определение:
"Части (отдельные длительности) приобретают свое значение
(относительное положение) исходя из целого, даже если это целое не существует в
какой-либо момент времени. Оно существует, если можно так выразиться,
в уме испытуемого в виде намерения.., гештальта..."**.
Отличительная особенность такой интерпретации "гештальта",
при которой каждая часть приобретает свое значение только
исходя из целого, совсем не упоминается М. Минским при
рассмотрении упомянутого выше примера, поскольку, как мы
видели, в применении к цифровой машине каждое сложно
составленное целое должно быть построено путем логических
комбинаций независимо определенных элементов. В примере
Минского элементы уже имеют точное значение (или, вернее, два
возможных точных значения), и остается лишь решить, какую
интерпретацию применить к решению, основанному на других
четко определенных локальных признаках фигуры.
В то же время У. Ниссер, упомянув о "направленности ума",
которая наделяет отдельные длительности соответствующим
значением, подводит нас к сути проблемы. Вопрос в том, как на
эвристически запрограммированной цифровой машине
промоделировать неполностью детерминированное предвосхищение,
имеющее место в игре, распознавании образов и разумном поведении,
таким образом, чтобы избежать неимоверно больших вычислений,
требующихся в том случае, если внутренняя модель задана в
явном виде. Для Ниссера, в частности, проблема состоит в том,
чтобы примирить его гештальтистский анализ с машинной
моделью человеческой деятельности.
У, Ниссер полагает, что способ такого примирения ему извес-
тен. Рассматривая лингвистическое поведение — применение
* M. Минский. Искусственный разум8^. - В кн.: Информация,
с. 308.
** U.N e i s s е г. Op. cit., p. 235.
208

языка человеком — как пример феномена "гештальта", он считает
правила грамматики как раз тем целым, частью которого
являются слова. Мы читаем у него:
"Правила структурны: они указывают нам не способ использования
конкретных слов, а способ связи этих слов друг с другом и с
предложением как целым"*.
Однако это не так. Когда речь идет о ритме, целое определяет
значение отдельного элемента — не существует, например,
синкопированной доли ритма самой по себе. Тем не менее Ниссер,
переходя к лингвистическим примерам, утверждает, что слова
уже обладают определенным множеством возможных значений;
грамматика же просто-напросто предоставляет правила выбора
того или иного значения и способы их сочетания. Элементы в этом
случае полностью определены и могут быть установлены
независимо от правил. Отсюда Ниссер делает ошибочный вывод:
"Предложение есть нечто большее, чем сумма его частей,— этот тезис не
так уж нов. Уже давно гештальтпсихологи использовали его для описания
целостных аспектов зрительного восприятия"**,.
Подобное же смешение понятий Ниссер допускает и в
приведенном выше описании явления предвосхищения (антиципации),
предполагающего вслушивание в ритм. Далее он заключает:
" [Предвосхищение] существует... в сознании испытуемого в в*;де
намерения, "гештальта", плана, структуры реакции, которая
может быть выполнена без дальнейшего обдумывания"***. Этот
переход от предвосхищения, связанного с "гештальтом", к
наличному плану поведения является результатом сбивающего с толку
влияния машинной модели: если гештальт определяет значение
организуемых им элементов, то план или правило просто
организует независимо от него определяемые элементы. Более того,
поскольку элементы (или длительности) не могут быть
определены независимо от гештальта, то гештальт (ритм) есть не что
иное, как организация элементов. План же можно считать
правилом или программой независимо от элементов. Очевидно, что,
исходя из машинной модели формальной программы поведения,
которая определяется и хранится отдельно от независимо
задаваемых "квантов" данных, организуемых ею, Ниссер невольно
изменил своей собственной гештальтистской иллюстрации.
Очерченным различием пренебрегают во всех моделях познавательных
процессов, однако именно в нем заключается сущность такого
гештальтистского понятия, как "инсайт", и именно им
объясняется гибкость феномена человеческого узнавания в отличие от
распознавания образов машиной.
* Ibid, p. 244.
** Ibid., p. 245.
*** Ibid., p. 235 (курсив мой. - Х.Д.).
209

До сих пор эту взаимозависимость между целым и его частями
не удавалось отразить в программах для вычислительных машин.
Для Ниссера этой проблемы даже не существует, но,
противопоставляя цифровую модель нейронных процессов, основанную
на представлениях трансформационной лингвистики, аналоговой
модели мозга, развивавшейся ранними гештальтпсихологами, он
невольно преподносит в несколько ином свете важное различие
между механистическими и гештальтистскими моделями
психологических процессов:
" [Гештальтисты] относились к числу "нативистов"; они были
убеждены, что процессы восприятия определяются с необходимостью
действующими врожденными принципами, а не обучением. Адекватная организация
восприятия... возникает благодаря определенным процессам в мозгу,
которые протекают в соответствии с неизменными (и "холистскими")
законами физики и химии... Воспринимаемый мир всегда принимает
"наилучшую" и "структурно простейшую" форму благодаря принципу
равновесия, который преобладает над любыми возможными результатами
обучения или практики"*.
Подобная аналоговая схема функций мозга, в соответствии с
которой информация интегрируется благодаря действию
принципа равновесия, а не за счет срабатывания двупозиционных
переключателей, была необходима для объяснения
гештальтпсихологами роли глобального предвидения в структурировании
человеческого опыта. Представители этого направления были
вынуждены порвать с рационалистической традицией, ведущей от Декарта
к Канту, согласно которой разум есть то, что приводит в действие
независимо от него существующие врожденные принципы
(Декарт) или правила (Кант), служащие организации опыта, без них
не структурированного. Эта рационалистическая концепция (при
условии использования минимальных "порций" четко
определенных опытных данных) прекрасно поддается машинному
моделированию, но гештальтисты понимали, что их принципы
организации—подобно равновесным конфигурациям, образуемым
электрическими зарядами на искривленной поверхности,— не
могут быть отделены от организуемых ими элементов. Стало
быть, если бы в то время существовала цифровая модель мозга,
гештальтисты отвергли бы ее**.
У.Ниссер не видит этого, полагая, что цифровая модель
"встроенных" правил, предложенная лингвистами, является
шагом вперед по сравнению с гештальтистской аналоговой мо-
* Ibid., р. 246.
** Разумеется, явления, связанные с полями, можно, как и всякие
вообще физические явления, моделировать, решая соответствующие
дифференциальные уравнения, описывающие силы, участвующие в этих
явлениях. Однако этот факт никак не связан с точкой зрения гештальтистов, из
которой вытекает, что человеческое поведение можно моделировать лишь
косвенно, создавая модели соответствующего физического аналога
(мозга) , а не прямо, с помощью программы для цифровой машины.
210

делью. Восторги Ниссера по поводу лингвистической модели,
заставившие его забыть и последние открытия в области
нейрофизиологии, и трудности проблемы "искусственного интеллекта", и
соображения, исходя из которых гештальтисты предложили
именно аналоговую модель, порождены в первую очередь логической
ошибкой поп sequitur84:
" Гештальтпсихологи так и не смогли дать сколько-нибудь
удовлетворительного описания или анализа структур, заложенных в восприятии.
Немногочисленные попытки ad hoc определить "поля сил" в зрении или
"ионное равновесие" в мозгу закончились неудачно. В лингвистике же,
напротив, изучение "синтаксических структур" имеет длинную историю"*.
Совершенно непонятно, каким образом "длинная история
изучения синтаксических структур" может доказать, что
лингвистическая модель нейронных процессов лучше, чем гештальтист-
ская. По-видимому, это означает, что по крайней мере те правила,
поисками которых заняты лингвисты — в случае, если они будут
найдены,— окажутся такого рода, что их можно будет
моделировать на машине (ведь ее-то мы уже знаем), тогда как гешталь-
тистские принципы равновесия могут моделироваться только на
аналоговом устройстве, имитирующем работу мозга,—
устройстве, к созданию которого в настоящее время мы даже не знаем
как подступиться.
Все это так, однако невольно приходит на ум забавный эпизод
с пьяницей, который где-то в темноте потерял ключ, но ищет его
под фонарем, потому что там светлее. В самом деле, хорошо было
бы иметь программируемую модель в лингвистике — и вообще в
психологии, — но факт остается фактом, и современные
лингвисты ничуть не лучше, чем гештальтпсихологи, представляют, что
происходит в мозгу. Более того, в качестве теории
компетенции — знания языка, но не его применения — современная
лингвистика даже не пытается ответить на вопрос о том, в чем
проявляется разумное поведение. Стало быть, дело обстоит еще хуже —
уличный фонарь даже не горит. Мы уже убедились, что попытки
моделирования процесса использования языка были на редкость
безуспешными.
Сравнивая гештальтистскую и лингвистическую модели мозга,
Ниссер, сам того не желая, привлек внимание к отличительным
особенностям модели мозга, которые полностью соответствуют
тем особенностям "холистских" процессов, которые он
недооценивает. Тот тип гештальтистского феномена восприятия, который
Ниссер проиллюстрировал на примере с ритмом (ритм как то, что
придает значение отдельным длительностям и вместе с тем
образуется из них), предполагает, что, даже если мозг и
интегрирует стимулы, он делает это иначе, чем цифровая машина, которая
* U.N e i s s e r. Op.cit, p. 241.
211

применяет независимо установленные эвристические правила к
независимо заданным "квантам" информации.
Среди специалистов в области вычислительных машин только
Д.Маккей понял суть дела. Его вывод таков:
"Вполне возможно, что только специализированный "аналоговый"
механизм сможет удовлетворить всему спектру требований. Что же
касается нас, имеющих дело с жесткими схемами, то мы должны быть
очень осторожны, настаивая на утверждении, что информационные
процессы того типа, которые происходят в мозгу человека, могут быть
воплощены в схеме, допускающей реализацию. Здесь, по-видимому, будет
неизбежным применение определенного рода "мокрой" технологии"*.
Если, исходя из феноменологических и нейрофизиологических
доказательств, согласиться с тем, что нервная система есть некий
тип аналогового устройства, оперирующего с состояниями
равновесия, мы должны бдительно следить за тем, чтобы эта модель
нервной системы (понимаемая как "мозг в колбе", который
получает из окружающего мира энергию и посылает вовне
ответы-реакции) не проникла в психологию. Процесс человеческого
восприятия следует рассматривать в иных терминах, нежели
нервную систему человека. Чтобы получить альтернативное
объяснение разумного поведения, мы должны дать описание общих и
фундаментальных черт человеческой деятельности. Признавая
отсутствие работоспособной машинной модели и оставляя
нейрофизиологам вопрос о том, как интегрируются в мозгу
поступающие физические стимулы, мы должны еще раз задаться вопросом:
"Каким образом нежестко определенные целостные прогнозы
используются человеком для организации его опыта?"
Э. Гуссерль не идет далее утверждения, что "трансцендентальное
сознание" имеет wunderbare85 способность осмысления,
делающую возможным восприятие, распознавание и исследование
переживаемых им объектов. Подобно гештальтистам, Гуссерль
трактует эти значения как частично неопределенные целостности, а не
как эксплицитные программы или правила. Но даже он не
свободен от традиционной рационалистической точки зрения, и
поэтому критика, высказанная нами ранее в адрес Ниссера, в
равной мере относится и к нему. Гуссерль вслед за Декартом и
Кантом считает, что форму можно отграничить от содержания и
что глобальное предвосхищение можно отделить от сенсорного
чувствования. Так, его ноэма, или перцептивная антиципация, в
одном главном подобна правилу или программе: она существует
в уме или трансцендентальном сознании независимо от ее
применения к опыту, который она структурирует.
*D.MacKay. A Mind's Eye View of the Brain.-In: Progress in Brain
Research, 17; Cybernetics of the Nervous System, Amsterdam, Holland, Elsevier
Publishing Company, 1965, p. 16. Том, из которого взята эта цитата,посвящен
памяти Н. Винера.
212

М. Мерло-Понти пытается поправить объяснение Э.Гуссерля в
этом пункте и в то же время разработать общее описание
феномена предвосхищения, тяготеющее к точке зрения гешталь-
тистов. Он утверждает, что именно тело сообщает нам значение,
открытое Гуссерлем. В конечном счете именно наше тело
улавливает ритм. Мы располагаем телесной организацией, позволяющей
нам реагировать на звуковые структуры. Наше тело не есть
какое-то правило, локализованное в разуме,— правило, которое
можно сформулировать или использовать вне зависимости от
реальной деятельности по антиципации ритмических
длительностей.
Вообще говоря, в процессе приобретения любого навыка —
будь то умение танцевать, водить машину или говорить на
иностранном языке — мы должны на первых порах медленно,
трудно и осознанно следовать правилам. Затем наступает момент,
когда управление наконец передается телу. И по-видимому, в этот
момент мы не просто переводим соответствующие жесткие
правила в подсознание, а, скорее, подбираем определенный мускульный
гештальт, который сообщает нашему поведению новую гибкость и
плавность. То же самое имеет место и при приобретении навыка
восприятия. Возьмем один из примеров М.Мерло-Понти: чтобы
приобрести навык на ощупь определять шелк, нужно научиться
производить (или готовиться производить) пальцами
определенные действия, имея при этом определенные ожидания. До
приобретения соответствующего навыка мы испытываем в
соответствующей ситуации только неясные ощущения.
Легче всего осознать роль тела в случае вкусовых ощущений,
слухового восприятия и осязания, однако уже способность
зрительного восприятия есть навык, которому приходится учиться.
Фокусировка зрения, восприятие объектов в правильной
перспективе, выделение определенных деталей — все это включает в себя
координированные действия и ряд предвосхищений. Как замечает
Пиаже, "перцептивные "константности" являются, скорее всего,
продуктом действий в собственном смысле слова, состоящих в
реальных или пс?тенциальных перемещениях взгляда или
функционирующих органов"*.
Эти телесные навыки или умения дают нам возможность не
только распознавать объекты в каждой отдельной сенсорной
модальности; благодаря нашей способности к установлению
чувственной эквивалентности наших исследовательских навыков мы
можем зрительно воспринимать и вместе с тем осязать некоторый
объект как один и тот же. Вычислительной машине для
выполнения тех же функций должна быть задана программа по составле-
* Ж. П и а ж е. Психология интеллекта. — В кн.: Ж. П и а ж е. Избранные
психологические труды. M., 1969, с. 138.
213

нию соответствующего списка характеристик визуально
анализируемого объекта и сравнению этого списка с четко определенным
списком признаков, зафиксированных подвижными органами
тактильной рецепции, ощупывающими тот же самый объект. Это
значит, что в рамках каждой сенсорной модальности должна
существовать некоторая внутренняя модель каждого объекта и
что распознавание объектов — визуальное или тактильное — должно
осуществляться путем анализа этого объекта в терминах
отличительных признаков, общих для обеих модальностей.
Мое тело дает мне возможность миновать этот формальный
анализ. Навык в отличие от фиксированной ответной реакции или
множества реакций может быть использован бесконечным числом
способов. Когда у воспринимающего субъекта вырабатывается
навык, субъект уже
"не соединяет вместе отдельные движения и отдельные стимулы — он
приобретает способность отвечать реакцией определенного вида на ситуации
определенного общего типа. Ситуации могут широко варьировать в
зависимости от условий, и ответные движения могут быть передоверены иногда
одному исполнительному органу, иногда другому, причем как ситуации,
так и ответные реакции в разных случаях имеют сходство не столько
благодаря частичному тождеству их элементов, сколько в силу присущего
им общего смыслового значения"*.
Так, твердую поверхность я могу почувствовать руками,
ногами и даже взглядом. Мое тело, таким образом, является тем,
что М.Мерло-Понти называет "синергической системой"**, т.е.
"уже готовой системой сенсорных эквивалентов и переходов от
одной сенсорной модальности к другой"***.
"Объект, предъявленный одному из органов чувств, вызывает
согласованное действие всех остальных. Я воспринимаю окрашенную поверхность,
потому что у меня есть зрительное поле и его организация такова, что мой
взгляд фиксирует эту поверхность; я воспринимаю некий предмет, потому
что у меня есть экзистенциальное поле, и каждое явление, когда оно
появляется в этом поле, "притягивает" к себе мое тело как целое в
качестве системы перцептивных способностей****.
Для того чтобы должным образом распознать объект,
воспринимающему субъекту, как и машине, требуется обратная связь.
Но ее характер в обоих случаях принципиально различен. Самое
большее, что может сделать машина, — это выдвинуть
конкретное множество гипотез и затем установить, подтверждаются
или опровергаются они экспериментальными данными. Тело же
может постоянно модифицировать свои предвидения по более
гибкому принципу: коль скоро мы наделены телом, нам нет
необходимости проверять отдельные характеристики или кон-
* М.М е г I e a u-P о n t у. Phenomenology of Perception, p. 142,
** Ibid., p. 234.
*** Ibid., p. 235.
**** Ibid., p. 318.
214

кретный ряд характеристик, мы просто схватываем объект на
основе предвидения. Нет необходимости определять это
схватывание с помощью какого-то специфического набора
признаков — оно является следствием растущего овладения предметом,
то есть того, что М. Мерло-Понти называет максимальным
постижением сути. В чем состоит это "максимальное постижение",
зависит как от целей субъекта, так и от разнообразия ситуаций.
Поэтому оно не может быть выражено в терминах, не зависящих
от ситуаций и целей.
В заключение подчеркну: распознавание образов не
представляет особой трудности для цифровой машины, если число
признаков, определяющих образ, невелико; однако распознавание
сложных образов теми же методами невозможно. Представители
трансцендентальной феноменологии, в частности Э. Гуссерль,
указывали на то, что у человека процесс распознавания сложных
образов происходит путем выделения в какой-то степени
неопределенного целого, которое постепенно наполняется содержанием
в ходе антиципации, происходящей на основе опыта.
Экзистенциальные феноменологи, и в их числе М. Мерло-Понти,
связывали эту способность с нашим активным телом, элементы
которого, взаимодействуя, образуют органическую целостность и
которое устроено таким образом, что реагирует на окружающую
среду, непрерывно ощущая как свои цели, так и собственное
функционирование.
Поскольку, как выяснилось, распознавание образов есть
неотъемлемое телесное умение, проявляющееся во всяком разумном
поведении, то вопрос о том, возможен ли искусственный
интеллект, связан с проблемой создания "субъекта", наделенного
искусственным телом. Эта проблема представляет известный
интерес для философов только в том случае, если мы
ограничимся вопросом о том, можно ли создать подобный робот
средствами цифровой вычислительной техники. (Что касается
меня лично, то я склонен положительно отвечать на этот вопрос в
принципе с той, однако, оговоркой, что для создания
искусственного тела следует использовать компоненты, достаточно похожие
на компоненты человеческого организма.)
Проект создания такого робота, управляемого цифровой
машиной, осуществляется в настоящее время в Массачусетском
технологическом институте86. Интересно с философской точки
зрения рассмотреть его программу и заложенные в ней
допущения. Руководитель этого проекта М.Минский из скромности
ограничивает свою задачу созданием механического
манипулятора "плечо — рука — кисть", управляемого "телеглазом";
однако предполагается, что робот будет уметь пользоваться
инструментами для построения тех или иных объектов. Для
начала конструкторы поставили перед собой простую за-
215

дачу — запрограммировать упрощенную механическую
руку для сборки сооружений из кубиков. Задача эта была
выполнена, что и дало основание для далеко идущих надежд.
Однако проблема распространения результатов, полученных в
этой работе, на более широкую область остается по-прежнему
открытой. Для того чтобы просто устроенная искусственная рука
могла поднять кубик, требуется поместить этот кубик в
определенную предметную среду, туда же ввести механическую руку и
совместить их в пространстве. Это уже достаточное
достижение. Математическое описание движений руки в
предметном пространстве сталкивается с неожиданными неувязками.
Так, в предметном пространстве существуют близкие друг к
другу точки, которые далеки друг от друга с точки зрения их
достижимости; чтобы почесать спину, нам приходится не только
принимать соответствующую позу, но иногда пользоваться
каким-либо предметом. Жизнь нашего тела создает собственное
моторное пространство, в котором реально близкие друг другу
пункты могут оказаться далеко один от другого. Доступность
точек этого пространства для нашего тела носит
автоматический характер — они становятся для нас доступными
по-разному, и никакой потребности в обращении к математике для
оптимизации наших действий у нас не возникает. Для
математика-программиста же, которому необходимо запрограммировать
вычислительную машину таким образом, чтобы она управляла
движением механической руки в предметном пространстве, эти
неувязки до сих пор являются непреодолимым препятствием.
Чем гибче рука, то есть чем большим числом степеней свободы она
обладает, тем более трудоемкими и продолжительными
становятся соответствующие машинные вычисления. Согласно
неподтвержденным сообщениям, для искусственной руки, обладающей
шестью степенями свободы, разработанной М. Минским в 1965 г.,
до сих пор еще не создана программа, позволяющая ей хотя бы
просто двигаться, не говоря уже о поднимании отдельных
предметов или использовании инструментов. Здесь уместно
напомнить еще один факт: для всех навыков, которые применяются
в реальном времени (например, при игре в настольный теннис),
вычисления должны производиться тоже в реальном времени
(так что машина должна успеть рассчитать траекторию полета
шарика от одного игрока к другому в течение самого полета).
С учетом этого перспективы становятся совсем уже
малообещающими*^. Э. Фейгенбаум в своем сообщении о текущем
состоянии работ по созданию роботов замечает: "Как в Массачусетском
технологическом институте, так и в Станфордском университете
проводилась разработка программ, обеспечивающих управление
манипуляторами "плечо — рука" самых различных типов, от
простейших до самых сложных, от антропоморфических до
216

сугубо неантропоморфических. Ни один из более сложных
манипуляторов не кажется достаточно удачным, хотя публикации,
посвященные анализу соответствующих достижений и неудач,
отсутствуют"*.
Что же побуждает исследователей, несмотря на столь
серьезные затруднения, посвящать свои усилия реализации этого
проекта? Простая убежденность в том, что если мы, "машины из мяса",
как остроумно выразился М. Минский, можем играть в
настольный теннис, то почему бы машине из металла не научиться тому
же, — ведь ни принципиальных, ни практических ограничений
здесь, казалось бы, не существует. Но прежде чем производить
подобный логический переход, специалистам, работающим над
созданием роботов, следует подвергнуть анализу основную
предпосылку своих рассуждений — допущение, согласно которому
существенного различия между "машинами из мяса" и машинами
из металла, между живыми манипуляторами, наделенными телом,
и манипуляторами, управляемыми каким-либо искусственным
способом, не существует. Иначе говоря, нужно попытаться
ответить на вопросы: как человек играет в настольный теннис
или, говоря яснее, как он пользуется предметами, орудиями,
инструментами?
М. Хайдеггер, М. Мерло-Понти и М. Поляный уделили этим
вопросам достаточно много внимания. Каждый из них
рассматривал чрезвычайно важный фактор, который отличает наш опыт
использования орудий от приобретенного в опыте знания о том
или ином предмете. Слепой, проводя рукой по палке, которая
ему помогает при ходьбе, осознает ее положение и такие ее
объективные характеристики, как вес, твердость, гладкость и т.д.
Когда же он нащупывает палкой путь, он не сознает ни ее
положения в предметной среде, ни ее физических характеристик,
ни изменений в давлении палки на свою ладонь; палка в этом
случае становится как бы частью его тела, средством доступа к
предметам, которых она касается. Поляный говорит:
"Когда мы применяем орудия труда или исследования, они уже не
выступают по отношению к нам как внешние предметы... они теперь...
образуют как бы часть нас самих — людей, оперирующих ими. Мы как бы
проникаем в них и переносим на них часть своего существования. Мы
принимаем их экзистенциально — как бы "пребываем" в них"**.
Так мы можем привести исследовательский прибор в
соприкосновение с объектами внешнего мира, не отдавая себе отчета о
физическом положении прибора. М. Мерло-Понти в этой связи
замечает:
*Э. Фейгенбаум. Искусственный интеллект: темы исследований
во втором десятилетии развития. — Кибернетический сборник, новая серия,
вып. 10, М., 1973, с. 179.
**M.Polanyi. Personal Knowledge Towards a Post-Critical Philosophy,
New York, Harper and Row, 1964, p. 59.
217

"Вся операция происходит в сфере феноменального; она не переходит в
предметный мир, и лишь наблюдатель, перенося свои объективные
представления о живом теле на действующего субъекта, может считать, что ...
рука движется в объективном пространстве"*.
Тем не менее М. Мерло-Понти допускает, что с точки зрения
науки эта способность представляется "магической"; не
удивительно поэтому, что, не имея другого объяснения человеческих
действий, специалисты в области вычислительных систем
придерживаются предположения о том, что человек бессознательно с
невероятной скоростью проделывает те громадные по объему
вычисления, которые предусмотрены машинной программой,
предназначенной для выполнения аналогичной задачи. К сожалению,
из-за отсутствия альтернативного объяснения подобные взгляды
кажутся убедительными.
Для выдвижения приемлемой альтернативы нам необходимо
показать, каким образом можно выполнить те или иные
физические задачи, не прибегая к принципам физики или геометрии.
Рассмотрим простейший акт — случайный взмах руки. Я не
стараюсь, чтобы моя "объективная" рука заняла "объективное"
место в пространстве. Для того чтобы произвести данный жест,
мне не нужно обращение к геометрии, ибо я не стремлюсь достичь
конкретной цели. Теперь предположим, что, выполняя это
движение, я невольно коснулся какого-то предмета и это
удовлетворило мою потребность контакта с вещами (подробнее об этой
потребности см. гл. 9). Затем я могу повторить то же самое
движение, на сей раз специально для того, чтобы коснуться того
же предмета, и при этом я не буду использовать законы,
требующиеся для описания моего движения как движения
физического. Теперь я знаю способ приведения в соприкосновение
двух объектов в предметном пространстве без обращения к
использованию какого-либо принципа, за исключением
императива: "Сделай это еще раз!" Преимущественно так и образуются
навыки. Существенно добавить, что, хотя наука требует, чтобы
реализация навыков описывалась в соответствии с правилами,
совсем не обязательно, чтобы эти правила были включены в сам
процесс реализации.
Далее, человек способен запоминать, совершенствовать и
видоизменять эти в некоторой степени неопределенные моторные
схемы. Ж. Пиаже собрал огромный материал, проследив развитие
моторных навыков, которые он назвал операциями, и пришел к
следующему заключению гештальтистского характера88:
"Специфическая природа операций ... заключается, напротив, в том, что
они никогда не существуют в разрывном состоянии ... единичная операция
не могла бы быть операцией, поскольку сущность операций состоит в том,
чтобы образовывать системы. Именно здесь и необходимо особенно
* М.Ме г I e a u-P о n t у. Op.cit, р. 106.
218

энергично возразить против логического атомизма, схема которого
ложилась тяжким бременем на психологию мышления"*.
Такого же рода анализ позволяет рассеять и иллюзии,
возникшие благодаря успеху работ в области машинного перевода на их
ранних стадиях. Если бы для понимания языка человек был
вынужден прибегать к использованию семантических и
синтаксических правил, а также хранить и извлекать из памяти
бесконечное множество фактов, то ему было бы так же трудно
действовать, как и машинам. Носитель языка тем не менее, сам не
осознавая того, порождает множество семантических
двусмысленностей; затем он сам их устраняет, причем скорее на основе
обращения к фактам, чем путем выделения сложных образов по
их признакам или осуществления вычислений, описывающих
движение руки в предметном пространстве. Возможно, что язык
также является навыком, который приобретается в результате
поиска, направляемого некоторым врожденным механизмом, и
использование которого происходит без применения правил.
Именно так полагает Л. Витгенштейн: "Вообще говоря, мы
используем язык, не руководствуясь строгими правилами, и учат
нас языку тоже не по строгим правилам"**.
Подобную точку зрения нельзя назвать бихевиористской.
Нашу способность использовать язык в той или иной ситуации и
вообще целостный характер функционирования значений,
организующих и структурирующих компоненты актов проявления
навыков, невозможно объяснить ни ассоциациями нейтральных
четко определенных элементов, ни тем более их сочетанием в
соответствии с определенными правилами.
Если язык понимать как моторный навык, то осваивать и
"вживаться" в него мы должны по тому же принципу, как мы
осваиваем инструменты. М. Поляный говорит:
"Использование языка в речи, чтении или письме означает обогащение
нашей телесной организации и наше становление как разумных
человеческих существ. Можно сказать, что, когда мы учимся использовать
язык, прибор или орудие труда, тем самым осознавая их подобно тому,
как мы осознаем наше тело, мы интериоризируем эти вещи и заставляем
себя как бы вживаться в них"***.
И опять, поскольку человек наделен телом, выполнение им
того или иного действия совсем не обязательно должно быть
* Ж. П и а ж е^ Цит. соч., с. 93. Эти моторные схемы наверняка
базируются на мышечной и нейронной основе; однако нет никаких оснований
полагать, что эти физические корреляты состоят из последовательности
независимых друг от друга операций, которая определяется правилами.
Как глобальный характер этих моторных схем, так и их неопределенность
исключают такую возможность.
**L. Wittgenstein. The Blue and Brown Books, p. 25.
*** M. P о I a n у i. The Logic of Tacit Inference. In: Knowing and Being,
Chicago, University of Chicago Press, 1969, p. 148. M. Поляный здесь опять
219

каким-либо образом связано с правилами, необходимыми нам
для объективного анализа соответствующей его "компетенции".
Исследователи, работающие в области "искусственного
интеллекта", так же как и представители направления
трансцендентальной феноменологии, убеждены, что существует только один
подход к информации — сделать ее объектом переработки со
стороны лишенного живого тела устройства. Для феноменолога-
трансценденталиста это предположение делает организацию
нашего разумного поведения непостижимой. Что же касается
специалистов по "искусственному интеллекту",то это предположение
как будто бы подтверждает их допущение, согласно которому
разумное поведение может быть результатом пассивного
получения данных и последующего проведения вычислений,
необходимых для описания объективного владения навыком
—"компетенции". Но, как мы видели, телесность человека предоставляет ему
другую возможность. Телесная организация человека позволяет
ему выполнять следующие три функции, для которых нет
машинных программ — таковые не только еще не созданы, но даже не
существуют в проекте. Первая функция заключается в феномене
"внутреннего горизонта", то есть в способности к частично
неопределенному, не поддающемуся четкому описанию
предвосхищению частично определенных данных (сюда не относится
предвосхищение полностью определенных или полностью
неопределенных альтернатив — феномены, которые только и поддаются
цифровой реализации). Вторая функция состоит в использовании
глобального характера этого предвосхищения - антиципации,
определяющей значение учитываемых в ней деталей и в то же время
определяемого ею. Суть третьей функции — в способности
антиципации перемещаться от одной чувственной модальности к другой
и от одного действующего органа к другому. Все эти функции
включаются в общую способность человека к приобретению
телесных умений и навыков. Благодаря этой фундаментальной
способности наделенный телом субъект может существовать в
окружающем его мире, не пытаясь решить невыполнимую задачу
формализации всего и вся.
вступает в противоречие с самим собой, поскольку в более поздних
работах он предлагает следующее объяснение процесса обучения языку:
"На вопрос о том, каким образом ребенок может научиться выполнять
действия из того или иного поведенческого репертуара (в соответствии
с) необозримым набором сложных правил, которые доступны
пониманию только небольшого круга специалистов, мы можем ответить, что
целеустремленное воображение в достаточной мере обладает способностью
достижения стоящих перед ним целей, используя в качестве
вспомогательных средств подходящие правила, о которых сам субъект не имеет
четкого представления" (М. Р о I a n у i. Sence-giving and Sence Reading.—In:
Knowing and Being, p. 200.)
220

Описанные "информационные процессы", основанные на
телесной организации — процессы, при которых значение целого
обладает приоритетом по отношению к составляющим целое
элементам, — с нашей точки зрения имеют место в таком сложном
феномене, как распознавание устной речи, с которого мы начали
наш анализ. Они также являются необходимыми для объяснения
нашей способности к распознаванию типического, семейного
сходства, а также такого сходства, при котором распознаваемые
объекты вообще не имеют общих черт. Во всех этих случаях
индивидуальные черты наполняются содержанием на основе
некоторой неопределенной антиципации целого.
Если эти глобальные формы распознавания образов не
доступны цифровой машине, которая, будучи лишена тела, не может
реагировать на воздействия как некая целостность, а вынуждена
строить процесс распознавания на основе четко определенных
деталей, то тогда вполне оправдан пессимизм А. Эттингера,
заканчивающего свою статью о распознавании речи следующим
выводом: "Если мы в действительности обладаем способностью
использования глобального контекста, не прибегая к помощи
формализации... то наш оптимистический дискретный перечислительный
подход обречен на неудачу"*.
*A.Oettinger. The Semantic Wall (опубликовано в издании
Лаборатории фирмы Белл).
221

Глава 8. СИТУАЦИЯ: У ПОРЯ ДОЧНЕННОЕ ПОВЕДЕНИЕ
БЕЗ ПРАВИЛ
При рассмотрении вопросов, связанных с решением задач и
автоматическим переводом, и при попытке выяснить вопрос о
релевантности и значении тех или иных фактов (или слов) мы
столкнулись с угрозой "регресса в бесконечность" — не имеющим
конца сведением одних правил к другим. Аналогичная опасность
существует и в обучении: в самом начале процесса обучения, еще
до того момента, когда какие-либо правила могут быть сообщены
или использованы, что-то обязательно уже должно быть известно.
Мы убедились, что в каждом из этих случаев отсутствие фактов с
фиксированными значениями ведет к тому, что этот процесс
сведения можно остановить только обращением к контексту.
Теперь мы должны перейти непосредственно к рассмотрению
понятия ситуации, или контекста. Это поможет нам дать более
полное описание уникальной способности "быть своим в мире",
присущей человеку, и той исключительной роли, которую играет
этот самый мир в упорядоченном, но не предписываемом
правилами поведении и благодаря которой только и становится
возможным подобное поведение.
Для того чтобы отчетливо представить себе, о чем идет речь,
имеет смысл напомнить в двух словах точку зрения наших
оппонентов. В своем анализе эпистемологического допущения
(гл. 5) мы показали, что к настоящему времени в философской
традиции сложился взгляд, согласно которому все, что
упорядочено, может быть формально описано в терминах правил. Своего
наиболее впечатляющего и категорического выражения эта точка
зрения достигла во взглядах специалистов в области
"искусственного интеллекта", которые утверждают, что любая форма
разумного поведения может быть формализована. Минский даже
развил на основе этой догмы нелепую, но наглядно
демонстрирующую его позицию теорию человеческой свободной воли. Он
глубоко убежден, что любая упорядоченность подчиняется
правилам. Поэтому, теоретизирует он, наше поведение либо
абсолютно произвольно, либо регулярно и полностью определяется
правилами. Говоря его собственными словами, "всякий раз,
когда [в нашем поведении] наблюдается регулярность, представ-
222

ляющее его описание попадает в область детерминированных
правил"*. В противном случае наше поведение совершенно
произвольно и свободно. Вариант, при котором поведение может быть
регулярно и в то же время не определяться правилами, ему даже
не приходит в голову.
Мы попытаемся показать, что это не только возможно, но,
более того, неизбежно, поскольку полная система правил,
применение которых определено заранее для всех возможных случаев,
есть нечто абсолютно немыслимое.
Обсуждая выше решение задач, мы ограничились
рассмотрением задач формального рода, при решении которых испытуемый
должен манипулировать однозначными символами в соответствии
с некоторым набором правил; кроме того, были рассмотрены и
другие бесконтекстные задачи, например тесты на
сообразительность при отыскании аналогий. Однако если исследователи в
области моделирования процессов познания рассчитывают
построить психологическую теорию (и если создатели программ
"искусственного интеллекта" хотят, чтобы их программы были
признаны разумными), то они должны распространить
механическую переработку информации на все области деятельности
человека, включая те, в которых человек сталкивается (и
успешно справляется) с задачами, обладающими открытой структурой
и встречающимися в его повседневной жизни**.
* М.М i n s k у. Matter, Mind and Models.-In: M.M i n s к у (ed.). Semantic
Information Processing, p. 431.
** Требовать здесь подлинной творческой активности — значило бы
требовать слишком многого. М.Минский подчеркивает, что минимальным
условием успешного машинного решения задач является наличие у
вычислительной машины критерия приемлемости решения: "Прежде всего мы
вынуждены заменить наши интуитивные соображения четко
определенными требованиями технического характера... Минимум того, что можно
требовать, — это существование некоторого способа узнавания
удовлетворительного решения, когда оно нам встретится. Если мы этого делать не
умеем, то задача должна быть заменена другой, которая в этом смысле
определена лучше, и нам остается только надеяться, что решение этой
другой — подменяющей исходную — задачи окажется хоть в чем-то
полезным для решения первой" (М. М i n s k у. Some Methods of Artificial
Intelligence and Heuristic Programming.-ln: Proc. Symposium on the Mechanization
of Intelligence. London, HMSO, p. 7). Однако в процессе творческой работы,
как замечают А. Ньюэлл, Дж. Шоу и Г. Саймон, в цели субъекта входит,
как составная часть, сама постановка задачи и выделение тех особенностей
решения, которые делают его удовлетворительным (А. N е w e I I, J.Shaw
and H.Simon. The Processes of Creative Thinking. The RAND Corporation,
P-1320, September 16, 1958, p. 4). Например, у художника нет
никакого критерия, с помощью которого он мог бы определить, что является
решением стоящей перед ним художественной задачи. Он придумывает
и саму задачу, и ее решение по ходу дела. Впоследствии его работа,
возможно, послужит основанием для определения стандартных требований,
обеспечивающих успех, но тем не менее сам успех первичен по
отношению к канонам, вводимым позднее критиками. Если мы стремимся к
созданию творческой программы, то мы не имеем права перекладывать на
223

Задачи с открытой структурой в отличие от настольных игр и
тестов поднимают вопросы, связанные с трудностями трех типов:
приходится определять, какие факты могут иметь отношение к
рассматриваемой задаче, какие из них действительно имеют к ней
отношение и какие из этих последних существенны, а какие нет.
Начнем с того, что в любой данной ситуации далеко не все факты
попадают в область потенциальной релевантности. Некоторые
вообще не относятся к ситуации. Так, в контексте шахматной
игры физический вес фигур не имеет никакого отношения к делу.
О нем даже речь не заходит, не говоря уже о том, чтобы
определять, существен он при выборе конкретного хода или нет.
Вообще говоря, решить, имеют данные факты отношение к делу
или не имеют, существенны они или не существенны, не так-то
просто: это ведь не нагромождение кубиков, один из которых
можно достать, не коснувшись остальных. Что считать
существенным, зависит от того, что мы признали несущественным, и
наоборот, и разделение это не может быть произведено
независимо от какой-либо конкретной задачи или конкретной стадии
какой-либо конкретной игры. Ну а поскольку релевантность
фактов не закреплена за ними жестко, а определяется в
зависимости от намерений человека, для каждого факта найдется такая
ситуация, в которой он может иметь отношение к делу. Так,
например, вес может иметь отношение к делу в ситуации,
связанной с изготовлением шахмат (хотя в большинстве
вопросов, принимаемых в расчет при изготовлении и продаже шахмат,
он фактически не является релевантным, не говоря уже о его
существенности). Такая зависимость релевантности от ситуации
распространяется и на нерелевантность: в каждой конкретной
ситуации существует неопределенное число фактов, которые
могут иметь отношение к делу, и неопределенное число фактов,
которые к нему отношения не имеют. Однако поскольку
вычислительная машина не может "находиться в ситуации", она должна в
каждый момент времени учитывать все факты, как, возможно,
имеющие отношение к делу. В связи с этим перед
исследователями в области ИИ возникает дилемма: либо они должны решить
проблему хранения бесконечного числа фактов и доступа к этим
фактам, либо они будут вынуждены исключить из сферы
машинного анализа какие-то факты, возможно имеющие отношение к
делу.
программиста работу по постановке задачи и определению правил для
распознааания удовлетворительных решений. Однако невозможно даже
представить себе, каким образом машинная программа могла бы
творчески решить какую-то задачу или узнать, что она сделала что-нибудь
в этом роде: ведь для этого программа должна содержать четкий
критерий, определяющий, что есть задача и в какой момент ее можно считать
решенной.
224

Но даже если бы для каждой конкретной задачи удалось
свести соответствующий универсум к фактам, которые,
возможно, являются релевантными (а пока это может делать только
математик-программист, а не программа), остается еще проблема
отыскания среди этих фактов тех, которые на самом деле
релевантны, т.е. в действительности имеют отношение к делу.
Даже в такой неформальной игре, как игра на скачках (которая
гораздо более систематична, чем задачи с открытой структурой,
встречающиеся в повседневной жизни), к числу возможно
релевантных оказывается отнесенным неограниченное, неопределенно
большое число фактов. Делая ставку на лошадь, мы обычно
можем ограничиться рассмотрением фактов, касающихся
возраста лошади, того, кто ее жокей, как она показала себя на
предыдущих состязаниях и какие у нее конкуренты. Не
исключено, что, анализируя только эти указываемые в программе
скачек факты, машина сможет довольно неплохо играть,
возможно даже лучше, чем средний игрок; но ведь всегда существуют
другие факторы, которые в некоторых случаях могут оказаться
решающими; например, может случиться так, что у лошади
аллергия или что жокей только что повздорил с владельцем
лошади. Нельзя сказать, что игрок-человек более всеведущ, чем
машина; во всяком случае, если человек столкнется с такого
рода фактом, то сумеет понять, что последний имеет отношение к
делу. С точки зрения "искусственного интеллекта" такую
способность человека можно было бы промоделировать, если бы удалось
ввести в машину сведения из области ветеринарии, знание
поведения людей непосредственно после неприятного разговора с
начальством и так далее. Но здесь возникает проблема
сортировки этого огромного запаса данных. На это нам отвечают, что
вся информация будет надлежащим образом закодирована и
снабжена метками в памяти машины так что машине нужно будет
только произвести просмотр по ключу "ставка на скачках", чтобы
выбрать весь материал, который имеет отношение к данному
вопросу. Однако может случиться, что какая-то информация не
будет снабжена кодом, содержащим ссылку на это конкретное
использование. Подробно разбирая этот пример, Ч.Тэйлор
подчеркивает:
"Может оказаться, что на этого жокея сегодня не стоит ставить из-за
того, что вчера умерла его мать. Однако, вводя в запоминающее устройство
информацию о том, что человек непосредственно после смерти близких
часто оказывается не на высоте своих лучших результатов, мы вряд ли
можем рассчитывать на то, что при этом она будет снабжена ссылкой на
скачки. Эта информация может иметь отношение к бесконечному числу
контекстов.
Машина могла бы основывать свой выбор на ключевых понятиях,
таких, как "лошадь", "жокей", "жокей Смит" и так далее, выбирая все
относящиеся к ним факты. Но это также привело бы к абсурдно большому
225

перебору. Не исключено, что поиск, начавшийся с "жокея", "человека" и
"лошади", привел бы нас ко всему, что имеет отношение к кентаврам.
Единственный способ, с помощью которого машина могла бы
концентрировать внимание на релевантных фактах, состоит в том, чтобы ввести в
рассмотрение соответствующий обширный класс фактов (или какой-
нибудь другой класс, выбранный на столь же широком основании) и затем
проверить каждый его элемент с тем, чтобы убедиться, что он причинно
связан с исходом скачек, оставляя для дальнейшего рассмотрения только
релевантные факты и отбрасывая все остальные"*.
Но если для того, чтобы определить, следует или нет
учитывать какую-то особенность, возможно имеющую
отношение к делу, машине пришлось бы досконально исследовать
ее как определенный элемент информации, то она никогда
не смогла бы закончить вычисления, необходимые для
предсказания исхода даже одного-единственного заезда. А если
бы машина — для того, чтобы иметь возможность закончить
вычисления, — систематически исключала бы из рассмотрения
потенциально релевантные факты, то время от времени ее
функционирование вело к ошибке, подобно поведению человека,
располагающего той же ограниченной информацией.
Здесь не поможет даже введение случайности, поскольку для
использования процедуры случайного выбора отброшенных
возможностей — такого выбора, который допускал бы в принципе
обращение к любой из них, — машину пришлось бы снабдить либо
полным списком всех этих отброшенных потенциально
релевантных фактов, либо определенным набором программ для
исследования всех классов релевантных фактов, так чтобы ни
один факт не оказался в принципе недоступным для машины. Это
как раз то, что можно было бы сделать в полностью определенной
системе, такой, как шахматы, где с помощью конечного числа
понятий можно однозначно описать абсолютно все возможные
комбинации в этой области; но для реального мира список
потенциально релевантных фактов — или хотя бы классов таких
фактов — был бы неопределенно велик ("существенно
бесконечен", как говорит И.Бар-Хиллел). Все задачи, встречающиеся в
повседневной жизни, - так же как при лингвистическом
переводе, решении задач и распознавании образов, — снова и снова
возвращают нас к следующим двум основным вопросам: 1) как
ограничить класс потенциально релевантных фактов, сохраняя
при этом достаточную общность? 2) как выбрать из них такие,
которые действительно имеют отношение к делу?
Даже М. Минский молчаливо признает, что никто не знает, как
* Эта цитата, как и несколько следующих за ней, в которых подробно
разбирается пример со скачками, представляет собой выдержки из письма,
полученного мною от Ч.Тэйлора; наша переписка возникла в связи с
семинаром, организованным Тэйлором для обсуждения моей книги еще до
выхода ее в свет.
226

справиться с тем объемом данных, который должен быть
переработан только для того, чтобы можно было предпринять попытку
ввести все факты в запоминающее устройство.
"В процессе обдумывания задачи в каждый момент времени человек
имеет дело с большим количеством утверждений, определений, ассоциаций
и так далее, а также с некоторой сетью целей. При этом ему приходится
вводить в рассмотрение не только факты об объектах, отношениях между
объектами и т.п., но также и факты о фактах, классы фактов, отношения
между такими классами и пр. Эвристические программы, которые в случае
простых моделей, как мы увидим, служат столь изящной демонстрацией
заложенных в них принципов, для сложных моделей оказываются
неэффективными. Такие вопросы, как организация циклов и ветвлений, измерение
близости к решению и вообще слежение за ходом процесса, с возрастанием
размеров модели требуют на вычисление непропорционально больших
затрат времени"*.
Какова бы ни была способность человека, дающая ему
возможность сосредоточивать внимание на фактах, имеющих
отношение к делу — не исключая, однако, из рассмотрения и таких
фактов, которые только иногда могут играть какую-то роль,—
способность эта настолько плохо поддается описанию, что лишь
совсем недавно стала предметом пристального внимания
философов. Это свойство человека тесно связано с его умением
чувствовать себя в мире как дома, "уютно закутаться" в этот
мир, если можно так выразиться. Как-то так получается, что
человек с самого начала располагается в мире чрезвычайно
удобно, так что все, что ему нужно для того, чтобы справиться с
разного рода задачами, оказывается разложенным вокруг него, а
не упаковано и убрано в своего рода сундук, набитый всякими
предметами, и даже не рассовано по множеству ящичков с
аккуратными наклейками. Такая система отношений, благодаря
которой нужные нам объекты можно найти сразу, как только они
нам понадобятся, и есть наш дом, наш мир. Для того чтобы
подобрать для этого описания менее образное выражение, имеет
смысл вернуться к анализу примера со скачками, предпринятому
Ч.Тэйлором:
"Многое из того, что человек знает о ситуациях и их возможном
развитии, представляет собой "знание дела", то есть знание, которое не
может быть разложено до уровня набора конкретных указаний или
утверждений о фактах; оно представляет собой просто общую способность
генерировать соответствующие данной ситуации действия, а, следовательно,
в случае необходимости и "указания", на которых они основываются.
Обычно мы представляем себе эту неопределенную, не разложимую далее
форму знания как нечто неразрывно связанное с тем "знанием дела",
которое лежит в основе наших действий. Однако и в основе наших
переживаний, наших "страстей", лежит знание того же рода. Точно так же,
как я пользуюсь некоторыми общими представлениями, позволяющими
мне совершать прогулки, работать в саду, водить машину, вести дело в
* М.М i n s k у. Introduction —In: M.M i n s к у. Semantic Information
Processing, p. 27.
227

суде (если я юрист) и т.д., я пользуюсь общими представлениями,
позволяющими мне чувствовать, что значит подвергаться угрозам, слышать
хорошие новости, быть обманутым моей возлюбленной, оказаться
предметом насмешек в присутствии посторонних.
Вернемся к человеку, играющему на скачках. У него есть общее
представление о некотооых обычных для человека действиях и страстях.
Он воспринимает скачки как рискованное мероприятие, для победы в
котором жокею (и лошади) понадобится максимальное напряжение воли и
сил. Но восприятие этого включает в себя умение представить в
воображении или угадать то бесчисленное множество опасностей, из-за которых эта
воля и эти усилия могут испортить дело или рухнут* под ударами судьбы.
Сведения об этих опасностях не хранятся где-то в уме или в мозгу в виде
отдельных фактов, они не "разложены по полочкам", просто они обладают
способностью возникать из общего представления о ситуации. Конечно, у
разных людей эти общие представления различны по широте и точности.
Если играющий на скачках сам когда-нибудь ездил верхом, то его
представление об этом роде занятий гораздо четче; он может гораздо
острее чувствовать момент, когда все может поит** прахом. Но даже у
городского гангстера есть некоторое общее представление о том, что значит
бороться до последнего и какое напряжение требуется для того, чтобы
прийти первым в заезде.
Однако сторонник "искусственного интеллекта" может возразить, что
все это есть не что иное, как просто некоторый отличный от машинного
вариант того же процесса занесения и извлечения информации из
"запоминающего устройства". Даже если он признает, что для машины этот метод
недоступен, не исключено, что он все же поставит вопрос, как при этом
решается задача поиска информации. Как играющий на скачках определяет,
каковы те случайные факторы, которые имеют отношение к делу? В ответ
на это можно сказать следующее: если мы отдаем себе отчет в том, что
наше представление о мире возникает в результате нашего воздействия на
него в соответствии с присущими нам разнообразными способностями, а
также в результате нашей подверженности его влиянию, зависящей от
различной направленности наших интересов, — если мы это понимаем, то
нам должно быть ясно, что вопрос о том, как данная направленность
интересов или данное намерение определяет наш выбор релевантных
признаков из того, что нас окружает, даже не возникает. Потому что быть
некоторым образом заинтересованным в чем-то или иметь те или иные
намерения значит остро чувствовать ситуацию, в которой мы находимся;
осознавать ее в том или ином аспекте, в связи с той или иной структурой.
Так, беспокойство за собственную жизнь, когда меня окружает шайка
головорезов, есть не что иное, как ощущение угрозы, исходящее от чего-то
тяжелого, спрятанного в кармане одного из них, чувство незащищенности
моего лица от кулаков другого, который может в любой момент ударить
меня, и т.д."
Итак, человеческий мир заранее структурирован в терминах
намерений человека и направленности его интересов, причем
таким образом, что именно направленность интересов определяет,
что' считать объектом или важной особенностью объекта. Здесь
машина ничего не может сделать, потому что она в состоянии
иметь дело только с уже определенными объектами; пытаясь
построить модель такого рода поля направленности интересов,
программист может только приписать уже определенным фактам
другие определенные факты, называемые значениями, которые
ничего, кроме усложнения процесса поиска информации, не дают.
228

В своей книге "Бытие и время" М.Хайдеггер приводит
описание человеческого мира, в котором человек чувствует себя
как дома. Описание дается в виде схемы, представляющей собой
мозаику взаимосвязанных орудий или инструментов (Zuenge),
каждый из которых предполагает все остальные, всю
"мастерскую" в целом и в конце концов намерения и цели человека.
Сигнал поворота, который дает водитель автомашины, служит
примером "факта", получающего свое значение из
прагматического контекста:
"Сигнал поворота — это элемент оборудования, который "всегда под
рукой" у водителя, находящегося за рулем; да и не только у него: те,
кто не сидит в его машине (и они-то в первую очередь), тоже пользуются
им, либо уступая дорогу с нужной стороны, либо останавливаясь. Этот
сигнал находится "под рукой" в пределах мира, окруженный всем
контекстом, связанным с оборудованием средств передвижения и
регулирования дорожного движения. Это — оборудование для указания, и как
всякое оборудование образовано ссылками на него или его
предназначением"*.
У Л.Витгенштейна тоже нередко можно встретить ссылки на
человеческие формы жизни и направленность человеческих
интересов, так же как и на носящие очень общий характер "факты
естественной истории", которые мы считаем чем-то само собой
разумеющимся, когда пользуемся языком или организуем свою
повседневную деятельность. Между прочим, это факты
совершенно особого рода: они, по-видимому, ускользнули бы от внимания
программиста, вздумай тот запрограммировать весь багаж
человеческих знаний. Как сказал Л.Витгенштейн, "те стороны вещей,
которые наиболее важны для нас, мы не замечаем из-за их
обыденности и простоты. (Так, человек может не заметить какую-
нибудь вещь, потому что она постоянно находится у него перед
глазами.)"** И, что еще более существенно, эти факты таковы,
что их связь с другими фактами пронизывает все, что нам
известно; поэтому, даже если бы нам удалось найти точное
выражение для этих фактов, классифицировать их оказалось бы
очень трудно, а может быть, и невозможно. Основная глубинная
идея, направляющая весь этот анализ, заключается в следующем:
ситуация с самого начала организована в терминах человеческих
потребностей и склонностей, благодаря которым факты получают
свое значение, превращаясь в то, что они есть, поэтому вопрос о
хранении и классификации огромных списков бессмысленных,
изолированных данных никогда не возникает.
*M. Heidegger. Being and Time. New York, Harper and Row, 1962,
p. 109.
**L. Wittgenstein. Philosophical Investigations, p. 50.
229

С.Тоудс* подробно описал структуру поля жизненного опыта,
первичную по отношению к фактам и неявно определяющую их
релевантность и значение. Он подчеркивает, что в наш жизненный
опыт мир входит в виде полей, вложенных друг в друга. Части
объектов или те или иные их аспекты переживаются не как
изолированные факты, а вложенными последовательно в целый
ряд контекстов. И предлог "в" имеет множество различных
смыслов, ни один из которых не совпадает с тем простым
физическим включением части в целое, которое М. Минский и
Дж.Маккарти принимают за основное. Части объектов
переживаются как находящиеся в объектах, которые из них состоят,
объекты находятся в местах, которые они заполняют, место
расположено в своем локальном окружении, которое само
помещается в слое возможных ситуаций в человеческом мире.
Следовательно, данные — это далеко не такая простая вещь; те или
иные аспекты объектов не даны непосредственно в мире, а
характеризуют объекты в различных его местах, в их локальном
окружении, в пространстве и времени.
Нам удается сосредоточивать внимание на значимом
содержании поля нашего жизненного опыта, потому что это поле не
нейтрально по отношению к нам, а, наоборот, структурировано в
терминах наших интересов и нашей способности понимать, что в
нем содержится. Всякий объект, с которым мы сталкиваемся,
обязательно появится в этом поле и поэтому обязательно должен
быть представлен в терминах доминирующей в данный момент
направленности интересов, причем как объект, достижимый для
некоторой формы деятельности, порождаемой этим полем.
Поскольку данное поле создается в терминах нашей
заинтересованности, нам могут встретиться только такие факты, которые могут
иметь отношение к делу.
Таким образом, релевантность уже заранее встроена в наше
поведение. Возвращаясь к рассмотренному выше примеру, мы
можем сказать, что скачкам соответствует гнездо контекстов,
вложенных один в другой; в него входят деятельность, игры,
спортивные состязания, соперничество. Представить себе, что
* S. Т о d e s. The Human Body as the Material Subject of the World, 1963
(диссертация, выполненная в Гарвардском университете). См. также:
Comparative Phenomenology of Perception and Imagination. Part I: Perception.-
Journal of Existentialism, 1966. Работа Тоудса содержит также несколько
интересных догадок, касающихся некоторых неотъемлемых особенностей
тела и их роли. Он описывает отдельные свойства телесной организации
человека, например тот факт, что тело с большей легкостью может
двигаться вперед, чем назад, что оно порождает право-левую структуру поля, что
оно должно противостоять действию гравитации, стремящейся нарушить
его равновесие; он показывает, какую роль играет такого рода опыт в
нашем знании предметного мира.
230

некоторая деятельность есть скачки,— значит организовать ее в
терминах стремления к победе, выигрышу. Вернемся к описанию,
данному Ч.Тэйлором:
"Играющий на скачках заинтересован в том, чтобы верно определить
победителя. Поскольку он человек, у него есть представления о том, какие
обстоятельства обычно важны в борьбе за победу, так что его
заинтересованность означает, что и лошадь, и жокей, и все остальное
воспринимаются им под углом зрения возможности тех или иных промахов. Поэтому,
заметив в колонке некрологов сообщение о том, что вчера умерла мать
Смита (Смит — жокей, эмоциональная чувствительность которого игроку
хорошо известна), он в виде исключения не ставит на Смита вопреки тем
сведениям, которые помещены в бюллетене о скачках. Машина восприняла
бы сообщение о смерти матери Смита как некоторый факт, касающийся
Смита, наряду со всеми остальными фактами, такими, например, как
сообщение о том, что троюродный брат Смита назначен ответственным за
отлов бродячих собак в таком-то городе, и т.д.; затем машине пришлось
бы произвести проверку наиболее вероятных следствий из этого
разнообразия фактов. Это необходимо для того, чтобы решить, какие из них следует
учитывать при выборе ставки".
Таким образом, направленность наших текущих интересов, а
также накопленные знания и умения всегда заранее определяют,
что будет оставлено без внимания, что останется в качестве
потенциально релевантного во внешнем горизонте нашего
жизненного опыта и что будет немедленно учтено как существенное.
Л.Витгенштейн постоянно подчеркивает89, что анализ
ситуации, сводящий ее до уровня фактов и правил (уровня, с
которого, по мнению "традиционных" философов и специалистов
в области вычислительных систем, как раз и следует начинать),
сам по себе осмыслен только в некотором контексте и с учетом
тех или иных намерений. Таким образом, элементы этого анализа
уже отражают цели и намерения, с ориентацией на которые они
были выдвинуты. При попытке найти окончательные
бесконтекстные и бесцелевые элементы, которые нам нужны, чтобы найти
не разложимые далее кванты информации, вводимые в машину
(кванты данных, которые должны иметь отношение абсолютно
ко всем задачам, поскольку они не выбирались специально ни для
одной из них), мы фактически стараемся очистить факты нашего
жизненного опыта именно от той прагматической организации,
благодаря которой только и возможно их гибкое использование,
приводящее к решению повседневных задач.
Правда, нельзя сказать, что в машинной модели всегда в
действительности отсутствует цель; даже модель, построенная в
терминах ввода и извлечения информации из запоминающего
устройства, так или иначе обязательно отражает контекст; но
анализ контекста в терминах фактов и правил оказывается в этом
случае жестким и ограничивающим. Для того чтобы это понять,
допустим на минуту, что все свойства объектов (что бы ни
понималось под этими словами) можно выразить в точной форме в
231

виде дерева решений так, чтобы в каждой вершине отмечалось,
что выполняется для этого объекта: данный, не зависящий от
ситуации предикат или его отрицание. Такого типа структура
классификации была запрограммирована Э.Фейгенбаумом в его
модели ЕРАМ*. Эта распознающая сеть могла бы в принципе
служить точным, исчерпывающим, не зависящим от ситуации
описанием объекта или даже ситуации — в той мере, в какой
ситуацию можно считать объектом. Может, таким образом,
показаться, что эта сеть обеспечивает эффективное накопление
информации, обходя вопрос о различении "поля" и "объекта". Однако в
подобном описании такого рода информационной структуры
упущено нечто очень важное — выпала организация самой
структуры, играющая решающую роль в процессе накопления
информации.
Накопление информации и доступ к ней в этом дереве
происходят по-разному в зависимости от того порядка, в котором
производится проверка признаков. Анализируя программу ЕРАМ,
У. Винн пишет:
"В программе ЕРАМ процесс классификации... слишком зависит от
предшествующего пути и слишком плохо поддается адативной
перестройке, так как распознающая сеть может наращиваться только с самого низа и
не допускает реорганизации, начинающейся с верхнего уровня.
Использованная в сети тестовая процедура, относительно которой в дальнейшем
ходе процесса выясняется, что она не имеет существенного значения для
распознавания данного множества стимулов, не может быть ни исключена,
ни заменена новой процедурой, поскольку это затронуло бы вышележащую
часть сети. Таким образом, будучи однажды построенной, распознающая
сеть ЕРАМ с трудом поддается реорганизации, которая может
потребоваться для повышения эффективности поиска информации. Любая процедура
реорганизации тестовых проверок в этой структуре значительно затрудняет
поиск многих элементов информации, хранящихся в памяти"**.
Таким образом, все решает порядок проверки признаков. А
ведь в реальном мире все предикаты имеют одинаковый
приоритет. Только имеющееся у программиста чувство ситуации
определяет порядок построения дерева решений. Характерные различия
между "полем" и "объектами" отражаются в машинной модели
*Е. Feigenbaum. An Information Processing Theory of Verbal
Learning. The RAND Corporation, P-1817, Santa Monica, 1959. "В моделях типа
ЕРАМ подобная структура классификации, называемая "распознающей
сетью", служит первичной информационной структурой. Она
возникает как результат обучения распознаванию и воплощает в себе в каждый
момент времени все то умение распознавать, которое уже приобретено
к данному моменту. Распознающая сеть программы ЕРАМ
представляет собой структуру типа дерева, поскольку к любому данному узлу
ведет сверху только одна ветвь: от самого верхнего узла, называемого
корнем, к любому узлу дерева ведет только один путь. Объект-стимул,
предъявляемый программе для распознавания, может быть отнесен к тому
или иному классу путем последовательного прохода через узлы ветвления
к какому-то из конечных узлов сети" (W.W у n n. An Information Processing
Model of Certain Aspects of Paired-Associate Zearing; p. 5)90
** W.W у п n. Op. cit., p. 9.
232

только в преломлении, определяемом субъективными
суждениями программиста. Учитываемый программистом
прагматический контекст, очевидно, может в свою очередь быть описан с
помощью дерева решений, но теперь уже порядок проверки
признаков будет отражать некоторый более широкий контекст.
Информация, касающаяся этого более широкого контекста, на
каждом уровне представлена общей структурой дерева, а не
какой-нибудь конкретной его вершиной. На каждом уровне
порядок тестовых проверок управляется прагматической
интуицией программиста, в которой находит свое отражение
рассматриваемая ситуация; но при этом факты фиксируются в одном
определенном порядке, который выбирается в соответствии с
некоторой конкретной целью, что неизбежно приводит к
отсутствию гибкости, отмеченному Винном.
Кроме того, если бы можно было во имя гибкости избавиться
от какого бы то ни было прагматического упорядочения с тем,
чтобы получающийся в результате бесструктурный список
очищенных фактов можно было бы ввести в машину (это могут быть
факты о размерах и формах различных объектов физического
мира и даже факты о возможностях использования объектов,
представляющие собой их поддающиеся выделению функции),
тогда при каждом вычислении пришлось бы решать, вводить или
исключать из рассмотрения каждый факт, причем в явном виде, и
машина захлебнулась бы в этом бесконечном процессе.
Это не значит, что человек никогда не выделяет
изолированные данные и не пытается найти их значение, стараясь согласовать
их с уже имеющейся в памяти информацией. Именно это и
составляет основу умозаключений Шерлока Холмса и других
детективов; в незнакомой ситуации каждый человек ведет себя
подобным же образом. Но даже в этом случае должен
существовать какой-то более общий контекст, в котором мы ощущаем
себя как дома. Если бы у нас на Земле очутился марсианин, ему,
наверное, пришлось бы действовать в абсолютно незнакомой
обстановке; задача сортировки релевантного и нерелевантного,
существенного и несущественного, которая бы перед ним
возникла, оказалась бы для него столь же неразрешимой, как и для
цифровой машины,— если, конечно, он не сумеет принять в расчет
никаких человеческих устремлений.
Все мы знаем также, что значит запоминать и использовать
некоторые данные в соответствии с некоторыми правилами в
каком-то узком контексте. Например, мы делаем это, когда
играем в такие игры, как бридж, хотя даже в этом случае
хороший игрок запоминает данные в терминах намерений и
стратегий и довольно свободно обращается с эвристическими
правилами. Иногда мы также "проигрываем" в своем
воображении возможные альтернативы, для того чтобы предсказать, что
233

может произойти в реальной игре, которая нам предстоит.
Однако, когда нам приходится ориентироваться в незнакомом,
чуждом для нас мире, или когда мы следуем правилообразным
указаниям типа эвристик для повышения ставки в бридже, или
когда мы моделируем в нашем воображении те события, которые
еще не произошли, мы осознаем свое поведение — осознаем
именно потому, что большую часть времени мы ничего подобного
не делаем; утверждение, что мы все же производим
соответствующие операции, но только подсознательно, представляет собой
либо эмпирическое положение, в пользу которого не существует
никаких подтверждающих его данных, либо априорное
утверждение, базирующееся на той самой предпосылке, справедливость
которой мы здесь оспариваем.
Когда мы чувствуем себя в мире как дома, осмысленные
объекты, включенные в контексты связей, в гуще которых мы
живем, не образуют ту модель мира, которая хранится в нашей
памяти или в нашем мозгу, а являются самим этим миром. Это
может показаться вполне правдоподобным при рассмотрении
общедоступного мира обычных стремлений, регулировки
уличного движения и т.д. "А как насчет моего жизненного опыта,—
можем мы услышать вопрос,— мое личное множество фактов —
оно-то, уж конечно, находится в моем мозгу". Так кажется
только потому, что этот мир все еще смешивается в нашем
сознании с той или иной разновидностью физического
универсума. Мои личные планы и воспоминания запечатлены в
окружающих меня вещах точно так же, как и обычные, включенные в
общественные связи цели людей. Мои воспоминания хранятся в
хорошо знакомом мне внешнем облике этого стула или в том
ощущении опасности, которое связано с уличным перекрестком,
где на меня однажды напали бандиты. Мои планы и страхи уже
встроены в мое восприятие, в переживание мною одних объектов
как привлекательных, а других — как отталкивающих. На те
"данные", которые имеют отношение к социальным задачам и
целям, встроенным в объекты и участки пространства,
окружающие меня, накладываются мои личные "данные", и они имеют
такое же право считаться частью моего мира, как и первые. В
конце концов, личное чувство опасности или заинтересованности
не более субъективно, чем общие для всех людей человеческие
стремления.
Теперь нам становится понятно, почему, даже если под
нервной системой понимать физический объект (своего рода
аналоговую машину), энергетический обмен которого с внешним миром
должен в принципе допускать описание в виде функции вида
"вход — выход", предположение о том, что на уровне
переработки информации человек в процессе восприятия может быть
представлен в виде аналоговой вычислительной машины, точная
234

"входо-выходная функция которой воспроизводима на машине
дискретного действия, вызывает сомнения и часто приводит к
путанице. Вообще говоря, модель "вход — выход" не имеет здесь
никакого смысла. Нет оснований полагать, что человеческий мир
может быть разложен на независимые элементы; если бы даже это
было так, невозможно было бы определить, что собой
представляют эти элементы —"вход" или "выход" человеческого разума.
Если эта идея кажется малоприемлемой, то только потому,
что такое феноменологическое объяснение не согласуется с
нашим традиционным картезианством, согласно которому
физический мир приходит в столкновение с нашим разумом, что и
приводит к организации последним окружающего мира в
соответствии с прошлым опытом и врожденными идеями или
правилами. Но даже у Р.Декарта нет той путаницы, в которой, по всей
видимости, увязли современные психологи и исследователи,
работающие в области "искусственного интеллекта". Декарт
утверждает, что воздействующий на нас мир есть мир чисто физических
движений, в то время как мир "в нашем уме" есть мир объектов,
орудий, и т.д.; неясно только, как связаны между собой эти два
мира. А в представлениях таких теоретиков "искусственного
интеллекта", как М. Минский, картина мира очерчена гораздо
более грубо: мир орудий в ней даже не появляется. С их точки
зрения, разум воспринимает отдельные детали повседневного
мира — так сказать, мгновенные снимки столов, стульев и пр.
Затем эти фрагменты вновь подвергаются сборке — уже в
терминах некоторой модели, построенной из других, ранее
накопленных разумом фактов. Внешний мир, представляющий собой
массу изолированных фактов, интерпретируется в терминах
других изолированных фактов, хранящихся внутри нас и уже
организованных с помощью безупречно составленного каталога
(такой внутренний массив фактов строится каким-то образом на
основе предшествующего опыта общения с этим фрагментарным
миром). В результате внутренняя модель обрастает
дополнительными деталями. В этом описании нет места для хорошо
знакомого нам мира орудий, организованного в терминах наших
намерений.
М. Минский пытается развить этот машинный вариант
картезианства до уровня философской системы. Он начинает с того, что
дает вполне правдоподобное описание того процесса, который на
самом деле отражает роль воображения:
"Если некоторое существо может ответить на тот или иной вопрос,
касающийся гипотетического эксперимента, не проводя этого эксперимента
в действительности, то оно тем самым доказывает, что обладает некоторым
знанием о мире. Ибо его ( sic! - X. Д.) ответ на данный вопрос обязательно
должен иметь вид закодированного описания поведения (внутри этого
существа) некоторой субмашины, или "модели", соответствующей за-
235

кодированному описанию той ситуации в мире, о которой идет речь в
заданном вопросе"*.
Затем М. Минский без каких бы то ни было объяснений или
оправданий распространяет это правдоподобное описание
функции воображения на любого рода восприятие и познание:
"На вопросы о тех или иных объектах рассматриваемого мира можно
ответить некоторым утверждением о поведении соответствующих структур
в той модели мира, которая существует у того, к кому обращен вопрос"**.
Таким образом, М. Минский оказывается вынужденным
ввести формализованную копию внешнего мира — как будто,
помимо объектов, побуждающих нас действовать, нам еще нужна
энциклопедия, в которой мы можем посмотреть, где мы
находимся и что мы делаем.
"Структура человеческой модели мира совершенно отчетливо
распадается на две части: одна из них имеет отношение к вопросам механического,
геометрического и физического характера, в то время как другая
ассоциируется с такими ьещами, как цели, значение, социальные проблемы и т.п."
Если для всякого знания требуется модель, то, разумеется,
человеку нужна и модель самого себя.
"Когда человеку задают вопрос общего характера, касающийся его
самого, он пытается дать общее описание имеющейся у него модели своей
натуры"**** .
И конечно, если мы хотим, чтобы это самоописание было
полным, нужно включить в него описание нашей модели,
отображающей модель самого себя, и т.д. М.Минский считает, что этот
бесконечный процесс построения моделей самого себя является
источником философской неразберихи, царящей в вопросах,
связанных с понятиями разума, тела, свободной воли и т.д. Он не
осознает, что "регресс в бесконечность" возникает потому, что он
настаивает на введении моделей, и что это осложнение доказывает
философскую непоследовательность его предпосылки, согласно
которой мы никогда ничего не знаем прямо, а только
посредством моделей.
И вообще, чем больше задумываешься над этой картиной, тем
труднее становится ее понять. Кажется, существует два мира:
один имеет внешнюю структуру данных, а другой — внутреннюю,
причем ни один из них мы не ощущаем в нашем опыте и ни один
из них не есть ни физический универсум, ни тот мир орудий, в
котором мы действуем в нашем опыте. Для физического
универсума или для нашего мира взаимосвязанных объектов,
по-видимому, места не остается; все занято некоторой библиотекой,
*M.Minsky. Matter, Mind and Models.-In: M.M i n s k у (ed.).
Semantic Information Processing, p. 425—426.
** Ibid., p. 426.
*** Ibid., p. 427.
**** Ibid., p. 428.
236

содержащей описания универсума и чеповеческого мира,
который, согласно этой теории, не может, однако, существовать.
Отказ от этой теории в связи с ее непоследовательностью
отнюдь не равносилен отрицанию того, что наш физический
организм постоянно бомбардируется физической энергией,
результатом чего и является наше восприятие мира через опыт.
Отказ этот просто сводится к тому, что физическое
преобразование физической энергии представляет собой не психический
процесс и происходит не в терминах сортировки и запоминания
подогнанных под человека фактов о столах и стульях.
Естественно думать, что человеческий мир является результатом этого
энергетического процесса и для того, чтобы быть воспринятым и
понятым, человеческий мир не нуждается еще в одном механи
ческом повторении того же самого процесса.
Смысл этого рассуждения настолько очевиден и в то же время
настолько труднодоступен для человека, воспитанного в
картезианском духе, что, может быть, нелишне еще раз повторить его
основные моменты, на этот раз вернувшись к конкретному
примеру рассматриваемого нами смешения понятий. Как мы уже
видели, Ниссер начинает свою книгу "Психология познавательных
процессов" с изложения того, что он называет "центральной
проблемой познавательных способностей":
"Безусловно, существует реальный мир, мир деревьев, людей,
автомобилей и даже книг... Но v нас нет непосредственного доступа ни к этому
миру, ни к какому-либо его свойству"*.
Как мы уже отмечали в гл. 4, уже на этом этапе суть вопроса
безнадежно искажается. Действительно, существует мир, к
которому мы не имеем прямого доступа. Мы не воспринимаем
непосредственно мир атомов и электромагнитных колебаний
(даже если вообще имеет смысл говори ь об их восприятии), но
мир машин и книг — это как раз и есть тот мир, с которым мы
как раз и имеем дело в непосредственном опыте. В гл. 4 мы
видели, что в этом месте Ниссер обращается за поддержкой к
необоснованной теории, согласно которой мы воспринимаем
"моментальные снимки", или данные органов чувств. Его
последующие объяснения только усугубляют возникающую путаницу:
"Физически данная страница представляет собой совокупность
крохотных выпуклостей типографской краски, расположенных определенным
образом на имеющей большей коэффициент отражения поверхности
бумаги"**.
Однако, уж если рассматривать это с физической точки
зрения, то мы имеем перед собой движущиеся атомы, а не бумагу
и выпуклости типографской краски. Бумага и выпуклости суть
* U.N e i s s e r. Cognitive Psychology, p. 3.
** Ibid.
237

элементы человеческого мира. Однако У.Ниссер делает попытку
взглянуть на них с некоторой особой точки зрения, как если бы
он был дикарем, марсианином или вычислительной машиной,
которые не знают, для чего эти элементы существуют. Однако нет
оснований полагать, что столь странным образом выделенные
объекты и есть то, что человек воспринимает непосредственно
(хотя, быть может, некоторое приближение к этому
мироощущению можно найти в чрезвычайно отвлеченном состоянии ума,
которое находит на специалистов по психологии
познавательных процессов, когда они берутся писать книгу). В обычном
психическом состоянии мы воспринимаем только печатную
страницу.
Вводимый У.Ниссером промежуточный мир, который не
совпадает ни с миром физики, ни с человеческим миром,
оказывается искусственным построением. Ни один человек никогда не
видел этого жутковатого мира, и ни один физик не найдет для
него места в своей научной системе. Однако, как только
постулируется его существование, мы неизбежно приходим к тому, что
нам нужно каким-то образом воссоздать человеческий мир из
этих обрывков.
"На человека обрушивается шквал ежесекундно меняющихся
раздражителей, которые мало чем напоминают как реальный объект, послуживший
причиной их возникновения, так и объект опыта, который на их основе
будет построен воспринимающим субъектом"*.
Но ведь весь этот процесс построения никому н? нужен. Он
описывается в таких понятиях, которые имеют смысл, только
если мы мыслим себе человека как вычислительную машину,
воспринимающую изолированные факты мира, в котором у нее
нет никаких стремлений, и запрограммированную так, чтобы
использовать эти факты - плюс множество других
бессмысленных данных (накопленных ею самой или заложенных в нее) — для
того чтобы как-то осмыслить (что бы ни понималось под этим
словом) все происходящее вокруг нее.
Нет никаких оснований полагать, что у нормального человека
возникают такие проблемы, хотя для некоторых лиц, больных
афазией, это действительно так. Нормальный человек
воспринимает в опыте объекты мира как уже связанные между собой и
наполненные смыслом. Ничто не подтверждает истинность
предпосылки, согласно которой мы сначала воспринимаем
изолированные факты — или моментальные снимки фактов, или
последовательности во времени моментальных снимков изолированных
фактов — и только потом приписываем им значения. Такие
современные философы, как М.Хайдеггер и Л.Витгенштейн,
подчеркивают именно чрезмерную аналитичность этого процесса. Если бы
* Ibid.
238

мы попытались изложить приводимые ими доводы на языке
понятий, используемых У.Ниссером (насколько это можно
сделать, не исказив смысла), то нам пришлось бы выразить их
следующими словами: "Человеческий мир есть модель
физического мира, созданная человеческим разумом". Но тогда уже нет
смысла изобретать некий третий мир и вводить его "в мозг
человека", мир расположенный где-то между физическим и
человеческим мирами и представляющий собой какой-то
надуманный, обедненный вариант той реальности, в которой мы живем и
которую теперь приходится воссоздавать на основе ее
искусственного варианта.
Из всех специалистов в области вычислительных систем
только АоЭттингер обратил внимание на то, что в мире
восприятия и языка, с которого начинают свой анализ лингвисты и
исследователи, работающие в области "искусственного
интеллекта", всегда уже присутствует глобальный смысл.
"То, что я хочу предложить, нельзя считать чем-то совершенно новым;
тем не менее это предположение, кажется, действительно было предано
забвению, и, быть может, по заслугам, поскольку, как я уже подчеркивал,
в нем ничего не говорится о том, что же делать дальше. Я хочу сказать, что
у меня складывается почти твердое убеждение, что восприятие смысла
первично, а все остальное есть следствие смыслового понимания"*.*
Но тем не менее А.Эттингер, по-видимому, не отдает себе
отчета в том, что если, оставаясь во власти того же заблуждения
(трактуемого, правда, несколько иначе), ограничиться лишь
поисками какого-то нового процесса, в результате которого
"возникает" этот глобальный смысл, то мы неизбежно придем к
выводу, что это явление загадочно и, по-видимому, непостижимо
для нас; либо же мы просто окажемся в тупике.
"Если мы взглянем на это с другой стороны и скажем: "Ну ладно,
рассмотрим вот этот поток звуков, направленный на вас, или его
эквивалент в виде печатной страницы; что происходит, когда вы слушаете меня
или читаете печатную страницу; что дает вам возможность реагировать на
смысл того, что я говорю7"— то в этом месте мы, по всей видимости,
окажемся в тупике"**.
А.Эттингер тоже не доходит до понимания того, что мы имеем
дело либо с потоком звуков, либо с осмысленной речью. Смысл
не возникает из бессмысленных элементов, будь то значки на
бумаге или звуки. Поток звуков представляет собой объект
изучения для физиков и нейрофизиологов, в то время как на
уровне осмысленной речи необходимые энергетические процессы
уже произошли и результатом их является осмысленное слово,
для которого не требуется никакой новой теории
возникновения — всякая такая теория всегда будет противоречива.
*A.Oettinger. Language and Information, p. 296.
** Ibid.
239

Для того чтобы избежать надуманных проблем и
неразрешимых загадок, мы должны оставить физический мир на усмотрение
физиков и нейрофизиологов и вернуться к описанию нашего
человеческого мира, который мы непосредственно воспринимаем.
Задача, стоящая перед современными философами, заключается в
том, чтобы описать тот контекст или ту ситуацию, в которой
живет человек, не привнося в это описание предрассудки,
заимствованные из истории философии или связанные с
сегодняшним увлечением машинными моделями. Тем самым мы снова
возвращаемся к проблеме регулярности и правил.
Наша направляемая контекстом деятельность, в терминах
которой мы постоянно заново оцениваем релевантность и
значение конкретных объектов и фактов, вполне регулярна, но эта
регулярность не должна и не может полностью подчиняться
правилам- Как и в случае феномена допустимости
неоднозначности, наша деятельность подчиняется правилам лишь настолько,
насколько это необходимо для решения той задачи, которая
рассматривается в данный момент; при этом сама задача,
конечно, не более точна, чем эти правила.
Л.Витгенштейн, так же как и М.Хайдеггер, считает
регулирование дорожного движения примером парадигматического
поведения:
"Регулирование дорожного движения разрешает или запрещает те или
иные действия со стороны водителей и пешеходов; однако при этом даже
не делается попытки направлять с помощью предписаний всю совокупность
их движений. И было бы бессмысленно говорить об "идеальном"
упорядочении дорожного движения, которое ставипо бы перед собой подобные
цели; прежде всего, мы не имеем ни малейшего представления о том, что
может служить таким идеалом. Если кому-нибудь захочется сделать тот
или иной пункт правил дорожного движения строже, то это отнюдь не
означает, что он хочет приблизиться к этому идеалу"*.
Такого рода контекстуальная регулярность, никогда не
подчиняющаяся правилам полностью, но всегда упорядоченная в
той мере, в какой это необходимо, настолько вездесуща, что ее
легко упустить из виду. Однако, раз уж мы отчетливо показали,
что в решении задач, использовании языка и других видах
разумного поведения она выполняет роль общего фона, го
больше, по-видимому, нет необходимости полагать, что всякое
упорядоченное поведение подчиняется правилам. Модель,
использующая правила, кажется единственно возможной только тогда,
когда происходит отвлечение от человеческой ситуации,— то
отвлечение, к которому стремились философы в течение двух
тысячелетий и без которого не могут обойтись специалисты в
области вычислительных систем в связи с бесконтекстным
характером обработки информации на цифровых машинах.
* L.W ittgenstein. Zettei. Berkeley, University of California Press,
1967, p. 78.
240

Глава 9. СИТУАЦИЯ - ЕЕ ЗАВИСИМОСТЬ ОТ ПОТРЕБНОСТЕЙ
ЧЕЛОВЕКА
Мы чувствуем себя в окружающем мире как дома и можем не
заблудиться в нем только потому, что это наш мир, — мир,
созданный нами как контекст нашей прагматической
деятельности. В предыдущих главах мы были заняты описанием этого
мира — или ситуации — и тех его особенностей, благодаря
которым мы можем концентрировать внимание на значимых для нас
объектах, содержащихся в нем. Мы также выдвинули гипотезу,
что это поле нашего жизненного опыта структурировано на основе
стоящих перед нами задач. От этих последних можно перейти к
целям, которым в свою очередь соответствуют социальные и
индивидуальные потребности того лица, активность которого и
породила данный мир.
Какой вывод из всего этого можно сделать относительно
возможностей создания искусственного интеллекта? В том случае,
когда данные, которые должны быть введены в запоминающее
устройство или извлечены из него, имеют стандартную
организацию в терминах определенных целей, можно считать, что задача
формирования больших баз данных, стоящая перед
исследователями в области "искусственного интеллекта", разрешима с
помощью построения списка конкретных целей, для которых
установлены приоритеты (то есть задана такая функция, которую
специалисты по вычислительным системам и программированию,
занимающиеся разработкой программ принятия решений,
называют функцией полезности91), и введения всего этого — вместе с
множеством фактов — в вычислительную машину.
Однако, как мы видели, даже в случае разработки программ
для решения простых задач точные формулировки конкретных
целей ни к чему не приводят. Трудности, возникающие при
применении обычного метода анализа в терминах "средств и
целей", наводят на следующую мысль: даже для того, чтобы
машина могла решить задачу с хорошей структурой, недостаточно
ввести в нее некоторую конкретную цель и дать ей возможность
определять степень своего приближения к установленному
конечному результату. Для планирования процесса нужно найти
существенные операции; поэтому "прагматические соображения",
241

необходимые, например, для выяснения относительной важности
тех или иных логических операций, вынуждены "исподтишка"
продумывать сами математики-программисты — еще до того, как
разработана соответствующая логика программы. Теперь нам
предстоит заняться более подробно вопросом о том, в чем отличие
прагматической структуризации от метода анализа в терминах
"средств и целей", не упуская, конечно, из виду наш основной
вопрос, а именно: может ли эта способность человека к
целенаправленной организации ситуации быть запрограммирована для
"введения" в цифровую машину?
Различие между целью человека и машинной целью или
результатом было подмечено одним исследователем,
занимающимся непосредственно распознаванием образов. Речь идет о
С.Ватанабе, который следующим образом описывает упомянутое
различие:
"У человека оценка происходит в соответствии с неспецифической и
эмоциональной системой ценностей, в то время как для робота возможна
только такая оценка, которая производится с помощью некоторого реестра
или какого-нибудь специфического критерия... Это тонкое, но весьма
глубокое различие. [Можно было бы сказать], что для человека
существуют ценности, а для машины — признаки желаемого результата.
Конечно, у человека тоже существуют конкретные цели, но они в этом случае
выводятся из системы ценностей и не служат последней инстанцией при
выборе действий, как это происходит в случае робота... Как только
установлена конкретная цель, машина, точно так же, как человек, может
предпринимать усилия для ее достижения. Аналогично утилитарное
поведение человека легко поддается моделированию на машине — достаточно
заложить в нее соответствующую фиксированную, количественно
выраженную полезность и фиксированную вероятность каждого альтернативного
события. Но машина никогда не сможет получить доступ к той
первопричине, из которой проистекает полезность"*.
С.Ватанабе утверждает, что ценности, о которых он говорит,
являются неотъемлемой частью разумного поведения. Это
справедливо хотя бы потому, подчеркивает Ватанабе, что "существует
неопределенно большое множество допустимых гипотез, которые
подтверждаются нашим опытом. Мы ограничиваемся
рассмотрением меньшего подмножества, обычно используя для его
выделения критерий, который мы представляем себе весьма смутно,
например принцип простоты или принцип элегантности"**. На
более специальном языке утверждение Ватанабе означает, что для
любой пары объектов существует одно и то же число общих для
них предикатов92. Если нам кажется, что это не так, то просто
потому, что мы считаем одни предикаты более важными, чем
* S.W a t a n a b е. La Simulation mutuelle de I'homme et la Machine. Сотр.
Rendu du Symposium sur la Technologie et I'humanite, Laussanne, 1965, p. 6
(перевод мой. — Х.Д.).
** S.W a t a n a b e. Comments on Key Issues.-In: Dimensions of Mind,
S.H о о k (ed.). New York, Collier, 1961, p. 135.
242

другие. Решение же о том, что именно является важным, зависит
от нашей системы ценностей*.
Но почему от нашей системы ценностей, а не от списка
конкретных целей? В чем отличие того, что Ватанабе называет
системой ценностей, от функции полезности? Из всего, что было
сказано до сих пор, следует, казалось бы, только одно отличие, а
именно, что ценности есть нечто более смутное, расплывчатое. Но
во всем проведенном С. Ватанабе анализе нет ни одного довода, из
которого следовало бы, что эти ценности нельзя считать просто
смутными конкретными целями, соответствующими некоторому
интервалу на количественной шкале. Для того чтобы понять это
важное различие — различие, замеченное, но не объясненное
Ватанабе,— необходимо прежде всего отказаться от предложенной им
постановки вопроса. Коль скоро зашел разговор о ценностях,
считай — все пропало. Ведь ценности — это продукт той же
философской традиции, которая заложила концептуальный базис для
"искусственного интеллекта". Хотя вопрос о ценностях для
философии не является новым, тем не менее он соответствует
заключительной стадии процесса "объективизации"— стадии, на
которой прагматические соображения, пронизывающие весь наш
опыт и определяющие, что считать объектом, становятся в нашем
представлении просто дополнительными характеристиками
существующих независимо от нее объектов, такими же, как, например,
твердость или цвет. Ценность — это еще одно свойство, которое
может быть приписано объекту или, наоборот, устранено. Приняв
однажды эту терминологию и ту философскую традицию,
которую она олицетворяет, С. Ватанабе оказывается не в состоянии
объяснить, чем отличаются ценности от более или менее
расплывчатых свойств, и поэтому не может объяснить, почему он считает,
что ценности нельзя запрограммировать. Для того чтобы
проникнуть в сущность того фундаментального вопроса, в котором
пытается разобраться Ватанабе, мы должны провести различие
между объектами как таковыми и тем полем или той ситуацией,
благодаря которой оказывается возможным включение объектов
в наш жизненный опыт. Ибо то, что Ватанабе не очень удачно
называет ценностями, принадлежит структуре поля жизненного
опыта, а не объектам в этом поле.
Мы показали, что сам по себе жизненный опыт организован в
терминах стоящих перед нами задач. Подобно позиции в
шахматной игре, мир представляет собой поле, в котором есть
привлекательные и опасные области, есть линии давления, есть зоны
активности и зоны затишья. В своем собственном перцептивном
*SWatanabe. Une explication mathematique du classement d'objets. —
In: SDockx and P.B e r n а у s (eds.) Information and Prediction in Science,
New York and London, Academic Press, 1965, p. 39.
243

мире все мы играем на уровне мастера. Объекты уже расставлены
по своим местам и узнаются как обычно — в терминах
характеристик поля, в котором они находятся в тот момент, когда мы
концентрируем на них внимание и начинаем интересоваться ими
подробнее. Наши интересы не являются объектами нашего
жизненного опыта, поэтому-то они и оказываются в состоянии
исполнять отведенную им фундаментальную роль —
организовывать наш опыт в значимые зоны и структуры.
Описание того, как направленность человека упорядочивает
его жизненный опыт, выделяя в нем соответствующие участки и
зоны, мы встречаем в работах М.Хайдеггера73.
"У каждого предмета, служащего нам орудием, есть свой участок, свое
место, где он лежит "под рукой"; не следует смешивать это понятие с
принципиально отличающейся от него особенностью предмета просто
оказываться случайно в том или ином месте пространства... Это такое место,
которое образовано направлением и удаленностью (близость можно
рассматривать как модификацию удаленности) и уже ориентировано
относительно некоторой ^ины в ее пределах... Таким образом, все, что постоянно
находится "под рукой" и что заранее учитывается всезамечающим "быти-
ем-в-мире", имеет свое место. Направленность интересов заключается
именно в том, что задается вопрос "где"— где то место, в котором данный
предмет окажется "под рукой""*.
М.Хайдеггер был также первым, кто привлек внимание к
вопросу о том, насколько философия с самого зарождения
считала своей основной задачей перевод той направленности
интересов, в терминах которой мы живем, на язык объектов,
которые мы можем созерцать и которыми можем управлять.
Сократ посвятил себя попыткам найти четкую форму выражения
для долженствований, как своих собственных, так и других
людей, с тем чтобы стали возможны их сравнение, оценка и
оправдание. Но фундаментальнейшей и удивительнейшей
особенностью нашей жизни является то, что, как только мы переводим
наши самые сокровенные интересы в разряд объектов, они
полностью теряют власть над нами. Они больше не организуют
поле значимых возможностей, в терминах которого мы
совершаем действия, а превращаются просто в еще одну возможность,
которую мы можем принять или отбросить. Именно этот путь в
конце концов привел философов к нигилизму Ф.Ницше и
Ж.-П.Сартра,— нигилизму, в котором направленность интересов
личности мыслится как таблица ценностей, которые выбираются
произвольно и столь же произвольно могут быть отброшены или
заменены другими. Согласно Ницше, великий человек по
необходимости скептик. Свобода от всякого рода убеждений составляет
часть силы его воли**.
* М.Н е i d e g g е г. Being and Time, p. 136-137.
** F. N i e t s с h e. The Will to Power, I/V.Kaufman (ed.). New York,
Vintage, p. 505. Для П.Сартра все конкретные ценности представляют
244

Но чего же еще не хватает в этой картине, кроме ощущения
долженствований, давящих на человека? В чем различие при
обосновании выбора старающегося поступать разумно
человека между функцией полезности и направленностью
первичных интересов? Одно из различий, которое С. Ватанабе заметил, но
не сумел объяснить, заключается в том, что таблица ценностей
обязательно должна быть четко специфицирована, в то время как
человеческие устремления специфицированы лишь настолько,
насколько этого требует ситуация. Эта гибкость тесно связана со
способностью человека распознавать родовое в терминах
намерений и раздвигать рамки использования языка, подчиняя его
некоторой регулярности, но никак не жестким правилам. Более
того, конечные устремления человека направлены не на то, чтобы
просто достичь некоторой цели, которая является завершающей в
некоторой последовательности целей; наоборот, устремление к
целям существует постоянно, структурируя весь наш жизненный
опыт и направляя нашу деятельность по мере того, как мы
непрерывно выбираем то, что релевантно с точки зрения его
значимости для рассматриваемой ситуации*. Машинный же реестр
конкретных целей связан с возможными для машины альтернативами
только произвольным образом заданными переходами; чтобы
определять степень своего приближения к цели и управлять
выбором следующего шага, машине приходится в какие-то заранее
определенные моменты времени явно обращаться к этой таблице.
Г.Саймон и У.Рейтман отдают себе отчет в том, что в
разумном поведении некоторую роль играют эмоции и мотивация,
но попытки моделирования этой роли сводились к тому, что в их
программах "эмоции" могли прерывать работу над одной задачей,
с тем чтобы были учтены дополнительные факторы или
осуществлен переход к выполнению какой-то иной задачи**.
Очевидно, Саймон и Рейтман не осознают, что эмоции и
заинтересованность сопровождают наши познавательные процессы и управляют
ими. Это еще один пример того, как исследователь оказывается
не в состоянии подметить те особенности, которые он не умеет
программировать.
М.Хайдеггер пытается объяснить значение разносторонней
устремленности человека для организации его жизненного опыта,
собой результат совершенно случайного выбора, хотя потребность в этих
ценностях основывается на условиях, в которых находится человек,—
условиях, понимаемых как недостаток чего-то. (См.: J.-P. С а г t r e. Being and
Nothingness; an essay on phenomenological ontology (London, 1957), Part II,
ch. 1: "The For-ltself and Being of Value".)
* См. анализ понятия "бытие-до-самой-смерти", проводимый М.Хайдег-
гером в его книге Being and Time, §48.
** H.S i m о п. Motivation and Emotional Controls of
Cognition.—Psychological Review, vol. 74, 1967, No 1,p. 29-39. См. также: У.Р. Рейтман.
Познание и мышление. Моделирование на уровне информационных процессов93,
М., 1968.
245

исходя из основополагающей потребности человека понять самого
себя. Однако этот анализ остается чистой абстракцией. С его
помощью можно объяснить значение в общем смысле этого слова,
но не какую-нибудь определенную цель или определенное
значение. Тем самым Хайдеггер фактически рассматривает любую
деятельность человека как творческое решение задач или
художественное творчество, которые характеризуются тем, что мы
сами полностью не осознаем наши цели до тех пор, пока не
достигнем их. По Хайдеггеру, никакого списка характеристик,
которым должно удовлетворять решение, существовать не может.
И все-таки наши потребности определены достаточно четко для
того, чтобы те или иные вещи имели для нас свое определенное
значение, а многие из наших целей допускают вполне точное
выражение. Для того чтобы понять, как это происходит, нам
понадобится более конкретный феноменологический анализ
потребностей человека.
Философская и психологическая традиции (за исключением
направления прагматизма) стремились исключить из
рассмотрения роль потребностей в разумном поведении9^, и эта тенденция
усилилась с появлением машинных моделей. Вот что пишет,
например, профессор экспериментальной психологии Сассекского
университета Н. Сазерленд:
"Выживание и самосохранение достигаются с помощью целого ряда
генетически встроенных в мозг человека влечений или целей. Среди самых
очевидных можно упомянуть голод, сексуальное влечение и стремление
избегать болевых ощущений. Роль этих влечений весьма ограничена в том
смысле, что вполне возможно представить себе сложную систему для
переработки информации, полностью их лишенную и тем не менее
демонстрирующую разумное поведение"*.
Однако, как мы видели, именно конкретные потребности
нашей телесной организации прямо или косвенно формируют в
нас то ощущение непосредственно стоящей перед нами задачи, в
терминах которого структура нашего жизненного опыта
позволяет определять, что для нее существенно и что нет. Эти
потребности имеют очень специфическую структуру, которая, хотя и
более специфична, чем полагал Хайдеггер, действительно
напоминает художественное творчество. Когда мы ощущаем какую-
нибудь потребность, мы поначалу даже не знаем, что именно нам
нужно. Нам приходится искать, в чем дело, что могло бы
ослабить, снять наше беспокойство и неудовлетворенность. Это
достигается не путем сравнения разного рода предметов и
действий с некоторым объективным и определенным критерием, а с
помощью того ощущения, которое С.Тоудс называет чувством
вознагражденности. Мы испытываем это чувство, открывая то,
* N.S. Sutherland. Machines Like Men.—Science Zournal, vol. 4 No. 10,
1968, October (Special issue: Machines Like Men), p. 48.
246

что нам все время было нужно, однако понимание этого приходит
только после самого открытия, потому-то от нашего внимания
ускользает тот факт, что мы не могли четко определить, что нам
было нужно, до того, как мы ощутили эту вознагражденность.
Вот почему Тоудс считает, что удовлетворение какой-нибудь
потребности, служащее источником чувства вознагражденности,
есть, говоря его словами, творческое открытие*.
Итак, человек не имеет в своем распоряжении изначального
генетического реестра потребностей и ценностей, в который он
заглядывает по мере своего продвижения по жизни. И если он
заслуживает звания человека, он не усваивает механически те
ценности, которые ему навязывает окружающая среда. Скорее,
стремясь к тому, что ему требуется, человек специфицирует ту
общую потребность, которая, не будучи вполне определенной, все
время присутствует в нем.
Это особенно заметно в случае менее инстинктивных
психологических потребностей. Полюбив, мужчина любит данную
конкретную женщину, но нельзя сказать, что до того, как он
полюбил, ему нужна была именно эта конкретная женщина.
Однако, когда он уже любит, то есть когда он замечает, что
именно эти конкретные взаимоотношения являются
вознаграждающими, потребность становится определенной, превращаясь в
стремление достичь любви именно данной женщины: человек
совершает творческое открытие, касающееся его самого. Он
становится тем, кому необходимы именно эти конкретные
взаимоотношения, и тогда он обязательно начинает думать, что
ему всегда не хватало этих взаимоотношений, что именно они
всегда были ему нужны. В такого рода творческих открытиях
мир приобретает новую значимость; и открыть ее не так-то
легко — от нашего желания это не зависит.
У С.Кьеркегора мы находим чрезвычайно глубокое понимание
того, каким образом в подобном переживании происходит
переопределение личности или самосознания и как буквально все во
внутреннем мире индивида приобретает новый уровень значения.
Поскольку такое преобразование, изменяя направленность всех
интересов человека, полностью изменяет поле его стремлений, в
терминах которого приобретает свое значение все, с чем он
* См.: S. Т о d e s. The Human Body as the Material Subject of the World.
Doctoral dissertation. Harvard University, 1963. Единственным философом,
обратившим внимание на те трудности, которые выдвигают перед
"искусственным интеллектом" биологические основы человеческого
поведения, можно считать К.Гендерсона, который в статье "Философия и
моделирование на ЭВМ" пишет- «С этой точки зрения гораздо большее значение,
чем моделирование процессов познания, приобретает область исследований,
известная под названием "биомоделирование"». K.Gunderson.
Philosophy and Computing Simulation In: A. R у I e A Collection of Critical Essays -
In: O.P.Wood and G. P i t с h e r (eds.). Garden City, New York, Anchor,
1970, p 339).
247

сталкивается, Кьеркегор, говоря об этих фундаментальных
преобразованиях, называет их сменой нашей сферы существования.
Такого рода изменения не могут быть предсказаны заранее на
основе той направленности интересов, которая существовала
ранее, хотя, после того как эти изменения совершились, мы и
представить себе не можем, как это все могло быть по-другому.
Поэтому Кьеркегор утверждает, что изменение сферы жизненного
опыта происходит скачкообразно*.
Точно такое же изменение мира может произойти и на
концептуальном уровне. В этом случае его называют революцией
в сфере понятий — концептуальной революцией. Этот тип
преобразований исследован Т. Куном в его книге "Структура научных
революций". Он пишет об ученых: "Поскольку они видят этот
мир не иначе как через призму своих воззрений и дел, постольку
у нас может возникнуть желание сказать, что после революции
ученые имеют дело с другим миром"**.
Что считать фактом, это определяют те или иные
концептуальные рамки. Поэтому во время концептуальной революции не
существует фактов, к которым ученый мог бы обратиться за
подтверждением той или иной точки зрения. "Данные сами
изменились. Это последнее, что мы имеем в виду, когда говорим,
что после революции ученые работают в другом мире"***.
Представление о знании как об огромном скоплении нейтральных
фактов, принимаемое М.Минским за нечто само собой
разумеющееся, оказывается неадекватным для объяснения этих этапов
переломных, глубинных изменений. По Куну, "не может быть
никакой научно или эмпирически нейтральной системы языка или
понятий"****.
"То, что случается в период научной революции, не может быть сведено
полностью к новой интерпретации отдельных и неизменных фактов.
Во-первых, эти факты нельзя без всяких оговорок считать неизменными.
Маятник не является падающим камнем, а кислород не есть дефлогистиро-
ванный воздух"*****.
Поэтому Т. Кун приходит к отрицанию всей философской
традиции, породившей в качестве своего высшего достижения
понятие о разуме, в основе которого лежит хранение и
переработка "данных". Исследования приводят его, с одной стороны, к
выводу о неадекватности этой традиции, а с другой — к заключе-
* См.: S. Kierkegaard. Fear and Trembling. Carden City, N.Y. Anchor,
p. 52—55. См. также его работу Concluding Unscientific Postscript. Укажу,
наконец, мою готовящуюся к печати книгу о Кьеркегоре, которая должна
выйти в издательстве Quadrangle Books.
**Т. К у н. Структура научных революций. М., 1975, с. 145.
***Тамже, с. 173.
****Тамже, с. 185.
***** Там же, с. 157.
248

нию о причинах, по которым она все же продолжает казаться
самоочевидной.
"Являются ли теории просто результатом интерпретации человеком
полученных данных? Эпистемологическая точка зрения, которой чаще
всего руководствовалась западная философия в течение трех столетий,
утверждает сразу же и недвусмысленно — да! За отсутствием сколько-
нибудь развитой альтернативы, я считаю невозможным полностью
отказаться от этой точки зрения. Но она больше не функционирует эффективно, а
попытки улучшить ее путем введения нейтрального языка наблюдений в
настоящее время кажутся безнадежными"*.
Намечая один из возможных альтернативных подходов, а
точнее говоря, анализируя те пути, по которым в
действительности развивается наука, и выкристаллизовывая в результате
этого анализа те элементы, на которых строится одна из
возможных альтернатив, Т. Кун обращает особое внимание на роль
парадигмы — то есть характерного общепринятого примера
научной практики — в определении направления дальнейших
исследований. Как и в рассмотренном выше случае фамильного сходства,
объекты толкуются здесь не в терминах общих правил, а скорее в
терминах отношений, связывающих их с определенным
конкретным объектом того или иного типа, признаки и подразумеваемое
значение которого не допускают полной формализации.
" [Ученые] могут согласиться в своей идентификации парадигмы, не
соглашаясь с ее полной интерпретацией или рационализацией или даже не
предпринимая никаких попыток в направлении интерпретации или
рационализации парадигмы. Отсутствие стандартной интерпретации и
общепринятой редукции к правилам не буде"1- препятствовать парадигме направлять
исследование... В самом деле, существование парадигмы даже неявно не
предполагало обязательного наличия полного набора правил"**.
Именно это свойство парадигмы, ее богатая содержанием
открытость, придает ей такое важное значение:
"Парадигмы могут предшествовать любому набору правил
исследования, который может быть из них однозначно выведен, и быть более
обязательным или полными, чем этот набор"***.
Если ученым не удается угадать парадигму, то при
столкновении с исследуемым ими миром они испытывают то самое
замешательство, с которым, как мы видели, сталкивается
исследователь в области "искусственного интеллекта" в своих
попытках формализовать жизненный опыт человека.
"За неимением парадигмы... все факты, которые могли бы, по всей
вероятности, иметь какое-то отношение к развитию данной науки, выглядят
одинаково уместными"****.
* Там же, с. 162.
** Там же, с. 68.
***Там же, с. 71.
****См. там же, с. 33.
249

И действительно, без парадигмы неясно даже, что вообще
считать фактом, поскольку факты вырабатываются в терминах
конкретной парадигмы для интерпретации жизненного опыта.
Следовательно, нахождение новой парадигмы есть своего рода
скачкообразный переход того типа, с которым мы встретились у
Кьеркегора:
"Именно потому, что это переход между несовместимыми структурами,
переход между конкурирующими парадигмами не может быть осуществлен
постепенно, шаг за шагом, посредством логики и нейтрального опыта.
Подобно переключению гештальта, он должен произойти сразу (хотя не
обязательно в один ррием) или не произойти вообще"*.
Вот тут-то и становится совершенно ясно, что если
представлять себе решение задач как простое накопление данных в
запоминающем устройстве с последующей их сортировкой для
достижения какой-то определенной конечной цели, то нам
никогда не удастся отвести должное место этим фундаментальным
концептуальным изменениям. А ведь именно такие изменения
определяют то понятийное пространство, в котором вообще
только и может быть поставлена задача и в терминах
которого все данные без исключения приобретают свою
релевантность и свою значимость, что и дает возможность решить задачу.
Преобладающая над остальными концептуальная схема молчаливо
подсказывает направление развития, точно так же как
перцептивное поле направляет наше восприятие объектов.
Наконец, революции культур представляют собой еще более
фундаментальное явление, чем исследованные Т. Куном
концептуальные революции. Зарождающаяся греческая философия,
например, определила, как мы видели, некоторые взгляды на
природу человека и на понятие рационального, подвергавшиеся
тем или иным изменениям во всех последующих концептуальных
революциях. С возникновением христианства не менее
радикально изменяются представления о любви — возникли такие
представления, которые были немыслимы в Древней Греции; в
героизме стали усматривать признаки гордыни, а идеалом
добродетели стала святая жертвенность. Эти революции культур
наглядно демонстрируют нам, что (как одним из первых заметил
Б. Паскаль) резкой грани между природой и культурой не
существует (ведь даже инстинктивные потребности могут быть
преобразованы и разгаданы в терминах парадигм) и что,
следовательно, не существует жестко фиксированной природы человека.
Человеческая природа действительно весьма податлива: не
исключено, что и сегодня она снова находится на пороге
изменения. Если парадигма вычислительной машины станет настолько
Там же, с. 191.
250

преобладающей, что люди начнут воображать себя цифровыми
устройствами — в том плане, в каком это мыслится
исследователями, работающими в области "искусственного
интеллекта", — то, поскольку (по тем причинам, которые мы не раз
повторяли на этих страницах) машины не могут стать похожими
на человека, человек постепенно начнет приобретать сходство с
машиной. За прошедшие две тысячи лет такие представления, как
уверенность в основополагающей роли объективности,
убежденность в том, что действия человека управляются фиксированными
оценками, ценностями, представления о возможности
формализации навыков, умений и мастерства и вообще о том, что теория
практической деятельности может быть построена, — все это
постепенно завоевывало все большее признание в психологии и
социальных науках. Среди людей уже встречаются такие, которые
мыслят себя объектами, укладывающимися в рамки
безошибочных вычислений лишенных тела машин, тех машин, для которых
человеческие формы жизни представляют собой не изменчивую и
гибкую предрациональную основу всего рационального, а нечто
такое, что должно быть разложено в неосмысленный список
фактов. Нам грозит не пришествие сверхразумных
вычислительных машин, а появление неполноценно мыслящих человеческих
существ.

ЗАКЛЮЧЕНИЕ
Предлагаемая альтернатива представлений о человеке и о его
способности к разумному поведению основана на анализе того,
каким образом совершенствование навыков и умений, которыми
наделено человеческое тело — совершенствование, происходящее
по мере деятельности человека, направленной на удовлетворение
его потребностей, — приводит к возникновению человеческого
мира. Этот мир и устанавливает те условия, при выполнении
которых человек получает доступ к конкретным фактам,
воспринимаемым в их бесконечном разнообразии и открытости,
поскольку эти факты с самого начала организованы в терминах его
потребностей. Такой подход дает возможность понять
фундаментальнейшие различия между человеческим разумом и "машинным
интеллектом". "Искусственный интеллект" вынужденно
начинается на том уровне, где факты уже сформулированы.
Абстрагируя эти факты* от ситуации, в которой они являются частью ее
структуры, "искусственный интеллект" пытается использовать
получающийся при этом результат для моделирования разумного
поведения. Но эти факты, оторванные от контекста, представляют
собой страшно громоздкую массу нейтральных данных, с которой
специалистам в области "искусственного интеллекта" до сих пор
не удалось ничего сделать. Все существующие программы "по
мере роста массивов информации безнадежно увязают в массе
фактов"**.
На сегодняшний день не существует никакого метода
обработки данных, кроме накопления фактов, и, поскольку главные
философские предпосылки, лежащие в основе разработок,
ведущихся в сфере "искусственного интеллекта", оказались под
* Факты типа "у человека две руки", а не типа "контакт К замкнут".
Различие между этими фактами аналогично различию между фактом,
относящимся к содержанию какого-нибудь рисунка, и фактом,
касающимся одной из множества составляющих картину точек. Совершенно ясно, что
под вопрос поставлена реальность мира фактов первого типа, поскольку
M. Минский говорит, что нам приходится иметь дело с миллионами фактов,
а не с миллионами квантов информации.
** М.М i n s k у. Introduction.-ln: M.M i n s к у (ed.). Semantic Information
Processing, p. 18.
252

сомнением, потеряло убедительность предположение, что методы
хранения и поиска дискретных данных рано или поздно достигнут
достаточного уровня развития — достаточного для того, чтобы
справиться с тем объемом данных, который возникает при
попытке выразить в точной форме наше знание мира. Поскольку
масса этих данных о мире может оказаться бесконечной, а
формализация нашей формы жизни невозможной, есть все
основания полагать, что дискретные методы хранения информации
никогда не станут адекватными поставленной цели.
Более того, если данное нами феноменологическое описание
человеческого интеллекта соответствует истине, то существуют
принципиальные соображения, по которым искусственный
интеллект вообще не может быть полностью реализован. Помимо
технологических трудностей, возникающих в связи с хранением
огромного количества нейтральных данных, возникает проблема,
связанная с тем, что если довести анализ до конца, то у нас совсем
не останется фиксированных фактов — будь их перед этим хоть
миллион, хоть десять миллионов, как того хочется М. Минскому.
При концептуальных революциях изменяются даже сами факты,
поскольку они создаются человеком.
И наконец, если найдется такой философ или исследователь в
области "искусственного интеллекта", который предложит в
ответ на это возражение формализовать сами человеческие
лотребности, порождающие этот все время меняющийся контекст,
то он столкнется с целым потоком тех же самых трудностей.
Неопределенные потребности и цели, так же как переживание
чувства вознагражденности, направляющее их относительное
уточнение, не могут быть заложены в дискретную машину, для
которой мыслима только одна форма существования —
последовательность детерминированных состояний. И пожалуй, именно
потому, что эти потребности ни у индивида, ни у человечества в
целом никогда не становятся полностью определенными, они
сохраняют способность к уточнению, а природа человека получает
возможность повторных изменений в ходе революций личностей и
культур.

ЗАКЛЮЧЕНИЕ
ВОЗМОЖНОСТИ И ПРЕДЕЛЫ ИСКУССТВЕННОГО РАЗУМА

Глава 10. ПРЕДЕЛЫ "ИСКУССТВЕННОГО ИНТЕЛЛЕКТА"
Теперь мы подготовлены к тому, чтобы объединить в одно
целое все многообразие философских соображений, касающихся
ограниченных возможностей "искусственного интеллекта".
Введенное нами разделение области "искусственного интеллекта" в
широком смысле на две части — на моделирование процессов
познания и "искусственный интеллект" в собственном смысле
(ИИ) — позволило нам рассмотреть два отдельных, но
взаимосвязанных вопроса: 1) Действительно ли человек "в процессе
переработки информации" следует некоторым формальным правилам,
подобно цифровой машине? и 2) Может ли поведение человека,
независимо от того, как оно возникает, быть описано средствами
какого-либо формализма, допускающего реализацию с помощью
цифрового устройства?
Обсуждая эти вопросы, мы пришли к выводу, что, во-первых,
данные описательного или феноменологического характера — если
подходить к ним с позиций, Свободных от предрассудков
традиционной философии, — указывают на то, что в разумном
поведении любого рода принимают участие непрограммируемые
способности человека. Более того, мы показали, что все
эмпирические соображения, приводимые в защиту противоположного
взгляда, с методологической точки зрения не выдерживают
критики. Таким образом, в той мере, в какой вопрос о
возможности создания искусственного интеллекта представляет собой
вопрос эмпирический, можно, по-видимому, утверждать, что
появление в процессе дальнейшей работы сколько-нибудь
значительных результатов в области моделирования процессов
познания и "искусственного интеллекта*' (в собственном смысле) в
высшей степени маловероятно.
Таким образом, если исследователи, работающие в области
"искусственного интеллекта" в широком смысле, несмотря на все
трудности, все-таки считают свой оптимизм оправданным, то
бремя доказательства целиком ложится на их плечи; они должны
доказать, что вопреки этим эмпирическим трудностям должен
существовать некоторый путь, ведущий к построению такого
интеллекта. Однако в данном случае априорная сторона вопроса о
257

достижимости искусственного интеллекта еще более уязвима, чем
эмпирическая. Те самые доводы, которые, по предположению,
должны свидетельствовать в пользу того, что формализация,
несомненно, возможна, оказываются либо непоследовательными,
либо противоречащими сами себе и оборачиваются
доказательством того, что без поддержки определенных в высшей степени
малоправдоподобных эмпирических предпосылок провести
формализацию невозможно. Таким образом, априорные доводы в
пользу формализации оказываются доводами против — доводами,
говорящими о невозможности "моделирования процесса
познания" и "искусственного интеллекта".
Рассмотрим эти доводы более подробно. Обсуждая
моделирование процесса познания, мы обнаружили, что в таких играх, как
шахматы, в таких процессах, как решение сложных задач,
распознавание подобия и фамильного сходства, в
метафорическом использовании языковых средств, так же как в тех
случаях употребления языка, которые нам кажутся странными
или грамматически неправильными, — во всех этих случаях как
сам человек, так и анализирующий его действия наблюдатель
согласны с тем, что, по всей видимости, соответствующее
поведение не подчиняется правилам. Наоборот, создается впечатление,
что в таком поведении человек пользуется глобально
воспринимаемой им организацией, прагматическим различением
существенных и несущественных операций, обращением к парадигме, а
при передаче смысла некоторого высказывания другому лицу —
обращением к разделяемому обоими участниками чувству
ситуации.
Разумеется, вся эта упорядоченная, но, очевидно, не правило-
образная деятельность могла бы, тем не менее, оказаться
результатом подсознательного следования правилам. Однако если
попытаться в качестве некоторого философского предположения
развить гипотезу, согласно которой всякое поведение обязательно
следует понимать как возникающее в результате применения
некоторого набора правил, то мы сталкиваемся с не имеющим
конца процессом обращения к правилам, к правилам применения
правил и т.п.—с регрессом в бесконечность. Этот процесс ле
может завершиться обращением к обычным фактам, потому что,
согласно исходному утверждению, сами факты всегда узнаются и
интерпретируются в свою очередь по некоторым правилам.
Чтобы избавиться от трудностей, связанных с этим
"регрессом в бесконечность", можно ввести предположение, что
изначальные данные представляют собой входные потоки энергии,
которые всегда допускают выражение в численном виде и обработку в
соответствии с некоторым правилом. По-видимому, к этому
сводится точка зрения Дж.Фодора. Утверждение, согласно
которому поступающая на входы энергия преобразуется, проходя
258

последовательность операций, представляющую собой нечто вроде
программы для машины дискретного действия, нельзя назвать
невразумительным, однако — по признанию самого Фодора — для
этого требуется невероятно сложный формализм, который пока
что никому не удалось ни обнаружить, ни изобрести. Пока у нас
нет никаких эмпирических или априорных доводов в пользу того,
что такой формализм для описания преобразования физических
входных сигналов существует (или должен существовать);
эмпирические данные свидетельствуют о том, что мозг функционирует
подобно аналоговой вычислительной машине. Учитывая все это,
приходится заключить, что нет никаких оснований полагать (но
есть все основания сомневаться), будто обработка физических
входных сигналов в мозгу человека может быть представлена в
виде программы для цифровой вычислительной машины.
Если мы хотим избежать "регресса в бесконечность",
проистекающего из незавершимости процесса введения правил, правил о
правилах, правил о правилах правил и т.д., нам остается
единственный выход — изменить исходный тезис и заявить, что на
самом низшем уровне правила применяются автоматически, без
использования каких-либо инструкций. Но это ведет к
затруднениям двоякого рода. Во-первых, раз уж произведено описанное
выше ослабление априорного тезиса (гласящего, что всякое
поведение обязательно подчиняется тем или иным инструкциям),
мы можем с тем же успехом утверждать, что и на любом уровне
поведение, требующее умений, навыков и мастерства, не должно
основываться на подсознательном следовании инструкциям, так
что надлежит вообще отбросить аргумент, согласно которому — в
противоречие с феноменологическими данными — испытуемый
обязательно следует правилам. Во-вторых, если, тем не менее,
кто-нибудь возьмется настаивать на том, что обязательно
существует изначальный уровень неинтерпретируемых фиксированных
характеристик и что эти фиксированные характеристики не
являются ни физическими входными сигналами, ни обычными
объектами, то ничего не остается, кроме как предположить, что
они должны представлять собой лишенные содержания "кванты"
информации о человеческом мире. Так мы приходим к понятию
"информации, содержащейся в раздражителе", чувственным или
мгновенным снимкам, введенным У.Ниссером. Однако
априорное понятие информации, несомой стимулом, оказывается
совершенно непонятным. Все, что мы имеем с эмпирической точки
зрения, — это, с одной стороны, непрерывные физические входные
сигналы, поступающие в организм, а с другой — мир обычных
объектов, данный воспринимающему субъекту. Ни одному
специалисту по психологии процессов познания не удалось дать
определение какого-нибудь третьего вида входных сигналов,
лежащего где-то между этими двумя и дающего возможность
259

выделить те изначальные "биты" информации, к которым должны
применяться правила. Все предложенные до сих пор определения
на поверку оказываются несуразной смесью физических
описаний, производимых в терминах энергии, и феноменологических
описаний, которые даются в терминах непосредственных
чувственных данных, для которых невозможно дать строгое
определение.
Таким образом, с психологической точки зрения,
утверждение, согласно которому разумное поведение может, вопреки
очевидным свидетельствам противного, осуществляться
посредством применения тех или иных фиксированных формальных
правил (как это имеет место в цифровой вычислительной
машине) , "не работает", поскольку при этом возникает бесконечный
процесс введения правил применения правил. Ни обращение к
понятию физического входного сигнала (применение которого
оказывается невозможным), ни использование понятия входного
стимула (для которого не удается найти подходящего
определения) не могут устранить этот "регресс в бесконечность".
Несмотря на то, что ни психология, ни последние достижения в
области вычислительных систем не дают достаточных
эмпирических оснований надеяться на успех, исследователи, работающие
над проблемой "искусственного интеллекта",— так же как
специалисты, разрабатывающие модели процессов познания, —
уверены в том, что формализация разумного поведения возможна.
Четкой формулировки их доводов обнаружить не удается; по
всей видимости, они основываются на онтологическом
допущении, согласно которому мир может быть разложен на
независимые друг от друга логические элементы, и на эпистемологическом
допущении, согласно которому наше понимание мира можеч быть
затем восстановлено путем комбинирования этих элементов в
соответствии с некоторыми эвристическими правилами. Первое
допущение не грозит никакими затруднениями. Поскольку
исследователь в области "искусственного интеллекта", в отличие от
психолога, изучающего познавательные процессы, не обязан
непременно ориентироваться на человеческие свойства, он может
легко выделить изначальные элементы, к которым должны
применяться правила, — это дискретное представление звуковых
волн и элементы мозаики телевизионного экрана. Их можно
распознать без дальнейших обращений к правилам. Однако
использование второго допущения (гласящего, что эти элементы
могут быть затем воссоединены), выдвинутое как априорно
необходимое, влечет за собой представление о правилах все более
и более высокого порядка — процессе, обратном тому "регрессу в
бесконечность", с которым мы сталкиваемся при моделировании
процессов познания.
260

Поскольку каждый из упомянутых логических элементов
предполагается независящим от всех остальных, ему нельзя
приписать никакого значения, до тех пор пока он не будет
соотнесен с остальными элементами. Но после того, как эти
элементы изъяты из контекста и очищены от всякого значения,
совсем не так просто вернуть им его. Значение, которое должно
быть приписано каждому логическому элементу, зависит от
других логических элементов, и для того, чтобы можно было
сказать, что те или иные входные сигналы формируют сначала
образы, а в конце концов — объекты и осмысленные
высказывания, каждый из этих сигналов должен быть соотнесен по
некоторым правилам с другими сигналами. Но ведь в соответствии с
различными правилами элементы могут иметь различную
интерпретацию, выбор же правила определяется контекстом. А
вычислительная машина может распознавать контексты только с
помощью некоторых правил.
Следует также заметить, что этот навязываемый
вычислительной машиной способ анализа противоречит нашему опыту.
Феноменологическое описание нашего опыта, связанного с
пребыванием в ситуациях, наводит на мысль, что мы всегда находимся в
какой-либо ситуации или контексте, который мы переносим из
ближайшего прошлого и подгоняем под настоящее в терминах тех
событий, которые в свете минувшей ситуации представляются
нам значительными. Каждый раз мы сталкиваемся не с
бессмысленными элементами, в терминах которых мы должны
идентифицировать контексты, а только с фактами, которые уже имеют
интерпретацию и в свою очередь определяют ситуацию, в которой
мы находимся. Жизненный опыт человека можно понять только в
том случае, когда он организован в терминах ситуаций, в которых
уже заданы релевантности и значения. Такого рода необходимость
в первичной организации в случае "искусственного интеллекта"
принимает вид задачи разработки иерархии контекстов —
иерархии, в которой более широкий контекст (контекст более
высокого уровня) используется для определения релевантности и
значения элементов более узких контекстов (или контекстов
более низкого уровня).
Рассмотрим пример. Для того чтобы установить релевантность
объекта "нож" и определить однозначный смысл объектов и
высказываний, имеющих к нему отношение, необходимо знать, в
каком из контекстов мы находимся — бытовом, медицинском
или относящемся к столкновениям между людьми (это лишь
некоторые примеры). Только в таких контекстах появление
"ножа" становится релевантным и получает значение. После того
как контекст установлен, он может быть использован для
интерпретации объектов или высказываний с тем, чтобы определить
подконтекст более низкого уровня. Например, если мы встретим
261

"нож" в бытовом контексте, это приведет, как правило, к
рассмотрению подконтекста питания, в котором уточнение
смысла объектов и высказываний будет ориентировано на "прием
пищи", а не на "нападение". Но ведь если каждый контекст может
быть опознан только в терминах признаков, выбранных по их
релевантности, и интерпретирован только в терминах более
широкого контекста, то перед исследователем в области
"искусственного интеллекта" возникает задача преодоления явления
неограниченного сведения одних контекстов к другим.
Как и в случае моделирования процесса познания, можно
было бы попытаться найти эмпирический выход из этого
"регресса в бесконечность". Точно так же, как в упомянутом
моделировании изначальные неинтерпретируемые элементы могут
быть дискретными представлениями физических входных
сигналов, здесь, в "искусственном интеллекте" за изначальный
контекст или множество контекстов можно было бы принять
контексты, выразимые в терминах некоторых образов или объектов,
которые имеют фиксированные значения и могут быть
использованы для переключения программы на соответствующие подкон-
тексты объектов или высказываний. Но, как и в "моделировании
процесса познания", имеющийся материал не свидетельствует в
пользу этой эмпирической возможности. По всей видимости, не
существует таких слов или объектов, которые имеют отношение
ко всем ситуациям и всегда имеют одно и то же значение, подобно
тому, как красное пятнышко на самке колюшки всегда означает
для самца начало брачного сезона.
Остается одно-единственное возможное "решение".
Программист может сам задать вычислительной машине иерархию
контекстов и общие правила их организации. При этом он будет
руководствоваться присущим ему глобальным чутьем, которое
подсказывает ему, что вообще релевантно и значимо для
человека. Однако любой факт может стать важным в некоторых
ситуациях. Для осуществления такой формализации, при которой
вычислительная машина могла бы проявить человеческую
гибкость и приспособляемость, программисту пришлось бы
умудриться выразить в явной форме все то, что он обычно принимает
за само собой разумеющееся для любого человека. Однако как
только он попытается подойти к ситуации, в которой он
находится, с позиции машины, как бы смотрящей на нее со стороны, он
столкнется с неограниченно большим количеством
неосмысленных фактов, релевантность и значение которых можно определить
только в более широком контексте.
Таким образом, оказывается, что логико-атомистическая
онтология не может служить гарантией истинности
логико-атомистической эпистемологии. Даже если бы удалось с помощью
техники сканирования, использующей логически независимые
262

элементы, загнать весь мир в вычислительную машину, это еще не
означало бы a priori, что его можно снова воссоединить в единое
целое. Фактически сами попытки обосновать a priori тезис, что,
поскольку мир может быть разложен на элементы, его можно
интерпретировать с помощью формальных правил, приводят как
раз к обратному заключению.
Изложенные выше соображения подтверждаются общей
теорией человеческого жизненного опыта как "бытия в ситуации", в
котором факты всегда имеют интерпретацию. В этой теории
предполагается, что каждая первичная ситуация, в которой
оказывается человек, зависит от его намерений, представляющих в свою
очередь функцию его тела и его потребностей; предполагается
также, что эти потребности не фиксированы раз и навсегда, а
интерпретируются и становятся определенными в процессе
принятия той или иной культуры, проходя тем самым через изменения
интерпретации человеком самого себя. Таким образом, из
данного анализа становится понятным, почему не существует ни
фактов с встроенными в них заранее значениями, ни каких-либо
фиксированных человеческих форм жизни, которые можно было
бы надеяться когда-нибудь запрограммировать.
Из сказанного отнюдь не следует, будто маленький ребенок не
начинает с определенных фиксированных ответных реакций — на
самом деле, если бы этого не происходило, то обучение никогда
не могло бы начаться, — просто эти ответные реакции очень скоро
становятся ребенку недостаточными и отбрасываются им по мере
его развития. Таким образом, у взрослого человека не остается
фиксированных ответных реакций, которые не находились бы под
контролем значимости ситуации.
Но тогда возникает вопрос: почему не запрограммировать
вычислительную машину так, чтобы она вела себя сначала как
маленький ребенок, а затем направлять ее по пути к разуму? Этот
вопрос уводит нас за пределы сегодняшнего уровня
проникновения в тайны психологии и сегодняшних возможностей
вычислительной техники. При написании этой книги я ставил перед собой
только одну задачу: показать, что существующие в настоящее
время попытки заложить в машину полностью
сформировавшийся интеллект (как его представляли себе афинские
мыслители) наталкиваются на эмпирические трудности и
фундаментальные понятийные противоречия. Может ли машина-ребенок начать
с независящих от ситуации ответных реакций и постепенно
обучиться - это зависит от того, насколько существенна роль,
которую играют в обучении нежестко определенные потребности
и способность реагировать на глобальный контекст. Например,
судя по результатам, полученным Ж.Пиаже в его исследованиях
процесса обучения, можно сказать, что в явлениях, связанных с
263

обучением, используются те же формы "переработки
информации7', что и в разумном поведении взрослого человека, и что
развитие интеллекта идет по пути "концептуальных
революций"95- Это не должно нас удивлять. Вычислительные машины
могут иметь дело только с фактами, а ведь человек - источник
фактов — представляет собой не факт и не множество фактов, а
существо, создающее в процессе своей жизни в мире и самого
себя, и сам мир фактов. Этот человеческий мир со всеми его
различными объектами организован людьми, которые пользуются
особенностями и возможностями своего тела для того, чтобы
удовлетворять свои потребности. Нет никаких оснований
полагать, что к миру, организованному в терминах этих
фундаментальных человеческих способностей, можно подойти с какими бы то
ни было другими мерками.
Будущее "искусственного интеллекта"
Проанализированные нами трудности сами по себе не дают
возможности судить о будущем "искусственного интеллекта".
Даже если любая попытка программирования изолированных
аспектов разумной деятельности всегда безоговорочно требует
программирования всего образа жизни зрелого человека и даже
если в принципе невозможно создать цифровую машину на
"афинский" лад (то есть если зрелый человеческий интеллект
организован в терминах некоторого поля, которое в свою очередь
определяется объектами, входящими в него, и которое
подвержено радикальным изменениям), — даже в этом случае остается
открытым вопрос, до какой степени исследователям,
работающим в области "искусственного интеллекта", с помощью
используемых ими фрагментарных методов удастся приблизиться к
разумному поведению человека. Для того чтобы наш анализ
возможностей и ограничений "искусственного разума" был
полным, мы должны теперь указать в общих чертах практические
следствия, вытекающие из изложенных выше доводов.
Однако прежде чем перейти к практическим выводам, нам
будет удобнее подразделить разумное поведение на четыре сферы.
Наша задача затем будет состоять в определении того, в какой
мере разумное поведение в каждой из этих сфер предполагает
использование тех четырех форм "переработки информации"
человеком, которые мы выделили в ч. I данной книги. Это даст
нам возможность объяснить те успехи, которые были достигнуты
до настоящего времени, и предсказать, в каких пределах мы
вправе рассчитывать на прогресс в дальнейшем.
Можно выделить четыре типа разумного поведения (табл. 1).
Как мы видели, первые два типа поддаются моделированию на
264

Классификация разумной деятельности
Таблица 1

Ассоциативная
П. Простая
формальная
III. Сложная
формальная
IV.
Неформальная
Характеристики деятельности
Независимость
от смысла и
ситуации
Смысл не
зависит от ситуации
и полностью
представим в
точной форме
Деятельность Обучение с по-
врожденная или мощью правил
приобретаемая
в ходе
повторения действий
Область деятельности (и соответствующие процессы)
В принципе то
же самое, что и
в случае !!; на
практике —
зависимость от
ситуации во
внутреннем
контексте; зависимость
от внешней
ситуации отсутствует.
Обучение с
помощью правил,
а также
практики
Зависимость от
смысла и
ситуации,
непредставимых в явном
виде
Обучение с
помощью
непосредственно
понимаемых примеров
Игры на
вспоминание,
например "игра
в города"
(ассоциации)
Лабиринтные
задачи (метод
проб и ошибок)
Пословный
перевод
(использование
машинного словаря)
Реакция на
жесткий
стимул
(врожденные механизмы
Разрешимые и

квазиразрешимые игры,
например "ним"
или "крестики
и нолики"
(алгоритмы
поиска или просчи-
тывание)
Комбинаторные
задачи
(неэвристический
анализ в
терминах "средств
и целей")
Доказательство
теорем с
помощью машинно-
автоматических
процедур
(алгоритмы поиска
доказательств)
Распознавание
простых четких
образов,
например чтение пе-
Неразрешимые
игры, например
шахматы
(глобальная
интуиция и подробное
просчитывание)
Сложные
комбинаторные
задачи
(планирование, анализ
путей в
лабиринте)
Доказательство
теорем, для
которых не
существует

но-автоматических процедур
(интуиция и
просчитывание)
Распознавание
сложных
образов при наличии
шума (поиск
Нечетко
определенные игры,
например загадки
(перцептивное
угадывание)
Задачи с
открытой структурой
(интуиция, ин-
сайт)
Перевод с
одного
естественного языка на
другой (понимание
языковых
выражений в
контексте их
использования в языке)
Распознавание
видоизмененных
и искаженных
образов к(родовое
265

Продолжение таблицы 1
I.
Ассоциативная
II. Простая
формальная
III. Сложная
формальная
IV.
Неформальная
и классический чатного текста закономерное- разпознавание или
условный реф- (поиск призна- тей) использование
леке) ков, конъюнкция парадигм)
которых
определяет
принадлежность к
соответствующему
классу)
Типы программ
Дерево решений. Алгоритмы Эвристики, слу- Никаких
Поиск по спис- жащие для сокра-
кам. Сравнение щения перебора
с образцом
цифровой машине, в то время как третий тип лишь частично
программируется, четвертый же абсолютно не программируем.
В сфере I лучше всего себя чувствуют психологи,
занимающиеся изучением поведения, допускающего описание по схеме
"стимул — реакция". К этой сфере относятся все виды
элементарной ассоциативной деятельности, в которой смысл и контекст не
играют никакой роли. Из всех видов поведения,
запрограммированных на сегодняшний день, заучивание бессмысленных слогов
представляет собой наиболее характерный пример поведения
этого типа (хотя с тем же успехом здесь можно было бы привести
любую форму условного рефлекса). Кроме того, к этой сфере
принадлежат такие игры, как "игра в города" (она сводится к
тому, что игрок называет город, начинающийся с той буквы, на
которую оканчивается название города, предложенного
предыдущим игроком). В области автоматического перевода этому
классу соответствует уровень машинного словаря; в решении
задач — программы чистого поиска методом проб и ошибок; в
распознавании образов — сравнение входного образа с
фиксированными стандартами.
Сфера М соответствует esprit de geometrieque Б. Паскаля96;это
излюбленная область "искусственного интеллекта". Она объемлет
скорее концептуальный, чем перцептивный мир. Все задачи
полностью формализованы и допускают полное просчитывание. Из
этих соображений ее, может быть, лучше было бы назвать
областью простых формальных задач. Здесь "искусственный
интеллект" возможен — как в принципе, так и фактически.
266

В сфере II мы имеем дело не с естественным, а формальным
языком; наилучшим примером здесь служат логические
исчисления. Игры описываются точными правилами и допускают полное
просчитывание, как в случае игры "ним" или "крестики и
нолики". Распознавание на этом уровне происходит путем
установления соответствия между опознаваемым образом и четко
определенными типами образов, которые задаются с помощью
списка признаков, характеризующих принадлежащие к
рассматриваемому классу отдельные образы. Решение задач сводится к
сокращению расстояния между текущим состоянием и целью с
помощью последовательного применения формальных правил.
Формальные системы, входящие в эту область, достаточно просты
и ими можно пользоваться с помощью таких алгоритмов,
которые совершенно не требуют поисковых процедур (такова,
например, логическая программа Хао Вана). Эвристики здесь не только
не нужны, они положительно мешают, как это легко видеть из
явного превосходства алгоритмической логической программы
Хао Вана над эвристической логической программой А.Ньюэлла,
Дж.Шоу и Г.Саймона. Только в этой сфере "искусственный
интеллект" добился безоговорочных успехов.
Сфера III — область сложных формальных систем — труднее
других поддается определению; именно с ней связано
большинство недоразумений и трудностей, о которых говорилось в этой
книге. В нее входят те формы поведения, которые в принципе
воспроизводимы машиной, но на практике оказываются для нее
недоступны; ибо по мере роста числа элементов число
необходимых преобразований растет экспоненциально. Мы будем называть
"сложными формальными системами" такие системы, к которым
практически нельзя применить алгоритмы исчерпывающего
перебора (шахматы и др.) и которые поэтому требуют использования
эвристических программ*.
* Довольно трудно подвергнуть классификации и оценке всю
совокупность разнообразных одноцелевых программ, разработанных для
проектирования двигателей, наладки конвейерных линий, сборки узлов машин и
т.д. Эти программы имеют некоторое отношение к исследованиям в
области "искусственного интеллекта", однако считать их успешно
выполняющими свое назначение можно только в том случае, если: а) проведено
сравнение их эффективности с работой человека-профессионала (как это
имеет место в случае шахматных и шашечных программ) и б) задачи, для
решения которых предназначены эти программы, в достаточной степени
формализованы (если это возможно), так что соответствующие
программы можно сравнить с неэвристическими программами, составленными для
решения тех же задач. (Во всех случаях, когда такое сравнение удалось
произвести — игра в шашки, задачи из области логики, распознавание
Образов, игра в шахматы,— неэвристические программы оказывались либо
эквивалентными по эффективности, либо более эффективными, чем
эвристические.)
Следует заметить, что программы, моделирующие банковские операции
или что-то в этом роде, не имеют никакого отношения ни к моделированию
267

Сфера IV может быть названа областью неформального
поведения. Сюда входят все те случаи повседневной деятельности в
нашем человеческом мире, которые регулярны, но не
подчиняются правилам. Самым ярким примером такой управляемой
неточности является то, как мы справляемся с многозначностью
естественного языка. В этот класс входят также игры, правила
которых не определены, например отгадывание загадок.
Распознавание образов в этом классе основывается на узнавании родовых,
типических черт в рамках некоторой парадигмы. Задачи на этом
уровне являются задачами с открытой структурой, для решения
которых необходимо отыскание релевантных признаков и
интуитивное постижение существенности тех или иных операций еще до
того, как начинается процесс решения*. В этом случае методика
обучения основывается обычно на обобщении примеров, а само
обучение проводится на интуитивном уровне, без обращения к
правилам. Можно было бы принять терминологию Б. Паскаля
и назвать сферу IV обителью esprit de f itesse. Поскольку в этой
сфере во избежание необходимости запоминания бесконечно
большого числа фактов требуется учет глобального чувства
ситуации, использование дискретных методов для
непосредственного воспроизведения поведения взрослого человека оказывается
невозможным. Заметим, что сведение всех четырех сфер в единую
таблицу уже само по себе может породить неверный взгляд на эту
сферу, поскольку может вызвать ощущение, будто она отличается
от сферы III просто добавлением некоторого более высокого
процессов познания, ни к "искусственному интеллекту". Они просто
свидетельствуют о том, что некоторые формы человеческой деятельности
столь просты и стереотипны, что их можно формализовать. Несомненно,
при формулировании правил, которыми должны руководствоваться
вкладчики, составляя перечень ценных бумаг, дело не обходится без интеллекта;
однако формализация этих правил говорит лишь о том, что они пред
ставимы в точной и недвусмысленной форме, и никак не помогает проникнуть
в процессы интеллекта, связанные с их определением или применением.
Стоящий перед искусственным интеллектом проблемы относятся не к
такого рода ex post facto формализациям конкретных задач — они лежат
в сфере И, для которой формализация сама по себе достаточно сложна и
поэтому требует элегантных методов для ее проведения, —а к сфере III, где
формальные системы настолько сложны, что для них не существует
разрешающих процедур и приходится прибегать к помощи эвристик, и к сфере
IV, характеризующейся гибким поведением, которое не может быть строго
формализовано.
* Типы деятельности, попадающие в сферу IV, можно представить себе в
виде тех самых "вех", которых требовал П.Армер: "Для этой цели нам
нужна четко сформулированная задача, представляющая в настоящий
момент исключительно объект деятельности человека (и поэтому она должна
быть, несомненно, из области мышления), но такая, чтобы мы могли
надеяться на ее решение в будущем с помощью машины" (П. А р м е р. О
возможностях кибернетических систем. — В кн.: M. Т а у б е.
Вычислительные машины и здравый смысл. Миф о думающих машинах. M., 1964, с.
170) в
268

уровня сложности, в то время как на самом деле сфера IV имеет
совершенно иную природу, нежели сфера III. Она отнюдь не более
сложна; по сути дела, она даже более примитивна, предшествуя, с
точки зрения эволюционной, онтогенетической и
феноменологической, сферам II и III, точно так же как естественный язык
предшествует математике.
В литературе по "искусственному интеллекту" эти четыре
сферы обычно не различаются97- Например, А.Ньюэлл, Дж.Шоу и
Г.Саймон заявляют, что их машина "Логик-теоретик" "была
разработана для того, чтобы изучить возможность решения таких
трудных задач, как доказательство математических теорем
[сферы II или IIL-Х.Д ], выявление научных законов в
совокупности опытных данных [сферы III или IV.— Х.Д. ], игра в шахматы
^фера III.— Х.Д. ] или понимание смысла английской прозы
[сфера IV— Х.Д.]'1*. Принятие тезиса (ясно выраженного Арме-
ром из корпорации RAND), согласно которому все формы
разумного поведения принадлежат к одному и тому же типу,
позволило упомянутым исследователям на базе успехов,
достигнутых в первых двух рассмотренных нами сферах, прийти к
необоснованным надеждам на успех в двух остальных.
Такого рода путаница таит в себе двоякую опасность.
Во-первых, существует тенденция (ее типичный представитель
Г.Саймон) полагать, что эвристики, обнаруживаемые в одной области
разумной деятельности, например в доказательстве теорем,
должны что-то говорить нам о "переработке информации" в любой
другой области, такой, например, как понимание естественного
языка. Тем самым некоторые простые формы переработки
информации, применимые в сферах I и II, навязываются и сфере
IV, в то время как уникальный по своему характеру тип
"переработки информации", присущий этой сфере, а именно тот
факт, что "данные" вообще не "перерабатываются", остается
незамеченным. В результате та самая проблема
экспоненциального роста, которая приводит к трудностям при
распространении методов, применяемых в сферах I и II, на сферу III,
возникает и при попытках моделирования поведения, характерного
для сферы IV**.
*А. Ньюэлл, Дж. Шоуи Г. Саймон. Эмпирические исследования
машины "Логик-теоретик*'; пример изучения эвристики. — В кн.:
Вычислительные машины и-мышление, с. 113.
** "Преграда... стоящая на пути дальнейшего развития семантических
информационно-поисковых систем, — это та же преграда, на которую мы
наталкиваемся в программах по доказательству теорем, в
программировании игр и других областях "искусственного интеллекта": проблема поиска
в экспоненциально растущем пространстве возможных решений. Здесь не
существует никаких коренных переформулировок этой проблемы —
переформулировок, которые дали бы возможность обойти тот чисто математи-
269

Во-вторых, существует и обратная опасность. Успехи
"искусственного интеллекта" в сфере II во многом зависят от того,
насколько удастся ограничить рассмотрение только дискретными,
определенными, не зависящими от контекста ситуациями. В связи
с тем, что сложные системы из сферы III, так же как и простые
системы из сферы II, полностью формализуемы, у исследователя,
занятого построением моделей, складывается впечатление, что тот
или иной тип поведения, принадлежащий сфере III,
воспроизводим на цифровой машине. А когда различие в степени между
простым и сложным оказывается на практике различием в
качестве (т.е. когда экспоненциальный рост превращается в
серьезную проблему), тогда программист, не отдавая себе отчета
в особенностях, характерных для этих двух сфер, пытается в
сфере III ввести в рассмотрение процедуры, заимствованные из
наблюдений за человеческой деятельностью, принадлежащей сфере
IV (например, за тем, как человек оценивает позиции в шахматах,
решает задачи, используя понятия о целях и средствах, и
апеллирует к смыслу при доказательстве теорем) .Однако эти процедуры,
когда ими пользуется человек, зависят от одной или нескольких
специфически человеческих форм "переработки информации";
так, использование шахматных эвристик предполагает — по
крайней мере у человека — феномен восприятия, с помощью
периферийного сознания, сильных и слабых сторон позиции; проведение
анализа в терминах "средств и целей" рано или поздно делает
необходимым планирование, а тем самым и отделение
существенных операций от несущественных; для семантических же
рассмотрений требуется чувство контекста.
Математик-программист уверен, что сфера III в принципе
формализуема — точно так же как сфера П. Он не отдает себе
отчета в том, что, перенося методы, практикуемые в сфере IV, на
сферу III, он распространяет на отношение между ними —
отношение, характеризующееся скачком,— то свойство непрерывности,
которое присуще отношению между сферами II и III, что влечет за
собой все те трудности, которые связаны с формализацией
неформального поведения. Таким образом, проблемы, которые в
принципе должны возникать только при попытках
программирования задач "с плохой структурой", то есть "открытых" видов
деятельности, встречающихся в повседневной жизни,— проблемы
эти возникают в практике обращения со сложными формальными
системами. Поскольку в сфере III совершенно четко можно
сформулировать, какие данные считаются имеющими отношение,
к делу, а какие нет, здесь до некоторой степени могут работать
ческий факт, что число возможных связей, соединяющих различные
элементы, есть экспоненциальная функция от числа рассматриваемых
элементов" (R a p h a e I. SIR: Semantic Information Retrieval .-In: M.Minsky
(ed.). Semantic Information Processing, p. 114).
270

эвристики (как в шашечной программе А. Сэмюэля). Однако
поскольку сфера IV представляет собой именно ту область
разумного поведения, в которой всякая попытка
программирования для цифровой машины полностью сформированного
поведения взрослого человека обречена на неудачу, неизбежное в сфере
III обращение к эвристикам, подразумевающим возможности
сферы IV, рано или поздно обязательно приводит к трудностям.
Как далеко может продвинуться эвристическое
программирование в сфере III, прежде чем оно натолкнется на препятствия,
связанные с необходимостью введения в рассмотрение
периферийного сознания, феномена "допустимой неоднозначности",
способности к отделению существенного от несущественного и т.д.,
представляет собой чисто эмпирический вопрос. Тем не менее,
как мы видели, существуют некоторые признаки,
свидетельствующие уже сейчас о существовании препятствий на этом пути: это
неудавшиеся попытки создания машинного "шахматного
чемпиона", машинного доказательства какой-нибудь интересной
теоремы, автоматического перевода с одного естественного языка на
другой и, кроме того, отказ от дальнейшей работы над
программой GPS.
Однако в сфере IV имеются некоторые средства сокращения
перебора, которые могут быть использованы для продвижения в
решении задач, относящихся к сфере III,— средства, не
предполагающие упомянутых человеческих процессов "переработки
информации", которые не могут быть воспроизведены какой-
либо программой, организованной в соответствии с принципами
древних афинян.
Чтобы преодолеть тот застой, который наблюдается сейчас в
сфере III, требуется, по-видимому, использование следующих
более совершенных методов.
1. Поскольку современные вычислительные машины, включая
даже примитивные роботы типа "глаз — рука", не имеют тела — в
том смысле, в каком это описано в гл. 7,— и поскольку никто не
понимает и не имеет ни малейшего представления о том, как
заложить в программу ту глобальную организацию и
оперирование с неопределенностями, которые столь характерны для
человеческого восприятия и для приобретения человеком связанных с
телом умений и навыков, мы можем в настоящее время
рассчитывать на реализацию только какого-то грубого, целостного
первичного процесса, являющегося некоторым приближением к
человеческой способности концентрировать внимание на том или ином
участке поля жизненного опыта еще до того, как начинаются
точные, подчиняющиеся правилам манипуляции и просчитывание.
Это, однако, не означает добавления новых точных способов
выявления тех областей, которые заслуживают дальнейшего
исследования. Например, в случае шахматных программ ныне
271

становится все более очевидным, что введение в программу
порождения приемлемых ходов все новых и новых конкретных
элементов шахматной теории приводит к тому, что программа
захлебывается от изобилия подпрограмм, реализующих
соответствующие искусственные приемы. (Как считает А. Сэмюэль*,
именно этим объясняется отсутствие сообщений о новых
результатах работы над шахматной программой Р. Гринблата.)
Программе чего-то не хватает, а именно того, что соответствует
умению мастера воспринимать позицию на доске как
распадающуюся на систему многообещающих и опасных зон.
На что именно мог бы походить такой "холистский" процесс,
сказать трудно, особенно если принять во внимание дискретную
природу любой машинной вычислительной процедуры. Сейчас,
по-видимому, здесь конкурируют две различные идеи. Когда
М. Минский и СвПейперт говорят об отыскании "глобальных
признаков", они, вероятно, имеют в виду нахождение некоторых
поддающихся выделению и вполне определенных отличительных
особенностей образа (примером может служить тот иг и иной
угол, под которым пересекаются две линии), которые позволяли
бы программе строить обоснованные догадки об образе в целом.
Это приводит просто к введению дополнительных эвристик и не
представляет собой ничего интересного с точки зрения целостного
взгляда на объекты и образы. Но вот предложение У.Ниссера,
выдвинутое им в ходе рассмотрения проблемы предварительного
разбиения на части предъявляемых для распознавания контуров
изображения — предварительного в том смысле, что оно должно
предшествовать более подробному его анализу,— претендует на
нечто большее.
"Поскольку процесс сосредоточения внимания не может одновременно
охватить все зрительное поле, он должен происходить только после того,
как отдельные зрительные элементы образа уже выделены с помощью
некоторых предварительных операций. Эти предварительные операции сами
по себе представляют значительный интерес. Они частично соответствуют
тому, что гештальтпсихологи называют "автохтонными силами";
результатом их является то, что Хебб называет "первичными единицами". Я буду
называть их процессами предвнимания, с целью подчеркнуть, что
получающиеся в их результате объекты предстоит еще наполнить содержанием и
найти их интерпретацию.
Из самой постановки этой задачи следует, что процессы предвнимания
должны быть по-настоящему "глобальными" и "целостными". Каждая
фигура и каждый объект должны быть отделены от всех остальных во всей
своей цельности, образуя потенциальную рамку для последующего более
детального анализа, проводимого на основе концентрации внимания"**.
Однако, когда У.Ниссер переходит к объяснению того, как
* Эта мысль была высказана им на лекции в Калифорнийском
университете в Беркли в марте 1970 г.
**U. Neisser. Cognitive Psychology, p. 89.
272

такое первое грубое приближение должно осуществляться на
цифровой машине, нас ждет разочарование. Очевидно, он имеет в
виду только "подчищающие" эвристики, которые, по неявному
его допущению, начинают работать только после того, как
границы образов оказываются уже довольно четко обозначены. "При
условии, что отдельные элементы образа имеют непрерывные
контуры, или что между этими элементами существуют пустые
пространства, разделение элементов осуществляется очень
простыми операциями. Например, машинные программы,
прослеживающие линии или обнаруживающие пустоты, не более сложны,
чем те, которые заполняют пропуски и подправляют
локальные отклонения"*. Но ведь эти методы оказываются
неэффективными, например в случае распознавания рукописного
текста.
Конечно, трудно предложить хоть что-нибудь взамен этого.
Речь идет о способе обращения к полю жизненного опыта еще до
того, как оно оказывается разбитым на отдельные четко
выделенные объекты; однако такого рода предобъектный жизненный
опыт лежит вне пределов досягаемости цифрового устройства.
Вычислительная машина должна применять специфицированные
правила к четко определенным данным; если задача заключается
в том, чтобы сначала выделить эти четко определенные данные, то
программист приходится задуматься над проблемой применения
четко определенных правил к чему-то вроде расплывающейся
кляксы.
Следовательно, лучшее, на что мы можем рассчитывать в
своих попытках обойти способы действия, характерные для
сферы IV,— это, вероятно, такого рода хитроумные эвристики,
которые предлагают М. Минский и С.Пейперт для того, чтобы дать
программе возможность уже при первом просмотре выбрать
некоторые конкретные признаки — признаки, которые
впоследствии должны оказаться полезными для управления работой
программы, когда она будет производить более подробный
анализ образа. Но применение приемов ad hoc всегда чревато
опасностью выхода за пределы обозримости программы и уж
во всяком случае никогда не может дать той общности и
гибкости, которая свойственна глобальной ответной реакции
человека.
2. Вторая трудность проявляется в связи с представлением
задачи в машинной системе. Она отражает потребность в
отделении существенного от несущественного. Обсуждая
проблемы, стоявшие перед исследователями, работавшими в области
"искусственного интеллекта" во втором десятилетии, Э. Фейген-
баум называет данную проблему "важнейшей, хотя и не поддаю-
* Ibid, (курсив мой. — X. Д.).
273

щейся самому быстрому решению"*. Он следующим образом
объясняет сущность этой проблемы:
"В эвристических программах решения проблем предусматривается, что
поиск решения в пространстве задачи направляется и контролируется
эвристическими правилами. Представление, задающее пространство задачи,
определяется отношением исследователя к данной проблеме, его точкой
зрения, и оно же предопределяет вид решения. Выбрав для задачи удачный
способ представления, можно существенно повысить эффективность
процессов поиска решения. Выбор способа представления задачи является
уделом разрабатывающего программу исследователя и есть акт
творческий" **и
Это тот самый род деятельности, который мы назвали
нахождением глубинной структуры задачи или инсайтом. Поскольку
современные вычислительные машины, включая современные
примитивные роботы, не обладают потребностями в том смысле,
в каком мы их трактовали в гл. 9, а также поскольку никто на
свете не имеет ни малейшего представления о том, как ввести
такие потребности в машину, в настоящее время нет никакой
надежды обойтись без этого "творческого акта". На данном этапе
мы можем рассчитывать в лучшем случае на разработку программ
с конкретными конечными целями, программ, служащих для
активной организации данных, а не просто пассивно
воспринимающих их. Программисты отмечают, что при анализе сложных сцен
целесообразно заставить программу сформулировать некоторую
гипотезу о том, что она могла бы обнаружить, исходя из уже
имеющихся у нее данных, и затем организовать поиск в
соответствии с этой гипотезой. Этот процесс не следует путать с тем, как
человек организует нечто, принимаемое им за данное, в терминах
поля своих намерений. Все, на что можно рассчитывать,— это на
фиксированные правила в применении к фиксированным
данным; другими словами, в программу должно быть заложено
множество альтернатив, и на основе уже имеющихся данных она
должна уметь произвести выбор одной из этих альтернатив —
наиболее вероятной — с тем, чтобы дальнейший поиск данных
происходил в соответствии с прогнозом, заключенным в альтернативе.
Таким образом, в игровые программы и в программы для
решения задач можно будет встроить конкретные
долговременные цели или набор альтернативных долговременных целей, так
чтобы в некоторых ситуациях машина делала попытку
использовать некоторые стратегии (и предсказывать стратегии
противника). Конечно, этот метод не устраняет ограничения, связанного
с тем, что все альтернативы должны быть заранее введены в
память машины и в явной форме учитываться в определенных
* Э. Фейгенбаум. Искусственный интеллект; темы исследований
во втором десятилетии развития. — Кибернетический сборник, новая
серия, вып. 10, с. 194.
** Там же.
274

местах программы, в то время как намерения человека каждое
мгновение неявно организуют и направляют его деятельность.
Таким образом, даже с учетом такого рода прогресса
вычислительная машина не может достичь гибкости, проявляемой
человеком при решении задач с открытой структурой (сфера IV);
однако эти методы были бы полезны в случае сложных
формальных задач, таких, как выбор стратегии игры или долгосрочное
планирование при организации анализа в терминах "средств и
целей".
3. Поскольку вычислительные машины не могут "находиться
в ситуации", и поскольку никто не может представить себе, как
следует подходить к программированию примитивных роботов
(даже таких, которые могут передвигаться с места на место), с
тем чтобы у них существовал свой мир, специалисты в области
вычислительных систем стоят перед решающей проблемой,
— проблемой, от которой зависит вся их работа: как заложить в
программу представление об окружающей среде, о внешнем мире
вычислительной машины. Мы видели, что существующие попытки
введения в запоминающее устройство всех фактов о внешнем
мире с целью создания некоторой внутренней модели внешней
среды наталкиваются на трудности, связанные с необходимостью
запоминания и извлечения из памяти всего этого громадного,
может быть, бесконечного объема данных. Иногда эту проблему
называют задачей разработки большой базы данных. В книге
М. Минского, как мы видели, предлагается несколько отдельных
приемов ad hoc, с помощью которых можно пытаться обойти эту
проблему, однако пока что оказывается, что ни один из них не
поддается обобщению.
Вопреки заверениям М. Минского о том, что, мол, на пути к
решению этой проблемы уже сделаны первые шаги, С.Роузен в
своем обзоре текущего состояния разработок по теме "Роботы",
осуществленных уже после исследований, рассмотренных в книге
М. Минского, признает, что в этой области все еще ощущается
острая потребность в новых методах.
"Заглядывая вперед, мы можем сказать, что если все пойдет хорошо, то
мы научимся вводить в память вычислительной машины целые
энциклопедии фактов об интересующих нас конкретных особенностях внешнего
мира; однако нам страшно не хватает новых методов организации памяти,
с помощью которых можно было бы осуществлять как быстрый поиск
информации, так и эффективные процессы логической дедукции"*.
В обзоре Э.Фейгенбаума мы, наконец, встречаемся с
признанием серьезности этой проблемы и даже с некоторым
предложением, касающимся альтернативного способа ее решения. Обсуж-
* C.A.Rose п. Machines That Act Intelligently.-Science Journal, 1968,
October, p. 114.
275

дая проект двигающегося робота, разрабатываемый в Станфорд-
ском исследовательском институте, Фейгенбаум пишет:
'Труппа Станфордского исследовательского института считает, что
наиболее неудовлетворительным элементом ее модели является
воспроизведение среды. Кроме того, она указывает, что девяносто процентов
усилий, затраченных ее специалистами на моделирование, было посвящено
именно этой части модели. Оказалось крайне сложным вложить в
вычислительную машину все то разнообразие свойств среды, которое необходимо
роботу с хорошими адаптивными характеристиками для того, чтобы он
проявил интересные формы поведения"*.
Как мы видели, человеку удается обойти эту проблему только
потому, что его модель мира есть сам мир. Любопытно, что работа
в Станфордском исследовательском институте, оказывается,
продвигается в этом направлении:
"Легче и дешевле построить робота "во плоти" для того, чтобы
выяснить, в какой информации из реального мира он нуждается, чем
синтезировать и воспроизвести на вычислительной машине модель, хорошо
представляющую объект. Грубо говоря, точка зрения группы
Станфордского исследовательского института сводится к тому, что наиболее
экономичным и эффективным хранилищам информации о реальном мире
является сам реальный мир"**.
Это интересная идея — попытаться обойти проблему большой
базы данных путем нового пересчета большинства данных,
осуществляемого каждый раз, когда эти данные оказываются
нужными. Однако пока неясно, сколь многого можно достичь на этом
пути. Здесь предполагается, что некоторое решение проблемы
целостности, обсуждавшейся выше , уже имеется, благодаря чему
в рассматриваемой сфере могут быть выделены участки,
поддающиеся распознаванию. Для этого необходим, кроме того,
некоторый способ отделения существенных от несущественных
факторов. Самым фундаментальным ограничением, присущим этому
методу, является, конечно, необходимость трактовать реальный
мир (независимо от того, хранится он в памяти робота или
считывается с телевизионного экрана) как совокупность фактов;
а ведь человек так организует мир в терминах своих интересов,
что факты должны уточняться только по мере того, как они
начинают становиться релевантными.
На что мы можем рассчитывать в ожидании развития и
применения этих более совершенных методов? Очевидно, можно
надеяться на успех в сфере II. Как подчеркивает Хао Ван, "мы
стали обладать рабами, необычайно упорными и
трудолюбивыми"***. Мы можем найти им прекрасное применение в сфере
простых формальных систем. Более того, как следует из отчетов
*Э. Фейгенбаум. Цит. соч., с. 178—179.
** Там же.
*** В а н X а о. На пути к механической математике. —Кибернетический
сборник, вып. 5. М., 1962, с. 116.
276

испытуемых, собранных А. Ньюэллом, Дж. Шоу и Г. Саймоном, и
человек иногда действует как цифровое устройство, правда, в
контексте более глобальных процессов. Поскольку мощь
цифровой вычислительной машины в манипулировании символами
превосходит соответствующие способности человека, машины
должны по мере возможности взять на себя цифровые аспекты
человеческих "информационных процессов".
Для того чтобы использовать вычислительные машины в
сферах III и IV, мы должны соединить способность машин к
быстрым и точным вычислениям с актами непосредственного
постижения, которые у человека осуществляются благодаря
периферийному сознанию, инсайту и допустимости неоднозначности.
Еще Лейбниц утверждал, что вычислительная машина может
привести к росту способностей разума в гораздо большей степени,
чем оптические инструменты усиливают глаз. Но микроскопы и
телескопы бесполезны без этого глаза, осуществляющего выбор
и интерпретацию. Так, шахматист, который мог бы обращаться к
машине для просчитывания альтернатив после того, как он
сосредоточил свое внимание на многообещающих сторонах своей
позиции, мог бы стать чрезвычайно опасным противником. Точно
так же в решении задач: после того как найдена структура задачи
и построен план поиска, машина могла бы взять на себя
разработку деталей решения (как в случае организации
снабжения запасными частями или распределения банковских
инвестиций) . Машинный словарь, позволяющий выводить на экран все
значения слова в порядке их возможной релевантности, оказался
бы полезен в задачах перевода. Вычислительные машины могут
использоваться для распознавания некоторых сложных образов,
которые человек не различает в силу того высокого положения,
которое он занимает в природе. И.Бар-Хиллел, А.Эттингер и
Дж.Пирс предлагают каждый свой вариант развития работ над
системами, осуществление которых будет способствовать
развитию симбиоза вычислительной машины и человека. На одном из
последних симпозиумов У.Розенблит заметил: "Человек *у
вычислительная машина в состоянии сделать то, что ни тот, ни другой
не могут сделать в одиночку"*.
Действительно, недавно появилось сообщение о первом
успешном использовании вычислительной машины для усиления, а не
для замены человеческого интеллекта98. Программа для
доказательства теорем, называемая SAM (Semi-Automated Mathematics
— "Полуавтоматическая математика"), нашла решение одной из
открытых проблем теории решеток". Создатели этой программы
утверждают:
"Полуавтоматическая математика представляет собой некоторый под-
*W.Rosenblith. Computers and the World of the Future, p. 309.
277

ход к доказательству теорем, при котором делается попытка сочетать
автоматические логические подпрограммы с обычными способами
доказательства, причем делается это так, чтобы возникающая в результате этого
процедура одновременно была и эффективной, и допускала вмешательство
человека в целях управления и контроля над ней. В связи с тем, что
математик при этом становится существенным фактором в процессе
поиска решения, этот подход отличается от обычных попыток
программирования доказательства теорем, в которых вычислительная машина
занимается поиском доказательств без чьей-либо помощи"*.
Естественно, можно надеяться, что математик со своим
ощущением релевантности поможет вычислительной машине
сосредоточиться на заслуживающей просчитывания области. И
действительно, именно это и происходит.
"Существует несколько способов вмешательства пользователя в
процесс доказательства. Конечно, важным фактором в определении
избираемого "Авто-Логиком" направления служит выбор пользователем исходных
формул. Слишком большое или плохо подобранное множество исходных
формул имеет тенденцию загружать "Авто-Логика" доказательством
тривиальных и неинтересных теорем, так что до интересных формул он так и
не добирается. Однако если исходное множество формул подобрано
хорошо, то "Авто-Логик" выдает полезные и интересные результаты. Как
только пользователь замечает, что "Авто-Логику" начинает не хватать
удобных способов использования исходных формул, он может остановить
процесс и ввести дополнительные аксиомы или другой материал. Он может
также направлять процесс, выбрасывая формулы, которые кажутся ему
несущественными или уводящими в сторону. Такого рода взаимодействие
в реальном времени между человеком и машиной оказалось весьма
захватывающим и плодотворным родом деятельности"**>.
Однако вместо стремления к использованию специфических
возможностей вычислительных машин, исследователи,
работающие в области "искусственного интеллекта", ослепленные своими
первоначальными успехами и загипнотизированные
^предположением, согласно которому мышление континуально100, не согласны
ни на что меньшее, кроме как на самостоятельно действующий
интеллект. Коллективный труд, составленный Э.Фейгенбаумом и
Дж.Фельдманом, открывается совершенно неприкрытой
формулировкой этого сомнительного принципа:
"Если рассматривать континуум разумных поведений, предложенный
Армером, то программы вычислительных машин, которые мы оказались
способными создавать к настоящему времени, находятся все еще на самом
низком уровне. Важно подчеркнуть, что развитие этой области идет по пути
приближения к возможностям человеческого разума. Есть ли какие-либо
основания полагать, что этот уровень никогда не будет достигнут? Такие
основания отсутствуют. Нет никаких данных, ни одного логического
*J.R.Guard, F.C.Ogl es by, J.Be n ne 11 and L.G.S e 111 e . Semi-
Automated Mathematics,— Journal of the Association for Computing Machinery,
vol. 16, No 1, January 1969, p. 49.
** J.R. Guard, F.C. О g I e s b y, J.H. Bennett, and L.G. S e 111 e. Op.
cit., p. 57.
278

аргумента или доказательства в пользу существования непреодолимых
препятствий на пути развития в пределах указанного континуума"*.
П. Армер благоразумно намекает на существование такого
барьера, однако и он настроен оптимистически. Рассматривая
вопрос о "верхней границе" машинных возможностей, он
говорит:
"В отношении вопроса о важности исследований в области дальнейшего
развития машин в нашем континууме не имеет значения, существует
верхняя граница или нет"**; "совсем не обязательно уверовать в то, что
верхняя граница ... не существует, нужно всего лишь согласиться с тем, что
она находится значительно выше того положения, которое занимают
сегодняшние машины"***.
Нынешние трудности, если мы дадим им не зависящую от
оптимистических априорных предпосылок интерпретацию,
наводят, однако, на мысль, что различные сферы разумного поведения
не связаны между собой и что мы недалеки от упомянутой
границы. Трудности продвижения вперед, наблюдающиеся в
каждом конкретном направлении "искусственного интеллекта",
создают впечатление, что в рамках какого-либо отдельно взятого
вида человеческих действий не может произойти прорыва —
прорыва частичного, локального по своему характеру, ведущего к
полностью сформировавшемуся, зрелому разумному поведению.
Программирование игр, автоматический перевод, решение задач и
распознавание образов — все зависит от специфически
человеческих форм "переработки информации", которые, в свою очередь,
основаны на умении человека чувствовать себя в мире как дома. А
это умение "находиться в ситуации" оказывается, в принципе, не
программируемым никакими мыслимыми сегодня средствами.
Достижения алхимиков, открывших методы извлечения ртути
из того, что они считали землей, оказали на них такое действие,
что после нескольких столетий безуспешных попыток
превращения свинца в золото они все еще отказывались верить, что на
химическом уровне преобразование одного металла в другой
невозможно; тем не менее, в качестве побочных продуктов, ими
были разработаны разнообразные тигли, реторты, штативы и т.д.
Точно так же в наши дни специалисты в области вычислительных
систем, не создав искусственного интеллекта, разработали
программы-сборщики, программы-отладчики, программы,
редактирующие другие программы, и т.д., а группа специалистов из Масса-
чусетского технологического института, работающая над
конструированием роботов, построила отличную механическую руку.
* Вычислительные машины и мышление, с. 31—32.
** П. Армер. Цит.соч., с. 171.
***Там же, с. 172.
279

Для того чтобы нас не постигла участь алхимиков, пора
задуматься над тем, чего же мы достигли. Именно сейчас, прежде
чем вкладывать в изучение информационных процессов
дополнительные средства и время, следует задаться вопросом,
действительно ли из сравнения отчетов испытуемых и имеющихся на
сегодняшний день программ вытекает, что машинный язык
подходит для задач анализа поведения человека. Можно ли
исчерпывающим образом разложить человеческий разум на
совокупность подчиняющихся правилам операций над
дискретными, четко определенными и не зависящими от контекста
элементами? Есть ли хоть какая-нибудь надежда на решение-
пусть приближенное — этой задачи? По-видимому, на все эти
вопросы следует ответить "нет".
Значит ли это, что все усилия и средства, вкладываемые в
"искусственный интеллект", были потрачены зря? Нет; но "нет"
только при одном условии — если вместо того, чтобы
игнорировать имеющиеся трудности, мы попытаемся понять, о чем они
говорят. Первоначальные успехи и последовавшее за ними
торможение в области моделирования процессов познания и
"искусственного интеллекта" плюс вездесущие проблемы распознавания
образов и понимания естественного языка и их неожиданная
сложность должны побудить нас сосредоточить усилия на
изучении соответствующих человеческих форм "переработки
информации", а также на исследовании основы всех этих проблем —
зависимости рассудка (принадлежащего живому человеку) от
ситуации. Без учета этих специфически человеческих способностей
можно обойтись лишь при формализации тех сфер
интеллектуальной деятельности, в которых направление "искусственного
интеллекта" добилось своих первых успехов; но в тех областях
разумного поведения, где это направление терпит неудачи, они
как раз и существенны. Следовательно, мы можем рассматривать
последние исследования в данной области как решающий
эксперимент, — эксперимент, опровергающий справедливость
традиционных предпосылок, согласно которым человеческий разум
может быть представлен в виде совокупности подчиняющихся
правилам операций над независящими от ситуации дискретными
элементами. Из всех выдвигавшихся до сих пор опровержений
данного метафизического принципа это — важнейшее. Подобный
метод воплощения наших философских допущений в технические
конструкции — метод, показывающий ограничения, присущие этим
допущениям, — открывает новый увлекательный путь в
фундаментальных исследованиях.
К.Шеннон, создатель теории информации, до некоторой
степени отдает себе отчет в том, насколько "разумные машины"
должны отличаться по своим возможностям от цифровых
устройств. При обсуждении вопроса "В чем назначение вы-
280

числительных машин?" он отметил:
"Эффективное машинное решение таких задач, как распознавание
образов, автоматический перевод и т.д., может потребовать создания
вычислительного устройства совершенно другого типа, чем то, которым
мы располагаем сегодня. Как мне представляется, это будет устройство,
естественное функционирование которого происходит с помощью образов,
понятий и смутных подобий, а не с помощью последовательных операций
над числами в десятичной системе счисления"*.
Как мы видели — и насколько мы можем судить по опыту
единственного существа, умеющего справляться с такого рода
"смутностью",— "машина", которая могла бы пользоваться
естественным языком и узнавать сложные образы, должна
обладать телесной организацией, позволяющей ей "чувствовать себя в
мире, как дома".
Однако коль скоро роботы для обработки неформальной
информации должны быть, согласно предположению К.Шеннона,
абсолютно непохожими на современные цифровые машины, то
чем же заниматься в настоящее время? Если вести речь о задаче
непосредственного программирования разумного поведения, то
ровным счетом ничем. В ближайшей перспективе мы должны
думать о "сотрудничестве" человека и цифровой машины, и
только в далеком будущем — о нецифровых автоматах, которые,
если их "поместить в ситуацию", будут демонстрировать формы
"переработки информации", существенные при общении с нашим
неформальным миром. Тех теоретиков "искусственного
интеллекта", которые считают, что лучше хоть какие-то конкретные
результаты, чем ничего, и что не следует откладывать работу в
данном направлении до того дня, когда мы будем в состоянии
создать такого рода "искусственного человека", опровергнуть
невозможно. Долгое царствование алхимии показало, что любые
исследования, начало которых принесло успех, всегда могут быть
оправданы и всегда кажутся заслуживающими продолжения в
глазах тех, кто предпочитает авантюру терпению**.Если требовать
априорных доказательств невозможности успеха, то, как мы
видели, весьма трудно показать ошибочность выбранного направ-
* C.S h a n n о п. Op. cit, p. 309-310.
** Может быть, следующая средневековая аранжировка утверждения
Э.Фейгенбаума и Дж.Фельдмана подействует на энтузиастов
"искусственного интеллекта" несколько отрезвляюще: "Если рассматривать
континуум субстанций, предложенный Парацельсом, то преобразования
неблагородных металлов, которые мы оказались способными производить к
настоящему времени, находятся все еще на самом низком уровне. Важно
подчеркнуть, что развитие этой области идет по пути приближения к
созданию философского камня. Есть ли какие-либо основания полагать,
что этот уровень никогда не будет достигнут? Такие основания
отсутствуют. Нет никаких данных, ни одного логического аргумента или
доказательства в пользу существования непреодолимых препятствий на пути
развития в пределах указанного континуума".
281

ления исследований — разве что прибегнуть к отрицанию поистине
фундаментальных допущений, общих всему точному знанию. А
эти доводы всегда можно парировать, заявив, что продвижение к
поставленной цели все-таки происходит. Но если мы согласимся
считать практические результаты критерием правильности выбора
направления приложения сил, то нам достаточно сравнить, что
предсказывалось и что исполнилось. И даже если бы не было
никаких предсказаний, а только надежды — как в области
автоматического перевода — все равно полученные результаты настолько
разочаровывающи, что говорят сами за себя.
Если бы алхимик перестал возиться с ретортами и
пентаграммами и занялся изучением глубинной структуры проблемы —
подобно тому, как первобытный человек оторвал взгляд от Луны,
спустился с дерева, научился пользоваться огнем и изобрел
колесо, — в таком случае развитие науки было бы более
плодотворным. В конце концов, через триста лет после алхимиков
мы-таки получили золото из свинца (и ступили на поверхность
Луны) — но только после того, как прекратили работу на уровне
алхимии и занялись постижением явлений химического и гораздо
более глубокого — ядерного уровня.

ПРИМЕЧАНИЯ
1. Оригинал: M.L. Minsky. Computation: Finite and Indefinite
Machines. Prentice-Hall, Inc., Englewood Cliffs, N. J., 1967. При переводе
настоящей книги ее редакторы — титульный и издательский —
стремились к тому, чтобы цитаты и ссылки на зарубежные работы,
вышедшие в СССР, были даны по русским переводам. Поскольку, однако, для
аргументации Х.Дрейфуса, вообще говоря, существенное значение имеет
как год публикации соответствующей работы, так и другие ее выходные
данные, мы в примечаниях приводим необходимые сведения об оригиналах
(это не касается классиков философии, оригиналы работ которых — если
они имеются в русском переводе — не указываются). В выходные данные
некоторых изданий, упоминаемых Х.Дрейфусом, редакторам пришлось
внести исправления и уточнения. В тех случаях, когда надлежащие
уточнения сделать не удалось, в соответствующем подстрочном примечании
оставлены только цитируемый автор и название его работы. {Стр. 7.)
2. Термин кибернетика имеет большую историю. "Древняя
кибернетика,— пишет Г.Н. Поваров, — родилась на вольном морском просторе, у
эллинов — народа-мореплавателя. Управление кораблем приобрело у
древних греков смысл наглядно-образной иллюстрации управления вообще, а
слово "кибернет" (К\)&€рРТ1ТГ}$) стало обозначать не только кормчего, но и
правителя над людьми, в широком смысле, будь то царь, архонт или тиран.
Подобное расширение значения испытал и глагол KvfiepP&U) «управляю
кораблем» и понятие Tf киРерУЦТЖТ} тё\Щ «искусство управления
кораблем, искусство кормчего»" (Г.Н. Поваров). Ампер и кибернетика.
М., "Советское радио", 1977, с. 47). Платон в своих сочинениях просто
использовал "кибернетические" термины, причем в обоих смыслах: в
прямом — как управление кораблем или колесницей (в этом смысле
кибернетика есть искусство кормчего), и в переносно-обобщенном — как
искусство управления людьми. Впоследствии термин "кибернетика" был
использован A.M. Ампером в разработанной им классификации наук
(Ампер назвал кибернетикой науку об управлении государством; см.
упомянутую выше книгу Г.Н. Поварова) ; но лишь с появлением
знаменитой книги Н.Винера " Кибернетика, или Управление и связь в животном
и машине" (1948) этот термин приобрел свой современный смысл. {Стр.8.)
3. Взгляд на Платона как на предтечу современных исследований в
области "искусственного интеллекта" имеет под собой только то
основание, что диалоги античного мыслителя ярко выразили тенденцию к четкому
формально-логическому представлению рассуждений (историческая
преемственность логических идей, связывающих Платона и современную
кибернетику, прослеживается в книге Б. В. Бирюкова и В. Н. Тростникова "Жар
холодных числ и пафос бесстрастной логики. Формализация мышления от
античных времен до эпохи кибернетики", М., "Знание", 1977). Дрейфус
же (здесь и в ряде других мест книги) развивает одностороннюю
интерпретацию платоновского учения о познании, включавшего известную теорию
знания как воспоминания души об идеальных образцах вещей,
созерцавшихся ею в мире идей до переселения в земную реальность. Попытка
представить Платона своего рода "протокибернетическим детерминистом",
толковавшим знание и практику как следование определенным правилам,
попытка, которую автор неоднократно предпринимает в книге, не
убедительна. Так, уже приведенная выше цитата из диалога "Евтифрон"
допускает не только то прочтение, которое предлагает Дрейфус (обращение к
283

"образцу" есть следование правилам), но и иное, менее "жесткое"
понимание: "образец" - это идеальный пример, которому, сам того не
замечая, следует человек. Впрочем, ниже сам Дрейфус признает, что
"правила", императив следования которым он приписывает Платону, согласно
последнему, "не могут быть полностью формализованы". {Стр. 8.)
Натяжки X. Дрейфуса в оценке роли Платона в развитии предкиберне-
тических идей становятся еще более очевидными в широком контексте
взглядов великого античного диалектика. Не излагая здесь философского
учения Платона, отметим лишь один пункт, существенный в связи с теми
историко-философскими экскурсами, которые содержатся в данной книге.
В диалоге "Государство", к которому ниже апеллирует автор,
рассматривается "идея блага" как самого важного знания. Единственно надежным и
универсальным методом постижения этой идеи является, по Платону,
диалектика, а не конкретные науки, которые изучают только
чувственно-вещественные проявления этой идеи в осязаемом видимом мире;
роль диалектического метода, комментирует Платона А. Тахо-Годи,
состоит в том, что он "потихоньку высвобождает, словно из какой-то
варварской грязи, зарывшийся туда взор нашей души и направляет его ввысь"
(Платон. Сочинения в трех томах, т. 3, М., 1971, с. 345). Таким образом,
концепция Платона весьма далека от того примитивного "следования
правилам", о котором говорит Дрейфус. (Стр. 8.)
4. У М. Минского, которого Дрейфус здесь сопоставляет с Платоном,
нет ни слова об авторе знаменитых диалогов, и эта параллель между
взглядами автора "Государства" и современными математико-кибернетиче-
скими представлениями об эффективности (которые не являются чем-то
принадлежащим исключительно М. Минскому, а составляют завоевание
современной математико-логической мысли в целом) является достаточно
искусственной. (Стр. 8)
5. Не ясно, что здесь хочет сказать Дрейфус, противопоставляя
Аристотеля Платону. На деле Аристотеля в большей мере, чем Платона, можно
считать отдаленным предтечей идей современной кибернетики, поскольку
он явился создателем формальной логики как науки, в частности
силлогистики, представлявшей собой исторически первую формальную систему.
(Стр. 8.)
6. Так мы переводим здесь биты : "bits" (это слово здесь берется в
кавычки самим автором). В последующем тексте термин bit (bits),
широко используемый в книге, переводится как "квант" ("кванты"),
если речь идет об элементарных порциях информации, не предполагающих
аппарата статистической теории информации, и "бит" ("биты"), если из
контекста следует, что понимать его можно в смысле единицы информации
теории передачи сообщений по каналу связи (где считается, что сообщение
несет 1 бит информации, если устраняет неопределенность состояния
приемника, сообщая, какая из двух единственно возможных и
равноправных альтернатив реализовалась). (Стр. 9.)
7. Это утверждение автора о Лейбнице неточно. Великий философ и
математик вовсе не считал, что ему "удалось найти" универсальный
логико-математический метод знакового представления и развития любого
знания — он лишь выдвинул замысел такого метода и пытался
продвинуться в его разработке. О том, что Лейбниц не претендовал здесь на
завершенное открытие, свидетельствует уже тот факт, что он не решился на
публикацию значительной части своих идей и разработок, связанных с
"универсальной характеристикой". Соответствующие фрагменты Лейбница
увидели свет лишь после его смерти, а некоторые — лишь в начале нашего
века. Таким образом, слова Дрейфуса о том, что Лейбниц смотрел на свою
программу как на "почти завершенную" (с. 10), не соответствуют
действительности. Однако Лейбниц и в самом деле придавал большое значение
своей программе — и, как теперь очевидно, вполне заслуженно, так как
она вдохновила многих из тех ученых XIX века, которые закладывали
284

основы математической логики — этого неотъемлемого инструмента
кибернетики наших дней. (Стр. 9.)
8. В этой и последующей ссылках издание Лейбница, которое исполь
зует автор (G.W. Le i b n i z, Selections. N.Y., 1951), заменено выпущенными
в ГДР Лейбницевыми "Фрагментами по логике". Приведенная цитата
переведена редактором с текста этого издания. Два последующих
отрывка из Лейбница даны в переводе с немецкого, сделанного А. Д. Гетмано-
вой и отредактированного С.А. Яновской (см.: А. Д. Г е т м а н о в а.
О взглядах Лейбница на соотношение математики и логики. - В кн.:
Философские вопросы естествознания. II. Некоторые философе ко-теорети-
ческие вопросы физики, математики и химии, [М.],1959, с. 189 и 188),
но со ссылкой на "Selections" 1951 г. Последний из приводимых здесь
Лейбницевых отрывков — так же как извлечения из Лейбница на
с. 172 — представляет собой перевод (с английского) цитаты,
выписанной Дрейфусом из "Selections". (Стр. 9.)
9. Ниже у автора фигурирует весьма неполный перечень равенств (рав-
носильностей), определяющих булеву алгебру; в частности, не указаны
равенства, содержащие операцию отрицания, которая необходима для
задания булевой алгебры. В качестве примера полной системы равенств,
определяющей булеву алгебру, можно указать список равносильностей,
приведенный в книге П. С. Новикова "Элементы математической логики"
(М., "Наука", 1973, с. 42). Следует заметить, что в выписанных автором
равенствах (так же как в системе равносильностей, фигурирующей в книге
П. С. Новикова) союз "или" понимается в соединительном смысле
(слабая дизъюнкция: "верно или а, или Ь, или и то и другое вместе").
Дж. Буль же в своей логической алгебре использует аналогичный
разделительный союз (строгую дизъюнкцию: "или а, или Ь, но не то и
другое вместе"). Из этого, в частности, следует, что алгебро-логическая
теория Буля не была булевой алгеброй в собственном смысле слова (хотя
логические возможности Булева логического исчисления совпадают с
возможностями булевой алгебры). Но от Буля идет построение логических
систем, переменные которых принимают одно, и только одно, из двух
значений истинности — "истинно", "ложно"; к числу таких систем
принадлежит и то, что ныне называют булевой алгеброй. (Стр. 10.)
10. Автор здесь искажает историческую перспективу. Автоматизация
вычислений до середины нашего века развивалась независимо от
математической логики, одним из ответвлений которой является булева алгебра.
Изобретения Ч. Бэббеджа в области вычислительной техники не были
связаны с алгеброй логики -- хотя бы уже потому, что сделаны они были
еще до появления первых математико-логических работ Дж. Буля:
разностная машина была сконструирована Бэббеджем в 1820—1822 гг., проект
аналитической машины был разработан им в 1834 г., а труд Дж. Буля
"Математический анализ логики" вышел в 1847 г. Таким образом,
утверждение X. Дрейфуса о том, что с появлением изобретений Ч. Бэббеджа
(вычислительная) практика стала догонять (логико-алгебраическую)
теорию, не соответствует фактам; в том смысле, который имеет в виду автор,
"практика стала догонять теорию" только с появлением электронных
цифровых машин и кибернетики. (Стр. 10.)
11. Это не совсем верно. Сын Ч. Бэббеджа после смерти отца сумел
частично достроить аналитическую машину, и в 1888 г. она вычислила и
напечатала произведение числа ТГ на числа натурального ряда с 29 знаками.
См.: Р. С. Г у т е р, Ю. Л. П о л у н о в. От абака до компьютера. М.,
"Знание", 1975. (Стр.11.)
12. Ниже автор приводит отрывок из известной статьи А. Тьюринга
"Вычислительные машины и интеллект" (A.M. Turing. Computing
Machinery and Intelligence, "Mind", 1950, vol. 59, p. 433—460; статья
перепечатана в кн.: The World of Mathematics, ed.J. R. Newma n, vol. 4, N.Y.,
Simon and Schuster, 1956, а также в кн.: Minds and Machines, ed. A. R. A n-
285

d e r s о n. Englewood Cliffs, N. J., Prentice Hall,1964); Дрейфус приводит
высказывания Тьюринга по изданию А. Андерсона 1964 г. Русский перевод
статьи, который цитируется в данном издании, выполнен по книге
Дж. Р. Ньюмена (1956 г.), в которой статья Тьюринга носит заглавие "Сап
the machine think? '.'Отметим, что "определение цифровой вычислительной
машины", о котором говорит Дрейфус, имея в виду эту (по существу,
популярную) статью Тьюринга, идейно восходит к выдающейся работе
этого же математика — его статье "On computable numbers, with an
application to the Entscheidungsproblem". Proc. London Math. Soc, Ser. 2, vol. 42,
1936- 1937. В этой статье описана абстрактная вычислительная машина,
за которой впоследствии закрепилось название "машины Тьюринга".
Обширные выдержки из этой статьи, содержащие Тьюрингову аргументацию
в пользу интерпретации своей машины в качестве идеализированного
вычислителя, приводит М. Минский в книге "Вычисления и автоматы"
(М., 1971, с. 137—142). Теория машин Тьюринга является в настоящее
время интенсивно развивающимся разделом теории эффективной
вычислимости (теории алгоритмов). (Стр. 11.)
13. Эта и другие имеющиеся в книге цитаты неанглоязычных авторов,
заимствованные из работ, которые не опубликованы в СССР, приведены
по тексту книги X. Дрейфуса, то есть по их английским переводам.
(Стр. 13.)
14. Статью К. Шеннона (C.Shannon) "Chess plaing machine" автор
цитирует по книге "Мир математики" под редакцией Дж. Р. Ньюмена,
указанной в примечании 12. Первоначально статья была опубликована в журнале
Scientific American, 1950, vol. 2. (Стр. 15.)
15. Оригинал этой коллективной монографии, в которой в качестве
главы 13 помещена данная статья А. Ньюэлла, Дж. Шоу и Г. Саймона:
A. Newell, J. Shaw and H.Simon. Computers and Thought. A
collections of articles. Ed. E. A. Feigenbaum and J. Feldman. New York — San
Francisco - Toronto - London, McGraw-Hill, 1963. (Стр. 16.)
16. Операнды — объекты (например, числа или буквы, представляющие
те или иные элементы задачи, определенные состояния системы, процесса и
т.п.), над которыми производится некоторая операция (операции).
(Стр. 18.)
17. Задача о людоедах и миссионерах, широко обсуждаемая в работах
по "искусственному интеллекту", формулируется следующим образом.
Три миссионера и три людоеда должны переправиться через реку. Имеется
лодка, которая вмещает не более двух человек. Если число людоедов на
каком-либо из берегов превысит число миссионеров, то миссионеры будут
съедены людоедами. Требуется найти способ переправы всех шести
человек, безопасный для миссионеров. Анализ этой задачи и ее обобщений
производился, в частности, С. Амарелом (S. Amarel.On representations of
problems of reasoning about actions.— In: D. Miche (ed.), Machine
Intelligence, vol. 3, N.Y., Amer. Elsevier Publ. Сотр., р. 131-171). В отечественной
литературе соответствующий материал можно найти в книге Э. В. Попова
и Г. Р. Фирдмана "Алгоритмические основы интеллектуальных роботов и
искусственного интеллекта" (М., "Наука", 1976, с. 42 и далее). (Стр. 18.)
18. Термин искусственный интеллект несет в себе двойной смысл. С
одной стороны, он используется для обозначения машинных систем,
запрограммированных так, что они проявляют, как считается, некоторые
черты интеллектуально-творческого поведения (мышления, познания),
характерного для человека; с другой стороны, он служит наименованием
комплекса исследований, направленных на разработку такого рода систем.
В некоторых контекстах (например, в выражении "задачи, которые
решаются искусственным интеллектом") происходит "интерференция"
обоих значений. В русском переводе данной книги (в отличие от
оригинала) мы, как правило, берем выражение "искусственный интеллект"
286

в кавычки, так как это позволяет лучше передать упомянутый двойной
смысл: в одном случае кавычки указывают на то, что системы
искусственного разума еще не созданы и не ясно, в какой мере на кибернетическом
пути вообще возможно приближение к идеалу разумности; в другом
случае они служат указанием того, что речь идет об определенном
исследовательском направлении. {Стр.79.)
19. Оригинал: N. Chomsky. Language and Mind. New York, Harcourt,
Brace and World, 1968. {Стр. 21.)
20. Автор, книга которого, как следует из данного высказывания, была
завершена в 1971 г. (а вышла из печати в 1972 г.), акцентирует внимание
на том, что целый ряд предсказаний Г. Саймона и других исследователей в
области "искусственного интеллекта" относительно сравнительно быстрого
решения стоящих перед ними проблем — предсказаний, сделанных в
50-х годах,— не оправдался. Последующее изложение, и прежде всего вся
первая часть книги, посвящено разбору работ 1957—1967 годов (автор
привлекает в своем критическом анализе лишь отдельные работы 1968—
1969 гг.) именно в этом плане. Действительно, развитие показало, что
трудности, возникающие перед кибернетическим моделированием
процессов познания и созданием систем, проявляющих отчетливые черты
"разумности" (в достаточно приемлемом смысле этого термина), гораздо более
значительны, чем это представлялось на заре развития кибернетики.
Однако негативные заключения Хв Дрейфуса о перспективах данного
направления, а также его резкие суждения по адресу творчески работающих
кибернетиков не представляются оправданными. Подробнее об этом см.
помещенную в конце данной книги статью редактора "Что же могут
вычислительные машины?". {Стр. 23.)
21. Pons asmorum _ мост для ослов — возникшее, как предполагают
историки математики, в схоластической науке средних веков название
предложения (теоремы) 5 книги I "Начал" Евклида. Евклидова
формулировка гласит: "У равнобедренных треугольников углы при основании
равны между собой, и по продолжении равных прямых углы под
основанием будут равны между собой" (Начала Евклида, книги I—II. Перев. с греч. и
комментарии Д. Д. Мордухай-Болтовского, М.—Л., 1950, с. 19). Как
отмечается в примечании к Евклидовой формулировке теоремы,
устанавливаемое ею свойство равнобедренного треугольника, по свидетельству Прокла,
обнаружил еще Фалес Милетский. Название теоремы, по-видимому,
"происходит о1 того, что чертеж Евклида (вместе с дополнительными линиями,
требуемыми в его несколько усложненном доказательстве) напоминает
мост, и от мнения, что тот, кто не способен перейти через этот мост, должен
быть ослом" (Г. С. М„ К о к с т е р. Введение в геометрию. М., "Наука",
1966, с. 20). {Стр.24.)
22. Оригинал: P. A r m e r. Attitudes toward intelligent machines. In:
Computers and Thought. Ed. E. A. Feigenbaum and J. Feldman, 1963. {Стр. 26.)
23. Соответствует примерно третьему разряду по шахматам в советской
спортивной классификации. {Стр. 28.)
24. Под решением задач (Problem solving) в англо-американской
кибернетической литературе понимается решение невычислительных задач,
требующее применения того или иного способа ограничения перебора
вариантов в ходе поиска требуемого результата. {Стр. 28.)
25. В отчете испытуемого под "левой и правой частями уравнения"
имеются в виду члены конъюнктивной формулы (RD—iP)*(~"i/?DQ), в
которой " • " есть знак операции конъюнкции (логического союза "и"),
Эесть знак импликации (союза "если..., То"), а "~| есть знак отрицания. В
контексте данной задачи под "уравнением" — или лучше
"равенством"-можно было бы, на первый взгляд, понимать запись {RD~1P)-
' {~1RDQ)=—}(—jG'P).Однако это равенство не справедливо, и, как следует из
приведенного на с. 286 книги "Вычислительные машины и мышление"
287

"полного хода решения данной задачи", речь идет о дедукции следствия
-](-\Q-P) из посылки (RD~]P)-(-1RDQ), При этом испытуемым
разрешалось пользоваться двенадцатью правилами пропозициональной
логики и информацией о том, что нлР эквивалентно Р. Правила 8 и 6,
которые упоминаются Х.Дрейфусом, имеют вид: (8) А'В-*А, А'В-+В,
(6) ADB-+1A У В (здесь V есть знак операции дизъюнкции,
соответствующей неразделительному логическому союзу "или", а -> означает логическую
выводимость). (Стр. 35.)
26. Рисунок 1 представляет собой русский перевод распечатки на
английском языке, выданный машиной, решившей соответствующую
задачу. (Стр. 36.)
27. На русском языке имеется два разных перевода этой работы
А. Ньюэлла и Г. А. Саймона — в кн.: "Кибернетика и живой организм"
(Киев, "Наукова думка", 1964) под названием "Моделирование
человеческого мышления на вычислительной машине" и в кн. 'Психология
мышления. Сборник переводов" (М., "Прогресс", 1965) под заголовком
"Имитация мышления человека с помощью электронно-вычислительной
машины". Оба перевода выполнены, однако, не с первичного издания
(Корпорации RAND), на которое в дальнейшем ссылается X. Дрейфус, а
с вторичной публикации в журнале "Science". Поэтому мы отказались от
цитирования по русским изданиям. (Стр. 36.)
28. Работа Хао Вана (Wang H а о. Toward mechanical mathematics.—
IBM Jorn. Res. Devel., vol. 1, № 4, 1960; русский перевод: Ван Хао.
На пути к механической математике.—"Кибернетический сборник", вып. 5,
М., 1962) представляет собой вовсе не "величайшее достижение' — ирония
авторе здесь не уместна,— а пионерскую работу в области
неэвристически-алгоритмического решения задач логической дедукции. Результаты
Хао Вана вскоре были превзойдены последующими работами. Одной из них
явилась разработка коллективом советских математических логиков под
руководством Н. А. Шанина машинно реализуемого алгоритма поиска
естественного — то есть приближенного к тому, как человек решает
подобные задачи,— логического вывода в классическом исчислении
высказываний (см.: Н. А. Шанин, Г. В. Давыдов и др. Алгорифм
машинного поиска естественного логического вывода в исчислении
высказываний. М., "Наука", 1965). К настоящему времени создано большое
количество алгоритмов и машинных программ (относящихся не только к
математической логике, но и к другим разделам математики) поиска
логических выводов и доказательств теорем — как неэвристических, так и
эвристических (отличающихся тем, что они не гарантируют решение, даже в
принципе, каждой из задач данного класса, поддающихся соответствующей
формализации). См., например, следующие статьи: Д. Правиц.
Достижения и проблемы в развитии процедур механического доказательства. —
"Кибернетический сборник". Новая серия, вып 9. М., "Мир", 1972;
Ю. В. Капитонова, В. Ф. Костырко и др. Краткий обзор и
библиография работ по автоматизации поиска доказательств теорем в
формальных теориях. — "Кибернетика", Киев, 1972, № 5; С. Ю. М а с л о в. Поиск
вывода как модель эвристического процесса. — Там же; Ю. В.
Капитонова, А. И.Дегтярев, А. В. Лялецкий. Использование
эвристики в программах для поиска доказательств теорем (Обзор). —
"Кибернетика", Киев, 1973, № 4; С. Ю. М а с л о в. Теория поиска вывода и
некоторые ее применения. — Там же, 1975, № 4. (Стр. 38.)
29. В перевод следующей ниже цитаты из русского издания книги
"Вычислительные машины и мышление" внесены коррективы стилистико-
смыслового характера. Подобные же изменения произведены и в ряде
других приводимых Дрейфусом извлечений из авторов, чьи работы
опубликованы в советских изданиях. (Стр. 39.)
30. Латинское выражение ad hoc ("к этому"), имеющее смысл "для
данного случая", "для данной конкретной цели" и широко используемое
288

автором, когда он говорит о методах, которые, по его мнению, не
допускают обобщения и в этом отношении имеют специальный или даже
искусственный характер, в данном переводе нередко передается
соответствующим контексту описательным оборотом. (Стр. 40.)
31. Оригинал данной коллективной монографии: Recognizing Patterns:
Studies in Living and Automatic Systems,ed. P. A. Kolers and M. Eden.
Cambridge (Mass.), M.I.T. Press, 1968. {Стр. 40.)
32. Так мы в данной книге переводим английское слово clue, носящее у
Дрейфуса терминологический характер. (Стр. 47.)
33. В аналогичном опыте, который проводил В. Б. Малкин,
гроссмейстер не сумел запомнить позицию, но дал ее верную оценку (сообщение
Ю. А. Шрейдера). (Стр. 49.)
34. Вряд ли можно согласиться с той оценкой перспектив работ по
эвристической алгоритмизации и программированию шахматной игры,
которую здесь и далее дает Дрейфус. Об успехах в области
программирования шахмат свидетельствует уже тот факт, что начиная с 1974 г.
проводятся чемпионаты на первенство мира между шахматными
программами. Чемпионаты приурочиваются к конгрессам МФПИ —
Международной федерации по переработке информации,— проходящими один раз в
три года. Чемпионат "шахматных машин" организуется так, что за
шахматными досками сидят авторы программ. С помощью терминалов по
соответствующим каналам связи они передают своим ЭВМ очередной ход
программы противника. Ответный ход вычислительной машины воспроизводится
на дисплее и повторяется на шахматной доске. За последние годы
соперничество шло в основном между двумя сильнейшими программами —
созданной советскими учеными (Г. М. Адельсон-Вельский, В. Л. Арлазаров,
Мв Во, Донской) "Каиссой" и разработанной в США (авторы — Д. Слейт и
Л. Аткин) "Чесе 4". На первом чемпионате мира (Стокгольм, 1974)
победу одержала "Каисса". На состоявшемся в августе 1977 г. втором
чемпионате (Торонто, Канада) модернизированная "Чесе 4.6" победила
"Каиссу". В миттельшпиле обе программы играли приблизительно в силу
второго разряда. При этом различие в уровне игры не было заметным. Но в
эндшпиле, когда существенное значение приобрела глубина
рассчитываемых вариантов, перевес оказался на стороне программы "Чесе", так как
американская машина работала быстрее и могла поэтому считать варианты
на большее число ходов. По мнению М. М. Ботвинника, однако, обе
программы страдают тем недостатком, что слабо используют чисто
человеческие приемы отбрасывания заведомо не подходящих вариантов и расчета
"релевантных" направлений игры на переменное — соответствующее
положению на шахматной доске — число ходов. Под руководством
экс-чемпиона мира по шахматам разработана программа иного рода (она получила
название "Пионер"): такая, что в нее заложены некоторые немаловажные
черты, характеризующие игру шахматного мастера. Эта
программа обещает значительное повышение класса машинной игры. На фоне
современных работ по программированию шахмат, и особенно
исследований М. М. Ботвинника, успешно работающего над созданием игровой
программы большой силы (вплоть до уровня гроссмейстера), утверждения
Дрейфуса по данному вопросу выглядят достаточно архаичными. (См.
также статью "Что же могут вычислительные машины?", с. 330 настоящей
книги.) (Стр. 50.)
35. Ср. А. Н ь ю э л л, Дж. Шоу, Г. А. С а й м о н. Процессы
творческого мышления. - В кн.: Психология мышления. Сборник переводов, с. 525—
526. В этом сборнике перевод сделан с публикации: A. Newell,
J. С. С h a w, H.A.Simon. The processes of creative thinking,—In:
Contemporary approaches to creative thinking. A Symposium held at the University of
Colorado. H. E. Gruber, G. Terrell, M. Wertheimer (eds ). N.Y.,
Amsterdam Press, 1963. (Стр. 62.)
289

36. Оригинал: G.A.Miller, E. G a I a n t e r, K.H.Pribram. Plans
and the Structure of Behavior. N.Y.. Henrv Holt and Сотр.. 1960. {Стр. 62.).
37. В опубликованном в "Кибернетическом сборнике" переводе этого
места ошибочно говорится о шахматной программе. {Стр. 65.)
38. В приводимой далее цитате М. Мерло-Понти - а вслед за ним и
X. Дрейфус — ошибаются, приписывая описываемый ниже эксперимент
В» И., Пудовкину. В действительности эксперимент был произведен
советским кинорежиссером Л. В. Кулешовым. Исчерпывающую справку по
этому вопросу можно найти, например, в книге А. В. Караганова
"Всеволод Пудовкин" (М., "Искусство", 1973, с. 14) : "Хрестоматийно известен
эксперимент Кулешова с переосмысливанием внутри кадрового материала
путем изменения монтажного контекста: крупный план лица артиста
И. Мозжухина по-разному читается, когда монтируется с изображением
молодой женщины в гробу, дымящейся тарелки супа или играющей
девочки. (Кстати, пудовкинское описание этого эксперимента — в книге
"Кинорежиссер и киноматериал"—стало первоисточником для всех
последующих его толкователей, для исследования понятия "эффект Кулешова",
вошедшего в эстетическую сокровищницу мирового кино.)" {Стр. 72.)
39. Автор недооценивает значение теории расплывчатых (нечетких,
размытых) множеств Л. Заде. Эта бурно развивающаяся теория охватила
ныне "расплывчатой логикой" не только теоретико-множественные и
логические понятия, но и алгоритмы, автоматы, графы, системы
управления и т.п.; она привела к новым подходам к семантике естественных
языков, к вопросам принятия решений и пр. Подробнее об этом см. в
статье редактора "Что же могут вычислительные машины?", с. 308—310
настоящей книги. {Стр. 74.)
40. Вопреки автору, никакого "затишья" в области моделирования
процессов познания не наступило. Из того, что отдельные предположения
кибернетиков относительно перспектив тех или иных линий исследований
не оправдались, вовсе не следует какого-то "крушения" всего направления
моделирования и автоматизации интеллектуально-творческих процессов.
Наоборот, за годы, истекшие со времени написания книги Дрейфуса,
модельно-кибернетические представления и средства исследования прочно
вошли в арсенал анализа и объяснения познавательных механизмов, а
содружество кибернетиков и психологов приобрело в данной
исследовательской области во многом регулярный характер. См. статью "Что же
могут вычислительные машины?", помещенную в конце данной книги.
{Стр. 77.)
41. Это противопоставление моделирования познавательного процесса
(процессов) работам в области "искусственного интеллекта"— области, в
которой центральную роль играет переработка семантической
информации,— достаточно натянуто и отражает разве что вполне естественную
динамику в акцентах единого по своему "замыслу" направления
кибернетических исследований (так же как и соответствующие изменения в
терминологии) — направления, в меру своих возможностей старающегося
учесть интимнейшие феномены осмысления и понимания, свойственные
человеку. {Стр. 78.)
42. Обращаем внимание читателя на различный смысл термина
"кибернетика" в отечественной и зарубежной, в частности американской, научной
литературе. В нашей стране под кибернетикой понимается научное
направление, охватывающее комплексным изучением процессы управления и
переработки информации в сложных динамических системах различной
природы (техника, жизнь, социальные процессы), в котором используются
точные методы математики и средства современной автоматики, прежде
всего ЭВМ. При таком понимании кибернетики в область ее исследований
входят как теория автоматов и вычислительных систем, так и
моделирование познавательных процессов и "искусственный интеллект". В США
290

термин "кибернетика" применяется в более узком смысле — как правило,
для обозначения работ по моделированию процессов и систем живой
природы, включая человеческую форму переработки информации.
Поэтому принятому в советской литературе понятию "кибернетика" в
американской литературе соответствует набор различных терминов, в частности
(general) system theory и computer science. (Стр. 79.).
43. Вряд ли можно согласиться со столь пренебрежительной оценкой
разработок в области персептронов. Работа Ф. Розенблата (F
Rosenblatt. Principles of Neurodynamics. Perceptrons and the Theory of Brain
Mechanisms. Washington, D.C., Spartan Books, 1962; русский перевод:
Ф. Розенблатт. Принципы нейродинамики. Персептроны и теория
механизмов мозга. М., "Мир", 1965) в свое время была пусть скромным,
но шагом вперед в моделировании некоторых нейродинамических
структур. Возможности и ограничения, присущие схеме Розенблата (как и пер-
септронам вообще), быстро были выявлены исследователями; связанные
с этим вопросы проанализированы М. Минским и С. Пейпертом в их книге
"Персептроны" (М. Minsky, S. Paper t. Perceptrons. An Introduction
to Computational Geometry. Cambridge, Mass., and London, M.I.T Press, 1969).
(Стр. 80.)
44. Оригинал издания, в котором опубликована данная статья М.
Минского, представляет собой тематический выпуск журнала "Scientific
American", vol. 215, № 3, September, 1966. (Стр. 82.)
45. Аналогом этого примера на русском языке может служить фраза
"число попыток отнять мячик у собаки", где "отнять" может
рассматриваться как оператор "вычесть". (Стр. 83.)
46. Автор прав, подчеркивая глубокие различия между машинным
"пониманием" и осмыслением человеком явлений реальности и своего
внутреннего мира — осмыслением, связанным с феноменом сознания.
Однако невозможно согласиться с категорически негативной оценкой
Дрейфусом возможности кибернетического моделирования
некоторых — быть может, и существенных — черт человеческого понимания.
См. об этом статью "Что же могут вычислительные машины?".
(Стр. 86.)
47. Язык со структурой непосредственных составляющих — язык,
рассматриваемый в качестве множества выражений, возникающих в ходе
порождающего процесса, регулятивы (правила преобразования) которого
учитывают, грубо говоря, контексты тех выражений, которые
подвергаются изменениям по соответствующим правилам. ^Языки с подобной
структурой были впервые изучены в работах Н. Хомского. См.:
А. В. Гладкий. Формальные грамматики и языки. М., "Наука", 1973.
(Стр. 89.)
48. Имеется в виду фигура А на рис.2. (Стр. 91.)
49. Критика X. Дрейфусом рассматриваемых им машинных программ
за то, что они — каждая в отдельности — не допускают обобщения и
развития, делающего их применимыми к более широкому и сложному
кругу задач, бьет мимо цели, так как прогресс в кибернетическом
моделировании процессов познания и создания систем "искусственного
интеллекта" происходит не столько путем усовершенствования имеющихся
программ, сколько посредством разработки новых алгоритмов и их
машинных реализаций, основанных на новых идеях и обладающих более
богатыми возможностями. При этом исследователи вовсе не "остаются на
безопасном расстоянии от подлинной проблемы сложности", как
утверждает автор, но как раз и работают над ее решением, не пытаясь предрешить
вопрос о том, в какой мере последнее окажется теоретически возможным и
практически осуществимым. (Стр. 97.)
50. Статья Ф. Тонга, входящая в раздел 3 части I данного
коллективного труда, опубликована в нем с сокращениями. Цитируемый ниже текст
в книге "Вычислительные машины и мышление" отсутствует. (Стр. 100.)
291

51. Для кибернетического моделирования познавательных
процессов — а если говорить о позиции автора, для формулируемых им
"допущений"— существенно не то, что переработка информации может
производиться в двоичном коде, а то, что ее возможно представить как процесс
преобразования конечных последовательностей (слов), состоящих из
знаков некоторого (быть может, и весьма богатого) алфавита. Ниже, в
примечании нас. 168, Дрейфус сам фактически отмечает это
обстоятельство. {Стр. 106.)
52. Это утверждение Дрейфуса — которое в различных вариациях
неоднократно повторяется в книге — свидетельствует об упрощенном
представлении автора о "философской традиции". В статье "Что же могут
вычислительные машины?" читатель найдет относящиеся к этому вопросу
необходимые разъяснения. Здесь мы только отметим, что если уж говорить о
традиции, которая связывает духовное наследие прошлого с современной
кибернетической установкой в изучении мышления и поведения человека,
то ее, скорее всего, следует искать в идеях дедуктивной логики,
связующих Лейбница с Дж. Булем, Г. Фреге и Д. Гильбертом и в середине нашего
века приведших к мощным концепциям и теориям современной
математической логики. {Стр. 106.)
53. Автор очень узко понимает логические отношения — только как
логику высказываний, принимающих значение "истинно" либо "ложно". На
деле современные методы логической формализации охватывают не только
эти — элементарные — логические средства и не только их расширение в
более богатую выразительно-дедуктивными возможностями логику
предикатов, но и гораздо более широкий спектр логических построений (см.
статью "Что же могут вычислительные машины?", с. 319 данной книги).
{Стр. 106.)
54. Оригинал: J. von Neumann. Probabilistic logic and the synthesis
of reliable organisms from unreliable components.—In: Automata Studies, ed.
C. E.Shannon and J. McCarty. Princeton Univ. Press, 1956. В перевод данной
и следующей цитат из фон Неймана, опубликованных в советских
изданиях, редактором внесены уточняющие изменения. {Стр. 109.)
55. Оригинал: J. von Neumann. The general and logical theory of
automata.—In: Cerebral Mechanisms in Behavior. The Hixon Symposium, ed. A. Jef-
fress. New York — London, 1951; статья перепечатана во втором томе 'Мира
математики" (см. прим. 12). {Стр. 110.)
56. Аналоговый характер функционирования той или иной системы
вовсе не является принципиальным препятствием для ее точного
описания, что ниже признает и сам автор, и данное высказывание нельзя
квалифицировать иначе, как выражение агностической установки в
отношении познания нейрофеноменов. {Стр. 111.)
57. Оригинал: C.E.Shannon. The mathematical theory of
communication.—In: C.E.Shannon and W. Weaver. The Mathematical Theory of
Communication. Urbana, Univ. of Illinois Press, 1962. {Стр. 115.)
58. Имеется в виду статья К„ Шеннона "Бандвагон" (1956). Шеннон
говорит в ней, что "основные положения теории информации касаются
очень специфического направления исследования, направления, которое
совершенно не обязательно должно оказаться плодотворным в психологии,
экономике и в других социальных науках... Я лично полагаю, что многие
положения теории информации могут оказаться очень полезными в этих
науках; действительно, в ней уже достигнуты некоторые весьма
значительные результаты. Однако поиск путей применения теории информации в
других областях не сводится к тривиальному переносу терминов из одной
области науки в другую. Этот поиск осуществляется в длительном
процессе выдвижения новых гипотез и их экспериментальной проверки".
(К.Шеннон. Работы по теории информации и кибернетике, с. 668.)
Шеннон, таким образом, вовсе не был противником распространения
292

теоретико-информационных методов на изучение семантических
(осмысленных, значимых для человека) сообщений. Последующее развитие
теорий семантической информации — начиная с теории Р. Карнапа и И. Бар-
Хиллела — показало, что хотя эти теории пользуются иным кругом понятий
и другим формализованным аппаратом, чем статистическая теория связи
(прежде всего понятиями и аппаратом логики), они могут (и должны)
быть согласованы с классической шенноновской теорией передачи
сообщений по каналу связи. О теориях семантической информации и вообще об
имеющихся подходах к логической теории смысла (значения) сообщений,
в частности в работах советских ученых, см., например, в кн.: Управление,
информация, интеллект, под ред. А. И. Берга и др. (М., 'Мысль", 1976,
ч.Щгл.П). (Стр. 115.)
59. Термин information processing в данной книге в зависимости от
контекста переводится двояко: и как "переработка (обработка)
информации" (терминология, принятая в теории информации и технической
кибернетике) , и как "информационный процесс (процессы)" (терминология,
используемая чаще всего в психолого-кибернетической литературе).
Следует заметить, что данный термин автор связывает исключительно с
дискретной переработкой информации. Употребление этого понятия
в отечественной литературе необязательно предполагает подобное сужение,
хотя бесспорно, что в кибернетике широко используется математический
аппарат описания дискретных структур и систем. {Стр. 116.)
60. Это утверждение Дрейфуса не совсем ясно. Если бы мозг был
гигантским скоплением нейронов, случайные связи между которыми не
были бы подчинены никаким закономерностям, то он не мог бы
целесообразно функционировать. Поскольку же упомянутые закономерности
имеются, мозг как раз и оказывается сложной динамической системой в
смысле кибернетики; вероятностный характер функционирования системы
вовсе не противоречит определенной регулярности ее поведения, как,
по-видимому, считает автор. {Стр. 116.)
61. Оригинал: Т h. Kuhn. The Structure of Scientific Revolutions.
Chicago, Univ. of Chicago Press, 1962 (русский перевод сделан со
второго, дополненного издания 1970 г.). {Стр. 123.)
62. По-видимому, имеется в виду планирование в смысле, близком к
тому, что под этим понятием подразумевают Дж. Миллер, Е. Галантер и
К. Прибрам в книге "Планы и структура поведения" (план — это "всякий
иерархически построенный процесс в организме, способный
контролировать порядок, в котором должна совершаться какая-либо
последовательность операций", с. 30). {Стр. 125.)
63. В своей интерпретации этой фразы автор использует тот факт, что
местоимение he (он) в английской речи применяется обычно к
одушевленным предметам. (Стр. 131.)
64. Лилибурлеро (Lilliburlero) — ирландская мелодия; сочинена либо
обработана выдающимся английским композитором и органистом XVII
века Г. Переел л ом. В конце ХК— начале XX столетия легла в основу
известной песни ирландских ультрапротестантов "Protestant Boys ". (Стр.
138.)
65. Возражения автора против реальности уровня информационных
процессов в применении к человеческой психике и поведению не
убедительны по крайней мере в том отношении, что "инварианты", о которых идет
речь в приводимой в книге цитате из Дж. Фодора, на деле достаточно
убедительным образом выделимы на путях модельно-кибернетического
исследования. См. статью "Что же могут вычислительные машины?",
где в этой связи отмечаются работы советского исследователя Р. X. Зари-
пова. (Стр. 140.)
66. Так переведен используемый здесь автором термин performance. В
этой главе Дрейфус широко использует идущее от Н. Хомского
противопоставление лингвистической компетенции (linguistic competence), то
293

есть знания языка его носителем, и употребления языка (linguistic
performance), то есть реального использования языка в конкретных
ситуациях (см.: Н. X о м с к и й. Аспекты теории синтаксиса, IMJ, Изд-во
Московского ун-та, 1972, с. 9), распространяя его за пределы сферы языка
и речи и охватывая им поведение вообще (ср. использование понятия
компетенции уже в слрздующем абзаце); далее, в разделе "Ошибочный
аргумент, основанный на успехах современной лингвистики" данной главы
пределы этого противопоставления сужаются до области собственно
(психолингвистики (по Хомскому). В недавно вышедшей книге Д. Слобина и
Дж. Грина "Психолингвистика" (перев. с англ., М„ "Прогресс", 1976)
упомянутые понятия Хомского переводятся соответственно как
"языковая способность" и "языковая активность". Однако данный перевод
затрудняет переход к тому обобщенному смыслу этого
противопоставления, которым очень часто оперирует Дрейфус. Поэтому мы отказались от
этих — весьма удачных — русских терминов и в зависимости от контекста
варьируем русскоязычные эквиваленты обоих английских выражений;
performance большей частью передается как действия,
исполнение (правил), использование, употребление,
применение и т. п.,a competence— как компетенция, знание. Фигурирую
щие ниже в тексте Дрейфуса термины theory of competence, theory of
performance переводятся соответственно как "теория компетенции' и "теория
деятельности". (Стр. 143.)
67. Оригинал: N.Chomsky. Aspects of the Theory of Syntax.
Cambridge (Mass.), M.I.T. Press, 1965. (Стр. 154.)
68. В оригинале: The idea is in the pen. (Стр. 158.)
69. Имеются в виду законы естественного и точного знания (англ.
science). (Стр. 160.)
70. База данных — массив информации, хранящейся в памяти цифровой
вычислительной машины (или вычислительной сети), с которым
взаимодействуют вводимые в машину программы. (Стр. 169.)
71. Тезаурус — список выражений (словарь), отражающий
семантические (смысловые) связи, существующие между выражениями некоторого
языка или его фрагмента (принадлежность некоторых выражений к одной
и той же смысловой рубрике; синонимия; отношение логического
подчинения; связи части и целого между объектами, обозначаемыми
соответствующими выражениями, и т.п.). (Стр. 170.)
72./'Маленький Джон искал свой ящик с игрушками. Наконец он его
нашел. Ящик был в его манеже. Джон очень обрадовался". Английское
слово реп в числе своих многочисленных значений имеет: "ручка (для
письма) ", " (детский) манеж" и "загон (для скота) ". (Стр. 177.)
73. "Маленький Джонни играл на полу рядом со своим манежем
( реп ). Красной ручкой (реп) на зеленом листе бумаги он рисовал
картинку. Закончив рисовать, он стал искать свой ящик с игрушками и
нашел его в манеже ( реп )" . (Стр. 177.)
74. Имеется в виду теория принятия человеком решений, касающихся
осмысления высказываний и выбора способа речевого поведения.
(Стр. 179.)
75. Референт — внеязыковой объект, являющийся значением данного
языкового выражения. (Стр. 179.)
76. Хэш-кодирование (hash coding), или расстановочное
кодирование, — кодирование номеров ячеек машинной памяти, при
котором необходимая последовательность ячеек выбирается с помощью
расстановочной функции, выдающей номер очередной ячейки по
аргументам, значениями которых являются номера ранее выбранных ячеек.
(Стр. 181.)
77. Критика понимания человека как пассивного 'объекта" или
"устройства"— в своей рациональной части — имеет иные и гораздо более
глубокие философские истоки, нежели те, которые усматривает X. Дрей-
294

фус. См. об этом статью "Что же могут вычислительные машины?', с. 321 —
322 настоящей книги. {Стр. 197.)
78. Отождествление "моральной" невозможности и практической
неосуществимости здесь не совсем точно. Невозможность машинного разума
вытекает из религиозно-философской концепции Декарта, согласно
которой "бог создал разумную душу и... соединил ее с телом" (Р. Д е к а р т.
Рассуждение о методе. В кн.: Р. Декарт. Избранные произведения. М.,
195Q, с 293), автоматы же лишены души. Отсюда Декарт делает вывод, что,
если бы были созданы говорящие машины, поведение которых имитирует
человеческое, "они никогда не могли бы пользоваться ни словами, ни
другими знаками, составляя их так, как делаем это мы, чтоб передавать
другим наши мысли" (там же, с. 31 )„ (Стр. 199.)
79. Здесь под феноменологией автор имеет в виду философское
направление, связанное с именем Э. Гуссерля. Соответствующее
прилагательное ниже часто употребляется в смысле "относящееся к
феноменологии". Вместе с тем на протяжении всей книги автор использует его и в
более общем (но в изложении Дрейфуса связанном с гуссерлианеким)
смысле "относящегося к миру явлений", данного человеку в его
психической жизни. (Стр. 201.)
80. В следующем ниже анализе феноменов восприятия и мышления,
в отношении которых Дрейфус верно подчеркивает аспекты их
целостности и заключенного в них предвсхищения (установки), автор
апеллирует к психологическим выводам трансцендентальной
феноменологии (Гуссерль), экзистенциальной феноменологии (Мерло-Понти), а
также к гештальтпеихологии. Если оставить в стороне философскую
ориентацию этих направлений, которая, в общем, не существенна для
аргументации автора (и в отдельных пунктах даже критикуется им, ср. с. 210), —
то окажется, что соответствующие взгляды (в их разумной, а не крайней
форме, представленной у Дрейфуса) не являются чем-то новым, а
составляют, пожалуй, "общее место" научной психологии. Во всяком случае
представления о целостности восприятия и моментах осмысления и
предвосхищения, в нем заключенных, прочно входят в арсенал отечественной
психологической мысли, развивающей традиции Л. С. Выготского,
Д. Н. Узнадзе, С. Л. Рубинштейна и А. Р. Лурия. (Стр. 202.)
81. В сводных библиографических справочниках-каталогах книг,
изданных неанглийском языке (Cumulative Book Index. A world list of books in
the english language. The N. W. Wilson Сотр., Bronks, N.Y.; BPR: American
Book Publishing Record Comulative. R. R. Bowker Сотр., New York and
London) данные об этой книге как вышедшей из печати в 1972—1977 годах
титульным редактором книги не обнаружены. То же касается и книги
Дрейфуса о С. Кьеркегоре, о предстоящем выходе которой в свет автор
говорит в примечании на с. 248. (Стр. 206.)
82. Гилетические данные (hyletic data) — отгреч. uXl?, означающего
"вещество", "материал", "материя". (Стр. 206.)
83. В перевод цитируемых слов М. Минского, как он фигурирует в
указываемом источнике, внесены существенные изменения. (Стр. 208.)
84. Логическая ошибка поп sequitur (лат.) — "не следует' заключается
в том, что некоторое суждение, логически не вытекающее из данных
суждений (посылок), тем не менее принимается в качестве их следствия.
(Стр. 211.)
85. Wunderbare (нем.) — чудесная, удивительная (способность). (Стр.
212.)
86. С лингво-информационным аспектом этой работы читатель может
ознакомиться по книге Т. Винограда "Программа, понимающая
естественный язык" (М., 1976; оригинал вышел в 1972 г.). О значении этой
работы М. Минский говорил на Первой советско-американской
конференции по проблеме связи с внеземными цивилизациями, состоявшейся в
295

сентябре 1971 г. в Бюракане (Армения) (см. Проблема CETI (Связь с
внеземными цивилизациями), М., "Мир", 1975). (Стр. 215.)
87. Негативная оценка автором перспектив роботостроения не может не
вызвать возражений. Реальным ее опровержением является уже советский
луноход. Разработки в области роботостроения идут в нарастающем темпе,
хотя, разумеется, никто из специалистов, занятых в данной области, не
ставит перед собой задачи "замены" человека автоматом. (Стр. 216.)
88. Психологическая теория Ж. Пиаже достаточно далека от гештальт-
психологии. Концепция "системности" операций интеллекта, разработанная
швейцарским психологим, в определенном отношении ближе к "общей
теории систем" (Л. Берталанфи) и некоторым современным
кибернетическим идеями, чем к психологии "гештальта". (См. М. Г. Я р о ш е в-
с к и й. Психология в XX столетии. Теоретические проблемы развития
психологической науки. М., Политиздат, 1971, с. 237 и ел.). (Стр. 218.)
89. Это касается поздней фазы развития философских взглядов
Витгенштейна. (Стр. 231.)
90. См. также: Вычислительные машины и мышление, с. 302 и ел.
(Стр. 232.)
91. Функцией полезности называется функция, отражающая
предпочтение одних альтернатив перед другими в некоторой ситуации,—
предпочтение, которым руководствуется лицо, принимающее решение, в своем
стремлении максимизировать положительный эффект собственного
поведения. Характер функции полезности (принимающей значения из
некоторого числового множества) существенно зависит от логических свойств
рассматриваемого отношения предпочтения и от способа оценки
("взвешивания") альтернатив. (Стр. 241.)
92. Не ясно, что хочет сказать автор в этой и следующей фразе.
По-видимому, он имеет в виду, что любые два объекта обладают
некоторым набором общих свойств, а различение объектов означает выделение
свойств ("более важных признаков"), которые присущи одному из них, но
не присущи другому. (Стр. 242.)
93. Оригинал: W. R. R e i t m a n. Cognition and Thought. An Information-
Processing Approach. New York - London - Sydney, J. Wily and sons,
(Стр. 245.)
94. Это, разумеется, не относится к диалектико-материалистической
"философской и психологической традиции". В советской психологии и
социологии в полной мере учитывается значение потребностей —
физиологически-материальных, ителлектуальных и особенно
социально-нравственных — как регуляторов поведения. (Стр. 246.)
95. Согласно психологической теории Ж. Пиаже, процесс формирования
интеллекта —от первых реакций младенца до развитого мышления
взрослого — необходимо проходит четыре качественно
различных с т а д и и, из которых завершающая является стадией "формальных
операций", то есть стадией овладения формальной логикой и навыками
дедуктивно-гипотетического мышления. (Стр.264.)
96. Работа Б. Паскаля "О духе геометрии" (Эе I'esprit geometrique) и
тематически связанная с ней работа "Об искусстве убеждения" (De I'art
de persuader) посвящены характеристике математического мышления и
формулировке некоторых важных принципов формальной логики (см.
B.Pascal. Oeuvres, vol. IX. Paris, 1914). Ниже, используя аналогию
с паскалевым "духом геометрии", автор называет выделяемую им сферу
IV разумного поведения обителью esprit de finesse — "духа
проницательности". (Стр. 266.)
97. Из отечественных работ, в которых проводится различение форм
интеллектуальной деятельности — формализованной (формализуемой),
эвристической и творческой, — можно назвать коллективный труд
"Управление, информация, интеллект", на с. 316—317 которого читатель может
296

найти предложенное 3. Л. Рабиновичем схематическое представление
соотношения упомянутых проявлений человеческого разума. (Стр. 269.)
98. Интересная идея разработки системы автоматической дедукции для
математики, предполагающая такое взаимодействие людей-пользователей с
вычислительно-информационным комплексом, которое приводит к
обогащению дедуктивно-выразительных возможностей системы, предложена
В.М. Глушковым (см. В. М. Г л у ш к о в, Ю. В. Капитонова.
Автоматизация поиска доказательств теорем математических теорий и
интеллектуальные машины.— "Кибернетика", Киев, 1972, № 5; Ф. В. А н у-
фриев, 3. М.Асельдеров. Алгоритм очевидности,— Там же;
"Управление, информация, интеллект", параграф "Новый подход к
автоматизации дедуктивных построений. Алгоритм очевидности".), (Стр. 277.)
99. Теория решеток (lattice theory), или теория структур, — теория
алгебраических систем определенного вида, частным случаем которых
является булева алгебра. (Стр. 277.)
100. Автор имеет в виду взгляды П. Ар мера, согласно которым
"мышление — это континуум, п-мерный континуум" (П. Ар мер. О
возможностях кибернетических систем. В кн.: М.Таубе. Вычислительные
машины и здравый смысл. Миф о думающих машинах. М., "Прогресс",
1964); градации возможностей мышления (рассматриваемого в различных
"измерениях") располагаются не на прерывной, а на непрерывной шкале;
для развития машин в этом "континууме", по Армеру, не существует
априорных ограничений. (Стр. 278.)

ЧТО ЖЕ МОГУТ ВЫЧИСЛИТЕЛЬНЫЕ МАШИНЫ?
ВМЕСТО ПОСЛЕСЛОВИЯ*
Ничто кардинально новое не входит спокойно в науку и практику.
Буря — вот что обычно сопровождает появление идей и решений, ломающих
сложившиеся представления. Кибернетика — яркий тому пример.
Этому комплексу методов и теорий, пронизанному
В гуще споров идеями управления, информации и моделирования
и спаянному лозунгом математической точности,
для реализации которого привлекаются средства автоматики, на протяжении
всей его еще очень короткой истории сопутствуют острые дискуссии. Их
главное содержание -- вопрос о соотношении возможностей машины
(автоматического устройства, вычислительной сети, системы для переработки
информации и т. п.) и человека, обладающего психикой, сознанием и
самосознанием. Вопрос этот перерастает в проблему осуществимости
кибернетического "воспроизведения" интеллекта — частичного или "полного", то
есть в проблему возможности "искусственного кибернетического
разума".
Проблема эта мало кого может оставить равнодушным, так как
неотделима от вопроса о познании человеком самого себя, вопроса, как
магнит притягивавшего пытливую мысль на протяжении веков. Именно
этот последний вопрос прежде всего стоит за современными
исследованиями природы живого. Именно он во многом дал — и продолжает
давать — импульс экспериментальной и теоретической психологии. Ион же
придает волнующую актуальность изучению человеческой психики и
поведения на новом для науки пути — на пути теоретико-кибернетического и
вычислительно-информационного моделирования человеческих феноменов
восприятия, мышления, решения задач, прогнозирования и творчества. Ибо
впервые в истории сферы разума на нашей планете — ноосферы —
открылась возможность передачи машинам ряда таких форм интеллектуальной
деятельности, которые до недавнего времени считались исключительной
прерогативой человека.
Вопрос о перспективах искусственных кибернетических систем — и
прежде всего соответствующим образом запрограммированных
универсальных цифровых вычислительных машин — в реализации форм
поведения, которые в каком-либо смысле можно признать "разумными", вот уже
30 лет стоит на "повестке дня" философско-кибернетических обсуждений.
Спорящие стороны с разных позиций пытаются внести ясность в проблему
возможности либо невозможности наличия принципиальных разли-
Автор выражает признательность коллегам, любезно предоставившим
в его распоряжение некоторые свои материалы либо оказавшим помощь
своими консультациями: М. В. Арапову, М. М. Ботвиннику, В. Л. Добла-
еву, И. Б. Новику, Ю. В. Орфееву, Г0 Н. Поварову, Д, А. Поспелову,
В. Л. Стефанюку, С. М. Шевенко и Ю. А. Шрейдеру. Он благодарит также
Оо Нв Кессиди, чье квалифицированное редакционное вмешательство
содействовало существенному улучшению данной статьи.
298

чий между "машинно-вычислительным миром" и человеческим сознанием.
Дискуссии проходят на разных уровнях научной квалификации и
философской культуры их участников. Нередко они не столько проясняют,
сколько затемняют суть дела. Но при всем том в них возможно усмотреть
два противоположных подхода. Один из них можно назвать подходом с
позиции "кибернетического оптимизма". Этой позиции подчас
придерживаются некоторые специалисты по математическому обеспечению
вычислительных систем, занятые программированием "интеллектуальных"
(то есть не специфических математико-вычислительных) задач. Их
противники — обычно представители "традиционных" областей знания, в
особенности гуманитарного. "Кибернетические оптимисты" увлечены широкими
горизонтами, открывающимися перед приложениями вычислительной
техники. Их оппоненты, признавая значение и растущие перспективы
внедрения автоматизации в область интеллектуального труда, подчеркивают,
однако, что эти успехи не распространяются на человеческое творчество.
Специфически человеческие процессы созидания новых научных и
культурных ценностей, по их мнению, не могут быть переданы машине.
Коль скоро это так, парируют этот довод "оптимисты", придется
допустить, что человек наделен чем-то, не поддающимся объяснению, по
крайней мере в той форме, которая принята в "точном" естествознании. В
ответ следует возражение, что естественнонаучные критерии не совсем
адекватны задачам изучения человеческой психики и социальных
процессов...
Своеобразие интеллектуальной атмосферы, в которой происходит эта
дискуссия, состоит в том, что защита человеческого суверенитета от
"неумеренных претензий" кибернетиков создает, как ни парадоксально,
благоприятную почву для провозглашения огромных (или даже
неограниченных) возможностей "искусственного разума". Дело в том, что
специалисты, работающие в различных областях кибернетики, строят свои
рассуждения в соответствии со схемами, принятыми в "классической"
науке; опираясь на реальный прогресс в области вычислительной
математики и автоматики, владея навыками формализации, они, как правило,
четко формулируют свои установки и результаты, чего нельзя сказать об их
оппонентах, нередко апеллирующих к непосредственно данному личности
внутреннему миру. Но характерно, что в пылу полемики как
"гуманитарии-пессимисты", так и "кибернетики-оптимисты" обращаются к сфере
психического, в частности к той ее части, которая находится за порогом
сознания. Первые, к примеру, утверждают, что психика — как в ее
осознанной, так и подсознательной форме — отсутствует у вычислительных машин.
Вторые, со своей стороны, настаивают на том, что в мозгу человека
происходят скрытые "информационные процессы'', подобные процессам
вычисления, реализуемым на ЭЦВМ.
Но и среди кибернетиков нет единства. Их взгляды варьируют, в
частности, в зависимости от того, в какой мере привлекаются
психологические данные. Кроме того, на аргументации "оптимистов" нередко лежит
печать философского непрофессионализма. На Западе импонирующая
самолюбию человека мысль о великих возможностях созданной обществом
науки, способной сконструировать мощный искусственный интеллект без
кавычек, была подхвачена многими философами неопозитивистской
ориентации. Противники этой "оптимистической" доктрины изображались
занимающими "страусову позицию" (выражение А.Тьюринга) перед лицом
грядущей опасности пришествия роботов либо просто обвинялись в
некомпетентности. Преобладание таких крайних взглядов привело к тому,
что в научной литературе США и Западной Европы было мало
квалифицированных работ, авторы которых старались бы трезво осмыслить
возможности и пределы нового научного направления. Монография X.
Дрейфуса является в этом отношении исключением.
299

Философские аспекты моделирования на ЭЦВМ
Х.Дрейфус как критик процессов познания и создания систем "искус-
искусственного разума ственного интеллекта" Хьюберт Дрейфус,
являвшийся в период выхода данной книги
профессором университета в Беркли (шт. Калифорния), разрабатывал с середины
60-х годов. Первоначальный краткий вариант данной книги составило
исследование, выполненное им в период работы в качестве консультанта
известной американской фирмы RAND. Первые критические выступления
Дрейфуса не встретили понимания среди западных кибернетиков — по
выражению А. Эттингера, написавшего предисловие к книге X. Дрейфуса
(не вошедшее в данное издание), на него тогда "просто орали". Но когда
книга Дрейфуса вышла в свет, она не могла не обратить на себя внимание.
Ибо в лице ее автора специалисты по "искусственному интеллекту" нашли
такого критика, который ведет дискуссию на их собственном языке и
владеет необходимым фактическим материалом. В зарубежной литературе
появился ряд статей, авторы которых полемизировали с Дрейфусом.
Дискуссия вокруг его взглядов развернулась, впрочем, еще до выхода в
свет данной книги — в 1971 г. на конференции в Университете графства
Кент (Англия), где оппонентом X. Дрейфуса выступил Н. Сатерленд (см.
труды конференции: Philosophy of Psychology, ed. S. С. Brown, London and
Basingstoke Macmillan, 1974, p. 247 ff). После появления книги в спор
вступили С. Ватанабе и И. Уилке (S. Watanabe. Some thoughts on
Dreyfus, "Critique of Artificial Reason".-IEEE Trans, on System Man, and
Cybernetics. January 1975, p. 141—145; J. W i I k s. Dreyfus's disproofs.—
"British J. for the Philos. of Sci.", vol. 27, No 2,1976, p. 177-185). Как
справедливо отмечает А. Эттингер, вопросы, касающиеся возможностей и
пределов "искусственного разума", "заслуживают серьезного
открытого обсуждения. Они слишком связаны с естественными науками, чтобы
предоставить их решение философам, и слишком философские по своему
характеру, чтобы оставить их на усмотрение представителей естественных и
точных наук" (A. G. Oettinger. Preface.-In: H.L.Dreyfus. What
Computers can't do, 1972, p. XI).
В нашей стране уже имеется солидная философско-кибернетическая
литература, в которой обсуждаются, в частности, и проблемы, поднятые в
книге американского автора (примером может служить коллективная
монография "Управление, информация, интеллект" под ред. А. И. Берга и
др., М., "Мысль", 1976). Тем не менее для советского читателя
целесообразно ознакомление с данной книгой, так как аргументы Дрейфуса
заслуживают того, чтобы их учли и специалисты в области вычислительных
систем и их математического обеспечения, и психологи, использующие
кибернетическое моделирование как метод изучения психики и поведения
человека, и философы, осмысляющие познавательно-практический вклад
нового направления в науке и технике. В книге Дрейфуса представлено
развернутое изложение определенной линии в методолого-кибернетических
исследованиях на Западе, а именно, линии скептического отношения к
перспективам создания систем, "интеллект" которых существенно
приближался бы к логико-творческим способностям человеческого разума.
Материал книги может содействовать углублению понимания "кибернетической
составляющей" научного прогресса, и скепсис автора, пропущенный через
надежный методологический "фильтр", способен сыграть позитивную роль.
Еще в 50-х годах в кибернетике выделились
«Искусственный четыре родственных области. Это были: ал гори т-
интеллект» как мизация "стратегических" игр типа шахмат; про-
исследовательская граммирование невычислительных задач и логи-
сфера ческой дедукции в применении прежде всего к
математическому материалу; разработки в
области автоматического распознавания образов и исследования, направлен-
300

ные на создание машинных программ перевода с одного естественного
языка на другой. Достаточно быстро обнаружилась глубокая общность
задач этих областей. Выяснилось, что методы, разработанные в одной из
них, могут быть применены в других, а также то, что их можно
распространить и на иные сферы, например на проблематику машинного
сочинения музыкальных композиций или автоматический диагноз
заболеваний. Постепенно совокупность подобных исследований (достаточно
единая по характеру своей проблематики) стала восприниматься как
самостоятельное научное направление, и за ним все больше стало
закрепляться название "искусственный интеллект".
С момента появления первых работ, которые можно отнести к
направлению "искусственного интеллекта" (или просто к "искусственному
интеллекту"), прошло три десятилетия. За это время выявились две
главные цели, которые преследуют соответствующие исследования. Одна из
них — моделирование на цифровой машине некоторых существенных
черт интеллектуального (разумного) поведения. Другая — использование
ЭВМ для решения сложных проблем, овладение которыми до сих пор было
под силу только человеку. Различие этих двух целей относительно (многие
кибернетические разработки подчинены обеим целям одновременно) и
отражает лишь разные акценты. В одном случае акцент ставится на
использовании в кибернетических целях эмпирического материала
нейрофизиологии и психологии, в другом — на разработке эффективных методов
решения "интеллектуальных" проблем независимо от того, в какой степени
эти методы используются человеком (и используются ли вообще). Однако
в обоих случаях соответствующие кибернетические исследования тесно
связаны с психологией, поскольку поведенческий аспект интеллектуальной
деятельности человека, учитываемый в большинстве работ по
"искусственному интеллекту", близок или непосредственно заимствован из
соответствующих психологических концепций. Работы многих специалистов США
и Западной Европы в области "искусственного интеллекта" тесно связаны с
теоретической установкой на объективное изучение поведения (известно,
например, что Н. Винер придавал большое значение работам И.П. Павлова) -
В то же время исследования таких крупных американских психологов, как
Дж. Миллер, К. Прибрам и У. Ниссер, выполненные за последние
десятилетия, несут на себе явное влияние идей и методов "искусственного
интеллекта". Советские психологи (А. А. Братко, В. Н. Пушкин, О.
К.Тихомиров и др.), так же как и специалисты других социалистических стран
(Ф. Клике — ГДР, И. Лингарт — ЧССР), стоящие на
диалектико-материалистических позициях, в своих исследованиях достаточно широко
привлекают идеи и методы кибернетики.
Взаимодействие "искусственного интеллекта" и психологии
способствует теоретическому и экспериментальному исследованию
познавательной деятельности, стимулирует разработку новых
психолого-кибернетических теоретических "моделей" интеллекта.
Эта истина как нельзя более подходит для харак-
Крайности — вредны теристики исходных установок книги Дрейфуса.
Отправной точкой рассуждений автора являются
прогнозы, сделанные в середине 50-х годов некоторыми американскими
учеными, относительно быстрого — в пределах до двадцати лет — прогресса
в разработках "искусственного интеллекта". Подводя итоги исследований
десяти лет (1957—1967 гг.), автор пытается ответить на вопрос,
"действительно ли машины могут достичь хотя бы элементов творчества, играя в
шахматы, разрешая простые проблемные ситуации, читая простые
предложения и распознавая образы" (с. 23). Подразделив исследования,
проводившиеся в его стране, на два этапа, которые обозначаются в книге как
"моделирование процесса познания" и "переработка семантической
информации" ("искусственный интеллект" в собственном смысле), и подвергнув
их критическому анализу, Дрейфус приходит к заключению, что получен-
301

ные результаты опровергают оптимистические настроения исследователей.
По его мнению, развитие этих работ идет по одной и той же схеме: удачное
начало при моделировании простых форм переработки информации и
неудачи при попытках исследователей вложить в машину более сложные
формы поведения. Создавшееся в данной области положение Дрейфус
склонен характеризовать как "крушение радужных надежд", "застой",
"тупик"— как ситуацию, окутанную неким "интеллектуальным смогом".
Такого рода оценки, рассматриваемые в применении к направлению в
целом (а не к отдельным работам и программам, слабости которых верно
подмечены Дрейфусом), искажают действительную перспективу развития.
Сегодня мы можем сказать, что, вопреки заключениям автора,
исследования в данной области не только не пошли на убыль, но неуклонно
расширяются и набирают темп. Крайности, как известно, не способствуют
уяснению подлинного положения вещей.
Дрейфус оперирует материалами работ
Следующее 1957—1967 гг. (лишь фрагментарно привлекая
десятилетие отдельные результаты конца шестого десятилетия
нашего века). Как же развивались работы по
"искусственному интеллекту" в период 1968—1977 годов? Не говоря уже о
прогрессе электронной вычислительной техники и ее применений в самых
различных областях экономики и культуры — а прогресс этот был
колоссальным,— в развитии поисковых работ мы должны констатировать
углубление исследований, появление интересных идей и решений, новых
подходов, разработку более мощных машинных программ. О некоторых из этих
результатов мы упомянем в последующем изложении. Здесь же обрисуем,
так сказать, внешнюю сторону исследований десятилетия 1968—1977 гг.,
имея в виду не только американскую науку (материалами которой
оперирует Дрейфус), но и работы советских ученых (которые остались вне
поля зрения автора).
Перечислим для начала некоторые труды этих лет, которые в своей
совокупности отнюдь не подтверждают тезиса автора о "застое"
исследований в области "искусственного интеллекта". Мы заранее просим читателя
запастись терпением, так как список будет довольно обширным, но, с
нашей точки зрения, ознакомление с ним небесполезно для тех, кто решит
проследить прогресс, наблюдающийся и в создании автоматов,
моделирующих "опыт" человеческой переработки информации, и в разработке
систем, решающих сложные задачи способом, отличным от методов
решения их человеком.
Прежде всего укажем переведенные на русский язык зарубежные
исследования: сборники работ "Кибернетические проблемы бионики",
вып. I, М., "Мир", 1971, вып. II, М., "Мир", 1972; 3. Бэнерджи. Теория
решения задач. Подход к созданию искусственного интеллекта. М., "Мир",
1972 (оригинал опубликован в 1969 г.); Н. Нильсон. Искусственный
интеллект. Методы поиска решений, М., "Мир", 1973 (оригинал вышел в
1973 г.); Дж. С л э й г л. Искусственный интеллект. Подход на основе
эвристического программирования, М., "Мир", 1973 (оригинал 1971 г.) ;
сборники статей "Интегральные роботы" [вып.1], М., "Мир", 1973,
вып.2 , М., "Мир", 1975; Т. Виноград. Программа, понимающая
естественны^ язык, М., "Мир", 1976 (оригинал 1972 г.); Р. Дуда,
П. X а р т. Распознавание образов и анализ сцен. М., "Мир", 1976 (оригинал
1973 г.). Из большого количества зарубежных работ, не представленных
(пока) в русском переводе, отметим: R. С. S с h a n к, К. М. С о I b у (eds.).
Computer Models of Thought and Language. San Francisco, Freemen and Сотр.,
1973, E. В. Н u n t. Artificial Intelligence. New York - San Francisco -
London, Acad. Press, 1975; G. P a s k. Cybernetics of Human Learning and
Performance. The Guide to a Theory and Research. London, Hutchinson, 1975; G. P a s k.
Conversation, Cognition and Methodology. Amsterdam, Elsevier, 1975;
P.H.W i n s t о n (ed.). The Psychology of Computer Vision. New York McCrow-
302

Hill, 1975; В. R a p h ae I. The Thinking Computer, San Francisco, Freemen and
Сотр., 1976; P. H. W i n s t о n. Artificial Intelligence. Reading (Mass.)—Menlo
Park (Calif.), Addison-Wesley, 1977. Отечественная литература по
"искусственному интеллекту" последних лет не менее обширна. См., например,
следующие работы: Д. А. Поспелов, В. Н.Пушкин. Мышление и
автоматы. М., "Советское радио", 1972; М. Б. И г н а т ь е в, Ф. М. К у л а-
к о в, А. М. Покровский. Алгоритмы управления
роботами-манипуляторами. П., "Машиностроение", 1972; Н. М. А м о с о в, А. М.
Касаткин и др. Автоматы и разумное поведение. Киев, "Наукова думка",
1973; Е. А. Александров. Основы теории эвристических решений.
Подход к изучению естественного и построению искусственного
интеллекта. М., "Советское радио", 1975; Н. Г. 3 а г о р у й к о. Искусственный
интеллект и эмпирическое предсказание. Новосибирск, 1975; Искусственный
интеллект и психология. М., "Наука", 1976; Э. В. П о п о в, Г. Р. Ф и р д-
м а н. Алгоритмические основы интеллектуальных роботов и
искусственного интеллекта. М., "Наука", 1976. Работы по "искусственному
интеллекту" публикуются во многих научных изданиях, в том числе в
международном журнале Artificial Intelligence (Амстердам) и в отечественном
журнале "Кибернетика" (Киев); в Англии выходит продолжающееся издание
Machine Intelligence (Эдинбург).
Результаты исследований по кибернетическому моделированию
процессов познания и системам, имитирующим определенные аспекты разумного
поведения, обсуждаются на многочисленных научных совещаниях, в том
числе международных. Наиболее авторитетные из них — Международные
объединенные конференции по искусственному интеллекту (четвертая
состоялась в СССР — IVMOKHH, Тбилиси, сентябрь 1975 г., а пятая — в
США, Кембридж, шт. Массачусетс, август 1977 г.). Сотрудничество
советских, американских, английских специалистов и ученых других стран в
области "искусственного интеллекта", активно начавшееся в период
подготовки и проведения IVMOKHH, было продолжено на международной
конференции по данной проблематике, которая проходила в г. Репино (под
Ленинградом) в апреле 1977 г.
Труды IV МОКНИ дают четкое представление о круге вопросов,
который в настоящее время охватывает понятие "искусственного
интеллекта" как исследовательского направления. Он включает следующие
темы: математические и теоретические аспекты "искусственного
интеллекта"; методы представления задач и знаний в памяти вычислительной
системы; методы поиска решений, эвристические методы; обучение
машины, отладка программ "искусственного интеллекта", автоматическое
программирование; машинное распознавание речи; общение с ЭВМ на
естественном языке; технические средства и математическое обеспечение
«искусственного интеллекта»; обработка визуальной информации;
алгоритмы управления движением и роботы; психологические аспекты
"искусственного интеллекта". Двенадцать выпусков трудов, изданных к
началу этой конференции, составили свыше 2000 страниц! Таким образом,
как мы видим, исследовательская работа в данном комплексном
направлении кибернетики разворачивается все шире, вовлекая в круг своих
проблем математиков и специалистов в области вычислительных систем,
инженеров, лингвистов, психологов, логиков, философов.
Итак, общая оценка перспектив "искусственного
Реальность интеллекта", данная в книге, не прошла проверки
трудностей временем. Значит ли это, что критика Дрейфусом
работ американских авторов десятилетия
1957—1967 гг. (Г.Саймона, М.Минского и др.) совершенно беспочвенна?
Отнюдь нет. Работы эти отражали реальные слабости подхода к решению
"интеллектуальных" задач, основанного на "силовом" приеме перебора
вариантов и их выбраковке, базирующейся на достаточно слабых
эвристических методах.
303

Известно, что для любых мало-мальски сложных задач сплошной
перебор невозможен из-за громадности дерева альтернатив. Например,
число возможных позиций в шахматной игре К. Шеннон оценил как 10120.
Чтобы представить себе, сколь необозримым оказывается в этом случае
перебор, укажем на то, что, по имеющимся оценкам, с тех пор как человек
обрел дар речи, все люди на земле произнесли "только" 1016 слов! Чтобы
сделать реальным машинное решение подобных задач, причем не только на
современных машинах, но и на машинах, создание которых возможно в
любом обозримом будущем, составителю программы необходимо
руководствоваться определенными соображениями относительно тех
характеристик, которые можно эффективно использовать для ограничения
перебора с тем, чтобы затраты машинного времени и объем требуемой для
решения информации соответствовали реальным вычислительным
мощностям. Коротко говоря, необходимо разумное ограничение
рассматриваемых машиной альтернатив, ибо их число растет по экспоненциальному
закону, который оборачивается кошмаром для вычислительной процедуры.
"Переборный" подход в кибернетике — естественное следствие
развития машинной математики, основанной на цифровой технике. Кодирование
информации с помощью дискретных объектов типа цифр и букв, которым
пользуются создатели систем "искусственного интеллекта", с
необходимостью порождает "атомистический" машинный мир дискретных
данных и фиксированных признаков. Ориентация в этом мире — и решение
в его терминах сложных задач (хотя бы отчасти напоминающих те, которые
решает человек в своей интеллектуально-творческой деятельности в науке
и практике) — представлялась возможной лишь на пути выработки методов
выделения существенных ("релевантных") факторов (критериев,
параметров, характеристик). Это обстоятельство стало ясно кибернетикам еще
в 50-х — начале 60-х годов. Оно отмечается, например, в статье "Модели
обучения и управляющие системы", написанной Ю. А. Шрейдером в
качестве дополнения к переводной книге Р. Буша и Ф. Мостеллера
"Стохастические модели обучаемости" (М., Физматгиз, 1962; оригинал книги вышел
в 1955 г.; дополнение к русскому изданию было написано в 1960 г.).
Для реализации целесообразно организованного перебора необходимо,
чтобы программа оперировала заранее заданным перечнем фактов
(признаков, объектов, альтернатив и т. п.) либо содержала метод
регулярного (в каком-либо смысле) порождения таких фактов и чтобы она могла
отбирать существенные факты. Однако проведение этого подхода в жизнь
натолкнулось в области "искусственного интеллекта" на серьезные
трудности. Анализу сложившейся в результате этого ситуации в американской
кибернетике 1957—1967 гг. и посвящена первая часть книги Дрейфуса. Ее
материал показывает, что задача сведения "многовариантной" проблемы к
"маловариантной"— существенное уменьшение "размерности" (числа
подлежащих учету параметров) решаемой машиной проблемы, то есть
превращение проблемы, как говорят, в "задачу с хорошей
структурой",—связано с гораздо большими трудностями, чем это поначалу
представлялось.
Эти трудности очень рельефно показаны в книге. Автор исходит из того
очевидного факта, что личность справляется с проблемой
экспоненциального роста, по-видимому, потому, что человеческие психические процессы
качественно отличны от функционирования современных машин, даже
снабженных программами "искусственного интеллекта". Решая задачи
творческого характера и даже просто осуществляя человеческие способы
поведения — начиная с восприятия объектов и кончая актами сознательного
целеполагания,— личность не оперирует заданной ей "извне" системой
жестко фиксированных признаков ситуации (задачи), в которой ей
надлежит сформировать свое поведение (найти решение задачи). Человек строит
систему соответствующих признаков ("фактов") в ходе осмысления
задачи, а не просто синтезирует ситуацию (задачу) из готовых признаков.
304

Целое, как известно, состоит из частей, но части осмысляются в составе
целого. "Переборное" осмысление неестественно для человека, по крайней
мере коль скоро он рассуждает сознательно. Эвристические приемы,
разумеется, используются человеком, так же как и разнообразные
операции сравнения, абстракции, классификации и обобщения. В основе этих
процессов, однако, в значительной мере лежит не до конца ясная в
психологическом плане способность различения существенного и
несущественного. Важную роль также играет феномен целостности
восприятия—не только чувственно-сенсорного, но и мыслительно-абстрактного.
Поэтому можно согласиться с Дрейфусом, когда он говорит, что без
привлечения человеческой способности к "глобальному рассмотрению"
объектов, восприятию целостных образов, "по-видимому, невозможно
избежать ситуации экспоненциального роста и преодолеть ограниченные
возможности эвристик в выборе вариантов, подлежащих рассмотрению"
(с. 50).
Нет сомнения, что изучение эвристик — как в психологическом плане,
так и в плане "эвристического программирования"— продвигает нас вперед
и в понимании познавательного процесса у человека, и в разработке
способов реализации на машине отдельных его проявлений либо
результатов. Но до конца вскрыть соответствующие процессы "переработки
информации" с помощью единственно лишь эвристического подхода вряд
ли возможно. Никакие эвристики — четко формализованные, во всяком
случае,—не могут, по-видимому, объяснить, как человек, переводя с
одного естественного языка на другой, принимает решение остановиться на
тех или иных вариантах результирующего текста. Тут существенную роль
играет другое обстоятельство, настоятельно — и с полным
основанием—подчеркиваемое Дрейфусом: способность человека учитывать
нечеткие ситуации, не прибегая при этом к их точной формулировке. Идеи
автора перекликаются здесь с соответствующими мыслями советского
исследователя В. В. Налимова — автора книги "Вероятностная модель
языка. О соотношении естественных и искусственных языков" (М.,
"Наука", 1974). Отечественный специалист в области математической
статистики и планирования эксперимента, оперируя вероятностными
представлениями, раскрывав! феномен "мягкости"—гибкости значений слов и
выражений — естественных языков и "диффузный" характер сложных
систем. Элементы последних настолько тесно взаимодействуют друг с
другом, что делают невозможным их "классическое" описание,
основывающееся на фиксации параметров и изолированном изучении поведения
отдельных переменных.
Дрейфус развивает сходную аргументацию, подчеркивая значение
"глобальной формы" переработки информации, при которой информация
рассматривается человеком "не в четкой форме, а остается, скорее, в
периферийной сфере сознания и учитывается неявно" (с. 50); эта форма
освоения реальности "действует постоянно, непрерывно организуя наше
эмпирическое познание" (там же). Она тесно связана с использованием
контекста для уменьшения неоднозначности — с учетом тех
контекстуальных (ситуационных) черт, которые в книге названы неявными
ориентирами. Конечно, соответствующие феномены человеческой психики далеки
еще от уяснения, так же как явления интуиции ("инсайта"),— все то, что в
своей совокупности играем ключевую роль в осмыслении фрагментов
реальности, попадающих в сферу человеческого опыта. Именно эти
процессы — а не более простые и доступные для изучения процедуры четкой
понятийной классификации и логической дедукции — составляют главную
трудность для машинного моделирования.
В самом деле, если для того, чтобы распознавать образы, узнавать
объекты, усматривать "семейное сходство" (для которого не обязательно
наличие общих признаков у объектов одной семьи), человек не
"концептуализирует" свойства, проводя между ними жесткие границы, не "атоми-
зирует" характеристики, по которым происходит распознавание, то каким
305

образом в машину, понимающую только четкие команды, вложить
способность узнавания? Если перевод фразы иностранного языка зависит от серии
нежестко фиксированных контекстов — быть может, от общего контекста
нашей культуры,—то как возможен машинный перевод, который в его
современном виде опирается на метод построения значений сложных
языковых образований из значений более элементарных компонент?
На эти — и многие другие аналогичные — вопросы сегодня мы ответить
не можем. Значит ли это, однако, что отмеченные выше функции
интеллекта "преграждают путь" к дальнейшему прогрессу в области
кибернетического моделирования процессов познания и создания систем
"искусственного интеллекта", как думает Дрейфус? Как нам представляется, не
значит. Можно добиваться успеха в формализации упомянутых феноменов,
не предрешая при этом вопроса о том, с какой степенью полноты
фактически окажется возможной такая формализация. Работы десятилетия
1968—1977 гг. свидетельствуют о реальности этого продвижения. О
некоторых из них мы позволим себе сказать несколько слов.
Еще в 50—60-е годы (а для некоторых задач и
Проблема узнава- ранее) были выработаны методы сокращения
ния и понимания перебора и получения оптимальных решений для
задач с "хорошей организацией". Это были, в
частности, методы минимизации переключательных электрических схем,
основанные на средствах алгебры логики, линейное и динамическое
программирование и др. В некоторых из них — таких, например, как "метод
оврагов" И. М. Гельфанда и М. Л. Цетлина (см. их статью "О некоторых
способах управления сложными системами" в журнале "Успехи
математических наук", 1962, т. XVII вып. 1(103))—была заложена адаптационная
тактика, позволявшая "разделять переменные" и выделять существенные
для данной задачи параметры. Однако проблематика машинного
распознавания образов, если образы не стандартизованы, а также программирование
задач, связанных с пониманием текстов и ситуаций (не подвергшихся
предварительной формализации), плохо поддавались изучению на этом
пути.
Задачи автоматического узнавания привели к созданию систем,
которые получили название персептронов. Дрейфус довольно
пренебрежительно отзывается о работе Ф. Розенблата, положившей начало "пер-
септронной" проблематике. И действительно, эпоха персептронов оказалась
непродолжительной. В книге М. Минского и С. Пейперта "Персептроны",
материалом которой пользуется автор, показано, в частности, что персеп-
трон (определенного класса) не в состоянии решить даже такую задачу,
как вопрос о связности или несвязности предъявленной ему фигуры. В этой
связи Минский и Пейперт дают трезвую оценку соответствующих работ
(которую, однако, Дрейфус не приводит) : "Наука о вычислениях и
кибернетика начались — и это, по-видимому, совершенно правомерно — с
шумной романтической рекламы. Они изобиловали волнующими и
заманчивыми новыми идеями, уже принесшими богатые плоды. Тяжкие
требования строгости и осторожности могли бы показать, какие направления
окажутся наилучшими. В самом деле, мы считаем, что маститые эксперты,
наиболее активно выражающие недовольство по поводу "неуместных
претензий" энтузиастов кибернетики, оказались в конечном счете
неправыми. Но теперь наступило время зрелости, и мы должны
противопоставить нашим рискованным начинаниям в равной мере впечатляющие
образцы критического подхода" (М. Минский, С. Пейперт.
Персептроны. М., "Мир", 1971, с. 10).
И этот критический подход не заставил себя долго ждать. Он выразился
в разработке альтернативных направлений исследований в проблеме
автоматического узнавания и связанной с ней формализации феномена
понимания, играющего фундаментальную роль в разумном поведении. В нашей
стране здесь выделяется подход М. М. Бонгарда, изложенный им в книге
306

"Проблема узнавания" (М., "Наука", 1967). Данный подход оказался вполне
жизнеспособным, так как позволил установить естественную связь между
проблемами узнавания и понимания. Об этом свидетельствует общая
теоретическая установка авторов недавно вышедшего сборника работ
"Моделирование обучения и поведения" (М., "Наука", 1975) —"понять,
как думает человек, каковы механизмы мышления", учитывая при этом,
что "это задача огромной сложности" (с. 3 упомянутого сборника),— и
приведенные в нем результаты.
Критика X. Дрейфусом работ в области моделирования рассудочной
деятельности касается, в частности, американского кибернетика Д.
Боброва. Его работы, однако, вскоре были превзойдены в исследованиях
Т. Винограда. Результаты последних изложены в монографии, вышедшей в
1972 г. (см. русский перевод, выходные данные которого были указаны
выше), и в публикации: Т. W i n о g r a d. Five Lectures on Artificial
Intelligence. Stanford. 1974. Stanford Artificial Intelligence Laboratory. Memo
AIM-246. За последние годы в кибернетических разработках,
ведущихся в США, распространение получил метод представления знаний — то есть
метод вложения в машину определенного способа "понимания" той
"реальности", с которой она должна иметь дело, — основанный на
предложенном М. Минским понятии ситуационной рамки ("фрейма").
Согласно М. Минскому, фрейм (frame) есть во-
Фреймы и площение "структуры данных" для выражения
сценарий некоторой стереотипной ситуации; он
представляет собой совокупность вопросов, которые
можно задать о соответствующей воображаемой ситуации. Ответы
определяют, какие ситуационные аспекты и с помощью каких средств подлежат
рассмотрению (М. М i n s k у. A Framework for Representing Knowledge.
AJ, Memo. M.I.T. Artificial Intelligence Laboratory. Cambridge, Mass., 1974).
Например, фрейм "день" предполагает ответ на вопросы: какого года?
какого месяца? какого числа соответствующего месяца? какого дня
недели? и т.п.; в числе вопросов фрейма могут быть также вопросы о цели
некоторой деятельности. Фреймы — это языковое средство
представления в машине схемы некоторой ситуации или ситуационной
структуры среды; такое представление осуществляется с помощью
семантической сети, в которой фигурируют связанные между собой фреймы
(frame system).
Идея ситуационных рамок — фреймов как способов организации
"знаний" машины о некоторой (стандартизованной) внешней среде получила
развитие в ряде работ американских кибернетиков. В одной из них — статье
Р. Шенка и Р. Абельсона "Сценарии, планы и знания" (Труды IV
Международной объединенной конференции по искусственному интеллекту.
6. Общение с ЭВМ на естественном языке. М., 1976) — понятие фрейма
интерпретируется как общее название сведений о реальности,
организованных в структуру, облегчающую обращение машины к этим сведениям;
фреймы подразделяются на статические — сценарии (scripts) и
динамические — планы (plans). Сценарий складывается из названия ситуации,
указания причин ее возникновения и набора оцен; планы задают
последовательности действий для достижения некоторой цели. Сценарии и планы
служат отображению причинно-следственных связей между ситуациями
среды.
Система организации информации, основанная на методе фреймов,
предполагает с необходимостью стандартизацию "машинного мира", и тем
не менее она в определенной мере обогащает наши представления о том,
как на кибернетическом пути можно преодолевать трудность обращения к
контексту, на которой главным образом строится аргументация Дрейфуса.
Хотя данный метод предполагает чисто кибернетическое истолкование
"понимания"- как "интерпретации новой информации в уже
организованной картине мира" (Р. Ш е н к, Р. А б е л ь с о н. Цит. соч., с.208; курсив
мой.—Б.Б.), он все же вносит известную гибкость в "машинный мир":
307

предусмотренный методом переход от одного фрейма к другому на основе
трансформационных правил можно рассматривать как некий упрощенный
аналог человеческого "поведения в контексте".
Метод построения системы фреймов — как осо-
Тезаурусы и ситуацион- бых "ситуационных рамок", служащих для обоб-
ное управление щенного описания ситуаций, с которыми может
иметь дело машина,— родствен другому методу,
идеи которого были развиты, в частности, в нашей стране. В его основе
лежит идея о логико-семантических системах с вариативными составными
частями — динамических тезаурусов, служащих для представления внешней
среды, выражения семантической информации и формализации
интеллектуальной коммуникации. Основные положения подобного тезаурусного
подхода были сформулированы Ю. А. Шрейдером (см., например, его
статью "О семантических аспектах теории информации" в кн.: Информация
и кибернетика, М., "Советское радио", 1967); вопрос о
логико-методологических возможностях данного метода освещен автором этих строк в
книге "Кибернетика и методология науки" (М., "Наука", 1974, с. 353 и
ел.). Другой метод, разрабатываемый в советской науке,— это подход,
получивший название ситуационного управления.
Упомянутый подход вырос из задач построения систем управления
такими сложными системами, для которых не имеется точного описания их
структуры и поведения. В его разработке приняли участие как собственно
кибернетики (Д. А. Поспелов, Ю. И. Клыков), так и психологи (В. Н.
Пушкин) . Краткое представление о данном направлении можно получить из
статьи Г.С.Поспелова и Д.А.Поспелова "Исследования по
искусственному интеллекту в СССР" (в кн.: Кибернетику — на службу коммунизму,
т. 9, М., "Энергия", 1978).
Суть метода ситуационного управления заключается в разработке
способа логико-языкового структурирования проблемной среды — среды,
в которой ставятся и решаются некоторые задачи с целью построения
эффективных алгоритмов их машинного решения. При этом развивается
некий "антропоморфный"— исходящий из лингво-психологической
реальности — подход, позволяющий для данного круга задач строить
обобщенные описания, основанные на учете структур понятий. Говоря конкретнее,
при описании некоторых ситуаций (или обработке соответствующих
текстов) производится выделение различных в функциональном
отношении групп объектов — понятий-классов, имен, бинарных отношений,
императивов и др. В структурировании проблемного мира машины наибольшую
роль играют отношения между понятиями. Считается, что для каждого
круга задач в принципе можно выделить конечное число основных
отношений, через которые получают выражение остальные отношения, имеющие
смысл в данном классе ситуаций. Проведенное таким образом
структурирование проблемной среды позволяет строить алгоритмы решения
задач, в которых роль операторов играют императивы, допускающие
формулировку на естественном языке; обобщенные описания в языке
ситуационного управления родственны фреймам, о которых говорилось
выше (подробнее о ситуационном управлении см.:
Д.А.Поспелов, В. Н. П у ш к и н. Мышление и автоматы. М., 1972;
Ю.И.Клыков. Ситуационное управление большими системами. М., ' Энергия",
1974; Д.А.Поспелов. Большие системы (ситуационное
управление) . М., "Знание", 1975.
Понятия естественного языка и содержательного
Расплывчатые (неформализованного) мышления часто носят
множества расплывчатый характер: имеют нечеткие,
размытые границы, причем у разных людей для "одних и
тех же" понятий характер "расплывания" может оказаться различным. Это
обусловлено вариабельностью смыслов выражений, неоднозначностью
значений, включением в содержание понятий субъективных оценок. В книге
308

Дрейфуса об этом говорится достаточно подробно. Автор рассматривает
отмеченные феномены как принципиальное препятствие для работ по
моделированию процессов познания и "искусственному интеллекту".
Между тем исследования последних лет показали, что расплывчатость,
гибкость и динамичность человеческих понятий и суждений в определенных
пределах поддаются формализации. Соответствующие средства начиная с
20-х годов нашего века подготавливались в рамках многозначных и
бесконечнозначных логик —логик, которые, помимо значений "истинно" и
"ложно", допускают промежуточные истинностные значения. Однако лишь
в середине 60^х годов обнаружилась связь этих логик с кибернетическим
кругом идей.
В 1965 г. американский специалист в области автоматического
регулирования и теории систем Л. А. Заде опубликовал первую работу по
нечетким множествам, а затем развернул (вместе с рядом своих
последователей) всестороннюю разработку теории расплывчатых понятий и
алгоритмов. В силу важности данной теории для оценки вопросов, которые
поднимаются в книге Дрейфуса, приведем имеющиеся на русском языке
публикации создателя данной теории: Тени нечетких множеств
("Проблемы передачи информации", т. II, вып. 1, М., 1966); Расплывчатые
алгоритмы (реферат) (Экспресс-информация "техническая кибернетика", 1968,
№ 38); Основы нового подхода к анализу сложных систем и процессов
принятия решений (в кн.: Математика сегодня. М., 1974); Понятие
лингвистической переменной и его применение к принятию приближенных
решений (М., "Мир", 1976) (см. также: Р. Б е л л м а н, Л. 3 а д е.
Принятие решений в расплывчатых условиях.—В кн.: Вопросы анализа и
процедуры принятия решений. Сб. переводов. М., "Мир", 1976).
Автор предлагаемой читателю книги очень кратко говорит о теории
расплывчатых множеств, высказывая взгляд, что в своем понятии
расплывчатости Заде "сваливает в одну кучу пять различных аспектов
распознавания образов, а именно, аспекты, относящиеся к нечеткости границ, к
зависимости от контекста, цели, субъективной оценки и к фамильному
сходству" (с. 74). X. Дрейфус утверждает, будто совершенно непонятно,
"какой же аспект распознавания поддается формализации при помощи понятия
расплывчатости (и поддается ли вообще хоть один) " (там же). Подобная
оценка теории, в последние годы столь стремительно развивающейся, на
наш взгляд, неправомерна (характерно, что Дрейфус в своей книге
ссылается только на самую первую статью Заде по расплывчатым понятиям:
L. A. Z a d e h. Furry sets.—Information and Control, vol. 8, 1965, No 3).
Вне всякого сомнения, новая теория означает шаг вперед в
формализации феномена нечеткости понятий и образов. Она вводит многозначные
(в общем случае бесконечнозначные) шкалы оценок принадлежности
элементов данному множеству (объему нечеткого понятия); развертывает
систему операций над такими множествами. Более того, использование
нечетких понятий в составе предписаний к переработке информации
приводит к распространению данного подхода на теорию алгоритмов. В
связи с неоднозначностью нечетких алгоритмов в последние проникает
такой специфически человеческий момент, как принятие решений.
Решения, однако, также могут быть нечеткими, то есть
основанными на расплывчатых критериях; отсюда необходимость разработки
методов формализации такого рода расплывчатости. Нечетким
оказывается и само понятие цели, которой должно отвечать искомое
решение задачи. Формализуемыми в определенном смысле
оказываются также субъективные оценки, начиная с исходного пункта теории —
понятия нечеткой принадлежности предметов объему расплывчатого
понятия: введенные Заде "функции членства в множестве"
(принимающие значения из интервала [0, 1J действительных или рациональных
чисел) могут Для данного понятийного образования задаваться
по-разному, что можно рассматривать как выражение индиви-
309

дуальных свойств носителей этих функций. Наконец, подход Л.Заде
позволяет подойти к формализации семантики широкого класса выражений
естественного языка (содержащего такие слова и обороты, как "очень",
"более или менее", "вполне", и их повторные применения к расплывчатым
понятиям: "очень старый", "очень-очень старый" и т.п.).
В настоящее время происходит стремительное развитие работ по теории
расплывчатости. Представление о нем можно получить из статьи: Л.А.
Гусев, И.М. Смирнова. Размытые множества (Обзор) .—"Автоматика и
телемеханика", 1973, № 5; и рецензии: М.А. Айзерман, И.М.
Смирнова. Первые монографии по теории размытых множеств.—Там же,
1977, № 10. Размах исследований в новой области привел к появлению
работ монографического характера (см. A. Kaufman n. Introduction
a la theorie des sous-ensembles flous, t.l-lll, 1975, Paris; англ. перев.: А. Ка-
u f m a n n. Introduction to the theory of Fuzzy Subsets, vol. 1, N.Y., 1975;
C.V.N ego it a, D.A. Ralescu. Applications of Fuzzy Sets to Systems
Analysis. Basel, 1975; N.Y., 1976). И это вполне закономерно. Логико-
кибернетическая теория расплывчатости означает новый подход к старой
проблеме абстракции и образования понятий — подход, более связанный
с "человеческим фактором", нежели традиционно рассматривавшиеся в
логике процессы обобщения, которые предполагают жесткую дихотомию
"истинно — ложно". Создается впечатление, что каждой математической
теории (и каждой теореме теории) можно поставить в соответствие ее
расплывчатый вариант, причем многими (пожалуй даже бесконечно
многими) способами. Во всяком случае, на сегодняшний день мы уже
располагаем понятиями расплывчатых графов, расплывчатых автоматов,
расплывчатых систем управления. Хотя в практических разработках систем
"искусственного интеллекта" теория "расплывчатости" еще не успела
проявить себя в полной мере, методологические соображения (некоторые из
них высказаны в статье автора этих строк в кн.: Кибернетика и
современное научное познание. М., "Наука", 1976, а также в статье М.А. Айзермана
в журнале "Автоматика и телемеханика", 1976, № 7) свидетельствуют в
пользу того, что ее применение принесет новые результаты в
моделировании таких проявлений разумного поведения, которые не охватываются
"нерасплывчатыми" подходами. Но, разумеется, в рамках одного лишь
подхода Заде наивно ожидать преодоления всех тех трудностей
"искусственного интеллекта", которые столь тщательно анализируются автором
данной книги. "Зависимость от контекста" и "семейное сходство", к
примеру, вероятно, с трудом поддадутся рассматриваемой теории.
Как показывает произведенный нами краткий — и
Заложен ли в человеке фрагментарный — очерк проведенных за послед-
"компьютер"? Четыре ние десять лет модельно-кибернетических иссле-
допущения дований интеллектуальных процессов, с
негативизмом Дрейфуса согласиться нельзя. Однако и
утверждать, что поставленные им проблемы решены, а конкретные
критические аргументы утратили свою остроту, также неправомерно.
Прежде всего, в описанных выше работах по "искусственному
интеллекту" нет ответа на кардинальный вопрос, сформулированный
американским философом: верна ли гипотеза о том, что функционирование
интеллекта и переработка им информации происходят путем дискретной
пошаговой процедуры — процедуры, подобной той, которая закладывается
в ЭВМ с помощью программ, содержащих разного рода эвристики? Иначе
говоря, верно ли, что человеческое поведение может быть формализовано в
"дискретностиых" терминах? Положительный ответ на этот вопрос
поднимает ряд проблем другого рода. Одна из них гласит: где же в живом
организме "запрятано" подобное цифровое устройство? Другая, не менее
важная, формулируется так: почему, как правило, мы не осознаем
происходящего в нашем мозгу подобного цифрового процесса? Ведь
известно, что ребенок, играющий со своими сверстниками, спортсмен,
выступающий на соревнованиях, рабочий, изготовляющий какую-либо
310

деталь на станке, ученый, выступающий с научным сообщением, не отдают
себе отчета (ни в ходе самой деятельности, ни после нее), что их мозг (или
психика) в действительности производят или производили гигантские по
объему вычисления. По какому принципу мыслит шахматист — независимо
от его квалификации,— когда он при оценке позиции и выборе очередного
хода, находясь перед лицом обширнейшего множества вариантов, отсекает
все альтернативы, кроме одной — той, которая, по его мнению, является
достаточно хорошей или единственно возможной? Производит ли он
подсознательно сложнейший подсчет, лишь "в финале" выходящий на
уровень сознания (причем не обязательно даже в логическую его часть) ? А
где гарантия, что подсознательный дискретный вычислительный процесс
вообще имеет место?
Дрейфус признает, что не может дать категорический ответ на эти
вопросы. По-видимому, ответа ныне не знает никто. Просто моделирование
интеллекта и разработка систем "искусственного разума" идет по пути,
определяемому используемой технологией,— по пути дискретного
представления и переработки информации. Дрейфус считает, что перенос
закономерностей, присущих подобным символьно-цифровым процессам,
на поведение человека и его психику (процессы восприятия, воображения,
мышления, прогнозирования и волеизъявления) не обоснован ни
теоретически, ни эмпирически. Такой перенос просто равнозначен принятию
четырех фундаментальных положений, которые в книге названы
биологическим, психологическим, эпистемологическим и онтологическим
допущениями.
Выделение этих допущений, несомненно, во многом верно схватывает
методологическую ситуацию, сложившуюся в данном направлении
кибернетики. Согласно биологическому допущению, на некотором уровне нейро-
динамики (обычно таковым считают нейронный уровень) информационные
процессы происходят на основе некоего биологического эквивалента
переключательных схем. Психологическое допущение гласит, что
мышление можно рассматривать как переработку информации, заданной в
дискретном коде, причем переработка эта производится на основе
некоторых формальных правил. Смысл эпистемологического допущения
заключается в тезисе, что знание можно формализовать: все, что понято, может
быть выражено в терминах логических отношений классической
двузначной логики. И, наконец, согласно онтологическому допущению — все в
мире, существенное для разумного поведения, можно представить в
терминах множества четко определенных независимых друг от друга
элементов. Цель рассуждений Дрейфуса состоит в том, чтобы показать, что
биологическое допущение противоречит данным нейрофизиологии,
психологическое и эпистемологическое (гносеологическое) допущения
"полностью не доказаны и вполне могут оказаться несостоятельными" (с. 166),
а принимать онтологическое допущение нет никаких оснований.
Обсудим аргументацию Дрейфуса более основательно.
Дрейфус резонно констатирует, что представление
Является ли человек о мозге как об "устройстве", функционирующем
машиной Тьюринга? подобно цифровой машине (это представление
было выдвинуто на заре кибернетики), является
"эмпирической гипотезой, время которой уже прошло" (с. 112).
Действительно, если попытаться выразить принцип работы нервной системы и
живого организма в целом в "машинных" терминах, то можно сказать, что
перед нами аналого-цифровое ("гибридное") устройство. При этом не
очень ясно, каково в сложнейших системах живого организма соотношение
аналогового (например, гуморального) и цифрового (например,
связанного с электрической импульсацией и наличием порогов "срабатывания"
нейронов) начал.
В технике, однако, известны не только цифровые, но и аналоговые и
аналого-цифровые вычислительные устройства. Если говорить о техноло-
311

гии, основанной на электрических процессах, то аналоговые машины
появились раньше цифровых. Таким образом, сторонники "биологического
допущения" могут внести соответствующую поправку в свой тезис о
подобии живой системы вычислительному устройству. Дрейфус пытается
отвести это возражение, ограничив свою аргументацию случаем дискретной
переработки информации. Но это не усиливает, а ослабляет его позицию.
Оппонентов Дрейфуса не убедят также соображения автора относительно
того, что организация мозга основана "на "сильном взаимодействии"
его элементов", в то время как машина "лишена такого
взаимодействия" (с. 112). Они могут сослаться на прогресс в разработке
вычислительных машин и систем, в результате которого станет возможным
воспроизведение подобного взаимодействия (или разработка достаточно
добротного его аналога).
Отказ от признания живой системы "устройством" дискретной
переработки информации означает, что такая система — и тем более человек — в
физическом ("технологическом") плане не есть машина Тьюринга.
Но можно ли живые организмы и людей рассматривать наподобие
машин Тьюринга в некоем более общем плане? Разберемся в этом вопросе.
Машина Тьюринга — то есть идеализированная схема некоего абстрактного
устройства, введенная ее автором в известной статье, опубликованной в
1936 г. (см. прим. 12), — является универсальным вычислителем, то есть
прибором, способным в принципе (о смысле этой оговорки, играющей
очень существенную роль, мы скажем ниже) производить любую
вычислительную процедуру, в частности осуществлять и такой процесс вычислений,
который производится на аналоговом устройстве. Для этого требуется
только одно условие — чтобы вычислительный процесс был задан с
помощью четких правил. Универсальные электронные цифровые машины
наших дней — это своего рода машины Тьюринга в металле: в
предположении возможности надлежащего увеличения их размеров, памяти,
быстродействия и надежности они вычислительно универсальны.
Описанный вывод, основанный на достижениях математико-логической
теории алгоритмов 30 — 40-х годов нашего века, приводит к заключению,
что "любой вид интеллектуальной деятельности, коль скоро он четко и
однозначно описан на каком-либо естественном или искусственном языке,
в принципе можно автоматизировать (промоделировать) с помощью
некоторой машины. Этот результат следует из... постулата об универсальности
"обычной" цифровой ЭВМ (которая, в предположении абстракции
потенциальной осуществимости, оказывается просто реализацией машины
Тьюринга или любого другого "уточнения" понятия алгоритма)"
(А. И. Берг, Б. В. Бирюков. Философские вопросы
кибернетики.— Энциклопедия кибернетики, т. 2, Киев, 1974, с. 504).
Смысл выделенных в вышеприведенном тексте слов состоит в
отвлечении от ограниченности человеческой конструктивной и познавательной
деятельности в пространстве, времени и материалах, в допущении, согласно
которому если выполнено п шагов некоторого четкого построения
(рассуждения, анализа и т. п.), то можно сделать и следующий (п+1) -й шаг. Эта
абстракция — а ее важность в уяснении оснований теории алгоритмов в
явной форме была отмечена одним из создателей данной теории, А. А.
Марковым, — вводит в теоретическую кибернетику понятие, которое в
философии называется абстрактной возможностью.
Какой смысл имеет привлечение данной абстракции к обсуждению
интересующих нас проблем? Дело в том, что без обращения к этой
абстракции невозможно говорить о моделируемости (выразимости,
воспроизводимости, представимости и т. п.) любого регулярного (или
регуляризуемого, могущего быть описанным в четкой форме) поведения
человека на машине дискретной переработки данных типа машины
Тьюринга, обладающей в каждый данный момент конечным, но всегда могущим в
случае необходимости быть расширенным объемом памяти. Только с
312

позиции абстрактной возможности позволительно считать человека некой
"машиной Тьюринга", или, точнее, "конечным автоматом".
В какой мере все сказанное касается обсуждаемого нами вопроса,
спросит читатель. В незначительной. Ведь наши рассмотрения
развертываются на иной, существенно более "низкой" — точнее говоря, содержательно
более богатой — ступени абстракции. Вопрос касается фактической
осуществимости на кибернетических устройствах — в наши дни или на какой-
то грядущей ступени развития технологии и науки — моделей
психических механизмов и процессов, поведения человека и т. п. Его можно
сформулировать и иначе: возможно ли машинное получение результатов,
которые, по общему признанию, являются творческими? В поисках ответа
на эти вопросы не имеет смысла обращаться к абстракции потенциальной
осуществимости. Техническая кибернетика и психология — сферы, в
рамках которых развивается проблематика "искусственного
интеллекта", — далеки от "логического рая" чистой математики.
Мы должны, таким образом, обратиться к психо-
Реальиа ли "психо- логическому материалу, или — коль скоро мы в
логическая реальность"? нашем анализе следуем за Дрейфусом — к
"психологическому допущению". В какой мере
кибернетические модели дискретных процессов переработки информации могут
служить созданию картины функционирования человеческой психики?
На пути опровержения "психологического допущения" Дрейфус
пытается доказать более сильное утверждение — что у психологических
исследований вообще нет своего предмета. По его мнению, между уровнем
физико-химических реакций мозга и "феноменологическим" уровнем
осознаваемых человеком восприятий, воспоминаний, мыслей, актов целе-
полагания и т.п. вообще нет никакого "промежуточного уровня", который
мог бы изучаться психологами, не говоря уже о моделировании
соответствующих феноменов на цифровых устройствах. Подобное отвержение
самой возможности существования теоретической психологии, а также
точных методов изучения психики, представляется совершенно
неприемлемым. Оно ведет к дуалистическому разрыву между нейродинамикой и
субъективными явлениями, то есть тем, что в
диалектико-материалистической литературе называется областью идеального. Оно снимает задачу
изучения связей между физиологическим и психическим, в частности
задачу выявления "нейрофизиологического кода" субъективных
явлений — проблему, которая привлекает все большее внимание
нейрофизиологов, психологов и философов (в этой связи можно указать, например,
работы Н. П. Бехтеревой и идеи Д. И. Дубровского; см. об этом в кн.:
Управление, информация, интеллект, с. 236 и ел.). Это отвержение означает
также, что "феноменологии" человеческого сознания отказывают в каких-
либо реальных закономерностях. Советская психология, как известно, идет
другим путем, признавая "психологическую реальность" как подлинный
объект психологического исследования — объект, не "сводимый" к
нейрофизиологической основе психики и не исчерпывающийся явлениями
единственно сознательной жизни человеческого "я".
Пытаясь опровергнуть реальность "психологической действительности"
(и называя критикуемую им позицию "ментапистской"), автор книги
ссылается на различие между "моделированием" (как воспроизведением
лишь внешнего, "входо-выходного" проявления некоторого процесса) и
"представлением" (как более глубоким моделированием, охватывающим
как поведение, так и субстрат моделируемого процесса или системы). В
категоричности этого различения проявляется недиалектический подход
Дрейфуса к процессам познания, объяснения и моделирования. X. Дрейфус
не учитывает того, что всякое моделирование (так же как объяснение и
познание вообще) всегда есть приближение к объекту и может
производиться с разной степенью глубины и полноты. В кибернетическом
моделировании находит свое выражение диалектика отображения поведения,
313

структуры и субстрата моделируемой системы — при ведущей роли
функционального моделирования, то есть моделирования поведения (см.
об этом подробнее: Л.Б.Баженов, Б.В.Бирюков. Некоторые
философские вопросы моделирования биологических объектов.—В кн.:
Математическое моделирование жизненных процессов. М., "Наука", 1968).
Из того, что моделирование — в том числе знаковое, допускающее
представление модели в виде программы для ЭВМ,— всегда дает только
приближение к изучаемой "психологической действительности", вовсе не
следует его гносеологическая "ущербность".
Шаткость заключений X. Дрейфуса в этом пункте очевидна в свете
результатов современных модельно-кибернетических исследований.
Критическое отношение автора к психологическим работам, в которых изучаются
инварианты, позволяющие восприятию, по словам Дж. Фодора, радикально
и постоянно отбрасывать информацию, непосредственно содержащуюся в
физическом входном воздействии (см. с. 140), безосновательно. В рамках
модельно-кибернетического и экспериментально-машинного исследования
выделение инвариантов — один из плодотворных путей изучения
внутренних, то есть скрытых от личности и не усматриваемых в
нейрофизиологических данных, механизмов психической деятельности. Роль инвариантов
как неявных "опорных точек" интеллектуально-творческой активности на
примере машинного моделирования процесса сочинений музыкальных
композиций была показана советским ученым Р. X. Зариповым (см. его
статью "Моделирование транспозиции инвариантных отношений и
музыкальных вариаций на вычислительной машине".— "Kybernetika", Academia,
Praha, vol. 9. No 5, 1973, p. 400—421; см. также кн.: Управление,
информация, интеллект, с. 334—346) .Из работ Зарипова следует, что перенос
инвариантной структуры из одних условий в другие является одним из общих
принципов мышления и проявляется в разных видах интеллектуальной
деятельности. Объективный характер подобного подхода выражается, в
частности, в том, что с его помощью возможно прояснение механизмов
преобразования мелодий в творчестве композиторов, а также объяснение
фактов вольного или невольного заимствования музыкальных тем,
по своей "внутренней сути" являющегося переносом либо изменением
инвариантов.
Впрочем, было бы неверно недооценивать анализ
Контроверза "дискрет- психологического допущения, производимый
ное—непрерывное" Дрейфусом. Доводы автора во многом попадают в
цель, в особенности когда речь идет об
ограниченности методов, использующих принцип дискретности информации. О
связанных с этим проблемах — таких, как проблема "нейтральных
данных", бесконечной редукции правил, глобального контекста и т.п., — мы
поговорим ниже. Здесь же остановимся на затрагиваемом в книге вопросе
о соотношении дискретного и непрерывного в кибернетическом
моделировании.
Принцип дискретности данных, не подверженный ограничениям на
уровне абстракции потенциальной осуществимости, по-видимому,
действительно сужает диапазон возможностей "искусственного интеллекта", коль
скоро речь идет о создании реально функционирующих моделей и систем.
Ведь на этом пути может утратиться специфика решаемой задачи или
моделируемого процесса. Мышление и восприятие, справедливо отмечает
Х.Дрейфус, включает целостные процессы, которые трудно понять в
терминах последовательно или даже параллельно осуществляемых
дискретных операций; "поскольку мозг по крайней мере отчасти работает,
видимо, как аналоговое устройство, то весьма вероятно, что и наш разум
порождает мысли и восприятия на базе "полей", "сил", "конфигураций" и
т. п." (с. 116). Такое понимание интеллектуальной деятельности подпадает
под более широкое (чем дискретная переработка информации) понимание
"информационного процесса", означающее, "что наш разум на основе
314

одних осмысленных образований строит другие осмысленные
образования" (с. 115).
Автор, впрочем, излишне категоричен в противопоставлении
дискретного и непрерывного: он не учитывает диалектическую подвижность
соответствующих категорий. В действительности и реальный мир, и отображающий
его человеческий интеллект воплощают в себе обе эти противоположности
(о диалектике понятий "прерывное — непрерывное" см. подробнее в кн.:
Б.В.Бирюков. Кибернетика и методология науки. М., "Наука", 1974,
с. 89—101). К тому же многие из критикуемых Дрейфусом
специалистов — так же как и исследователи, включившиеся в работы по
"искусственному интеллекту" за последние годы,—отдают отчет в ограниченности
"дискретностного" подхода, и не их вина, что технология в настоящее
время не может предоставить в их распоряжение более гибкие средства.
Авторский анализ эпистемологического допуще-
Феномен ния также требует корректив. Смысл допущения
сложности сводится к следующему: любое четкое — в
терминах правил — описание поведения может быть
формализовано. Как говорит X. Дрейфус, это допущение предполагает,
«что — по крайней мере в принципе — поведение человека можно
представить с помощью набора независимых утверждений, описывающих "входы"
организма и соотнесенных с утверждениями, описывающими его
"выходы"» (с. 148). Создается впечатление, что автор не согласен с этим
тезисом, хотя, по сути, его невозможно оспорить: оговорка "в принципе"
означает принятие уровня абстракции потенциальной осуществимости, а на
этом уровне все, что может быть ясно и общепонятно объяснено, может
быть и формализовано, скажем, представлено с помощью некоторой
машины Тьюринга. И попытка Дрейфуса прибегнуть к reductio ad absudum,
указав, что в этом случае самолеты и корабли также окажутся машинами
Тьюринга, несостоятельна: на уровне дискретных рассмотрений и
абстракции потенциальной осуществимости любые действующие технические
устройства действительно можно рассматривать как идеализированные
машины, перерабатывающие информацию в соответствии с определенными
правилами.
Но есть сторона дела, которую автор схватывает верно. Человеческое
поведение можно считать закономерным в том смысле, что оно
определенным образом упорядочено. Однако предположение, будто законы
поведения могут быть воплощены в программах для ЭВМ или каком-либо ином
эквивалентном формализме, далеко не очевидно и, во всяком случае,
нуждается в обосновании. В возможность такого автор не верит, выдвигая
следующий серьезный аргумент: необходимые для программного
представления поведения человека "громадные вычисления могут оказаться
неосуществимыми в силу самих законов физики и теории информации,
требующих таких вычислений" (с. 152).
Здесь мы подошли к важнейшей проблеме современной
кибернетики — проблеме сложности. Выше мы уже упоминали о ней, когда
указывали на трудности, связанные с движением по дереву экспоненциально
растущего множества альтернатив, открывающихся при решении задачи
"большой размерности". Рассмотрим теперь эту проблему подробнее. В
настоящее время в различных разделах кибернетики и математики
формируются элементы того, что со временем может вылиться в общую теорию
сложности. Пока такой теории не существует, но в рамках математической
логики уже изучается сложность алгоритмов и вычислений, в теории
информации — сложность кодирования и декодирования и т.д.; Г. Н. Пова-
ровым предложена интересная "индуктивная шкала" сложности
материальных систем (см., например, кн.: Управление, информация, интеллект, ч. II,
гл.4).
Теоретическое изучение проблемы сложности особенно важно потому,
что оно проливает свет на некоторые фундаментальные закономерности
реального мира и познания — закономерности, носящие (как и вообще все
315

закономерности) характер своего рода запретов. По-видимому, именно
сложностные ограничения обесценивают вычислимость "в принципе". В
этой связи целесообразно отметить идеи Дж. фон Неймана. Еще в конце
40-х годов фон Нейман задумался над соотношением сложности объектов и
сложности их описаний; он выдвинул идею о существовании некоего
"порога сложности", начиная с которого описание объекта становится
сложнее самого объекта — идею, чреватую серьезными последствиями для
сложившейся научной практики, при которой описания вводятся именно
для того, чтобы упростить сложное, сделав его понятным для
исследователя. Приведем аутентичный текст заключения фон Неймана: "Нет
сомнения в том, что любую мыслимую фазу любой мыслимой формы поведения
можно "полностью и однозначно" описать с помощью слов. Это описание
может быть длинным, однако оно всегда возможно. Отрицать это означает
примкнуть к разновидности логического мистицизма, от чего большинство
из нас, несомненно, далеки. Имеется, однако, существенное ограничение,
состоящее в том, что все сказанное применимо только к каждому элементу
поведения, рассматриваемому в отдельности, но далеко не ясно, как все
это применять ко всему комплексу поведения в целом... Здесь нам
придется иметь дело с такими разделами логики, в которых у нас
практически нет предшествующего опыта. Степень сложности, с которой
мы сталкиваемся в этом случае, далеко выходит за рамки всего того, что
нам известно. Мы не имеем права считать, что логические обозначения и
методы, применявшиеся ранее, могут быть использованы и в этой области.
У нас нет полной уверенности в том, что в этой области реальный объект не
может являться простейшим описанием самого себя, то есть что всякая
попытка описать его с помощью обычного словесного или
формальнологического метода не приведет к чему-то более сложному, запутанному и
трудновыполнимому" (Дж. фон Нейман. Общая и логическая теория
автоматов. В кн: А. Т ь ю р и н г. Может ли машина мыслить? М., Физмат-
гиз, 1960, с. 90—91). Исходя из этого, фон Нейман выдвинул гипотезу,
согласно которой "сложностные" задачи со временем приведут к
возникновению логики нового типа, которая будет менее комбинаторной и более
аналитической ("непрерывностной") и сомкнётся с нейрофизиологией.
Современное развитие теории "расплывчатости", так же как и работы,
развивающие идеи И. М. Гельфанда и М. Л. Цетлина о "континуальных
моделях управляющих систем" (о которых см. М. Л. Це т л и н.
Исследования по теории автоматов и моделирование биологических систем. М.,
"Наука", 1969), в частности, моделирование возбудимых сред,
по-видимому, подтверждает "логическую" часть прогноза фон Неймана. Что же
касается предположения о существовании "порога сложности", то этот
вопрос до сих пор остается открытым. Но научная мысль продолжает
поиск. Алгоритмическое определение понятия количества информации,
предложенное А. Н. Колмогоровым, в значительной степени является
результатом его размышлений над проблемой сложности. Колмогоровым
же было проведено различение четырех категорий чисел —малых, средних,
больших и очень больших, сравнение которых привело его к заключению,
что начиная с больших чисел "переборные" задачи становятся
недоступными для решения: "Проблемы, которые не могут быть решены без
большого перебора, останутся за пределами возможностей машины на
сколь угодно высокой ступени развития техники и культуры" (А. Н. К о л-
м о г о р о в. Автоматы и жизнь. В кн.: Кибернетика ожидаемая и
кибернетика неожиданная. М., "Наука",1968, с. 24).
Онтологическое nonv- Полное опровержение эпистемологического
допущение в свете нетран- щения, утверждает Дрейфус, требует обоснования
зитивности научного того Ф3*18' что МИР принципиально не может быть
объяснения проанализирован в терминах окончательно
установленных, четко определенных данных, то есть
разложен на некие неизменные "факты"— элементы информации. Допуще-
316

ние о возможности такого представления мира — оно названо в книге
онтологическим допущением,— как убедительно показывает X. Дрейфус,
является наиболее шатким. Критика в данном случае попадает в цель, хотя
Дрейфус не всегда пользуется надлежащим оружием и поражает далеко не
все уязвимые пункты "онтологического допущения".
Автор справедливо ставит под сомнение утверждение, будто "для того,
чтобы стать разумным, человек тем или иным способом решил или должен
был решить проблему большой базы данных. Вполне возможно,— говорит
он,— что сама эта проблема возникла как "артефакт", связанный с тем, что
вычислительная машина вынуждена оперировать дискретными
элементами" (с. 170). Человеческое знание невозможно разложить на какие-то
окончательные простые категории.
Эта критика, на наш взгляд, заслуживает более углубленного
рассмотрения. "Атомистическая" доктрина знания уязвима в двух отношениях.
Первое состоит в том, что трудно допустить наличие каких-то
окончательных "атомов знания". Об этой неопозитивистской концепции логического
атомизма мы поговорим в следующем разделе. Согласно второму, даже
если предположить, что "атомы знания" существуют, возникает вопрос,
какова их роль в познавательном процессе. Выделение таких "атомов"
имело бы смысл только при условии, что в процессе научного объяснения
всегда, в случае необходимости, возможно сведение знаний об изучаемых
явлениях к этим "атомам". Тогда, разумеется, это объяснение в принципе
можно было бы вложить в подходящим образом запрограммированный
цифровой вычислитель. Однако многовековая практика научного
объяснения опровергает такую возможность. Редукция понятий как сведение
сложного к простому может быть принята только с серьезными
ограничениями. Научное объяснение в общем случае не обладает свойством
транзитивности: если положения теории А объясняются в терминах
теории В, оперирующей более "элементарными" (и более "точными")
данными (фактами, элементами знания и т.п.), а положения теории В могут
быть уяснены в терминах еще более "дробной" теории С, то из этого не
следует с необходимостью, что положения теории А объяснимы с
помощью теории С. Если бы отношение "х объясняет у" было
транзитивным — позволяющим неограниченно переносить свойство объяснимости с
теории на теорию,—то мы были бы в состоянии понимать любые процессы
в терминах, скажем, физики фундаментальных частиц. Но, как известно,
для большого класса наук, даже многих разделов той же физики, этого
сделать нельзя. Нетранзитивность процессов научного "сведения —
выведения" подрывает "онтологическое допущение".
Обратимся теперь к концепции, предполагающей
Логический атомизм и наличие неизменных "атомов знания", выявляе-
философское наследие мых будто бы с помощью логического анализа и
могущих служить основой для машинных
моделей разума. Идея о существовании подобных "атомов" еще совсем недавно
имела немало сторонников среди философов неопозитивистского
направления. Как верно отмечает X. Дрейфус, наиболее полное выражение она
получила в "Логико-философском трактате" Л. Витгенштейна, основная
идея которого сводится к мысли о том, что мир определяется в терминах
множества атомарных фактов, которые могут быть выражены логически
независимыми предложениями.
Подобной концепции логического атомизма автор противопоставляет
человеческое "чувство ситуации", позволяющее личности выбирать из
потенциально бесконечного множества фактов "только те, которые
релевантны — имеют непосредственное отношение к делу, а после того, как
релевантные факты найдены, оценить их значимость"; ибо "не существует
каких-либо фактов, релевантность и значимость которых инвариантны во
всех ситуациях"" (с. 182). Не "нейтральные" по отношению к человеческой
деятельности факты и "атомарные предложения" определяют человеческое
317

поведение, а учет ситуаций и обращение к контексту, который и придает
фактам их значимость (см. с. 179).
Здесь мы подходим к самой сути аргументации автора. Исходя из
исторической ограниченности "атомизма" как философского принципа,
составляющего, по его мнению, гносеологическую основу "искусственного
интеллекта", Дрейфус направляет все свои усилия на то, чтобы доказать,
что "атомистический" подход вообще не пригоден для адекватного
моделирования интеллектуальной деятельности, так как человек отображает
объекты прежде всего как некие целостности, не расщепляя их на
независимые друг от друга части; такое расщепление — анализ
целого — производится не до восприятия объекта, а после этого восприятия,
когда человек вторично фиксирует на нем свое внимание.
"Логический атомизм" Дрейфус рассматривает как органическое
продолжение и логическое завершение рационалистической линии
философской мысли, "философской традиции", как он ее называет,— традиции,
восходящей еще к Платону. Взгляды, составляющие существо
онтологического допущения "искусственного интеллекта", формировались, по его
мнению, под влиянием концепций "эмпириков" (Д. Юм) и "идеалистов"
(И.Кант); в системе взглядов Юма, пишет Дрейфус, информационным
"битам" соответствуют атомарные впечатления, а в системе Канта —
правила рассудочной деятельности. Эмпирики и идеалисты "подготовили почву
для модельного представления мышления в виде процесса переработки
информации — безличного процесса, в котором "процессор" не играет
существенной роли" (с. 106).
Очевидно, что трактовка "философской традиции", предлагаемая
Дрейфусом, страдает явными натяжками. Многогранные взгляды Канта отнюдь
не укладываются в прокрустово ложе, определяемое концепцией автора.
Что касается кантовской интерпретации "обычной", или "общей", логики
(согласно которой в этой науке исследование понятий, суждений и
умозаключений производится при полном отвлечении от мыслимого
содержания), а также этической теории Канта (по которой нравственное
поведение состоит в безусловном подчинении этическому долгу —
"правилу" категорического императива), то они в той или иной степени
подпадают под общую оценку Дрейфуса. Однако когда Кант раскрывает
связь между чувственным созерцанием и рассудком (оперирующим
понятиями и суждениями), он отмечает значение такого фактора, как
"продуктивная сила" воображения; человек как субъект
познавательного процесса — "процессор", если прибегнуть к кибернетической
терминологии,—учитывается в кантовском учении о разуме как способности к
умозаключению, приводящей к возникновению идей, что скорее
противоречит идее Дрейфуса, нежели укрепляет ее. В истолковании взглядов
Д. Юма в книге также наблюдается неоправданное смещение акцентов. Юм,
например, придавал большое значение изучению психики человека и в
значительной мере с психологических позиций подходил не только к этике
и эстетике, но и к истории и экономике.
Если "философская традиция'/ с которой полемизирует Дрейфус, есть
традиция рационализма, то принять его позицию без существенных
ограничений и уточнений просто невозможно. Пусть мир, в котором мы живем,
нельзя безоговорочно провозгласить миром, в котором заранее
гарантирована "ясность, определенность и управляемость", миром
"структурированных данных, теории принятия решений и автоматизации". Однако наука и
практика не могут не исходить из того, что мир доступен человеческому
разуму. В этом смысле отвергать рациональное начало в мире и человеке —
значит становиться на позицию того самого "логического мистицизма", о
котором говорит фон Нейман в приведенной нами цитате.
Строя свою аргументацию, Дрейфус широко пользуется материалами
гештальтпсихологии и психолого-гносеологическими концепциями Э.
Гуссерля, позднего Л. Витгенштейна, М. Мерло-Понти и М. Хайдеггера.
318

По-видимому, именно феноменолого-экзистенциалистские и иррациона-
листические установки этих философов, разрывающих
"феноменологический" мир человеческой личности и реальность (к которой относится, в
частности, нейрофизиологическая основа психики), "повинны" в том, что
автор иногда заходит так далеко, что фактически начинает отвергать
формализацию как метод изучения познавательных процессов.
Какова же на самом деле та философская тради-
Логическая ция, на основе которой наука пришла к киберне-
традиция тике, к моделированию познавательных
процессов, к направлению "искусственного интеллекта"?
Прежде всего это логическая традиция — традиция, исторически
восходящая к Лейбницу. Справедливо обращая внимание на эту сторону дела,
Дрейфус, к сожалению, не развивает достаточно подробно тему матема-
тико-логической подготовки кибернетики. В числе предшественников
современных модельно-кибернетических исследований, помимо Лейбница
и Буля (о которых говорится в книге), следует назвать также и
выдающихся математических логиков конца прошлого века Э. Шредера и
П. С. Порецкого (Шредер вполне определенно сформулировал идею
"искусственного интеллекта"), и Г. Фреге, выдвинувшего программу
логической формализации математики, и Д. Гильберта, положившего начало
современным метаматематическим исследованиям, и К. Геделя, А.
Тьюринга, Э. Поста, С. Клини, А. Тарского, А. Маркова, П. Новикова и др.,
заложивших основы теории алгоритмов и в серии знаменитых теорем
раскрывших внутреннюю ограниченность формализации.
Читая высказывания Дрейфуса о логике, следует иметь в виду, что
логические отношения для него исчерпываются только булевой алгеброй.
Между тем за последние полвека арсенал логики необычайно обогатился:
спектр логических построений простирается теперь от неклассических
логических систем типа интуиционистской и конструктивной логик,
многозначных, бесконечнозначных и модальных логических систем до
вероятностно-индуктивных теорий, логических исчислений повелительных
предложений, теории вопросно-ответных процедур и логики расплывчатых
понятий, о которой речь шла выше. Логика как наука вплотную
сомкнулась с математической лингвистикой и семиотикой, и на этой основе
возникла общая теория языков, исчислений и алгоритмов. Получили
развитие прикладные логические разработки. Если учесть
перспективы применения всех этих логико-семиотических средств в
кибернетическом моделировании и "искусственном интеллекте", то тезис
автора об онтологическом допущении как некой обязательной
методологической базе работ по автоматизации интеллектуально-творческих
процессов не выглядит убедительно.
Пусть читатель не распространяет нашу критику
Третья возможность. ряда положений автора на книгу в целом. Из
Антиномия киберне- произведенного Дрейфусом анализа трудностей
тической формализа- кибернетики можно извлечь обширный полезный
ции и ее решение и интересный материал. Теперь настало время
подробнее рассмотреть — в позитивном плане —
его основную аргументацию.
Автор подчеркивает, что своеобразие, важность — и вместе с тем
проклятие — работ по разработке систем общения пользователей с
машиной на естественном языке состоит в том, что "машине приходится
использовать формальные методы для того, чтобы справляться с
реальными жизненными ситуациями, как только они возникают" (с. 161),
ситуациями, в которых "объекты имеют специфическое ситуативное
значение" (с. 160). Современные машины, справедливо отмечает X. Дрейфус,
при нынешних методах программирования не могут "участвовать в
ситуациях" наравне с людьми; на них можно моделировать лишь некоторые
разновидности теоретического понимания, но то, что иногда называют
319

практическим интеллектом, не программируется. Машины
"((экзистенциально тупы» в том смысле, что не в состоянии справляться с
конкретными ситуациями" (с. 160). В качестве подтверждения приводится
фактический материал, относящийся к использованию естественного языка. В
процессе языковой коммуникации люди не связаны жестко
лингвистическими правилами. Они могут их нарушать, видоизменять и тем не менее
выражать именно то, что они хотят сказать, и при этом другие люди их
понимают. Невозможность программирования этой способности Дрейфус
объясняет трудностями формулирования правил допустимого нарушения
правил. Ибо на этом пути мы неизбежно впадем в бесконечный процесс
сведения одних правил к другим. Эту вполне реальную трудность,
существенным образом тормозящую работы по машинному переводу, Дрейфус,
вслед за Л. Витгенштейном (как автором "Философских исследований"),
понимает как диалектический аргумент, опровергающий посредством
сведения к абсурду возможность автоматизации сферы языкового
общения. Диалектический момент усматривается при этом в антиномич-
ности, которая может истолковываться как в терминах правил, так и
контекстов.
В применении к проблеме контекстуального понимания антиномичность
состоит в следующем. Ставя задачу конструирования разумного поведения,
мы сталкиваемся с противоречием. Если для каждого контекста, в
котором фигурирует некоторый набор фактов, должен быть более
широкий контекст, позволяющий выделять среди них существенные (те чс),то
должен существовать какой-то первичный, не сводимый ни к чэму другому
контекст, не требующий дальнейших объяснений, так как иначе возникнет
бесконечная редукция контекстов (антитезис).
Для разрешения этой антиномии Дрейфус вслед за Кантом
отказывается от предположения, что возможны только две альтернативы. Существует
третья альтернатива, в которой и заключено решение дилеммы; она
воплощена в человеке. Для человека "нет никакой иерархии
контекстов - просто наличная ситуация воспринимается нами как продолжение
или модификация предшествующей. Тем самым мы переносим из
непосредственного прошлого совокупность предвидений, основанных на том, что
было существенным и важным мгновение назад. Этот перенос создает
определенную установку, определяющую то, на что нам следует обратить
внимание" (с. 186).
Представленная Дрейфусом антиномия действительно диалектична. По
своему типу она, вообще говоря, имеет глубокие исторические корни, в
чем нетрудно убедиться из приведенной автором "временной версии"
исходной антиномии: "либо должен существовать самый первый
контекст — контекст, который машина не в силах распознать из-за отсутствия
предыдущего контекста, в терминах которого происходит выделение
существенных характеристик данного контекста; либо возникает редукция
контекстов во времени, уходящая в сколь угодно отдаленное прошлое, и
тогда машина окажется не в состоянии начать процесс распознавания"
(с. 188). Нетрудно заметить, что пеоед нэми вариация на тему апорий
Зенона, в частности апории "Дихотомия", с помощью которой, как
полагают историки античной философии, Зенон старался доказать, что
движение не может начаться.
В чем же состоит решение подобных антиюмий? Причем решение не на
логико-теоретическом уровне, а решение реальное, ибо подобные
антиномии _ не пустые, ничего не отражающие абстракции: они присущи самой
действительности. Решение это - в самом движении, самом развитии1. В
таком, например, движении человеческой деятельности, апелляция к
которой понадобилась Дрейфусу для раскрытия антиномичности
кибернетического моделирования. Это движение есть обучение, развитие знания,
практика. В применении к кибернетике вопрос ставится примерно так:
возможна ли организация аналогичных процессов для вычислительных
320

машин и их программ? В свое время этим вопросом занимались еще фон
Нейман и Тьюринг. Нейман в связи с этим разработал теорию
самовоспроизводящихся автоматов и в ее рамках обсуждал вопрос о возможности
возрастания сложности автоматов в процессе их самовоспроизведения. Эту
модель он рассматривал в качестве некоего весьма упрощенного
аналога — но все же аналога! —органической эволюции, которая, как известно,
"использует" и накопление опыта, и "решение проблем", и обучение, и
развитие. И хотя Дрейфус лишь вскользь упоминает о Тьюринговой идее
программирования "машины-ребенка", в ходе дальнейших рассуждений он
все же признает, что если со временем удастся запрограммировать
изначальные человеческие рефлексы и обеспечить машине возможность
обучения, "то, быть может, окажется возможным решить проблему
распознавания контекстов" (с. 187).
Критически интерпретируемым "допущениям
Личность — объект искусственного интеллекта" в книге противопо-
или субъект? Актив- ставляется альтернативная концепция. Эта часть
ность деятеля-человека изложения Дрейфуса в значительной мере
представляет самостоятельный интерес.
Главная идея Дрейфуса заключается в том, что специфика
познавательной деятельности человека, его способов поведения — всего того, что
является камнем преткновения для создателей современных ЭЦВМ и их
математического обеспечения, — вытекает из того, что человек находится в
собственном "человеческом мире" (мире, для обозначения которого
можно было бы употребить термин "ноосфера", то есть сфера разума), не
совпадающем с тем "физическим миром", информация о котором только и
может обрабатываться на современных цифровых машинах. Согласно
противоположной точке зрения, называемой в книге "машинной
парадигмой", цифровая машина есть воплощение логического мышления, и ей "не
хватает только некоторой совершенной программы, чтобы сравняться с
человеком в его отличительном свойстве — рациональности, разумности"
(с. 195). В основе данной парадигмы, по Дрейфусу, лежат следующие
предпосылки: объяснение человеческого поведения может (и должно)
быть дано в естественнонаучных терминах; ситуации, с которыми
сталкиваются люди, можно трактовать подобно физическим состояниям; "мир
человека" допустимо интерпретировать так же, как изучаемую
естествознанием вселенную. Критикуя такой взгляд, Дрейфус подчеркивает, что он в
конечном счете ведет к противопоставлению разумного и биологического
начал в человеке и к "попыткам моделирования способности к
рассуждению, исходя из нее самой" (с. 197). Подобное толкование человека как
устройства или объекта, реагирующего на воздействия со стороны других
объектов согласно определенным правилам, по мнению автора, есть
понимание человека как "созерцателя", пассивно воспринимающего сведения,
поступающие из окружающего мира и затем упорядочивающего их.
Это сильный аргумент Дрейфуса, и с ним нельзя не согласиться. Однако
Дрейфус заблуждается, полагая, что "пионерами" критики человека как
пассивного "устройства" выступили М. Хайдеггер и "поздний"
Витгенштейн. Понимание человека как некоего "объекта" было органически
чуждо уже диалектике Гегеля. Карл Маркс, формируя диалектико-материа-
листическую систему взглядов на природу, общество и личность, со всей
решительностью подчеркивал активность субъекта. Но в отличие от
современных феноменологов и экзистенциалистов, на которых ссылается
Дрейфус, он выводил ее из социальной практики как основы человеческого
бытия. В Марксовых "Тезисах о Фейербахе" предшествующий материализм
подвергается критике именно за то, что "предмет, действительность,
чувственноть" берется им "только в форме объекта, или в форме
созерцания, а не как человеческая чувственная деятельность, практика, не
субъективно" (К. Маркс и Ф. Энгельс. Соч., т. 3, с. 1).
Аналогичные идеи высказывал и В. И. Ленин. В "Философских тетрадях" мы
321

читаем: "Сознание человека не только отражает объективный мир, но и
творит его" (В. И. Ленин. Полн. собр. соч., т. 29, с. 194). Мотив
творческой активности деятеля-человека в научной методологии прочно
вплетен в ткань диалектико-материалистической теории отражения.
Путь, который предлагает Дрейфус в рамках
Биологическое развиваемого им "альтернативного подхода",
психическое состоит в поисках "совершенно иного" ответа на
вопрос, "каким образом осуществляется
разумное поведение", нежели решение в духе "машинной парадигмы". Смысл
этого пути — в попытке найти "фундаментальные отличительные черты
человеческой деятельности" (с. 197). Последние сводятся к трем факторам,
которые, по мнению автора, не могут быть учтены в современных работах
по "искусственному интеллекту". Это — роль биологического начала в
человеке или, как говорит Дрейфус, роль "тела" в "организации и
унификации" человеческого опыта; роль ситуаций, в которых непрерывно
находится человек, как основы такого упорядочения поведения, которое не
использует какие-либо жесткие правила; и, наконец, роль человеческих
целей и потребностей как основы выделения человеком того, что для него
значимо и должно быть учтено в его действиях.
Телесному фактору придается в книге особенно большое значение.
Дрейфус говорит, что "наше отличие от машины вне зависимости от
сложности ее конструкции связано отнюдь не с обособленной,
универсальной, нематериальной душой, а со сложно организованным материальным
телом, находящимся в самодвижении" (с. 200). Именно тело человека
является источником навыков, которые используются в различных
ситуациях и формируют "феноменальный" мир человеческой психики.
Благодаря своей "телесности" в человеческом поведении решается антиномия
редукции контекстов и правил, являющаяся камнем преткновения для
современных машин, то есть реализуется "третья возможность".
"Телесность" обусловливает именно те функции, которые нельзя вложить в
машинные программы — и создаваемые ныне, и только проектируемые. В
числе этих функций — процессы, называемые в книге "периферийным
сознанием", "допустимостью неоднозначности", "способностью различения
существенного и несущественного" и "осмысленной классификацией
данных". Дрейфус считает, что именно наличие тела объясняет способность
человека к частично неопределенному, не поддающемуся четкому
выражению предвосхищению (антиципации) событий. Это предвосхищение носит
"глобальный" характер в том смысле, что, находясь в зависимости от
учитываемых деталей наличной ситуации, оно в то же время определяет их
значение; при этом предвосхищение, антиципация динамична — она может
перемещаться от одной чувственной модальности или действующего органа
к другой модальности или органу. Все это в своей совокупности образует
общую способность человека к приобретению "телесных умений и
навыков. Благодаря этой фундаментальной способности наделенный телом
субъект может существовать в окружающем его мире, не пытаясь решить
невыполнимую задачу формализации в его и вся" (с. 220). В "телесности"
человека автор видит причину того, почему "информационные процессы"
познания, в которых "значение целого обладает приоритетом по отношению
к составляющим целое элементам" (с. 221), так отличаются от машинных
методов.
Эти рассуждения Дрейфуса, если отвлечься от определенного налета
"биологизма", заслуживают внимания. В связи с ними, однако, уместно
сделать два замечания. Первое касается отечественных психологии и
философии, а именно того, что в них в должной мере учитываются и
биологический аспект поведения человека (начиная с биомеханики
движений, в разработку которой большой вклад внес Н. А. Берн штейн), и
феномен целостности восприятия, и определенное "приоритетное" значение
этой целостности по отношению к последующей аналитической деятель-
322

ности сознания (см. работы СП. Рубинштейна), и человеческая
предвосхищающая деятельность (в психологической школе Д. Н. Узнадзе основанная
на понятии установки, а в нейропсихологической школе П. К«
Анохина — на понятии акцептора действия) . Как результат упомянутых
психологических исследований напрашивается вывод, что восприятие и
узнавание объектов, данных человеку в пространстве и времени, мало
похоже на поиск по дереву четко различимых "нейтральных"
характеристик.
Второе замечание заключается в том, что "телесная организация",
значение которой для интеллектуально-познавательной и практической
деятельности человека столь решительно подчеркивается в книге, в свою
очередь может быть предметом автоматной имитации. В аргументации
Дрейфуса недостаточно учитывается различие между цифровыми
машинами, предназначенными исключительно для переработки информации, и
роботами, в зачатке обладающими "телом*'. Мы имеем в виду так
называемые интегральные роботы, в которые встраиваются датчики, получающие
данные из внешней среды (эти датчики являются в определенном смысле
аналогами органов чувств животных и человека), и которые снабжаются
манипуляторами и устройствами, позволяющими роботу перемещаться в
трехмерном пространстве (то есть реализовать некое подобие моторики
живых организмов). Проектирование подобных роботов имеет целью
сделать их способными к самостоятельной деятельности определенного
(неизбежно ограниченного) рода в сложном и изменяющемся окружении.
О далеко идущих планах в области роботостроения свидетельствуют
разнообразные проекты издания роботов-исследователей для действий в
космосе и океане.
Вернемся, однако, к анализу рассуждений Дрейфуса. В его книге
высказаны интересные соображения относительно соотношения рационально-
логических и интуитивно-наглядных, концептуально-сознательных и
"глубинных" форм активности человеческой психики. Автор верно обращает
внимание читателя на то, что кибернетическое моделирование наиболее
успешно тогда, когда речь идет о передаче машине логических отношений и
процедур. Однако эти "высшие", четко определенные логические формы
интеллекта базируются на очень сложных и более общих "низших" формах
(и даже, замечает автор, управляются этим последним). В значительной
мере это есть та часть психики, которая роднит человека с животним миром
("распознавание образов") — но не только, так как к наиболее сложным
пластам психики Дрейфус относит и использование естественного языка с
его гибкими значениями. Именно эта "низшая", "глубинная" часть
механизма познания труднее всего поддается моделированию, а по мнению автора,
даже не поддается вообще.
Не все специалисты в области кибернетического моделирования, так же
как математики и логики, занимающиеся вопросами "искусственного
интеллекта" или задумывающиеся над его проблемами, по-видимому, в
должной мере учитывают сторону дела, на которой столь решительно
настаивает Дрейфус. Однако те математики и кибернетики, которые
принимают во внимание психолого-гносеологические и социальные аспекты,
видят ее достаточно ясно. Вот что, например, писал А. Н. Колмогоров в
статье "Жизнь и мышление как особые формы существования материи": "В
развитом сознании современного человека аппарат формального мышления
не занимает центрального положения. Это скорее некоторое
"вспомогательное вычислительное устройство", запускаемое в ход по мере надобности...
кибернетический анализ работы развитого человеческого сознания в его
взаимодействии с подсознательной сферой еще не начат" (сб. "О сущности
жизни", М., "Наука", 1964, с. 54). Эти слова, сказанные советским ученым
еще в начале 60-х годов, справедливы и для современной ситуации в
"искусственном интеллекте".
323

Впрочем, из сказанного выше не следует делать вывод о
несущественности логического мышления в познавательном процессе. Дрейфус — и об
этом мы еще будем говорить — чрезмерно противопоставляет мир,
субъективно данный личности, объективному физическому миру, в котором
действует человек, и это приводит к известной недооценке классической науки
о природе, в сооружении здания которой формально-логическое
"вспомогательное логическое устройство", которым располагает каждый человек,
играет необходимую и важную роль. Если дискретный подход и требования
точности не всегда дают эффект, то во многих случаях это как раз самые
сильные средства.
Одно из главных препятствий на пути кибернети-
Потребности и цели. ческого моделирования человеческого поведения
Что значит "быть в автор усматривает в невозможности наделить
человеческом мире"? ЭЦВМ человеческими мотивами и целями.
Объясняя природу этой трудности, Дрейфус правильно
указывает на то, что в основе человеческого целеполагания лежат
потребности. Особый акцент при этом делается на потребностях биологического
("телесного") характера, включая двигательную активность организма.
Будучи определена текущими нуждами человека, система его целей,
мотивов его поведения, функционирования его организма динамична,
изменчива; этим она коренным образом отличается от системы правил,
управляющих работой машины: как бы ни были организованы эти правила
(например, иерархически подразделены на правила переработки
информации, метаправила — правила применения правил или изменения их и т. п.),
на современном уровне развития ЭЦВМ и их математического обеспечения
они предполагают предварительное формальное описание — пусть
обобщенное и доступное изменению в ходе машинного обучения — класса ситуаций,
с которыми машина может справляться. Эта "нечеловеческая жесткость"
проистекает из того — и здесь Дрейфус совершенно прав, — что машину
невозможно запрограммировать таким образом, чтобы у нее появились
собственные цели того же типа, что и те, которые определяют поведение
человека. Правда, современные программы "искусственного интеллекта"
позволяют машине в ходе решения задач формировать "цели" и
"подцели", зависящие от "истории" соответствующего информационного
процесса и результатов общения машины с внешней средой. Однако
нынешние машинные аналоги человеческого целеполагания все же
чрезвычайно далеки от своего прототипа, и, создавая все более мощные системы
"искусственного интеллекта", мы не знаем, по какому пути и в какой мере
можно к нему приближаться.
Конкретные потребности человека — Дрейфус фактически
неоправданно ограничивает их "телесной организацией"— прямо или косвенно
формируют текущие задачи человеческой деятельности, благодаря которым
происходит разграничение существенного и несущественного. От
направленности реальных интересов, накопленных знаний и навыков действий
зависит, что в данной ситуации будет оставлено без внимания, что
сохранится в качестве "потенциально релевантного" на более "отдаленных"
участках внутреннего мира человека, а что будет немедленно учтено в его
поведении.
Человек не машина. Все, с чем он сталкивается в своей деятельности,
будь то конкретные объекты или отвлеченные идеи, так или иначе связано с
его устремлениями. "Вне конкретной заинтересованности, без наличия
конкретного предмета исследования — всего того, что позволяет
производить выбор и интерпретацию" (с. 186), невозможно осмысление реальности
и деятельность в ней. Это умение ориентироваться в мире — "быть в нем
своим", как образно говорится в книге, — присуще человеку не только как
"машине" из мускулов и нервов, но и как существу, применяющему
орудия труда и исследования. Ссылаясь на выводы М.Поляного, автор
отмечает, что, когда человек овладевает орудиями труда или языком, он
324

превращает соответствующие орудийные или языковые средства как бы в
продолжение самого себя, "интериоризирует" их, вживается в них.
Итак, "человеческий мир" всегда структурирован в терминах
намерений и направленности интересов, и это порождает, говорит Дрейфус,
особого рода регулярность человеческого поведения — контекстуальную
регулярность, смысл которой состоит в том, что человеческое поведение
никогда не подчиняется полностью каким-либо правилам, но
всегда упорядочено — в той мере, в какой это необходимо при данных
условиях.
В книге убедительно показано, что "человеческий мир" не может быть
разложен на "независимые элементы"; для человека, его психики, считает
Дрейфус, не возникает и вопроса о "хранении и классификации огромных
списков бессмысленных, изолированных данных" (с. 229), так как
ситуации, в которых оказывается человек, всегда организованы в терминах
человеческих потребностей и склонностей, благодаря чему факты
приобретают соответствующее значение.
Как мы видим, позиция автора отражает реальную диалектику
человеческой деятельности, — деятельности, для которой характерна гибкость,
недоопределенность задач, сложное и во многом противоречивое
взаимодействие потребностей и целей, выражающееся, в частности, в том, что
нередко цель осознается лишь после ее достижения, так как вызвавшая ее
потребность может не осознаваться или осознаваться весьма смутно.
"При попытке найти окончательные бесконтекстные и бесцелевые
элементы, которые нам нужны, чтобы найти не разложимые далее кванты
информации, вводимые в машину,— пишет автор,— ...мы фактически
стараемся очистить факты нашего жизненного опыта именно от той
прагматической организации, благодаря которой только и возможно
их гибкое использование, приводящее к решению повседневных задач"
(с. 231).
Способность человека, по выражению Дрейфуса, "быть своим в
человеческом мире" — вещь вполне реальная. Реальная потому, что она может
быть утрачена. Так, при поражении некоторых участков мозга человек
теряет (полностью или частично) способность "глобального" восприятия,
оставаясь при этом личностью. В таком случае для ориентации в мире он
действует подобно машине: например, для того чтобы отличить
треугольник от четырехугольника, подсчитывает число сторон этих фигур.
Здоровый человек также может приблизиться к видению мира сквозь
"машинные очки", если по каким-то причинам он рассматривает вещи вне их
обычных связей. В семиотике искусства использование подобного
литературного приема называется остранением.
'Мир" современной ЭЦВМ — даже эвристически
запрограммированной — есть мир отдельных деталей, атомизированность которого
стремятся преодолеть за счет эффективных методов поиска решений,
организации памяти, фреймов, формализованных обобщенных описаний и
т.п. Но в этом "мире" — включая "мир" машин обозримого будущего, —
как правильно говорит Дрейфус, нет места "для хорошо знакомого нам мира
орудий, организованного в терминах наших намерений" (с. 235).
Читатель, несомненно, заметил наблюдающийся в
Практика. Человек как книге известный "перекос" в сторону преувеличе-
"совокупность всех ния биолого-антропологических аспектов в истол-
общественных отно- ковании человека и его интеллекта. К сожалению,
шений" общественная природа личности как носителя
разума — важнейшая, "сущностная" черта
человека, в то же время являющаяся наибольшим, насколько можно судить,
препятствием на пути кибернетического моделирования интеллекта,
остается в книге нераскрытой. Правда, в связи с вопросом о распознавании
социальных связей автор отмечает значение социального общения, считая
325

мир человеческой жизни "более широкой ситуацией", в которую погружена
человеческая деятельность (см. с. 185), говорит о том, что человеческая
способность "находиться в ситуации" зависит "не столько от гибкости
нашей нервной системы, сколько от нашей способности к практической
деятельности" (с. 200), и указывает, что "не существует жестко
фиксированной природы человека" (с. 250). Однако понимание автором практики
весьма далеко отстоит от диалектико-материалистической концепции
практической деятельности и, как косвенно "признает автор, близко к
концепции прагматизма.
Осмысляя проблему возможностей кибернетического моделирования
познавательных процессов и создания систем "искусственного интеллекта",
мы должны брать практику в ее полном объеме: и как основу
формирования самого человека, и как главный импульс познавательного процесса, и
как критерий истинности результатов отражения действительности в
психике, сознании человека. Именно с этих позиций и следует рассматривать
категории, которыми оперирует автор, и собранный им богатый и
интересный фактический материал. Процесс удовлетворения потребности как
источника активности личности неотделим от целенаправленной
деятельности. Эта деятельность развертывается в истории, в исторической
практике. Как писали К. Маркс и Ф. Энгельс, "сама удовлетворенная первая
потребность, действие удовлетворения и уже приобретенное орудие
удовлетворения ведут к новым потребностям, и это порождение новых
потребностей является первым историческим актом" (К.Маркс и Ф.
Энгельс. Соч., т. 3, с. 27). В советской философии, психологии и
социологии историческая обусловленность потребностей раскрыта достаточно
полно. Не ограничиваясь той "телесной" сферой, к которой их
"привязывает" Дрейфус, отечественные философы и психологи подчеркивают
огромное значение социально обусловленных интеллектуальных потребностей
и раскрывают связь высших форм человеческих потребностей как
регуляторов поведения личности с процессами творчества (см., например:
А. Г. С п и р к и н. Сознание и самосознание. М., Политиздат, 1972).
Понятие цели как феномена, с одной стороны, объективно
обусловленного, а с другой — носящего субъективный (принадлежащий субъекту)
характер, должно быть, таким образом, введено в контекст социальной
практики. Маркс отмечал, что человек "не только изменяет форму того,
что дано природой; в том, чтс дано природой, он осуществляет вместе с
тем и свою сознательную цель, которая как закон определяет способ и
характер его действий и которой он должен подчинять свою волю"
(К. Маркс и Ф. Энгельс. Соч., т. 23, с. 189). Раскрывая
взаимоотношение субъекта и объекта в процессе производства, Маркс писал, что если
производство, с одной стороны, "является присвоением объектов субъектами,
то, с другой — оно в такой же мере есть формирование объектов,
подчинение объектов субъективной цели, превращение объектов в результаты и
воплощения субъективной деятельности" (К. Маркс и Ф. Энгельс.
Соч., т. 46, ч. I, с. 478).
Человеческие цели формируются в человеческом сознании, которое "с
самого начала есть общественный продукт и остается им, пока вообще
существуют люди" (К. Маркс и Ф. Энгельс. Соч., т. 3, с. 29).
Характер целей, степень их гибкости или жесткости, их динамика
складываются в человеческой практической деятельности. Диалектически
противоречивый характер последней приводит к тому, что и цели человека
сложны и многоплановы, зачастую противоречивы. В этом — одно из
качественных различий между поведением человека и работой машины;
последняя в определенном смысле даже более "целеустремленна", чем
человек: ее работа направлена на получение результата, который при всех
ухищрениях машинных адаптации и обучения носит несравненно более
жесткий характер, чем активность наделенного сознанием человека,
порождающая все новые цели.
326

Как писали К. Маркс и Ф. Энгельс, "сущность человека не есть
абстракт, присущий отдельному индивиду. В своей действительности
она есть совокупность всех общественных отношений" (там же, с. 3).
Запомним эти слова. Мы вернемся к ним, когда будем завершать наше
обсуждение возможностей "искусственного интеллекта".
Одним из изъянов книги Дрейфуса является тен-
Феноменологическая денция к истолкованию человеческого интеллекта
метафизика или диа- как чего-то, так сказать, неумопостигаемого.
лектико-материалис- Много рассуждая о "телесных функциях" чело-
тический монизм? века, Дрейфус не ставит, однако, вопроса, как же
именно эти функции формируют те способности
человека, к которым ему приходится апеллировать для обоснования своего
тезиса о принципиальной непрограммируемое!и человеческого поведения и
психики. Понимая, что для предлагаемого им "расчета с традицией"
недостаточно материала гештальтпеихологии (который широко
представлен в книге), Дрейфус для обоснования своего подхода становится на
позицию "феноменологического"— в понятиях субъективного мира
человека—описания выделяемого им типа разумного поведения. Так, он
соглашается с точкой зрения М. Мерло-Понти о том, что человеческие действия
происходят исключительно "в сфере феноменального", не переходя в
предметный мир (см. с. 217—218).
Концепция Дрейфуса — Мерло-Понти о роли человеческого тела в
формировании интеллектуального поведения не лишена агностической
окраски. Философски несостоятельными представляются категорические
настояния автора на необходимости разграничения объективных фактов и
человеческих ситуаций; на том, что "осмысленные объекты, включенные в
контексты связей, в гуще которых мы живем, не образуют ту модель мира,
которая хранится в нашей памяти или в нашем мозгу, а являются самим
этим миром (с. 234); на том, что человек — "источник фактов" и что в
процессе своей жизни в мире он создает "и самого себя, и сам мир фактов"
(с. 264). Агностический мотив присутствует и в мысли автора о том, что
"нет никаких оснований надеяться, что переработка информации на
нейрофизиологическом уровне может быть описана в терминах цифрового
формализма или какого бы то ни было формализма вообще" (с. 111); курсив
мой. — Б.Б.).
Дрейфус солидаризуется с двусмысленными рассуждениями У. Ниссера
о мире, "к которому мы не имеем прямого доступа''; противопоставляя
этому миру — миру физических процессов —"мир машин и книг", с
которым "мы... имеем'дело в непосредственном опыте" (с. 237), и отвергая
"промежуточный мир", изучаемый психологами, он призывает "оставить
физический мир на усмотрение физиков и нейрофизиологов и вернуться
(?) к описанию нашего человеческого мира, который мы непосредственно
воспринимаем" (с. 240). Допуская, что "наш физический организм
постоянно бомбардируется физической энергией, результатом че«о и является
наше восприятие мира через опыт" (с. 237), но отказывая науке в изучении
того, как же возникает этот результат, автор впадает в своего рода
феноменологическую метафизику.
Описанные установки Дрейфуса резко контрастируют с позицией диа-
лектико-материалистического монизма, рассматривающего идеальное как
порождение и отражение материального и считающего актуальной задачей
науки — далеко еще не решенной — раскрытие физиологических основ
психики и социальной обусловленности человеческого поведения и
личностных феноменов. В рамках предлагаемого Дрейфусом подхода трудно
понять, как вообще возможно объективное знание о чем-то — объективная
истина, не зависящая ни от человека, ни от человечества.
Феноменологическая метафизика Дрейфуса закрывает доступ к диалектике
субъективного и объективного в человеческом познании'
327

Вопрос, на который Обратимся теперь к главному вопросу, составляю-
сейчас мы не можем щему предмет книги,— к вопросу о том, возмо-
дать ответ жен, а если возможен, то как и в какой мере,
"искусственный разум". Один аспект выводов
автора по данному вопросу несомненно позитивен, и его следует учитывать
как кибернетикам, так и психологам; однако другой аспект, по нашему
мнению, можно и нужно оспаривать.
По-видимому, следует согласиться с Дрейфусом, когда он утверждает,
что как существующие ныне, так и только разрабатываемые машинные
методы хранения и поиска информации никогда не достигнут такого
уровня, что автомат окажется в состоянии "справиться с тем объемом
данных, который возникает при попытке выразить в точной форме наше
знание мира" (с. 253); ибо масса этих данных может оказаться
необозримо большой, и "формализация нашей жизни" будет невозможной. Главную
трудность Дрейфус при этом усматривает в неразрешимости задачи точного
выражения человеческих потребностей. Ибо диалектика потребностей
такова, что ни у индивида, ни у человечества в целом потребности "никогда
не становятся полностью определенными, они сохраняют способность к
уточнению, а природа человека получает возможность повторных
изменений в ходе революций личностей и культур" (там же). Именно поэтому
поведение человека — и не только его "тело", как считает Дрейфус, но
прежде всего его социальную активность — нельзя воспроизвести на
цифровой машине, даже если ее снабдить системой органов-манипуляторов.
Сошлемся в этой связи на мнение А. Н. Колмогорова: "возможно, что
автомат, способный писать стихи на уровне больших поэтов, нельзя
построить проще, чем промоделировав все развитие культурной жизни того
общества, в котором поэты реально развиваются"
(А.Н.Колмогоров. Жизнь и мышление как особые формы существования материи. — В
кн.: О сущности жизни, с. 57). Хотя сам Колмогоров называет эти слова
"шутливой формой" интерпретации основной проблемы кибернетического
моделирования, в них заключен глубокий смысл: человека нельзя
полностью "заменить" машиной потому, что он есть "совокупность всех
общественных отношений".
Теперь о другом, гораздо менее убедительном аспекте воззрений
автора. Дрейфус считает "в высшей степени маловероятным" появление в
будущем значительных результатов в сферах моделирования процессов
познания и "искусственного интеллекта" (см. с. 257). Работы в области
"искусственного интеллекта", по его мнению, имеют практическую
ценность лишь в "ограниченном круге вопросов"; что же касается
моделирования познавательных процессов, то автор сомневается вообще в их
необходимости (см. с. 230). В стремлении "приблизиться к разумному
поведению", по его мнению, предел возможностей кибернетики уже почти
достигнут.
Предвидя неизбежные возражения, автор прибегает к целой системе
ограничений поговорок. Он говорит лишь о "сегодняшних возможностях"
электронной цифровой вычислительной техники (см. с. 263), не обсуждая
перспектив, которые могут открыться благодаря изобретению приборов,
основанных на иной технологии, нежели нынешняя, и использующих иные,
более гибкие принципы функционирования. Он не касается вопроса о
создании эволюционных машинных программ, имитирующих определенные
стороны развития человека; он ничего не говорит о работах по машинному
моделированию органической эволюции. И, наконец, он просто-напросто
упрощает проблему, придавая ей форму дилеммы "или — или": фактически
он сводит все к вопросу, можно ли заложить в машину "полностью
сформировавшийся интеллект" (см. там же).
Когда Дрейфус требует от кибернетиков гарантий успеха исследований
по формализации различных форм "разумного" поведения, ему,
по-видимому, не приходит в голову такая простая мысль, что любому исследова-
328

телю уверенность в правильности избранного им пути просто необходима*.
Развитие работ в критикуемой автором области есть не что иное, как
диалектическое движение вперед,— движение, в котором одна конкретная
задача сменяется другой, разрабатываются новые и новые программы и
т.п.; движение, которое на практике решает вопрос, чего можно, а чего
нельзя достичь на избранном пути; движение, которое с необходимостью
создает новые теоретические и технические средства.
Никто не оспаривает тот факт, что современные цифровые ЭВМ не
могут претендовать на "разум" в любом, пусть даже очень ограниченном
смысле этого слова. Вопрос стоит иначе. Решается конкретно-научная и
философская проблема возможностей кибернетического моделирования
различных проявлений разумного поведения, то есть вопрос о том,
насколько далеко можно идти по пути автоматной имитации функций и
структур живого и разумного. В настоящее время ответ на этот вопрос нам
неизвестен. С определенностью можно сказать только одно: Дрейфус
заблуждается, полагая, что сегодня кибернетика достигла предела своих
возможностей. Скорее наоборот,— мы стоим только в начале ее развития.
По-видимому, между современными эвристическими автоматами и
собственно человеческой сферой, недоступной для машинного
воспроизведения (а фактический материал книги говорит в пользу
существования таковой), лежит обширная "нейтральная полоса". Проводя поиск
на этой не освоенной наукой территории, нам приходится решать задачу
выяснения соотношения алгоритмической, эвристической и сознательно-
человеческой сфер поведения.
Книга Дрейфуса предоставляет нам для этого
Сферы разумности и определенный материал. В заключение своего
машинное моделиро- труда, размышляя о будущем "искусственного
вание интеллекта", автор предлагает рубрикацию
различных форм разумного поведения с точки зрения
степени их формализуемости. Из четырех выделенных им типов поведения
четвертый — неформальное поведение, зависящее от смысла и ситуации,
позволяющее решать задачи с "открытой структурой" и понимать язык в
контексте реального общения,— по его мнению, не программируем. Данная
автором классификация — одна из возможных. Рубрикацию несколько
иного рода читатель может найти, например, в книге "Управление,
информация, интеллект". Здесь различаются формализованные,
полуформализованные и неформализованные (неформализуемые) процессы, причем два
последних рассматриваются в качестве поля деятельности, в котором
ведущая роль отводится человеку, а область творческих процессов
считается составляющей правильную часть этого поля и включает в себя как
неформализованные или неформализуемые, так и полуформализованные
процессы (см. с. 314 упомянутой книги). Классификацию форм поведения
(решения задач) предприняли также Г. С. Поспелов и Д. А. Поспелов.
Предметом их анализа являются вопросы, связанные с передачей машине
задач, которые в том или ином смысле можно считать творческими.
Основанием предлагаемой классификации являются свойства языка, на
котором формулируются соответствующие задачи. Классу задач, для
которого имеется "языковое согласование" описаний исходных и искомых
(заключительных) ситуаций (к нему относятся задачи вычислительной
математики, не имеющие отношения к проблематике "искусственного
интеллекта", а также обычные лабиринтные и эвристические задачи)
противопоставляется класс задач, для которых такое согласование
отсутствует. Задачи последнего класса требуют трансформации целей и
отображения их условий, а также используемых при решении средств (правил) в
специально разрабатываемые модельные структуры. Это и есть задачи
"искусственного интеллекта" в собственном смысле. Разработка методов
их решения предполагает создание соответствующих семантических систем
(языков), в частности языков, позволяющих производить трансформацию
329

правил переработки информации и вводить расплывчатые условия (см.:
Г. С. П о с п е л о в, Д. А. П о с п е л о в. Исследования по искусственному
интеллекту в СССР. — В кн.: Кибернетику — на службу коммунизма, т. 9,
М., "Энергия", 1978). Формализация творческих задач возможна лишь в
той мере, в какой для них удается построить соответствующую
эффективную модельную структуру.
В качестве примера, свидетельствующего о наблюдающемся
продвижении в моделировании интеллектуальных задач, сошлемся на новейшие
результаты в области эвристической алгоритмизации шахматной игры.
Автору этих строк сообщил о них экс-чемпион мира по шахматам
М. М. Ботвинник, в течение ряда лет с коллективом сотрудников
работающий над созданием шахматной программы, отражающей методы игры
шахматистов высокого класса. В августе 1977 г. разработанная под
руководством Ботвинника программа "Пионер", в основу которой
положен выдвинутый экс-чемпионом мира метод горизонта (см.: М. М.
Ботвинник. Алгоритм игры в шахматы. М„, "Наука", 1968; его же: О
кибернетической цели игры. М., "Советское радио", 1975), решила
известный этюд шахматного композитора Г. Надареишвили. Расчет
вариантов при решении этой трудной задачи машиной напоминал поведение
человека-шахматиста: дерево перебора содержало всего лишь 200 ходов,
причем глубина расчетов не была ограничена заранее. Как отметил
М. М. Ботвинник, решение данного этюда на машине с быстродействием
порядка 12 млн. операций в секунду потребовало бы примерно 8 мин.
машинного времени. Далеко не каждый шахматист самой высокой
квалификации уложился бы в это время (см.: М. М. Ботвинник. "Пионер"
готовится к чемпионату, "Правда" от 24 ноября t977 г.).
В 1975 г. М. М. Ботвинник писал* "Если шахматная программа,
выполненная на основе предлагаемого алгоритма, будет достаточно сильно играть
в шахматы, например, как мастер, это будет важным шагом на пути
создания искусственного интеллекта" ("О кибернетической цели игры", с. 67).
В настоящее время экс-чемпион мира считает, что к 1980 г. машинная
программа, играющая в силу шахматного мастера, будет создана.
Итак, прогресс в области "искусственного интел-
Человеко-машинные лекта" вполне реален. Даже в случае, если соответ-
системы. Возможен ли ствующие теоретические результаты оказывают-
алгоритм "наращива- ся скромными, исследования окупаются за" счет
ния понимания"? развития методов формализованного
представления знаний, языков программирования,
эвристических алгоритмов решения сложных задач и т.п. Это придает работам в
области "искусственного интеллекта" прикладную ориентацию. Они
оказывают возрастающее влияние на развитие вычислительной техники и ее
математического обеспечения. При этом, как отмечают специалисты,
наблюдается любопытное явление. До тех пор пока некоторая задача не
поддается автоматизации, она считается "творческой" и относящейся
поэтому к направлению "искусственного интеллекта"; когда же для нее
оказывается возможным написание реально работающей программы (как в
игре в шашки), она переходит в разряд "нетворческих" и исключается из
сферы моделирования процессов познания и "искусственного интеллекта".
Среди специалистов нет единого мнения относительно "удельной
значимости" различных направлений модельно-психолого-кибернетических
исследований. Имеется, однако, такая область "искусственного
интеллекта", важное значение которой признается всеми, включая и автора данной
книги. Это — разработка человеко-машинных систем. В настоящее время
исследования в этой области развертываются в двух основных
направлениях. Одним из них является разработка систем диалога между человеком
и ЭВМ на естественном языке. Природа связанных с этим трудностей
подробно проанализирована в книге Дрейфуса в рамках задачи
моделирования на ЭВМ процессов человеческого понимания. Не вдаваясь в подроб-
330

ности, отметим, что если не полное решение этой задачи (последнее вряд ли
возможно в силу тех особенностей человека как биологического и
социального существа, о которых говорилось выше), то решение,
достаточное для организации "разговора на определенную тему", мыслится
современными исследователями на пути создания специального языка
семантических представлений — промежуточного между естественным языком и
языком машины (см. упоминавшуюся выше статью Г. Св Поспелова и
Д. А. Поспелова). Одной из разработок, идущих в данном направлении,
является создание отечественными специалистами "Диалоговой
информационно-логической системы" (ДИЛОС); работа последней в режиме
диалога обеспечивается соответствующими логико-информационными
процедурами, основанными на особом формализованном языке выражения знаний,
включающем иерархию семантических образований, соответствующих
свойствам и отношениям объектов некоторой предметной области (см.
В. М. Б р я б р и н, Г. В. С е н и н. Руководство к системе ДИЛОС —
БЭСМ-6. М., изд. ВЦ АН СССР, 1977).
Другой исследовательской линией является разработка методов
совместного человеко-машинного решения задач. Именно это направление
автор данной книги расценивает как реальную перспективу
кибернетических исследований. Дрейфус указывает на целесообразность "разделения
труда" между человеком и ЭВМ: машина берет на себя "цифровые"
аспекты человеческих "информационных процессов", человек же со своим
умением отделять существенное от несущественного заставляет машину
сосредоточиться на заслуживающей просчитывания области. Например, при
решении сложных задач, "после того как найдена структура задачи и
построен план поиска, машина могла бы взять на себя разработку деталей
решения" (с. 277).
Добавим, что в плане "искусственного интеллекта" наибольшую
значимость имеют исследования, которые можно квалифицировать как
преследующие цель разработки алгоритмов "наращивания понимания". Смысл
подобных работ достаточно полно раскрыл В. М. Глушков в книге
"Управление, информация, интеллект" (см. с. 301—313). По его мнению, система
человеко-машинного информационно-логического взаимодействия должна
быть основана на таком языке общения человека с машиной, который
позволяет не только расширять содержащийся в машинной памяти массив
знаний, но и обогащать логику вычислительно-информационной системы, в
частности укрупнять используемые машиной логические шаги (то есть
изменять понятие логически очевидного перехода), позволяя "свертывать",
делать более компактной машинную логику. Это мржет основательно
обогатить результативность человеко машинной системы как
исследовательской структуры нового типа.
Заключая свой анализ "искусственного интел-
"Ма шин на я парадиг- лекта", автор книги справедливо отмечает
больна" — регресс или шое принципиальное значение этого направления;
прогресс? он прав, говоря о том, что возрастание наших
знаний о границах "разумного" в применении к
вычислительной машине будет вместе с тем обогащением научных
представлений о характере и объеме человеческого интеллекта. Но он впадает в
неоправданную крайность, когда утверждает, что создание искусственных
систем, проявляющих определенные черты разумного поведения, приведет
к тому, что "в ближайшее время мы станем свидетелями триумфа весьма
ограниченного представления о разуме" (с. 20). Как представляется
пишущему эти строки, с течением времени главной линией развития
кибернетики все более будет становиться создание человеко-машинных систем
управления и переработки информации, использование машин как "усилителей"
творческих возможностей человека. Такая "машинная парадигма" станет
необходимым элементом социального развития.
331

Как ранее писал автор этих строк в совместной с А. И. Бергом работе,
"машины не мыслят — и вряд ли будут мыслить — как человек, как
разумное существо, живущее в обществе, имеющее интеллектуальные
потребности и пользующееся естественным языком для обмена мыслями с
другими разумными существами. Но несомненно, что человек, работающий
в "содружестве" с электронной машиной, мыслит лучше и иначе, чем
человек, вынужденный ограничиваться лишь примитивными орудиями
механизации своего умственного труда" (А. И. Б е р г, Б. В, Б и р ю •
ков. Кибернетика и прогресс науки и техники.— В кн.: Ленин и
современное естествознание. М., "Мысль", 1969, с. 371).
Рациональный аспект предпринятого Дрейфусом
Кибернетика и задача анализа состоит не в критике кибернетических
комплексного изуче- исследований, а в том, что его книга побуждает к
ния человека размышлениям над сложными проблемами,
имеющими важное методологическое значение. И
поучительный анализ "допущений" "искусственного интеллекта" во второй
части (пусть не всегда убедительный), и интересный фактический материал
третьей части в общем перевешивают те недиалектические крайности, в
которые нередко впадает автор, следуя феноменолого-экзистенциалист-
ским установкам. Общая направленность книги — против попыток
поставить знак равенства между естественным разумом и его искусственными
аналогами, против того, что можно назвать "кибернетическим
редукционизмом", то есть тенденцией к сведению многогранности разума к
единственно дедуктивно-классифицирующему уровню, сравнительно легко
поддающемуся формализации,— философски вполне оправданна.
Книга заставляет задуматься над необычайной сложностью человека как
природного и социального существа, над грандиозной сетью связей,
которые конституируют его как "совокупность всех общественных
отношений". Одной из главных трудностей кибернетического моделирования
познавательных процессов, не отмеченной, кстати, в работе Дрейфуса,
является недостаточная изученность человека во всем его многообразии.
Успехи кибернетики в моделировании сложных систем живого, мыслящего
и социального, несомненно, находятся в зависимости от всестороннего
изучения человека в рамках биолого-медицинских,
психолого-этнологических, философско-социологических и иных наук. В комплексном
исследовании человека как социального существа, наделенного сознанием и
самосознанием, кибернетике принадлежит только определенная (и
заведомо не главная) часть — часть, которая не в состоянии исчерпать его
"сущностные" свойства. Но это необходимая часть, без развития
которой наши представления о человеке не могут быть достаточно
полными. Книга Дрейфуса тем и полезна, что привлекает внимание
исследователей именно к этой, информационно-кибернетической, "составляющей"
комплекса работ, направленных на раскрытие самого сложного из
известных нам феноменов мироздания — явления под названием Человек.
Б. В. Бирюков

Оглавление
От издательства 5
Введение 7
Часть I
Десять лет исследований в области "искусственного
интеллекта" (1957-1967)
Глава 1. Первый этап (1957 - 1962). Моделирование
процессов познания 33
I. Анализ работ в области машинного перевода,
решения задач и распознавания образов 33
II. Причина неудач 43
Глава 2. Второй этап (1962-1967). Процессы переработки
семантической информации 79
I. Анализ программ переработки семантической
информации 81
II. Значение сегодняшних трудностей 96
Заключение 98
Часть II
Допущения, лежащие в основе "стойкого оптимизма"
Введение 105
Глава 3. Биологическое допущение 108
Глава 4. Психологическое допущение 113
I. Экспериментальные данные в пользу
психологического допущения: критика научной методологии,
используемой при моделировании процессов
познания 121
II. Априорные аргументы в пользу
психологического допущения 126
Глава 5. Эпистемологическое допущение 143
I. Ошибочный аргумент, основанный на успехах
физики 146
333

II. Ошибочный аргумент, основанный на успехах
современной лингвистики 153
Глава 6. Онтологическое допущение 166
Заключение 190
Часть III
Альтернативы к традиционным воззрениям
Введение 195
Глава 7. Телесная организация человека и разумное
поведение 199
Глава 8. Ситуация: упорядоченное поведение без правил . . . .222
Глава 9. Ситуация — ее зависимость от потребностей
человека 241
Заключение 252
Заключение
Возможности и пределы искусственного разума
Глава 10. Пределы "искусственного интеллекта" 257
Будущее "искусственного интеллекта" 264
Примечания 283
Б.В. Бирюков. Что же могут вычислительные машины?
Вместо послесловия 298

ИБ № 3431
Редактор О. Н. Кессиди
Художник В. И. Бесингалиев
Художественный редактор А. Д. Суима
Технический редактор Н. А. Низяева
Корректор И. И. Мороз
Сдано в набор 9.06.77 г. Подписано в печать 20.10.78 г.
Формат 84Х1087з2- Бумага офсетная. Гарнитура Уни-
верс. Печать офсетная. Условн. печ. л. 17,64. Уч.-изд.
л. 24,15. Тираж 13 000 экз. Заказ № 808. Цена 1 р. 60 к.
Изд. № 25156
Издательство «Прогресс» Государственного комитета
по делам издательств, полиграфии и книжной торговли.
Москва 119021, Зубовский бульвар, 17
Тульская типография Союзполиграфпрома при
Государственном комитете Совета Министров СССР по делам
издательств, полиграфии и книжной торговли, г. Тула,
проспект им. В. И. Ленина, 109

Может ли машина, робот, вычи
¦ ельн.зя система заменить человека?
Возможна ли формализация человеческого
поведения' Как возможен
искусственный интеллект"? Возможен пи он
вообще'' Как отделить человеческой от
машинного? Эти и другие аналогичные
вопросы обсужлаю'ся н книге
американского философа, профессора X.
Дрейфуса, специально изучившего американ-
(Кие работы в обпзсти моделирования
процессов познания и переработки
семантической информации.