Глава 16. ОБЗОР И ПЕРСПЕКТИВЫ

16.0. Что сделано и что нет

Я попытался дать обзор фундаментальных математических и вычислительных методов, лежащих в основе исследований по искусственному интеллекту. Я выделил два четко определенных класса научных проблем — распознавание образов и решение задач — и для каждого из них представил много формулировок и методов решения. Здесь я уверенно чувствовал под собой почву. Эти задачи тщательно разбирались, и для работы с ними был развит ряд способов. Таинственность исследований по искусственному интеллекту в этих областях в основном объясняется тем, что решение соответствующих задач требует сочетания математических методов, первоначально развитых в целом ряде областей знания. Хорошим примером служит распознавание образов. Чтобы объяснить распознавание образов, применяется анализ, созданный для статистических, психологических и экономических приложений, и, наконец, при обсуждении персептронов присовокупляются аргументы, основанные на теории чисел и формальной логике. Точно так же решение задач на ЭВМ заставляет нас думать одновременно в терминах теории графов и формальной логики, применяя иногда статистические рассуждения. Если бывает трудно понять различные достижения искусственного интеллекта, то не потому, что требуются специальные знания в какой-нибудь одной из областей исследований, а потому, что необходимы некоторые познания во многих областях. Я надеюсь, что, собрав в одной книге основные результаты, я помогу новому в этой области человеку начать либо специализироваться в ней, либо работать с каким-то конкретным приложением искусственного интеллекта.

Обсуждение машинного понимания базировалось по необходимости на гораздо более интуитивной основе. Термин „понимание" сам по себе интуитивный. Мы можем прийти к согласию

относительно того, решила ли конкретная программа задачу распознавания образов, доказала ли теорему, но расходиться во мнениях о том, поняла ли программа утверждение, даже если факты о том, что она делала с этим утверждением, совершенно ясны. Другая причина туманности разговоров о машинном понимании в том, что понимание тесно связано с анализом языка, а наше понимание языка само по себе еще примитивно. Мы никогда не будем основывать метод машинного понимания на чем-нибудь другом, кроме формальной теории языка, поскольку при тщательном анализе оказывается, что программа управления вычислительной машиной неявно содержит в себе такую теорию. В основе современного подхода к формальному анализу языка лежит работа, начавшаяся в 50-х годах нашего века. В действительности эти основания не так глубоки, если считать, что распознавание образов восходит непосредственно к работам Бейеса в XVII столетии и что машинное доказательство теорем — прямое развитие рассуждений, знакомых еще Аристотелю.

Ввиду такого положения дел все же стоило бы обсудить машинное понимание. Методы, которые мы излагали, могут быть или не быть фундаментальными. Это покажет только время. Проблема же фундаментальна. Язык — это уникальная сигнальная система для общения между подобными нам существами. Он лишь очень незначительно похож на сигнальные системы других млекопитающих или птиц. У нас есть не только специализированные выходные устройства в горле и гортани, но специальные анализирующие области в мозге — структуры, не найденные даже в рудиментарной форме у любых других видов, включая высших обезьян (Гешвинд, 1970). При такой степени специализации сомнительно, чтобы мы могли научиться общаться каким-то другим способом, кроме нашего естественного. Если машины должны служить нам, они обязаны уметь воспринимать ту единственную передачу, которую мы способны им хорошо послать.

Возможно, наша неспособность общаться с машинами будет решающим ограничением революции в обработке информации. Если бы мы были близки к этому пределу, мы, быть может, были бы лучше

осведомлены о том, как избежать спекулятивных дискуссий о машинном понимании. Но дело, вероятно, не в этом. На основе недавних исследований, проведенных Министерством обороны США, был сделан вывод, что к 1984 г. возникнет разумная возможность создания вычислительной системы, которая будет отвечать на команды, отданные на естественном языке, обсуждением нетривиальных тем (Ньюэлл и др., 1972). Возникают следующие вопросы: является ли десятилетие правильной мерой времени и что такое „нетривиальный". Мы считаем, что много ответственных и хорошо информированных исследователей воспринимают машинное понимание вполне серьезно. Чтобы хорошо разбираться в искусственном интеллекте (и, возможно, вообще в вычислительных науках), необходимо представлять себе перспективу и методы работы в области машинного понимания.

Может быть, эта книга разочаровала многих энтузиастов искусственного интеллекта, поскольку в ней основное внимание уделено алгоритмам и абстрактным математическим методам. От этого область перестает быть интересной. Где же примеры? Почему мы не предусмотрели машинную игру в шахматы, пространный диалог с машиной-психотерапевтом или примеры трудных теорем, доказанных машиной?

Действительно, программ в книге было очень немного. Это объясняется просто желанием не наскучить читателю, хотя, возможно, именно так в результате и получилось. Подробное обсуждение частных примеров могло бы внести путаницу в центральный вопрос: „Какие же алгоритмы фундаментальны?" Возьмем, например, игры. Наш подход состоял в том, чтобы указать принципы, лежащие в основе поиска на дереве игры. Предположим, что мы описали „самую лучшую" программу, играющую в шахматы. Конечно, тогда наши иллюстрации были бы более впечатляющими! Для их объяснения нужно было бы углубиться в детали о том, как решались задачи, связанные с шахматами; при этом я твердо знал, что, как только книга пойдет в печать, появится более удачная шахматная программа. Или, наоборот, можно было бы привести примеры игры и оставить читателя в неведении о том, как программа выбирала ходы. Вместо примеров была дана основа — мы убеждены, что это хотя и скучнее, но дольше сохранит свою ценность.

Есть еще одна причина избегать слишком большого количества ярких примеров. Почти по определению искусственный интеллект включает распространение приложения вычислительной техники на те области, где это оказывается достаточно неожиданным. Неспециалисту в области приложений любой успех, наверное, покажется более эффектным, чем он есть на самом деле, поскольку он не ожидал здесь прогресса и, возможно, не знал, что представляют собой задачи. Шахматы, распознавание речи и роботика дают прекрасные примеры. Современные шахматные программы достаточно надежны,

поэтому они могут служить рекламными демонстрациями на конференциях по ЭВМ. Они выигрывают у большинства умных шахматистов, случайно оказавшихся на таких встречах. Это до некоторой степени эффектно, так как еще в 1964 г. одна из наиболее известных программ проиграла смышленому 10-летнему мальчику (Дрейфус, 1971). Но для мастеров игры сегодняшние программы все еще остаются примитивными противниками. Завтрашние — может быть, нет. Точно так же машинная музыка еще не создала ничего подобного сонатам Бетховена, но и человечество только однажды этого достигло. Чем же определяется прогресс?

Роботехника, которой мы вообще едва коснулись, полна задачами, допускающими разнообразные интерпретации. Сейчас существуют машины, которые передвигаются, управляясь радиосигналами от ЭВМ. Они смотрят на свой зрительный мир через циклопический глаз телекамеры, анализируют сцену, которую видят, и рассуждают о пути, по которому должны пройти от одной точки до другой (Нильсон, 1969, 1971). Это восхитительно! Но... зрительная способность робота основана на анализе дискретных выборок из зрительной сцены (Фальк, 1972; Гузман, 1969). Не делается никаких попыток развить представление метрики трехмерного пространства, хотя метрические представления исключительно важны, если машинное восприятие пространства и рассуждения о нем должны хоть в какой-то степени приближать возможности человека (Эттнив, 1972). К моменту написания этой книги мир робота все еще ограничен до пространства меньшего, чем средняя комната, наполненная большими предметами. Способности машины к рассуждениям даны ей программами с возможностями и задачами, которые мы видели в системах доказательства теорем. Многие специалисты в области искусственного интеллекта игнорируют такую критику. Они чувствуют, что широко разрекламированные робот-ные проекты дают тему, объединяющую все аспекты искусственного интеллекта. По крайней мере для небольшого числа широко известных (и солидно финансируемых) проектов построения робота это было разумно. С другой стороны, один из обозревателей искусственного интеллекта в 70-х годах английский физик Лайтхилл в отчете научному исследовательскому совету Великобритании высказал мысль о том, что привлекательность построения робота, возможно, переключила на себя внимание от более скучных, но на большом отрезке времени более основательных научных задач (Хаммонд, 1973). Я склоняюсь к этой точке зрения.

Моя цель не в том, чтобы критиковать частные примеры. Я ожидаю появления все лучших распознавателей речи, игроков в шахматы и даже роботов. Было бы ошибкой концентрировать внимание на особенностях технологии в данный момент. Следует попытаться понять возможности и ограничения аналитических методов, на которых эта технология основана.

16.1. Некоторые философские проблемы

Любые обсуждения искусственного интеллекта должны проходить на очень техническом уровне, иначе они окажутся „в тисках вопроса о том, как изучение думающих машин должно или может влиять на наши философские и психологические представления. Как было обещано во введении, наше обсуждение шло на техническом уровне. Остались более общие вопросы, и ими следует заняться.

Философия ставит два типа вопросов для искусственного интеллекта. Один из них: „Как должно быть представлено мышление механическим устройством?. Этот вопрос ведет к подходящему внутреннему символическому представлению внешнего мира и его задач. Конкретные возникающие вопросы кажутся нефилософу техническими. Например, можно было бы спросить, достаточно ли ламбда-исчисление Чёрча для выражения ключевых отношений между элементарными объектами в данной ситуации решения задачи. Точно так же мы можем захотеть узнать, как представить в ЭВМ тот факт, что конкретное действие может иметь множественные побочные эффекты. Такие вопросы являются аспектами более общей задачи представления: как мы отделяем модель, программируемую на ЭВМ, от проблемы, которая нас „действительно интересует? Всюду в нашей книге возникали различные аспекты этого вопроса. В каждом случае мы говорили: „Известно мало. Интересующийся читатель может обратиться за дальнейшим обсуждением к работе Мак-Карти и Хэйеса (1969). Нам практически нечего добавить.

Вопрос Как должна машина думать? требует сначала ответа на предыдущий вопрос Может ли машина думать? Неспециалиста этот вопрос волнует гораздо больше. К сожалению, он слишком плохо определен, чтобы на него можно было дать прямой ответ. Как ответить на вопрос Как вы решаете, что нечто думает? Это совсем не тривиально. Некоторые философы и многие психологи, попавшие под их влияние, утверждают, что понятие „думающий бесполезно. Вместо этого они предпочитают говорить об особых типах поведения, которые, если понаблюдать, можно характеризовать как „думание» — просто для краткости, без всяких обязательств верить в какой-то общий процесс, лежащий в основе всего этого. Фактически большинство таких писателей, несомненно, предпочли бы совсем не пользоваться этим словом. Если принять данный критерий, то вопрос о машинном мышлении сведется к серии эмпирических тестов. Может ли система доказательства теорем

решать задачи так же хорошо, как профессиональные математики? Конечно, нет. Можно ли написать программу для ЭВМ, чтобы решать задачи распознавания образов, содержащиеся в интеллектуальных тестах? Да. Можем ли мы сегодня написать программы, соответствующие человеческому пониманию естественного языка? Нет. Сможем ли когда-нибудь? Может быть. В таком случае кажется, что поверхностный ответ на вопрос Может ли машина думать? не может не быть произвольным. Это было бы неверно, если бы у нас было какое-то основание для выделения определенных задач как необходимых или достаточных для разумной машины. Без теории мышления мы не можем сказать, что представляют собой такие задачи.

Несколько другой вопрос: Думает ли машина так же, как это делает, человек? Здесь есть искушение утверждать, что необходим наблюдаемый тест: если программа ЭВМ подражает человеческому мышлению, то она служит моделью его поведения. Именно этот довод вызвал многие из современных исследований по моделированию на ЭВМ (Хант, 1968, Ньюэлл и Саймон, 1961; Саймон,

1971). Странно, но оказывается, мы не согласны с этой точкой зрения. Человеческое мышление основано на физиологической системе, о которой известно немногим более чем ничего. Мы не считаем, что психологическая теория должна полностью сводиться к физиологической, но она, кажется, не настолько всеобъемлюща, чтобы полностью игнорировать физиологию. Особенно я отверг бы программу как модель психологической активности в данной задаче (даже если она в совершенстве подражает поведению), если известно, что применяемые программой принципы обработки информации несовместимы с человеческой деятельностью в областях, не моделируемых программой. Таким образом, снова ответить на вопрос о машинном мышлении можно лишь от случая к случаю. Я хотел бы в некоторых ситуациях принять программу в качестве модели, и было бы очень интересно обнаружить общие черты разумного моделирования поведения в различных ситуациях. Общий вопрос Говорит ли нам исследование машинного поведения что-нибудь о психологии? не имеет смысла.