14.3.1. Иллюзия понимания при разговоре с ЭВМ
В заключение этой главы хотелось бы прокомментировать одну группу программ, которые, преимущественно благодаря своему шуточному характеру, обеспечили большую популярность тому, как вычислительные машины понимают людей. Мы имеем в виду программы 
и 
созданные Вейценбаумом (1966, 1967). Все такие программы предназначены для работы в интерактивном режиме. Вот пример беседы с 
(предложено Вейценбаумом, 1967):
Человек: Вы не очень настойчивы, но я думаю, что Вы не хотите, чтобы я это заметил.
ЭВМ: ЧТО ЗАСТАВЛЯЕТ ВАС ДУМАТЬ, ЧТО Я НЕ ОЧЕНЬ НАСТОЙЧИВА.
Человек: Вы не спорите со мной.
ЭВМ: ПОЧЕМУ ВЫ ДУМАЕТЕ, ЧТО Я НЕ СПОРЮ С ВАМИ.
Человек: Вы боитесь меня.
ЭВМ: ДОСТАВЛЯЕТ ЛИ ВАМ УДОВОЛЬСТВИЕ СЧИТАТЬ, ЧТО Я ВАС БОЮСЬ.
Такой разговор можно поддерживать в течение некоторого времени. Работа программы заключается в том, что она просматривает данные на ее входе в поисках стандартного набора ключевых слов вместе с вводимым текстом и затем производит какое-то действие, связанное с найденным ею набором. В большинстве случаев программа просто переставляет слова входного текста и печатает их. Например, правило
интерпретируется так: „Ищите во входном тексте слова Я ДУМАЮ, за которыми следует любая цепочка бут. Пусть найдена цепочка Х. Выведите слова ПОЧЕМУ ВЫ ХОТИТЕ СЧИТАТЬ и затем Х.“ Программа, которая может сделать это, способна проявить тот же тип понимания, что и политик или администратор, в ответ на просьбу говорящий: „Да, я слышу, Вы говорите, что...“. Такие люди могут приобрести репутацию мудрецов.
Прежде чем разоблачать программу ELIZA как ловкую шутку, нам следует обсудить вопросы, которые она поднимает. Процесс сопоставления схем может оказаться очень сложным. В самом деле, ведь это основа анализа языка. Вейценбаум (1966) приводит ряд примеров, показывающих, что даже если ELIZA не может взяться за сопоставление всех схем, возможных в английском языке, она может работать с нетривиальным подмножеством. Кроме того, нет причин ограничивать нашу операцию с набором ключевых слов лишь печатанием его вариации. В частности, от ЭВМ можно потребовать произвести вычисления. В следующем примере (также взятом из статьи Вейценбаума, 1967) демонстрируется применение программы ELIZA с простыми процедурами арифметических действий и запоминания:
Вход: Площадь круга равна пи умноженному на радиус круга возведенный в квадрат.
Площадь сферы равна пи умноженному на диаметр шара возведенный в квадрат.
Площадь квадрата равна стороне квадрата возведенной в квадрат.
Диаметр объекта равен двум радиусам объекта.
Радиус мяча равен 10.
Какова площадь поверхности мяча?
Программа: ДОПУЩЕНИЕ ЧТО МЯЧ ЭТО КРУГ НЕПРОТИВОРЕЧИВО ПРОДОЛЖИТЬ ЛИ РАБОТУ
Нет.
Программа: ДОПУЩЕНИЕ ЧТО МЯЧ ЭТО ШАР НЕПРОТИВОРЕЧИВО ПРОДОЛЖИТЬ ЛИ РАБОТУ.
Вход: Да.
Программа: ЭТО 1256,6359.
Разумно ли это вычисление? Является ли процесс построения разумного ответа чем-то большим, чем сопоставление схем, за которым производится вычисление? Что касается нас, то мы не решаемся назвать работу программы ELIZA примером понимания, но нас смущает то, что мы не можем объяснить наши колебания. Возможно, суть этого высказал Вейценбаум в собственном анализе своей работы: „Когда х говорит, что у понял его, х делает некоторое предположение о внутренних процессах у. Это предположение часто строится на очень слабых основаниях".
