Часть первая. ЭЛЕМЕНТАРНАЯ ТЕОРИЯ

В этой части книги задача обучения распознаванию образов рассматривается с точки зрения проблемы минимизации среднего риска для специальных классов функций потерь.

В современной статистике существуют три пути минимизации среднего риска.

Первый путь связан с восстановлением функции распределения вероятностей, второй – с организацией рекуррентной процедуры поиска решения и третий – с методами минимизации эмпирического риска. Здесь показано, как далеко можно продвинуться в решении задачи обучения распознаванию, следуя по каждому из этих направлений, и к каким конструктивным алгоритмам они приводят. Наконец, здесь рассмотрен еще один метод минимизации риска – метод упорядоченной минимизации и получены соответствующие алгоритмы распознавания.

В заключение этой части приведены примеры применения методов обучения для решения задач практики.

Глава I. ПЕРСЕПТРОН РОЗЕНБЛАТТА

§ 1. Феномен восприятия

Известно, что человек, сталкиваясь с новыми явлениями или предметами, очень часто их узнает, т. е. без особых затруднений относит к тому или иному понятию (классу). Так, впервые увидев лошадь незнакомой масти или собаку необычной породы, человек определяет в них уже известных ему животных. Человек может читать рукописи, написанные разными людьми, хотя каждый почерк имеет свои особенности. Каждый из нас легко узнает своих знакомых, даже если они изменили прическу или одежду. Эта особенность человека называется феноменом восприятия.

Феномен восприятия проявляется во всех сферах человеческой деятельности, а многие профессии связаны исключительно с умением правильно классифицировать ситуации. Так врачи умеют диагностировать заболевания, эксперты-криминалисты различают сходные почерки, археологи устанавливают принадлежность найденных предметов определенной эпохе, геологи по косвенным данным определяют характер месторождения и т. д.

Всюду здесь проявляется умение человека правильно относить наблюдаемый объект к тому или иному понятию, к тому или иному классу.

Человек умеет вырабатывать на основе опыта и новые понятия, обучаться новой системе классификации.

Существуют два различных метода обучения: один из них – объяснение, другой, более интересный,– обучение на примерах. Первый метод предполагает существование достаточно простых правил, простых настолько, что их можно изложить так, чтобы, действуя сообразно этим правилам, каждый раз получать требуемый результат.

Однако во многих случаях учитель, проводящий обучение, не может сформулировать правило, по которому он действует, и тогда первый способ обучения неприменим и обучение проводят на примерах. Так, нельзя указать четких правил для такого, казалось бы, простого случая, как различение рукописных знаков.

В этом случае при обучении пользуются вторым методом. Обучающемуся показывают рукописные знаки и сообщают, какие это буквы, т. е. к каким классам данные знаки относятся. В результате у ученика вырабатываются нужные понятия, он приобретает умение правильно относить каждую новую букву к тому или иному классу. Точно так же студентов-медиков учат диагностировать заболевания.

Возможность использования такого метода обучения определяется заложенным в человеке внутренним механизмом построения правила, позволяющего распознавать нужные понятия.