5.6. Нейропакет MPIL

5.6.1. Общая характеристика

Пакет моделирования нейронных сетей MPIL (Multi-Pass Instance-Based Learning) представляет собой разработку фирмы Universal Problem Solvers, Inc.. Его демо-версия доступна в Интернет по адресу: http://www.simtel.net/simtel.net/win3/neural-pre.html.

Нейропакет работает под Windows и крайне нетребователен к вычислительным ресурсам. Хотя программа декларируется как нейропакет, на самом деле она не создает нейронную сеть в обычном понимании и не использует известные алгоритмы обучения. Принцип действия пакета основан на идеях кластерного анализа: на основе многократного перебора обучающей выборки формируется набор опорных элементов, с помощью которых

можно объяснить свойства всех остальных. Работа пакета возможна в двух режимах.

В первом режиме (MPIL-1) реализуется метод «М ближайших соседей»: для каждого предъявляемого входного вектора находятся М ближайших (например, в смысле евклидова расстояния) опорных векторов, ассоциированных с эталонными выходными, по которым и рассчитывается выход сети.

Во втором режиме (MPIL-2) пакет дополнительно генерирует логические правила причинно-следственных отношений между примерами обучающей выборки, т. е. позволяет извлекать знания из экспериментальных данных.

В этом, а также в очень быстром, практически мгновенном, обучении и состоят уникальные свойства пакета.

5.6.2. Интерфейс программы

После запуска программы появляется ее окно вида рис. 5.53.

Рис. 5.53. (см. скан) Окно программы MPIL

Пункты и опции меню в верхней части окна следующие.

Пункт File (Файл) имеет только две опции: Edit (Редактировать) и Exit (Выход из программы).

Пункт Instances (Примеры) содержит четыре опции: Create (Создать), Load (Загрузить), Save (Сохранить), Train (Обучать).

Пункт Test (Тестирование) имеет две опции- Check Accuracy (Проверить точность), Classify (Классифицировать).

Также две опции содержит пункт меню Batch (Пакет): Random Testing (Случайное тестирование), Training (Обучение).

Опции пункта Rules (Правила) таковы: Extract (Извлечь), Import (Импортировать).

Наибольшее количество опций содержит пункт меню Parameters (Параметры):

• Learn Mode (Режим обучения) - при выборе опции появляется диалоговое окно (рис. 5.54), позволяющее установить требуемый режим обучения для MPIL-1 или MPIL-2.

Рис. 5.54. Диалоговое окно для задания режима обучения

• Distance Measure (Мера расстояния) - мера сходства между примерами выборки; обращение к опции приводит к появлению диалогового окна вида рис. 5.55, позволяющего задать одно из трех возможных расстояний: Hamming (хэммингово), Euclidean (евклидово) или Square (модуль наибольшей разности между элементами двух векторов).

Рис. 5.55 Диалоговое окно для задания меры расстояния

• Display Info (Информация дисплея) - в случае установки флага на опции будет отображаться дополнительная информация во время подготовки, тестирования и других операций MPIL.

• Show Files (Показать файлы) - при установке флага на этой опции процессы обучения, тестирования и работы сети завершаются показом соответствующих файлов.

Learning (Обучение) - при выборе этой опции появляется диалоговое окно вида рис. 5.56, позволяющее установить требуемые параметры обучения.

Рис. 5.56 Окно установки параметров обучения

• Num. Batch Runs (Количество прогонов пакета) - используется вместе с опцией Random Testing (Случайное тестирование) пункта меню Batch для организации случайного перекрестного тестирования сети

• Setup (Установка) - имеет, в свою очередь, две опции Load и Save, позволяющие загрузить или сохранить конфигурацию программы

Наконец, пункт меню Help (Справка) содержит опцию запуска достаточно подробного файла справки и опцию запуска режима регистрации

5.6.3. Правила работы с программой

Правила работы с программой рассмотрим на примере моделирования логической функции «Исключающее ИЛИ»

1) Подготовка исходных данных

Подготовим два текстовых файла

и сохраним их с именами хог net и хог tes Первый файл будет использоваться для обучения, второй - для тестирования нейронной сети Обязательная информация таких файлов содержится в их первых строках Это количество входов (Nmputs), в нашем случае - 2, количество выходов (Noutputs) - 1 и общее число примеров обучающей выборки (NTrainingPatterns) -4

2) Обучение сети

Запустим программу MPIL, выберем пункты меню Instances/Create и в окне диалога откроем файл хог net Появится сообщение вида рис. 5.57, подтверждающее создание примеров Нажмем кнопку ОК

Рис. 5.57 Окно подтверждения создания примеров

Оставим большинство параметров обучения по умолчанию, а с помощью пунктов меню Parameters/Learn Mode выберем режим обучения MPIL-2

Далее пунктом меню Instances/Train запустим процесс обучения Появится окно (рис. 5.58) с информацией об обучении нейронной сети

Рис. 5.58 Информация об обучении нейронной сети

Нажмем кнопку ОК, после чего откроется блокнот Windows с информацией вида рис 5 59

Рис. 5.59. Дополнительная информация об обучении нейронной сети

Данную информацию можно принять к сведению, после чего блокнот следует закрыть и перейти к тестированию выбором команд Test/Check Accuracy с указанием имени подготовленного тестового файла xot.tes и выходного файла (файла протокола) xor.out. Выполнив указанные действия, получим сообщение вида рис. 5.60, из которого следует, что тестирование успешно завершено.

Рис. 5.60 Информация о результатах тестирования

Подтвердим это нажатием кнопки ОК, в ответ на что получим открытую страничку блокнота (рис. 5.61). Закроем эту страницу и проверим, как программа извлекает знания. Выберем команду Rules/Extract, укажем в качестве имени файла протокола xor.rul. После выполнения команды получим информацию вида рис. 5.62.

Что здесь что? Через обозначены входы, через Output - выход. Видно, что программа сгенерировала три правила, из которых первое (если то и второе (если то представляются корректными, а третье (если то - не очень. Или мы что-то не так сделали, или программа все же не вполне в этом аспекте надежна. Может быть, что-то необходимо было изменить в параметрах обучения.

Рис. 5.61. (см. скан) Детальная информация о результатах тестирования

Рис. 5.62. (см. скан) Правила, извлеченные программой MPIL

Теперь можно закрыть блокнот и сохранить полученную сеть через пункты меню Instances/Save с указанием имени файла, например, xor.sav. На этом работа с программой закончена. При желании можно с помощью какого-либо текстового редактора просмотреть образованные программой файлы.

5.6.4. Впечатления от работы с пакетом

Подкупает простота программы и возможность автоматического извлечения знаний Проверка на ряде примеров показала достаточно хорошие моделирующие возможности пакета MPIL