Решение неформализованных задач прогнозирования и классификации на основе нейросетевого моделирования

    Федеральное агентство по образованию и науке Российской Федерации

    Воронежский Государственный Технический Университет

    Кафедра САПРИС 
 
 
 
 
 
 
 

    Отчет

    Лабораторная работа №1-2

    по  дисциплине «Нейросетевые технологии» 
 
 
 
 
 
 
 
 
 

                                                     
 
 

        Выполнили студенты

    группы  ИС-072

                                                        Афанасьев Н. И.

    Михайлов  В.В.

                            Проверил: Питолин А.В. 
 
 
 
 
 
 
 
 
 

    Воронеж

    2011

Решение неформализованных  задач прогнозирования  и классификации  на основе нейросетевого моделирования 

Цель  работы: изучение математических моделей и алгоритмов функционирования искусственных нейронных сетей (ИНС), получение практических навыков по проектированию, обучению, анализу и оптимизации ИНС  в пакете прикладных программ NeuroPro. 

Выполнение  работы

1. Создали в пакете NeuroPro нейронную сеть, состоящую из 3 слоев по 10 нейронов на каждом. Задали ее параметры.

 

 

2. Провели обучение сети

 

 
 
 
 

3. Протестировали  сеть.

 

 

Максимальная  ошибка не превышает заданной точности E=0,1.  

4. Определили  значимость входов.

 

 

5. Провели анализ обучающего множества.

 

 

6. Получили  вербальное описание нашей нейронной  сети.

Синдромы 1-го уровня:

      Синдром1_1=Сигмоида1( 0,06608278*X1+0,003753839*X2-0,09542931*X3-0,0006764713 )

      Синдром1_2=Сигмоида1( 0,05803048*X1+0,02572182*X2-0,06016184*X3-0,1089162 )

      Синдром1_3=Сигмоида1( -0,1037505*X1-0,0986973*X2+0,091414*X3-0,05796778 )

      Синдром1_4=Сигмоида1( 0,03504669*X1-0,02304423*X2-0,03837151*X3-0,08680648 )

      Синдром1_5=Сигмоида1( -0,0841235*X1-0,1147732*X2+0,06876712*X3+0,09665242 )

      Синдром1_6=Сигмоида1( -0,05491703*X1-0,08549865*X2+0,05119418*X3-0,08087248 )

      Синдром1_7=Сигмоида1( 0,03063906*X1+0,04464307*X2+0,008697637*X3+0,08395153 )

      Синдром1_8=Сигмоида1( 0,01363846*X1-0,07149207*X2-0,02121653*X3+0,1681751 )

      Синдром1_9=Сигмоида1( -0,01229987*X1-0,07149076*X2-0,03466194*X3-0,1279229 )

      Синдром1_10=Сигмоида1( 0,02396965*X1-0,01085209*X2-0,08331408*X3+0,1110558 ) 

Синдромы 2-го уровня:

      Синдром2_1=Сигмоида2( 0,04305514*Синдром1_1+0,022618*Синдром1_2+0,02993367*Синдром1_3+0,007589046*Синдром1_4+0,09846795*Синдром1_5+0,0549974*Синдром1_6-0,04675655*Синдром1_7+0,08477367*Синдром1_8-0,05492806*Синдром1_9-0,006036402*Синдром1_10-0,0682307 )

      Синдром2_2=Сигмоида2( 0,04900246*Синдром1_1-0,09696128*Синдром1_2+0,03809323*Синдром1_3+0,08194858*Синдром1_4+0,05290802*Синдром1_5-0,02511268*Синдром1_6-0,01057336*Синдром1_7-0,0800396*Синдром1_8-0,003952457*Синдром1_9-0,0887586*Синдром1_10-0,07610216 ) 

      Синдром2_3=Сигмоида2( 0,02379646*Синдром1_1+0,06231895*Синдром1_2+0,06500144*Синдром1_3+0,0103788*Синдром1_4-0,06423829*Синдром1_5-0,08178689*Синдром1_6-0,08811869*Синдром1_7-0,08174592*Синдром1_8+0,07552022*Синдром1_9+0,05616596*Синдром1_10-0,04277615 ) 

      Синдром2_4=Сигмоида2( 0,06019611*Синдром1_1+0,1019684*Синдром1_2-0,1797703*Синдром1_3+0,03698983*Синдром1_4-0,1424919*Синдром1_5+0,005354122*Синдром1_6+0,04236644*Синдром1_7-0,1030206*Синдром1_8+0,0198757*Синдром1_9-0,05311699*Синдром1_10-0,1153934 )

      Синдром2_5=Сигмоида2( -0,07180345*Синдром1_1+0,09849605*Синдром1_2+0,07908206*Синдром1_3-0,05951612*Синдром1_4-0,08866407*Синдром1_5+0,02474198*Синдром1_6-0,06751212*Синдром1_7-0,03918747*Синдром1_8+0,10097*Синдром1_9+0,000776806*Синдром1_10+0,0744532 )

      Синдром2_6=Сигмоида2( 0,06105826*Синдром1_1-0,05017187*Синдром1_2-0,0924006*Синдром1_3+0,01978468*Синдром1_4+0,05182806*Синдром1_5+0,02161441*Синдром1_6+0,01333864*Синдром1_7+0,0313687*Синдром1_8-0,06776568*Синдром1_9+0,03456791*Синдром1_10+0,04755309 )

      Синдром2_7=Сигмоида2( 0,08961722*Синдром1_1-0,01887259*Синдром1_2-0,1087344*Синдром1_3+0,01147671*Синдром1_4+0,07378237*Синдром1_5-0,08155024*Синдром1_6+0,06127111*Синдром1_7+0,04453636*Синдром1_8-0,01501147*Синдром1_9-0,01940551*Синдром1_10+0,01932625 ) 

      Синдром2_8=Сигмоида2( 0,08366461*Синдром1_1-0,0662887*Синдром1_2-0,1230026*Синдром1_3+0,00266563*Синдром1_4-0,02042252*Синдром1_5-0,1108731*Синдром1_6+0,02241044*Синдром1_7+0,0900016*Синдром1_8-0,1012866*Синдром1_9+0,06560931*Синдром1_10-0,00811551 )

      Синдром2_9=Сигмоида2( -0,0843511*Синдром1_1-0,0798308*Синдром1_2+0,09560961*Синдром1_3+0,02259571*Синдром1_4+0,05921268*Синдром1_5+0,07243581*Синдром1_6+0,0837274*Синдром1_7+0,05786656*Синдром1_8-0,0529439*Синдром1_9+0,0507338*Синдром1_10-0,01191096 )

      Синдром2_10=Сигмоида2( -0,003413656*Синдром1_1-0,07519301*Синдром1_2+0,02522741*Синдром1_3-0,008757208*Синдром1_4+0,06277656*Синдром1_5-0,00814504*Синдром1_6+0,01202671*Синдром1_7+0,04713854*Синдром1_8-0,0547303*Синдром1_9-0,08477172*Синдром1_10-0,1156826 )

Синдромы 3-го уровня:

      Синдром3_1=Сигмоида3( 0,03511253*Синдром2_1-0,04210035*Синдром2_2+0,07693237*Синдром2_3-0,07007216*Синдром2_4-0,08294788*Синдром2_5-0,04577447*Синдром2_6-0,03269309*Синдром2_7-0,05857668*Синдром2_8+0,1197393*Синдром2_9-0,009379164*Синдром2_10-0,02069147 )

      Синдром3_2=Сигмоида3( -0,05018739*Синдром2_1+0,02394726*Синдром2_2-0,09123425*Синдром2_3-0,002703568*Синдром2_4+0,008534702*Синдром2_5+0,03460907*Синдром2_6-0,005643235*Синдром2_7-0,01610096*Синдром2_8-0,04733381*Синдром2_9+0,006473572*Синдром2_10+0,004266323 )

      Синдром3_3=Сигмоида3( -0,03879684*Синдром2_1+0,003190197*Синдром2_2+0,005023597*Синдром2_3+0,1581842*Синдром2_4-0,03922025*Синдром2_5-0,07180566*Синдром2_6+0,00839845*Синдром2_7+0,1703421*Синдром2_8-0,07782155*Синдром2_9-0,007304489*Синдром2_10+0,02556141 )

      Синдром3_4=Сигмоида3( 0,07606454*Синдром2_1+0,03115197*Синдром2_2-0,09203878*Синдром2_3-0,08034138*Синдром2_4+0,05409597*Синдром2_5+0,05314942*Синдром2_6-0,06844337*Синдром2_7-0,1571919*Синдром2_8+0,1118313*Синдром2_9+0,0321903*Синдром2_10+0,01348592 )

      Синдром3_5=Сигмоида3( 0,04003272*Синдром2_1-0,1240312*Синдром2_2-0,004939404*Синдром2_3-0,02518284*Синдром2_4-0,0704837*Синдром2_5-0,008112773*Синдром2_6+0,1321336*Синдром2_7+0,1696773*Синдром2_8-0,05015707*Синдром2_9-0,1457428*Синдром2_10-0,02188187 )

      Синдром3_6=Сигмоида3( -0,0268496*Синдром2_1-0,0003804825*Синдром2_2+0,03912214*Синдром2_3+0,0924279*Синдром2_4+0,04873751*Синдром2_5+0,05420207*Синдром2_6+0,07930061*Синдром2_7+0,1449189*Синдром2_8-0,07513781*Синдром2_9-0,007935309*Синдром2_10+0,03225844 )

      Синдром3_7=Сигмоида3( 0,01281081*Синдром2_1+0,01225171*Синдром2_2-0,06592406*Синдром2_3+0,04875432*Синдром2_4+0,06496699*Синдром2_5+0,09841774*Синдром2_6-0,04524716*Синдром2_7-0,06170578*Синдром2_8-0,04431103*Синдром2_9-0,06568071*Синдром2_10+0,07391299 )

      Синдром3_8=Сигмоида3( 0,07342439*Синдром2_1+0,01338607*Синдром2_2-0,02468904*Синдром2_3-0,1227548*Синдром2_4-0,09195185*Синдром2_5-0,07180451*Синдром2_6-0,08145066*Синдром2_7+0,02138881*Синдром2_8+0,08265887*Синдром2_9+0,02584602*Синдром2_10+0,1061895 )

      Синдром3_9=Сигмоида3( -0,03858803*Синдром2_1+0,03050786*Синдром2_2-0,01375993*Синдром2_3-0,0008257637*Синдром2_4+0,09680323*Синдром2_5-0,05114457*Синдром2_6-0,04634368*Синдром2_7+0,02801575*Синдром2_8+0,04994943*Синдром2_9+0,07218531*Синдром2_10-0,1024983 )

      Синдром3_10=Сигмоида3( -0,01255089*Синдром2_1+0,01690137*Синдром2_2+0,0771941*Синдром2_3+0,09901207*Синдром2_4-0,005201903*Синдром2_5+0,08677741*Синдром2_6+0,01730773*Синдром2_7+0,01715549*Синдром2_8-0,1286828*Синдром2_9-0,02965906*Синдром2_10-0,0635786 ) 

Конечные синдромы:

      Y=-0,105288*Синдром3_1-0,006430744*Синдром3_2+0,2079539*Синдром3_3-0,3655182*Синдром3_4+0,2882134*Синдром3_5+0,2442825*Синдром3_6-0,05983714*Синдром3_7-0,1707413*Синдром3_8-0,02115979*Синдром3_9+0,1781656*Синдром3_10+0,03031928 

Постобработка конечных синдромов:

      Y=((Y*19)+9)/2) 

7. Провели структурную  оптимизацию ИНС.

 

Сокращение  числа входных сигналов: 

 

Сокращение  числа нейронов: 

 

Равномерное упрощение нейросети: 

 

Бинаризация весов синапсов и неоднородных входов: 

 
 
 
 
 

8. Получили  вербальное описание упрощенной ИНС.

 

Синдромы 1-го уровня:

      Синдром1_1=Сигмоида1( 0,05298325*X1+0,05295615*X2-0,05302493*X3-0,1343404 )

      Синдром1_2=Сигмоида1( -0,05276796*X1-0,05275158*X2+0,05274888*X3-0,01395652 ) 

Синдромы 2-го уровня:

      Синдром2_1=Сигмоида2( 0,1922036*Синдром1_1-0,1920937*Синдром1_2-0,1157654 )

      Синдром2_2=Сигмоида2( -0,01407438*Синдром1_1-0,1524616*Синдром1_2+0,1033879 )

      Синдром2_3=Сигмоида2( -0,05458178*Синдром1_1-0,1803597*Синдром1_2+0,0927496 ) 

Синдромы 3-го уровня:

      Синдром3_1=Сигмоида3( -0,2593904*Синдром2_1-0,1371312*Синдром2_2-0,2240403*Синдром2_3+0,08804006 )

      Синдром3_2=Сигмоида3( 0,1000082*Синдром2_1+0,1766846*Синдром2_2+0,2086235*Синдром2_3-0,04027333 ) 

Конечные синдромы:

      Y=-Синдром3_1+Синдром3_2-0,1377175 

Постобработка конечных синдромов:

      Y=((Y*19)+9)/2) 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

9. Реализовали программный модуль, реализующий  набор правил упрощенного вербального  описания.

 

Input Data

1 LVL

2 LVL

3 LVL