Laboratórne práce štatistiky neurónových sietí. STATISTICA Automatizované neurónové siete Automatizované neurónové siete. STATISTICA Neurónové siete vo výpočtoch neurónových sietí

Počas určitej histórie monitorovania pacientov sa nahromadilo množstvo údajov, ktoré sú uložené v tabuľke v systéme STATISTICA. Príslušná tabuľka údajov je znázornená na obrázku 6.

Obrázok 6. Fragment tabuľky zdrojových údajov

Účelom štúdie je vybudovať model neurónovej siete, ktorý by na základe daného súboru počiatočných údajov (údaje o vyšetrení pacienta, výsledky testov, liečba pred prijatím) na základe liečby predpísanej v nemocnici vytvoril prognózu jeho liečby (hodnoty prijatia do nemocnice I-APFARA, BAB, BKK, diuretiká, centrálne pôsobiace lieky) s dostatočnou presnosťou.

Skutočnosť, že problém je nelineárny, je nepochybná. Samozrejme, je možné sa pokúsiť vyriešiť problém pomocou modulu STATISTICA Nelineárny odhad, konkrétne pomocou iteračných procedúr, ktoré tento modul ponúka na „hľadanie“ typu funkcie. Je tu však množstvo problémov, ktoré výrazne predlžujú postup pri hľadaní riešenia. Najdôležitejšou z nich je formulácia hypotézy o explicitnej forme skúmanej závislosti, ktorá nie je vôbec zrejmá.

Bez ďalšieho výskumu je ťažké povedať niečo o zjavnom type závislosti. Navyše treba spomenúť, že sme nebrali do úvahy ešte jeden faktor. Vo všeobecnosti môže vyriešenie takéhoto problému pomocou metód nelineárneho odhadu trvať veľmi dlho, prípadne nemusí k ničomu viesť. V takýchto kritických situáciách, keď sa o tom vie

Medzi premennými existuje vzťah;

Vzťah je určite nelineárny;

Je ťažké povedať niečo o zjavnej forme závislosti,

Algoritmy neurónovej siete pomáhajú. Uvažujme o spôsobe riešenia tohto problému v module STATISTICA Neurónové siete.

Bohužiaľ, neexistujú žiadne univerzálne pravidlá, ktoré by určovali, ktorá topológia neurónovej siete by sa mala dodržiavať pri riešení konkrétneho problému. Preto je potrebný rozumný postup na nájdenie správnej siete.

Modul Neurónové siete systému STATISTICA obsahuje procedúru, ktorá organizuje vyhľadávanie požadovanej konfigurácie siete. Tento postup spočíva vo vybudovaní a testovaní veľkého množstva sietí s rôznymi architektúrami a následnom výbere siete, ktorá je najvhodnejšia na riešenie daného problému. Tento nástroj sa nazýva Intelligent Problem Solver. Na spustenie modulu Neurónové siete je potrebné použiť rovnomenný príkaz v hlavnom menu systému STATISTICA - Štatistika. (Obrázok 7)

Obrázok 7. Spustenie modulu Neurónové siete

Veľmi častá je nasledujúca téza: „neurónové siete sú univerzálna štruktúra, ktorý vám umožní implementovať akýkoľvek algoritmus." Pokúsme sa, slepo veriac tomuto tvrdeniu, vybudovať neurónovú sieť, ktorá by okamžite "zachytila" navrhovanú závislosť (teda bez predbežnej prieskumnej analýzy).

Jednou z najdôležitejších otázok, ktorú moderná veda ešte nevyriešila, je otázka štruktúry neurónovej siete, ktorá by bola schopná reprodukovať požadovanú viacrozmernú nelineárnu závislosť. V skutočnosti Kolmogorovova veta o úplnosti, ktorú dokázal už v roku 1957, uvádza, že neurónová sieť je schopná reprodukovať akúkoľvek (veľmi dôležitú - spojitú) funkciu. Recept na vytvorenie takejto siete však výskumníkovi neponúka. V roku 1988 viacerí autori zovšeobecnili Kolmogorovovu vetu a ukázali, že akákoľvek spojitá funkcia môže byť aproximovaná trojvrstvovou neurónovou sieťou s jednou skrytou vrstvou a algoritmom spätného šírenia s ľubovoľným stupňom presnosti. V našom prípade je teda pozitívnym aspektom poznanie, že sieť musí mať tri vrstvy, ale opäť neexistujú žiadne pravidlá, ktoré by stanovili vzťah medzi „akýmkoľvek stupňom presnosti“ a počtom neurónov v medziprodukte, tzv. nazývaná skrytá vrstva.

Keď zhrnieme všetky vyššie uvedené skutočnosti, poznamenávame, že neexistujú žiadne univerzálne pravidlá, ktoré by určovali, ktorá topológia neurónovej siete by sa mala dodržiavať pri riešení konkrétneho problému. Preto je potrebný rozumný postup na nájdenie správnej siete.

Modul Neurónové siete systému STATISTICA obsahuje unikátnu procedúru, ktorá organizuje vyhľadávanie požadovanej konfigurácie siete. Tento nástroj sa nazýva Intelligent Problem Solver. Využime tento nástroj a hľadajme neurónovú sieť, ktorá bude schopná vyriešiť náš problém.

Obrázok 8. Spúšťací panel modulu neurónových sietí

Na karte Rýchle v tomto dialógovom okne sa v časti Typ problému navrhuje vybrať triedu problémov, ktorým čelíme. Naším cieľom je vybudovať viacrozmerný vzťah alebo, inými slovami, viacrozmernú nelineárnu regresiu. To znamená, že v časti Typ problému by ste mali zadať Regresiu.

Po rozhodnutí o triede úloh je potrebné špecifikovať premenné na vykonanie analýzy. Na výber premenných použite tlačidlo Premenné. Po kliknutí na toto tlačidlo sa zobrazí dialógové okno Výber vstupných (nezávislých), výstupných (závislých) a selektorových premenných. V tomto dialógovom okne musíte zadať dva zoznamy premenných. Priebežnými výstupmi sú v našom prípade premenné Príjem do nemocnice ACEI/ARB, Príjem do nemocnice BAB, Príjem do nemocnice BKK, Príjem do nemocnice diuretiká a prijatie do nemocnice centrálne pôsobiacich liekov. Nepretržité vstupy sú v našom príklade od 1 do 61 počiatočných parametrov.

Obrázok 9. Výber premenných na analýzu

V časti Vybrať analýzu sú k dispozícii dve možnosti: Inteligentný nástroj na riešenie problémov a Návrhár vlastnej siete. Na automatickú voľbu parametrov neurónovej siete je potrebná prvá možnosť, ktorá je predvolene nastavená. Ak chcete pokračovať v analýze, kliknite na tlačidlo OK.

V ďalšom kroku sa zobrazí dialógové okno nastavenia inteligentného riešenia problémov.

Sekcia Quick obsahuje skupinu možností, ktoré sú zodpovedné za čas vykonania vyhľadávacieho algoritmu neurónovej siete. Na tejto karte je potrebné určiť počet sietí, ktoré je potrebné otestovať (aby ste zistili, či sú vhodné na riešenie formulovaného problému), a tiež uviesť, koľko z týchto sietí bude zahrnutých do záverečnej správy.

V časti Testované siete uvádzame 100, Zachované siete - 10 (obrázok 10)

Záložka Types určuje, ktoré typy neurónových sietí budú použité v procese testovania. Na vyriešenie problému nelineárnej regresie je najvhodnejší viacvrstvový perceptrón, preto volíme siete označené na obrázku 11.

Obrázok 10. Nastavenie počtu testovaných sietí

Obrázok 11. Výber sieťovej architektúry

Ďalej, na organizáciu procesu vyhľadávania a testovania je potrebné uviesť rozsah zmien v počte neurónov v každej vrstve neurónovej siete. Odporúčané hodnoty pre túto úlohu sú zobrazené na obrázku 12.

Obrázok 12. Označenie veľkostí tréningových, kontrolných a testovacích vzoriek

Teraz, po nastavení všetkých tréningových parametrov, na spustenie procedúry vyhľadávania siete, musíte kliknúť na OK.

Stav vyhľadávacieho algoritmu sa zobrazuje v dialógovom okne IPS Training In Progress.

Kým je spustený vyhľadávací algoritmus pre vhodnú neurónovú sieť, toto dialógové okno poskytuje informácie o čase vykonania algoritmu, ako aj o uvažovaných neurónových sieťach. Účelom vyhľadávacieho algoritmu je vymenovať množstvo konfigurácií neurónovej siete a vybrať tú najlepšiu z hľadiska minimálnej chyby na výstupe siete a maximálneho jej výkonu.

Mnoho konceptov súvisiacich s metódami neurónových sietí je najlepšie vysvetlených na príklade konkrétneho programu pre neurónovú sieť. Preto v tejto časti bude veľa odkazov na balík STATISTICA Neural Networks (skrátene ST Neural Networks, balík neurónových sietí od StatSoft), ktorý je implementáciou celej sady metód neurónových sietí na analýzu dát.

V posledných rokoch sme svedkami explózie záujmu o neurónové siete, ktoré sa úspešne využívajú v rôznych oblastiach – biznis, medicína, strojárstvo, geológia, fyzika. Neurónové siete sa dostali do praxe všade tam, kde je potrebné riešiť problémy s prognózovaním, klasifikáciou alebo riadením. Tento pôsobivý úspech je spôsobený niekoľkými dôvodmi:

Neurónové siete sú mimoriadne výkonnou metódou modelovania, ktorá dokáže reprodukovať extrémne zložité závislosti. Neurónové siete majú predovšetkým nelineárny charakter (význam tohto pojmu je podrobne vysvetlený ďalej v tejto kapitole). Po mnoho rokov bolo lineárne modelovanie dominantnou metódou modelovania vo väčšine oblastí, pretože optimalizačné postupy sú preň dobre vyvinuté. V problémoch, kde je lineárna aproximácia neuspokojivá (a je ich pomerne veľa), fungujú lineárne modely slabo. Okrem toho sa neurónové siete vyrovnávajú s „prekliatím dimenzionality“, ktorá neumožňuje modelovanie lineárnych závislostí v prípade veľkého počtu premenných.

Neurónové siete sa učia z príkladov. Používateľ neurónovej siete vyberie reprezentatívne údaje a potom spustí učiaci algoritmus, ktorý sa automaticky naučí štruktúru údajov. V tomto prípade sa od používateľa, samozrejme, vyžaduje určitý súbor heuristických znalostí o tom, ako vyberať a pripravovať dáta, zvoliť požadovanú sieťovú architektúru a interpretovať výsledky, ale úroveň vedomostí potrebná na úspešné využitie neurónových sietí je oveľa skromnejší ako napríklad pri použití tradičných štatistických metód.

Neurónové siete sú intuitívne atraktívne, pretože sú založené na primitívnom biologickom modeli nervových systémov. V budúcnosti môže vývoj takýchto neurobiologických modelov viesť k vytvoreniu skutočne mysliacich počítačov. „Jednoduché“ neurónové siete, ktoré vytvára systém ST Neural Networks, sú silnou zbraňou v arzenáli špecialistu na aplikovanú štatistiku (Neural networks. STATISTICA Neural Networks: Methodology and technologies of modern data analysis).

Neurónové siete vznikli z výskumu umelej inteligencie, konkrétne z pokusov replikovať schopnosť biologických nervových systémov učiť sa a opravovať chyby simuláciou nízkoúrovňovej štruktúry mozgu (Patterson, 1996). Hlavnou oblasťou výskumu umelej inteligencie v 60. - 80. rokoch boli expertné systémy. Takéto systémy boli založené na vysokoúrovňovom modelovaní procesu myslenia (najmä na myšlienke, že náš proces myslenia je založený na manipulácii so symbolmi). Čoskoro sa ukázalo, že podobné systémy, hoci môžu byť v niektorých oblastiach prospešné, nezachytávajú niektoré kľúčové aspekty ľudskej inteligencie. Jedným z názorov je, že dôvodom je to, že nie sú schopné reprodukovať štruktúru mozgu. Na vytvorenie umelej inteligencie je potrebné postaviť systém s podobnou architektúrou.

Mozog pozostáva z veľmi veľkého počtu (približne 10 000 000 000) neurónov spojených početnými spojeniami (v priemere niekoľko tisíc spojení na neurón, ale tento počet môže veľmi kolísať). Neuróny sú špeciálne bunky schopné prenášať elektrochemické signály. Neurón má rozvetvenú štruktúru informačného vstupu (dendrity), jadro a rozvetvený výstup (axón). Axóny bunky sa spájajú s dendritmi iných buniek pomocou synapsií. Keď je aktivovaný, neurón vyšle elektrochemický signál pozdĺž svojho axónu. Prostredníctvom synapsií sa tento signál dostáva k iným neurónom, ktoré sa môžu následne aktivovať. Neurón sa aktivuje, keď celková úroveň signálov prichádzajúcich do jeho jadra z dendritov prekročí určitú úroveň (prah aktivácie).

Intenzita signálu prijatého neurónom (a teda možnosť jeho aktivácie) silne závisí od aktivity synapsií. Každá synapsia má dĺžku a špeciálne chemikálie po nej prenášajú signál. Jeden z najuznávanejších výskumníkov neurosystémov, Donald Hebb, predpokladal, že učenie pozostáva predovšetkým zo zmien „sily“ synaptických spojení. Napríklad v Pavlovovom klasickom experimente zazvonil zvonček zakaždým tesne pred kŕmením psa a pes sa rýchlo naučil spájať zvonenie s jedlom. Synaptické spojenia medzi oblasťami mozgovej kôry zodpovednými za sluch a slinnými žľazami sa posilnili a keď bola kôra stimulovaná zvukom zvončeka, pes začal sliniť.

Mozog je teda postavený z veľkého počtu veľmi jednoduchých prvkov (každý z nich berie vážený súčet vstupných signálov a ak celkový vstup prekročí určitú úroveň, prenáša binárny signál), je schopný riešiť mimoriadne zložité problémy. . Samozrejme, nedotkli sme sa tu mnohých zložitých aspektov štruktúry mozgu, ale zaujímavé je, že umeléneurónové siete môžu dosiahnuť pozoruhodné výsledky pomocou modelu, ktorý nie je oveľa zložitejší ako ten opísaný vyššie.

Statistica Neurónové siete (SNN).

  1. Otvorte dátový súbor Séria_g z údajov dostupných v balíku. Súbor obsahuje jedinú premennú, ktorá určuje objem návštevnosti za niekoľko rokov s mesačným záznamom dát. (Keď otvoríte tento súbor, zobrazí sa niekoľko tabuliek súvisiacich s možnosťou inteligentného riešiteľa, ktoré je v tejto fáze potrebné zatvoriť, pričom zostane iba tabuľka zdrojových údajov).
  2. Typ premennej „vstup – výstup“ nastavte nasledovne: vyberte premennú kliknutím na hlavičku tabuľky, kliknite pravým tlačidlom myši a vyberte možnosť z ponuky Vstup výstup. Názov premennej bude zvýraznený zelenou farbou.
  3. Vytvorte nová sieť pomocou dialógového okna Vytvoriť sieť. Ak to chcete urobiť, stlačte postupne: Súbor – Nový – Sieť. Na obrazovke monitora sa nachádza dialógové okno (obr. 1).

Ryža. 1. Dialógové okno vytvorenia siete

V probléme predpovedania časových radov musí sieť vedieť, koľko kópií jednej premennej by mala prijať a ako ďaleko dopredu by mala predpovedať hodnotu premennej. V tejto úlohe prijmite parameter Kroky (časové okno) rovná 12, pretože údaje sú mesačné pozorovania a parameter Pozerať sa dopredu- rovná sa 1.

  1. Ako typ siete vyberte Multilayer Perceptron a nastavte počet sieťových vrstiev na 3. Potom kliknite na tlačidlo Poradenstvo, v dôsledku čoho program automaticky nastaví počet neurónov vo všetkých troch vrstvách siete: 12 – 6 – 1 (obr. 2).

Ryža. 2. Dialógové okno po nastavení parametrov siete

Potom stlačte tlačidlo Vytvorte.

  1. Keď vytvoríte sieť, SNN automaticky priradí prvých 12 pozorovaní v dátovom súbore typu Ignorovať. Pri ďalšom nácviku a prevádzke siete v úlohe analýzy časových radov každý dátový blok dodávaný na jeho vstup obsahuje dáta týkajúce sa viacerých pozorovaní. Celý blok je priradený k pozorovaniu, ktoré obsahuje hodnotu výstupnej premennej. V dôsledku toho sa prvých 12 pozorovaní v skutočnosti neignoruje, ale sú vstupmi do prvého bloku údajov časového radu, ktorý zodpovedá pozorovaniu č. 13. V skutočnosti program vytvára transformovaný súbor údajov, v ktorom je počet pozorovaní o 12 menší, ale údaje v každom pozorovaní sú prevzaté z 13 po sebe nasledujúcich riadkov zdrojového súboru.

Vytvorená sieť je znázornená na obr. 3.

Ryža. 3. Trojvrstvový perceptrón

  1. V okne zdrojových údajov "Editor súboru údajov" set 66 tréning (školenie) a 66 ovládacích prvkov (Overenie) pozorovania (obr. 4), potom stlačte tlačidlo pre prehadzovanie riadkov nasledovne: cez menu Upraviť – PrípadyZamiešať – všetko (Editácia – prípady – zamiešať – všetko).
  2. Trénujte sieť pomocou metódy Levenberg-Marquard, pre ktorú musíte kliknúť: VlakViacvrstvový perceptrón – Levenberg-Marquardt (Vlak – Viacvrstvový perceptrón – Levenberg-Marquardt). Proces učenia trvá niekoľko sekúnd (v závislosti od typu procesora). Metóda Levenberg-Marquard je jedným zo spoľahlivých a rýchlych algoritmov učenia, ale jej použitie je spojené s určitými obmedzeniami:

Ryža. 4. Okno zdrojových údajov s oddelenými pozorovaniami

  • túto metódu je možné použiť len pre siete s jedným výstupným prvkom.
  • Metóda Levenberg-Marquard vyžaduje pamäť úmernú druhej mocnine počtu váh v sieti, takže metóda nie je vhodná pre siete veľká veľkosť(asi 1000 závaží).
  • Metóda je použiteľná len pre funkciu strednej kvadratickej chyby.

Algoritmus Levenberg-Marquard je navrhnutý tak, aby minimalizoval funkciu strednej kvadratickej chyby. V blízkosti minimálneho bodu platí tento predpoklad s veľkou presnosťou, takže algoritmus sa pohybuje veľmi rýchlo. Tento predpoklad nemusí byť ani zďaleka minimálny, takže metóda nachádza kompromis medzi lineárnym modelom a gradientovým zostupom. Krok sa vykoná len vtedy, ak zníži chybu a tam, kde je to potrebné, sa na zabezpečenie postupu použije gradient klesania s dostatočne malým krokom.

Dialógové okno metódy Levenberg-Marquard je znázornené na obr. 5.

Ryža. 5. Dialógové okno metódy Levenberg-Marquard

Hlavné prvky okna:

  • Epochy (počet epoch)– nastavuje počet epoch, počas ktorých bude algoritmus bežať. V každej epoche sa cez sieť prejde celá tréningová súprava a následne sa upravia váhy.
  • Krížové overenie– keď je pozícia označená, kvalita výsledku produkovaného sieťou sa kontroluje v každej epoche oproti kontrolnej sade (ak je špecifikovaná). Keď je vypnutý, kontrolné pozorovania sú ignorované, aj keď sú prítomné v dátovom súbore.
  • Vlak– Pri každom stlačení tlačidla algoritmus prebehne cez zadaný počet epoch.
  • Znova inicializovať– pred opätovným začatím tréningu by ste mali stlačiť tlačidlo reset, pretože v tomto prípade sú váhy siete opäť náhodne nastavené.
  • Bežecké závažia – Keď sa algoritmus môže zaseknúť na miestnom minime, táto možnosť pridá malé množstvo ku každej váhe.
  1. Vytvorte projekciu časového radu pomocou Run – Times Series Projection otvorte príslušné okno (obr. 6).

Ryža. 6. Okno projekcie časových radov

Popis dialógového okna

  • Štart– určuje, či má projekcia časového radu začať pri nejakom čísle pozorovania (č. prípadu) v dátovom súbore alebo z individuálneho pozorovania.
  • Číslo prípadu – Pri premietaní časového radu z dátového súboru je uvedené číslo pozorovania s výstupnou hodnotou, od ktorej sa má začať.
  • Dĺžka– počet krokov, pre ktoré sa bude prognóza projektovať.
  • Variabilné– označuje premennú, ktorá bude navrhnutá.
  1. Pomocou trénovanej siete môžete vykonať projekciu časových radov. Na začiatku bude sieť pracovať na prvých 12 vstupných hodnotách, výsledkom čoho bude predikcia ďalšej hodnoty. Potom sa predpovedaná hodnota spolu s predchádzajúcimi 11 vstupnými hodnotami opäť privedie na vstup siete a ten vytvorí predpoveď ďalšej hodnoty.

Jediným ovládacím parametrom, ktorý je potrebné zvoliť, je dĺžka projekcie. V tomto príklade je celkovo 144 pozorovaní, z ktorých 12 bude odstránených počas predbežného spracovania, takže výsledky možno porovnávať v maximálne 132 krokoch. Je však možné premietnuť sériu za hranice dostupných údajov, ale výsledok nebude s čím porovnávať.

Zobrazte správanie predpovedaných hodnôt v rôznych dĺžkach pomocou tlačidla Bežať môžete pozorovať zmeny v cieľových a výstupných hodnotách série.

Na uvedenom obr. Obrázok 6 ukazuje, že predpovedaná krivka (modrá na obrazovke monitora) nebola natrénovaná veľmi dobre, pretože medzi pôvodnou a predpovedanou sériou existujú významné odchýlky, počnúc približne 70 pozorovaniami.

  1. Vykonajte predpovedanie sérií pomocou inteligentného riešiteľa (tretie tlačidlo zľava v hornom riadku). V tomto prípade je potrebné odpovedať na niekoľko otázok v dialógovom režime:
  • Vyberte hlavnú verziu (obr. 7) a kliknite Ďalšie.

Ryža. 7. Výber hlavnej verzie

  • Určite typ úlohy (štandardný alebo časový rad). Tu je potrebné si všimnúť časový rad (obr. 8).

Ryža. 8. Výber typu úlohy

  • Obdobie pozorovania nastavte na 12 mesiacov (obr. 9).

Ryža. 9. Nastavenie doby pozorovania

  • Vyberte závislé a nezávislé premenné, ktoré sú rovnakou premennou séria.
  • Určte čas postupu výpočtu rovný 2 minútam (obr. 10).

Ryža. 10. Stanovenie času zúčtovacieho konania

  • Uveďte počet sietí, ktoré sa majú uložiť, a akcie, ktoré sa majú vykonať pri ich ukladaní (obr. 11).

Ryža. 11. Akcie na výber sietí

  • Vyberte formuláre na prezentáciu výsledkov (obr. 12) a kliknite Skončiť.

Ryža. 12. Výber formulára na prezentáciu výsledkov

V dôsledku použitia inteligentného riešiteľa je predpoveď oveľa presnejšia, keďže natrénovaná sieť je oveľa bližšie k pôvodnej sérii (obr. 13).

Ryža. 13. Prognóza pomocou inteligentného riešiteľa

Cvičenie

Vytvorte simulovaný časový rad z balíka Statistica takto:

  • Vytvorte nový súbor, pozostávajúce z 20 riadkov a 2 stĺpcov.
  • Cez menu Údaje – premenné špecifikácie do okna vzorca zadajte výraz =vnormal(rnd(1);1;3).
  • Simulujte 20 hodnôt náhodnej normálne rozloženej premennej s matematickým očakávaním rovným 1 a smerodajnou odchýlkou ​​rovnou 3. Týchto 20 hodnôt definuje premennú Var 1. Preveďte ich na celočíselný dátový typ a nastavte ho do premennej popisné okno ako Typ význam Celé číslo.
  • Prejdite na premennú Var 2 nasledovne: prvá hodnota Var 2 sa rovná prvej hodnote premennej Var 1; druhá hodnota Var 2 sa rovná súčtu prvých dvoch hodnôt premennej Var 1; tretia hodnota premennej Var 2 sa rovná súčtu prvých troch hodnôt premennej Var 1 atď.
  • Skopírujte premennú Var 2 a prejdite do balíka SNN, pričom skopírované údaje umiestnite do nového vytvoreného súboru.
  • Vykonajte prognózu výsledného radu pomocou neurónovej siete.

tlačená verzia

Načrtnuté sú metódy neurónovej siete na analýzu údajov, založené na použití balíka Statistica Neural Networks (vyrába StatSoft), plne prispôsobeného pre ruského používateľa. Sú uvedené základy teórie neurónových sietí; Veľká pozornosť sa venuje riešeniu praktických problémov, metodológia a technológia vykonávania výskumu pomocou balíka Statistica Neural Networks – výkonného nástroja na analýzu a predpovedanie údajov, ktorý má široké uplatnenie v obchode, priemysle, manažmente a financiách – je komplexne preskúmaná. Kniha obsahuje množstvo príkladov analýzy údajov, praktické odporúčania pre analýzu, prognózovanie, klasifikáciu, rozpoznávanie vzorov, riadenie výrobné procesy pomocou neurónových sietí.Pre široký okruh čitateľov zaoberajúcich sa výskumom v bankovníctve, priemysle, ekonomike, obchode, geologickom prieskume, manažmente, doprave a iných oblastiach. ObsahPredhovor k druhému vydaniuÚvod. Pozvánka do neurónových sietíKapitola 1. ZÁKLADNÉ KONCEPTY ANALÝZY ÚDAJOVKapitola 2. ÚVOD DO TEÓRIE PRAVDEPODOBNOSTIKapitola 3. ÚVOD DO TEÓRIE NEUROVÝCH SIETE.Kapitola 4. VŠEOBECNÝ PREHĽAD NEURÁLNYCH SIEŤOVApre-aplikáciapúpravy umelých postprocesorových systémov z dvoch vrstiev. ronRadiálna bázová funkcia Pravdepodobná neurónová sieť Zovšeobecnená regresná neurónová sieťLineárna sieťSieť Kohonen Klasifikačné problémyRegresné problémyPrognóza časových radovVýber premenných a redukcia rozmerovKapitola 5. PRVÉ KROKY V ŠTATISTICKÝCH NEURÁLNYCH SIEŤACH.ZačínameVytvorenie súboru údajovVytvorenie novej sieteVytvorenie súboru údajov a sieteTréning sietePrevádzka neurónovej sieteChapChapChapCapChapCapChapCapit NETWORKKlasický príklad: Fisher's IrisesTréning s krížovou validáciou Podmienky zastaveniaRiešenie problémov regresie Funkcie radiálnej bázy Lineárne modely Kohonenove siete Pravdepodobnostné a zovšeobecnené regresné siete Konštruktor siete Genetický algoritmus na výber vstupných údajov Časové rady Kapitola 7. PRAKTICKÉ TIPY NA RIEŠENIE PROBLÉMOV Redukcia vstupných premenných Prezentácia dát Izolácia Výber sieťovej architektúry Vlastné sieťové architektúry Časové rady Kapitola 8. PRÍPADOVÉ ŠTÚDIE Príklad 1. Zníženie rozmerov v geologickom výskume Príklad 2 Rozpoznanie vzoruPríklad 3. Nelineárna klasifikácia dvojrozmerných množín Príklad 4. Segmentácia rôznych vzoriek paliva podľa laboratórneho výskumuPríklad 5. Konštrukcia behaviorálny bodovací modelPríklad 6. Aproximácia funkciePríklad 7. Prognóza predaja ropyPríklad 8. Monitorovanie a predpovedanie teplotných podmienok v inštaláciiPríklad 9. Určenie spoľahlivosti digitálneho podpisuKapitola 9 RÝCHLY NÁVODDátové sieteTréningové sieteOstatné typy sietíPráca so sieťouOdosielanie výsledkov do systému CLASSICAL10 ALTERNATÍVNE METÓDY K NEURÁLNEJ SIETIKlasická diskriminačná analýza v STATISTICAKlasifikáciaLogit regresnáFaktorová analýza v STATISTICAKapitola 11.ŤAŽBA DÁT V ŠTATISTIKEPríloha 1. Generátor kóduPríloha 2. Integrácia STATISTICA s ERP systémamiBibliografiaIndex

  • Predspracovanie a následné spracovanie vrátane výberu údajov, nominálneho kódovania, škálovania, normalizácie, odstraňovania chýbajúcich údajov s interpretáciou pre klasifikáciu, regresiu a problémy s časovými radmi;
  • Výnimočne jednoduché použitie plus bezkonkurenčný analytický výkon; napríklad nemá analógy Sprievodca riešením prevedie používateľa všetkými fázami vytvárania rôznych neurónových sietí a vyberie tú najlepšiu (táto úloha sa inak rieši dlhým procesom „pokusu a omylu“ a vyžaduje si dôkladnú znalosť teórie);
  • Výkonné prieskumné a analytické technológie, počítajúc do toho Analýza hlavných komponentov A Zníženie rozmerov na výber potrebných vstupných premenných pri prieskumnej (neurónovej sieti) dátovej analýze (výber potrebných vstupných premenných pre neurónové siete často trvá dlho; systém STATISTICA Neurónové siete môže túto prácu vykonať za používateľa);
  • Najpokročilejšie, optimalizované a výkonné algoritmy sieťového tréningu (vrátane konjugovaného gradientu a Levenberg-Marquard); plná kontrola nad všetkými parametrami ovplyvňujúcimi kvalitu siete, ako sú aktivačné a chybové funkcie, zložitosť siete;
  • Podpora súborov neurónových sietí a architektúr neurónových sietí takmer neobmedzenej veľkosti, vytvorených v r Sieťové sady - Sieťové súpravy; selektívny tréning segmentov neurónovej siete; kombinovanie a ukladanie súborov sietí do samostatných súborov;
  • Plná integrácia so systémom STATISTICA; všetky výsledky, grafy, správy atď. je možné ďalej upravovať pomocou výkonných grafických a analytických nástrojov STATISTICA(napríklad na analýzu predpokladaných zvyškov, vytvorenie podrobnej správy atď.);
  • Bezproblémová integrácia s výkonnými automatizovanými nástrojmi STATISTICA; zaznamenávanie plnohodnotných makier pre akúkoľvek analýzu; vytváranie vlastných analýz a aplikácií neurónových sietí STATISTICA Visual Basic, výzva STATISTICA Neurónové siete z akejkoľvek aplikácie, ktorá podporuje Technológia COM(napríklad automatická analýza neurónovej siete v tabuľke MS Excel alebo kombináciou niekoľkých vlastných aplikácií napísaných v C++, C#, Java atď.).


STATISTICA Neurónové siete vo výpočtoch neurónových sietí:

  • Použitie neurónových sietí zahŕňa oveľa viac ako len spracovanie údajov pomocou metód neurónových sietí.
  • STATISTICA Neurónové siete poskytuje rôzne funkčnosť, pre prácu s veľmi zložitými úlohami, vrátane nielen najnovších Architektúry neurónových sietí A Algoritmy učenia, ale aj nové prístupy v Výber vstupných údajov A Budovanie siete. Okrem toho vývojári softvér a používatelia experimentujúci s nastaveniami aplikácie ocenia skutočnosť, že po vykonaní špecifikovaných experimentov v jednoduchom a intuitívnom rozhraní STATISTICA Neurónové siete Analýzy neurónových sietí je možné kombinovať do vlastnej aplikácie. To sa dosiahne buď pomocou knižnice Funkcie STATISTICA COM, ktorý plne odráža všetky funkcie programu, alebo pomocou kódu v jazyku C (C++, C#) alebo Visual Basic, ktorý je vygenerovaný programom a pomáha spustiť plne trénovanú neurónovú sieť alebo sieťový súbor.

Počiatočné údaje

modul STATISTICA Neurónové siete plne integrovaná so systémom STATISTICA K dispozícii je teda obrovský výber nástrojov na úpravu (prípravu) údajov na analýzu (transformácie, podmienky výberu pozorovaní, nástroje na kontrolu údajov atď.). Ako všetky testy STATISTICA, program môže byť „pripojený“ k vzdialenej databáze pomocou nástrojov na spracovanie na mieste alebo prepojený so živými údajmi, takže modely sa trénujú alebo spúšťajú (napr. na výpočet predpokladaných hodnôt alebo klasifikáciu) automaticky vždy, keď sa údaje zmenia.

Výber vstupu a redukcia rozmerov

Po príprave údajov sa musíte rozhodnúť, ktoré premenné sa majú použiť pri práci s neurónovou sieťou. Čím väčší počet premenných, tým zložitejšia bude neurónová sieť, a preto si bude vyžadovať viac pamäte a času na trénovanie, ako aj väčší počet trénovacích príkladov (pozorovaní). Ak nie je dostatok údajov a/alebo korelácií medzi premennými, otázky výberu zmysluplných vstupných premenných a kompresie informácií do menšieho počtu premenných sa v mnohých aplikáciách neurónových sietí stávajú nanajvýš dôležité.


Algoritmy redukcie rozmerov:

  • IN STATISTICA Neurónové siete Boli implementované inverzné a priame algoritmy výberu krok za krokom. Okrem toho neurogenetický algoritmus na výber vstupných údajov kombinuje schopnosti genetických algoritmov a PNN/GRNN (PNN - pravdepodobnostné neurónové siete, GRNN - zovšeobecnené regresné neurónové siete) na automatické vyhľadávanie optimálnych kombinácií vstupných premenných, a to aj v prípadoch, keď medzi nimi existujú korelácie a nelineárne závislosti. Takmer okamžitá rýchlosť učenia Algoritmus PNN/GRNN nielenže umožňuje uplatniť Neuro-Genetic algoritmus pre výber vstupných dát, ale tiež vám umožňuje (pomocou dostupných Editor systémové údaje STATISTICA Neurónové siete vhodné prostriedky na potlačenie nevýznamných premenných) uskutočňovať svoje vlastné experimenty s citlivosťou údajov v reálnom čase. STATISTICA Neurónové siete obsahuje aj zabudovaný systém Analýza hlavných komponentov (PCA a asociatívne siete pre „nelineárne PCA“), čo vám umožňuje zmenšiť rozmer zdrojových údajov. Všimnite si, že v základnom systéme je k dispozícii veľké množstvo štatistických metód na zníženie rozmerov údajov STATISTICA.


Škálovanie údajov a konverzia nominálnej hodnoty:

  • Pred vložením údajov do siete musia byť určitým spôsobom pripravené. Rovnako dôležité je, aby sa výstupné údaje dali správne interpretovať. IN STATISTICA Neurónové siete existuje možnosť automatického škálovania vstupných a výstupných údajov (vrátane škálovania podľa minimálnych/maximálnych hodnôt a podľa priemeru/štandardnej odchýlky); Premenné s nominálnymi hodnotami možno tiež automaticky prekódovať (napríklad Pohlavie=(Muž,Žena)) vrátane použitia metódy kódovania 1-z-N. STATISTICA Neurónové siete obsahuje aj nástroje na prácu s chýbajúcimi údajmi. Realizované normalizačné funkcie ako napr "jednotná suma", "víťaz berie všetko" A "vektor jednotkovej dĺžky". Existujú nástroje na prípravu a interpretáciu údajov špeciálne navrhnuté pre analýzu časových radov. V základnom systéme je implementovaná aj široká škála podobných nástrojov STATISTICA.
  • V klasifikačných problémoch je možné nastaviť intervaly spoľahlivosti, ktoré STATISTICA Neurónové siete sa potom používa na priradenie pozorovaní jednej alebo druhej triede. V kombinácii so špeciálnym implementovaným v STATISTICA Neurónové siete aktivačná funkcia Softmax a krížové entropické chybové funkcie, to poskytuje základný teoretický prístup ku klasifikačným problémom.

Výber modelu neurónovej siete, sieťové súbory

Rôznorodosť modelov neurónových sietí a množstvo parametrov, ktoré je potrebné nastaviť (veľkosť siete, parametre učiaceho sa algoritmu atď.) môžu niektorých používateľov zmiasť (preto existuje Sprievodca riešením, ktorý dokáže automaticky vyhľadať vhodnú sieťovú architektúru ľubovoľnej zložitosti).


Systém STATISTICA Neural Networks implementuje všetky hlavné typy neurónových sietí používaných pri riešení praktických problémov, vrátane:

  • viacvrstvové perceptróny (siete s priamym prenosom signálu);
  • siete založené na funkciách radiálnej bázy;
  • samoorganizujúce sa Kohonenove mapy;
  • pravdepodobnostné (Bayesovské) neurónové siete;
  • generalizované regresné neurónové siete;
  • siete hlavných komponentov;
  • siete pre klastrovanie;
  • lineárne siete.
Aj v systéme STATISTICA Neurónové siete implementovaná Sieťové súbory, vytvorený z náhodných (ale významných) kombinácií vyššie uvedených sietí. Ďalšou praktickou funkciou je, že siete môžete prepojiť tak, aby bežali postupne. To je užitočné pri predspracovaní na nájdenie riešení s minimálnymi nákladmi.

V balení STATISTICA Neurónové siete K dispozícii je množstvo nástrojov, ktoré pomôžu používateľovi vybrať vhodnú sieťovú architektúru. Štatistické a grafické nástroje systému zahŕňajú histogramy, matice a grafy chýb pre celú populáciu a pre jednotlivé pozorovania, konečné údaje o správnej/nesprávnej klasifikácii a všetky dôležité štatistiky - napríklad vysvetlený podiel rozptylu - sa vypočítavajú automaticky.

Na vizualizáciu údajov v balíku STATISTICA Neurónové siete Scatterplots a 3D reakčné povrchy sú implementované, aby pomohli používateľovi pochopiť „správanie“ siete.
Všetky informácie získané z uvedených zdrojov môžete samozrejme použiť na ďalšiu analýzu inými spôsobmi. STATISTICA, ako aj na následné zahrnutie do prehľadov alebo na prispôsobenie.

STATISTICA Neurónové siete automaticky si zapamätá najlepšiu sieťovú možnosť z tých, ktoré ste dostali počas experimentovania s úlohou, a môžete sa na ňu kedykoľvek odvolať. Užitočnosť siete a jej prediktívna schopnosť sa automaticky testuje na špeciálnom testovacom súbore pozorovaní, ako aj odhadom veľkosti siete, jej efektívnosti a nákladov na nesprávnu klasifikáciu. Implementované v r STATISTICA Neurónové siete postupy automatickej krížovej validácie a regularizácie Wigendove váhy umožňujú rýchlo zistiť, či je vaša sieť pre danú úlohu nedostatočná alebo naopak príliš zložitá.

Na zlepšenie výkonu v balíku STATISTICA Neurónové siete K dispozícii je množstvo možností konfigurácie siete. Môžete teda zadať lineárnu výstupnú sieťovú vrstvu v regresných problémoch alebo aktivačnú funkciu softmax v problémoch pravdepodobnostného odhadu a klasifikácie. Ak majú vaše údaje veľa odľahlých hodnôt, potom pri trénovaní siete môžete nahradiť štandardnú chybovú funkciu menej citlivou funkciou "mestské bloky". Systém tiež implementuje chybové funkcie krížovej entropie založené na modeloch informačnej teórie a mnohých ďalších špeciálne funkcie aktivácie, vrátane: kroku, píly a sínusu.


Sprievodca riešením (automaticky vyhodnotí problém a vyberie niekoľko sietí rôznych architektúr):

  • Súčasťou balenia STATISTICA Neurónová sieť s je Sprievodca riešením – Inteligentný riešiteľ problémov, ktorá hodnotí mnohé neurónové siete rôznych architektúr a zložitosti a vyberá siete najlepšej architektúry pre danú úlohu.
  • Majster je schopný vybudovať siete pre dáta s nezávislými pozorovaniami (štandardné regresné siete, klasifikačné siete alebo zmiešané siete), ako aj siete určené na predpovedanie budúcich hodnôt určitej premennej na základe existujúcich hodnôt tej istej premennej (čas sériové siete).
  • Pri vytváraní neurónovej siete sa značný čas vynakladá na výber vhodných premenných a optimalizáciu architektúry siete pomocou heuristického vyhľadávania. STATISTICA Neurónové siete prevezme túto prácu a automaticky vykoná heuristické vyhľadávanie za vás. Tento postup berie do úvahy vstupný rozmer, typ siete, rozmery siete a požadované funkcie kódovania výstupu.
  • Počas vyhľadávania môžete nastaviť počet odpovedí prijatých počas tréningového procesu. Pri nastavení režimu maximálneho detailu Sprievodca riešením Zobrazí architektúru a úrovne kvality pre každú testovanú sieť.
  • Sprievodca riešením je mimoriadne efektívny nástroj pri používaní zložitých techník, ktorý vám umožňuje automaticky nájsť najlepšiu sieťovú architektúru. Namiesto toho, aby ste trávili veľa hodín sedením pred počítačom, nechajte systém STATISTICA Neurónové siete urob túto prácu za vás.
  • Automatický konštruktér siete možno použiť aj počas vývoja modelu, keď modul STATISTICA neurónové siete, spolu s ostatnými modulmi základného systému STATISTICA, sa používa na identifikáciu najvýznamnejších premenných (napríklad najlepších prediktorov pre ich následné zahrnutie a testovanie v akomkoľvek modeli Nelineárny odhad).


Tréning neurónovej siete:

  • Úspech vašich experimentov na nájdenie najlepšieho typu a architektúry siete výrazne závisí od kvality a rýchlosti algoritmov sieťového učenia. V systéme STATISTICA Neurónové siete Boli implementované doteraz najlepšie školiace algoritmy.
  • Trénovať viacvrstvové perceptróny v systéme STATISTICA Neurónové siete V prvom rade je implementovaná metóda spätného šírenia - s časovo premenlivou rýchlosťou učenia a koeficientom zotrvačnosti, zmiešaním pozorovaní pred ďalším krokom algoritmu a pridaním aditívneho šumu pre robustné zovšeobecnenie. Navyše v systéme STATISTICA Neurónové siete boli implementované dva rýchle algoritmy druhého rádu - metódy konjugovaného gradientu a Levenberg-Marquard. Ten je mimoriadne výkonný moderný nelineárny optimalizačný algoritmus a odborníci ho dôrazne odporúčajú používať. Zároveň je rozsah použitia tejto metódy obmedzený na prípady relatívne malých sietí s jedným výstupným neurónom a pre ťažkopádnejšie úlohy v balíku STATISTICA Neurónové siete Existuje metóda konjugovaného gradientu. Obidva algoritmy sa zvyčajne zbiehajú rýchlejšie ako spätné šírenie a zvyčajne vytvárajú lepšie riešenie.
  • Iteračný proces sieťového trénovania v systéme STATISTICA Neurónové siete je sprevádzané automatickým zobrazením aktuálnej tréningovej chyby a nezávisle od nej vypočítanej chyby na testovacej zostave a zobrazuje sa aj graf celkovej chyby. Tréning môžete kedykoľvek prerušiť jednoduchým stlačením tlačidla. Okrem toho je možné nastaviť podmienky zastavenia, pri ktorých sa tréning preruší; takouto podmienkou môže byť napríklad dosiahnutie určitej chybovosti, alebo stabilný nárast testovacej chyby pri danom počte prechodov – „epoch“ (čo naznačuje tzv. preškolenie siete). Ak dôjde k nadmernej montáži, používateľovi by to malo byť jedno: STATISTICA Neurónové siete automaticky si pamätá inštanciu najlepšia sieť získané počas tréningového procesu a táto sieťová možnosť je vždy prístupná kliknutím na príslušné tlačidlo. Po dokončení školenia siete môžete skontrolovať kvalitu jej práce na samostatnej testovacej súprave.
  • V balení STATISTICA Neurónové siete Množstvo učiacich sa algoritmov bolo implementovaných aj pre iné siete iných architektúr. Parametre radiálnych splajnov a vyhladzovacích koeficientov pre siete založené na funkcii radiálnej bázy a zovšeobecnených regresných sieťach je možné vybrať pomocou algoritmov, ako sú: Kohonenov tréning, čiastková vzorka, Metóda K-means, izotropia a metódy najbližšieho suseda. Neuróny lineárnej výstupnej vrstvy sietí založenej na funkcii radiálnej bázy, ako sú neuróny lineárnych sietí, sú plne optimalizované metóda rozkladu singulárnej hodnoty (SVD)..
  • Tvorba hybridných sieťových štruktúr. V systéme STATISTICA Neurónové siete Je možné vytvárať siete zmiešanej štruktúry. Napríklad v modifikovanej sieti založenej na funkcii radiálnej bázy môže byť trénovaná prvá vrstva neurónov Kohonenov algoritmus aha, a ten druhý - nelineárna vrstva - Levenberg-Marquardova metóda.


Testovanie neurónovej siete:

  • Po zaškolení siete musíte skontrolovať kvalitu jej práce a určiť jej vlastnosti. Na tento účel v balení STATISTICA Neurónové siete K dispozícii je sada štatistík na obrazovke a grafických nástrojov.
  • V prípade, že je špecifikovaných niekoľko modelov (sietí a súborov), potom (ak je to možné) STATISTICA Neurónová sieť s zobrazí porovnávacie výsledky (napríklad vynesenie kriviek odozvy niekoľkých modelov do jedného grafu alebo zobrazenie prediktorov niekoľkých modelov v jednej tabuľke). Táto vlastnosť je veľmi užitočná na porovnávanie rôznych modelov trénovaných na rovnakom súbore údajov.
  • Všetky štatistiky sú vypočítané samostatne pre tréningové, validačné a testovacie sady. Všetky hmotnosti a aktivačné parametre sú dostupné ako pohodlné textový súbor, ktorú je možné jedným kliknutím previesť na tabuľku výsledkov systému STATISTICA. Experimentálne výsledky pre jednotlivé pozorovania alebo pre celý súbor údajov je možné zobraziť aj v tabuľkovej forme STATISTICA a použiť v ďalších analýzach alebo grafoch.
  • Automaticky sa vypočítajú nasledujúce súhrnné štatistiky: stredná kvadratická chyba siete, takzvaná matica diskrepancie (zmätená matica) pre klasifikačné problémy (kde sú sčítané všetky prípady správnej a nesprávnej klasifikácie) a podiel vysvetlenej regresie pre regresné úlohy. Kohonen Network má okno Topologická mapa, v ktorom môžete vizuálne pozorovať aktiváciu sieťových prvkov, ako aj meniť označenia pozorovaní a uzlov v procese analýzy údajov. K dispozícii je tiež okno Win Frequency, ktoré vám umožňuje okamžite lokalizovať klastre v topologickej mape. Zhluková analýza možno vykonať pomocou kombinácie štandardnej siete architektúry so špeciálnym diagramom systémového klastra STATISTICA Neurónové siete. Môžete napríklad trénovať sieť na analýzu hlavných komponentov a graficky zobraziť údaje premietané do prvých dvoch komponentov.

Úprava, úprava a sériové zapojenie neurónových sietí

V systéme STATISTICA Neurónové siete Existujú inteligentné nástroje, ktoré vám umožnia odrezať kúsky z existujúcich sietí a spojiť viacero sietí dohromady. Môžete teda odoberať alebo pridávať jednotlivé neuróny, odoberať celú vrstvu zo siete a siete, ktoré sú konzistentné v počte vstupov/výstupov, môžu byť postupne navzájom prepojené. Vďaka týmto vlastnostiam sa balík STATISTICA Neurónové siete umožňuje použiť nástroje ako redukcia rozmerov (počas predspracovania) pomocou asociatívnych sietí a stratovej matice (na prijímanie rozhodnutí s najmenšími stratami). Stratová matica sa automaticky používa pri práci s pravdepodobnostnými neurónovými sieťami.

Hotové riešenia (vlastné aplikácie využívajúce neurónové siete STATISTICA):

  • Jednoduché a pohodlné systémové rozhranie STATISTICA Neurónové siete umožňuje rýchlo vytvárať aplikácie neurónovej siete na riešenie vašich problémov.
  • Môže nastať situácia, keď je potrebné tieto riešenia integrovať do existujúceho systému, napríklad ich urobiť súčasťou širšieho výpočtového prostredia (môže ísť o postupy vyvinuté samostatne a zabudované do podnikového výpočtového systému).
  • Trénované neurónové siete možno použiť na nové množiny údajov (na predikciu) niekoľkými spôsobmi: Môžete uložiť trénovanú sieť alebo súbor sietí (napríklad na výpočet priemernej predikcie na základe viacerých architektúr) a potom ju použiť na novú množinu údajov ( na predikciu, predpovedanú klasifikáciu alebo predpovedanie); Na automatické generovanie programového kódu v jazyku môžete použiť generátor kódu C (C++, C#) alebo Visual Basic a ďalej ho použiť na predpovedanie nových údajov v akomkoľvek softvérovom prostredí Visual Basic alebo C++ (C#), t.j. implementujte do svojej aplikácie plne vyškolenú neurónovú sieť. Na záver všetky funkcie systému STATISTICA, počítajúc do toho STATISTICA Neurónové siete možno použiť ako Objekty COM (Component Object Model) v iných aplikáciách (napr. Java, MS Excel atď.). Môžete napríklad implementovať automatizované analýzy vytvorené v STATISTICA Neurónové siete k stolom MS Excel.


Zoznam učebných algoritmov:

  • Backpropagation;
  • Levenberg-Marquard;
  • Konjugované gradienty;
  • kvázi-newtonovský;
  • Rýchle šírenie;
  • Delta-delta-s-bar;
  • Pseudoinverzný;
  • Kohonen tréning;
  • Označenie blízkych tried;
  • Tréningový vektorový kvantizér;
  • Radiálne (pod)vzorkovanie;
  • metóda K-means;
  • metóda K-Nearest Neighbors (KNN);
  • Nastavenie izotropných odchýlok;
  • Nastavenie zjavných odchýlok;
  • Pravdepodobná neurónová sieť;
  • Generalizovaná regresná neurónová sieť;
  • Genetický algoritmus na výber vstupných údajov;
  • Priamy alebo spätný výber vstupných údajov krok za krokom.

Požiadavky na systém

systém STATISTICA Neurónové siete môže fungovať aj na relatívne slabých alebo starých počítačoch. Keďže však mnohé procedúry balíka sú výpočtovo náročné, dôrazne sa odporúča použiť Procesor Pentium s 32 MB RAM.


Obmedzenia veľkosti siete:

  • Neurónová sieť môže mať takmer akúkoľvek veľkosť (to znamená, že jej rozmery môžu byť mnohonásobne väčšie, než je skutočne potrebné a rozumné); Bez obmedzenia počtu neurónov je povolených až 128 vrstiev. V skutočnosti je pri akýchkoľvek praktických úlohách program obmedzený iba hardvérovými možnosťami počítača.


Elektronická príručka:

  • Ako súčasť systému STATISTICA Neurónové siete existuje dobre ilustrovaná učebnica, ktorá poskytuje úplný a jasný úvod do neurónových sietí, ako aj príklady. Systém podrobnej, kontextovej pomoci je dostupný z každého dialógového okna.


Generátor zdrojového kódu:

  • Generátor zdrojový kód je doplnkový produkt, ktorý umožňuje používateľom jednoducho vytvárať vlastné aplikácie založené na systéme STATISTICA Neurónové siete. Tento doplnkový produkt vytvára zdrojový systémový kód pre model neurónovej siete (ako súbor v C, C++, C#), ktorý je možné samostatne zostaviť a integrovať do vášho programu na bezplatnú distribúciu. Tento produkt je navrhnutý špeciálne pre vývojárov podnikových systémov, ako aj tých používateľov, ktorí potrebujú transformovať vysoko optimalizované postupy vytvorené v STATISTICA Neurónové siete do externých aplikácií na riešenie zložitých analytických problémov.

Metódy neurónových sietí sú čoraz rozšírenejšie v rôznych oblastiach.

Priemysel:

  • Procesné riadenie (najmä monitorovanie výrobných procesov s kontinuálnou reguláciou kontrolných parametrov).
  • Klasifikácia vzoriek palív (segmentácia druhov palív na základe analýzy ich spektier).
  • Technická diagnostika (používanie vibrácií a hluku na včasné zistenie porúch v mechanizme a vykonávanie preventívnych opráv).
  • Riadiace systémy motora (hodnotenie a kontrola spotreby paliva pomocou údajov snímačov).
  • Spínacie detektorové systémy v reálnom čase vo fyzike. Neurónové siete sú odolné voči šumu a umožňujú použitie robustných vzorov vo fyzických údajoch s veľkým štatistickým šumom.


marketing:

  • Predpovedanie ceny zlata;
  • Predpovedanie cien surovín;
  • Obchodujte priamou poštou.


Financie:

  • Posúdenie bonity (klasickou úlohou je zistiť z osobných údajov, či je daný dlžník spoľahlivý).
  • Predpovedanie finančných časových radov.


Geologický prieskum:

  • Zvyšovanie efektívnosti ťažobného procesu (zvýraznenie významných faktorov ovplyvňujúcich ukazovatele efektívnosti ťažby).


Iné odvetvia:

  • Optické rozpoznávanie znakov vrátane rozpoznávania podpisov;
  • Spracovanie obrazu;
  • Predpovedanie chaotických časových radov;
  • Lekárska diagnostika;
  • Syntéza reči;
  • Lingvistická analýza.



Hore