Acasă › Probleme › Lucrări de laborator statistica rețele neuronale. STATISTICA Rețele neuronale automatizate Rețele neuronale automatizate. STATISTICA Rețele neuronale în calculul rețelelor neuronale

Lucrări de laborator statistica rețele neuronale. STATISTICA Rețele neuronale automatizate Rețele neuronale automatizate. STATISTICA Rețele neuronale în calculul rețelelor neuronale

Pe parcursul unui anumit istoric de monitorizare a pacienților, s-a acumulat o serie de date care sunt stocate într-un tabel în sistemul STATISTICA. Tabelul de date corespunzător este prezentat în Figura 6.

Figura 6. Fragment din tabelul de date sursă

Scopul studiului este de a construi un model de rețea neuronală care, pe baza unui set dat de date inițiale (date de examinare a pacientului, rezultate ale testelor, tratament înainte de internare), pe baza tratamentului prescris în spital, să producă un prognostic pentru acesta. tratament (valori de internare în spital I-APFARA, BAB, BKK, diuretice, medicamente cu acțiune centrală) cu suficientă acuratețe.

Faptul că problema este neliniară este dincolo de orice îndoială. Desigur, s-ar putea încerca rezolvarea problemei folosind modulul Estimare Neliniară STATISTICA, și anume, folosind procedurile iterative oferite de acest modul pentru a „tâmpina” tipul de funcție. Cu toate acestea, există o serie de probleme aici care extind în mod semnificativ procedura de găsire a unei soluții. Cea mai importantă dintre ele este formularea unei ipoteze despre forma explicită a dependenței studiate, ceea ce nu este deloc evident.

Fără cercetări suplimentare, este dificil să spunem ceva despre tipul evident de dependență. Mai mult, de menționat că nu am mai ținut cont de un singur factor. În general, rezolvarea unei astfel de probleme folosind metode de estimare neliniară poate dura foarte mult timp sau poate să nu conducă la nimic. În astfel de situaţii critice, când se ştie că

Există o relație între variabile;

Relația este cu siguranță neliniară;

Este dificil să spui ceva despre forma evidentă a dependenței,

Algoritmii rețelelor neuronale ajută. Să luăm în considerare o modalitate de a rezolva această problemă în modulul STATISTICA Neural Networks.

Din păcate, nu există reguli universale care să indice ce topologie de rețea neuronală ar trebui urmată pentru a rezolva o anumită problemă. Prin urmare, este necesară o procedură rezonabilă pentru găsirea rețelei potrivite.

Modulul Rețele Neurale al sistemului STATISTICA include o procedură care organizează căutarea configurației rețelei dorite. Această procedură constă în construirea și testarea unui număr mare de rețele cu arhitecturi diferite și apoi selectarea dintre acestea a rețelei care este cea mai potrivită pentru rezolvarea problemei date. Acest instrument se numește Intelligent Problem Solver. Pentru a lansa modulul Rețele Neurale, trebuie să utilizați comanda cu același nume din meniul principal al sistemului STATISTICA - Statistică. (Figura 7)

Figura 7. Lansarea modulului Rețele neuronale

Următoarea teză este foarte comună: „rețelele neuronale sunt structura universala, permițându-vă să implementați orice algoritm.” Să încercăm, crezând orbește această afirmație, să construim o rețea neuronală care să „prindă” imediat dependența propusă (adică fără analiză exploratorie preliminară).

Una dintre cele mai importante probleme care nu a fost încă rezolvată de știința modernă este problema structurii unei rețele neuronale care ar fi capabilă să reproducă dependența neliniară multidimensională dorită. Într-adevăr, teorema lui Kolmogorov asupra completității, pe care a demonstrat-o în 1957, afirmă că o rețea neuronală este capabilă să reproducă orice funcție (foarte importantă - continuă). Cu toate acestea, nu oferă cercetătorului o rețetă pentru crearea unei astfel de rețele. În 1988, un număr de autori au generalizat teorema lui Kolmogorov și au arătat că orice funcție continuă poate fi aproximată printr-o rețea neuronală cu trei straturi cu un strat ascuns și un algoritm de backpropagation cu orice grad de acuratețe. Astfel, în cazul nostru, aspectul pozitiv este cunoașterea faptului că rețeaua trebuie să fie pe trei straturi, dar din nou nu există reguli la îndemână care să stabilească relația dintre „orice grad de acuratețe” și numărul de neuroni din intermediar, deci- numit strat ascuns.

Rezumând toate cele de mai sus, observăm că nu există reguli universale care să indice ce topologie de rețea neuronală ar trebui urmată pentru a rezolva o anumită problemă. Prin urmare, este necesară o procedură rezonabilă pentru găsirea rețelei potrivite.

Modulul Rețele Neurale al sistemului STATISTICA include o procedură unică care organizează căutarea configurației rețelei dorite. Acest instrument se numește Intelligent Problem Solver. Să folosim acest instrument și să căutăm o rețea neuronală care să fie capabilă să rezolve problema noastră.

Figura 8. Pad de lansare al modulului Rețele neuronale

În fila Rapidă a acestei casete de dialog, în secțiunea Tip Problemă, se propune să selectăm clasa de probleme cu care ne confruntăm. Scopul nostru este de a construi o relație multivariată sau, cu alte cuvinte, regresie neliniară multivariată. Aceasta înseamnă că în secțiunea Tip Problemă ar trebui să specificați Regresia.

După ce s-a hotărât asupra clasei de sarcini, este necesar să se precizeze variabilele pentru efectuarea analizei. Pentru a selecta variabile, utilizați butonul Variabile. Când faceți clic pe acest buton, apare caseta de dialog Selectare variabilele de intrare (independente), de ieșire (dependente) și de selectare. În această casetă de dialog, trebuie să specificați două liste de variabile. Ieșirile continue, în cazul nostru, sunt variabilele Admitere în spital ACEI/ARB, Admitere în spital BAB, Admitere în spital BKK, Admitere în spital de diuretice și internare în spital cu medicamente cu acțiune centrală. Intrările continue, în exemplul nostru, sunt de la 1 la 61 de parametri inițiali.

Figura 9. Selectarea variabilelor pentru analiză

În secțiunea Selectare analiză, sunt disponibile două opțiuni: Intelligent Problem Solver și Custom Network Designer. Pentru a selecta automat parametrii rețelei neuronale, este necesară prima opțiune, care este setată implicit. Pentru a continua analiza, faceți clic pe OK.

În pasul următor, apare caseta de dialog de configurare Intelligent Problem Solver.

Secțiunea Rapidă conține un grup de opțiuni care sunt responsabile pentru timpul de execuție al algoritmului de căutare a rețelei neuronale. În această filă, trebuie să specificați numărul de rețele care trebuie testate (pentru a afla dacă sunt potrivite pentru rezolvarea problemei formulate) și, de asemenea, să indicați câte dintre aceste rețele vor fi incluse în raportul final.

În secțiunea Rețele testate indicăm 100, Rețele reținute - 10 (Figura 10)

Fila Tipuri specifică ce tipuri de rețele neuronale vor fi utilizate în procesul de testare. Pentru a rezolva problema regresiei neliniare, un perceptron multistrat este cel mai potrivit, așa că alegem rețelele marcate în Figura 11.

Figura 10. Setarea numărului de rețele de testat

Figura 11. Selectarea unei arhitecturi de rețea

În continuare, pentru a organiza procesul de căutare și testare, este necesar să se indice intervalul de modificări ale numărului de neuroni din fiecare strat al rețelei neuronale. Valorile recomandate pentru această sarcină sunt prezentate în Figura 12.

Figura 12. Indicarea dimensiunilor probelor de antrenament, de control și de testare

Acum, după setarea tuturor parametrilor de antrenament, pentru a începe procedura de căutare în rețea, trebuie să faceți clic pe OK.

Starea algoritmului de căutare este afișată în caseta de dialog IPS Training In Progress.

În timp ce algoritmul de căutare pentru o rețea neuronală adecvată rulează, această casetă de dialog oferă informații despre timpul de execuție al algoritmului, precum și despre rețelele neuronale luate în considerare. Scopul algoritmului de căutare este de a enumera o serie de configurații de rețea neuronală și de a selecta cea mai bună în ceea ce privește eroarea minimă la ieșirea rețelei și maximul performanței acesteia.

Multe concepte legate de metodele rețelelor neuronale sunt cel mai bine explicate folosind un program specific de rețea neuronală ca exemplu. Prin urmare, în această secțiune vor exista multe link-uri către pachet STATISTICA Neural Networks (abreviat ST Neural Networks, un pachet de rețele neuronale de la StatSoft), care este o implementare a întregului set de metode de rețele neuronale pentru analiza datelor.

În ultimii câțiva ani, am observat o explozie a interesului pentru rețelele neuronale, care sunt utilizate cu succes într-o varietate de domenii - afaceri, medicină, inginerie, geologie, fizică. Rețelele neuronale au intrat în practică oriunde trebuie rezolvate probleme de prognoză, clasificare sau control. Acest succes impresionant se datorează mai multor motive:

Rețelele neuronale sunt o metodă de modelare extrem de puternică care poate reproduce dependențe extrem de complexe. În special, rețelele neuronale sunt de natură neliniară (sensul acestui concept este explicat în detaliu mai târziu în acest capitol). Timp de mulți ani, modelarea liniară a fost metoda de modelare dominantă în majoritatea domeniilor, deoarece procedurile de optimizare sunt bine dezvoltate pentru aceasta. În problemele în care aproximarea liniară este nesatisfăcătoare (și sunt destul de multe), modelele liniare au rezultate slabe. În plus, rețelele neuronale fac față „blestemului dimensionalității”, care nu permite modelarea dependențelor liniare în cazul unui număr mare de variabile

Rețelele neuronale învață din exemple. Utilizatorul rețelei neuronale selectează date reprezentative și apoi rulează un algoritm de învățare care învață automat structura datelor. În acest caz, utilizatorului, desigur, trebuie să aibă un set de cunoștințe euristice despre cum să selecteze și să pregătească datele, să selecteze arhitectura de rețea dorită și să interpreteze rezultatele, dar nivelul de cunoștințe necesar pentru utilizarea cu succes a rețelelor neuronale. este mult mai modestă decât, de exemplu, atunci când se utilizează metode statistice tradiționale.

Rețelele neuronale sunt atractive intuitiv, deoarece se bazează pe un model biologic primitiv al sistemelor nervoase. În viitor, dezvoltarea unor astfel de modele neurobiologice poate duce la crearea unor computere cu adevărat gânditoare. Între timp, rețelele neuronale „simple” pe care le construiește sistemul ST Neural Networks sunt o armă puternică în arsenalul unui specialist în statistică aplicată (Neurale networks. STATISTICA Neural Networks: Methodology and technologies of modern data analysis.).

Rețelele neuronale au apărut din cercetarea inteligenței artificiale, și anume încercările de a replica capacitatea sistemelor nervoase biologice de a învăța și de a corecta erorile prin simularea structurii de nivel scăzut a creierului (Patterson, 1996). Domeniul principal de cercetare în inteligența artificială în anii 60 - 80 au fost sistemele expert. Astfel de sisteme s-au bazat pe modelarea la nivel înalt a procesului de gândire (în special, pe ideea că procesul nostru de gândire este construit pe manipularea simbolurilor). Curând a devenit clar că sisteme similare, deși pot fi benefice în unele domenii, nu surprind unele aspecte cheie ale inteligenței umane. O părere este că motivul pentru aceasta este că nu sunt capabili să reproducă structura creierului. Pentru a crea inteligență artificială, este necesar să construiți un sistem cu o arhitectură similară.

Creierul este format dintr-un număr foarte mare (aproximativ 10.000.000.000) de neuroni conectați prin numeroase conexiuni (în medie câteva mii de conexiuni per neuron, dar acest număr poate fluctua foarte mult). Neuronii sunt celule speciale capabile să transmită semnale electrochimice. Un neuron are o structură ramificată de intrare de informații (dendrite), un nucleu și o ieșire ramificată (axon). Axonii unei celule se conectează la dendritele altor celule folosind sinapsele. Când este activat, un neuron trimite un semnal electrochimic de-a lungul axonului său. Prin sinapse, acest semnal ajunge la alți neuroni, care la rândul lor pot fi activați. Un neuron este activat atunci când nivelul total al semnalelor care ajung la nucleul său de la dendrite depășește un anumit nivel (pragul de activare).

Intensitatea semnalului primit de un neuron (și deci posibilitatea activării acestuia) depinde puternic de activitatea sinapselor. Fiecare sinapsă are o lungime, iar substanțele chimice speciale transmit un semnal de-a lungul ei. Unul dintre cei mai respectați cercetători ai neurosistemelor, Donald Hebb, a postulat că învățarea constă în primul rând în schimbări în „puterea” conexiunilor sinaptice. De exemplu, în experimentul clasic al lui Pavlov, un clopoțel suna de fiecare dată chiar înainte ca câinele să fie hrănit, iar câinele a învățat rapid să asocieze sunetul clopoțelului cu mâncarea. Conexiunile sinaptice dintre zonele cortexului cerebral responsabile cu auzul și glandele salivare s-au întărit, iar când cortexul a fost stimulat de sunetul unui clopoțel, câinele a început să saliveze.

Astfel, fiind construit dintr-un număr foarte mare de elemente foarte simple (fiecare preia o sumă ponderată a semnalelor de intrare și, dacă intrarea totală depășește un anumit nivel, transmite un semnal binar), creierul este capabil să rezolve probleme extrem de complexe. . Desigur, nu am atins aici multe aspecte complexe ale structurii creierului, dar ceea ce este interesant este faptul cărețelele neuronale pot obține rezultate remarcabile folosind un model care nu este cu mult mai complex decât cel descris mai sus.

Pachetul Statistica Neural Networks (SNN).

Deschideți fișierul de date Seria_g din datele disponibile în pachet. Fișierul conține o singură variabilă care determină volumul de trafic pe mai mulți ani cu înregistrarea lunară a datelor. (Când deschideți acest fișier apar un număr de tabele legate de opțiunea de rezolvare inteligentă, care în această etapă trebuie închisă, rămânând doar tabelul de date sursă).
Setați tipul de variabilă „input – output” după cum urmează: selectați variabila făcând clic pe antetul tabelului, faceți clic dreapta și selectați o opțiune din meniu Intrare ieșire. Numele variabilei va fi evidențiat în verde.
Crea rețea nouă folosind caseta de dialog Creați o rețea. Pentru a face acest lucru, apăsați succesiv: Fișier – Nou – Rețea. Pe ecranul monitorului există o casetă de dialog (Fig. 1).

Orez. 1. Caseta de dialog pentru crearea rețelei

Într-o problemă de prognoză a seriilor de timp, rețeaua trebuie să știe câte copii ale unei variabile ar trebui să ia și cât de departe ar trebui să prezică valoarea variabilei. În această sarcină, acceptați parametrul Pași (Fereastra de timp) egal cu 12 deoarece datele sunt observatii lunare si parametrul Priveste inainte– egal cu 1.

Selectați Multilayer Perceptron ca tip de rețea și setați numărul de straturi de rețea la 3. După aceea, faceți clic pe butonul Sfat, în urma căruia programul va seta automat numărul de neuroni în toate cele trei straturi ale rețelei: 12 – 6 – 1 (Fig. 2).

Orez. 2. Caseta de dialog după setarea parametrilor de rețea

După aceea apăsați butonul Crea.

La crearea rețelei, SNN va atribui automat primele 12 observații din fișierul de date pentru a tasta Ignora. În timpul pregătirii ulterioare și exploatării rețelei în sarcina analizei seriilor de timp, fiecare bloc de date furnizat intrării sale conține date legate de mai multe observații. Întregul bloc este alocat observației care conține valoarea variabilei de ieșire. În consecință, primele 12 observații nu sunt de fapt ignorate, ci sunt intrări în primul bloc de date din seria temporală, care corespunde observației #13. De fapt, programul construiește un set de date transformat în care numărul de observații este cu 12 mai puțin, dar datele din fiecare observație sunt preluate din 13 rânduri consecutive ale fișierului sursă.

Rețeaua creată este prezentată în Fig. 3.

Orez. 3. Perceptron cu trei straturi

În fereastra de date sursă „Editor de set de date” set 66 antrenament (Instruire)și 66 de comenzi (Verificare) observații (Fig. 4), apoi apăsați butonul pentru amestecarea rândurilor astfel: prin meniu Editare – Cazuri – Amestecare – Toate (Editare – Cazuri – Amestecare – Toate).
Antrenați rețeaua folosind metoda Levenberg-Marquard, pentru care trebuie să faceți clic: Tren – Perceptron multistrat – Levenberg-Marquardt (Tren – Perceptron multistrat – Levenberg-Marquardt). Procedura de învățare durează câteva secunde (în funcție de tipul procesorului). Metoda Levenberg-Marquard este unul dintre algoritmii de învățare fiabili și rapid, dar utilizarea sa este asociată cu anumite limitări:

Orez. 4. Fereastra de date sursă cu observații separate

această metodă poate fi utilizată numai pentru rețele cu un element de ieșire.
Metoda Levenberg-Marquard necesită memorie proporțională cu pătratul numărului de greutăți din rețea, deci metoda nu este potrivită pentru rețele marime mare(aproximativ 1000 de greutăți).
Metoda este aplicabilă numai pentru funcția de eroare pătratică medie.

Algoritmul Levenberg-Marquard este conceput pentru a minimiza funcția de eroare pătratică medie. Aproape de punctul minim, această ipoteză este valabilă cu mare acuratețe, astfel încât algoritmul se mișcă foarte repede. Departe de minim, această ipoteză poate să nu fie corectă, așa că metoda găsește un compromis între modelul liniar și coborârea gradientului. Se face un pas doar dacă reduce eroarea și, acolo unde este necesar, se folosește coborârea în gradient cu un pas suficient de mic pentru a asigura progresul.

Caseta de dialog metoda Levenberg-Marquard este prezentată în Fig. 5.

Orez. 5. Caseta de dialog metoda Levenberg-Marquard

Elementele principale ale ferestrei:

Epoci (numărul de epoci)– setează numărul de epoci în care va rula algoritmul. La fiecare epocă, întregul set de antrenament este trecut prin rețea, iar apoi greutățile sunt ajustate.
Verificare încrucișată– la marcarea pozitiei, calitatea rezultatului produs de retea este verificata la fiecare epoca fata de setul de control (daca este specificat). Când sunt dezactivate, observațiile de control sunt ignorate, chiar dacă sunt prezente în fișierul de date.
Tren– De fiecare dată când butonul este apăsat, algoritmul rulează prin numărul specificat de epoci.
Reinițializați– înainte de a începe din nou antrenamentul, ar trebui să apăsați butonul de resetare, deoarece în acest caz greutățile rețelei sunt setate din nou aleatoriu.
Greutăți de alergare - Când algoritmul s-ar putea bloca într-un minim local, această opțiune adaugă o cantitate mică la fiecare greutate.

Construiți o proiecție în serie de timp folosind Run – Times Series Projection deschideți fereastra corespunzătoare (Fig. 6).

Orez. 6. Fereastra de proiecție a seriei temporale

Descrierea casetei de dialog

start– specifică dacă proiecția seriei temporale ar trebui să înceapă de la un număr de observație (Caz nr)într-un fişier de date sau dintr-o observaţie individuală.
Cazul nr - La proiectarea unei serii cronologice dintr-un fișier de date, este indicat numărul de observație cu valoarea de ieșire de la care se începe.
Lungime– numărul de trepte pentru care se va proiecta prognoza.
Variabil– indică variabila care va fi proiectată.

Folosind o rețea instruită, puteți efectua o proiecție în serie de timp. Inițial, rețeaua va funcționa pe primele 12 valori de intrare, rezultând o predicție a următoarei valori. Apoi valoarea prezisă, împreună cu cele 11 valori de intrare anterioare, este din nou alimentată la intrarea rețelei, iar aceasta din urmă produce o prognoză a următoarei valori.

Singurul parametru de control care trebuie selectat este lungimea proiecției. În acest exemplu există un total de 144 de observații, dintre care 12 vor fi eliminate în timpul preprocesării, astfel încât rezultatele pot fi comparate în cel mult 132 de pași. Cu toate acestea, este posibil să proiectați o serie dincolo de limitele datelor disponibile, dar nu va exista nimic cu care să comparați rezultatul.

Vizualizați comportamentul valorilor prezise la diferite lungimi folosind butonul Alerga puteți observa modificări ale valorilor țintă și de ieșire ale seriei.

În fig. Figura 6 arată că curba prezisă (albastru pe ecranul monitorului) nu a fost antrenată foarte bine, deoarece există abateri semnificative între seria originală și cea prezisă, pornind de la aproximativ 70 de observații.

Efectuați prognoza seriei folosind un rezolvator inteligent (al treilea buton din stânga în rândul de sus). În acest caz, este necesar să răspundeți la o serie de întrebări în modul dialog:

Selectați versiunea principală (Fig. 7) și faceți clic Următorul.

Orez. 7. Selectarea versiunii principale

Determinați tipul sarcinii (standard sau serii de timp). Aici este necesar să se noteze seria temporală (Fig. 8).

Orez. 8. Selectarea unui tip de sarcină

Setați perioada de observație la 12 luni (Fig. 9).

Orez. 9. Stabilirea perioadei de observare

Selectați variabile dependente și independente, care sunt aceeași variabilă Serie.
Determinați timpul procedurii de calcul egal cu 2 minute (Fig. 10).

Orez. 10. Stabilirea orei procedurii de decontare

Indicați numărul de rețele care trebuie salvate și acțiunile de întreprins la salvarea lor (Fig. 11).

Orez. 11. Acțiuni pentru selectarea rețelelor

Selectați formularele pentru prezentarea rezultatelor (Fig. 12) și faceți clic Finalizarea.

Orez. 12. Selectarea unui formular pentru prezentarea rezultatelor

Ca urmare a utilizării unui rezolvator inteligent, prognoza este mult mai precisă, deoarece rețeaua antrenată este mult mai apropiată de seria originală (Fig. 13).

Orez. 13. Prognoza folosind un rezolvator inteligent

Exercițiu

Construiți o serie temporală simulată din pachetul Statistica, după cum urmează:

Crea fișier nou, format din 20 de rânduri și 2 coloane.
Prin meniu Date – Specificații variabile introduceți expresia =vnormal(rnd(1);1;3) în fereastra formulei.
Simulați 20 de valori ale unei variabile aleatoare distribuite normal cu o așteptare matematică egală cu 1 și o abatere standard egală cu 3. Aceste 20 de valori definesc variabila Var 1. Convertiți-le într-un tip de date întreg, setându-l în variabilă fereastra de descriere ca Tip sens Întreg.
Mergeți la variabila Var 2 după cum urmează: prima valoare a lui Var 2 este egală cu prima valoare a variabilei Var 1; a doua valoare Var 2 este egală cu suma primelor două valori ale variabilei Var 1; a treia valoare a variabilei Var 2 este egală cu suma primelor trei valori ale variabilei Var 1 etc.
Copiați variabila Var 2 și mergeți la pachetul SNN, plasând datele copiate în noul fișier creat.
Efectuați prognoza seriei rezultate folosind o rețea neuronală.

versiune tipărită

Sunt prezentate metodele rețelelor neuronale pentru analiza datelor, bazate pe utilizarea pachetului Statistica Neural Networks (produs de StatSoft), complet adaptat pentru utilizatorul rus. Sunt date bazele teoriei rețelelor neuronale; Se acordă multă atenție rezolvării problemelor practice, metodologia și tehnologia de desfășurare a cercetării folosind pachetul Statistica Neural Networks - un instrument puternic de analiză și prognoză a datelor, care are aplicații largi în afaceri, industrie, management și finanțe - este revizuită cuprinzător. Cartea conține multe exemple de analiză a datelor, recomandari practice pentru analiză, prognoză, clasificare, recunoaștere a modelelor, management Procese de producție folosind rețele neuronale.Pentru o gamă largă de cititori implicați în cercetare în domeniul bancar, industrie, economie, afaceri, explorare geologică, management, transport și alte domenii. CuprinsPrefață la a doua ediție Introducere. O invitație la rețelele neuronaleCapitolul 1. CONCEPTELE DE BAZĂ ALE ANALIZEI DATELORCapitolul 2. INTRODUCERE ÎN TEORIA PROBABILITĂȚIICapitolul 3. INTRODUCERE ÎN TEORIA REȚELELOR NEURALECapitolul 4. PREZENTARE GENERALĂ A REȚELELE NEURALE Paralele din biologie.Modele de bază ale rețelelor neurale postprocesare. funcția de bază de apelare Rețea neuronală probabilisticăGeneralizat Rețea neuronală de regresieRețea liniarăRețea Kohonen Probleme de clasificareProbleme de regresiePrognoza serie de timpSelectarea variabilelor și reducerea dimensionalitățiiCapitolul 5. PRIMII PAȘI ÎN REȚELE NEURALE STATISTICE.Noțiuni de începutCrearea unui set de dateCrearea unei noi rețeleCrearea unui set de date și a unei rețelePregătirea unei rețele de mașiniRunificarea unei rețele neuronale FUNCȚIONARE DE STATISTICA. NETWORKSExemplu clasic: Fisher’s Irises Antrenament cu validare încrucișată Condiții de oprire Rezolvarea problemelor de regresie Funcții pe bază radială Modele liniare Rețele Kohonen Rețele de regresie probabilistice și generalizate Constructor de rețea Algoritm genetic pentru selectarea datelor de intrare Serii temporale Capitolul 7. SFATURI PRACTICE PENTRU REZOLVAREA PROBLEMELOR Reducerea PROBLEMELOR dimensionale Reducerea datelor de intrare utile Prezentarea variabilelor Selectarea arhitecturii de rețea Arhitecturi de rețea personalizate Serii cronologice Capitolul 8. STUDII DE CAZ Exemplul 1. Reducerea dimensionalității în cercetarea geologică Exemplul 2 Recunoașterea modelelorExemplul 3. Clasificarea neliniară a mulțimilor bidimensionale Exemplul 4. Segmentarea diferitelor probe de combustibil conform cercetărilor de laborator Exemplul 5. Construcția de un model de punctaj comportamentalExemplul 6. Aproximarea funcțieiExemplul 7. Prognoza vânzărilor de petrolExemplu 8. Monitorizarea și prognozarea condițiilor de temperatură la o instalațieExemplul 9. Determinarea fiabilității unei semnături digitaleCapitolul 9 GHID RAPIDDateRețeleRețele de antrenamentAlte tipuri de rețeleLucrarea cu o rețeaSISTEMUL STATISTICAL LAS10. METODE ALTERNATIVE LA REȚELE NEURALEAnaliza discriminantă clasică în STATISTICAClasificareRegresie logicAnaliză factorială în STATISTICACapitolul 11. DATE MINIERE ÎN STATISTICAAnexa 1. Generator de codApendice 2. Integrarea STATISTICA cu sistemele ERPBibliografieIndex

Pre- și post-procesare, inclusiv selecția datelor, codificarea nominală, scalarea, normalizarea, eliminarea datelor lipsă cu interpretare pentru probleme de clasificare, regresie și serii de timp;
Ușurință excepțională în utilizare plus putere analitică de neegalat; de exemplu, nu are analogi Expert soluție va ghida utilizatorul prin toate etapele creării diverselor rețele neuronale și va selecta pe cea mai bună (această sarcină, în caz contrar, este rezolvată printr-un proces lung de „încercare și eroare” și necesită o cunoaștere aprofundată a teoriei);
Tehnologii puternice de explorare și analiză, inclusiv Analiza componentelor principaleȘi Reducerea dimensionalității pentru selectarea variabilelor de intrare necesare în analiza datelor exploratorii (rețelele neuronale) (selectarea variabilelor de intrare necesare pentru rețelele neuronale durează adesea mult timp; sistemul STATISTICA Rețele neuronale poate face această lucrare pentru utilizator);
Cei mai avansați, optimizați și puternici algoritmi de antrenament de rețea (inclusiv gradient conjugat și Levenberg-Marquard); control deplin asupra tuturor parametrilor care afectează calitatea rețelei, cum ar fi funcțiile de activare și eroare, complexitatea rețelei;
Suport pentru ansambluri de rețele neuronale și arhitecturi de rețele neuronale de dimensiuni aproape nelimitate, create în Seturi de rețea - Seturi de rețea; antrenament selectiv al segmentelor rețelei neuronale; combinarea și salvarea seturilor de rețele în fișiere separate;
Integrare deplină cu sistemul STATISTICA; toate rezultatele, graficele, rapoartele etc. poate fi modificat în continuare folosind instrumente grafice și analitice puternice STATISTICA(de exemplu, pentru a analiza reziduurile prezise, a crea un raport detaliat etc.);
Integrare perfectă cu instrumente automate puternice STATISTICA; înregistrarea macrocomenzilor cu drepturi depline pentru orice analiză; crearea propriilor analize de rețea neuronală și aplicații folosind STATISTICA Visual Basic, provocare STATISTICA Rețele neuronale din orice aplicație care acceptă Tehnologia COM(de exemplu, analiza automată a rețelei neuronale într-un tabel MS Excel sau combinând mai multe aplicații personalizate scrise în C++, C#, Java etc.).

STATISTICA Rețele neuronale în calculul rețelelor neuronale:

Utilizarea rețelelor neuronale implică mult mai mult decât prelucrarea datelor folosind metode de rețele neuronale.
STATISTICA Rețele neuronale oferă o varietate de funcţionalitate, pentru lucrul cu sarcini foarte complexe, inclusiv nu numai cele mai recente Arhitecturi de rețele neuronaleȘi Algoritmi de învățare, dar și noi abordări în Selectarea datelor de intrareȘi Construirea unei rețele. În plus, dezvoltatorii software iar utilizatorii care experimentează cu setările aplicației vor aprecia faptul că, după efectuarea experimentelor specificate într-o interfață simplă și intuitivă STATISTICA Rețele neuronale Analizele rețelelor neuronale pot fi combinate într-o aplicație personalizată. Acest lucru se realizează fie folosind biblioteca Funcții STATISTICA COM, care reflectă pe deplin toată funcționalitatea programului sau folosind codul în limbaj C (C++, C#) sau Visual Basic, care este generat de program și ajută la rularea unei rețele neuronale sau a unui ansamblu de rețea complet antrenat.

Datele inițiale

Modul STATISTICA Rețele neuronale complet integrat cu sistemul STATISTICA Astfel, este disponibilă o selecție uriașă de instrumente pentru editarea (pregătirea) datelor pentru analiză (transformări, condiții de selectare a observațiilor, instrumente de verificare a datelor etc.). Ca toate testele STATISTICA, programul poate fi „atașat” la o bază de date de la distanță folosind instrumente de procesare in loc sau legat de date în direct, astfel încât modelele să fie antrenate sau rulate (de exemplu, pentru a calcula valorile prezise sau a clasifica) automat ori de câte ori datele se modifică.

Selectarea intrărilor și reducerea dimensionalității

După ce datele sunt pregătite, trebuie să decideți ce variabile trebuie utilizate atunci când lucrați cu rețeaua neuronală. Cu cât numărul de variabile este mai mare, cu atât rețeaua neuronală va fi mai complexă și, prin urmare, va necesita mai multă memorie și timp de antrenament, precum și un număr mai mare de exemple de antrenament (observații). Atunci când există date insuficiente și/sau corelații între variabile, problemele de selectare a variabilelor de intrare semnificative și comprimarea informațiilor într-un număr mai mic de variabile devin de cea mai mare importanță în multe aplicații de rețele neuronale.

Algoritmi de reducere a dimensionalității:

ÎN STATISTICA Rețele neuronale Au fost implementați algoritmi de selecție pas cu pas inversi și directi. În plus, algoritmul neuro-genetic pentru selectarea datelor de intrare combină capacitățile algoritmilor genetici și PNN/GRNN (PNN - rețele neuronale probabilistice, GRNN - rețele neuronale de regresie generalizată) pentru căutarea automată a combinațiilor optime de variabile de intrare, inclusiv în cazurile în care există corelații și dependențe neliniare între ele. Viteză de învățare aproape instantanee Algoritmul PNN/GRNN nu numai că face posibilă aplicarea Algoritm neuro-genetic pentru selectarea datelor de intrare, dar vă permite și (folosind cele disponibile Editor date de sistem STATISTICA Rețele neuronale mijloace convenabile de suprimare a variabilelor nesemnificative) efectuați propriile experimente privind sensibilitatea datelor în timp real. STATISTICA Rețele neuronale contine si un sistem incorporat Analiza componentelor principale (PCA și rețele asociative pentru „PCA neliniar”), care vă permite să reduceți dimensiunea datelor sursă. Rețineți că în sistemul de bază sunt disponibile o mare varietate de metode statistice pentru reducerea dimensionalității datelor STATISTICA.

Scalarea datelor și conversia valorii nominale:

Înainte ca datele să fie introduse în rețea, acestea trebuie pregătite într-un anumit mod. Este la fel de important ca datele de ieșire să poată fi interpretate corect. ÎN STATISTICA Rețele neuronale există posibilitatea de scalare automată a datelor de intrare și de ieșire (inclusiv scalarea prin valori minime/maxime și prin abatere medie/standard); Variabilele cu valori nominale pot fi, de asemenea, recodificate automat (de exemplu, Sex=(Bărbat, Femeie)), inclusiv folosind metoda de codificare 1 din N. STATISTICA Rețele neuronale conține, de asemenea, instrumente pentru lucrul cu datele lipsă. Funcții de normalizare implementate precum „o singură sumă”, „Câștigătorul ia tot”Și "vector al unității de lungime". Există instrumente de pregătire și interpretare a datelor special concepute pentru analiza seriilor temporale. O mare varietate de instrumente similare sunt, de asemenea, implementate în sistemul de bază STATISTICA.
În problemele de clasificare, este posibil să se stabilească intervale de încredere care STATISTICA Rețele neuronale este apoi folosit pentru a atribui observații unei clase sau alteia. În combinație cu o specială implementată în STATISTICA Rețele neuronale functia de activare Softmaxși funcțiile de eroare de entropie încrucișată, aceasta oferă o abordare fundamentală teoretică a probabilității a problemelor de clasificare.

Selectarea unui model de rețea neuronală, ansambluri de rețea

Varietatea modelelor de rețele neuronale și numeroșii parametri care trebuie setați (dimensiunea rețelei, parametrii algoritmului de învățare etc.) pot deruta unii utilizatori (de aceea există Expert soluție, care poate căuta automat o arhitectură de rețea adecvată de orice complexitate).

Sistemul STATISTICA Neural Networks implementează toate tipurile principale de rețele neuronale utilizate în rezolvarea problemelor practice, inclusiv:

perceptroni multistrat (rețele cu transmisie directă a semnalului);
rețele bazate pe funcții de bază radială;
hărți Kohonen auto-organizate;
rețele neuronale probabilistice (bayesiene);
rețele neuronale de regresie generalizată;
rețelele componente principale;
rețele pentru clustering;
rețele liniare.

De asemenea, în sistem STATISTICA Rețele neuronale implementate Ansambluri de rețea, format din combinații aleatorii (dar semnificative) ale rețelelor de mai sus. O altă caracteristică utilă este că puteți conecta rețele împreună, astfel încât acestea să ruleze secvenţial. Acest lucru este util în preprocesare pentru a găsi soluții cu costuri minime.

In pachet STATISTICA Rețele neuronale Sunt disponibile numeroase instrumente pentru a ajuta utilizatorul să aleagă o arhitectură de rețea adecvată. Instrumentele statistice și grafice ale sistemului includ histograme, matrice și diagrame de eroare pentru întreaga populație și pentru observații individuale, datele finale privind clasificarea corectă/incorectă și toate statisticile importante - de exemplu, proporția explicată a varianței - sunt calculate automat.

Pentru a vizualiza datele într-un pachet STATISTICA Rețele neuronale Scatterploturile și suprafețele de răspuns 3D sunt implementate pentru a ajuta utilizatorul să înțeleagă „comportamentul” rețelei.
Desigur, puteți folosi orice informație obținută din sursele enumerate pentru o analiză ulterioară prin alte mijloace. STATISTICA, precum și pentru includerea ulterioară în rapoarte sau pentru personalizare.

STATISTICA Rețele neuronaleîși amintește automat cea mai bună opțiune de rețea dintre cele pe care le-ați primit în timp ce experimentați sarcina și vă puteți referi la ea în orice moment. Utilitatea rețelei și capacitatea sa de predicție sunt testate automat pe un set de testare special de observații, precum și prin estimarea dimensiunii rețelei, a eficienței acesteia și a costului clasificării greșite. Implementat în STATISTICA Rețele neuronale proceduri automate de validare încrucișată și regularizare Cântare Wigend vă permit să aflați rapid dacă rețeaua dvs. este insuficientă sau, dimpotrivă, prea complexă pentru o anumită sarcină.

Pentru a îmbunătăți performanța în pachet STATISTICA Rețele neuronale Sunt prezentate numeroase opțiuni de configurare a rețelei. Astfel, puteți specifica un strat de rețea liniar de ieșire în probleme de regresie sau o funcție de activare softmax în probleme de estimare și clasificare probabilistică. Dacă datele dvs. au o mulțime de valori aberante, atunci când antrenați rețeaua, puteți înlocui funcția de eroare standard cu o funcție mai puțin sensibilă „blocuri”. Sistemul implementează, de asemenea, funcții de eroare de entropie încrucișată bazate pe modele de teoria informațiilor și un număr de funcții speciale activări, inclusiv: treaptă, dinți de ferăstrău și sinus.

Solution Wizard (evaluează automat problema și selectează mai multe rețele de arhitecturi diferite):

O parte a pachetului STATISTICA Reteaua Neurale s este Solution Wizard - Soluție inteligentă de probleme, care evaluează multe rețele neuronale de diferite arhitecturi și complexitate și selectează rețelele cu cea mai bună arhitectură pentru o anumită sarcină.
Maestru este capabil să construiască rețele de date cu observații independente (rețele de regresie standard, rețele de clasificare sau mixte), precum și rețele concepute pentru a prezice valorile viitoare ale unei anumite variabile pe baza valorilor existente ale aceleiași variabile (timp). rețele de serie).
Atunci când se creează o rețea neuronală, se alocă timp considerabil selectării variabilelor adecvate și optimizării arhitecturii rețelei folosind căutarea euristică. STATISTICA Rețele neuronale preia această muncă și efectuează automat căutarea euristică pentru tine. Această procedură ia în considerare dimensiunea de intrare, tipul de rețea, dimensiunile rețelei și funcțiile necesare de codificare de ieșire.
În timpul căutării, puteți seta numărul de răspunsuri primite în timpul procesului de instruire. Când setați modul maxim de detaliu Expert soluție Acesta va afișa arhitectura și nivelurile de calitate pentru fiecare rețea testată.
Expert soluție este un instrument extrem de eficient atunci când utilizați tehnici complexe, permițându-vă să găsiți automat cea mai bună arhitectură de rețea. În loc să petreceți multe ore stând în fața computerului, lăsați sistemul STATISTICA Rețele neuronale face treaba asta pentru tine.
Constructor automat de rețea poate fi folosit și în timpul dezvoltării modelului când modulul STATISTICA Rețele neuronale,împreună cu alte module ale sistemului de bază STATISTICA, este utilizat pentru a identifica cele mai semnificative variabile (de exemplu, cei mai buni predictori pentru includerea și testarea lor ulterioară în orice model Estimare neliniară).

Antrenamentul rețelei neuronale:

Succesul experimentelor dvs. pentru a găsi cel mai bun tip și arhitectură de rețea depinde în mod semnificativ de calitatea și viteza algoritmilor de învățare a rețelei. În sistem STATISTICA Rețele neuronale Au fost implementați cei mai buni algoritmi de antrenament de până acum.
Pentru a antrena perceptroni multistrat în sistem STATISTICA Rețele neuronaleÎn primul rând, este implementată metoda de backpropagation - cu o rată de învățare și un coeficient de inerție care variază în timp, amestecând observațiile înainte de următorul pas al algoritmului și adăugând zgomot aditiv pentru o generalizare robustă. În plus, în sistem STATISTICA Rețele neuronale au fost implementați doi algoritmi rapizi de ordinul doi – metode de gradient conjugat și Levenberg-Marquard. Acesta din urmă este un algoritm modern de optimizare neliniară extrem de puternic, iar experții recomandă să-l folosească. În același timp, domeniul de aplicare al acestei metode este limitat la cazurile de rețele de dimensiuni relativ mici cu un neuron de ieșire și pentru sarcini mai greoaie din pachet STATISTICA Rețele neuronale Există o metodă de gradient conjugat. De obicei, ambii algoritmi converg mai repede decât propagarea inversă și de obicei produc o soluție mai bună.
Proces iterativ de formare a rețelei în sistem STATISTICA Rețele neuronale este însoțită de afișarea automată a erorii curente de antrenament și a erorii calculate independent pe setul de testare și este afișat și un grafic al erorii totale. Puteți întrerupe antrenamentul în orice moment prin simpla apăsare a unui buton. În plus, este posibil să se stabilească condiții de oprire, în care antrenamentul va fi întrerupt; o astfel de condiție poate fi, de exemplu, atingerea unui anumit nivel de eroare sau o creștere stabilă a erorii de testare pe un anumit număr de treceri - „epoci” (care indică așa-numita reinstruire a rețelei). Dacă are loc supraajustarea, utilizatorului nu ar trebui să-i pese: STATISTICA Rețele neuronaleîși amintește automat instanța cea mai buna retea obținute în timpul procesului de instruire, iar această opțiune de rețea poate fi oricând accesată făcând clic pe butonul corespunzător. După finalizarea instruirii în rețea, puteți verifica calitatea activității sale pe un set de testare separat.
In pachet STATISTICA Rețele neuronale O serie de algoritmi de învățare au fost implementați și pentru alte rețele de alte arhitecturi. Parametrii splinelor radiale și coeficienții de netezire pentru rețelele bazate pe o funcție de bază radială și rețelele de regresie generalizată pot fi selectați folosind algoritmi precum: Antrenamentul Kohonen, subeșantion, Metoda K-means, izotropie și metodele celui mai apropiat vecin. Neuronii stratului de ieșire liniar al rețelelor bazate pe o funcție de bază radială, ca și cei ai rețelelor liniare, sunt complet optimizați metoda de descompunere a valorii singulare (SVD)..
Crearea de structuri hibride de rețea. În sistem STATISTICA Rețele neuronale Este posibil să se creeze rețele cu structură mixtă. De exemplu, într-o rețea modificată bazată pe o funcție de bază radială, primul strat de neuroni poate fi antrenat de algoritmul Kohonen ah, iar al doilea - strat neliniar - metoda Levenberg-Marquard.

Testarea rețelei neuronale:

După ce rețeaua este instruită, trebuie să verificați calitatea muncii sale și să determinați caracteristicile acesteia. În acest scop în pachet STATISTICA Rețele neuronale Există un set de statistici pe ecran și instrumente grafice.
În cazul în care sunt specificate mai multe modele (rețele și ansambluri), atunci (dacă este posibil) STATISTICA Reteaua Neurale s va afișa rezultate comparative (de exemplu, curbe de răspuns ale mai multor modele într-un singur grafic sau prezintă predictori ai mai multor modele într-un singur tabel). Această proprietate este foarte utilă pentru compararea diferitelor modele antrenate pe același set de date.
Toate statisticile sunt calculate separat pentru seturile de instruire, validare și testare. Toate greutățile și parametrii de activare sunt disponibili ca o modalitate convenabilă fisier text, care cu un singur clic poate fi convertit într-un tabel cu rezultatele sistemului STATISTICA. Rezultatele experimentale pentru observații individuale sau pentru întregul set de date pot fi, de asemenea, vizualizate în formă tabelară STATISTICAși utilizarea în analize sau grafice ulterioare.
Următoarele statistici rezumative sunt calculate automat: eroarea pătratică medie a rețelei, așa-numita matrice de discrepanță (matricea confuziei) pentru probleme de clasificare (unde sunt rezumate toate cazurile de clasificare corectă și incorectă) și proporția de regresie explicată pentru problemele de regresie. Rețeaua Kohonen are fereastra Harta topologica, în care puteți observa vizual activarea elementelor de rețea, precum și modificarea etichetelor observațiilor și nodurilor în procesul de analiză a datelor. Există, de asemenea, o fereastră Win Frequency care vă permite să localizați instantaneu clustere într-o hartă topologică. Analiza grupului poate fi realizat folosind o combinație a unei rețele cu arhitectură standard cu o diagramă specială a clusterelor de sistem STATISTICA Rețele neuronale. De exemplu, puteți antrena o rețea pentru analiza componentelor principale și puteți reprezenta grafic datele așa cum sunt proiectate pe primele două componente.

Editarea, modificarea și conectarea în serie a rețelelor neuronale

În sistem STATISTICA Rețele neuronale Există instrumente inteligente care vă permit să tăiați bucăți din rețelele existente și să conectați mai multe rețele împreună. Astfel, puteți elimina sau adăuga neuroni individuali, elimina un întreg strat din rețea, iar rețelele care sunt consecvente în numărul de intrări/ieșiri pot fi conectate secvenţial unele la altele. Datorită acestor caracteristici, pachetul STATISTICA Rețele neuronale vă permite să utilizați instrumente precum reducerea dimensionalității (în timpul preprocesării) folosind rețele asociative și o matrice de pierderi (pentru luarea deciziilor cu cele mai mici pierderi). Matricea de pierderi este utilizată automat atunci când se lucrează cu rețele neuronale probabilistice.

Soluții gata făcute (aplicații personalizate folosind rețelele neuronale STATISTICA):

Interfață de sistem simplă și convenabilă STATISTICA Rețele neuronale vă permite să creați rapid aplicații de rețea neuronală pentru a vă rezolva problemele.
Poate exista o situație în care este necesară integrarea acestor soluții într-un sistem existent, de exemplu, pentru a le face parte dintr-un mediu de calcul mai larg (acestea pot fi proceduri dezvoltate separat și încorporate în sistemul de calcul corporativ).
Rețelele neuronale antrenate pot fi aplicate noilor seturi de date (pentru predicție) în mai multe moduri: Puteți salva rețeaua antrenată sau ansamblul de rețele (de exemplu, pentru a calcula o predicție medie bazată pe mai multe arhitecturi) și apoi o puteți aplica unui nou set de date ( pentru predicție, clasificare anticipată sau prognoză); Puteți utiliza un generator de cod pentru a genera automat codul de program într-o limbă C (C++, C#) sau Visual Basicși folosiți-l în continuare pentru a prezice date noi în orice mediu software Visual Basic sau C++ (C#), adică implementați o rețea neuronală complet antrenată în aplicația dvs. În concluzie, toate funcționalitățile sistemului STATISTICA, inclusiv STATISTICA Rețele neuronale poate fi folosit ca Obiecte COM (Model de obiecte componente)în alte aplicații (de exemplu, Java, MS Excel etc.). De exemplu, puteți implementa analize automate create în STATISTICA Rețele neuronale la mese MS Excel.

Lista algoritmilor de învățare:

Propagarea inversă;
Levenberg-Marquard;
Gradienți conjugați;
cvasi-newtonian;
Răspândire rapidă;
Delta-delta-cu-bara;
Pseudo-invers;
Antrenament Kohonen;
Marcarea orelor din apropiere;
Cuantificator vectorial de antrenament;
(sub)eșantionare radială;
metoda K-means;
Metoda K-Nearest Neighbours (KNN);
Setarea abaterilor izotrope;
Stabilirea abaterilor evidente;
Rețea neuronală probabilistică;
Rețea neuronală de regresie generalizată;
Algoritm genetic pentru selectarea datelor de intrare;
Selectarea directă sau inversă pas cu pas a datelor de intrare.

Cerințe de sistem

Sistem STATISTICA Rețele neuronale poate funcționa chiar și pe computere relativ slabe sau vechi. Cu toate acestea, deoarece multe dintre procedurile pachetului sunt intensive din punct de vedere al calculului, se recomandă insistent utilizarea procesor Pentium cu 32 megaocteți de memorie RAM.

Restricții privind dimensiunea rețelei:

O rețea neuronală poate fi de aproape orice dimensiune (adică dimensiunile sale pot fi luate de multe ori mai mari decât este de fapt necesar și rezonabil); Sunt permise până la 128 de straturi fără restricții privind numărul de neuroni. De fapt, pentru orice sarcini practice, programul este limitat doar de capacitățile hardware ale computerului.

E-Manual:

Ca parte a sistemului STATISTICA Rețele neuronale există un manual bine ilustrat care oferă o introducere completă și clară în rețelele neuronale, precum și exemple. Un sistem de ajutor detaliat, sensibil la context, este disponibil din orice casetă de dialog.

Generator de cod sursă:

Generator cod sursa este un produs suplimentar care permite utilizatorilor să-și creeze cu ușurință propriile aplicații bazate pe sistem STATISTICA Rețele neuronale. Acest produs suplimentar creează codul de sistem sursă pentru modelul rețelei neuronale (ca fișier în C, C++, C#), care poate fi compilat separat și integrat în programul dvs. pentru distribuție gratuită. Acest produs este conceput special pentru dezvoltatorii de sisteme de întreprindere, precum și pentru acei utilizatori care trebuie să transforme procedurile extrem de optimizate create în STATISTICA Rețele neuronaleîn aplicații externe pentru a rezolva probleme analitice complexe.

Metodele rețelelor neuronale devin din ce în ce mai răspândite într-o varietate de domenii.

Industrie:

Managementul proceselor (în special, monitorizarea proceselor de producție cu reglarea continuă a parametrilor de control).
Clasificarea probelor de combustibil (segmentarea gradelor de combustibil pe baza analizei spectrelor acestora).
Diagnosticare tehnică (utilizați vibrațiile și zgomotul pentru a identifica defecțiunile mecanismului într-un stadiu incipient și pentru a efectua reparații preventive).
Sisteme de control al motorului (evaluarea și controlul consumului de combustibil folosind datele senzorilor).
Sisteme de detectoare de comutare în timp real în fizică. Rețelele neuronale sunt rezistente la zgomot și permit utilizarea unor modele robuste în datele fizice cu zgomot statistic mare.

Marketing:

Prognoza prețului aurului;
Prognoza prețurilor la materii prime;
Comerț prin poștă directă.

Finanţa:

Evaluarea bonității (sarcina clasică este de a determina din datele personale dacă un anumit împrumutat este de încredere).
Prognoza serii temporale financiare.