Sieci neuronowe

sztuczne sieci neuronoweKoncepcja działania sztucznych sieci neuronowych oraz komputerów jest zupełnie inna. Mówiąc w uproszczeniu, komputery wykonują obliczenia korzystając z mocy obliczeniowej procesora oraz pamięci. Przy czym procesor oraz pamięć są od siebie niezależne. Sieć neuronowa, podobnie jak mózg, wykonuje obliczenia nie sięgając do odrębnych "modułów" pamięci - wykorzystuje zdobytą wcześniej wiedzę, bez konieczności korzystania z innych zasobów - potrafi przechować informacje w swojej strukturze.

Więcej szczegółowych informacji na temat sieci neuronowych można przeczytać w artykule "Wprowadzenie do praktyki stosowania sieci neuronowych".

Mówiąc o sieciach neuronowych, warto wiedzieć, że normalizacja wartości wejściowych jest standardową procedurą. Kiedy dane wejściowe zbytnio się od siebie różnią, to sieć się słabo uczy. Najlepiej jest wtedy, gdy dane leżą w przedziale 0-1.

Wydaje mi się, że to jaka jest najbardziej optymalna architektura, zależy od rozwiązywanego problemu. Podstawowa architektura sztucznej sieci neuronowej to architektura jednokierunkowa, w której przepływ sygnałów występuje w jednym kierunku od wejścia do wyjścia.

Co może spowodować nadmierna ilośc neuronów?

Jeżeli występuje za mało neuronów, proces uczenia może się nie udać, gdyż sieć nie ma szans odwzorować w swojej strukturze wszystkich niuansów rozwiązywanego zadania. Natomiast zbyt duża liczba warstw ukrytych może doprowadzić do znacznego pogorszenia sprawności procesu uczenia. Sieć o mniejszej liczbie warstw ukrytych często daje lepsze rezultaty niż sieć z większą liczbą warstw ukrytych.
Z kolei nadmierna liczba neuronów w warstwie ukrytej może prowadzić do niekorzystnego efektu nazywanego "uczeniem się na pamięć". Sieć w ten sposób zamiast uogólniania nabywanych wiadomości dokonuje zapamiętania reguł.

Realizacja funkcji XOR za pomocą pojedynczego neuronu jest problematyczna.

Z wykresu funkcji XOR wynika, że nie da się za pomocą jednej prostej podzielić przestrzeni na dwa zbiory, czyli ten problem nie jest separowalny liniowo.
Nie można zatem zrealizować funkcji XOR za pomocą pojedynczego neuronu.

Można jednak podzielić przestrzeń za pomocą dwóch prostych:

separowalnosc_funkcja_XOR

Rozwiązaniem tego problemu jest rozszerzenie sieci neuronowej w taki sposób, by dodając neuron w warstwie, stworzyć sieć neuronów o wagach realizujących następujący podział przestrzeni:

1) dla pierwszego neuronu:
o1 = w11x1 + w12x2 + w10 > 0
o1 = w21x1 + w22x2 + w20 < 0

2) dla drugiego neuronu:
o2 = w21x1 + w22x2 + w10 > 0
o2 = w21x1 + w22x2 + w20 < 0

Po dodaniu dodatkowej warstwy z neuronem możliwe staje się zrealizowanie sumy logicznej.


 

Uważasz, że artykuł był ciekawy i chcesz otrzymywać powiadomienia o moich kolejnych wpisach lub projektach?
Wpisz swoje imię oraz adres e-mail a następnie kliknij "ZAPISZ MNIE"

Twoje imię:


Adres email:


Metody uczenia liniowych sieci neuronowych
Wybór domeny

Podobne wpisy

 

Komentarze

Umieść swój komentarz jako pierwszy!
Gość
piątek, 19 lipiec 2019

Zdjęcie captcha

Najnowsze komentarze

Gość - Andy SSL i Joomla! w Smarthost
03 styczeń 2019
Dzięki, jak zwykle dobra robota! Warto dodać, że instalacja certyfikatu SSL nie zapewnia bezpieczeństwa transmisji danych. To jest możliwe po wdrożeniu polityki bezpieczeństwa w firmie. Co do SSL - to...
Gość - Henryk Jak utworzyć menu poziome w szablonie protostar?
02 styczeń 2019
Robię punkt po punkcie i nie wyświetla się poziome menu Nie wiem gdzie tkwi błąd i co robię źle?Jeśli to możliwe to proszę o pomocps. posiadam książkę "Joomla! 3x" i tu również niema pomocy Pozdrawiam...
Gość - Joanna Jak utworzyć własny szablon dla Joomla! nie dotykając kodu? EF4 cz.2
09 grudzień 2018
Czy jest jakaś możliwość, żeby zmienić układ top-bar i tej linii, w której jest logo? Tam niby są flexibloki ale nie można zmienić ich szerokości, a tego potrzebuję bardzo. Jak tego dokonać???
Gość - Informatyk Tworzenie bazy danych w CPanelu na Smarthost - instalacja Joomla!
19 listopad 2018
Dziękuje za ten wpis joomla zawsze była dla mnie problematyczna
Gość - Sławomir DJ Image Slider
04 listopad 2018
co robić? Zdjęcia wyświetlają się pionowo, jedno pod drugim. Żadna zmiana w opcjach, nic nie daje??? Pomożecie?