<?xml version="1.0" encoding="UTF-8"?><rss version="2.0"
	xmlns:content="http://purl.org/rss/1.0/modules/content/"
	xmlns:wfw="http://wellformedweb.org/CommentAPI/"
	xmlns:dc="http://purl.org/dc/elements/1.1/"
	xmlns:atom="http://www.w3.org/2005/Atom"
	xmlns:sy="http://purl.org/rss/1.0/modules/syndication/"
	xmlns:slash="http://purl.org/rss/1.0/modules/slash/"
	>

<channel>
	<title>neuralne mreze Archives - Automatika.rs</title>
	<atom:link href="https://www.automatika.rs/tag/neuralne-mreze/feed" rel="self" type="application/rss+xml" />
	<link>https://www.automatika.rs/tag/neuralne-mreze</link>
	<description>Portal za inženjere</description>
	<lastBuildDate>Thu, 12 May 2016 15:54:02 +0000</lastBuildDate>
	<language>en-US</language>
	<sy:updatePeriod>
	hourly	</sy:updatePeriod>
	<sy:updateFrequency>
	1	</sy:updateFrequency>
	<generator>https://wordpress.org/?v=6.9</generator>
	<item>
		<title>Uvod u primenu neuralnih mreže za predviđanje na berzi</title>
		<link>https://www.automatika.rs/baza-znanja/neuralne-mreze/uvod-u-primenu-neuralnih-mreze-za-predvidjanje-na-berzi.html</link>
					<comments>https://www.automatika.rs/baza-znanja/neuralne-mreze/uvod-u-primenu-neuralnih-mreze-za-predvidjanje-na-berzi.html#respond</comments>
		
		<dc:creator><![CDATA[Milica Đekić]]></dc:creator>
		<pubDate>Sun, 09 Jun 2013 22:00:00 +0000</pubDate>
				<category><![CDATA[Neuralne mreže]]></category>
		<category><![CDATA[informacije na berzi]]></category>
		<category><![CDATA[neuralne mreze]]></category>
		<category><![CDATA[predvidjanje na berzi]]></category>
		<category><![CDATA[teorija investiranja]]></category>
		<guid isPermaLink="false"></guid>

					<description><![CDATA[<p>U današnje vreme je širom sveta uobičajena stavka da se ogromnom količinom kapitala trguje putem berzi. Nacionalne ekonomije su snažno povezane i teško uticajne od strane njihovih berzi. Međutim, u skorije vreme tržišta su postala pristupačniji investicioni alat, povoljan ne samo za strateške investitore, već i za obične ljude. Posledično, oni nisu samo povezani sa [&#8230;]</p>
<p>The post <a href="https://www.automatika.rs/baza-znanja/neuralne-mreze/uvod-u-primenu-neuralnih-mreze-za-predvidjanje-na-berzi.html">Uvod u primenu neuralnih mreže za predviđanje na berzi</a> appeared first on <a href="https://www.automatika.rs">Automatika.rs</a>.</p>
]]></description>
										<content:encoded><![CDATA[<div style="text-align: justify;">
<p><img decoding="async" class=" alignleft size-full wp-image-3857" style="margin-top: 5px; margin-right: 5px; border: 1px solid #000000; float: left;" src="http://automatika.rs/wp-content/uploads/2013/06/neuralne_mreze_predvidjanje_berza_uvodna_automatika_rs.jpg" alt="neuralne mreze predvidjanje berza uvodna automatika rs" width="100" height="100" srcset="https://www.automatika.rs/wp-content/uploads/2013/06/neuralne_mreze_predvidjanje_berza_uvodna_automatika_rs.jpg 200w, https://www.automatika.rs/wp-content/uploads/2013/06/neuralne_mreze_predvidjanje_berza_uvodna_automatika_rs-150x150.jpg 150w" sizes="(max-width: 100px) 100vw, 100px" />U današnje vreme je širom sveta uobičajena stavka da se ogromnom količinom kapitala trguje putem berzi. Nacionalne ekonomije su snažno povezane i teško uticajne od strane njihovih berzi. Međutim, u skorije vreme tržišta su postala pristupačniji investicioni alat, povoljan ne samo za strateške investitore, već i za obične ljude. Posledično, oni nisu samo povezani sa makro-ekonomskim parametrima, već oni utiču svaki dan i to na mnogo direktniji način.</p>
</div>
<p><span id="more-1055"></span></p>
<div style="text-align: justify;"> <span style="line-height: 1.3em;">Dalje, oni čine mehanizam koji je važan i koji usmerava društvene uticaje. Karakteristika koju sve berze imaju kao zajedničku jeste nepredvidivost, što je povezano sa njihovim kratkoročnim i dugoročnim stanjem. Ova karakteristika je nepoželjna za investitore, ali je takođe i neizbežna kad god je berza izabrana kao investicioni alat. Najbolje što može da se učini je da se pokuša da se smanji nepredvidivost. Predviđanja na berzi su jedan od instrumenata u ovom procesu.</span></div>
<div style="text-align: justify;"></div>
<div style="text-align: justify;">
<p> Zadatak predviđanja na berzi deli istraživače i akademike u dve grupe, one koji veruju da je moguće stvoriti mehanizme koji bi bili u stanju da predvide tržište i one koji veruju da je tržište samo po sebi efikasno i da kako koja nova informacija dođe, ono ga apsorbuje, korigujući samo sebe, tako da nema mesta za predviđanja (EMH). Dalje, oni veruju da berza prati „slučajnu šetnju“, što implicira da je najbolje predviđanje koje možete da imate o sutrašnjoj vrednosti ustvari današnja vrednost.</p>
<p>U literaturi su primenjivane mnoge različite metode sa ciljem da se predvide povraćaji na berzi. Ove metode mogu da se grupišu u 4 glavne kategorije: i) metode tehničke analize, ii) metode fundamentalne analize, iii) tradicionalna predviđanja zasnovana na vremenskim nizovima i iv) metode mašinskog učenja. Tehnički analitičari pokušavaju da predvide tržište prateći obrazce koji dolaze iz studije dijagrama koji potiču od istorijskih podataka tržišta. Fundamentalni analitičari proučavaju unutrašnju vrednost berze i investiraju u nju ukoliko procene da je trenutna vrednost niža od unutrašnje vrednosti. U tradicionalnom predviđanju zasnovanom na vremenskim nizovima postoji pokušaj da se stvori linearni model za predviđanje koji je u stanju da prati obrazac u istorijskim podacima. Ovi linearni modeli su podeljeni u dve kategorije: jednovarijabilne i viševarijabilne regresione modele, što zavisi od toga da li oni koriste jednu ili više promenjivih kako bi izračunali približnu vrednost vremenskog niza berze. Konačno, brojne metode su razvijena pod uobičajenom oznakom mašinskog učenja. Ove metode koriste skup primera i pokušavaju da prate obrazac u tim primerima (linearni ili nelinearni), sa ciljem da nađu približnu vrednost funkcije koja je generisla podatke.</p>
<p><strong>Berza i predviđanje<br />
</strong> <span style="text-decoration: underline;">Teorije investiranja:</span> Teorija investiranja sugeriše koji parametri bi trebali da se uzmu u razmatranje pre nego što se kapital uloži na tržište. Tradicionalno, zajednice za investiranje prihvataju dve glavne teorije: osnivanje firme i „Zamkove u vazduhu“. Reference za ove teorije dozvoljavaju da razumemo kako je tržište oblikovano, ili drugim rečima kako investitori misle i reaguju. To je ta sekvenca „misli i reakcija“ investitora koja definiše gde se kapital nalazi, kao i nivo samog tržišta.</p>
<p>Nema sumnje da većina ljudi koji su povezani sa berzom pokušava da postigne profit. Profit dolazi iz investiranja u tržište koje ima dobru budućnost (kratkoročnu ili dugoročnu). Drugim rečima, ono što oni pokušavaju da postignu jeste da predvide budućnost tržišta. Ali, šta određuje ovu budućnost? Odgovor leži u načinu na koji ljudi investiraju svoj novac, a ljudi investiraju novac u skladu sa informacijom koju imaju. Dalje, imamo sledeću šemu:</p>
<p><strong>INFORMACIJA → INVESTITOR → NIVO TRŽIŠTA<br />
</strong></p>
<p>Faktori koji se diskutuju u ovoj šemi su: sadržaj informacione komponente i način na koji investitor reaguje kada ima informaciju.</p>
<p>S druge strane, prema teoriji „Zamkovi u vazduhu“, investitori kao okidač koriste informaciju koja je povezana sa ponašanjem drugih investitora. To znači da jedina briga što se tiče ove teorije je to da investitor kupi nešto danas za cenu 20 i proda sutra po ceni 30, bez obzira na unutrašnju vrednost firme u koju on investira.</p>
<p><span style="text-decoration: underline;">Metode predviđanja:</span> Predviđanje tržišta je, van svake sumnje, interesantan zadatak. U literaturi postoji veliki broj metoda koje mogu da se primene za rešavanje ovog problema. Ove metode koriste različite pristupe, koji variraju od krajnje neformalnih načina, pa do formalnijih metoda. Ove tehnike mogu da se okarakterišu na sledeći način:</p>
<ul style="list-style-type: square;">
<li>Metode tehničke analize;</li>
<li>Metode fundamentalne analize;</li>
<li>Metode tradicionalnog predviđanja korišćenjem vremenskih nizova;</li>
<li>Metode mašinskog učenja;</li>
</ul>
<div>
<p> Kriterijum za ovu kategorizaciju je tip alata i tip podataka koje svaka od ovih metoda koristi sa ciljem da predvidi tržište. Ono što je zajedničko ovim tehnikama jeste to da se one koriste za prediđanje i samim tim ostvarivanja koristi iz budućeg ponašanja tržišta.</p>
<p><strong>Tehnička analiza<br />
</strong></p>
<p>&#8220;Tehnička analiza je metod predviđanja pravog vremena za kupovinu ili prodaju na berzi korišćena od onih koji veruju u berzansko formiranje cene zasnovano na „Zamkovi u vazduhu“ teoriji&#8221;. Ideja koja leži iza tehničke analize jeste da se podeljene cene pomeraju u skladu sa trendovima koji su diktirani od strane atributa koji se konstantno menjaju kao odgovor na različite tržišne sile. Korišćenjem tehničkih podataka kao što su cena, zapremina, najviša i najniža cena za vreme kupovnog perioda, tehnički analitičar koristi grafikon kako bi predvideo buduća pomeranja berze. Grafikoni cene se koriste kako bi se detektovali trendovi. Pretpostavlja se da se ovi trendovi zasnivaju na ponudi i potražnji koja ima cikličan obrazac.</p>
<p>Na osnovu studije ovih grafikona, pravila trgovine se ubacuju i koriste u tržišnom okruženju. Većina tehničkih analitičara veruje da je tržište samo 10% logičko i 90 % psihološko.</p>
<p>Ovo je vrlo popularan pristup za predviđanje tržišta koji teško može da bude kritikovan. Glavna ideja kriticizma se ogleda u tome da su ubačena pravila trgovine visoko subjektivna. Kako je moguće koristiti ovu metodu za predviđanje tržišta na dnevnom nivou, nećemo dalje razmatrati ovu metodu zbog njenog subjektivnog karaktera.</p>
<p><strong>Fundamentalna analiza</strong></p>
<p>&#8220;Fundamentalna analiza je tehnika primene principa teorije osnivanja firme kako bi se izvršio izbor individualne berze&#8221;. Analitičari koji koriste ovu metodu za predviđanje koriste fundamentalne podatke sa ciljem da dobiju jasnu sliku firme u koju žele da investiraju. Oni imaju za cilj da proračunaju „realnu“ vrednost uzorka u koji će investirati i na taj način da odrede ovu vrednost proučavajući promenjive kao što su rast, dividende, kamate, rizik od investiranja, nivo prodaje, porezi i tako dalje. Njihov cilj je da izračunaju unutrašnju vrednost uzorka koji procenjuju. Dok to rade, oni primenjuju jednostavna pravila trgovine. Ukoliko je unutrašnja vrednost procenjivanog uzorka veća od vrednosti koju diktira tržište, treba investirati u to. Ukoliko nije, to se smatra lošom investicijom i treba je zaobići. Ovi analitičari veruju da je tržište definisano sa 90% logičnog i 10% psihološkog faktora.</p>
<p><strong>Tradicionalno predviđanje pomoću vremenskih nizova</strong></p>
<p>Tradicionalno predviđanje pomoću vremeskih nizova analizira istorijske podatke i pokušava da odredi približnu vrednost budućih vrednosti vremenskog niza kao linearnu kombinaciju ovih istorijskih podataka. U ekonometriji postoje dva osnovna tipa predviđanja pomoću vremenskih nizova: jednovarijabilno (prosta regresija) i multivarijabilno (multivarijabilna regresija). Ovi tipovi regresionih modela su najučestaliji alat koji se koristi u ekonometriji za predviđanje vremenskih nizova. Način na koji se oni primenjuju u praksi je taj da se prvo formira skup faktora koji utiču na vremenski niz. Ovi faktori objašnjavaju promenjive Xi modela predviđanja.<br />
Zatim se vrši mapiranje njihovih vredosti Xit i vrednosti vremenskog niza Yt i na taj način se formiraju parovi {Xit , Yt}. Ovi parovi se koriste za definisanje važnosti svaka promenjive u formulaciji objašnjene promenjive. Drugim rečima, linearna kombinacija Xi koje se približava na optimalan način je definisana. Jednovarijabilni modeli se zasnivaju na jednoj objašnjenoj promenjivoj (I=1), dok multivarijabilni modeli koriste više od jedne promenjive (I&gt;1).</p>
<p><strong>Metode mašinskog učenja<br />
</strong></p>
<p>Do sada je razvijeno nekoliko metoda induktivnog učenja pod uobičajenom oznakom „mašinsko učenje“. Sve ove metode koriste skup primera kako bi generisali aproksimaciju funkcije koja generiše podatke. Cilj je da se izvuku zaključci iz tih primera na način da kada su nevidljivi podaci prezentovani u modelu bude moguće objasniti promenjive iz ovih podataka. Metod koji spada u ovu kategoriju je tehnika neuralnih mreža. Ova tehnika može da se primeni na predviđanja na berzi i to tako da predvidi ponašanje berze na dnevnom nivou.</p>
<p><strong>Predviđanje primenom neuralnih mreža</strong></p>
<p>Eksperiment se sastoji iz 3 faze (Slika 1). U prvoj fazi, genetski algoritam (GA) pretražuje prostor neuralnih mreža koje imaju različitu strukturu i rezultira generisanjem krive podešavanja za sve neuralne mreže koja se zasniva na sledećoj matrici: TheilA ili TheilB ili TheilC ili MAE. Pretraživanje genetskog algoritma se ponavalja tri puta za svaku matricu. Zatim se najbolje tri mreže izaberu iz svakog ponavljanja genetskog algoritma, kao i svaka od matrica.</p>
<p><img fetchpriority="high" decoding="async" class=" size-full wp-image-3858" style="vertical-align: middle; display: block; margin-left: auto; margin-right: auto;" src="http://automatika.rs/wp-content/uploads/2013/06/neuralne_mreze_i_predvidjanje_na_berzi_automatika_rs.jpg" alt="neuralne mreze i predvidjanje na berzi automatika rs" width="350" height="271" srcset="https://www.automatika.rs/wp-content/uploads/2013/06/neuralne_mreze_i_predvidjanje_na_berzi_automatika_rs.jpg 350w, https://www.automatika.rs/wp-content/uploads/2013/06/neuralne_mreze_i_predvidjanje_na_berzi_automatika_rs-300x232.jpg 300w" sizes="(max-width: 350px) 100vw, 350px" /></p>
</div>
<div style="text-align: center;"><strong>Slika 1.</strong> Predviđanje na berzi korišćenjem neuralnih mreža</div>
<div>
<p> Izlaz prve faze je 36 mrežnih struktura. U drugoj fazi, za svaku od 36 rezultirajućih mrežnih struktura se primenjuje sledeća procedura. Trenira se i validira mreža. Onda se koristi indicirani broj epoha iz validacione procedure i na osnovu toga se ponovo trenira mreža. Konačno, testiraju se performanse mreže u slučaju neviđenih podataka.</p>
<p>Ova procedura se ponavlja 50 puta za svaku mrežnu strukturu za slučajnu inicijalizaciji njenih težinskih koeficijenata. Od 9 mreža za svaku statistiku izvršenja, bira se najstabilnija u smislu standardnih devijacija njihovih performansi. To znači da je izlaz druge faze skup 4 mrežne strukture. Za vreme treće faze za svaku od ove 4 mreže primenjuje se sledeća procedura 50 puta. Svaka mreža se trenira do pola trening seta, da bi se druga polovina koristila za validaciju. Onda, koristeći indicirane epohe od strane validacione procedure, mreže se ponovo treniraju kako bi završile sa trening setom. Konačno, mreže se testiraju i izračunavaju se 4 matrice.</p>
<p>Performanse za svaku mrežu na svakoj matrici se mere ponovo u smislu standardne dvijacije i značenje tih performansi preko 50 ciklusa treninga, validacije i testiranja.</p>
</div>
</div>
<p>The post <a href="https://www.automatika.rs/baza-znanja/neuralne-mreze/uvod-u-primenu-neuralnih-mreze-za-predvidjanje-na-berzi.html">Uvod u primenu neuralnih mreže za predviđanje na berzi</a> appeared first on <a href="https://www.automatika.rs">Automatika.rs</a>.</p>
]]></content:encoded>
					
					<wfw:commentRss>https://www.automatika.rs/baza-znanja/neuralne-mreze/uvod-u-primenu-neuralnih-mreze-za-predvidjanje-na-berzi.html/feed</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
		<item>
		<title>Primena neuralnih mreža u prepoznavanju govora</title>
		<link>https://www.automatika.rs/baza-znanja/neuralne-mreze/primena-neuralnih-mreza-u-prepoznavanju-govora.html</link>
					<comments>https://www.automatika.rs/baza-znanja/neuralne-mreze/primena-neuralnih-mreza-u-prepoznavanju-govora.html#respond</comments>
		
		<dc:creator><![CDATA[Milica Đekić]]></dc:creator>
		<pubDate>Wed, 07 Nov 2012 23:00:00 +0000</pubDate>
				<category><![CDATA[Neuralne mreže]]></category>
		<category><![CDATA[adaptivno ucenje]]></category>
		<category><![CDATA[govor]]></category>
		<category><![CDATA[neuralne mreze]]></category>
		<category><![CDATA[prepoznavanje govora]]></category>
		<category><![CDATA[reci]]></category>
		<guid isPermaLink="false"></guid>

					<description><![CDATA[<p>Prepoznavanje govora je zadatak koji podrazumeva prepoznavanje obrazca na više nivoa, u kojem se ispituju i strukturišu zvučni signali u hijararhiju delova reči, reči, fraza i rečenica. Svaki nivo pruža dodatna privremena ograničenje, kao na primer: poznati izgovor reči ili pravilnu sekvencu reči. Ova hijararhija ograničenja nejbolje može da bude iskorišćena kombinacijom odluka na osnovu [&#8230;]</p>
<p>The post <a href="https://www.automatika.rs/baza-znanja/neuralne-mreze/primena-neuralnih-mreza-u-prepoznavanju-govora.html">Primena neuralnih mreža u prepoznavanju govora</a> appeared first on <a href="https://www.automatika.rs">Automatika.rs</a>.</p>
]]></description>
										<content:encoded><![CDATA[<div style="text-align: justify;"><img decoding="async" class=" alignleft size-full wp-image-3495" src="http://automatika.rs/wp-content/uploads/2012/11/neuralne_mreze_prepoznavanje_govora_naslovna_automatika_rs.jpg" width="100" height="100" alt="neuralne mreze prepoznavanje govora naslovna automatika rs" style="margin-top: 5px; margin-right: 5px; border: 1px solid #000000; float: left;" />Prepoznavanje govora je zadatak koji podrazumeva prepoznavanje obrazca na više nivoa, u kojem se ispituju i strukturišu zvučni signali u hijararhiju delova reči, reči, fraza i rečenica. Svaki nivo pruža dodatna privremena ograničenje, kao na primer: poznati izgovor reči ili pravilnu sekvencu reči. Ova hijararhija ograničenja nejbolje može da bude iskorišćena kombinacijom odluka na osnovu verovatnoće na nižem nivou i odlučivanjem samo na najvišem nivou.</p>
</div>
<p>  <span id="more-806"></span>  </p>
<div style="text-align: justify;">&nbsp;Govor je prirodni vid komunikacije za ljude. Mi učimo sve relavantne veštine za vreme ranog detinjsta, bez instrukcija i to nastavljamo da primenjujemo na našu govornu komunikaciju čitav naš život. Za nas to postaje tako prirodno da uopše nismo u stanju da realizujemo koliko je sam fenomen govora komplikovan. Čovekov vokalni trakt i artikulatori su biološki organi sa nelinearnim karakteristikama, čiji rad nije samo pod svesnom kontrolom, već na njega takođe utiču faktori u opsegu od pola, pa sve do emocionalnog stanja. Kao rezultat, vokalizacija može u širokoj meri da varira u smislu akcenta, izgovora, artikulacije, grubosti, unjkavosti, jačine, zapremine i brzine; takođe, za vreme prenosa, naš neregularni obrzac govora može dalje da bude poremećen pozadinskom bukom i ehom, kao i električnim karakteristikama (ukoliko se koriste telefoni ili elektronska oprema). Sve ove varijabilnosti izvora čine prepoznavanje govora, čak i samo generisanje govora, vrlo kompleksnim problemom.</div>
<div style="text-align: justify;">&nbsp;Šta čini ljude tako dobrim u prepoznavanju govora? Intrigantno, poznato je da je ljudski mozak ožičen drugačije nego računar; zapravo, on funkcioniše pod radikalno drugačijom paradigmom računanja. Dok konvencijonalni računar koristi vrlo brz i kompleksan centralni procesor sa eksplicitnim programskim instrukcijama i lokalno adresabilnom memorijom, nasuprot tome ljudski mozak koristi masivnu paralelnu kolekciju sporih i jednostavnih procesirajućih elemenata (neurona), gusto povezanih po težini (sinapse) čija snaga je modifikovana sa iskustvom, direktno podržavajući integraciju višestrukih ograničenja i pružajući distributivnu formu asocijativne memorije.</p>
<p>&nbsp;Impresivna superiornost mozga u širokom spektru kognitivnih veština, uključujući prepoznavanje govora, je inspirisala istraživanje na polju nove paradigme računanja od 40-ih godina prošlog veka, na predpostavku da modeli koji podsećaju na mozak mogu da vode u performanse koje podsećaju na performanse mozga kada je reč o mnogim kompleksnim zadacima. Ova fascinantna oblast istraživanja je sada poznata kao konekcivizam ili nauka o veštačkim neuralnim mrežama.</p>
<p>&nbsp;Koje je trenutno stanje veštine prepoznavanja govora? Ovo je komplikovano pitanje, zato što tačnost sistema zavisi od uslova pod kojima je isti razvijen. Pod dovoljno usmerenim uslovima skoro svaki sistem može da dostigne tačnost sličnu čovekovoj, ali je mnogo teže postići dobru tačnost pod opštim uslovima. Uslovi evaulacije i takođe tačnosti bilo kog sistema mogu da variraju po sledećim dimenzijama: </p>
<ul style="list-style-type: square;">
<li><strong>Veličina rečnika i zbunjivost.&nbsp;</strong></li>
</ul>
<p>&nbsp;Kao opšte pravilo, jednostavno je diskriminisati u okviru malog skupa reči, ali stopa greška raste&nbsp;prirodno kako veličina rečnika raste. Na primer, 10 cifara od &#8220;nula&#8221; do &#8220;devet&#8221; može da bude&nbsp;prepoznato suštinski savršeno, ali veličina rečnika od 200, 5000 ili 100000 može da ima stopu&nbsp;greška od 3%, 7% ili 45%. S druge strane, čak i mali rečnik može da bude problematičan za&nbsp;prepoznavanje ukoliko sadrži zbunjujće reči. Na primer, 26 slova engleskog alfabeta je vrlo teško&nbsp;diskriminisati zato što sadrže tako mnogo zbunjujućih reči (najnotornije, E-skup: &#8220;B, C, D, E, G,&nbsp;P, T, V, Z&#8221;); stopa greške od 8% se smatra dobrom za ovaj rečnik.</p>
<ul style="list-style-type: square;">
<li><strong>Zavisnost i nezavisnost od govornika. </strong></li>
</ul>
<p>&nbsp;Po definiciji, sistem koji zavisi od govornika je predviđen da se koristi samo od strane jednog govornika, dok sistem nezavistan od govornika može da koristi bilo koji govornik. Nezavisnost od govornika je teška za postizanje zato što parametri sistema postaju povezani sa govornikom koji je obučen za rad sa tim sistemom i ovi parametri teže da budu viskoko specifični po pitanju govornika.</p>
<ul style="list-style-type: square;">
<li><strong>Izolovani, nekontinualni ili kontinualni govor.</strong></li>
</ul>
<p>&nbsp;Izolovani govor znači jednu reč; nekontinualni govor znači čitave rečenice u kojima su reči veštački razdvojene tišinom; i kontinualni govor znači prirodno izgovorene rečenice. Izolovano i nekontinualno prepoznavanje govora je relativno jednostavno zato što se granice između reči lepo detektuju i reči teže da budu jasno izgovorene.</p>
<ul style="list-style-type: square;">
<li><strong>Zadatak i jezička ograničenja.</strong></li>
</ul>
<p>&nbsp;Čak i sa fiksnim rečnikom, performanse će varirati sa prirodom ograničenja po pitanju sekvenci reči koje su dopuštene za vreme prepoznavanja. Neka ograničenja mogu biti zavisna od zadatka (na primer, neke primene mogu da odbace hipotezu „Jabuka je crvena“); druga ograničenja mogu da budu semantička (odbacujući „Jabuka je besna“), ili sinaktička (odbacujući „Crvena je jabuka ta“). Ograničenja su često predstavljena gramatičkim pravilima, koja idealno isfiltriraju nerazumene rečenice, tako da sistem za prepoznavanje govora evoluaira samo verodostojne rečenice. Gramatička pravila su obično rangirana prema njihovoj kompleksnosti, broju koji indicira gramatički faktor prosečnog grananja, kao što je broj reči koji može da prati bilo koju datu reč. Poteškoća zadatka je mnogo pouzdanije merena njenom komplikovanošću nego veličinom rečnika.<strong></strong></p>
</p></div>
<div style="text-align: justify;">
<ul>
<li style="text-align: justify;"><strong>Čitani naspram spontanog govora. </strong></li>
</ul>
<p> &nbsp;Sistem može biti razvijen i zasnovan na govoru koji je ili čitan iz pripremljenih skripti, ili izgovoren spontano. Spontani govor je daleko teži, zato što ima tendenciju da bude začinjen sa disfluentnostima kao što su „uh“ ili „um“, lažnim počecima, nepotpunim rečenicama, mucanjem, kašljem i smehom i, naravno, rečnik je praktično neograničen, tako da sistem mora da bude u stanju da upravlja inteligentno sa nepoznatim rečima. </p>
<ul style="list-style-type: square; text-align: justify;">
<li><strong>Neprijateljski uslovi.</strong></li>
</ul>
<p> &nbsp;Performanse sistema takođe mogu da budu degradirane čitavim spektrom neprijateljskih uslova. Ovo uključuje buku okruženja (na primer, buku u automobilu ili fabrici); akustičke distorzije (na primer, eho, akustiku prostorije); različite mikrofone (na primer, pričanje iz blizine, višesmernost ili telefon); ograničen frekventni propusni opseg (u telefonskom prenosu); i izmenjene načine pričanja (vikanje, kukanje, brzo pričanje, itd.). </p>
<p style="text-align: justify;">&nbsp;Sa ciljem da se razviju i uporede različiti sistemi koji funkcionišu pod dobro definisanim uslovima, veliki broj standardizovanih baza podataka je bio kreiran i svaka od njih ima neke posebne karakteristike. Na primer, jedna baza podataka koja je bila široko korišćena je DARPA Resource Management baza podataka – veliki rečnik (1000 reči), nezvisna od govornika, baza podataka sa kontinualnim govorom koja se sastoji od 4000 trening rečenica u domenu menadžmenta mornaričkih resursa, čitanja iz skripte i snimanja pod uslovima benignog okruženja; testiranje je obično izvršeno korišćenjem gramatičkih pravila kompleksnosti 60. Pod ovim kontrolisanim uslovima, stanje umetnosti performansi je oko 97% tačnosti prepoznavanja reči (ili manje za jednostavnije sisteme).</p>
<p>&nbsp;Struktura standardnog sistema za prepoznavanje govora je ilustrovana na Slici 1.</p>
<p><img loading="lazy" decoding="async" class=" size-full wp-image-3496" src="http://automatika.rs/wp-content/uploads/2012/11/struktura_standardnog_prepoznavanja_govora_auromatika_rs.jpg" width="450" height="261" alt="struktura standardnog prepoznavanja govora auromatika rs" style="vertical-align: middle; display: block; margin-left: auto; margin-right: auto;" srcset="https://www.automatika.rs/wp-content/uploads/2012/11/struktura_standardnog_prepoznavanja_govora_auromatika_rs.jpg 450w, https://www.automatika.rs/wp-content/uploads/2012/11/struktura_standardnog_prepoznavanja_govora_auromatika_rs-300x174.jpg 300w" sizes="auto, (max-width: 450px) 100vw, 450px" /></p>
<p style="text-align: center;"><strong>Slika 1.</strong> Struktura standardnog sistema za prepoznavanje govora</p>
<ul style="list-style-type: square;">
<li><strong>Neizvežbani govor.</strong> Govor je tipično uzorkovn na visokoj frekvenciji, na primer 16 KHz preko mikrofona ili 8 KHz preko telefona. Ovo daje prinos sekvence amplitudne vrednosti tokom vremena.</li>
</ul>
<div>
<ul style="list-style-type: square;">
<li><strong>Analiza signala.</strong> Neizvežbani govor bi trebao na početku da bude transformisan i kompresovan, sa ciljem da se pojednostavi procesiranje podsekvenci. Mnoge tehnike analize signala su dostupne što može da izvuče korisne karakteristike i kompresuje podatke sa faktorom 10 bez gubitka važnih informacija. Među najpopularnijima su:</li>
</ul>
<div>
<ol>
<li>Furijeova analiza (FFT) daje prinos diskretnih frekvencija tokom vremena, koje mogu da budu interpretirane vizuelno. Frekvencije su obično distribuirane koristeći Mel scale, koji je linearan u niskom opsegu, ali i logaritamski u visokom opsegu, što odgovara fiziološkim karakteristikama ljudskog uha.</li>
<li>Perceptivna linearna predikcija (PLP) je takođe fiziološki motivisana, ali daje prinos koeficijentima koji ne mogu da budu interpretirani vizuelno.</li>
<li>Linearno prediktivno kodiranje (LPC) donosi koeficijente linearnih jednačina koje mogu da približe skoriju istoriju vrednosti neizvežbanog govora.</li>
<li>Kepstralova analiza izračunava inverznu Furijerovu transformaciju logaritma spektra snage signala.</li>
</ol>
<div>&nbsp;U praksi postoji mala razlika po pitanju toga koja je tehnika korišćena. Potom, procedure koa što je analiza linearnog diskriminanta (Linear Discriminant Analysis &#8211; LDA) mogu opciono biti primenjene na dalje redukovanje dimenzonalnosti bilo koje reprezentacije i usporavanje koeficijenata. Prikaz LDA analize govora je dat na Slici 2.</div>
<div style="text-align: center;">
<p><img loading="lazy" decoding="async" class=" size-full wp-image-3497" src="http://automatika.rs/wp-content/uploads/2012/11/LDA_analiza_govora_automatika_rs.jpg" width="450" height="142" alt="LDA analiza govora automatika rs" style="vertical-align: middle; display: block; margin-left: auto; margin-right: auto;" srcset="https://www.automatika.rs/wp-content/uploads/2012/11/LDA_analiza_govora_automatika_rs.jpg 450w, https://www.automatika.rs/wp-content/uploads/2012/11/LDA_analiza_govora_automatika_rs-300x95.jpg 300w" sizes="auto, (max-width: 450px) 100vw, 450px" /><br /> <strong>Slika 2.</strong> Prikaz LDA analize govora</div>
<div>&nbsp;</div>
<div>
<ul style="list-style-type: square;">
<li><strong>Govorni okviri.</strong> Rezultat analize signala je sekvena govornih okvira, čiji je interval obično oko 10 msec, sa oko 16 koeficijenata po okviru. Ovi okviri mogu biti predstavljeni pomoću svojih sopstevih prvih i/ili drugih izvoda, pružajući eksplicitnu informaciju o dinamici govora – ovo tipično vodi u unapređene performanse. Govorni okviri se koriste za akustičku analizu.</li>
<li><strong>Akustički modeli.</strong> Sa ciljem da se analiziraju govorni okviri za njihove akustičke sadržaje, potreban je skup akustičkih modela. Postoji mnogo vrsta akustičkih modela, koji variraju u smislu reprezentacije, granualnosti, zavisnosti od konteksta, itd.</li>
</ul>
<div><img loading="lazy" decoding="async" class=" size-full wp-image-3498" src="http://automatika.rs/wp-content/uploads/2012/11/akusticni_modeli_automatika_rs.jpg" width="450" height="300" alt="akusticni modeli automatika rs" style="vertical-align: middle; display: block; margin-left: auto; margin-right: auto;" srcset="https://www.automatika.rs/wp-content/uploads/2012/11/akusticni_modeli_automatika_rs.jpg 450w, https://www.automatika.rs/wp-content/uploads/2012/11/akusticni_modeli_automatika_rs-300x200.jpg 300w" sizes="auto, (max-width: 450px) 100vw, 450px" /></div>
<div style="text-align: center;">&nbsp;</div>
<div style="text-align: center;"><strong>Slika 3.</strong> Prikaz akustičnih modela: reprezentacija reči „cat“</div>
<div>&nbsp;</div>
<div>&nbsp;Akustički modeli: šablon i reprezentacija stanja za reč „cat“ („mačka“). </p>
<p>&nbsp;Slika 3 prikazuje dve popularne reprezentacije za akustičke modele. Najjednostavniji je šablon, koji je čisto uskladišteni uzorak jedinice govora koja treba da se modeluje, na primer, snimanjem reči. Nepoznata reč može biti prepoznata jednostavnim poređenjem sa svim poznatim šablonima i pronalaženjem najpribližijeg spoja. Šabloni imaju dve glavne manjkavosti: (1) oni ne mogu da modelujuakustičke promene, osim na grubi način tako što pridružuju višestruke šablone svakoj reči; i (2) u praksi&nbsp;oni su ograničeni na modele čitavog sveta, zato što je teško snimiti ili segmentovati uzorak koji je kraći&nbsp;od reči – tako da su šabloni korisni samo u malim sistemima koji mogu da obezbede luksuz korišćenja&nbsp;modela čitavog sveta. Mnogo fleksibilnija reprezentacija, korišćena u većim sistemima, je zasnovana na&nbsp;istreniranim akustičkim modelima ili stanjima. U ovom pristupu, svaka reč je modelovana u vidu&nbsp;sekvence istreniranog stanja i svako stanje indicira zvuk koji može da se čuje u tom segmentu reči&nbsp;koristeći raspodelu verovatnoće duž akustičkog prostora. Raspodela verovatnoće može da bude&nbsp;modelovana pomoću parametara, pretpostavljajući da postoji jednostavan oblik (na primer, Gusova&nbsp;raspodela) i onda pokušati pronaći parametre koji je opisuju; ili neparametarski predstavljajući raspodelu&nbsp;direktno pomoću histograma ili koristeći neuralnu mrežu.</p>
<p>&nbsp;U daljem tekstu će biti objašnjen algoritam dinamičkog vremenskog savijanja, koji predstavlja jedan od najstarijih i najvažnijih algoritama pri prepoznavanju govora.</p>
<p>&nbsp;Najjednostavniji način da se prepozna uzorak izolovane reči je da se on poredi sa velikim brojem uskladištenih šablona reči i da je na osnovu toga odredi koji je „najbolji pogodak“. Ovaj način je komplikovan zbog čitavog niza faktora. Prvo, različiti uzorci će imati različita trajanja. Ovaj problem može biti eliminisan jednostavnom noramlizacijom šablona i nepoznatog govora, tako da svi oni dobiju jednako trajanje. Međutim, drugi problem je to da brzina govora ne mora da bude konstantna duž reči. Drugim rečima, optimalno ravnanje između šablona i uzorka govora može da bude nelinearno. Dinamičko vremensko savijanje je efikasan metod za pronalaženje optimalnog nelinearnog ravnanja.</p>
<p> &nbsp;Dinamičko vremensko savijanje je primer opšte klase algoritama koji je poznat kao dinamičko programiranje. Njegova vremenska i prostorna kompleksnost su samo linearni u trajanju uzorka govora i veličine rečnika. Prikaz dinamičkog vremenskog savijanja je dat na Slici 4.</p>
<p><img loading="lazy" decoding="async" class=" size-full wp-image-3499" src="http://automatika.rs/wp-content/uploads/2012/11/dinamicko_vremensko_pakovanje_automatika_rs.jpg" width="350" height="195" alt="dinamicko vremensko pakovanje automatika rs" style="display: block; margin-left: auto; margin-right: auto; margin-bottom: 5px; vertical-align: middle;" srcset="https://www.automatika.rs/wp-content/uploads/2012/11/dinamicko_vremensko_pakovanje_automatika_rs.jpg 350w, https://www.automatika.rs/wp-content/uploads/2012/11/dinamicko_vremensko_pakovanje_automatika_rs-300x167.jpg 300w" sizes="auto, (max-width: 350px) 100vw, 350px" /></div>
<div style="text-align: center;"><strong>Slika 4.</strong> Prikaz dinamičkog vremenskog savijanja</div>
<div>&nbsp;</div>
<div>&nbsp;Postoje mnoge varijacije algoritma dinamičkog vremenskog savijanja. Na primer, uobičajeno je da variraju ograničenja lokalne putanje u smislu nagiba ½ ili 1, ili težine prnosa na različite načine ili primene druge vrste ograničenja nagiba. Kada se koriste stanja, vertikalni prenosi obično nisu dozvoljeni i obično je cilj da se minimizira kumulativni rezultat. </p>
<p>&nbsp;Zato što je prpoznavanje govora u osnovi problem prepoznavanja obrazca i zato što su neuralne mreže dobre u prepoznavanju obrazca, mnogi raniji istraživači su primenjivali neuralne mreže u prepoznavanju govora. Najraniji pokušaji su uključivali visoko pojednostavljene zadatke, kao što su klasifikacija&nbsp;govornih segmenata u smislu glasovnih i neglesovnih ili nosnih, friktivnih i praskavih. Uspeh u ovim&nbsp;eksperimentima je ohrabrio istraživače da pređu na klasifikaciju fonoma – ovaj zadatak je postao&nbsp;odskočna daska za neuralne mreže jer je brzo postizao rezultate svetske klase.</p>
<p> &nbsp;Postoje dva osnovna pristupa u klasifikaciji govora korišćenjem neuralnih mreža: statički i dinamički, kao što je prikazano na Slici 5.</p>
<p><img loading="lazy" decoding="async" class=" size-full wp-image-3500" src="http://automatika.rs/wp-content/uploads/2012/11/staticki_i_dinamicki_pristupi_automatika_rs.jpg" width="400" height="183" alt="staticki i dinamicki pristupi automatika rs" style="display: block; margin-left: auto; margin-right: auto; margin-bottom: 5px; vertical-align: middle;" srcset="https://www.automatika.rs/wp-content/uploads/2012/11/staticki_i_dinamicki_pristupi_automatika_rs.jpg 400w, https://www.automatika.rs/wp-content/uploads/2012/11/staticki_i_dinamicki_pristupi_automatika_rs-300x137.jpg 300w" sizes="auto, (max-width: 400px) 100vw, 400px" /></div>
<div style="text-align: center;"><strong>Slika 5.</strong> Statički i dimamički pristup klasifikaciji</div>
<div>&nbsp;</div>
<div>&nbsp;U statičkoj klasifikaciji, neuralna mreža vidi sve ulaze govora od jednom i donosi pojedinačnu odluku. Nasuprot tome, u dinamičkoj klasifikaciji, neuralna mreža vidi samo mali prozor govora i ovaj prozor menja ulazni govor dok mreža čini seriju lokalnih odluka koje moraju da se integrišu u globalnu odluku kasnije. Statička klasifikacija funkcioniše dobro kod prepoznavanja fonoma, ali daje slabe rezulate na nivou reči ili rečenica, dok dinamička klasifikacija tu funkcioniše mnogo bolje.</div>
<div>&nbsp;</div>
<div>&nbsp;Klasifikacija fonema može da bude izvedena sa velikom tačnošću, bilo da se koristi statički ili dinamički pristup. U daljem tekstu sledi pregled tipičnih eksperimenata koji koriste svaki od navedenih pristupa. </p>
<p>&nbsp;Jednostavan, ali elegantan eksperiment je izveden od strane Huang-a &amp; Lippmann-a (1988), koji su demonstrirali da neuralna mreža može da formira kompleksne površine odluka iz podataka vezanih za govor. Oni su primenili višeslojnu percepciju sa samo 2 ulaza, 50 skrivenih jedinica i 10 izlaza. Posle 50.000 iteracija treninga, mreža je proizvela regione odluke koji su prikazani na Slici 6. Ovi regioni odluke su skoro optimalni i ponovo sklapaju regione odluke koji bi inače bili nacrtani ručno, što vodi u tačnost klasifikacije koja može da se poredi sa više konvencionalnih algoritama, kao što su k-najbliži sused ili Gausova klasifikacija.</p>
<p> <img loading="lazy" decoding="async" class=" size-full wp-image-3501" src="http://automatika.rs/wp-content/uploads/2012/11/regioni_odlucivanja_neuralne_mreze_automatika_rs.jpg" width="450" height="220" alt="regioni odlucivanja neuralne mreze automatika rs" style="display: block; margin-left: auto; margin-right: auto; margin-bottom: 5px; vertical-align: middle;" srcset="https://www.automatika.rs/wp-content/uploads/2012/11/regioni_odlucivanja_neuralne_mreze_automatika_rs.jpg 450w, https://www.automatika.rs/wp-content/uploads/2012/11/regioni_odlucivanja_neuralne_mreze_automatika_rs-300x147.jpg 300w" sizes="auto, (max-width: 450px) 100vw, 450px" /></div>
<div style="text-align: center;"><strong>Slika 6.</strong> Regioni odlučivanja formirani od strane 2-slojne percepcije</div>
<div>&nbsp;</div>
<div>&nbsp;U mnogo složenijim eksperimentima, Elman i Zipser (1987) su trenirali mrežu da klasifikuje vokale /a,i,u/ i suglasnike /b,d,g/ kako bi se oni javili u iskazima ba,bi,bu; da,di,du; and ga,gi,gu. Njihov ulaz mreže se sastojao od 16 spektralnih koeficijenata duž 20 okvira; ovo je bilo vođeno u skriveni sloj sa između 2 i 6 jedinica, koji je dalje vodio do 3 izlaza za klasifikaciju vokala i suglasnika. Ova mreža je dostigla nivo greške od svega 0.5% za samoglasnike i 5.0% za suglasnike. </p>
<p>&nbsp;Među najsloženijim zadacima klasifikacije je tako zvani E-skup, odnosno pravljenje razlike između ritmičkih engleskih slova &#8220;B, C, D, E, G, P, T, V, Z&#8221;. Burr (1988) je primenio statičku mrežu za ovaj zadatak i dobio vrlo dobar rezulat. Njegova mreža je koristila ulazni prozor od 20 spektralnih okvira, automatski ekstraktujući iz svih iskaza i koristeći energetsku informaciju. Ovi ulazi su vodili direktno do 9 izlaza reprezentujući slova E-skupa. Mreža je trenirana i testirana koristeći 180 simbola od jednog govornika. Sa povećanjem broja testiranih uzoraka i povećanjem efikasnosti i drugih karakteristika, tačnost prepoznavanja je postajala gotovo savršena.</p>
<p><em>&nbsp;Tekst je preuzet sa sajta: www.learnartificialneuralnetworks.com,&nbsp;obrađen </em><em>i prilagođen srpskom jeziku.</p>
<p></em></p>
</p></div></div></div></div></div>
<p>The post <a href="https://www.automatika.rs/baza-znanja/neuralne-mreze/primena-neuralnih-mreza-u-prepoznavanju-govora.html">Primena neuralnih mreža u prepoznavanju govora</a> appeared first on <a href="https://www.automatika.rs">Automatika.rs</a>.</p>
]]></content:encoded>
					
					<wfw:commentRss>https://www.automatika.rs/baza-znanja/neuralne-mreze/primena-neuralnih-mreza-u-prepoznavanju-govora.html/feed</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
		<item>
		<title>Neuralne mreže i C# programski jezik</title>
		<link>https://www.automatika.rs/baza-znanja/neuralne-mreze/neuralne-mreze-i-c-programski-jezik.html</link>
					<comments>https://www.automatika.rs/baza-znanja/neuralne-mreze/neuralne-mreze-i-c-programski-jezik.html#respond</comments>
		
		<dc:creator><![CDATA[Milica Đekić]]></dc:creator>
		<pubDate>Mon, 01 Oct 2012 22:00:00 +0000</pubDate>
				<category><![CDATA[Neuralne mreže]]></category>
		<category><![CDATA[algoritam]]></category>
		<category><![CDATA[C#]]></category>
		<category><![CDATA[neuralne mreze]]></category>
		<category><![CDATA[neuron]]></category>
		<category><![CDATA[programiranje]]></category>
		<category><![CDATA[ucenje]]></category>
		<guid isPermaLink="false"></guid>

					<description><![CDATA[<p>Veštačke neuralne mreže jesu paradigma za obradu informacija koja je&#160;inspirisana biološkim nervnim sistemom, kao što je mozak koji je u stanju da&#160;procesira informacije. Ključni element ove paradigme je nova struktura sistema&#160;za obradu informacija. On je sastavljen od velikog broja međusobno povezanih&#160;procesirajućih elemenata (neurona) koji rade zajedno kako bi rešili specifični&#160;problem.&#160; &#160; &#160;Veštačke neuralne mreže, baš [&#8230;]</p>
<p>The post <a href="https://www.automatika.rs/baza-znanja/neuralne-mreze/neuralne-mreze-i-c-programski-jezik.html">Neuralne mreže i C# programski jezik</a> appeared first on <a href="https://www.automatika.rs">Automatika.rs</a>.</p>
]]></description>
										<content:encoded><![CDATA[<div style="text-align: justify;"><img loading="lazy" decoding="async" class=" alignleft size-full wp-image-3421" src="http://automatika.rs/wp-content/uploads/2012/10/neuralne_mreze_naslovna_2_automatika_rs.jpg" width="100" height="100" alt="neuralne mreze naslovna 2 automatika rs" style="margin-top: 5px; margin-right: 5px; border: 1px solid #000000; float: left;" />Veštačke neuralne mreže jesu paradigma za obradu informacija koja je&nbsp;inspirisana biološkim nervnim sistemom, kao što je mozak koji je u stanju da&nbsp;procesira informacije. Ključni element ove paradigme je nova struktura sistema&nbsp;za obradu informacija. On je sastavljen od velikog broja međusobno povezanih&nbsp;procesirajućih elemenata (neurona) koji rade zajedno kako bi rešili specifični&nbsp;problem.&nbsp;</p>
</div>
<p>  <span id="more-760"></span>  </p>
<div style="text-align: justify;">&nbsp;</div>
<div style="text-align: justify;">&nbsp;Veštačke neuralne mreže, baš kao i ljudi, uče kroz primere. Veštačke neuralne mreže su konfigurisane za specifične primene, kao što su prepoznavanje obrazca ili klasifikacija podataka kroz proces učenja. Učenje u biološkom sistemu uključuje podešavanje sinaptičkih veza koje postije između neurona. Ovo je ono što i neuralne mreže takođe rade.</p>
<p>&nbsp;Neuralna mreža je moćen alat za modelovanje podataka koji je u stanju da obuhvati i reprezentuje kompleksne ulazno-izlazne veze. Motivacija za razvoj tehnologije neuralnih mreža je potekla od želje da se razvije veštački sistem koji bi mogao da obavlja „inteligentne“ zadatke slične onima koje obavlja ljudski mozak. Neuralne mreže liče na ljudski mozak na sledećih nekoliko načina: one stiču znanje kroz učenje i znanje je uskladišteno u okviru inter-neuronskih veza koje su poznate kao sinaptičke veze.</p>
<p>&nbsp;Istinska snaga i prednost neuralnih mreža leži u njihovoj sposobnosti da reprezentuju kako linearne, tako i nelinearne veze u njihovoj sposobnosti da uče ove odnose direktno iz podataka koji se modeluju. Tradicionalni linearni modeli su jednostavno neadekvatni kada se radi o modelovanju podataka koji sadrže nelinearne karakteristike.</p>
<p>&nbsp;Najuobičajeniji model neuralne mreže je poznat kao nadzirana mreža zato što zahteva željeni izlaz kako bi učila. Cilj ovog tipa mreže je da kreira model koji mapira ulaz i izlaz koristeći istorijske podatke, tako da model onda može da bude korišćen da proizvede izlaz kada je željeni izlaz nepoznat. Grafička reprezentacija percepcije u više slojeva je data na Slici 1. </p>
<p style="text-align: center;"><img loading="lazy" decoding="async" class=" size-full wp-image-3422" src="http://automatika.rs/wp-content/uploads/2012/10/percepcija_u_vise_slojeva_automatika_rs.jpg" width="450" height="338" alt="percepcija u vise slojeva automatika rs" style="vertical-align: middle;" srcset="https://www.automatika.rs/wp-content/uploads/2012/10/percepcija_u_vise_slojeva_automatika_rs.jpg 450w, https://www.automatika.rs/wp-content/uploads/2012/10/percepcija_u_vise_slojeva_automatika_rs-300x225.jpg 300w, https://www.automatika.rs/wp-content/uploads/2012/10/percepcija_u_vise_slojeva_automatika_rs-80x60.jpg 80w, https://www.automatika.rs/wp-content/uploads/2012/10/percepcija_u_vise_slojeva_automatika_rs-265x198.jpg 265w" sizes="auto, (max-width: 450px) 100vw, 450px" /></p>
<p style="text-align: center;">Slika 1. Percepcija u više slojeva</p>
<p>&nbsp;Ulazi su snabdevani unutar ulaznog sloja i pomnoženi težinom interkonekcije, kako bi prešli iz ulaznog sloja u prvi skriveni sloj. U okviru prvog skrivenog sloja, oni se sumiraju i zatim obrađuju pomoću nelinearnih funkcija. Kada obrađeni podaci napuste prvi skriveni sloj, oni ponovo bivaju pomnoženi sa težinom interkonekcije, zatim sumirani i obrađeni od strane drugog skrivenog sloja. Konačno podatak je pomnožen sa težinom interkonekcije i onda obrađen poslednji put u okviru izlaznog sloja kako bi proizveo izlaz neuralne mreže.</p>
<p>&nbsp;Neuralne mreže, sa svojom značajnom sposobnošću da izvedu značenje iz komplikovanih ili nepreciznih podataka, mogu da budu korišćene da ekstrakuju obrazce i detektuju trendove koji su suviše kompleksni da bi bili uočeni od strane čoveka ili neke druge računarske tehnike. O treniranoj neuralnoj mreži može da se razmišlja kao o „ekspertu“ u kategoriji informacija koje su joj date na analizu. Ovaj ekspert onda može biti korišćen da pruži projekcije date novim rešenjima od interesa i da odgovori na „šta ako“ pitanja. Ostale prednosti uključuju:</p>
<ul>
<li>Adaptivno učenje: Sposobnost da se uči kako da se obavi zadatak koji je zasnovan na podacima&nbsp;datim za&nbsp;trening ili inicijalno iskustvo. Primer adaptivnog učenja je dat na Slici 2.</li>
<li>Samo-organizacija: Veštačka neuralna mreža može da kreira svoju sopstvenu organizaciju ili&nbsp;reprezentaciju informacija koje prima dokom učenja.&nbsp;</li>
<li>Rad u realnom vremenu: Računanje neuralnih mreža može da bude izvedeno u paralelnom i&nbsp;specijalnom hardverskom uređaju koji je dizajniran i proizveden, što daje prednost ovim&nbsp;sposobnostima.&nbsp;</li>
<li>Tolerancija greške preko kodiranja suvišnih informacija: Delimična destrukcija neuralnih mreža&nbsp;vodi u odgovarajuću degradaciju performansi. Međutim, neke od osobina mreže mogu biti&nbsp;zadržane čak i sa velikim mrežnim oštećenima.
<p><img loading="lazy" decoding="async" class=" size-full wp-image-3423" src="http://automatika.rs/wp-content/uploads/2012/10/adaptivno_ucenje_neuralne_mreze_automatika_rs.jpg" width="450" height="422" alt="adaptivno ucenje neuralne mreze automatika rs" style="vertical-align: middle; display: block; margin-left: auto; margin-right: auto;" srcset="https://www.automatika.rs/wp-content/uploads/2012/10/adaptivno_ucenje_neuralne_mreze_automatika_rs.jpg 450w, https://www.automatika.rs/wp-content/uploads/2012/10/adaptivno_ucenje_neuralne_mreze_automatika_rs-300x281.jpg 300w, https://www.automatika.rs/wp-content/uploads/2012/10/adaptivno_ucenje_neuralne_mreze_automatika_rs-448x420.jpg 448w" sizes="auto, (max-width: 450px) 100vw, 450px" /></li>
</ul>
<p style="text-align: center;">Slika 2. Primer adaptivnog učenja</p>
<p>&nbsp;C# je multi-paradigmalni programski jezik koji objedinjuje jaku daktilografiju, imperativne, deklarativne,&nbsp;funkcionalne, generične, objektno-orjentisane i komponentalno-orjentisane programerske discipline.&nbsp;Razvijen je od strane Microsoft-a u okviru svoje .NET inicijative i kasnije odobren kao standard od strane&nbsp;Ecma (ECMA-334) i ISO (ISO/IEC 23270:2006). C# je jedan od programskih jezika koji je dizajniran za&nbsp;uobičajenu jezičku infrastrukturu.</p>
<p> &nbsp;C# je nameravan da bude jednostavan, moderan, predviđen za opštu upotrebu i objektno-orjentisan programski jezik. Njegov razvojni tim je vođen od strane Anders-a Hejlsberg-a. Najnovija verzija je C# 4.0, koja je izdata u aprilu 2010. godine.</p>
</div>
<div style="text-align: justify;">&nbsp;Poznata je činjenica da postoji mnogo različitih algoritama za koje je teško pronaći formalan algoritam koji bi ih rešio. Neki problemi ne mogu biti lako rešeni koristeći tradicionalne metode; za neke probleme još uvek ne postoji rešenje. U slučaju rešavanja mnogih takvih problema mogu da se upotrebe neuralne mreže, koje demonstriraju dobre rezultate u širokom spektru primena. Istorija neuralnih mreža je počela 50-ih godina prošlog veka, kada je najjednostavnija arhitektura neuralne mreže bila predstavljena. Posle inicijalnog rada u ovoj oblasti, ideja vezana za neuralne mreže postaje sve popularnija. Ali, onda je ova oblast imala slom kada je otkriveno da su neuralne mreže tog vremena vrlo ograničene u smislu količine zadataka za čije rešavanje mogu da nađu primenu. Tokom 70-ih godina prošlog veka one su doživele novi procvat kada je predstavljena ideja višeslojnih neuralnih mreža sa algoritmom učenja zasnovanom na back-propagaciji. Od tog vremena, mnogo različitih istraživača je proučavalo oblast neuralnih mreža, što je vodilo u otkriće širokog opsega različitih neuralnih arhitektura, koje su mogle da se primene za rešavanje širokog spektra različitih problema. Za sada, neuralne mreže mogu da se primene na zadatke kao što su klasifikacija, prepoznavanje, aproksimacija, predviđanje, klasterizacija, simulacija memorije, i mnogo drugih različitih zadataka, dok brojnost njihovih primena raste. Primer arhitekture C# biblioteke je dat na Slici 3.</p>
<p><img loading="lazy" decoding="async" class=" size-full wp-image-3424" src="http://automatika.rs/wp-content/uploads/2012/10/C__biblioteka_automatika_rs.jpg" width="450" height="315" alt="C  biblioteka automatika rs" style="vertical-align: middle; display: block; margin-left: auto; margin-right: auto;" srcset="https://www.automatika.rs/wp-content/uploads/2012/10/C__biblioteka_automatika_rs.jpg 450w, https://www.automatika.rs/wp-content/uploads/2012/10/C__biblioteka_automatika_rs-300x210.jpg 300w, https://www.automatika.rs/wp-content/uploads/2012/10/C__biblioteka_automatika_rs-100x70.jpg 100w" sizes="auto, (max-width: 450px) 100vw, 450px" /></div>
<div style="text-align: center;">&nbsp;</div>
<div style="text-align: center;">Slika 3. Primer arhitekture C# biblioteke</div>
<div style="text-align: justify;">&nbsp;U ovom tekstu je opisana C# biblioteka za rečunanje neuralnih mreža. Biblioteka implementuje nekoliko opularnih arhitektura neuralnih mreža i njihovih trening algoritama, kao što su back-propagacija, Kohonen samo-rganizaciona mapa, elastična mreža, učenje po Delta pravilu i učenje na osnovu percepcije.</div>
<div style="text-align: justify;">&nbsp;</div>
<div style="text-align: justify;">&nbsp;Primena biblioteke je demonstrirana na nekim primerima: </p>
<ul style="list-style-type: square;">
<li style="text-align: justify;">Klasifikacija (neuralna mreža sa jednim slojem koja je trenirana pomocu percepcionog algoritma&nbsp;učenja);&nbsp;</li>
<li style="text-align: justify;">Aproksimacija (neuralna mreža sa više slojeva koja je trenirana pomoću algoritma učenja back-propagacije);&nbsp;</li>
<li style="text-align: justify;"> Predviđanje vremenskog niza (neuralna mreža sa više slojeva koja je trenirana pomoću algoritma&nbsp;učenja koji se zasniva na back-propagaciji);&nbsp;</li>
<li style="text-align: justify;">Klasterizacija boja (Kohonen samo-organizaciona mapa);&nbsp;</li>
<li style="text-align: justify;">Problem putujućeg prodavca (elastična mreža).</li>
</ul>
<p> &nbsp;Tokom dizajniranja biblioteke, jedna od glavnih ideja je bila da se napravi biblioteka koja je fleksibilna, upotrebljiva i jednostavna za upotrebu i razumevanje. Umesto kombinovanja nekoliko entiteta neuralnih mreža u jednu klasu i stvaranja nereda, što vodi u gubitak fleksibilnosti i jasnoće u kodu i dizajnu, svi entiteti su podeljeni u različite klase, što ih čini jednostavnijim za razumevanje i upotrebu. Neke biblioteke neuralnih mreža teže da kombinuju entitet neuralne mreže zajedno sa algoritmom učenja, što otežava razvoj drugog algoritma učenja koji može da bude primenjen na istoj arhitekturi neuralne mreže. Neke druge biblioteke i aplikacije ne isporučuju takve entitete kao što su neuroni, slojevi neurona ili mreže slojeva, ali implementuju celokupnu arhitekturu neuralne mreže u jednu klasu. U nekim slučajevima je diskutabilno šta je bolje, zato što može da se javi neuobičajena arhitektura neuralne mreže, gde je teško razdvojiti mrežu u slojeve i neurone. U nekim drugim slučajevima, mreže ne teže višeslojnoj arhitekturi, tako da je potpuno beskorisno imati dodatne entitete kao što su slojevi. Ali, u većini slučajeva, preporučljivo je da se svi entiteti podele u različite klase, što vodi, ne samo ka lakšem razumevanju, već takođe dopušta ponovnu upotrebu svih komponenti i izgradnju nove neuralne mreže od manjih generičkih delova.</p>
<p>&nbsp;Biblioteka sadrži šest glavnih entiteta: </p>
<ul style="list-style-type: square;">
<li>Neuron – osnovna abstraktna klasa za sve neurone, koja obuhvata tako obične entitete kao što su&nbsp;neuronska težina, izlazna vrednost i ulazna vrednost. Druge neuronske klase se nasleđuju iz&nbsp;osnovne kalase sa ciljem da je prošire koristeći dodatke karakteristike i specijalizujući ih.</li>
</ul>
<ul style="list-style-type: square;">
<li>Sloj – predstavlja kolekciju neurona. Ovo je osnovna abstraktna klasa, koja obuhvata običnu&nbsp;funkcionalnost za sve neuronske slojeve.</li>
<li>
<p>Mreža – predstavlja neuralnu mrežu koja je kolekcija neuronskih slojeva. Ovo je osnovna abstraktna klasa, koja pruža običnu funkcionalnost generičke neuralne mreže. Kako bismo implementovali specifičnu arhitekturu neuralne mreže, potrebno je da nasledimo klasu, proširujući je specifičnim funkcionalnostima bilo koje arhitekture neuralne mreže. Proces učenja neuralne mreže je dat na Slici 4.</p>
</li>
<li>IActivationFunction – interfejs aktivacione funkcije. Aktivacione funkcije se koriste kod aktivacionih neurona – tipa neurona, gde težinske suma njegovih ulaza biva izračunata i onda se ta vrednost koristi kao ulaz za funkciju aktivacije i izlaz postaje izlazna vrednost neurona.</li>
</ul>
<ul style="list-style-type: square;">
<li>IUnsupervisedLearning – interfejs za nenadzirani algoritam učenja – tip algoritma učenja gde je sistemu pružen primer ulaza samo tokom faze učenja, ali ne i željeni izlazi. Cilj ovog sistema je da organizuje samog sebe na način da pronađe koleraciju i sličnosti između uzoraka podataka.</li>
<li>
<p>ISupervisedLearning – interfejs za nadzirane algoritme učenja – tip algoritama učenja gde sistem dobija uzorke ulaza, sa željenim izlaznim vrednostima tokom faze učenja. Cilj ovog sistema je da uopšti podatke koji treba da se nauče i nači da obezbedi tačne izlazne vrednosti kada su one predstavljene samo ulaznim vrednostima.</p>
</li>
</ul>
<p><img loading="lazy" decoding="async" class=" size-full wp-image-3425" src="http://automatika.rs/wp-content/uploads/2012/10/proces_ucenja_neuralnih_mreza_automatika_rs.jpg" width="450" height="269" alt="proces ucenja neuralnih mreza automatika rs" style="vertical-align: middle; display: block; margin-left: auto; margin-right: auto;" srcset="https://www.automatika.rs/wp-content/uploads/2012/10/proces_ucenja_neuralnih_mreza_automatika_rs.jpg 450w, https://www.automatika.rs/wp-content/uploads/2012/10/proces_ucenja_neuralnih_mreza_automatika_rs-300x179.jpg 300w" sizes="auto, (max-width: 450px) 100vw, 450px" /></p>
<p style="text-align: center;">Slika 4. Proces učenja neuralne mreže</p>
<p> &nbsp;Biblioteka pruža sledeće arhitekture neuralnih mreža: </p>
<ul style="list-style-type: square;">
<li>
<p>Mreža aktivacije – neuralna mreža gde neuroni računaju svoje izlaze kao funkciju aktivacije izlaza i argument je težinska suma njenih ulaza kombinovana sa vrednošću threshold-a. Mreža može da se sastoji od pojedinačnog sloja ili više slojeva. Trenirana nadziranim algorimima učenja, mreža dopušta da se reše zadaci poput aproksimacije, predviđanja, klasifikacije i prepoznavanja.</p>
</li>
<li>
<p>Mreža rastojanja – neuralna mreža gde svaki neuron računa svoj izlaz kao rastojanje između težinskih vrednosti i ulaznih vrednosti. Mreža se sastoji od jednog sloja i može da bude korišćena kao osnova za mreže kao što su Kohonen samo-organizaciona mapa, elastična mreža i Hamming mreža.</p>
</li>
</ul>
<p> &nbsp;Korišćeni su različiti algoritmi učenja kako bi se istrenirale različite neuralne mreža i kako bi se rešili različiti tipovi problema: </p>
<ul style="list-style-type: square;">
<li>Percepciono učenje – ovaj algoritam se smatra prvim algoritmom za učenje neuralnih mreža i njegova istorija počinje od 1957. godine. Algoritam može da bude korišćen sa jednoslojnom aktivacionom mrežom, gde svaki neuron ima funkciju aktivacije threshold-a. Opseg njenih primena je prilično mali i ograničen i svodi se na klasifikaciju linearno odvojivih podataka.</li>
</ul>
<ul style="list-style-type: square;">
<li>Učenje po Delta pravilu – ovaj algoritam je po težini sledeći iza algoritma percepcionog učenja. On koristi izvode funkcije aktivacije i može da se primeni samo u jednoslojnoj aktivacionoj mreži gde svaki neuron ima kontinualnu funkciju aktivacije umesto threshold funkcije aktivacije. Najpopularnija kontinualna funkcija aktivacije je unipolarna i bipolarna sigmoidna funkcija. Kako algoritam može da se primeni samo na jednoslojne mreže, spektar primene ovakvih mreža je ograničen na zadatke koji se tiču klasifikacije i prepoznavanja.</li>
</ul>
<ul style="list-style-type: square;">
<li>Učenje pomoću back-propagacije – ovo je jedan od najpopularnijih i najpoznatijih algoritama za višeslojne mreže i njihovo učenje. Inicijalno, on je opisan 1974. godine i od tog vremena, on je detaljno proučavan i primenjivan za širok spektar različitih zadataka, koji uključuju aproksimaciju, predviđanje, prepoznavanje objekata, itd.</li>
</ul>
<ul style="list-style-type: square;">
<li>SOM učenje – ovaj algoritam je razvijen od strane Kohonen-a, i smatra se jednim od najpoznatijih nenadziranih algoritama učenja koji se primenjuje u problemima klasterizacije. On tretira neuralnu mrežu kao 2D mapu čvorova, gde svaki čvor može da predstavlja odvojenu klasu. Algoritam organizuje mrežu na način tako da je moguće pronaći koleraciju i sličnosti između uzoraka podataka.</li>
</ul>
<ul>
<li>Učenje elastične mreže – algoritam je sličan ideji SOM algoritma učenja, ali ne tretira mrežne neurone kao 2D mapu čvorova, već kao prsten. Za vreme procedure učenja, prsten dobija neki oblik, što predstavlja rešenje. Jedna od najpoznatijih demonstracija ovog algoritma učenja je problem putujućeg prodavca.</li>
</ul>
<p> &nbsp;Primer primene neuralnih mreža je dat na Slici 5. </p>
<p><img loading="lazy" decoding="async" class=" size-full wp-image-3426" src="http://automatika.rs/wp-content/uploads/2012/10/primena_neuralnih_mreza_u_c__automatika_rs.jpg" width="450" height="415" alt="primena neuralnih mreza u c  automatika rs" style="vertical-align: middle; display: block; margin-left: auto; margin-right: auto;" srcset="https://www.automatika.rs/wp-content/uploads/2012/10/primena_neuralnih_mreza_u_c__automatika_rs.jpg 450w, https://www.automatika.rs/wp-content/uploads/2012/10/primena_neuralnih_mreza_u_c__automatika_rs-300x277.jpg 300w" sizes="auto, (max-width: 450px) 100vw, 450px" /></p>
</p></div>
<div style="text-align: center;">&nbsp;Slika 5. Primena neuralnih mreža</div>
<div style="text-align: center;">&nbsp;</div>
<div style="text-align: justify;">&nbsp;Prezentovani primeri demonstriraju da je inicijalna svrha biblioteke ispunjena &#8211; ona je fleksibilna, sposobna za ponovnu upotrebu i jednostavna za korišćenje i primenu pri rešavanju širokog spektra različitih problema. Međutim, tu ima još jako puno da se radi, zbog ogromnog opsega različitih neuralnih mreža i njihovih arhitektura, ali sama biblioteka može da se koristi za rešavanje širokog spektra problema i, naravno, uvek postoji mogućnost njenog proširenja.</p>
<p><em>&nbsp;Tekst poseduje informacije proneđene na sledeićim linkovima:</em> </p>
<ul>
<li><em>http://www.codeproject.com/Articles/16447/Neural-Networks-on-C</em></li>
<li><em>http://en.wikipedia.org/wiki/C_Sharp_(programming_language)<a href="http://en.wikipedia.org/wiki/C_Sharp_(programming_language)"><br /></a></em></li>
</ul>
<p><em>i u radu „Application </em><em>of Neural Networks to Character Recognition“ autora Dong Xiao Ni iz Seidenberg School of CSIS, Pace </em><em>University, White Plains, NY, objavljenog 2007. godine.</p>
<p></em></p>
</p></div>
<p>The post <a href="https://www.automatika.rs/baza-znanja/neuralne-mreze/neuralne-mreze-i-c-programski-jezik.html">Neuralne mreže i C# programski jezik</a> appeared first on <a href="https://www.automatika.rs">Automatika.rs</a>.</p>
]]></content:encoded>
					
					<wfw:commentRss>https://www.automatika.rs/baza-znanja/neuralne-mreze/neuralne-mreze-i-c-programski-jezik.html/feed</wfw:commentRss>
			<slash:comments>0</slash:comments>
		
		
			</item>
	</channel>
</rss>
