{"id":901,"date":"2023-01-02T07:35:05","date_gmt":"2023-01-02T07:35:05","guid":{"rendered":"https:\/\/web.htk.tlu.ee\/digitaru\/tarkvara2\/?post_type=chapter&p=901"},"modified":"2023-01-02T07:35:05","modified_gmt":"2023-01-02T07:35:05","slug":"konvolutsiooniline-narvivork-convolutional-neural-network","status":"publish","type":"chapter","link":"https:\/\/web.htk.tlu.ee\/digitaru\/tarkvara2\/chapter\/konvolutsiooniline-narvivork-convolutional-neural-network\/","title":{"raw":"Konvolutsiooniline n\u00e4rviv\u00f5rk (Convolutional Neural Network)","rendered":"Konvolutsiooniline n\u00e4rviv\u00f5rk (Convolutional Neural Network)"},"content":{"raw":"

Konvolutsiooniline n\u00e4rviv\u00f5rk (Convolutional Neural Network<\/em>)\uf0c1<\/a><\/h1>\r\nKonvolutsioonilisi n\u00e4rviv\u00f5rke (Convolutional Neural Network<\/em> - CNN) kasutatakse pildi klassifitseerimiseks (image classification<\/em> - mis objekt on pildil millise t\u00f5en\u00e4osusega), objekti tuvastamiseks (object detection<\/em> - tuvastatakse mitmed objektid pildilt), objekti segmenteerimiseks (object segmentation<\/em> - milline piksel pildilt kuulub millist t\u00fc\u00fcpi objektile).\r\n
\r\n\r\n[caption id=\"attachment_905\" align=\"alignnone\" width=\"1024\"]\"Pildi Klassifitseerimise ja tuvastamise vahe. Pildi allikas: https:\/\/analyticsindiamag.com\/top-5-image-classification-research-papers-every-data-scientist-should-know\/<\/a>[\/caption]\r\n\r\n<\/figcaption><\/figure>\r\nCNN t\u00f6\u00f6p\u00f5him\u00f5te on saanud inspiratsiooni juba 1960ndatel aastatel l\u00e4biviidud teadusuuringust<\/a> loomade n\u00e4gemisest. Nad on oma uuringute tulemusena saanud ka Nobeli preemia 1981. aastal. Nad panid t\u00e4hele, et kassi neuron aktiveerus kui n\u00e4gemisalas teatud piirkonnas n\u00e4idati valgust. Ehk siis \u00fcks neuron reageerib vaid teatud piirkonnale kogu n\u00e4htavast alast. Need erinevad piirkonnad on v\u00e4ikese \u00fclekattega. Kokku katavad nad \u00e4ra kogu n\u00e4htava ala. Sarnast loogikat kasutatakse ka CNN puhul.\r\n\r\n[caption id=\"attachment_904\" align=\"alignnone\" width=\"678\"]\"Hubel Hubel ja Wiesel eksperiment. Pildi allikas https:\/\/goodpsychology.wordpress.com\/2013\/03\/13\/235\/<\/a>[\/caption]\r\n
<\/figure>\r\nP\u00f5hjalikumalt CNN ajaloo kohta saab lugeda n\u00e4iteks siit: https:\/\/www.esantus.com\/blog\/2019\/1\/31\/convolutional-neural-networks-a-quick-guide-for-newbies<\/a>\r\n\r\nN\u00e4rviv\u00f5rk koosneb erinevatest kihtidest. K\u00f5ige esimene kiht on sisendkiht, kuhu antakse sisendandmed. Kiht koosneb neuronitest, millest iga\u00fcks t\u00e4histab mingit v\u00e4\u00e4rtust sisendi kohta. Sisendile j\u00e4rgneb mitu peidetud kihti, mis samamoodi koosnevad neuronitest. Tavap\u00e4raselt liigub igast sisendneuronist infot igasse j\u00e4rgmise peidetud kihi neuronisse. Neuronite arv peidetud kihil v\u00f5ib olla erinev sisendkihil olevatest. Peidetud kihte v\u00f5ib olla mitu t\u00fckki. Igal kihil v\u00f5ib omakorda olla erinev hulk neuroneid. Peale viimast peidetud kihti liiguvad andmed v\u00e4ljundkihti, mis n\u00e4iteks \u00fctleb, millisesse klassi antud sisend kuulub. V\u00e4ljundkihis v\u00f5ib ka mitu neuronit olla. Info liigub vasakult paremale. Peidetud kihi neuronid on justkui funktsioonid, mis arvutavad sissetulnud andmete pealt uue v\u00e4\u00e4rtuse, mis siis omakorda antakse edasi j\u00e4rgmisele kihile. Seda funktsiooni, mis arvutab sisendi pealt uue tulemuse nimetatakse aktivatsioonifunktsiooniks.\r\n\r\n[caption id=\"attachment_906\" align=\"alignnone\" width=\"791\"]\"N\u00e4rviv\u00f5rk N\u00e4rviv\u00f5rk, kus vasakul on sisendkiht (input layer<\/em>), sellele j\u00e4rgnevad kaks peidetud kihti (hidden layer<\/em>) ja k\u00f5ige paremal on v\u00e4ljundi kiht (output layer<\/em>). Info sisestatakse sisendkihti ja liigub seej\u00e4rel vasakult paremale. L\u00f5puks on v\u00e4ljundiks n\u00e4iteks info, kas pildil on kass v\u00f5i mitte. Pildi allikas: https:\/\/cs231n.github.io\/convolutional-networks\/<\/a>[\/caption]\r\n
<\/figure>\r\nIga \u00fchendus j\u00e4rgmise kihiga omab kaalu. Neuron v\u00f5tab k\u00f5ik \u00fchenduste kaudu tulevad v\u00e4\u00e4rtused, korrutab need \u00fchenduste kaaludega ja summeerib kokku. Sedasi saadakse sisendi kaalutud summa, mis on sisendiks aktivatsioonifunktsioonile.\r\n\r\n
\r\n

Konvolutsiooniline n\u00e4rviv\u00f5rk\uf0c1<\/a><\/h2>\r\nPiltidega tegelemiseks kasutatakse konvolutsioonilisi n\u00e4rviv\u00f5rke. Tavalise n\u00e4rviv\u00f5rgu probleem on see, et kui sisendiks on pildi pikslid (nende v\u00e4\u00e4rtus n\u00e4iteks v\u00e4rvi ja\/v\u00f5i v\u00e4rvitugevusena), siis n\u00e4rviv\u00f5rgu jaoks on need andmed \u00fche pika vektorina ning pikslite asukohta ei v\u00f5eta arvesse. Konvolutsioonilise n\u00e4rviv\u00f5rgu korral saadetakse j\u00e4rgmisesse kihti vaid l\u00e4hestikku paiknevad neuronid. Ehk kui tavalise n\u00e4rviv\u00f5rgu puhul j\u00f5uavad sisendkihist esimese peidetud kihi neuronini iga sisendneuroni info, siis konvolutsioonilise n\u00e4rviv\u00f5rgu puhul vaid mingi v\u00e4iksem alamhulk. Kui n\u00e4iteks pildi m\u00f5\u00f5tmed on 1000 x 1000 pikslit, siis v\u00f5ib \u00fcks v\u00e4ike alamosa olla 10x10 pikslit (v\u00f5i isegi v\u00e4iksem).\r\n\r\n<\/section>
\r\n

Lisalugemist\uf0c1<\/a><\/h2>\r\n