Bevezetés
A gépi tanulás területén az osztályozás az egyik legalapvetőbb elvégezhető feladat. Az osztályozás lényegében azt a folyamatot jelenti, amely meghatározza, hogy egy adott bemenet melyik kategóriába tartozik. Ez számos bemenettel megtehető – képek, hangfelvételek, szöveges dokumentumok stb.
Az osztályozó pontossága számos alkalmazásban kulcsfontosságú. Például egy osztályozó használható a spam e-mailek észlelésére, a fényképeken lévő objektumok azonosítására vagy a beszédparancsok felismerésére. Mindegyik esetben a nagyfokú pontosság elengedhetetlen a rendszer megfelelő működéséhez.
Tekintettel az osztályozás fontosságára, nem meglepő, hogy sok kutatást szenteltek az osztályozók optimalizálásának. Ebben a cikkben megvizsgálunk néhány kulcsfontosságú jellemzőt, amelyek jó osztályozót tesznek lehetővé.
Pontosság
A jó osztályozó talán legkézenfekvőbb kritériuma a pontosság. Az osztályozó célja egy adott bemenet kategóriájának helyes azonosítása, ezért magától értetődő, hogy egy osztályozó, amely ezt gyakrabban teszi meg, jobb, mint az, amelyik ritkábban teszi ezt.
A pontosságot általában a „pontosság” néven ismert mérőszámmal mérik. A pontosság a helyesen besorolt példák aránya azon példák közül, amelyeket az osztályozó egy adott kategóriába tartozónak minősített. Más szóval, a pontosság megmutatja, hogy az osztályozó milyen jól teljesít a hamis pozitív eredmények elkerülésében (azaz olyan esetekben, amikor egy bemenetet helytelenül egy adott kategóriába tartozóként azonosít).
Természetesen kompromisszum van a pontosság és más tényezők, például a sebesség és a memóriahasználat között. Egy túl pontos osztályozó túl sokáig tarthat például a bemenetek osztályozásához. Ennek ellenére általában a pontosságot tekintik a legfontosabb tényezőnek az osztályozó értékelése során.
Képzési adatok
Nem elég, ha egy osztályozó pontos a bemenetek egy kis részhalmazán; a bemenetek széles skáláján pontosnak kell lennie. Ennek eléréséhez az osztályozót különféle bemenetekre kell betanítani.
Az osztályozó létrehozásához használt betanítási adatoknak reprezentálniuk kell azokat az adatokat, amelyeket az osztályozó a valós világban osztályozni fog. Például, ha egy osztályozó célja az állatok azonosítása a fényképeken, a képzési adatoknak tartalmazniuk kell az állatok széles körét különböző körülmények között és pózokban.
Ezenkívül a betanítási adatoknak elég nagynak kell lenniük ahhoz, hogy az osztályozó által talált bemenetek teljes skáláját rögzítsék. Ha a betanítási adatok túl kicsik, akkor előfordulhat, hogy az osztályozó nem érti az adatokat, ami miatt rosszul teljesít olyan bemeneteken, amelyek hasonlóak, de nem azonosak a betanítási adatokkal.
Funkció kiválasztása
A jó osztályozó kialakításának egyik fő kihívása annak eldöntése, hogy a bemenet mely jellemzőit vegyük figyelembe. Sok esetben maguk a bemeneti adatok rendkívül nagy dimenziójúak – például egy RGB-kép több millió pixelt tartalmazhat, amelyek mindegyike jellemzőnek tekinthető.
Azonban nem minden funkció egyformán hasznos. Egyes funkciók erősen korrelálhatnak másokkal, ami feleslegessé teszi őket. Mások alig vagy egyáltalán nem rendelkeznek előrejelző képességgel az adott feladathoz.
A megfelelő funkciók kiválasztása időigényes és kihívásokkal teli folyamat lehet. Jellemzően a funkciók kiválasztása kézzel történik, a tartományszakértők mérlegelik a különféle szolgáltatásokat, és eldöntik, hogy melyek a leghasznosabbak. Az elmúlt években azonban a mélytanulás területe lehetővé tette az automatizált jellemzőválasztást, a neurális hálózatok automatikusan megtanulják, hogy egy adott feladathoz mely jellemzők a legfontosabbak.
Modell kiválasztása
Egy másik fontos szempont az osztályozó fejlesztésénél, hogy melyik modellarchitektúrát használjuk. Az osztályozáshoz számos különféle típusú modell használható, beleértve a döntési fákat, a logisztikus regressziót és a támogató vektorgépeket.
Minden modelltípusnak megvannak a maga erősségei és gyengeségei, és a legjobb választás a megoldandó problémától függ. Például a döntési fák gyakran hatékonyak a jellemzők közötti nemlineáris kapcsolatok rögzítésére, míg a logisztikus regresszió jobban megfelel nagyon nagy adatkészletekhez.
Az elmúlt években a mély tanulás az osztályozás hatékony megközelítéseként jelent meg. A mély neurális hálózatokról kimutatták, hogy a legkorszerűbb pontosságot érik el a feladatok széles körében, a képfelismeréstől a természetes nyelvi feldolgozásig. A mély tanulás azonban számítási szempontból költséges lehet, és nagy mennyiségű képzési adatot igényel.
Szabályozás
A túlillesztés gyakori probléma a gépi tanulásban, ahol az osztályozó túlságosan specializálódik a betanítási adatokra, és gyengén teljesít az új bemeneteken. A túlillesztés elkerülésének egyik módja a szabályosítás, amely további megszorításokat vezet be az osztályozó kimenetére.
A legalizálásnak sokféle típusa létezik, de az egyik általános megközelítés az „L2 regularizáció” néven ismert. Ez magában foglalja egy büntetés hozzáadását a veszteségfüggvényhez, amelyet az osztályozó minimálisra csökkent a képzés során. A büntetés mértéke növekszik, ahogy az osztályozó súlya nő, ami arra ösztönzi a súlyokat, hogy kicsik maradjanak, és megakadályozza a túlillesztést.
Következtetés
Sok különböző tényező járul hozzá a jó osztályozóhoz, a pontosságtól és az adatok kiválasztásától a jellemzők és modellek kiválasztásáig. Végső soron a legjobb választás a megoldandó konkrét problémától, valamint a rendelkezésre álló adatoktól és erőforrásoktól függ. Mindazonáltal ezen tényezők mindegyikének gondos mérlegelésével lehetőség nyílik egy hatékony és pontos osztályozó kifejlesztésére, amely jól illeszkedik a tervezett alkalmazáshoz.
