Belépés címtáras azonosítással
magyar nyelvű adatlap
Természetes nyelvi és szemantikus technológiák
A tantárgy angol neve: Natural Language Processing and Semantic Technologies
Adatlap utolsó módosítása: 2024. június 11.
A fenti forma a Neptun sajátja, ezen technikai okokból nem változtattunk.
A kötelező előtanulmányi rend az adott szak honlapján és képzési programjában található.
Előadás:
Bevezetés. A természetesnyelv-feldolgozás (natural language processing, NLP) áttekintése, alapfogalmak, áttekintő irodalmak, célkitűzések, kihívások, alkalmazási területek, ajánlott szoftvereszközök áttekintése.
Szövegreprezentációk és információkeresés. Szövegindexelés és információ-visszakeresés, lekérdezési- és dokumentum-modellek, találati lista rangsorolás, hatékonyság mérése. Szövegkorpusz, konkordancia, vektor-tér modell, tévesztési mátrix, pontosság, felidézés, F1-score.
Statisztikai nyelvi modellek és alkalmazásaik. Az NLP-feldolgozólánc elemei: adattisztítás, szegmentálás és tokenizálás, modellépítés. Szózsák, n-gram, TF-IDF és rejtett szemantikai modellek. Tipikus alkalmazások: szövegklaszterezés, szövegkivonatolás, hangulatelemzés, stilometria, spamszűrés és témamodellezés (topic modelling).
Gépi tanuláson alapuló és nagy nyelvi modellek. Szövegek nyelvi és szemantikai tulajdonságainak tanulása korpuszból, mélytanulási módszerek (szóbeágyazások, RNN, LSTM, transzformer), generatív és nagy nyelvi nyelvi modellek (GPT, LLM) működése és alkalmazásaik (csetbotok, új generációs keresőgépek: retrieval-augmented generation).
A nyelvtani elemzés és természetes nyelvű interfészek. Nyelvi szabályszerűségek leírása nyelvtanokkal, szintaktikai elemzés és jellemző algoritmusai, az elemző működése, kifejezésstruktúra, levezetési szabály, elemzési fa, nyelvtanok tanulása, kontrollált természetes nyelvek, csetbotkészítés (ANTLR, Amazon Alexa, ChatGPT).
Szövegannotálás és információkinyerés. Szókincs és nyelvtan kiterjesztése szemantikai információkkal, szófaji címkézés, szemantikus annotálás, egyértelműsítés, kompozíciós szemantikai elemzés, generatív modellek alkalmazása.
Tudásmenedzsment, tárgyterületek modellezése. Tudásmodellezés, explicit és implicit tudás, tudásreprezentációs megközelítések, szakértői rendszerek, következtetés, magyarázatgenerálás.
Szemantikus technológiák. Szemantikus web koncepció, szemantikus web technológiák, egységes erőforrás azonosító (URI), erőforrás leíró keretrendszer (RDF), nyílt világ feltételezés alapú információleírás.
Linked Data információelérés. Linked Data koncepció, nyílt adatforrások a világban, nyílt szótárak, szemantikus hálózatok.
Ontológiák, logikai reprezentációk. Szótárak, tezauruszok, ontológiák építése és alkalmazása, pszicholingvisztikai modellek.
Logikai következtetés. Ontológiák reprezentálása leíró logikákban, leíró logikai következtetés, Tableau algoritmus, szabály alapú reprezentáció, előre és hátrafelé láncoló következtetés.
Párbeszédkezelés, érvelés. Párbeszédek leírása, modellezése szabály alapú megközelítéssel, érvelési rendszerek, magasabb rendű logikai modellek, modális logikák alkalmazása érvelések leírására
Esettanulmányok. Tudástárak építése és alkalmazása, szemantikus annotálás információkinyerési céllal, természetes nyelvű robotinterfészek megvalósítása, böngésző alkalmazásokba beépülő nyelvi technológiák.
Gyakorlatok:
Korpuszkezelés, indexépítés, szövegkeresés, pontosság és felidézés számítása, Apache Solr.
Elemi nyelvfeldolgozás (szegmentálás, tokenizálás, szófaji címkézés) NLTK és Spacy segítségével.
Szózsák és n-gram modellek építése és alkalmazásuk.
Nagy nyelvi modellek használata (OpenAI és offline), prompttervezés, csetbotkészítés.
Nyelvtani elemző készítése ANTLR segítségével, gyakorlati alkalmazásuk.
Szövegannotálás és információkinyerés Spacy-vel és nagy nyelvi modellekkel.
Szakértői rendszerek demó, egyszerű szabályalapú környezet vizsgálata (Drools).
RDF adatmodellek vizsgálata (RDF4J adatbázis, múzeumi adatok elemzése)
RDF - Linked data adatmodellek vizsgálata, múzeumi adatok integrálása DBPedia adatokkal.
Ontológiák vizsgálata (Protege ontológiaszerkesztő eszköz), következtetés a múzeumi adatmodellen
Ontológiák építése, egyszerűbb modellek létrehozása Protege környezetben.
Érvelés szakértői rendszermodellben.
Házi feladatok emelt szintű megoldásáért összesen maximum 25 IMSc pont szerezhető.
Az IMSc pontok megszerzése az IMSc programban nem résztvevő hallgatók számára is biztosított.