Na čem pracujeme v CZPJ?


Vyzkoušejte si některé naše jazykové nástroje:
Centrum zpracování přirozeného jazyka se zaměřuje na získávání výsledků v oblastech informačních technologií a jazykovědy. Výsledky projektů jsou hojně publikovány na konferencích, Centrum ZPJ také spolupracuje s tuzemskými i zahraničními pracovišti podobného zaměření a studentům nabízí výměnné pobyty na partnerských univerzitách mimo republiku.

Bližší informace následují níže, tematicky seskupené do následujících kapitol:


Korpusy

Korpus je kolekce textových dat v elektronické podobě. Jako významný zdroj lingvistických dat slouží korpusy ke zkoumání mnoha frekvenčních jevů jazyka a v současnosti jsou již neodmyslitelným nástrojem v oblasti NLP. Kromě korpusů obsahujících libovolné texty, se vytvářejí i jiné pro zvláštní účely, např. značkované, doménové, mluvené nebo chybové.

Korpusy se používají při zkoumání a konstrukci gramatik přirozených jazyků. Dále mohou být užitečné při tvorbě gramatického korektoru, při výběru hesel do slovníků, nebo jako zdroj dat pro automatickou kategorizaci textů s použitím metod strojového učení. Paralelní korpusy jsou tvořeny obsahově totožnými a zarovnanými texty v různých jazycích. Uplatňují se zejména v oblastech zjednoznačňování významů a strojového překladu.

V dnešní době je nejdůležitějším zdrojem korpusových dat Internet. Aby bylo možné data získaná z webu použít pro jazykové účely, je velmi vhodné je předzpracovat: například programem jusText na odstranění netextových částí webových stránek, nástrojem onion, který odstraňuje duplicitní části textu, nebo programem chared na rozpoznávání kódování textů. Velmi užitečným je také oblíbený systém gensim, který umožňuje určit témata, o kterých se v píše v daném textu.

V NLP Centru byla vytvořena kompletní sada nástrojů pro tvorbu a správu korpusů Corpus Architect. Tyto korpusy mohou obsahovat i více než 100 miliard slovních pozic.

Související projekty:

Související články:

(zpět na seznam kategorií)

Slovníky

Slovníky jsou odjakživa základní pomůckou jazykovědců. Ovšem práce s nimi v papírové podobě je zdlouhavá a nepraktická. Proto jedním z prvních projektů CZPJ byla digitalizace klasických slovníků spisovného jazyka a vývoj souboru pokročilých nástrojů pro zpracování slovníkových dat označovaných souhrnně jako lexikografická stanice. Jedná se o systém, který umožní odbornému uživateli pohodlný přístup k mnoha různým lingvistickým zdrojům a poskytne mu aplikační prostředí pro vyhledávání a editaci dat.

Jedním z našich slovníkově zaměřených projektů je vývoj platformy DEB, která při použití architektury klient-server výše uvedené požadavky splňuje. Příkladem klientské aplikace je prohlížeč slovníků DEBDict, ve kterém je kromě digitalizovaných slovníků k dispozici také několik encyklopedií, onomastický a frazeologický slovník. Aplikace pro DEB se vyvíjejí v jazyku XUL a jsou dostupné jako rozšíření pro webový prohlížeč Firefox.

Související projekty:

(zpět na seznam kategorií)

Morfologie

Morfologická analýza je základním prostředkem zkoumání přirozeného jazyka a zabývá se rozlišováním a generováním správných gramatických tvarů slovních výrazů, které vzniknou skloňováním a časováním. Výsledkem je sada značek, které popisují gramatické kategorie daného tvaru, zejména pak základní tvar (lemma) a slovní vzor. Automatické rozlišení tvaru slova ve volném textu lze využít při vývoji gramatického korektoru, jako pomůcka při značkování korpusů nebo při poloautomatickém vytváření slovníků. Největší problém v této oblasti je morfologická desambiguace (zjednoznačňování gramatické značky) - tedy jak automaticky rozlišit, zda slovo "jedu" označuje sloveso nebo podstatné jméno.

V CZPJ byl vytvořen obecný morfologický analyzátor pro češtinu "ajka" pokrývající slovní zásobu s více než 6 milióny slovních tvarů. Díky němu vznikly podobný analyzátor pro slovenštinu, gramatický korektor "fispell", převodník ascii textu na text s diakritikou "czaccent" nebo interaktivní rozhraní pro IM protokol Jabber.

Související projekty:

(zpět na seznam kategorií)

Syntaktická analýza

Úkolem syntaktické analýzy je rozpoznat, zda vstupní textový řetězec je větou v daném (přirozeném) jazyce. V kladném případě je výsledkem analýzy syntaktická struktura věty, například v podobě derivačního stromu. Cílem syntaktické analýzy je, aby počítač "porozuměl" gramatice přirozeného jazyka. Toho lze využít např. při vývoji syntaktického korektoru na opravu interpunkce, dialogového systému pro komunikaci v přirozeném jazyce nebo jako jeden z nástrojů pro realizaci strojového překladu. Čeština se svou bohatou ohebností (flexí) a volným slovosledem patří k nejobtížněji analyzovatelným jazykům, jelikož vyžaduje mnohem více pravidel gramatiky, než jiné jazyky.

NLP Centrum vyvíjí několik syntaktických analyzátorů. Syntaktický analyzátor synt je založen na české metagramatice doplněné o sémantické akce a kontextová omezení. SET je oblíbený syntaktický analyzátor založený na rozpoznávání vzorů. Oba tyto systémy dosahují přesnost až 90%. Pro výukové účely existuje jednoduchý analyzátor Zuzana.

Související projekty:

(zpět na seznam kategorií)

Sémantika

Sémantická a pragmatická analýza jsou nejkomplexnější úrovně zpracování přirozeného jazyka, protože využívají všechny výše zmíněné disciplíny. Prubířským kamenem je zde strojový překlad, který s uspokojivými výsledky pro češtinu neexistuje.

Jedním z dlouhodobých projektů CZPJ je využití transparentní intenzionální logiky (TIL) jako jazyka pro sémantickou reprezentaci znalostí a transformačního jazyka v procesu automatického překladu. V současné fázi je reálné zpracovávat omezené znalosti v jednodušší podobě - experimentuje se se strojovým překladem nad určitou doménou, např. úředních dokumentů nebo počasí, nebo s polomechanickým překladem mezi blízkými jazyky, což jsou problémy řádově snažší. Při tom se využívají korpusy, sémantické sítě a elektronické slovníky.

V oblasti reprezentace významů a znalostí můžeme zmínit významnou spoluúčast členů centra v evropských projektech EuroWordNet a Balkanet, které byly zaměřeny na budování vícejazyčné sémantické sítě typu WordNet.

Související projekty:

Animovaná ukázka Visual Browseru:

(zpět na seznam kategorií)

Další informace


 

main_topics (naposledy editoval xkocinc dne 2013-09-23 08:32:21 )