- P-ISSN1013-0799
- E-ISSN2586-2073
- KCI
정보검색 성능 향상을 위한 단어 중의성 해소 모형에 관한 연구
Improving the Retrieval Effectiveness by Incorporating Word Sense Disambiguation Process
이용구 (계명대학교)
초록
이 연구에서는 문헌 및 질의의 내용을 대표하는 주제어의 중의성 해소를 위해 대표적인 지도학습 모형인 나이브 베이즈 분류기와 비지도학습 모형인 EM 알고리즘을 각각 적용하여 검색 실험을 수행한 다음, 주제어의 중의성 해소를 통해 검색 성능의 향상을 가져올 수 있는지를 평가하였다. 실험문헌 집단은 약 12만 건에 달하는 한국어 신문기사로 구성하였으며, 중의성 해소 대상 단어로는 한국어 동형이의어 9개를 선정하였다. 검색 실험에는 각 중의성 단어를 포함하는 18개의 질의를 사용하였다. 중의성 해소 실험 결과 나이브 베이즈 분류기는 최적의 조건에서 평균 92%의 정확률을 보였으며, EM 알고리즘은 최적의 조건에서 평균 67% 수준의 클러스터링 성능을 보였다. 중의성 해소 알고리즘을 통합한 의미기반 검색에서는 나이브 베이즈 분류기 통합 검색이 약 39.6%의 정확률을 보였고, EM 알고리즘 통합 검색이 약 36%의 정확률을 보였다. 중의성 해소 모형을 적용하지 않은 베이스라인 검색의 정확률 37%와 비교하면 나이브 베이즈 통합 검색은 약 7.4%의 성능 향상률을 보인 반면 EM 알고리즘 통합 검색은 약 3%의 성능 저하율을 보였다.
- keywords
- information retrieval, word sense disambiguation, Naive Bayes classifier, EM algorithm, clustering, retrieval effectiveness, 정보검색, 중의성 해소, 나이브 베이즈 분류기, EM 알고리즘, 클러스터링, information retrieval, word sense disambiguation, Naive Bayes classifier, EM algorithm, clustering, retrieval effectiveness
Abstract
This paper presents a semantic vector space retrieval model incorporating a word sense disambiguation algorithm in an attempt to improve retrieval effectiveness. Nine Korean homonyms are selected for the sense disambiguation and retrieval experiments. The total of approximately 120,000 news articles comprise the raw test collection and 18 queries including homonyms as query words are used for the retrieval experiments. A Naive Bayes classifier and EM algorithm representing supervised and unsupervised learning algorithms respectively are used for the disambiguation process. The Naive Bayes classifier achieved 92% disambiguation accuracy, while the clustering performance of the EM algorithm is 67% on the average. The retrieval effectiveness of the semantic vector space model incorporating the Naive Bayes classifier showed 39.6% precision achieving about 7.4% improvement. However, the retrieval effectiveness of the EM algorithm-based semantic retrieval is 3% lower than the baseline retrieval without disambiguation. It is worth noting that the performances of disambiguation and retrieval depend on the distribution patterns of homonyms to be disambiguated as well as the characteristics of queries.
- keywords
- information retrieval, word sense disambiguation, Naive Bayes classifier, EM algorithm, clustering, retrieval effectiveness, 정보검색, 중의성 해소, 나이브 베이즈 분류기, EM 알고리즘, 클러스터링, information retrieval, word sense disambiguation, Naive Bayes classifier, EM algorithm, clustering, retrieval effectiveness
참고문헌
(2001). 사전의 뜻풀이말에서 추출한 의미정보에 기반한 동형이의어 중의성 해결 시스템 소프트웨어 및 응용. , 688-698.
(2001). “A Corpus-based Approach to Com- parative Evaluation of Statistical Term Association Measures Journal of the American Society for Infor- mation Science and Technology. , 283-296.
(1992). “A Method for Disambigu- ating Word Sense in a Large Corpus. , 415-439.
(1992a). “Estimating Upper and Lower Bounds on the Performance of Word Sense Disambiguation Programs Proceedings of the 30th Annual Meeting of the Association for Computational Linguistics. , 249-256.
(1992b). Proceedings of the Speech and Natural Language Workshop. , 233-237.
(1993). “A method for disambiguating word senses in a large corpus. , 415-439.
(1998). the state of the art. , 1-40.
(2002). Natural Language Processing for Online Applications. , -.
(2005). “An analysis of web searching by European AlltheWeb. , 361-381.
(2000). a study and analysis of user queries on the web. , 207-227.
(1992). ACM Transactions on Information Retrieval Systems. , 115-141.
(1999). “Corpus-based method for unsupervised word sense disambigu- ation Proceedings of the Workshop on Machine Learning in Human Language Technology Advanced Cou- rse on Artificial Intelligence. , 267-273.
(1999). Foundations of Statistical Natural Language Processing. , -.
(1994). Proceedings of the 17th international ACM SIGIR. , 49-57.
(2000). “Retrieving with good. , 49-69.
(1995). “Information retrieval based on word sense Proceedings of the Fourth Annual Symposium on Document Analysis and Information Retrieval. , 161-175.
(2003). the Case for Combinations for Knowledge Sources. , -.
(2003). “Word sense disambiguation in information retrieval revisited Pro- ceedings of the 26th ACM SIGIR. , 159-166.
(1999). Proceedings of the Seventh Text Retrieval Conference. , -7.
(1993). “Using WordNet to disambiguate word senses for text retrieval Proceedings of SIGIR '93. , 171-180.
(1995189-196). Annual Meeting of the ACL Archive Proceedings of the 33rd conference on Association for Computational Linguistics. , -.
(1995189-196). Annual Meeting of the ACL Archive Proceedings of the 33rd conference on Association for Computational Linguistics. , -.
- 다운로드 수
- 조회수
- 0KCI 피인용수
- 0WOS 피인용수