当前位置:首页 > 网站旧栏目 > 学习园地 > 设计软件教程 > 带局部统计识别高频词汇及人名识别的Lucene中文分词

带局部统计识别高频词汇及人名识别的Lucene中文分词
2010-01-13 23:06:10  作者:  来源:

经过努力终于在 引入局部统计识别高频词汇的Lucene中文分词程序 以及 基于词典的最大匹配的Lucene中文分词程序 把中文人名识别功能加入,能把大部分的中文姓名识别出来,结果喜人。

原理:

根据贝叶斯定理,分别建立中文形式库FirstName.stu,从网上搜集得到的真实姓名库Name.stu,以及以姓氏为开头但非中文姓名的词库(如“曾经是”,“关门”,“陈述”等)UnName.stu。然后先使用之前完成的基于词典的最大匹配分词算法对文本进行初步分词,然后利用Spring的AOP把人名识别器SimpleChineseNameAnalyzer编织到初步分词方法执行之后,利用姓氏驱动的方式遍历分词碎片,找到所有以姓氏开头后两个分词结果为单字或后一个分词结果为双字词的碎片(成为候选词),分别从Name.stu以及UnName.stu中获取姓氏以及各个名字成为姓名的概率,最后判断候选词前后是否存在边界词汇,若有则对其进行概率调整,最终通过与阀值的比较判断是否是一个中文姓名。

用法:

java 代码
 
  1. ApplicationContext context = new FileSystemXmlApplicationContext("STUSegmentConfig.xml");   
  2. STUChineseAnalyzer analyzer = (STUChineseAnalyzer) context .getBean("stuChineseAnalyzer");  

测试数据:

东方网记者靳慧、张海盈、实习生霍世杰5月20日报道:今天上午10点,同济大学建校100周年庆典大会在同济大学大礼堂隆重举行。中共中央总书记、国家主席胡锦涛发来贺信。全国人大常委会副委员长李铁映,全国人大常委会副委员长顾秀莲,国务委员陈至立,中共上海市委书记习近平,德国前总理施罗德,中央纪委副书记张惠新,教育部部长周济,建设部部长汪光焘,中共上海市委副书记、市长韩正,科技部党组书记、副部长李学勇等出席庆典大会。

  庆典大会上首先宣读胡锦涛总书记贺信,之后科技部部长、同济大学校长万钢从“大学对社会的承诺”的角度讲述百年同济的辉煌历史和未来发展。来自德国柏林工业大学的校长库茨勒、中国科学院院士吴孟超、同济大学交通运输工程学院孙立军等也将作为友好学校代表、校友代表、师生代表先后致辞。

  今天早晨8点开始,同济大学的师生、老校友们就陆续进入庆典大会会场,会场大屏幕上滚动播放着建校100周年的宣传片。庆典大会开始前举行了同济老校友互动活动,现场十分感人。

  同济大学是教育部直属重点大学,创建于1907年,早期为德国医生在上海创办的德文医学堂,取名"同济"意蕴合作共济。1912年增设工学堂,1923年被批准改名为大学,1927年正式定为国立同济大学。抗战期间曾内迁经浙、赣、滇入川,1946年回迁上海并发展为以拥有理、工、医、文、法五大学院著称海内外的综合性大学。1952年院系调整后,同济大学成为国内土木建筑领域最大、专业最全的工科大学。

  1978年经中央批准恢复对德交流,在中科院学部委员李国豪校长领导下实行“两个转变”,即由土木为主的理工科大学向理工为主的多科性大学转变,由国内普通高校向作为中外文化交流“窗口”之一的国际性大学转变,从而迅速恢复和发展成为一所以工为主、理工结合,经、管、文、法各具特色的多科性大学。

测试结果:

 
  1. (东方,0,2)   
  2. (网,2,3)   
  3. (记者,3,5)   
  4. (靳慧,5,7)   
  5. (张海盈,8,11)   
  6. (实习生,12,15)   
  7. (霍世杰,15,18)   
  8. (5,18,19)   
  9. (月,19,20)   
  10. (20,20,22)   
  11. (日报,22,24)   
  12. (道,24,25)   
  13. (今天,26,28)   
  14. (上午,28,30)   
  15. (10,30,32)   
  16. (点,32,33)   
  17. (同济大学,34,38)   
  18. (建校,38,40)   
  19. (100,40,43)   
  20. (周年,43,45)   
  21. (庆典,45,47)   
  22. (大会,47,49)   
  23. (在,49,50)   
  24. (同济大学,50,54)   
  25. (大礼堂,54,57)   
  26. (隆重举行,57,61)   
  27. (中共中央总书记,62,69)   
  28. (国家主席,70,74)   
  29. (胡锦涛,74,77)   
  30. (发来,77,79)   
  31. (贺信,79,81)   
  32. (全国人大常委会,82,89)   
  33. (副委员长,89,93)   
  34. (李铁映,93,96)   
  35. (全国人大常委会,97,104)   
  36. (副委员长,104,108)   
  37. (顾秀莲,108,111)   
  38. (国务委员,112,116)   
  39. (陈至立,116,119)   
  40. (中共,120,122)   
  41. (上海市,122,125)   
  42. (委,125,126)   
  43. (书记,126,128)   
  44. (习近平,128,131)   
  45. (德国,132,134)   
  46. (前总理,134,137)   
  47. (施,137,138)   
  48. (罗德,138,140)   
  49. (中央纪委,141,145)   
  50. (副书记,145,148)   
  51. (张惠新,148,151)   
  52. (教育部,152,155)   
  53. (部长,155,157)   
  54. (周济,157,159)   
  55. (建设部,160,163)   
  56. (部长,163,165)   
  57. (汪光焘,165,168)   
  58. (中共,169,171)   
  59. (上海市,171,174)   
  60. (委,174,175)   
  61. (副书记,175,178)   
  62. (市长,179,181)   
  63. (韩正,181,183)   
  64. (科技部,184,187)   
  65. (党组书记,187,191)   
  66. (副部长,192,195)   
  67. (李学勇,195,198)   
  68. (等,198,199)   
  69. (出席,199,201)   
  70. (庆典,201,203)   
  71. (大会,203,205)   
  72. (庆典,210,212)   
  73. (大会,212,214)   
  74. (上首,214,216)   
  75. (先,216,217)   
  76. (宣读,217,219)   
  77. (胡锦涛,219,222)   
  78. (总书记,222,225)   
  79. (贺信,225,227)   
  80. (之后,228,230)   
  81. (科技部,230,233)   
  82. (部长,233,235)   
  83. (同济大学,236,240)   
  84. (校长,240,242)   
  85. (万,242,243)   
  86. (钢,243,244)   
  87. (从,244,245)   
  88. (大学,246,248)   
  89. (对,248,249)   
  90. (社会,249,251)   
  91. (的,251,252)   
  92. (承诺,252,254)   
  93. (的,255,256)   
  94. (角度,256,258)   
  95. (讲述,258,260)   
  96. (百年,260,262)   
  97. (同济,262,264)   
  98. (的,264,265)   
  99. (辉煌,265,267)   
  100. (历史,267,269)   
  101. (和,269,270)   
  102. (未来,270,272)   
  103. (发展,272,274)   
  104. (来自,275,277)   
  105. (德国,277,279)   
  106. (柏林,279,281)   
  107. (工业大学,281,285)   
  108. (的,285,286)   
  109. (校长,286,288)   
  110. (库,288,289)   
  111. (茨,289,290)   
  112. (勒,290,291)   
  113. (中国科学院,292,297)   
  114. (院士,297,299)   
  115. (吴孟超,299,302)   
  116. (同济大学,303,307)   
  117. (交通运输,307,311)   
  118. (工程学院,311,315)   
  119. (孙立军,315,318)   
  120. (等,318,319)   
  121. (也将,319,321)   
  122. (作为,321,323)   
  123. (友好,323,325)   
  124. (学校,325,327)   
  125. (代表,327,329)   
  126. (校友,330,332)   
  127. (代表,332,334)   
  128. (师生,335,337)   
  129. (代表,337,339)   
  130. (先后,339,341)   
  131. (致辞,341,343)   
  132. (今天,348,350)   
  133. (早晨,350,352)   
  134. (8,352,353)   
  135. (点开,353,355)   
  136. (始,355,356)   
  137. (同济大学,357,361)   
  138. (的,361,362)   
  139. (师生,362,364)   
  140. (老,365,366)   
  141. (校友,366,368)   
  142. (们,368,369)   
  143. (就,369,370)   
  144. (陆续,370,372)   
  145. (进入,372,374)   
  146. (庆典,374,376)   
  147. (大会,376,378)   
  148. (会场,378,380)   
  149. (会场,381,383)   
  150. (大屏幕,383,386)   
  151. (上,386,387)   
  152. (滚动,387,389)   
  153. (播放,389,391)   
  154. (着,391,392)   
  155. (建校,392,394)   
  156. (100,394,397)   
  157. (周年,397,399)   
  158. (的,399,400)   
  159. (宣传片,400,403)   
  160. (庆典,404,406)   
  161. (大会,406,408)   
  162. (开始,408,410)   
  163. (前,410,411)   
  164. (举行,411,413)   
  165. (了,413,414)   
  166. (同济,414,416)   
  167. (老,416,417)   
  168. (校友,417,419)   
  169. (互动,419,421)   
  170. (活动,421,423)   
  171. (现场,424,426)   
  172. (十分,426,428)   
  173. (感人,428,430)   
  174. (同济大学,435,439)   
  175. (是,439,440)   
  176. (教育部,440,443)   
  177. (直属,443,445)   
  178. (重点,445,447)   
  179. (大学,447,449)   
  180. (创建,450,452)   
  181. (于,452,453)   
  182. (1907,453,457)   
  183. (年,457,458)   
  184. (早期,459,461)   
  185. (为,461,462)   
  186. (德国,462,464)   
  187. (医生,464,466)   
  188. (在上,466,468)   
  189. (海,468,469)   
  190. (创办,469,471)   
  191. (的,471,472)   
  192. (德文,472,474)   
  193. (医学,474,476)   
  194. (堂,476,477)   
  195. (取名,478,480)   
  196. (同济,481,483)   
  197. (意蕴,484,486)   
  198. (合作,486,488)   
  199. (共,488,489)   
  200. (济,489,490)   
  201. (1912,491,495)   
  202. (年,495,496)   
  203. (增设,496,498)   
  204. (工学,498,500)   
  205. (堂,500,501)   
  206. (1923,502,506)   
  207. (年,506,507)   
  208. (被,507,508)   
  209. (批准,508,510)   
  210. (改名,510,512)   
  211. (为大,512,514)   
  212. (学,514,515)   
  213. (1927,516,520)   
  214. (年,520,521)   
  215. (正式,521,523)   
  216. (定为,523,525)   
  217. (国立,525,527)   
  218. (同济大学,527,531)   
  219. (抗战,532,534)   
  220. (期间,534,536)   
  221. (曾,536,537)   
  222. (内迁,537,539)   
  223. (经,539,540)   
  224. (浙,540,541)   
  225. (赣,542,543)   
  226. (滇,544,545)   
  227. (入,545,546)   
  228. (川,546,547)   
  229. (1946,548,552)   
  230. (年,552,553)   
  231. (回迁,553,555)   
  232. (上海,555,557)   
  233. (并发,557,559)   
  234. (展,559,560)   
  235. (为,560,561)   
  236. (以,561,562)   
  237. (拥有,562,564)   
  238. (理,564,565)   
  239. (工,566,567)   
  240. (医,568,569)   
  241. (文,570,571)   
  242. (法,572,573)   
  243. (五大,573,575)   
  244. (学院,575,577)   
  245. (著称,577,579)   
  246. (海内外,579,582)   
  247. (的,582,583)   
  248. (综合性,583,586)   
  249. (大学,586,588)   
  250. (1952,589,593)   
  251. (年,593,594)   
  252. (院系,594,596)   
  253. (调整,596,598)   
  254. (后,598,599)   
  255. (同济大学,600,604)   
  256. (成为,604,606)   
  257. (国内,606,608)   
  258. (土木,608,610)   
  259. (建筑,610,612)   
  260. (领域,612,614)   
  261. (最大,614,616)   
  262. (专业,617,619)   
  263. (最全,619,621)   
  264. (的,621,622)   
  265. (工科大学,622,626)   
  266. (1978,631,635)   
  267. (年,635,636)   
  268. (经,636,637)   
  269. (中央,637,639)   
  270. (批准,639,641)   
  271. (恢复,641,643)   
  272. (对,643,644)   
  273. (德,644,645)   
  274. (交流,645,647)   
  275. (在,648,649)   
  276. (中科院,649,652)   
  277. (学部委员,652,656)   
  278. (李国豪,656,659)   
  279. (校长,659,661)   
  280. (领导,661,663)   
  281. (下,663,664)   
  282. (实行,664,666)   
  283. (两个转变,667,671)   
  284. (即,673,674)   
  285. (由,674,675)   
  286. (土木,675,677)   
  287. (为主,677,679)   
  288. (的,679,680)   
  289. (理工科,680,683)   
  290. (大学,683,685)   
  291. (向,685,686)   
  292. (理工,686,688)   
  293. (为主,688,690)   
  294. (的,690,691)   
  295. (多科,691,693)   
  296. (性,693,694)   
  297. (大学,694,696)   
  298. (转变,696,698)   
  299. (由,699,700)   
  300. (国内,700,702)   
  301. (普通,702,704)   
  302. (高校,704,706)   
  303. (向,706,707)   
  304. (作为,707,709)   
  305. (中外文,709,712)   
  306. (化,712,713)   
  307. (交流,713,715)   
  308. (窗口,716,718)   
  309. (之一,719,721)   
  310. (的,721,722)   
  311. (国际性,722,725)   
  312. (大学,725,727)   
  313. (转变,727,729)   
  314. (从而,730,732)   
  315. (迅速,732,734)   
  316. (恢复,734,736)   
  317. (和,736,737)   
  318. (发展,737,739)   
  319. (成为,739,741)   
  320. (一所,741,743)   
  321. (以,743,744)   
  322. (工,744,745)   
  323. (为主,745,747)   
  324. (理工,748,750)   
  325. (结合,750,752)   
  326. (经,753,754)   
  327. (管,755,756)   
  328. (文,757,758)   
  329. (法,759,760)   
  330. (各具特色,760,764)   
  331. (的,764,765)   
  332. (多科,765,767)   
  333. (性,767,768)   
  334. (大学,768,770)  

安徽新华电脑学校专业职业规划师为你提供更多帮助【在线咨询