灵玖软件：NLPIR大数据技术助力中文信息处理智能化

ljrj123

　　在多元化的信息中，文字信息是一种最普遍的形式。例如：文件、信函、报表、记录、印刷品等基本上采用文字表达的形式。“中文信息处理”一词是从20世纪70年代流行起来的。自从有了中文(汉字)，即相应地出现了中文信息处理的工作。现代人们言及的“中文信息处理”包括了有关中文信息的采集、存储、传输和利用，是指利用电子计算机和现代通信、照明、排版、等自动化技术对汉字信息进行输入输出整理、加工、转换、传输、复制、等各种处理的一项新兴的科学技术。其交叉性使之成为“信息科学”的分支;其综合性应用使之成为“系统工程”的一个实例。它涉及到语言文字学、计算机科学、信息科学、工程心理学、数理统计学、声学、自动识别技术、人工智能、网络技术、文献检索学等等。故可以说它是一门新兴的多边缘科学。

　　进入21世纪，面对网络时代信息的爆炸式增长，中文信息处理作为一项基础性、普适特性的信息技术，面临着挑战和再次发展的机遇，在互联网时代则显示出其优势。它的开发利用关系到我国今后信息产业乃至社会经济的发展，具有巨大的经济价值和社会价值。

　　中文信息处理技术自动化水平的提高，将大大促进我国科技、国民经济和社会发展，同时使中华民族的文化在信息时代得到新的发展。未来无疑应当加强中文信息处理技术的研发投入与政策倾斜。我国的中文信息处理技术还有自身一系列急需解决的基础研究和应用技术问题。这些问题如果从现在起还得不到切实的加强，我们在中文信息处理事业中仅有的一些优势，就要迅速失去，那将给我国造成极大的损失。

　　目前中文信息处理能力与国际上先进水平差距还很大。例如：自动分词和词性标注，至今还未开发出一个像日语分词系统那样被广为接受的分词标注系统。从采用的方法可以看出，随着研究的不断深入，基于统计的方法已逐渐暴露自身的缺陷，统计方法不可能解决所有的问题，还是需要结合基于规则的方法，才能在精度上得以突破;

　　中文信息处理句法分析和语义分析问题;中文信息处理应用研究的问题，比如信息输入中的键盘输入和汉字识别发展已经成熟，但语音识别却很实现，困难是要适应不同人之间的语音变化以及外界的噪音干扰;中文信息处理研究分散而且存在着低层次重复、缺乏统一规范和标准的问题;现代汉语研究领域和计算机领域的隔绝状态没有出现根本性改变;汉语文和少数民族语言文字的信息处理技术与国际水平相比，还有相当大的差距。特别是自主知识产权的成果还不多;语言资源和成果的共享还有很大局限，网络上对公众开放的中国语言文字资源还很少，远不能满足我国国民经济发展和信息化事业对中文信息处理技术的要求等等。

　　北京理工大学大数据搜索与挖掘实验室张华平主任研发的NLPIR大数据语义智能分析技术是满足大数据挖掘对语法、词法和语义的综合应用。NLPIR大数据语义智能分析平台是根据中文数据挖掘的综合需求,融合了网络精准采集、自然语言理解、文本挖掘和语义搜索的研究成果,并针对互联网内容处理的全技术链条的共享开发平台。

　　NLPIR大数据语义智能分析平台主要有精准采集、文档转化、新词发现、批量分词、语言统计、文本聚类、文本分类、摘要实体、智能过滤、情感分析、文档去重、全文检索、编码转换等十余项功能模块，平台提供了客户端工具，云服务与二次开发接口等多种产品使用形式。各个中间件API可以无缝地融合到客户的各类复杂应用系统之中，可兼容Windows，Linux， Android，Maemo5, FreeBSD等不同操作系统平台，可以供Java，Python，C，C#等各类开发语言使用。

　　数据挖掘技术及其应用是目前国际上的一个研究热点，并在许多行业中得到了很好的应用，尤其是在市场营销中获得了成功，初步体现了其优越性和发展潜力。在信息管理领域，综合应用数据挖掘技术和人工智能技术，获取用户知识、文献知识等各类知识，将是实现知识检索和知识管理发展的必经之路。