当前位置:主页 > 科技论文 > 搜索引擎论文 >

基于Java技术的搜索引擎研究与实现

发布时间:2016-07-14 08:34

  本文关键词:基于Java技术的搜索引擎研究与实现,由笔耕文化传播整理发布。


《西南交通大学》 2006年

基于Java技术的搜索引擎研究与实现

何世林  

【摘要】:在互联网蓬勃发展的今天,互联网上的信息更是浩如烟海。人们在享受互连网带来的便利的同时,却面临着一个如何在如此海量的内容中准确、快捷地找到自己所需要的信息的问题,由此互联网搜索引擎应运而生。当前对于搜索引擎的研究是互联网技术中最热门的领域。 本文对搜索引擎的原理、组成、数据结构、工作流程等方面做了深入而细致地研究与分析。搜索引擎的未来发展方向是个性化、智能化。对于不同类型的用户群搜索相同的内容将得到不同的更适合用户的搜索结果,这就是搜索引擎的个性化;而智能化则指搜索引擎具有自我学习的功能,能自动地适应用户的查询需求,并能对用户进行智能分类从而为搜索引擎的个性化提供依据。 在理论研究的基础上,本文还利用Java技术对搜索引擎的三个核心部分即网络蜘蛛、网页索引、搜索进行了实现。网络蜘蛛部分采用了非递归爬取方式和Java的多线程机制,利用一个基于内存的作业队列管理器负责网页抓取过程中URL链接的加入、分配、处理等作业,同时使用线程池管理多个抓取线程,并发抓取网页。索引和搜索部分借助Lucene全文搜索引擎库中的Java类进行实现。Lucene是Apache软件基金会的一个开源项目,完全由Java实现,适用于需要全文搜索能力的应用程序,并具有良好的跨平台能力。最后采用JSP(Java Server Pages)技术设计了一个简易的搜索引擎客户端。

【关键词】:
【学位授予单位】:西南交通大学
【学位级别】:硕士
【学位授予年份】:2006
【分类号】:TP391.3
【目录】:

  • 第1章 绪论9-15
  • 1.1 概述9
  • 1.2 搜索引擎的现状9-13
  • 1.2.1 搜索引擎的发展历史9-10
  • 1.2.2 搜索引擎的分类10-12
  • 1.2.3 当前主流搜索引擎简介12-13
  • 1.3 本文研究的主要内容13-15
  • 第2章 基本组成及数据结构15-28
  • 2.1 基本组成及工作流程16-18
  • 2.2 存储结构18-23
  • 2.2.1 页面存储库18-19
  • 2.2.2 词典库19-20
  • 2.2.3 Hits列表20-23
  • 2.3 索引结构23-28
  • 2.3.1 文档索引库24-25
  • 2.3.2 前向索引表25-26
  • 2.3.3 后向索引表26-28
  • 第3章 网页抓取技术28-39
  • 3.1 抓取技术的协议分析28-31
  • 3.1.1 通信协议28-30
  • 3.1.2 HTML解析30-31
  • 3.2 网页抓取方法31-34
  • 3.3 网页抓取应考虑的问题34-39
  • 3.3.1 抓取周期分析34-35
  • 3.3.2 抓取内容分析35-36
  • 3.3.3 网络蜘蛛的排斥机制36-39
  • 第4章 索引技术及搜索39-50
  • 4.1 网页内容分析39-43
  • 4.1.1 什么是中文分词39-40
  • 4.1.2 中文分词技术40-41
  • 4.1.3 索引的建立41-43
  • 4.2 页面优先度算法43-47
  • 4.2.1 基于链接分析的算法43-46
  • 4.2.2 基于网页内容的算法46-47
  • 4.3 搜索及结果排序47-50
  • 第5章 搜索引擎的软件实现50-74
  • 5.1 软件开发环境50-56
  • 5.1.1 Java的Internet连接技术50-51
  • 5.1.2 Java中的中文处理51-53
  • 5.1.3 Java的多线程机制53-55
  • 5.1.4 JDBC应用55-56
  • 5.2 网络蜘蛛的实现56-59
  • 5.3 利用LUCENE实现索引和搜索59-74
  • 5.3.1 Lucene的核心类61-64
  • 5.3.2 利用Lucene实现索引和搜索64-74
  • 结论74-77
  • 致谢77-78
  • 参考文献78-82
  • 攻读硕士学位期间发表的论文82
  • 下载全文 更多同类文献

    CAJ全文下载

    (如何获取全文? 欢迎:购买知网充值卡、在线充值、在线咨询)

    CAJViewer阅读器支持CAJ、PDF文件格式


    【相似文献】

    中国期刊全文数据库 前10条

    1 刘金亮;苏琳;石云;;基于Nutch的垂直搜索技术研究[J];电脑知识与技术;2011年24期

    2 刘金松;;搜索引擎的原理及spider程序浅析[J];电脑知识与技术;2011年25期

    3 ;李彦宏论搜索引擎三个定律[J];新电子;2001年02期

    4 相春雷;;2009年中国搜索引擎市场趋势分析[J];软件世界;2010年02期

    5 ;揭秘搜索引擎收录网站的秘密[J];计算机与网络;2010年Z1期

    6 马玥;;王小川:绝境之外[J];中国经济和信息化;2011年12期

    7 郑晓波;;智能电网中基于电力资源库的搜索引擎的研究[J];硅谷;2011年14期

    8 魏蕾如;;基于搜索引擎的网络中文信息检索工具评价[J];数字技术与应用;2011年06期

    9 ;创新工业搜索引擎[J];中国制造业信息化;2011年12期

    10 胡风华;王磊;;基于知识库系统的智能搜索引擎研究[J];中国新技术新产品;2011年18期

    中国重要会议论文全文数据库 前10条

    1 李贺华;付鹤岗;;多Agent Web信息检索应用研究[A];2008年计算机应用技术交流会论文集[C];2008年

    2 陈援非;何哲;朱珍民;;基于普适计算的个性化搜索技术[A];第二届和谐人机环境联合学术会议(HHME2006)——第2届中国普适计算学术会议(PCC'06)论文集[C];2006年

    3 彭轲;廖闻剑;;浅析搜索引擎[A];中国通信学会第五届学术年会论文集[C];2008年

    4 李丹;;如何利用搜索引擎查找中医药信息[A];中国中医药信息研究会第二届理事大会暨学术交流会议论文汇编[C];2003年

    5 邓长寿;郭景峰;杨焱林;邓安远;;下一代Web搜索引擎初探[A];第十八届全国数据库学术会议论文集(研究报告篇)[C];2001年

    6 维尼拉·木沙江;吐尔洪·吾司曼;;维、哈、柯文搜索引擎中网页爬行器的设计与实现[A];少数民族青年自然语言处理技术研究与进展——第三届全国少数民族青年自然语言信息处理、第二届全国多语言知识库建设联合学术研讨会论文集[C];2010年

    7 汤薇;曾艳;;构建校园网搜索引擎必要性分析[A];广西计算机学会2008年年会论文集[C];2008年

    8 姚树宇;赵少东;;一种使用分布式技术的搜索引擎[A];2005年全国开放式分布与并行计算学术会议论文集[C];2005年

    9 倪俊峰;;基于黄页搜索引擎的关键字排名广告系统的设计与实现[A];2005年中国索引学会年会暨学术研讨会论文集[C];2005年

    10 张怡;查贵庭;;SEO在信息服务中的应用研究[A];2010年中国索引学会年会暨学术研讨会论文集[C];2010年

    中国重要报纸全文数据库 前10条

    1 秦可;[N];中国工业报;2007年

    2 海磊;[N];中国电脑教育报;2005年

    3 江苏 刘波;[N];中国电脑教育报;2000年

    4 主持人 陈建栋;[N];光明日报;2005年

    5 本报记者 陈建栋;[N];光明日报;2005年

    6 曾正乐;[N];经济日报;2005年

    7 本报记者 秦海波;[N];经济日报;2005年

    8 FN记者 柳立;[N];金融时报;2005年

    9 闫辉;[N];计算机世界;2005年

    10 本报记者 李剑;[N];通信信息报;2005年

    中国博士学位论文全文数据库 前10条

    1 陈旭毅;基于索引云的企业搜索引擎实现研究[D];武汉大学;2011年

    2 岑荣伟;基于用户行为分析的搜索引擎评价研究[D];清华大学;2010年

    3 李群;主题搜索引擎聚类算法的研究[D];北京林业大学;2011年

    4 苏君华;面向搜索引擎的技术接受模型研究[D];南京大学;2011年

    5 刘佐达;分布协作式搜索引擎模型及算法研究[D];清华大学;2011年

    6 郭眈;中文互联网视频搜索引擎系统策略研究[D];北京交通大学;2012年

    7 王镠璞;基于用户体验的互联网搜索引擎医学信息检索可用性评估研究[D];吉林大学;2010年

    8 李莎莎;面向搜索引擎的自然语言处理关键技术研究[D];国防科学技术大学;2011年

    9 白玉琪;空间信息搜索引擎研究[D];中国科学院研究生院(遥感应用研究所);2003年

    10 王德吉;复杂环境下自适应智能决策支持系统研究[D];中国科学技术大学;2007年

    中国硕士学位论文全文数据库 前10条

    1 薛建春;垂直搜索引擎中网络蜘蛛的设计与实现[D];中国地质大学(北京);2007年

    2 何世林;基于Java技术的搜索引擎研究与实现[D];西南交通大学;2006年

    3 任严;基于网络视频业务的搜索引擎的设计与实现[D];北京交通大学;2008年

    4 胡晓翠;站点搜索引擎的研究与实现[D];武汉科技大学;2009年

    5 张维维;搜索引擎的研究与实现[D];长春理工大学;2008年

    6 叶昭晖;网络信息雷达系统的研究与设计[D];国防科学技术大学;2005年

    7 许彦彬;基于Java技术的生物资源专业搜索引擎的研究与开发[D];昆明理工大学;2004年

    8 陈杰;主题搜索引擎中网络蜘蛛搜索策略研究[D];浙江大学;2006年

    9 郭谢;基于Web Community识别的专业搜索引擎研究[D];浙江大学;2006年

    10 沈坚;一种专题式搜索引擎Spider的设计与实现[D];北京化工大学;2008年


      本文关键词:基于Java技术的搜索引擎研究与实现,由笔耕文化传播整理发布。



    本文编号:70758

    资料下载
    论文发表

    本文链接:https://www.wllwen.com/kejilunwen/sousuoyinqinglunwen/70758.html


    Copyright(c)文论论文网All Rights Reserved | 网站地图 |

    版权申明:资料由用户2233e***提供,本站仅收录摘要或目录,作者需要删除请E-mail邮箱bigeng88@qq.com