基于云计算的语义搜索引擎研究

发布时间：2016-10-21 11:24

  本文关键词：基于云计算的语义搜索引擎研究，由笔耕文化传播整理发布。

《复旦大学》 2009年

基于云计算的语义搜索引擎研究

张建梁  

【摘要】： 当前,云计算(Cloud Computing)是IT界最时髦的一个词,各大IT公司争相宣传和推广这种新兴的商业模式,并投入巨大的人力物力进行研究。随着存储设备的成本降低,带宽的提高,处理器能力的增强,一种将计算和存储放到“云端”的设想正逐渐成为现实。云计算目前还没有统一的标准和接口,不同的公司都在为了各自的业务进行研究,这些领域包括电子商务,网络存储,在线办公,搜索引擎,电子地图等。其中,搜索引擎是处理海量数据的前沿领域,云计算在搜索引擎的演进过程中会起到非常大的作用,而目前各大搜索引擎公司还没有真正意义上的实现后台的“云化”。通过搜索引擎的特性和需求来研究云计算,同时,通过云计算的理论来改进搜索引擎,是一个非常好的切入点,也可以推广到其他的云计算应用领域。 本文,在介绍传统搜索引擎模块分类和平台架构的基础上,指出传统搜索引擎平台存在的缺陷和问题,并提出了一种基于云计算的搜索引擎平台及相关通用接口,并将这些接口泛化,推广到其他云计算的应用中。本文着重对云计算的存储系统进行了探讨: 1.建立了一种一致性Hash数据定位算法,加快了数据的存储和获取; 2.提出了可配置存储系统,针对不同的数据特性提供不同的存储模式; 3.设计了一种全分布式的数据备份方案; 4.提出了基于云的语义搜索算法; 论文还针对云计算中的数据处理提出了一些设想,并探讨了云计算在互联网其他应用领域的应用,以适应今后互联网的发展。

【关键词】：
【学位授予单位】：复旦大学
【学位级别】：硕士
【学位授予年份】：2009
【分类号】：TP391.3
【目录】：

目录2-4

摘要4-5

Abstract5-6

第一章 引言6-15

1.1 云计算的定义6-10

1.2 Google的云计算介绍10-13

1.2.1 GFS10-11

1.2.2 MapReduce11-12

1.2.3 BigTable12-13

1.3 云计算的展望13-15

第二章 搜索引擎平台15-31

2.1 搜索引擎的应用与发展15-17

2.1.1 背景15-16

2.1.2 搜索引擎的应用16-17

2.2 搜索引擎的市场17-19

2.3 搜索引擎的分类与特性19-21

2.4 搜索引擎的发展及存在的问题21-23

2.5 搜索引擎的原理及平台架构23-25

2.6 搜索引擎中的数据及特点25-31

2.6.1 数据特点25-29

2.6.2 基于传统平台的搜索引擎存在的问题29-31

第三章 分布式存储技术的介绍31-41

3.1 基于P2P的分布式存储31-36

3.1.1 P2P分布式存储的特点32-33

3.1.2 现有的P2P分布式存储系统33-36

3.2 基于神经网络的分布式存储36-37

3.3 互联网公司内部的分布式存储系统37-41

3.3.1 GFS的整体架构39-41

第四章 云状全分布式可配置存储系统的研究41-49

4.1 CFDCSS的系统需求和假设41-43

4.2 服务级别协议43-44

4.3 CFDCSS系统的设计思想44-48

4.3.1 数据分配44-46

4.3.2 副本同步46-47

4.3.3 错误处理及自动恢复47-48

4.4 CFDCSS系统的待优化工作48-49

第五章 基于DHT的全分布式网络语义搜索算法49-61

5.1 搜索引擎的现状49

5.2 CFDCSS在语义搜索引擎中的应用49

5.3 总体设计框架49-50

5.4 相关共享和查询算法50-55

5.4.1 共享者搜索者流程50-52

5.4.2 文章距离算法52

5.4.3 文章距离算法细节52-55

5.5 模拟55-61

5.5.1 测试软件的主要功能55

5.5.2 示例55

5.5.3 实验155-57

5.5.4 实验257-61

第六章 总结与展望61-63

6.1 总结61

6.2 展望61-63

参考文献63-66

攻读硕士期间发表论文、专利的申请及参与的科研项目66-67

致谢67-68

下载全文 更多同类文献

CAJ全文下载

(如何获取全文？ 欢迎：购买知网充值卡、在线充值、在线咨询)

CAJViewer阅读器支持CAJ、PDF文件格式

【引证文献】

中国期刊全文数据库 前3条

1 于志良;;云计算现状研究[J];电脑开发与应用;2010年10期

2 陆小丽;何加铭;;基于Map/Reduce的索引数据云存储模型研究[J];宁波大学学报(理工版);2011年03期

3 魏清凤;罗长寿;孙素芬;张峻峰;;云计算在我国农业信息服务中的研究现状与思考[J];中国农业科技导报;2013年04期

中国博士学位论文全文数据库 前2条

1 方雷;基于云计算的土地资源服务高效处理平台关键技术探索与研究[D];浙江大学;2011年

2 陈旭毅;基于索引云的企业搜索引擎实现研究[D];武汉大学;2011年

中国硕士学位论文全文数据库 前10条

1 申志强;基于云计算的IPv6协议应用研究[D];东北财经大学;2010年

2 郭雷风;农业科研云原型系统设计与应用理论研究[D];中国农业科学院;2011年

3 闫金刚;基于云计算的分布式智能语义搜索方法研究[D];电子科技大学;2011年

4 桂许军;基于JavaEE平台与Lucene的信息文档搜索引擎系统的设计与实现[D];西南交通大学;2011年

5 葛辉;基于Nimbus的云计算平台研究及应用[D];成都理工大学;2011年

6 宫彦磊;基于云计算的车载GPS导航终端的研究与设计[D];延边大学;2011年

7 胡晓岽;通信终端网络多媒体资源交互系统研究与实现[D];宁波大学;2010年

8 闻建芬;通信终端个人信息交互系统研究与应用[D];宁波大学;2011年

9 陈鹏飞;基于个性化本体的语义搜索引擎技术的研究与设计[D];河北工业大学;2011年

10 杨洁;云计算在权限管理中的应用研究[D];辽宁工程技术大学;2010年

【同被引文献】

中国期刊全文数据库 前10条

1 胡庆华;Web搜索引擎中Mobile Agent动态路由问题研究[J];安徽大学学报(自然科学版);2003年03期

2 戴立乾;陈娜;;浅议云计算时代下GIS的发展[J];安徽农业科学;2009年31期

3 丁岳强;唐林;赵新兵;肖波;张中波;;基于PDA的人工增雨火箭车载终端的设计与实现[J];安徽农业科学;2010年25期

4 李光达;郑怀国;谭翠萍;邱琳;赵静娟;;基于云计算的农业信息服务研究[J];安徽农业科学;2011年27期

5 武旭,须德;基于向量空间模型的文本自动分类系统的研究与实现[J];北方交通大学学报;2003年02期

6 李文君;岳曾敬;;基于嵌入式Linux电子地图系统的研究[J];兵工自动化;2008年04期

7 邓志鸿,唐世渭,张铭,杨冬青,陈捷;Ontology研究综述[J];北京大学学报(自然科学版);2002年05期

8 胡健;杨炳儒;宋泽锋;钱榕;;基于非结构化数据挖掘结构模型的Web文本聚类算法[J];北京科技大学学报;2008年02期

9 王茜,彭中,刘莉;一种基于自适应阈值的图像分割算法[J];北京理工大学学报;2003年04期

10 冯仲科,游晓斌,任谊群;基于3S技术的森林资源与环境监测系统构想[J];北京林业大学学报;2001年04期

中国重要会议论文全文数据库 前6条

1 周静;周海芳;唐玉华;;多模遥感图像高精度配准并行算法研究与实现[A];图像图形技术研究与应用2009——第四届图像图形技术与应用学术会议论文集[C];2009年

2 李盛韬;吴丽辉;于满泉;潘文锋;余智华;王斌;程学旗;;主题Web信息采集的研究与设计[A];语言计算与基于内容的文本处理——全国第七届计算语言学联合学术会议论文集[C];2003年

3 李应兴;付婷;李勇;;基于LUCENE的藏文信息检索的研究与应用[A];民族语言文字信息技术研究——第十一届全国民族语言文字信息学术研讨会论文集[C];2007年

4 朱鉴;张建;李淼;强静;杨攀;;面向民族语言信息处理的汉语分词方法[A];民族语言文字信息技术研究——第十一届全国民族语言文字信息学术研讨会论文集[C];2007年

5 孙宏纲;陆余良;;基于二元切分的互联网新闻主题词自动提取研究[A];第三届全国信息检索与内容安全学术会议论文集[C];2007年

6 陈磊;茹立云;马少平;;基于用户日志挖掘的搜索引擎广告效果分析[A];第四届全国学生计算语言学研讨会会议论文集[C];2008年

中国重要报纸全文数据库 前2条

1 于露;[N];电子资讯时报;2008年

2 中国科学院计算所 李国杰;[N];计算机世界;2001年

中国博士学位论文全文数据库 前10条

1 吴吉义;基于DHT的开放对等云存储服务系统研究[D];浙江大学;2011年

2 杨晓蓉;分布式农业科技信息共享关键技术研究与应用[D];中国农业科学院;2011年

3 范昕炜;支持向量机算法的研究及其应用[D];浙江大学;2003年

4 韩琼;土地管理信息化方案与策略研究[D];中国地质大学;2003年

5 陈治平;智能搜索引擎理论与应用研究[D];湖南大学;2003年

6 窦文;信任敏感的P2P拓扑构造及其相关技术研究[D];国防科学技术大学;2003年

7 侯孟书;基于P2P的分布式存储及其相关技术研究[D];电子科技大学;2005年

8 余传明;基于本体的语义信息系统研究[D];武汉大学;2005年

9 钱晓东;基于神经网络等技术的数据与文本聚分类研究[D];天津大学;2005年

10 王进;基于本体的语义信息检索研究[D];中国科学技术大学;2006年

中国硕士学位论文全文数据库 前10条

1 陈建云;基于UML公共气象服务调查评估系统的设计与实现[D];南京信息工程大学;2011年

2 郭雷风;农业科研云原型系统设计与应用理论研究[D];中国农业科学院;2011年

3 余堃;湘江流域重金属水环境污染团跟踪模拟与预警系统的研究与实现[D];中南大学;2011年

4 卢凡;基于领域本体的主题爬虫系统研究与实现[D];电子科技大学;2011年

5 郑小波;基于语义的主题搜索引擎研究[D];安徽大学;2011年

6 潘胜一;基于倒排索引的压缩算法性能研究[D];杭州电子科技大学;2009年

7 程苗;云计算技术在web日志挖掘中的应用研究[D];中国科学技术大学;2011年

8 乔冬梅;搜索引擎现状与发展研究[D];郑州大学;2002年

9 史军;帽儿山地区森林资源信息管理及共享的GIS研究[D];东北林业大学;2002年

10 李歆海;基于JXTA的P2P搜索网络研究[D];浙江大学;2003年

【二级引证文献】

中国期刊全文数据库 前10条

1 王晓倩;马姜云;朱毅;郭芯汝;;云计算:图书馆的机遇与挑战[J];电脑知识与技术;2012年16期

2 林德根;梁勤欧;;云GIS的内涵与研究进展[J];地理科学进展;2012年11期

3 张栋海;韩丽华;肖雄兵;刘晖;汤晟佳;郑红艳;;导航地图发展现状和趋势分析[J];地理信息世界;2013年02期

4 杨汝洁;杨云江;;基于私有云服务的水资源管理系统的基础架构设计[J];贵州大学学报(自然科学版);2013年03期

5 朱琛刚;丁佳佳;;分布式数据库的浅析及其在江苏有线电子营业厅中的应用[J];中国数字电视;2013年10期

6 吴珍珍;朱峰;;云计算在数字湖南建设中的应用研究[J];电子技术与软件工程;2013年23期

7 齐竹云;;云计算环境下CAD的发展方向探析[J];赤峰学院学报(自然科学版);2014年12期

8 金时来;;基于云端GIS架构的福建省水土保持综合信息平台初步设计[J];亚热带水土保持;2014年02期

9 王玉萍;曾毅;;基于智能化分配算法的计算机负荷并行处理技术探究[J];计算机光盘软件与应用;2014年11期

10 方少卿;周剑;张明新;;基于Map/Reduce的改进选择算法在云计算的Web数据挖掘中的研究[J];计算机应用研究;2013年02期

中国博士学位论文全文数据库 前7条

1 曾志;云格环境下海量高分遥感影像资源与服务高效调配研究[D];浙江大学;2012年

2 孙伟;林业资源信息云计算服务体系研究[D];中国林业科学研究院;2012年

3 胡宜敏;农业垂直搜索引擎语义化若干问题的研究与实现[D];中国科学技术大学;2012年

4 杨国才;农业农村信息化云服务平台集成关键技术研究[D];西南大学;2012年

5 霍旭光;基于云计算的大规模地形数据处理方法的研究[D];中国地质大学（北京）;2013年

6 李刚;黑龙江省国土资源信息数据高效利用与服务研究[D];东北农业大学;2013年

7 齐林;面向可追溯的物联网数据采集与建模方法研究[D];中国农业大学;2014年

中国硕士学位论文全文数据库 前10条

1 王军;数据归档与信息检索系统的研究与实现[D];太原理工大学;2012年

2 赵长欣;基于数字版权唯一标识符解析系统的设计与实现[D];北方工业大学;2012年

3 王续;云计算环境下的知识产权问题研究[D];山西大学;2012年

4 李珺;林业信息共享中的云计算应用研究[D];中南林业科技大学;2012年

5 罗希;基于Models-3/CMAQ的空气质量预报方法研究[D];陕西师范大学;2012年

6 王鹏;基础设施云关键算法研究与实现[D];西北大学;2012年

7 陆小丽;基于云计算的移动智能终端搜索引擎研究[D];宁波大学;2012年

8 黄勇;基于S3C6410嵌入式手持监视终端的设计[D];南京理工大学;2013年

9 袁凯;云计算环境下的监控系统设计与实现[D];华中科技大学;2012年

10 董志伟;微波遥感数据管理平台设计与实现[D];电子科技大学;2012年

【相似文献】

中国期刊全文数据库 前10条

1 文坤梅;卢正鼎;孙小林;李瑞轩;;语义搜索研究综述[J];计算机科学;2008年05期

2 耿瑞峰;钱雪忠;;基于元数据的语义搜索技术研究[J];微计算机信息;2005年26期

3 王勇;;触摸语义搜索的脉搏[J];软件世界;2009年10期

4 苏明明;宋文;;基于本体的语义搜索引擎解决方案研究新进展[J];现代图书情报技术;2008年11期

5 孙静宇;余雪丽;李鲜花;;面向语义搜索的推荐模型研究[J];广西师范大学学报(自然科学版);2008年03期

6 刘幺和;李巧云;;基于语义搜索的语音交互系统模型研究[J];计算机应用;2009年07期

7 陈响亮;李怀松;梁意文;;基于语义搜索的实名呼叫系统设计[J];计算机与现代化;2011年09期

8 杨克特;陈华钧;;面向特定领域的语义搜索结果排序算法[J];计算机应用与软件;2011年12期

9 马雷雷;梁汝鹏;连世伟;陈虎;;一种主题本体驱动的语义搜索方法[J];地理空间信息;2013年04期

10 于彤;陈华钧;李敬华;;面向中药新药研发的语义搜索系统[J];中国医学创新;2013年33期

中国重要报纸全文数据库 前7条

1 高爽;[N];人民邮电;2014年

2 本报记者 张志乾 实习生 张利冰;[N];中国贸易报;2012年

3 CUBN记者 邓丽娟;[N];中国联合商报;2012年

4 行云;[N];中华工商时报;2012年

5 苗得雨;[N];电脑报;2008年

6 本报记者 郭平;[N];计算机世界;2008年

7 本报记者 王星;[N];电脑报;2013年

中国博士学位论文全文数据库 前4条

1 文坤梅;基于本体知识库推理的语义搜索研究[D];华中科技大学;2007年

2 朱海平;基于概念图匹配的语义搜索[D];上海交通大学;2006年

3 吴定峰;基于本体的语义搜索模型研究[D];中国农业科学院;2012年

4 陈毅波;基于关联数据和用户本体的个性化知识服务关键技术研究[D];武汉大学;2012年

中国硕士学位论文全文数据库 前10条

1 高杰旺;基于三维分类模型语义搜索的设计与实现[D];电子科技大学;2011年

2 兰翀;面向爆破行业的语义搜索技术研究[D];华南理工大学;2012年

3 吕婧;基于语义网的语义搜索的研究与应用[D];北京工业大学;2013年

4 付志宏;面向中医药的分布式语义搜索系统[D];浙江大学;2010年

5 王冠;移动终端上个人数据语义搜索子系统的设计与实现[D];北京邮电大学;2011年

6 颜婷;基于本体的语义搜索技术研究与实现[D];杭州师范大学;2011年

7 张艳贺;基于本体的语义搜索研究与实现[D];重庆大学;2012年

8 周琦;基于关键词的语义搜索[D];上海交通大学;2009年

9 王青;基于语义网的语义搜索服务交互模式研究与应用[D];北京邮电大学;2011年

10 王冲;语义搜索用户接口研究[D];上海交通大学;2008年

  本文关键词：基于云计算的语义搜索引擎研究，，由笔耕文化传播整理发布。

本文编号：147906