高性能分布式相册Web集群架构研究
发布时间:2023-01-06 20:30
基于分布式Web集群的相册系统得到了广泛的应用。它具有海量图片存储需求、海量用户元数据存储、图片上传的高并发、上下行带宽的高占用等特点。相册Web站点需要提供稳定、实时、高可用、高负载的服务。本文研究基于大规模、高性能、高容错、分布式相册Web集群架构的设计。主要研究内容包括: 1)硬件架构设计。硬件架构分为LVS(Linux Virtual Server)层、Nginx层、Apache层、Tomcat层、数据持久层,前一层对后一层进行集群配置、负载均衡与健康检查。LVS集群实现系统负载均衡。Nginx集群实现Http反向代理、负载均衡与文件缓存。Apache集群提供Http服务并实现请求重写规则,Tomcat集群采用机器分离实现上传与基本页面功能。数据持久层采用分布式数据库存储海量用户元数据与分布式文件系统存储图片等非结构化数据,图片与元数据采用多重备份恢复机制,相同数据存放不同机架保证数据的安全性与访问性。 2)软件架构设计。软件框架采用MVC(Model View Controller)设计模式并利用Spring框架作为技术架构,结合前端Freemarker框架与...
【文章页数】:56 页
【学位级别】:硕士
【文章目录】:
摘要
ABSTRACT
第1章 绪论
1.1 课题研究背景与意义
1.2 国内外研究现状以及进展
1.3 本文的主要内容和结构安排
第2章 Web 集群相关知识概述
2.1 分布式系统基本概念
2.2 服务器集群基本概念
2.3 LVS 负载均衡
2.4 Memcached 内存数据缓存
2.5 本章小结
第3章 相册 Web 集群系统架构设计
3.1 硬件架构设计
3.2 软件架构设计
3.2.1 技术架构设计
3.2.2 DAO 框架设计
3.3 系统模块设计
3.3.1 模块分层设计
3.3.2 上传模块设计
3.4 元数据存储设计
3.4.1 分布式数据库设计
3.4.2 分布式文件系统设计
3.5 本章小结
第4章 集群系统高性能研究
4.1 系统负载均衡实现
4.1.1 HAproxy 负载均衡
4.1.2 Nginx 反向代理负载均衡
4.1.3 Varnish 实现 Http 加速
4.2 多种缓存实现
4.3 图片压缩剪裁
4.4 内容分发网络加速请求
4.5 本章小结
第5章 海量图片存储去重研究
5.1 去重技术及研究现状
5.2 图片文件去重技术实现
5.2.1 图片文件大小获取与修正
5.2.2 图片文件 MD5 码签名生成
5.2.3 图片文件存储操作
5.3 性能测试
5.4 结论及进一步研究方向
5.5 本章小结
第6章 总结与展望
6.1 总结
6.2 展望
致谢
参考文献
附录
【参考文献】:
期刊论文
[1]基于Keepalived的动态浮动IP集群实现[J]. 钱景辉,廖锂. 化工自动化及仪表. 2012(07)
[2]多媒体网络:从内容分发网络到未来互联网[J]. 尹浩,詹同宇,林闯. 计算机学报. 2012(06)
[3]一种基于线程关系的软件水印算法[J]. 许金超,曾国荪. 电子学报. 2012(05)
[4]Linux中基于虚拟主机技术的WWW服务器的配置研究[J]. 弋改珍. 价值工程. 2012(10)
[5]基于双机联合故障检测的双机热备系统可靠性和安全性研究[J]. 覃庆努,魏学业,于蓉蓉,吴小进. 系统工程与电子技术. 2011(12)
[6]基于cron的计划任务时间管理的设计与实现[J]. 郭迪,赵政文,王玺. 现代电子技术. 2011(14)
[7]基于SSH+DWR的Web开发框架研究与应用[J]. 陈遥,李珊,赵英男. 南京信息工程大学学报(自然科学版). 2010(05)
[8]重复数据删除技术[J]. 敖莉,舒继武,李明强. 软件学报. 2010(05)
[9]基于文件格式的J2ME图片压缩方法研究[J]. 许彪,王晓东. 计算机应用与软件. 2010(04)
[10]基于回调函数和VML的数据实时显示在Web中的应用[J]. 宋天斌,郑相周,唐顺杰. 计算机与现代化. 2010(04)
硕士论文
[1]基于DNS的应用服务器负载均衡策略的研究和实现[D]. 平立.东南大学 2005
本文编号:3728302
【文章页数】:56 页
【学位级别】:硕士
【文章目录】:
摘要
ABSTRACT
第1章 绪论
1.1 课题研究背景与意义
1.2 国内外研究现状以及进展
1.3 本文的主要内容和结构安排
第2章 Web 集群相关知识概述
2.1 分布式系统基本概念
2.2 服务器集群基本概念
2.3 LVS 负载均衡
2.4 Memcached 内存数据缓存
2.5 本章小结
第3章 相册 Web 集群系统架构设计
3.1 硬件架构设计
3.2 软件架构设计
3.2.1 技术架构设计
3.2.2 DAO 框架设计
3.3 系统模块设计
3.3.1 模块分层设计
3.3.2 上传模块设计
3.4 元数据存储设计
3.4.1 分布式数据库设计
3.4.2 分布式文件系统设计
3.5 本章小结
第4章 集群系统高性能研究
4.1 系统负载均衡实现
4.1.1 HAproxy 负载均衡
4.1.2 Nginx 反向代理负载均衡
4.1.3 Varnish 实现 Http 加速
4.2 多种缓存实现
4.3 图片压缩剪裁
4.4 内容分发网络加速请求
4.5 本章小结
第5章 海量图片存储去重研究
5.1 去重技术及研究现状
5.2 图片文件去重技术实现
5.2.1 图片文件大小获取与修正
5.2.2 图片文件 MD5 码签名生成
5.2.3 图片文件存储操作
5.3 性能测试
5.4 结论及进一步研究方向
5.5 本章小结
第6章 总结与展望
6.1 总结
6.2 展望
致谢
参考文献
附录
【参考文献】:
期刊论文
[1]基于Keepalived的动态浮动IP集群实现[J]. 钱景辉,廖锂. 化工自动化及仪表. 2012(07)
[2]多媒体网络:从内容分发网络到未来互联网[J]. 尹浩,詹同宇,林闯. 计算机学报. 2012(06)
[3]一种基于线程关系的软件水印算法[J]. 许金超,曾国荪. 电子学报. 2012(05)
[4]Linux中基于虚拟主机技术的WWW服务器的配置研究[J]. 弋改珍. 价值工程. 2012(10)
[5]基于双机联合故障检测的双机热备系统可靠性和安全性研究[J]. 覃庆努,魏学业,于蓉蓉,吴小进. 系统工程与电子技术. 2011(12)
[6]基于cron的计划任务时间管理的设计与实现[J]. 郭迪,赵政文,王玺. 现代电子技术. 2011(14)
[7]基于SSH+DWR的Web开发框架研究与应用[J]. 陈遥,李珊,赵英男. 南京信息工程大学学报(自然科学版). 2010(05)
[8]重复数据删除技术[J]. 敖莉,舒继武,李明强. 软件学报. 2010(05)
[9]基于文件格式的J2ME图片压缩方法研究[J]. 许彪,王晓东. 计算机应用与软件. 2010(04)
[10]基于回调函数和VML的数据实时显示在Web中的应用[J]. 宋天斌,郑相周,唐顺杰. 计算机与现代化. 2010(04)
硕士论文
[1]基于DNS的应用服务器负载均衡策略的研究和实现[D]. 平立.东南大学 2005
本文编号:3728302
本文链接:https://www.wllwen.com/guanlilunwen/ydhl/3728302.html