首页 技术 正文
技术 2022年11月23日
0 收藏 830 点赞 4,339 浏览 430 个字

一、大数据的挑战

  大数据面对挑战是你必须重新思考构建数据分析应用的方式。传统方式的应用构建是基于数据存储在不支持大数据处理的基础之上。这主要是因为一下原因:

  1.传统应用的基础设施是基于传统数据库访问模式设计的,它不支持Hadoop;

  2.数据存储在Hadoop之上,实时访问集群中部分数据是可行的;

  3.Hadoop大数据存储能力使得你可以存储数据集的多个版本,来挑战传统覆写数据方式。

二、大数据应用系统架构

Hadoop专业解决方案之构建Hadoop企业级应用

三、架构说明

1.数据源层:DataSource数据的收集可以基于Flume或者Sqoop进行;

2.数据仓库层:需要区分结构化数据和非结构化数据存储,同时需要考虑过程数据的存储问题;

3.业务层:针对数据处理层OOzie可以做为工作流调度的工具,Map/Reduce任务可以作为任务执行的单元;

4.实时查询:必须加访问限制和条件过滤;

。。。未完待续。。。

《Hadoop专业解决方案》同步更新中,请关注Hadoop高级培训交流群:293503507

微信扫一扫

支付宝扫一扫

本文网址:https://www.zhankr.net/141101.html

相关推荐
python开发_常用的python模块及安装方法
adodb:我们领导推荐的数据库连接组件bsddb3:BerkeleyDB的连接组件Cheetah-1.0:我比较喜欢这个版本的cheeta…
日期:2022-11-24 点赞:875 阅读:5,067
Educational Codeforces Round 11 C. Hard Process 二分
C. Hard Process题目连接:http://www.codeforces.com/contest/660/problem/CDes…
日期:2022-11-24 点赞:806 阅读:3,504
下载Ubuntn 17.04 内核源代码
zengkefu@server1:/usr/src$ uname -aLinux server1 4.10.0-19-generic #21…
日期:2022-11-24 点赞:565 阅读:4,312
可用Active Desktop Calendar V7.86 注册码序列号
可用Active Desktop Calendar V7.86 注册码序列号Name: www.greendown.cn Code: &nb…
日期:2022-11-24 点赞:730 阅读:4,307
Android调用系统相机、自定义相机、处理大图片
Android调用系统相机和自定义相机实例本博文主要是介绍了android上使用相机进行拍照并显示的两种方式,并且由于涉及到要把拍到的照片显…
日期:2022-11-24 点赞:512 阅读:4,904
Struts的使用
一、Struts2的获取  Struts的官方网站为:http://struts.apache.org/  下载完Struts2的jar包,…
日期:2022-11-24 点赞:671 阅读:3,097
发表评论
暂无评论

还没有评论呢,快来抢沙发~

助力内容变现

将您的收入提升到一个新的水平

点击联系客服

在线时间:8:00-16:00

客服电话

400-888-8888

客服邮箱

ceotheme@ceo.com

扫描二维码

关注微信公众号

扫描二维码

手机访问本站