大数据技术概述
一,大数据时代
- 三次信息化浪潮: IT领域每个十五年就会发生一次重大变革。
- 信息科技为大数据时代提供技术支持:
- 存储设备容量不断增加
- CPU处理能力大幅度提升
- 网络带宽不断增加
二,大数据概念
- 大数据不仅仅是数据的“大量化”,而是包含“快速化”,“多样化”,和“价值化”等多种属性。
- 数据量大:数据每年都在以50%的速度增长,也就是说每两年就增长一倍。人类在最近两年产生的数据量相当于之前产生的全部数据量。
- 数据类型繁多:大数据是由结构化数据和非结构化数据组成的。
- 处理速度快:从数据的生成到消耗,时间窗口非常小,可用于生成决策的时间非常少。
- 价值密度低:价值密度低,商业价值高。
三,大数据的影响
- 在思维方式上,大数据完全颠覆了传统的思维方式:①全面而非抽样 ②效率而非精确 ③相关而非因果
- 大数据的关键技术:数据采集,数据存储和管理