大数据的发展和产业机遇
大数据的发展和产业机遇
钱小聪
(江苏赛联信息产业研究院,江苏 南京 210012)
摘 要:随着物联网、社会化网络的快速发展所带来的数据爆炸式增长,从数据中挖掘事物之间的相互关系正成为知识和技术创新的新手段,也标志着大数据时代的来临。文章分析了大数据的发展内因和背景,并对大数据产业的战略地位以及大数据时代信息产业的发展机遇进行了研究与阐述。
关键词:大数据;数据产业;物联网
TP311 文献标识码:A 文章编号:2095-1302(2013)10-0084-03中图分类号:
Development and industry opportunities of big data
QIAN Xiao-cong
(Jiangsu Sailian IT Industry Institute Union, Nanjing 210012, China)
Abstract : With the explosive growth of data brought by the rapid development of the IOT and social networking, mining the relationship between things from data is becoming a new method of knowledge and technological innovation, which marks the arriving of big data era. The background and reason of big data development is analyzed. The strategic position of big data industry and the opportunities of IT industry in big data era are also studied and described.
Keywords : big data; data industry; IOT
0 引 言
进入21世纪以来,物联网、电子商务、社会化网络的快速发展正带来数据的飞速增长。2008年9月,《自然》杂志发
[1]
表“Big data”专题文章,首次提出大数据名词。2009年,
本文首先介绍大数据概念,并从背景和内因来解读大数据的发展,然后重点分析大数据产业的战略意义和发展机遇,最后进行总结。1 大数据的概念和发展1.1 大数据的含义
大数据的定义,目前国内引用最多的是来自维基百科的描述:“大数据是由于规模、复杂性、实时而导致的使之无法在一定时间内用常规软件工具对其进行获取、存储、搜索、分享、分析、可视化的数据集合。”具体而言,大数据具备如下“4V ”特征[3-4]:
(1)海量(Volume ):全球数据已进入“泽”时代。据IDC 的研究,2012年全球信息化资料量为2.8 ZB,预计2015年将达到8.6 ZB,2020年将达到40 ZB。
大数据类型繁多,可分为结构化数据、(2)多样(Variety ):半结构化数据和非结构化数据。在2012年,非结构化数据和半结构化数据的占有比例已超过整个数据量的85%,且非结构化与半结构化数据的增长速率大于结构化数据。
大数据往往以数据流的形式动态、(3)快速(Velocity ):快速地产生,具有很强的时效性。只有做好数据流的掌控,
联合国提出并发布“数据脉动”,《联合国“全球脉动”计划——大数据发展带来的机遇与挑战》报告。2011年,《科学》杂志推出大数据专刊,IBM 公司和麦肯锡公司分别发布大数据调研报告,指出了大数据研究的地位以及将给社会带来的价值。2012年3月,美国奥巴马政府宣布投资2亿美元启动“大数
[2]据研发计划”。
在国内,2009年开始掀起的物联网浪潮,经过3年多发展,已在交通、能源、安防、环保、农业等领域取得了初步的成效,现在急需的是加强数据的分析与挖掘,提高智能处理能力,从而提升物联网应用的价值,促进规模推广。大数据已成为时代发展的需要。2012年9月,中国计算机学会和中国通信学会分别增设了大数据专家委员会。2013年,大数据已成为国内IT 产业曝光率最高的词汇之一。
————————————————
收稿日期:2013-07-22
84物联网技术 2013年 / 第10期
大价值。不过,大数据的价值密度很低,需要通过专业的技术手段进行挖掘。1.2 大数据发展的背景
大数据的出现,首先以IT 新技术的发展为先导条件。20世纪里,二制码、模数转化和电子技术的出现,使得数据走向数字化。90年代全球最畅销书籍之一《数字化生存》的主题就是“从原子到比特”。90年代末期到21世纪初,互联网和移动通信网飞速发展,信息传输与分享的能力大大提升,信息采集与存储的成本不断降低,传感、计算、网络、存储等IT 领域的诸多技术进步使得大数据成为可能。
大数据的发展,主要以人、机、物三元世界走向融合为直接动因。物联网的发展正是人、机、物三元世界走向深入融合的表象,它引发了数据规模的爆炸式增长和数据模式的高度复杂化,世界已进入网络化的大数据时代。其一,物联网的蓬勃发展是大数据的主要推动力,各个城市的视频监控每时每刻都在采集巨量的流媒体数据。工业设备的监控也是大数据的重要来源。例如,劳斯莱斯公司对全世界数以万计的飞机引擎进行实时监控,每年传送PB 数量级的数据。其二,个人活动、企业的生产经营近年来造成数据量的飙升。据2011年的统计数字,一分钟内,微博、推特上新发布的数据量超过10万,脸谱的浏览量超过 600 万;两分钟内,全球上传的照片数量超过19世纪照片数量总和。其三,以数据为中心的传统学科随着技术进步正以更快的速率生产出越来越多的数据。例如,目前天文观测获取信息量的速率至少在1015 b/周的数量级,用于物理研究的高能粒子加速器具有109 张图片/秒的信息量,分子生物学中DNA 、蛋白质分子长链的刻画同样需要大数据的支持。据统计,2011年全球被创建和复制的数据总量远远超过人类有史以来所有印刷材料的数据总量。1.3 大数据发展的内因
数据(data )在拉丁文里是“已知”的意思。它代表着对某事物、某事件的描述,可以记录、分析和重组它。在人类社会发展的历史长河中,人们主要依靠抽样数据、局部数据或片面的数据,甚至在无法获得实证数据的时候纯粹依赖经验、假设与推理去发现未知领域的规律。因此,人类对问题的认识往往是表面的、片面的、扭曲的。大数据的出现,使得人类第一次有机会和条件,在众多的领域能使用全面、完整和系统的数据,深入探索未知的规律,获取过去难以得到的知识,发现过去无法企及的商机。可以说,人类测量、记录和分析世界的渴望是大数据发展的核心内因。
是一个国家数字主权的体现。大数据时代,国家层面的竞争力将部分体现为一国拥有大数据的规模、活性以及对数据的解释、运用的能力。一个国家在网络空间的数据主权将是继海、陆、空、天之后另一个大国博弈的空间。在大数据领域的落后,意味着失守产业战略制高点,意味着数字主权无险可守,意味着国家安全将出现漏洞。因此,大数据是属于关系到国家核心利益的战略资源。我国应尽快研究并制定我们国家的大数据战略。
2.2 引发知识与技术创新模式的变革
大数据促使科技界对科学研究方法论进行重新审视,正在引发科学研究思维与方法的一场革命[5]。传统的科学研究模式是,先提出“公理”然后推理得出“定理”,先提出“猜想”然后证明得出“定律”,遵循着寻找因果关系的路径。然而,传统模式中认知世界的数据基于采样而得,使得理论分析的成果带有其时代的局限性,而且理论分析方法在许多问题上过于复杂,难以解决实际问题,人们开始寻求模拟的方法,导致计算科学的兴起。海量数据的出现催生了一种新的科研模式,即面对海量数据,科研人员无需再去追问事物之间的因果关系,只需从数据中直接查找或挖掘事物之间的相互关系,这会给我们提供非常新颖且有价值的观点。相互关系也许不能准确地告诉我们某件事情为何会发生,但它能告诉我们这件事情正在发生或即将发生。这个价值已足够大,因为在大数据的帮助下,只要改变思维模式,我们可以用更低的成本、更快的速率实现知识创新和技术创新。2.3 促进新老产业裂变与升华的动因
数据为王的大数据时代已到来,产业界的需求与关注点发生了重大转变:企业关注的重点转向数据,计算机行业正在转变为真正的信息行业,从追求计算速度转变为关注大数据处理能力,软件也将从以编程为主转变为以数据为中心。大数据处理的兴起也改变了云计算的发展方向,使其进入以分
析即服务(AaaS )为主要标志的Cloud 2.0时代[3]
。采用大数
据处理方法,生物制药、新材料研制生产的流程会发生革命性的变化,可以通过数据处理能力极高的计算机进行并行处理,同时进行大批量的仿真比较和筛选,大大提高科研和生产效率。
大数据不仅是传统产业升级的助推器,也是新兴产业孕育的催化剂。数据已成为与矿物和化学元素一样的原始材料,未来可能形成数据服务、数据探矿、数据化学、数据材料、数据制药等一系列战略性的新兴产业。
2013年 / 第10期 物联网技术
85
3.1 巨大的市场需求
一是软件需要更新。物联网、移动互联网的迅速发展,使数据产生加快、规模加大,迫切需要运用大数据手段进行分析处理,快速提炼其中的有效信息。面对爆发式增长的海量数据,基于传统架构的信息系统已难以应对,同时传统商业智能系统和数据分析软件,面对大数据时也缺少有效的分析工具和方法。二是硬件需要升级。大数据面临着有效存储、实时分析等挑战,必将对芯片、存储产业产生重要影响,将推动一体化数据存储处理服务器、内存计算等产品的升级创新。三是信息系统普遍面临升级换代的迫切需求,为信息产业带来新的、更为广阔的增长点。四是大数据的应用将加速产业的创新融合发展,面向大数据市场的新产品、新技术、新服务、新业态、新模式将不断涌现。3.2 共性的驱动引擎
移动互联网、下一代互联网、物联网、社会网络是未来新一代信息技术应用的具体形态,大数据的存储、加工与分析是支撑它们的共性技术。以云计算为支撑平台,以人、机、物的信息不断汇集而成的大数据为核心资产,以位置、传感、语义、机器学习等众多技术的融合应用为处理、分析、优化手段,把计算结果交叉反馈给移动互联网、下一代互联网、物联网、社会网络等应用中,这一过程将创造巨大的商业价值。大数据是该生产过程的核心引擎。3.3 重要性更加突显
作为新兴的生产力,大数据对国民经济众多产业的生产关系、生产方式影响巨大而深远。对于传统工业,采用大数据处理方法,新材料的研制、新产品的设计生产、供应链的精益管理、工艺的测试改良等流程会发生革命性的变化,带动整个行业迈入数字化与信息化的新阶段。对于传统农业,大
息产业在国民经济中的产业影响力系数及产业感应度系数被进一步提升,信息产业在国民经济中的重要地位愈加突出。3.4 追赶世界的机遇
大数据有望成为继计算机、移动通信、物联网之后信息产业的又一个至高点。在计算机产业,上游的芯片技术、操作系统等被国外企业垄断;在移动通信产业,通信制式的基础专利被国外企业牢牢控制;在物联网产业,传感器核心技术、RFID 标准与芯片也受制于国外。但是,大数据产业遇到了一个好的时代际遇—— 以“分享、协作”为特征的知识生产新模式正在兴起,众多大数据技术研究成果走“开源”路线,这为国内在尽量短的时间内追赶国外先进水平创造了条件。因此,中国的大数据产业较计算机、移动通信、物联网产业有着更好的发展机遇,相对更容易实现信息产业的中国梦。4 结 语
大数据在企业、政务、社会的应用虽然刚开始,但已给我们这个时代带来了巨大的冲击力。目前,大数据产业已初步形成新兴创业公司和软件巨头齐头并进,开源和闭源生态系统并存融合的发展格局。希望我国的信息产业能抓住大数据这一时代机遇,追赶世界先进水平;希望我国工业、农业、服务业能利用大数据手段,加快产业升级,实现跨越发展。
参 考 文 献
[1] Nature. Data wrangling [EB/OL].[2008-09-03]. http://www.nature.com/news/specials/bigdata/index.html/
[2] 王忠. 美国推动大数据技术发展的战略价值及启示[J].中国发展观察,2012(6):44-45.
[3] 李国杰,程学旗. 大数据研究:未来科技及经济社会发展的重大战略领域[J]. 中国科学院院刊,2012(6):647-657.
[4] 陈如明. 大数据时代的挑战、价值与应对策略[J].移动通信,2012
14-15. (17):
[5] 徐磊. 大数据基础上的社会认知[J].中国电子科学研究院学报,201323-26. (1):
作者简介:钱小聪 男,1977年出生,博士,高级工程师,江苏赛联信息产业研究院副院长。主要研究方向为物联网、云计算与大数据等前沿信息技 术、IT 产业发展、智慧城市规划等。
(上接第83页)
Technology, 2007, 4.
[3] YOUSEFF L, BUTRICO M, DA SILVA D. Toward a unified ontology of cloud computing [C]// Proceedings of 2008 Grid Computer Environment Workshop. Austin, TX, England: GCE, 2008: 1-10.
[4] SULTAN N. Cloud computing for education: a new dawn? [J].International Journal of Information Management, 2010, 30(2): 109-116.
86物联网技术 2013年 / 第10期
[5] 章泽昂,邬家炜. 基于云计算的教育信息化平台的研究[J]. 中国远
程教育,201068-71,82. (6):
[6] 张进宝,黄荣怀,张连刚. 智慧教育云服务:教育信息化服务新模式[J].开放教育研究,201220-26. (3):[7] 刘鹏. 云计算[M]. 2版. 北京:电子工业出版社,2011.
[8] 王康,廖汉文,张岩. 云计算在基础教育信息化建设中的应用研究[J].现代教育技术,2012104-106. (4):
大数据的发展和产业机遇
作者:
作者单位:刊名:英文刊名:年,卷(期):
钱小聪, QIAN Xiao-cong
江苏赛联信息产业研究院,江苏 南京,210012物联网技术
Internet of things technologies2013(10)
参考文献(5条)
1. Nature Data wrangling 2008
2. 王忠 美国推动大数据技术发展的战略价值及启示[期刊论文]-{H}中国发展观察 2012(06)
3. 李国杰;程学旗 大数据研究:未来科技及经济社会发展的重大战略领域[期刊论文]-{H}中国科学院院刊 2012(06)4. 陈如明 大数据时代的挑战、价值与应对策略[期刊论文]-{H}移动通信 2012(17)5. 徐磊 大数据基础上的社会认知 2013(01)
本文链接:http://d.g.wanfangdata.com.cn/Periodical_wlwjs201310031.aspx