技术文章 > 大数据落地引发BI变革 两大挑战揭秘

大数据落地引发BI变革 两大挑战揭秘

2017-08-23 18:05

文档管理软件,文档管理系统,知识管理系统,档案管理系统的技术资料:
大数据落地引发BI变革 两大挑战揭秘
摘要:在Gartner2011技术成熟度曲线(HypeCycle)中我们看到,大数据技术正在日趋成熟并上升到了“过热期”阶段。在企业需求更快的数据访问速度时,也希望能够迅速了解到这些数据可用来做什么。这就涉及到了大数据在企业应用中的两个主要挑战,实时数据分析与实时业务响应。
原标题:大数据落地引发BI变革 两大挑战揭秘
原作者:发表时间:2013/10/11 来源:互联网
随着信息化技术的发展与应用,为各行业的企业在业务发展上带来了最直接的机会。同时也产生了大量的业务相关数据,这些数据可能会涉及到企业的财务信息、营销数据、客户资料等等。
这些数据的留存是否会对业务发展提供有力的帮助呢?据相关机构估算,在财富500强的企业中,平均每一家企业都会保存有最近7至10年的客户数据,而这些数据往往未得到充分的利用。与此同时,这类的数据还在大幅度的增长。据经济学家最近的一项研究显示,人类在2005年中创造了大约150 EB字节的数据信息,而2011年达到了1800 EB字节。同样,市场研究公司IDC表示,数字内容将会呈现每18个月翻倍增长的趋势。Gartner预测表示,未来将有多达80%的企业数据趋于非结构化,并且数据来源涵盖了传统和非传统渠道。
大数据面临的两个挑战
近几年来,随着互联网与信息技术的发展,全球数据量呈现了爆炸式的增长。移动通信技术、无线设备、社交网络、远程协作以及基于云的诸多服务都是导致数据呈几何增长的主要原因。可以说,数据的爆炸式增长为全球各行业均带来了管理上的问题。
例如,在电信行业的呼叫数据记录管理、金融行业的交易数据和客户资料管理、零售行业的供应链管理以及制造行业的业务绩效管理等等。对于企业用户来说,大数据的来临也无形中增加了他们所需承担的责任以及成本。企业必须保持这些数据在很长一段时间内的可用性,并满足这些庞大数据量在存储方面的需求。这就导致了企业需要采购和维护所需的硬件设备,并且还要不断的进行监督与管理。
那么,企业利用这些海量的数据能做什么呢?许多敏锐的管理者已经意识到,这些数据可能会成为企业的真正优势,为业务运营提供超越竞争对手的洞察力。但随之而来的问题就是数据处理的能力和速度。数据的运算速度会受到物理设备极限能力的限制,从而影响从数据库中访问数据和运算指令所需的时间。这意味着,一个复杂的计算将无法实时完成,可能会持续几个小时甚至几天。
另一方面,运算速度并不是决定大数据发展的唯一关键要求。当前的大数据无处不在,并且其大多来自于非结构化的外部数据。企业需要寻找一个可以帮助其获取、分析、治理和信息共享的工具。在Gartner 2011技术成熟度曲线(Hype Cycle)中我们看到,大数据技术正在日趋成熟并上升到了“过热期”阶段。在企业需求更快的数据访问速度时,也希望能够迅速了解到这些数据可用来做什么。这就涉及到了大数据在企业应用中的两个主要挑战,实时数据分析与实时业务响应。
挑战之一“实时数据分析”
大约在15年前,当时还没有现在的“商业智能(BI)”,而是称为“决策支持”。那个时候,企业已经可以从他们的数据中获得有用的业务发展洞察,直到最近数据量爆炸增长的来临,才使得企业在获取数据实时分析时面临了较大的阻力。
在2012年达沃斯世界经济论坛的报告中写道:“现在企业中的分析师们希望能够制定他们所需求的分析方案并亲自制作和运用报告,希望在运作时能够尽量少的被IT部门参与。他们觉得对于IT的依赖大大减慢了他们的工作效率。同时,他们还希望数据能够可视化。因为目前企业和消费者比以往任何时候都更加期望能够获取到与数据相关度较高可视化报告,这不仅要体现在图表、图形和热点图等形式,还需要能够设计具备偏好的自定义形式。”
由此不难看出,明确的数据点和分析结果对于企业来说是非常有价值的。但现今的分析仅局限在企业的现有数据库还不够,还需要保持数据与当前社会乃至全球的相关性。这意味着企业需要从社交媒体、地理位置、CRM系统、政府的公开数据、手机信息等非专有的渠道获取数据,进行额外的分析。
另一方面,对于实时分析来说,当前的移动应用潜力也才刚刚开始出现,其移动分析或将比预期的影响更加深远。例如,广告或其他有针对性的目的可以对移动设备用户的实时行为作出分析。而在移动应用分析方面,那些有大量移动办公人员的企业可以针对员工移动设备的使用作出分析,其中可能会包括数据、信息和地理位置等等。除却移动应用外,实时分析还可利用从无线传感器网络、道路网络监测、空中交通及铁路等途径获取的数据。
总之,任何企业的目标都是希望获得一个真实的且实时的数据分析,通过大数据寻找新的思路。因为大数据往往涉及了多年的历史管理数据,企业可以从中提高决策、加速性能并提高生产力和效率。
挑战之二“实时业务响应”
现阶段企业自身也正在以惊人的速度发展业务。企业越来越需要对影响他们业务的事件做出更快的反应。通过对数据的分析,企业能够找出提高其业务规划趋势和预测的模式,以减少在处理顾客需求和投诉方面的响应时间。同时,也可以及时向销售部门提供所需的信息。
为实现企业缩短响应时间的目标,企业必须要在事件发生时作出实时的交易信息评估,基于实时数据进行动态的问题处理。然而说着简单,做起来却不一定容易。随着大数据的来临,现有的业务数据量已远超过了传统磁盘系统和数据仓库所能承受的最大处理能力。
为此才引出了下面的话题——内存计算技术。在传统的运算方式中,数据是从磁盘驱动器被载入到内存中的,内存则主要放置正在处理的数据信息。而内存计算却是将所有的数据都保存在内存中,处理器直接从内存读取数据。相比传统的磁盘来说,内存的读取速率更高,处理速度更快。对于一个企业来说,内存技术的采用标志着其整体业务的转折,特别是在处理大数据方面。
在最近几年中,中央处理器和内存的价格已呈现明显下滑,同时每单位内存的可用性和能力也呈现了显著增长。这种增长为海量数据的存储方式带来了重新思考的空间。同时,数据存储方式的改变也将对企业应用产生重要的影响并最终影响企业的运营方式。内存技术将带来企业管理的全新时代,管理人员可以根据他们的决策对复杂的业务数据进行实时分析,这对于大型IT系统来说无疑具备里程碑式的意义。
另一方面,在传统的基于磁盘的系统中,数据信息从运营系统中被提取并构建在不同的数据仓库系统进行分析,这意味着在数据采集和生成过程中存在明显的延时。而随着内存技术的可用,业务数据都在单一的综合数据库中,以处理每日所有的交易和更新,并应对实时响应分析需求。由于内存技术允许从内存中直接访问数据,所以会比传统的磁盘系统具备更快的结果返回速度。同时,更新数据库所花费的时间也显著减少,系统也可以在同一时间处理更多的查询操作。
虽然内存计算技术并不是一个全新的技术,但其现在已发展成为一个可供企业真正使用的技术。随着处理速度的巨大进步,在质量查询、商业洞察以及内存中的数据库管理系统将能够达到10至20倍的提升,这是传统的磁盘设备所无法相比的。同时,随着现阶段硬件价格的优势和软件的创新,已使企业有可能利用内存计算技术在几秒的时间内对大量的数据进行筛选、关联和更新。
此外,谈到内存技术对行业的影响,可以说其从消费产品和零售业,到制造业和金融服务业的运作方面具有很大的潜力。
消费产品企业可以使用内存技术来管理他们的供应商、跟踪产品和管理促销活动,并且对保修期内产品的缺陷进行分析。零售企业可以跨越多个地域管理店面运营、进行网点销售分析、进行多渠道的定价分析和对损坏、变质及退回的产品进行跟踪。制造企业可以通过内存技术确保业务绩效管理、对生产和维修进行分析并进行实时的资产利用率研究。金融服务公司可以进行对冲基金交易分析,如对货币、股票、衍生性金融商品和其他证劵的客户风险管理。利用从内存中获取的信息,企业可以基于市场交易的现状作出实时系统的风险管理和报告。
内存计算技术为业务带来的益处
从内存计算对各行业的影响不难看出,其在许多领域都会产生令用户印象深刻的益处。其中最重要的是节约成本、提高效率和实时性。
在成本的节约方面,主要体现在内存的运行功耗和占用资源比传统磁盘要低。据调查显示,数据库管理目前占据了大多数企业IT预算的25%,甚至更多。由于内存中的数据库所使用的硬件系统比传统磁盘数据库所需功耗更低,因此它们可以大幅度降低硬件及维护成本。另外,由于内存计算技术可以实现无中断作业,释放了以前传统数据库为响应报告请求而占用的系统资源,所以也减少了对公司整体IT环境的负担。
在提高效率方面,内存技术将使得那些依赖于频繁数据更新的企业更加方便。迁移到内存技术可使企业在IT架构中删除以前的传统技术层,降低复杂性及传统系统所需要的基础设施。通过内存计算技术,企业数据检索几乎将在瞬间完成,使企业中的所有团队更有效率。同时,内存计算允许任何企业用户轻松创建BI子集,方便各部门使用。企业用户也不再需要IT部门的支持就可以获取相关业务数据的洞察。
在实时性方面,内存技术使得企业可以更容易的编制其业务数据的全面概述,而不是仅限于其数据仓库中分门别类的数据子集。通过这个可见性的改进,企业可以从事件分析中实时进行决策,以使他们的业务模式具备可预测性,摆脱传统模式的被动响应。
改写“五分钟”法则
随着现今信息技术、互联网、移动通信技术的成熟以及触摸式智能手机、平板电脑、社交网络等日新月异的产品出现,人们对于技术的看法也发生了改变。如何更好的利用新技术优化企业的业务?这是每个企业用户都在考虑的问题。人们希望能通过一种方式,有效的搜索和筛选大量的联机数据以获取到有意义的信息。
无疑,内存技术将成为实现数据快速处理的最佳方案,但是相比于基于磁盘的数据管理系统其成本也是高昂的。即便如此,那些最先采用内存技术的企业,在业务洞察力、效率和降低整体IT成本方面也将具备真正的优势。
追溯到1987年,Jim Gray与Gianfranco Putzolu发表了I/O 的“五分钟法则”观点。该观点简而言之就是,如果一条记录被频繁访问,那么就应该将其放到内存中,否则的话就应该保存在硬盘上按需访问,而这个临界点就是五分钟。这个观点的评估标准是根据成本投入判断的,并且在20多年之后的内存时代中又有专家再次提出,证明其依然有效。
时隔近30年,与现在相比,那时的内存价格每GB超过5000美元,而现在已不足1美元了。此外,随着大型多核处理器架构的发展,再结合内存成本的一再下降,可以说这两个趋势的出现为企业提供了一个转型的时机。
在未来几年内,随着企业越加了解如何通过实时的大数据筛选所需之后,我们将会在各个领域看到越来越多的此类应用。尽管现在的全球管理者们才刚刚开始学习如何应付大数据,但在不久的将来,我们将看到企业如何挖掘大数据,并用它为企业创造更多的价值。
备注:本文为SAP公司在2012年世界经济论坛白皮书进行改编。
核心关注:拓步ERP系统平台是覆盖了众多的业务领域、行业应用,蕴涵了丰富的ERP管理思想,集成了ERP软件业务管理理念,功能涉及供应链、成本、制造、CRM、HR等众多业务领域的管理,全面涵盖了企业关注ERP管理系统的核心领域,是众多中小企业信息化建设首选的ERP管理软件信赖品牌。
转载请注明出处:拓步ERP资讯网http://www.toberp.com/
本文标题:大数据落地引发BI变革 两大挑战揭秘
本文网址:http://www.toberp.com/html/support/11121810973.html