资源预览内容
第1页 / 共66页
第2页 / 共66页
第3页 / 共66页
第4页 / 共66页
第5页 / 共66页
第6页 / 共66页
第7页 / 共66页
第8页 / 共66页
第9页 / 共66页
第10页 / 共66页
第11页 / 共66页
第12页 / 共66页
第13页 / 共66页
第14页 / 共66页
第15页 / 共66页
第16页 / 共66页
第17页 / 共66页
第18页 / 共66页
第19页 / 共66页
第20页 / 共66页
亲,该文档总共66页,到这儿已超出免费预览范围,如果喜欢就下载吧!
点击查看更多>>
资源描述
单击此处编辑母版标题样式,单击此处编辑母版文本样式,第二级,第三级,第四级,第五级,2018/4/26,#,互联网,+,智慧高校大数据建设方案,互联网,+,智慧高教大数据建设方案,互联网,+,智慧校园大数据建设方案,互联网+智慧高校大数据建设方案,01,现状分析,开发背景,面临挑战,01现状分析开发背景,大数据,高校大数据开发背景,战略机遇,:培养大数据人才、利用高校大数据深化高校管理促进高校改革发展、使用大数据平台提高高校科研水平和效率,既是高校面临的重要任务,也是高校发展的战略机遇。,大数据正在逐渐成为社会基础设施,成为每一家组织机构的标配。“大数据”之“大”,更多的意义在于:人类可以“分析和利用”的数据在大量增加,通过这些数据的交换、整合和分析,人类可以发现新的知识,创造新的价值,并让很多常态化的认知、判断、思维定式、产品形态、服务模式,形成全新的面貌和演进方向。,大数据已经引起国际社会的高度重视,世界各国都在加快推进大数据战略布局。大数据产业已上升至国家战略高度,正日益渗透到经济发展和社会生活的方方面面。,2015,年,9,月,5,日,,国务院发布,促进大数据发展行动纲要,,文件指出“数据已经成为国家基础性战略资源”,并在启动的十大工程之一“公共服务大数据工程”中明确提出要建设教育文化大数据。,教育大数据已经上升到国家战略层面,引起社会各界的广泛关注和高度重视。教育大数据将首先破解传统教育面临的六大难题(发展不均衡难题、方式单调化难题、信息隐形化难题、决策粗放化难题、择校感性化难题、就业盲目化难题),助推教育的全方位变革与创新发展。,确立教育大数据在我国教育事业发展与改革中的战略地位已是国家教育现代化建设的必然要求。教育大数据是重要的国家战略资产、教育领域综合改革的科学力量与发展智慧教育的基石。,人类社会已经迎来“大数据时代”。培养大数据人才、利用高校大数据深化高校管理促进高校改革发展、使用大数据平台提高高校科研水平和效率,既是高校面临的重要任务,也是高校发展的战略机遇。,大数据高校大数据开发背景战略机遇:培养大数据人才、利用高校大,大数据,高校面临的大数据问题,01,02,03,04,数据来源多元化,共享数据库涵盖系统多,高校生源不断扩张,信息不断积累,致使数据库中的信息不断增加,进而为数据挖掘、管理和分析带来了困难。,数据规模日益庞大,高校不同学科与专业采用的大数据环境大多依赖现有的,IT,环境,导致大数据运行的基础软硬件环境比较混乱且极其不稳定,缺乏有效的运维管理,严重影响教学和科研工作的正常进行。,缺乏稳定高效的大数据环境,校园的信息仍然停留在收集和累积阶段,尽管移动终端系统的不断发展为信息采集带来了极大的便利,但采集后的数据仅仅停留在查询阶段,并没有对数据进行整合、分析和梳理,使得这些信息仍未被管理者采用,作为决策依据的信息则少之又少。,数据利用不充分,数据剧增由量变引起质变,使科研人员的思维和行为模式在传统的学科研究领域发生转变。如何借助大数据相关技术以及资源,找到本学科研究成果的新视角,已经成为当前高校研究的重要课题。,数据驱动带来的科研新挑战,大数据高校面临的大数据问题 01020304数据来源多元化,大数据,高校面临的大数据问题,主要,是,数字化校园系统产生数据,数据的维度少,业务来源不足,数据量,百,GB,到几,TB,,数据量少,以结构化数据为主,,达不到大数据要求,部份数据源有错误,数据不一致,业务接口与数据结构不规范,数据涉及面窄,有效数据量少,数据接口不完善,数据源的问题分析,大数据高校面临的大数据问题 主要是数字化校园系统产生数据数据,大数据,高校面临的大数据问题,校领导,决策更加科学,教师,教学更加便捷,教学水平提升,学生,随时随地个性化学习,家长,及时掌握子女在校情况,教学管理与服务,管理更加简单高效,服务水平不断提升,校园环境,更加绿色、环保、安全,信息化覆盖范围和服务水平有效提升,社会,更多优质教育资源和科研成果开放共享,高校大数据服务用户分析,大数据高校面临的大数据问题 校领导教师学生家长教学管理与服务,大数据,高校业务常见应用系统,数据中心,教务系统,学工系统,一卡通系统,设备管理,系统,科研管理,系统,医疗管理,系统,研究生管理系统,上网行为管理系统,网络计费,系统,无线,WiFi,系统,宿舍管理,系统,图书管理,系统,房产管理,系统,财务系统,人事系统,基本信息,基本信息、成绩等,贫困生、奖学金等,流水账,岗位、职称等,专业、研究方向等,大数据高校业务常见应用系统数据中心教务系统学工系统一卡通系统,大数据,高校常见业务系统详细数据分析,大数据高校常见业务系统详细数据分析,大数据,高校大数据常见服务用户类型,用户类型,校领导,具体,需求,1,、师生整体情况,2,、学校舆情,3,、科研水平,4,、资产情况,用户类型,院领导,具体,需求,1,、学院各专业各班级的集体,/,个人行为画像,2,、学院教师的课程和科研情况,用户类型,校工会,具体,需求,1,、评判贫困生、奖助学金结果的合理性,识别冒领人员,2,、教职工的劳资情况,用户类型,设备处,具体,需求,1,、现有资产现状,2,、资产发展趋势,3,、各品牌资产的故障率,4,、各单位资产采购规划,用户类型,企业,具体,需求,根据学生行为画像情况和企业岗位要求匹配度,推荐学生到企业实习或就业,用户类型,图书馆,具体,需求,1,、图书馆藏现状,2,、图书借阅现状,3,、趋势分析,4,、图书采购规划,用户类型,老师,具体,需求,1,、班级成绩,2,、班级,/,个人行为画像,3,、图书借阅,推送书籍,4,、科研情况,用户类型,校医院,具体,需求,1,、药品收支率,2,、学校健康档案,3,、传染病预防和治疗,4,、分析药品副作用,用户类型,本科生,/,研究生,具体,需求,1,、成绩和能力情况,2,、就业市场和招聘指导,3,、图书借阅,4,、消费、网络,大数据高校大数据常见服务用户类型用户类型校领导具体需求1、师,大数据,高校大数据建设的其它行业问题,关联分析,统一规划,运维服务,大数据高校大数据建设的其它行业问题关联分析统一规划运维服务,大数据,高校大数据平台建设意义,高校作为高科技人才以及创新技术的摇篮,承载着科研攻关和人才培养的双重使命。在新的科技浪潮中,高校应瞄准时代最前沿,将教学科研创新、专业人才培养与大数据紧密融合在一起,在更高起点上推动学校在大数据教学、科研以及创新方面再上新台阶。,建设意义,01,02,05,04,03,06,实现个性化学习,集成教育数据挖掘与学习分析技术,持续采集学习行为数据,智能分析,推送适合的学习资源并进行个性化学习建议。,实现教育评价体系重构,采集教与学的全过程数据,全面客观记录学生成长轨迹,引导学生培养模式和教育质量管理方式科学健康发展。,实现科学研究范式转型,解决科研经费等科研管理难题,提供便捷的技术支撑与人性化服务,提高研究的效率和结果的可信度。,实现科学化教育管理,注重相关关系识别,强调因果关系的确定,发现隐藏的、有用的信息,做好教育管理和决策工作的数据支持。,实现教学模式改革,教学数据分析与预测,改变教学模式,实现个性化教育,调整教学方案,优化教学方法,提高教学质量。,开启“大数据 创客”新模式,完成创新应用及发布,完善高校信息化建设,提升高校实力,加速创客成果转化,推动创意实现产业化,打造具有影响力的“创客校园”。,大数据高校大数据平台建设意义 高校作为高科技人才以及创新,02,技术实现,技术架构,标准体系,业务开发平台,应用开发与服务,02技术实现技术架构业务开发平台,大数据,高校大数据平台技术架构,以构建基础硬件层为底层支撑,利用云计算、大数据的数据集成、数据安全、服务器集群、数据计算与挖掘分析等技术,遵循“,1 8”,(,1,个中心平台,8,大技术标准)大数据标准体系,通过,HIVE,和,HBASE,构建大数据数据中心。在此基础上,公司自主研发了“国子数据魔方”业务开发平台,通过业务开发平台进行应用开发、应用发布、服务注册的信息化管理,并可以将应用以可视化界面展示给用户,为领导决策提供数据依据。架构示意图如下:,大数据高校大数据平台技术架构以构建基础硬件层为底层支撑,利用,大数据,高校大数据平台技术架构,1,、基础硬件层,基础硬件层是由一组低廉的,PC,或服务器组合构建而成。基础硬件层主要承载着数据的存储、运算、容错、调度和通信等任务,对基础应用层下达的指令进行执行和反馈。,2,、数据集成,大数据特征表现在实时、交互、海量等方面,并且以半结构化、非结构化数据为主,价值密度低,为了更好地“让数据说话”,并充分发挥大数据价值效应,应坚持“能采尽采”的原则,数据源的涵盖范围要尽量大。,3,、数据计算与分析挖掘,大数据平台涵盖了大数据场景下常用的计算场景,包含离线计算、实时计算、流式计算、数据挖掘与机器学习等。可以更容易、更方便地构建全生命周期的数据湖,使数据的加工、处理、创新过程更加丰富,从而实现数据的更大价值。,5,、服务器集群,服务器集群是将很多服务器集中起来一起进行同一种服务,集群可以获得更高的计算速度,也可以用作备份,任何一个服务器损坏整个系统都能正常运行。群集化操作可以减少单点故障数量,实现群集化资源的高可用性。,4,、数据安全,大数据平台通过一系列的认证授权和资源隔离机制,实现数据资源的安全性、可维护性、可用性、可信性。提供统一认证服务负责对使用者的身份进行验证;提供统一授权服务负责对用户的资源访问权限进行控制;提供统一资源调度负责对用户使用的底层资源进行隔离。,大数据高校大数据平台技术架构1、基础硬件层 基础硬件层是由一,大数据,高校大数据平台技术架构,6,、大数据技术标准,一个中心平台:大数据业务开发平台。,8,大技术标准:基础标准、数据表示标准、数据处理标准、数据存储标准、数据服务标准、数据安全和隐私标准、行业大数据标准、大数据产品测试标准。,7,、大数据数据中心,通过对各种类型的结构化、半结构化、非结构化数据信息的采集、预处理、分析处理以及存储等相关操作,构建统一、规范、全面的大数据数据中心,为相关工作提供数据支持。,8,、大数据业务开发平台,以,Hadoop,为核心,融合优秀技术,提供开放的数据和业务开发平台,进行应用开发、应用发布、应用注册及应用服务的信息化流程管理,从而提升了大数据应用体验,有利于发挥创新精神,创造无限价值。,9,、大数据业务可视化分析,大数据业务可视化分析能够将隐藏于海量数据中的信息和知识挖掘出来,为用户提供可视化的操作分析界面;为用户的相关活动提供数据依据,从而提高工作效率。,大数据高校大数据平台技术架构6、大数据技术标准一个中心平台:,大数据,高校大数据平台标准体系,大数据信息标准为数据收集、数据处理、数据存储、数据分析与挖掘提供指导和参照标准,加快建立高校信息采集、存储、公开、共享、使用、质量保障和安全管理等技术标准,引导建立信息共享交换的标准规范,促进信息资源开发利用,实现大数据汇聚整合,为大数据、云计算提供强有力的基础支撑。,抓好大数据标准体系建设,推进国家大数据战略实施,应对三方面需求:面向高校教育的需要,研制开放、共享大数据标准;助力高校教育创新发展,制订典型领域相关标准;保障资源安全、保护个人隐私,研制安全标准等,以数据为基本元素进行数据安全管理,规范数据的共享、使用和管理的整个流程,解决跨平台的数据交互、数据开放共享等难题。,公司对我国现有标准、在研标准和将提出的标准计划进行梳理,依据大数据技术体系,从基础、技术、产品、应用等不同角度进行分析,形成了大数据标准体系框架,按照,1 8,的理念进行设计,即以,国子数据魔方,业务开发平台为支撑,构建基础标准、数据表示标准、数据处理标准、数据存储标准、大数据服务标准、大数据安全和隐私标准、行业大数据应用标准和大数据产品测试八大技术标准。,大数据高校大数据平台标准体系大数据信息标准为数据收集、数据处,大数据,高校大数据平台标准体系,通过平台和技术标准的建设,整合和引导资源、激活科技要素、推动自主创新与开放创新,促进大数据健康发展;加速技术积累、科技进步、创新成果推广,加速大数据在高校的广泛应用,促进高校全面、协调、可持续发展;解决数据共享难、数据格式不统一、数据标准不规范、数据重复建设等难题。,大数据高校大数据平台标准体系通过平台和技术标准的建设,整合和,大数据,高校大数据平台标准体系,1,、基础标准,大数据术语、大数据参考架构、大数据平台架构标准,能够更加切合实际的对相关操作进行描述,形成统一数据标准,进而为数据库提供基础支撑和服务。,2,、数据表示标准,数据编码规范、元数据规范、非结构化数据、数据集统一描述规范等,确保数据信息的交互共享,进而消除信息孤岛。,3,、数据处理标准,数据质量评价标准、数据采集标准、数据组织标准等大数据处理阶段相关的标准规范,消除变量自身变异和数值大小的影响,为大数据应用打下良好的基础。,4,、,数据存储标准,非关系型数据库规范、非结构化数据管理系统规范等大数据背景下的新型存储系统相关规范,有助于数据进行交互式传输和管理,提高存储量、存储速度,进而为大数据快速挖掘、提取、分析提供基础。,大数据高校大数据平台标准体系1、基础标准 大数据术语、大数据,大数据,高校大数据平台标准体系,5,、大数据服务标准,提供大数据实时分析服务、可视化服务等一系列大数据服务的标准化描述和接入,提升数据之间的关联性,降低数据分析的复杂度,大幅度提高分析的准确性。,6,、大数据安全和隐私标准,大数据对外服务时,制定数据存储安全、数据传输安全、数据分析挖掘安全等方面的标准,为安全面临的内部管理和外部攻击提供可靠的数据存储、安全的挖掘分析、严格的运营监管。,7,、行业大数据应用标准,相关领域大数据应用、领域大数据的分类和编码等方面的标准,能够更准确地规范各行业的数据标准,并推出与行业相匹配的产品。,8,、,大数据产品测试标准,大数据产品的测试场景、测试指标、测试工具等。大数据产品测试标准的建立能够公平、客观地评测大数据产品的功能和性能,对人们选择合适的大数据产品具有重要的参考价值。,大数据高校大数据平台标准体系5、大数据服务标准提供大数据实时,大数据,高校大数据业务开发平台,为提供众多便捷易用的开发框架和服务引擎,使用户可以迅速地掌握、认知以及使用平台上开放的数据,针对不同的应用场景选择合适的服务引擎进行二次开发,公司自主研发“国子数据魔方”业务开发平台,在提供开放数据的同时,也允许用户通过该平台进行大数据应用的开发,为用户提供一体化应用开发、测试、部署、运行、管理、监控等托管环境,使应用开发人员无需关心应用的底层硬件和基础设施建设,从而提高工作效率。其架构图如下:,大数据高校大数据业务开发平台 为提供众多便捷易用的开发框架和,大数据,高校大数据业务开发平台,大数据中心,大数据数据中心不是简单的硬件设备集成,也不仅仅是数据存储的中心,而是数据流通和应用服务的中心。它具备十分丰富的信息资源、安全可靠的机房设施、高水平的网络管理和十分完备的增值服务,数据中心是高校信息化建设的基础性项目之一。,数据中心通过统一的数据格式实现应用系统之间的数据交换和共享。高校数据中心具有以下建设意义:,收集、存储各类数据的同时有效地将数据管理起来,为高校各个应用系统提供统一的数据服务,保证数据的一致性。,打破信息孤岛,为学校部门和各位领导提供实时数据。各部门之间可以很方便地查看其他部门的公开数据;领导可以统筹查看全校所有部门的业务数据,能够直观地了解学校的情况。,互联互通,便于后期的应用系统开发,将应用与数据分离开来,降低应用系统扩展开发的难度,为全面整合高校应用系统打下坚实的基础。,预留接口,大数据高校大数据业务开发平台大数据中心 大数据数据中心不是,大数据,高校大数据业务开发平台,大数据业务平台层,大数据业务平台由组件、大数据处理引擎、,APP,、,BI,引擎构建而成。大数据业务平台是基于,PAAS,思想构建,并遵循,SAAS,标准。,01,大数据,组件,组件是大数据业务平台的最基本元素,在大数据业务平台中内建组件接口标准,所有的组件都遵循该标准。在标准中定义组件的输入、私有项和输出。在业务开发过程中,通过图形化界面对一个或多个组件进行创建、编辑和关联,从而组合成一个数据处理服务对外发布。,02,大数据,大数据处理引擎,大数据处理引擎是整个业务平台的执行中枢,通过对发布服务中的关联组件进行解析、调度、执行、迭代、合并等操作实现整个服务的平稳运行。,03,大数据,APP,APP,是由一个或多个发布的数据处理服务组合而成的轻应用。用户通过图形化界面编辑,APP,展现的数据和图表形式。,04,大数据,BI,引擎,BI,引擎对构建的,APP,的数据绑定服务和图表形式进行解析和展现。,大数据高校大数据业务开发平台大数据业务平台层大数据业务平台,大数据,高校大数据应用开发与服务,数据有序开放,“大众创业,万众创新”的政策和移动互联网、大数据、物联网等新技术的快速发展,驱动了面向互联网的传统行业的快速创新。大数据是一把双刃剑,开放的同时意味着社会的风险。如何做好数据的有序开放是大数据面临的难题,我们主要按照以下原则进行大数据的有序开放。,01,02,03,高校数据共建,建立统一的数据标准和数据存放接口的互联,使数据从产生开始就有共同的标准。,高校数据的互通,按照“,1 8”,大数据标准体系,建立大数据数据中心,消除高校信息化建设的信息孤岛,实现高校数据互通。,高校数据共享,高校数据来自数字化校园的方方面面,在保障数据安全的前提下,数据需要经过加工脱敏之后,再对用户开放,让数据服务于高校,进而为高校创造数据价值。,大数据高校大数据应用开发与服务数据有序开放“大众创业,万众,大数据,大数据“端到端”交付具体内容,需求调研,产品开发,技术服务,应用扩展,咨询设计,调研客户信息系统的现状,调研客户数据源现状与质量,调研学校大数据关注内容,调研学校背景与发展需求,评估技术实现可行性与规模,数据样例分析,确定使用的大数据的关键技术,确定使用的数据呈现模式,制作完整的咨询规划落地方案,协助客户进行项目规划与申报,调研学校背景与发展需求,提供三盟科技大数据产品与功能,采集客户源数据,针对性进行建模与数据库设计,针对客户需求进行对应的数据关系与挖掘分析,提供大数据应用分析报表与结果,分析源数据的合理性与正确性,学校源数据变化的整合,新增业务的整合,数据监控与管理,技术培训,教学合作,.,开放接口,学校可自行开发大数据应用,为学校增加新的大数据应用功能,增加新的数据关联内容,数据深度挖掘,大数据大数据“端到端”交付具体内容需求调研产品开发技术服务应,大数据,科技大数据产品:架构,01-ETL,业务数据采集:三盟公司自我研发的采集模块。,外部数据采集:,Apache,开源爬虫工具、三盟二次开发,02-,存储,静态数据:采用当前最流行的开源数据库,Mysql,动态数据:存储在,HDFS,上,使用,Spark,进行数据分析;,热数据:存储在,HBase,上,进行快速检索,03-,呈现,后台:使用,SpringMvc+Hibernate+Druid+Shiro,框架,前端:,使用Jquery+BootStrap,+Echarts,组件,大数据科技大数据产品:架构01-ETL业务数据采集:三盟,大数据,数据采集,ETL,行政待办,行政待阅,审批申请,身份信息,消费信息,余额信息,学生信息,考核信息,奖惩信息,资助,宿舍资源,分配信息,日常评比,学生信息,老师信息,考勤信息,学生,系统,教务,系统,宿舍,系统,行政,管理,图书馆,管理,一卡通,其他,系统,上网,行为,课程信息,班级信息,排课排考,成绩,身份信息,访问告警,流量信息,身份信息,消费信息,余额信息,各类数据输出,IN,IN,成绩信息,宿舍评比,一卡通信息,班级信息,专业信息,学生信息,老师信息,学生信息,老师信息,学生信息,卡身份,老师信息,审批信息,事务提醒,各类跨系统数据输入,数据 仓库,服务,提供,大数据数据采集ETL行政待办身份信息学生信息宿舍资源学生信息,大数据,数据清洗,数据清洗原则,清洗前的原始数据,清洗后的数据,数据清洗示例,清洗规则:,门禁系统,把没有卡,id,的数据过滤,,,并把每个卡,ID,和用户,ID,做关联,记录到门禁记录中,一卡通系统:,管理学生,ID,,增加学生姓名,教务系统:,过滤成绩为,0,的记录,过滤重复的课程、通过门禁系统、增加宿舍位置等,学生信息:,过滤无效的地址信息,通过身份证号码,适配学生省份、地市信息等,实际项目举例,大数据数据清洗数据清洗原则清洗前的原始数据清洗后的数据数据清,大数据,数据建模,大数据数据建模,大数据,数据存储,Mysql,Hive,Hbase,Hdfs,MongoDB,Oracle,其它,三盟集群二次开发和接口封装(,DBBOX,),统一访问接口,统一对外接口,我的大学,我的大学,学生行为画像,学生行为画像,学校舆情分析,学校舆情分析,就业指导,就业指导,数据安全分析,数据安全分析,学生行为预警,学生行为预警,其它业务,其它业务,使用统一的大数据接口,大数据数据存储MysqlHiveHbaseHdfsMongo,大数据,数据入库,数据预处理,数据预处理技术主要包括:,清理源数据集中的噪声数据和无关数据。,处理遗漏数据和清洗脏数据、空缺值。,识别删除孤立点。,对数据按时间进行汇集。,存储和管理,数据存储采取关系数据库存储和大数据系统存储,并行的策略:,关系数据库存储。采用,MySql,数据库集群。,大数据数据库存储。采用,HBase,数据库。,大数据文件系统,HDFS,存储,系统管理采用,Hadoop,系统和,ZooKeeper,等管理工具。,教务系统,学工系统,一卡通,系统,上网计费,系统,医疗管理,系统,数据库同步,程序,关系数据库存储,NoSql,数据库,存储,数据分析程序,数据展示程序,关系型数据,流式数据,流式数据,ETL,程序,Hadoop,大数据系统,图书馆管,理系统,人事系统,研究生管理,设备管理,系统,科研管,理系统,宿舍管理,系统,财务系统,New Sql,数据库,存储,大数据文件系统,社会招聘,就业网站,论坛网站,科研网站,爬虫工具,DB,BOX,大数据数据入库数据预处理存储和管理教务系统学工系统一卡通上网,大数据,大数据管理平台建设,Manage,管理软件,三盟科技为学校提供图形化、中文的,大数据管理工具,用于学校老师日常的运维,,主要功能包括如下:,安装部署,数据查询,权限设置,元数据管理,节点修改,故障检测,集群监控,大数据大数据管理平台建设Manage管理软件三盟科技为学校提,大数据,大数据标准规范,高校大数据规模体系,基础数据规范,业务数据规范,架构及实施规范,基础数据标准规范,基础数据业务交互规范,基础数据维护规范,业务数据标准规范,业务数据维护标准,平台构架设计规范,实施指导规范,数据接口结构规范,大数据平台数据字典,建立高校大数据标准,对各个业务系统的数据进行规范梳理,大数据大数据标准规范高校大数据规模体系基础数据规范业务数据规,大数据,大数据使用技术,折线图,柱状图,仪表盘,饼图,预警信号,地图,成绩,消费,生活,读书,上网,纪律,热点图,雷达图,大数据大数据使用技术折线图柱状图仪表盘饼图预警信号地图成绩消,大数据,大数据系统物理架构图,Data Node,数据节点集群,Name Node,Name Node,Job Tracker,二层交换机,分步式文件域,域节点集群,Hmaster,二层交换机,分步式数据库域,关系性数据库,My SQL,二层交换机,关系数据库域,域节点集群,门户系统,集群模式,统一代理系统,MR,系统,Pig,分析,Hive,数据仓库系统,Chukma,采集系统,应用系统域,安全运维域,大数据管理系统,ETL,数据采集域,数据采集清冼,、,建模,系统,数据挖掘分析域,数据关联与挖掘系统,交换机,用户域,数据存储系统,大数据大数据系统物理架构图Data NodeName Nod,大数据,大数据后期服务与保障,技术服务:,大型故障,7x24,小时上门解决,驻场服务:,1,人驻场,,3,年,更新服务:,3,年免费功能更新,远程支持:,普通问题远程支持与协助,服务内容:,新加数据,数据有错误,更新,硬件异常,扩容,运维保障服务,三盟科技为学校原厂的大数据运维保障服务,协助学校,日常大数据项目的管理,主要内容包括如下:,大数据大数据后期服务与保障技术服务:大型故障7x24小时上门,大数据,大数据项目实施阶段,阶段任务分解,需求调研,需求文档编写,需求评审,需求确认,阶段里程碑,完成需求文档编写,完成需求确认,阶段验收条件,需求文档符合规范,需求,邮件,确认,需求阶段,准备阶段,阶段任务分解,获取接口信息:资费系统,获取接口信息:上网行为审计系统,获取接口信息:考勤门禁系统,获取接口信息:教务系统,获取接口信息:一卡通系统,获取接口信息:图书管理系统,获取接口信息:其它接口,阶段工期,开始时间:,2016-xx-xx,结束时间:,2016-xx-xx,投入人员:,x,人,阶段里程碑,每个接口信息获取都是里程碑,验收标准,接口信息文档收集完整,阶段任务分解,数据建模,资费系统、上网行为审计系统、考勤门禁系统、教务系统、一卡通系统、图书管理系统 数据采集处理,外部数据爬取,场景开发:例如我的大学、行为预警、就业指导,学生行为画像,阶段里程碑,模型建立,每项数据采集完成,每个业务场景完成开发,验收标准,数据能正常采集,例如:我的大学、行为预警、就业指导、学生行为画像能正常使用,开发阶段,测试和试运行阶段,阶段任务分解,模块整合,集成测试,bug修复,回归测试,试运行,阶段里程碑,学校大数据版本发布,验收标准,学校大数据版本正常发布,确认,试运行使用情况,大数据大数据项目实施阶段阶段任务分解阶段里程碑阶段验收条件需,大数据,数据存储,大数据,研发实力强,中国、美国硅谷两个研究院,数十名国内外教育专家顾问,过百名专业的研究人员,“一体化”,交付,支持高校大数据建设的整体与应用的真正落地,,实现,“一,体化,”交付,。,业务模块,丰富,已完成,6,大,业务模块,后续规划,超过,10,种高校大数据业务模块,1,2,3,4,5,6,专注教育,行业,专注中国教育行业,超过,10,年,,教育行业投入资源大,了解教育真实需求,与,云计算融合,提供云计算与大数据融合,在,云平台上实现大数据节点的自动部署,技术标准,无制约,为,不同的,数据产品,提供一致接口,,,消除软硬件限制,实现弹性部署,保障应用体验,大数据数据存储大数据研发实力强“一体化”交付业务模块丰富12,03,大数据业务,高校大数据平台三大用途,高校大数据平台核心业务,03大数据业务高校大数据平台三大用途,大数据,高校大数据平台三大用途之培养大数据人才的平台,近年来,移动互联网、云计算、大数据、物联网等信息技术取得了突飞猛进的发展,已经在深刻地改变着人类社会的方方面面。“互联网 ”、大数据更是已经上升到了国家战略层面,成为提升全社会的创新力、生产力,促进经济发展新形态的基础设施和实现工具。高校作为人才培养、技术创新的前沿阵地,需要充分感知最新技术发展方向,掌握和创新最前沿科学技术,培养时代迫切需求的创新型人才。,根据国内外高校开展大数据课程建设经验以及现有大数据技术就业市场需求而构建的大数据人才培养平台,以大数据为方向,引进国内外先进大数据技术、成熟解决方案以及管理与教学内容,搭建云计算、大数据管理技术、大数据应用软件开发等技术平台,培养学生研究大数据科学与工程领域问题、解决大数据实际应用问题的能力,系统掌握大数据主流的存储、管理、分析处理技术,以及大数据平台架构和建设,实现科研、教学与社会服务的顺畅衔接,逐步打造以培养大数据人才为核心的科研、教学基地。,大数据高校大数据平台三大用途之培养大数据人才的平台近年来,移,大数据,高校大数据平台三大用途之培养大数据人才的平台,创新意识、创新精神、创新思维、创造力或创新人格等创新素质的培养需要一个长期的过程。创新教育与学科教育相结合,纳入人才培养体系,利用大数据、“互联网 ”、云平台的优势,构建大数据人才平台、打造创新教育人才培养新模式、创新教育教学组织新形式,使学生掌握企业运作的规律与本质,增加师生良性互动,真正培养出社会、企业所需要的创新型人才。,大数据高校大数据平台三大用途之培养大数据人才的平台创新意识、,大数据,高校大数据平台三大用途之深化高校管理促进高校改革发展的平台,01,02,05,04,06,03,可视化分析,可视化可以直观的展示数据,让数据自己说话,数据存储和数据仓库,便于多维分析和多角度展示数据按特定模式进行存储所建立起来的关系型数据库。数据仓库提供数据抽取、转换和加载,为联机数据分析和数据挖掘提供数据平台。,数据质量和数据管理,通过标准化的流程和工具对数据进行处理可以保证一个预先定义好的高质量的分析结果。,语义引擎,语义引擎需要能够从“文档”中智能提取非结构化数据信息,并利用一系列的工具去解析,提取,分析数据。,预测性分析能力,预测性分析可以让分析员根据可视化分析和数据挖掘的结果做出一些预测性判断。,数据挖掘算法,集群、分割、孤立点分析还有其他算法让我们深入数据内部,挖掘价值。,大数据分析六个方面,大数据高校大数据平台三大用途之深化高校管理促进高校改革发展的,大数据,高校大数据平台三大用途之深化高校管理促进高校改革发展的平台,1,2,3,4,5,学生行为分析,校园一卡通分析,舆情分析,校情大数据分析,个性化学习分析,大数据分析应用,大数据高校大数据平台三大用途之深化高校管理促进高校改革发展的,大数据,高校大数据平台三大用途之提高高校科研水平和效率的平台,01,04,03,02,05,实现高校科研选题科学化,挖掘社会公众、工商企业、政府和事业单位以及其他非盈利机构对科学知识和技术的需求情况,辨别哪些科学知识和技术需求是最为迫切和社会经济效益极为突出的,提高科研选题的针对性,实现科研选题的科学化。,实现研究数据共享复用,搭建开放式大数据科研平台,充分融合教师的科研需求,提升教师的科研创新能力,充分提高“研”的成效,提供行业数据及案例解剖用于基础研究,提供数据分析方案及流程,提供数据更新接口,为科研工作提供数据支撑。,实现高校科研选题科学化,大数据科研平台提供多场景数据计算和分析挖掘的科研基础环境,充分结合行业课题的相关数据,利用大数据技术深入挖掘分析,满足行业大数据的科研工作需求,进一步提升高校的大数据科研水平,借助完善的产学研体系,实现科研成果向业务价值的转化。大数据技术在高校科研管理创新中的应用主要有以下几个方面:,避免重复研究,挖掘不同层级、不同类别和不同区域之间科研选题申报和立项情况,结合科研选题申报高校及其研究团队的研究特长与特色,监控科研项目重复立项风险,避免重复研究,节约科研经费,减少资源浪费。,监督学术道德和诚信,高校科研管理人员在课题申报阶段,对申请书进行学术道德与诚信的监督,避免学术不端行为发生。,大数据科研平台提供多场景数据计算和分析挖掘的科研基础环境,充分结合行业课题的相关数据,利用大数据技术深入挖掘分析,满足行业大数据的科研工作需求,进一步提升高校的大数据科研水平,借助完善的产学研体系,实现科研成果向业务价值的转化。大数据技术在高校科研管理创新中的应用主要有以下几个方面:,大数据高校大数据平台三大用途之提高高校科研水平和效率的平台,04,大数据平台应用,应用方案架构,安全态势感知,大数据教学创新,大数据科研创新,大数据管理创新,04大数据平台应用应用方案架构大数据教学创新大数据管理创新,大数据,高校大数据平台应用方案架构,大数据高校大数据平台应用方案架构,大数据,高校大数据平台应用业务模型,大数据高校大数据平台应用业务模型,大数据,安全态势感知,内嵌网络安全态势感知系统,安全态势感知系统采用大数据转化为安全智能的理念,收集各种安全数据,并结合威胁情报系统,进行关联分析,实现感知、溯源、预警。,大数据安全态势感知内嵌网络安全态势感知系统,安全态势感知系统,大数据,综合安全态势感知,安全态势感知系统对多源安全数据进行关联分析,将海量安全数据转化为少量安全事件,并进行集中呈现,大幅度降低安全运维复杂性;基于攻击链模型,将针对重点服务器的各种攻击事件从时间维度上做关联,还原网络攻击情景,追溯攻击过程。结合威胁情报,实现对即将发生的潜在威胁进行通告预警。借助安全态势感知系统,打破原有安全产品之间的数据壁垒,消除信息孤岛问题,为构建企业信息安全纵深防护体系提供强有力的支撑。,大数据综合安全态势感知安全态势感知系统对多源安全数据进行关联,大数据,行为预警,学生行为预警直接关注的就是学生在校期间的异常表现,包括思想和行为等各个方面。通过学生生活数据,实现对学生的“高效、便捷、准确”的“管、控、查”一体化。主要从学生疑似未住宿预警、学生疑似不在校预警、学生晚寝晚归预警、学生预警趋势分析、学生就餐高峰、学生就业预警等方面进行数据挖掘。,大数据行为预警学生行为预警直接关注的就是学生在校期间的异常表,大数据,大数据教学创新之教学质量评估,对学生给予教师的评价、学生活跃程度、学生成绩和教师授课情况等数据进行分析研究,帮助教师更好地进行教学活动。,大数据大数据教学创新之教学质量评估 对学生给予教师的评价、学,大数据,大数据教学创新之上网行为分析,对各年级同学上线次数、上网时间段、总流量以及在线课程的欢迎程度等数据进行分析研究,引导学生合理运用网络资源,树立健康的上网理念。,大数据大数据教学创新之上网行为分析对各年级同学上线次数、上网,大数据,大数据教学创新之学生成绩分析,对学生成绩以及排名等数据进行分析研究,更加清晰地了解学生成绩的整体分布状况以及学生的学习状况。,大数据大数据教学创新之学生成绩分析对学生成绩以及排名等数据进,大数据,大数据科研创新之科研成果分析,对科研成果的获奖比例、科研成果的学科背景和科研成果的论文级别等数据进行分析研究,清晰统计科研获奖情况。,大数据大数据科研创新之科研成果分析对科研成果的获奖比例、科研,大数据,大数据科研创新之科研项目分析,对科研项目的负责人年龄、学历、以及院系等高校科研项目信息进行分析研究,更全面地了解学校科研项目情况。,大数据大数据科研创新之科研项目分析对科研项目的负责人年龄、学,大数据,大数据科研创新之科研经费分析,对科研经费的投入、科研论著的发表数量以及各学院经费的投入和支出等数据进行分析研究,直观地了解科研经费、科研成果以及科研奖励等方面的信息。,大数据大数据科研创新之科研经费分析对科研经费的投入、科研论著,大数据,大数据管理创新之招生分析,对学生的生源地以及招生的学生类型等数据进行分析研究,发现哪几个地区的考生是历年招生的主力军,进而为学校做到有重点、有突出、有成果的招生指导。,大数据大数据管理创新之招生分析对学生的生源地以及招生的学生类,大数据,大数据管理创新之就业分析,对学生就业的地区分布、就业行业以及就业专业排名等数据进行分析研究,为高校决策者提供指导或数据支持,改进现有的教育模式,提高对毕业生就业指导的实效性。,大数据大数据管理创新之就业分析对学生就业的地区分布、就业行业,大数据,大数据管理创新之住宿分析,对学生住宿过程产生的数据进行分析研究,帮助学校相关管理人员更加合理地分配宿舍资源,更加科学地进行宿舍管理。,大数据大数据管理创新之住宿分析对学生住宿过程产生的数据进行分,大数据,大数据管理创新之精准资助,积极响应国家号召,通过对学生各维度数据进行聚类分析、对历史数据的深度学习,帮助学校识别真正的贫困生,甄别出伪贫困生。,大数据大数据管理创新之精准资助积极响应国家号召,通过对学生各,大数据,大数据管理创新之教改决策,通过机器学习、人工智能解决方案,推荐给管理者教学体制改革相关建议和方案。,大数据大数据管理创新之教改决策通过机器学习、人工智能解决方案,大数据,大数据管理创新之校本数据,高校管理者可以直观看到各个业务单元的关键信息,可以全面、及时掌握学校的重要情况,将校园管理工作提升到一个新的高度。,大数据大数据管理创新之校本数据高校管理者可以直观看到各个业务,大数据,大数据管理创新之资产数据统计分析,对资产的数量、资产的分类以及资产的年增长率等数据进行分析研究,为各类资产的购置和合理分配提供了决策支持,便于校领导从全局上把握资产信息,加强成本核算,对固定资产进行系统的规划、建设和管理。,大数据大数据管理创新之资产数据统计分析对资产的数量、资产的分,大数据,大数据创新应用之学生轨迹分析,对学生各学年的成绩、餐厅消费、购物、进出图书馆的次数、借阅图书以及吃早餐的次数等数据进行分析研究,利用这些数据,不仅能预测出学生的学习状况,而且学校还可以依此引导他们更好地规划各自的学业和就业方向。,大数据大数据创新应用之学生轨迹分析对学生各学年的成绩、餐厅消,大数据,大数据创新应用之学生画像,对学生在校生活和学习状况等数据进行分析研究,掌握学生的目标动向,无论是学习还是参与社会活动,都能够有的放矢地帮助学生做进一步规划。,大数据大数据创新应用之学生画像对学生在校生活和学习状况等数据,大数据,大数据创新应用之学生画像,大数据大数据创新应用之学生画像,2,0,1,8,COLLEGE STUDENTS CAREER PLANNING,谢谢大家的聆听,2018COLLEGE STUDENTS CAREER,
点击显示更多内容>>

最新DOC

最新PPT

最新RAR

收藏 下载该资源
网站客服QQ:3392350380
装配图网版权所有
苏ICP备12009002号-6