-
大数据集群开始 kerberos 认证后 Hive 作业执行失败
所属栏目:[大数据] 日期:2021-11-23 热度:56
大数据集群开启 kerberos 安全认证后,HIVE ON SPARK 作业执行失败。通过客户端 beeline 提交作业,报错 spark client 创建失败,其报错信息是: Failed to create spark client for spark session xxx: java.util.concurrent.TimeoutException: client xxx[详细]
-
因HIVE元数据与HDFS上的数据不一致引起的问题修补
所属栏目:[大数据] 日期:2021-11-23 热度:108
客户端报错如下: Unable to move source xxx to destination xxx 客户端报错 问题分析 客户端的报错信息,并没有完全展现问题背后的全貌。我们进入 hiveserver2 所在节点查看hiveserver2的日志,可以看到如下相关信息: 2021-09-01 11:47:46,795 INFO org.[详细]
-
简谈大数据风控平台的功能需要
所属栏目:[大数据] 日期:2021-11-23 热度:92
大数据风控业务的开展依赖智能风控平台,智能风控平台的技术基础是大数据技术,智能风控系统技术架构也是以大数据系统技术架构为基础演进而来的。 智能风控系统技术架构主要分为访问层、展现层、系统层、大数据平台四部分,其中大数据平台又分为接入层、清[详细]
-
数据研发,如何平衡效率与质量
所属栏目:[大数据] 日期:2021-11-23 热度:99
数据开发的效率,是如何尽快的将产品设计、业务过程,转换为数据模型;数据开发的质量,则是如何尽快的将数据加工过程中的问题,识别出来。向业务交付的内容,是开发的内容;而如果开发的时候,忽略质量的问题,虽然交付的时候不会有感知,但往往会在排查问题[详细]
-
浅谈人工智能、大数据等技术在交通行业的应用
所属栏目:[大数据] 日期:2021-11-23 热度:198
我们将浅谈一下人工智能、大数据、云计算、物联网等技术将会给交通行业带来哪些便利与变革: 1.数据资源整合 由于我国线路众多,与交通相关的绝大多数部门都有自己的信息化平台,并产生着海量数据,但是现在的每个部门及单位内的系统平台大都是独立的,信息[详细]
-
时代大数据安全和隐私
所属栏目:[大数据] 日期:2021-11-23 热度:180
随着大数据的发展,大数据的安全问题越来越受到行业的重视。 日前,中国信息通信研究院指出了目前大数据发展面临的安全问题,提出了促进大数据安全技术发展的具体建议。 大数据已经严重影响了经济运行机制、社会生活方式和国家治理能力,需要从大安全的角度[详细]
-
从技术视角看大数据行业的发展走势
所属栏目:[大数据] 日期:2021-11-23 热度:110
关于该趋势,明哥在前期发布过一篇博文,大数据与云计算深度融合的趋势体现在哪些方面? 对该趋势做了自己的解读,这里再次简要描述下。该博文链接如下: 大数据与云计算深度融合的趋势体现在哪些方面? 云原生(Cloud Native)理念,本质上是一套利用云计算技术[详细]
-
Hdfs 相对路径和静态代码块引起的问题
所属栏目:[大数据] 日期:2021-11-23 热度:164
HIVE 作为大数据生态的数仓解决方案,因为历史的原因在很多行业很多公司都有着广泛的应用。对于比较复杂的业务逻辑,HIVE SQL 往往比较难以表达,此时大家在开发中往往会辅以 HIVE UDF。所以充分理解和掌握 HIVE UDF正确的表写和使用方式,是大数据从业人[详细]
-
大数据时代,移动联通大数据技术的价值,你知道了多少
所属栏目:[大数据] 日期:2021-11-23 热度:73
大数据时代,移动联通大数据技术的价值,你掌握了多少 大数据技术就是在多种类型的大量数据信息中,快速获得有使用价值信息的技术性,然后做到大数据精准营销。拥有大量信息本身并不能造就出多少使用价值,必须选用具体方法进行处理分析才能够获得其智能化[详细]
-
大数据与云计算之间的联系
所属栏目:[大数据] 日期:2021-11-23 热度:158
大数据处理大量的结构化,半结构化或非结构化数据,以进行存储和处理以进行数据分析。大数据有五个方面,通过5V来描述 数量数据量 种类不同类型的数据 速度系统中的数据流率 价值 基于其中包含的信息的数据价值 准确性 数据保密性和可用性 云计算以按需付费[详细]
-
战略任务和要点
所属栏目:[大数据] 日期:2021-11-23 热度:192
实现制造强国的战略目标,必须坚持问题导向,统筹谋划,突出重点;必须凝聚全社会共识,加快制造业转型升级,全面提高发展质量和核心竞争力。 (一)提高国家制造业创新能力。 完善以企业为主体、市场为导向、政产学研用相结合的制造业创新体系。围绕产业链[详细]
-
如何科学地培育自制力?
所属栏目:[大数据] 日期:2021-11-23 热度:145
自我控制由两部分组成,分别是我们(1)抵制诱惑的的能力以及(2)对我们的情绪和行为进行控制的能力。 日常生活很多方面都需要自我控制:如健康饮食、经营企业、自我完善 如何培养自控力: 把你的精力引导到有用的追求上面 设定长期目标 减少压力 1936年,[详细]
-
IT思维不改变,任何新理念都是个笑话
所属栏目:[大数据] 日期:2021-11-23 热度:178
在信息系统规划时,笔者建议建立一套整合整车的研发、生产、销售、售后等全生命周期的集中数据管理系统,记录每一辆车的完整生命履历数据。 这样做的好处是,避免数据分散在多个系统中,用户查找数据困难,信息难以共享;避免因为业务系统的变更,造成历史[详细]
-
物料编码的办法
所属栏目:[大数据] 日期:2021-11-23 热度:172
阿拉伯数字法 数字法是以阿拉伯数字作为物料编码的工具,采用一个或多个数字代表一个物料。数字法容易理解,但需要准备物料分类与数字的对照表,并记忆对照表。 A、连续数字编码法 连续数字编码是将所有物料从1开始按顺序编排流水号。但是连续数字编码,只[详细]
-
IPD 集成产品研发
所属栏目:[大数据] 日期:2021-11-23 热度:83
IPD,全称是集成产品开发(Integrated Product Development),是一种产品研发管理体系,是一套先进的、成熟的研发管理思想、模式和方法。 IPD的思想来源于美国PRTM公司出版的《产品及生命周期优化法》(简称PACEProduct And Cycle-time Excellence)一书,[详细]
-
Aras PLM功能模块细解
所属栏目:[大数据] 日期:2021-11-23 热度:91
保持产品开发的敏捷性 PLM和PDM的集成功能集,可帮助企业在整个产品生命周期中定义和管理信息。此应用模块支持零件、多级物料清单(BOM)、CMII标准的配置管理和变更管理、批准的供应商和制造商列表(AVL / AML)和文档。 非核心模块,需通过Aras Update更[详细]
-
一文带你迅速了解德国工业4.0的内容
所属栏目:[大数据] 日期:2021-11-23 热度:83
解剖德国政府的工业4.0规划,简单可以概括为1个核心、2重战略、3大集成和8项举措 (一)1个核心 工业4.0的核心是智能+网络化,即通过虚拟-实体系统(Cyber-Physical System, CPS),构建智能工厂,实现智能制造的目的。CPS系统建立在信息和通讯技术(ICT)[详细]
-
五十年后制造业的就业机会将会咋样?
所属栏目:[大数据] 日期:2021-11-23 热度:186
国外有一位学者提出了一个猜想,在绝对没有证据的支持下,他提出自动化和机器人技术的应用最终将会非常广泛,以至于人类都不得不离开房屋。人类因为无所事事,最终会整天坐在一起,发展根基,并重新进入人类所来自数的百万年前的植物生命。五十年后制造业的[详细]
-
智能建造的前提:数据和速度
所属栏目:[大数据] 日期:2021-11-23 热度:184
无论新技术看起来多么耀眼,但是如果你没有用它来解决实际业务问题,那就没有意义。现在我们经常说智能制造,智能制造有两个具体要素 数据和速度 它们结合起来更能满足特定的业务目标。 思考智能制造如何帮助企业实现特定的业务目标,这将有助于管理人员确[详细]
-
MOM理念是如何产生的?
所属栏目:[大数据] 日期:2021-11-23 热度:68
1990年,美国先进制造研究协会(Advanced Manufacturing Research,AMR)提出MES系统的概念,以及计划层、执行层和控制层的制造企业3层体系结构。 1997年,制造执行系统国际联合会(Manufacturing Execution System Association International,MESA)开始[详细]
-
智能工厂物流系统总体策划导向与逻辑
所属栏目:[大数据] 日期:2021-11-23 热度:86
在价值链运营环境下,物流已经成为智能工厂的核心要素,工厂规划和运营管理必须要具备流动思维和供应链交付思维。大交付、大物流、小生产、制造工厂物流中心化的工厂规划和运营理念,在制造业中已经得到越来越多的认同和实践。本文具体分析了智能工厂物流系[详细]
-
为何特斯拉要自研ERP?
所属栏目:[大数据] 日期:2021-11-23 热度:58
关于特斯拉放弃SAP转而自建ERP,在知乎上同样有许许多多的讨论,有技术的讨论、有资金的讨论、有关于CIO本人的讨论,但是这些其实都不是重点,下面这篇转载的文章,基本上点出了特斯拉自建ERP的重点。 企业战略上希望构建核心竞争力的业务模块信息系统,最[详细]
-
CSS文件已载入html但是始终不成效
所属栏目:[大数据] 日期:2021-11-23 热度:105
问题: 浏览器显示CSS文件已载入,但是html但是始终不生效CSS的样式 解决方案: 一般是CSS文件中存在语法错误,导致没有生效。 可以使用在线的CSS文件校验功能检查CSS文件。比如:W3C的CSS验证服务[详细]
-
FileZilla 客户端接入vsftp无法访问
所属栏目:[大数据] 日期:2021-11-23 热度:88
由于加密协议不同,需要在ftp客户端设置一下,支持ssh模式,具体自行百度; 在设置完协议后,centos返回Received unexpected end-of-file from SFTP server ,解决办法如下: 首先进入:vi /etc/ssh/sshd_config 将Subsystem sftp /usr/libexec/openssh/sft[详细]
-
内存报警怎么办
所属栏目:[大数据] 日期:2021-11-23 热度:116
内存是电脑中最容易出现故障的配件产品之一,如果在按下机箱电源后机箱喇叭反复报警或是电脑不能通过自检,大部分情况下故障源于内存。而在形形色色的内存故障中,基本上都是以内存烧毁为主,这时我们往往会将烧毁后的内存丢在一边而直接更换内存条。 内存[详细]
