Hive动态分区详解

态分区调整

• 动态分区属性：设置为true表示开启动态分区功能(默认为false)hive.exec.dynamic.partition=true;
• 动态分区属性：设置为nonstrict,表示允许所有分区都是动态的(默认为strict)设置为strict，表示必须保证至少有一个分区是静态的hive.exec.dynamic.partition.mode=strict;
• 动态分区属性：每个mapper或reducer可以创建的最大动态分区个数hive.exec.max.dynamic.partitions.pernode=100;
• 动态分区属性：一个动态分区创建语句可以创建的最大动态分区个数hive.exec.max.dynamic.partitions=1000;
• 动态分区属性：全局可以创建的最大文件个数hive.exec.max.created.files=100000;
• 控制DataNode一次可以打开的文件个数 这个参数必须设置在DataNode的$HADOOP_HOME/conf/hdfs-site.xml文件中注意

  在Hive中，动态分区会造成在插入数据过程中，生成过多零碎的小文件

  动态分区插入

  如果需要创建非常多的分区，用户就需要写非常多的条件查询sql把数据插入对应分区。好在Hive提供了动态分区功能，可以根据分区字段的取值自动创建分区。前面列出的开启动态分区hive.exec.dynamic.partition，并且hive.exec.dynamic.partition.mode需要为非严格模式，通常如果分区很多的话，hive.exec.max.dynamic.partitions.pernode也需要设置为一个较大的数，否则会有报错提醒。以看出，Hive根据select语句中最后两列来确定分区字段country和state的值，这里刻意使用了不同的命名，就是为了强调源表字段和输出分区值之间的关系是根据位置而不是根据命名来匹配的。

  动静分区结合

  也可以混合使用动态和静态分区。上面那个例子，我们可以指定国家这个分区值五为静态值US，而分区字段state是动态值：意：静态分区需要出现在动态分区字段之前。

  动态分区功能默认情况下是没有开启的，默认是以严格模式执行，这种模式下要求至少有一列分区字段是静态的。这样做的好处是可以防止因设计或其它错误查询导致产生大量的分区，比如sql boy不小心使用了时间戳作为分区字段，那将是灾难。在日常导入一天的数据，通常是指定日期为静态分区，小时为动态分区，进行混合模式导入。
  

（编辑：应用网_丽江站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!