hive-19994 bug java.sql.BatchUpdateException

【摘要】 事件背景:大数据应用跑业务时候,涉及对hive表删除操作。删除过程中,会引起hive metastore报错:java.sql.BatchUpdateException: Cannot delete or update a parent row: a foreign key constraint fails (“hivemetastore_emtig3vtq7qp1tiooo0…

事件背景:

大数据应用跑业务时候,涉及对hive表删除操作。删除过程中,会引起hive metastore报错:java.sql.BatchUpdateException: Cannot delete or update a parent row: a foreign key constraint fails (“hivemetastore_emtig3vtq7qp1tiooo07sb70ud”.”COLUMNS_V2″, CONSTRAINT “COLUMNS_V2_FK1” FOREIGN KEY (“CD_ID”) REFERENCES “CDS” (“CD_ID”))

问题分析:

此为hive 的一个bug,详细信息如

https://issues.apache.org/jira/browse/HIVE-19994

image.png

hive的表元数据存储在mysql中,mysql中两表之间有外键约束(关于mysql外键约束详见下文),导致无法删除。

mysql 外键约束介绍:

l RESTRICT: 拒绝删除或者更新父表。指定RESTRICT(或者NO ACTION)和忽略ON DELETE或者ON UPDATE选项的效果是一样的。(mysql创建表时,外键约束默认值)

l CASCADE: 从父表中删除或更新对应的行,同时自动的删除或更新自表中匹配的行。ON DELETE CANSCADEON UPDATE CANSCADE都被InnoDB所支持。

解决方案:

l 官方推荐解决方案:

更改hive-metastore.jar包中的package.jdo,添加如下内容:

spacer.gif

此行下边添加如下内容:

 </datastore-identity> 此行下边添加如下内容:
 <field name="cols" table="COLUMNS_V2" > <collection element-type="MFieldSchema"/> <foreign-key name="COLUMNS_V2_FK1" delete-action="cascade"/> <join> <primary-key name="COLUMNS_PK"> <column name="COLUMN_NAME"/>
  </field>
登录后复制

© 版权声明
THE END
喜欢就支持一下吧
点赞0 分享