Amazon s3 来自S3的MemSQL管道将空值插入日期类型列
Memsql管道应该将数据从S3转储到columnstore表中。源文件采用ORC格式。然后它们被转换成拼花地板。 这些文件的某些列具有日期数据类型(yyyy-mm-dd)Amazon s3 来自S3的MemSQL管道将空值插入日期类型列,amazon-s3,parquet,singlestore,Amazon S3,Parquet,Singlestore,Memsql管道应该将数据从S3转储到columnstore表中。源文件采用ORC格式。然后它们被转换成拼花地板。 这些文件的某些列具有日期数据类型(yyyy-mm-dd) 管道运行正常,但会在所有日期类型列中插入NULL。日期值可能会作为带有时间戳逻辑类型注释()的int64写入Parquet。MemSQL目前不会自动将其转换为与DATETIME或TIMESTAMP兼容的格式,而是尝试将其分配给目标列,就像将原始基础值分配给整型文字一样。出于MySQL兼容性的原因,这会给出NULL而不是错误,
管道运行正常,但会在所有日期类型列中插入NULL。日期值可能会作为带有时间戳逻辑类型注释()的int64写入Parquet。MemSQL目前不会自动将其转换为与DATETIME或TIMESTAMP兼容的格式,而是尝试将其分配给目标列,就像将原始基础值分配给整型文字一样。出于MySQL兼容性的原因,这会给出NULL而不是错误,尽管
set global data\u conversion\u compatibility\u level=“7.0”
会使其成为错误
您可以通过临时指定问题列
TEXT
type并查看结果值来进行调查。如果是整数字符串,则问题如上所述,您可以使用CREATE PIPELINE
的SET
子句,通过类似CREATE PIPELINE P作为加载数据的方式将值转换为兼容格式。。。。在表T(@ CelyTMP)中,如果你有一些工具来检查你的实木拼花地板,我会首先确定日期时间在那里看起来不错。然后可能尝试加载DATEVITE作为字符串,看看它们看起来是什么样的。如果使用它们的“正确”,请考虑使用管道的SET子句将它们转换成有效的MySQL日期时间。但是格式不太正确。祝你好运。这很有帮助。源值是历元天数。在管道的SET子句中使用了ADDDATE函数。