Warning: file_get_contents(/data/phpspider/zhask/data//catemap/0/amazon-s3/2.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Amazon s3 来自S3的MemSQL管道将空值插入日期类型列_Amazon S3_Parquet_Singlestore - Fatal编程技术网

Amazon s3 来自S3的MemSQL管道将空值插入日期类型列

Amazon s3 来自S3的MemSQL管道将空值插入日期类型列,amazon-s3,parquet,singlestore,Amazon S3,Parquet,Singlestore,Memsql管道应该将数据从S3转储到columnstore表中。源文件采用ORC格式。然后它们被转换成拼花地板。 这些文件的某些列具有日期数据类型(yyyy-mm-dd) 管道运行正常,但会在所有日期类型列中插入NULL。日期值可能会作为带有时间戳逻辑类型注释()的int64写入Parquet。MemSQL目前不会自动将其转换为与DATETIME或TIMESTAMP兼容的格式,而是尝试将其分配给目标列,就像将原始基础值分配给整型文字一样。出于MySQL兼容性的原因,这会给出NULL而不是错误,

Memsql管道应该将数据从S3转储到columnstore表中。源文件采用ORC格式。然后它们被转换成拼花地板。 这些文件的某些列具有日期数据类型(yyyy-mm-dd)


管道运行正常,但会在所有日期类型列中插入NULL。

日期值可能会作为带有时间戳逻辑类型注释()的int64写入Parquet。MemSQL目前不会自动将其转换为与DATETIME或TIMESTAMP兼容的格式,而是尝试将其分配给目标列,就像将原始基础值分配给整型文字一样。出于MySQL兼容性的原因,这会给出NULL而不是错误,尽管
set global data\u conversion\u compatibility\u level=“7.0”
会使其成为错误


您可以通过临时指定问题列
TEXT
type并查看结果值来进行调查。如果是整数字符串,则问题如上所述,您可以使用
CREATE PIPELINE
SET
子句,通过类似
CREATE PIPELINE P作为加载数据的方式将值转换为兼容格式。。。。在表T(@ CelyTMP)中,如果你有一些工具来检查你的实木拼花地板,我会首先确定日期时间在那里看起来不错。然后可能尝试加载DATEVITE作为字符串,看看它们看起来是什么样的。如果使用它们的“正确”,请考虑使用管道的SET子句将它们转换成有效的MySQL日期时间。但是格式不太正确。祝你好运。这很有帮助。源值是历元天数。在管道的SET子句中使用了ADDDATE函数。