Warning: file_get_contents(/data/phpspider/zhask/data//catemap/8/mysql/65.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
使用Oozie和Sqoop将数据从HiveQL导出到MySQL_Mysql_Export_Hiveql_Sqoop_Oozie - Fatal编程技术网

使用Oozie和Sqoop将数据从HiveQL导出到MySQL

使用Oozie和Sqoop将数据从HiveQL导出到MySQL,mysql,export,hiveql,sqoop,oozie,Mysql,Export,Hiveql,Sqoop,Oozie,我在配置单元中有一个表(定期更新),我想在我的一个有MySQL数据库的工具中有一个表。我不能只将我的应用程序连接到Hive数据库,所以我想直接在MySQL数据库中导出这些数据 我搜索了一下,发现使用Sqoop是可能的,并且我被告知要使用Oozie,因为我想定期更新表并导出它 我已经四处寻找了一段时间,尝试了一些东西,但到目前为止我没有成功,我只是不明白我在做什么 到目前为止,我唯一理解但不起作用的代码如下: export --connect jdbc:mysql://myserver --use

我在配置单元中有一个表(定期更新),我想在我的一个有MySQL数据库的工具中有一个表。我不能只将我的应用程序连接到Hive数据库,所以我想直接在MySQL数据库中导出这些数据

我搜索了一下,发现使用Sqoop是可能的,并且我被告知要使用Oozie,因为我想定期更新表并导出它

我已经四处寻找了一段时间,尝试了一些东西,但到目前为止我没有成功,我只是不明白我在做什么

到目前为止,我唯一理解但不起作用的代码如下:

export --connect jdbc:mysql://myserver
--username username
--password password
--table theMySqlTable
--hive-table cluster.hiveTable
我见过有人使用临时表并将其导出到txt文件中,然后再将其导出,但我不确定我是否能做到这一点。 Oozie也应该有特定的参数吗?我不是管理员,所以我不确定我是否能做到

谢谢大家!

试试这个

sqoop export \
--connect "jdbc:sqlserver://servername:1433;databaseName=EMP;" \
--connection-manager org.apache.sqoop.manager.SQLServerManager \
--username userid \
-P \
--table theMySqlTable\
--input-fields-terminated-by '|' \
--export-dir /hdfs path location of file/part-m-00000 \
--num-mappers 1 \
试试这个

sqoop export \
--connect "jdbc:sqlserver://servername:1433;databaseName=EMP;" \
--connection-manager org.apache.sqoop.manager.SQLServerManager \
--username userid \
-P \
--table theMySqlTable\
--input-fields-terminated-by '|' \
--export-dir /hdfs path location of file/part-m-00000 \
--num-mappers 1 \

你可以试试下面的脚本吗?你可以试试下面的脚本吗。我在网上找到了一些信息,现在我更了解如何使用该命令,但我仍然在使用“jdbc:MySQL://MYSERVERURL:3306;databaseName=MYDBNAME;”(也尝试过jdbc:MySQL://MYSERVERURL:3306/MYDBNAME,但不起作用)@Lorsio——你得到了什么?它适用于meSLF4J:未能加载类“org.slf4j.impl.StaticLoggerBinder”。但我的错误和上次工作时的不同。上次我使用“导出--连接jdbc:mysql://SERVERURL:3306/DBNAME --verbose--username--password password--table MySQLTABLE--export dir和sqoop无法访问我的MySQL服务器。我想知道MySQL是否在听sqoop,以及我如何改变它that@Lorsio--请您尝试使用DatabaseName而不是DatabaseName,或者您也可以尝试在连接字符串中提供架构;schema=my_schema;我记得,我做这件事的时候也遇到过类似的问题。让我知道,如果它工作,它不工作。我在网上找到了一些信息,现在我更了解如何使用该命令,但我仍然在使用“jdbc:MySQL://MYSERVERURL:3306;databaseName=MYDBNAME;”(也尝试过jdbc:MySQL://MYSERVERURL:3306/MYDBNAME,但不起作用)@Lorsio——你得到了什么?它适用于meSLF4J:未能加载类“org.slf4j.impl.StaticLoggerBinder”。但我的错误和上次工作时的不同。上次我使用“导出--连接jdbc:mysql://SERVERURL:3306/DBNAME --verbose--username--password password--table MySQLTABLE--export dir和sqoop无法访问我的MySQL服务器。我想知道MySQL是否在听sqoop,以及我如何改变它that@Lorsio--请您尝试使用DatabaseName而不是DatabaseName,或者您也可以尝试在连接字符串中提供架构;schema=my_schema;我记得,我做这件事的时候也遇到过类似的问题。让我知道它是否有效