Warning: file_get_contents(/data/phpspider/zhask/data//catemap/1/amazon-web-services/13.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
在用Python编写的AWS Glue作业中构建并导入Cython模块_Python_Amazon Web Services_Cython_Aws Glue_Python Module - Fatal编程技术网

在用Python编写的AWS Glue作业中构建并导入Cython模块

在用Python编写的AWS Glue作业中构建并导入Cython模块,python,amazon-web-services,cython,aws-glue,python-module,Python,Amazon Web Services,Cython,Aws Glue,Python Module,为了加快ETL作业的执行速度,我在Cython“regression.pyx”而不是python中实现了一个回归算法 不幸的是,我找不到任何文档,也找不到如何在AWS胶水作业中正确集成的文档 我想在python粘合作业中导入Cython回归模块,如下所示: from regression import reg 通常,Cython脚本必须使用setup.py脚本构建,然后才能导入。在AWS胶水作业中正确集成的最佳方法是什么 任何帮助都将不胜感激。您可以在创建作业时指定外部库位置 您只需将.zi

为了加快ETL作业的执行速度,我在Cython“regression.pyx”而不是python中实现了一个回归算法

不幸的是,我找不到任何文档,也找不到如何在AWS胶水作业中正确集成的文档

我想在python粘合作业中导入Cython回归模块,如下所示:

from regression import reg
通常,Cython脚本必须使用setup.py脚本构建,然后才能导入。在AWS胶水作业中正确集成的最佳方法是什么


任何帮助都将不胜感激。

您可以在创建作业时指定外部库位置

您只需将.zip或.whl文件上载到S3并指定路径

关于这方面的更多信息

我的代码管道的Buildspec:

BuildGlueModules:
类型:AWS::CodeBuild::Project
特性:
人工产品:
类型:代码管道
环境:
ComputeType:BUILD_GENERAL1_MEDIUM
图片:aws/codebuild/standard:4.0
类型:LINUX\u容器
姓名:!Sub${AWS::StackName}-BuildGlueModules
服务角色:!Ref代码构建角色
资料来源:
类型:代码管道
BuildSpec:!潜艇|
版本:0.2
阶段:
安装:
运行时版本:
python:3.8
预构建:
命令:
-python3 setup.py bdist_wheel
建造:
命令:
-aws s3 sync./dist/s3://我的桶/胶水模块

谢谢您的回复。我也想这样做。但要导入cython脚本,必须首先使用setup.py文件构建它。你知道如何使用aws胶水作业吗?仅仅使用胶水是不可能的。我构建了一个AWS代码管道,它从我的Git repo中获取我的代码,运行setup.py并将构建文件夹复制到S3。嘿,罗伯特,谢谢你的帮助,这似乎是个好主意。你能给我更多关于你的方法和实施的细节吗?提前谢谢。我已经为CloudFormation添加了代码管道片段。如果我能帮助你,请投票表决或接受我的回答。