在Glue pythonshell-ModuleNotFoundError中使用pyarrow:没有名为';pyarrow.lib';
创建了pyarrow的在Glue pythonshell-ModuleNotFoundError中使用pyarrow:没有名为';pyarrow.lib';,python,python-3.x,aws-glue,egg,pyarrow,Python,Python 3.x,Aws Glue,Egg,Pyarrow,创建了pyarrow的egg和whl文件,并将其放在s3上,以便在pythonshell作业中调用它。收到此消息: 职务代码: import pyarrow raise 错误,与whl的结构相同: Traceback (most recent call last): File "/tmp/runscript.py", line 118, in <module> runpy.run_path(temp_file_path, run_name='__main__') F
egg
和whl
文件,并将其放在s3上,以便在pythonshell作业中调用它。收到此消息:
职务代码:
import pyarrow
raise
错误,与whl的结构相同:
Traceback (most recent call last):
File "/tmp/runscript.py", line 118, in <module>
runpy.run_path(temp_file_path, run_name='__main__')
File "/usr/local/lib/python3.6/runpy.py", line 263, in run_path
pkg_name=pkg_name, script_name=fname)
File "/usr/local/lib/python3.6/runpy.py", line 96, in _run_module_code
mod_name, mod_spec, pkg_name, script_name)
File "/usr/local/lib/python3.6/runpy.py", line 85, in _run_code
exec(code, run_globals)
File "/tmp/glue-python-scripts-e67xuz2j/genos.py", line 1, in <module>
File "/glue/lib/installation/kanna-0.1-py3.6.egg/pyarrow/__init__.py", line 49, in <module>
from pyarrow.lib import cpu_count, set_cpu_count
ModuleNotFoundError: No module named 'pyarrow.lib'
回溯(最近一次呼叫最后一次):
文件“/tmp/runscript.py”,第118行,在
runpy.run\u路径(临时文件路径,run\u名称=“”\uuuu主路径)
文件“/usr/local/lib/python3.6/runpy.py”,第263行,在运行路径中
pkg_name=pkg_name,script_name=fname)
文件“/usr/local/lib/python3.6/runpy.py”,运行模块代码第96行
模块名称、模块规格、组件名称、脚本名称)
文件“/usr/local/lib/python3.6/runpy.py”,第85行,在运行代码中
exec(代码、运行\全局)
文件“/tmp/glue-python-scripts-e67xuz2j/genos.py”,第1行,在
文件“/glue/lib/installation/kanna-0.1-py3.6.egg/pyarrow/_init__.py”,第49行,in
从pyarrow.lib导入cpu\u计数,设置\u cpu\u计数
ModuleNotFoundError:没有名为“pyarrow.lib”的模块
PD:在本地文件中找不到lib.py或lib文件夹。pyarrow无法使用glue,因为它需要对C的支持,而glue不支持它。 您可以尝试在本地计算机上安装库并手动创建一个包,然后使用该egg文件。
这对我的同事有用,还没有亲自测试过。pyarrow无法与glue一起工作,因为它需要对C的支持,glue不支持它。 您可以尝试在本地计算机上安装库并手动创建一个包,然后使用该egg文件。
这对我的同事有效,没有亲自测试。
pyarrow
不适用于egg
文件,或者使用轮子或它的sdist。已经用whl
尝试过了,同样的错误。我也有同样的问题。我的Python 3.6 Egg安装了pyarrow,但是我得到了这个ModuleNotFoundError。pyarrow
不能处理Egg
文件,或者使用控制盘或者它的sdist。已经用whl
尝试过了,并且出现了同样的错误。我也有同样的问题。我的Python3.6Egg安装了pyarrow,但是我得到了这个ModuleNotFoundError。