Warning: file_get_contents(/data/phpspider/zhask/data//catemap/1/firebase/6.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
我可以问一个pyspark调用的简单例子吗?每个工作节点上都有一个库?_Pyspark_Shared Libraries - Fatal编程技术网

我可以问一个pyspark调用的简单例子吗?每个工作节点上都有一个库?

我可以问一个pyspark调用的简单例子吗?每个工作节点上都有一个库?,pyspark,shared-libraries,Pyspark,Shared Libraries,您好,我想成为一名C程序员,并且对使用C运行不同的工作和研究感到满意 然而,我的工作(在一家互联网IT公司)让我对python产生了极大的偏好 我个人不介意学习并逐渐找到自己的方法,但压力很大,我需要快速实现调用c函数的方法 因此,我可以要求一个简单的例子来向我的同事证明spark可以使用pyspark并行调用c库吗???这样我就有了一个我应该做什么的框架,并将潜入其中 非常感谢您提供的任何帮助。很抱歉提出这个问题。提交时是否可以上载.so库。并使用rdd.mappartitions()方法调用

您好,我想成为一名C程序员,并且对使用C运行不同的工作和研究感到满意

然而,我的工作(在一家互联网IT公司)让我对python产生了极大的偏好

我个人不介意学习并逐渐找到自己的方法,但压力很大,我需要快速实现调用c函数的方法

因此,我可以要求一个简单的例子来向我的同事证明spark可以使用pyspark并行调用c库吗???这样我就有了一个我应该做什么的框架,并将潜入其中


非常感谢您提供的任何帮助。很抱歉提出这个问题。

提交时是否可以上载.so库。并使用rdd.mappartitions()方法调用预定义的python函数。它将在其中导入ctypes包并调用c库??我个人没有尝试过,但这可能会有所帮助:这里有另一个链接:使用管道操作符相同:。Facebook将其用于大数据处理: