Datetime PySpark将字符串列转换为日期时间类型

Datetime PySpark将字符串列转换为日期时间类型,datetime,pyspark,Datetime,Pyspark,我有时间戳数据,如: [29:23:59:45] 这代表任何月份29,23:59:45 我怎样才能在PySpark中转换为第29天,时间:23:59:45 可能使用类似 from datetime import datetime dVal = datetime.strptime('[29:23:59:45]', '%d/%h/%m/%s') 这是一个使用用户定义函数(UDF)所需的经典示例 其中,df应该是旧的数据帧,包含您报告的名为“timestamp”的列 from datetime

我有时间戳数据,如:

[29:23:59:45]
这代表任何月份29,23:59:45

我怎样才能在PySpark中转换为第29天,时间:23:59:45

可能使用类似

from datetime import datetime

dVal = datetime.strptime('[29:23:59:45]', '%d/%h/%m/%s')

这是一个使用用户定义函数(UDF)所需的经典示例

其中,df应该是旧的数据帧,包含您报告的名为“timestamp”的列

from datetime import datetime
from spark.sql import functions as F

def toDate(x):
   return datetime.strptime(x, '%m %H:%M:%S')

toDate = F.udf(toDate)
new_df = df.withColumn('date', toDate(F.col('timestamp'))