Tensorflow 了解Time2Vec嵌入,将其作为keras层实现

Tensorflow 了解Time2Vec嵌入,将其作为keras层实现,tensorflow,keras,time-series,Tensorflow,Keras,Time Series,论文time2vector(相关理论见第4节)展示了一种方法,该方法包括特征的时间嵌入,以提高模型性能。我想试试这个。我发现了一个keras层的实现,对此我做了一些修改。基本上,它为一个特征创建两个矩阵: (1) 线性=w*x+b (2) 周期=正弦(w*x+b) 目前我手动选择此功能。关于这篇论文,有几件事我不明白。第一件事是术语k作为正弦曲线的数量。作者使用了多达64个正弦波。这是什么意思?我现在只有一个正弦信号,对吗?第二,我将把我所有的特征都通过我的“正弦变换”数据集,它将生成6个(正弦

论文time2vector(相关理论见第4节)展示了一种方法,该方法包括特征的时间嵌入,以提高模型性能。我想试试这个。我发现了一个keras层的实现,对此我做了一些修改。基本上,它为一个特征创建两个矩阵:

(1) 线性=w*x+b

(2) 周期=正弦(w*x+b)


目前我手动选择此功能。关于这篇论文,有几件事我不明白。第一件事是术语k作为正弦曲线的数量。作者使用了多达64个正弦波。这是什么意思?我现在只有一个正弦信号,对吗?第二,我将把我所有的特征都通过我的“正弦变换”数据集,它将生成6个(正弦)周期特征。作者只使用了一个线性项。我应该如何选择线性项的特征?不幸的是,论文中的代码不再可用。是否有人使用过时间嵌入,或者甚至使用过这种特别的方法?

看起来他们使用sines所做的工作与3Blue1Brown有着相似的优点。从纸上看(所以我可能弄错了),看起来他们只运行时间变换,所以他们得到了一堆额外的功能来编码时间。是的,它看起来更像一个傅里叶级数,我已经看了这个视频,但它对理解在这里做什么没有太大帮助。那么,如果他们只是利用时间,这将是完全有意义的,他们如何获得64个正弦从这个单一的功能?他们是否多次转换相同的功能?感谢您的回复。他们正在将“事情发生的时刻”的单一价值转化为多种功能。因为人类已经这样做了,“现在”可以分为一天中的时间、一周中的某一天、一个月中的某一天、一年中的某一天,等等。。看起来他们用了64种不同的周期长度(1/天、1/周、1/月等)以一种巧妙的自动化方式完成了这项工作。看起来他们用sines所做的工作与3Blue1Brown类似,具有良好的性能。从纸上看(所以我可能弄错了),看起来他们只运行时间变换,所以他们得到了一堆额外的功能来编码时间。是的,它看起来更像一个傅里叶级数,我已经看了这个视频,但它对理解在这里做什么没有太大帮助。那么,如果他们只是利用时间,这将是完全有意义的,他们如何获得64个正弦从这个单一的功能?他们是否多次转换相同的功能?感谢您的回复。他们正在将“事情发生的时刻”的单一价值转化为多种功能。因为人类已经这样做了,“现在”可以分为一天中的时间、一周中的某一天、一个月中的某一天、一年中的某一天,等等。。看起来他们采用了一种聪明的自动化方式,使用了64种不同的周期长度(1/天、1/周、1/月等可能在其中)