大熊猫在时间序列中每 30 分钟补一次缺失的日期

如何解决大熊猫在时间序列中每 30 分钟补一次缺失的日期

我的数据集中有这种情况：

timestamp                  value

2020-05-02 22:35:05        13.68

2020-05-02 22:05:05        13.86

2020-05-02 21:05:05        14.44

2020-05-02 20:35:05        14.26

2020-05-02 20:05:05        13.85

数据集来自传感器对温度的检测，时间戳应该是每 30 分钟一次，但有时不会发生这种情况。我应该通过在我的数据集中插入缺失的时间戳来解决这种情况，然后我应该将它与一个接近 t-1 和 t + 1 的值相关联。有人能帮我解决这个问题吗？

谢谢！

解决方法

Pandas 有一个 resample function，您可以在其中向下/向上采样时间序列数据。从此，您还可以应用一个函数来说明您希望如何“填充”缺失值（如果有）。

请参阅下面的示例了解您的数据。首先，我们确保 timestamp 列是日期时间类型，而 value 列是数字（先删除逗号）。然后我们将数据帧的索引设置为时间戳列。现在我们以 30 分钟的时间间隔 ('30T') 重新采样数据。然后我们可以对结果进行插值以填补空白。有很多方法可以做到这一点，see the docs for more info。

import pandas as pd

df['timestamp'] = pd.to_datetime(df['timestamp'])
df['value'] = pd.to_numeric(df['value'].str.replace(',',''))

result = df.set_index('timestamp') \
  .resample(rule='30T',offset=pd.Timedelta(minutes=5,seconds=5)) \
  .interpolate(method='time')

结果是：

                      value
timestamp                  
2020-05-02 20:05:05  1385.0
2020-05-02 20:35:05  1426.0
2020-05-02 21:05:05  1444.0
2020-05-02 21:35:05  1415.0
2020-05-02 22:05:05  1386.0
2020-05-02 22:35:05  1368.0