关于r:将带时间戳的数据与另一个数据集中的最接近时间匹配。

Matching timestamped data to closest time in another dataset. Properly vectorized? Faster way?

为了从第二个数据帧中提取数据,我在一个数据帧中尝试匹配第二个数据帧中最近的时间戳。下面是我的方法的一般示例:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
library(lubridate)

data <- data.frame(datetime=ymd_hms(c('2015-04-01 12:23:00 UTC', '2015-04-01 13:49:00 UTC', '2015-04-01 14:06:00 UTC' ,'2015-04-01 14:49:00 UTC')),
                   value=c(1,2,3,4))
reference <- data.frame(datetime=ymd_hms(c('2015-04-01 12:00:00 UTC', '2015-04-01 13:00:00 UTC', '2015-04-01 14:00:00 UTC' ,'2015-04-01 15:00:00 UTC', '2015-04-01 16:00:00 UTC')),
                        refvalue=c(5,6,7,8,9))

data$refvalue <- apply(data, 1, function (x){
  differences <- abs(as.numeric(difftime(ymd_hms(x['datetime']), reference$datetime)))
  mindiff <- min(differences)
  return(reference$refvalue[differences == mindiff])
})

data
#              datetime value refvalue
# 1 2015-04-01 12:23:00     1        5
# 2 2015-04-01 13:49:00     2        7
# 3 2015-04-01 14:06:00     3        7
# 4 2015-04-01 14:49:00     4        8

除了速度非常慢之外,这很好用,因为参考数据框架在我的实际应用程序中非常大。此代码是否正确矢量化?是否有更快、更优雅的方式执行此操作?


我想知道这是否能够与data.table解决方案匹配以提高速度,但它是一个基本的R矢量化解决方案,应该比您的apply版本更好。因为它实际上从来没有计算过距离,所以它可能比data.table-nearest方法更快。这会将间隔中点的长度添加到可能的最小值或间隔的起始点,以创建一组"中间分隔符",然后使用findInterval函数处理时间。在reference数据集的行中创建一个合适的索引,然后"refvalue"可以"传输"到data对象。

1
2
3
4
5
 data$reefvalue <- reference$refvalue[
                      findInterval( data$datetime,
                                     c(-Inf, head(reference$datetime,-1))+
                                     c(0, diff(as.numeric(reference$datetime))/2 )) ]
 # values are [1] 5 7 7 8


您可以使用"最近"选项尝试data.table的滚动联接。

1
2
3
library(data.table) # v1.9.6+
setDT(reference)[data, refvalue, roll ="nearest", on ="datetime"]
# [1] 5 7 7 8