scala – Spark:如何在LabeledPoint上执行欠采样?

前端之家收集整理的这篇文章主要介绍了scala – Spark:如何在LabeledPoint上执行欠采样?前端之家小编觉得挺不错的,现在分享给大家,也给大家做个参考。
我的LabeledPoint中有一些不平衡的数据.我想做的是选择所有正面和n次负面(随机).例如,如果我有100个阳性和30000个阴性,我想创建新的LabeledPoint,其中包含所有100个阳性和300个阴性(n = 3).

在实际情况中,我并没有在开始时有多少积极和消极.

解决方法

据推测,您的数据是RDD [LabeledPoint].您可以执行以下操作:

val pos = rdd.filter(_.label==1)
val numPos=pos.count()
val neg = rdd.filter(_.label==0).takeSample(false,numPos*3)
val undersample = pos.union(neg)

您可以找到takeSample,filter和union here的文档.

猜你在找的Scala相关文章