发布时间:2023-05-15 16:30
Top-k问题:在 N 个数中,找出前 K 个(最大/最小)的元素,一般情况下数据量 N 都远大于 k。
Top-k问题在生活中是非常的常见,比如游戏中某个大区某个英雄熟练度最高的前10个玩家的排名,我们就要根据每个玩家对该英雄的熟练度进行排序,可能有200万个玩家,但我只想选出前10个,要对所有人去排个序吗?显然没这个必要。
再比如:专业前10名、世界500强、富豪榜、游戏中前100的活跃玩家等。
对于Top-K问题,首先想到的最简单直接的方式就是排序。
我们用堆排序,其时间复杂度为:O(N*log2N)。
但是:如果数据量非常大,排序就不太可取了(可能数据都不能一下子全部加载到内存中)。
建一个 N 个数的堆(C++中可用优先级队列priority_queue),不断的选数,选出前 k 个。
时间复杂度:建N个数的堆为O(N),获取堆顶元素 (也即是最值) 并删除掉堆顶元素为O(log2N),上述操作重复 k 次,所以时间复杂度为O(N+k*log2N)。
【思考】
能否再优化一下呢?假设 N 是 10 亿数,内存中放不下,是放在文件中的。前面两个方法都不能用了。
基本思路如下:
用数据集合中前K个元素来建堆。
找前 k 个最大的元素,则建小堆
找前 k 个最小的元素,则建大堆
用剩余的 N-K 个元素依次与堆顶元素来比较,不满足则删除堆顶元素,再插入。
找前 k 个最大的元素,大于堆顶元素,则删除堆顶元素,再插入
找前 k 个最小的元素,小于堆顶元素,则删除堆顶元素,再插入
将剩余的 N-K 个元素依次与堆顶元素比完之后,堆中剩余的K个元素就是所求的前K个最小或者最大的元素。
时间复杂度:
假如要找出最大的前 10 个数:
【思考】为什么找出最大的前10个数,不能建大堆呢?
如果你建的10个元素的大堆,堆顶元素恰好是数据集合中最大的那个,那第2大的数、第3大的数就不能找不到了。
找出最大的前 10 个数代码如下:
void PrintTopK(int* a, int n, int k)
{
// 1. 建堆, 用a中前k个元素建堆
Heap hp;
HeapInit(&hp, a, k); // 建小堆
// 2. 将剩余n-k个元素依次与堆顶元素交换,不满则则替换
for (int i = k; i < n; i++)
{
if (a[i] > HeapTop(&hp)) // 如果大于堆顶元素
{
HeapPop(&hp); // 删除掉堆顶元素
HeapPush(&hp, a[i]); // 插入该元素
}
}
// 3. 打印前k个元素
HeapPrint(&hp);
// 4. 销毁堆
HeapDestroy(&hp);
}
void TestTopk()
{
// 用10000个数据集合来测试
int n = 10000;
int* a = (int*)malloc(sizeof(int) * n);
if (a == NULL)
{
perror(\"malloc\");
exit(-1);
}
// srand()函数 -- 设置一个随机的起点
// 在随机数生成器中植入当前时间,这样rand()每次运行的数字都会不同
srand(time(0));
for (size_t i = 0; i < n; ++i)
{
a[i] = rand() % 1000000;
}
a[5] = 1000000 + 1;
a[1231] = 1000000 + 2;
a[531] = 1000000 + 3;
a[5121] = 1000000 + 4;
a[115] = 1000000 + 5;
a[2335] = 1000000 + 6;
a[9999] = 1000000 + 7;
a[76] = 1000000 + 8;
a[423] = 1000000 + 9;
a[3144] = 1000000 + 10;
PrintTopK(a, n, 10);
}
上一篇博客已写过。
OpenCV入门到进阶:实战三大典型项目(更新至12) IT自学视频教程
五、vue3.0之组件通信详解(defineProps、defineEmits、defineExpose)
使用TorchScript和libtorch进行模型推理[附C++代码]
python人工智能tensorflow常见损失函数LOSS汇总
(附源码)springboot电竞专题网站 毕业设计 641314
【用pandas_alive几行代码绘制竞赛动图】二、专栏学习说明(配置好的venv虚拟环境+拿来即用测试代码+测试数据集+参数api解析)
MindSpore报错"RuntimeError: Invalid data, Page size."
Windows下MySQL 8.0.29 安装和删除图文教程
WWW 2021最佳论文亚军:基于属性补全的异质图神经网络新架构
Django使用mysqlclient服务连接并写入数据库的操作过程
SAP Fiori 的附件处理(Attachment handling)