听说你会Promise? 那么如何控制请求并发数呢?
前言
现在面试过程当中 ,手写题必然是少不了的,其中碰到比较多的无非就是当属 请求并发控制了。现在基本上前端项目都是通过 axios 来实现异步请求的封装,因此这其实是考你对 Promise 以及异步编程的理解了。
引出
题目:
// 设计一个函数,可以限制请求的并发,同时请求结束之后,调用callback函数
// sendRequest(requestList:,limits,callback):void
sendRequest(
[
() => request("1"),
() => request("2"),
() => request("3"),
() => request("4"),
],
3, //并发数
(res) => {
console.log(res);
}
);
// 其中request 可以是:
function request(url, time = 1) {
return new Promise((resolve, reject) => {
setTimeout(() => {
console.log("请求结束:" + url);
if (Math.random() > 0.5) {
resolve("成功");
} else {
reject("错误;");
}
}, time * 1e3);
});
}
明确概念
⚠️ 这里有几个概念需要明确一下
-
并发:并发是多个任务同时交替的执行(因为 cpu 执行指令的速度非常之快,它可以不必按顺序一段代码一段代码的执行,这样效率反而更加低下),这样看起来就是一起执行的,所以叫并行。
-
并行:可以理解为多个物理 cpu 或者有分布式系统,是真正的’同时’执行
-
并发控制:意思是多个并发的任务,一旦有任务完成,就立刻开启下一个任务
-
切片控制:将并发任务切片的分配出来,比如 10 个任务,切成 2 个片,每片有 5 个任务,当前一片的任务执行完毕,再开始下一个片的任务,这样明显效率没并发控制那么高了
思路
首先执行能执行的并发任务,根据并发的概念,每个任务执行完毕后,捞起下一个要执行的任务。
将关键步骤拆分出合适的函数来组织代码
-
循环去启动能执行的任务
-
取出任务并且推到执行器执行
-
执行器内更新当前的并发数,并且触发捞起任务
-
捞起任务里面可以触发最终的回调函数和调起执行器继续执行任务
实现
- 定义常量和函数
function sendRequest(requestList, limits, callback) {
// 定义执行队列,表示所有待执行的任务
const promises = requestList.slice();
// 定义开始时能执行的并发数
const concurrentNum = Math.min(limits, requestList.length);
let concurrentCount = 0; // 当前并发数
// 启动初次能执行的任务
const runTaskNeeded = () => {
let i = 0;
while (i < concurrentNum) {
runTask();
}
};
// 取出任务并推送到执行器
const runTask = () => {};
// 执行器,这里去执行任务
const runner = () => {};
// 捞起下一个任务
const picker = () => {};
// 开始执行!
runTaskNeeded();
}
- 实现对应的函数
function sendRequest(requestList, limits, callback) {
const promises = requestList; // 取得请求list
// 得到开始时,能执行的并发数
const concurrentNum = Math.min(limits, requestList.length);
let concurrentCount = 0; // 当前并发数
// 第一次先跑起可以并发的任务
const runTaskNeeded = () => {
let i = 0;
// 启动当前能执行的任务
while (i < concurrentNum) {
i++;
runTask();
}
};
// 取出任务并且执行任务
const runTask = () => {
const task = promises.shift();
task && runner(task);
};
// 执行器
// 执行任务,同时更新当前并发数
const runner = async (task) => {
try {
concurrentCount++;
await task();
} catch (error) {
} finally {
// 并发数--
concurrentCount--;
// 捞起下一个任务
picker();
}
};
// 捞起下一个任务
const picker = () => {
// 任务队列里还有任务并且此时还有剩余并发数的时候 执行
if (concurrentCount < limits && promises.length > 0) {
// 继续执行任务
runTask();
// 队列为空的时候,并且请求池清空了,就可以执行最后的回调函数了
} else if (promises.length == 0 && concurrentCount == 0) {
// 执行结束
callback && callback();
}
};
// 入口执行
runTaskNeeded();
}
另一种实现
核心代码是判断是当你 【有任务执行完成】 ,再去判断是否有剩余还有任务可执行。 可以先维护一个 pool(代表当前执行的任务),利用 await Promise.race 这个 pool,不就知道是否有任务执行完毕了吗?
async function sendRequest(requestList, limits, callback) {
// 维护一个promise队列
const promises = [];
// 当前的并发池,用Set结构方便删除
const pool = new Set(); // set也是Iterable<any>[]类型,因此可以放入到race里
// 开始并发执行所有的任务
for (let request of requestList) {
// 开始执行前,先await 判断 当前的并发任务是否超过限制
if (pool.size >= limits) {
// 这里因为没有try catch ,所以要捕获一下错误,不然影响下面微任务的执行
await Promise.race(pool).catch((err) => err);
}
const promise = request(); // 拿到promise
// 删除请求结束后,从pool里面移除
const cb = () => {
pool.delete(promise);
};
// 注册下then的任务
promise.then(cb, cb);
pool.add(promise);
promises.push(promise);
}
// 等最后一个for await 结束,这里是属于最后一个 await 后面的 微任务
// 注意这里其实是在微任务当中了,当前的promises里面是能确保所有的promise都在其中(前提是await那里命中了if)
Promise.allSettled(promises).then(callback, callback);
}
总结一下要点:
-
利用 race 的特性可以找到 并发任务 里最快结束的请求
-
利用 for await 可以保证 for 结构体下面的代码是最后 await 后的微任务,而在最后一个微任务下,可以保证所有的 promise 已经存入 promises 里(如果没命中任何一个 await,即限制并发数>任务数的时候,虽然不是在微任务当中,也可以保证所有的 promise 都在里面),最后利用 allSettled,等待所有的 promise 状态转变后,调用回调函数
-
并发任务池 用 Set 结构存储,可以通过指针来删除对应的任务,通过闭包引用该指针从而达到 动态控制并发池数目
-
for await 结构体里,其实 await 下面,包括结构体外 都是属于微任务(前提是有一个 await 里面的 if 被命中),至于这个微任务什么时候被加入微任务队列,要看请求的那里的在什么时候开始标记(resolve/reject )
-
for await 里其实 已经在此轮宏任务当中并发执行了,await 后面的代码被挂起来,等前一个 promise 转变状态–>移出 pool–>将下一个 promise 捞起加入 pool 当中 –>下一个 await 等待最快的 promise,如此往复。
可以想象这样一个场景,几组人 在玩百米接力赛,每一组分别在 0m,100m,200m 的地方,有几个赛道每组就有几个人。(注意,这里想象成 每个节点(比如 0m 处) 这几个人是一组),每到下一个节点的人,将棒子交给排队在最前面的下一个人,下一个人就开始跑。
疑问
- Promise.allSettled 和 race 传入的
Promise<any>[]
可以被其中的触发微任务操作增减,这样做会改变结果吗?
有什么能拓展的功能呢?
1.想要在执行之后得到返回所需要的结果
(在第二种方法当中已经实现,第一种方法下可以 通过 增加一个 task->结果 的 map 来收集,或者对所有的 task 分别包裹一层 Promise,形成一个新的 promiseList,放到 Promise.allSettled 里面,再把 resolve 以 task->resolve 的方式映射出来,在 runner 里面找到把 Promise 实例通过对应的 resolve 暴露出去)
2.增加一个参数用来控制请求失败的重试次数