(四)Windows网络模型之完成端口模型详解

家电修理 2023-07-16 19:17www.caominkang.com电器维修

Windos网络模型之完成端口模型

完成端口模型是重叠IO模型的升级优化版,解决了重叠IO模型的不足,是Windos下效率最好的网络模型。


重叠IO模型有什么不足?

  • 对于事件通知需要程序员进行循环询问,当并发量较高时,延迟增高,并且做了许多无用功;每次调用WSASend()、WSARecv()等函数投递给OS处理,其实都是在另开一根线程,这将不可变避免导致线程量增多,不好管理且效率下降。
  • 对于完成例程此时程序员只需等待服务器socket的事件即可;仍会存在大量的线程,相比事件通知模型还多出了执行回调函数(完成例程中的例程)所需要创建的线程,在并发量很大时,线程数目会急剧增加,导致效率下降。

这就引申出了一个新问题为什么线程数增加的时候,效率会降低呢?

  • 并不是线程数越多,CPU的利用效率就会越高
  • 因为线程切换时需要保存当前线程上下文、恢复目标线程上下文。如果线程过多,会让CPU忙于切换和调度,浪费过多的时间在线程切换上,由此降低了效率。程序的线程数目不能太多,理论上和CPU核心数目差不多或稍微多一点即可。

说句拓展有时会说线程数增加时,会提高程序的执行速度?为啥?

  • 这是因为当增加当前程序的线程数时,会获得更多的CPU时间片,其挤压了其他程序或进程的CPU时间片。虽然当前程序执行速度可能会得到一定的提升,却牺牲了其他程序的执行效率且增加了CPU调度和线程切换的资源用量,本质上还是降低了计算机整体的执行效率,是一种"自私"的做法!

完成端口模型是如何解决线程过多问题的?

完成端口模型 是基于重叠IO模型的改进,该模型依然使用了重叠结构Overlapped、AeptEx()、WSARecv()、WSASend()等异步函数。还使用了完成端口变量—需由CreateIoCompletionPort()创建。

该模型模仿消息队列,由OS维护一个通知队列,当上述的异步函数完成后就会产生通知,OS将通知放进通知队列中;程序员根据计算机的性能合理创建一定数目的线程,读取通知队列的头部通知,并进行分类处理。


完成端口模型的使用逻辑

  1. 开启网络库

  2. 创建服务器socket

  3. 绑定本地IP与port

  4. 创建完成端口,只需要一个完成端口,需要将每一个socket(服务器socket和客户端通信socket)都绑定到同一个完成端口上。

    // 功能1创建完成端口
    HANDLE CreateIoCompletionPort(
      [in]     HANDLE FileHandle,				// 填写INVALID_HANDLE_VALUE
      [in, optional] HANDLE ExistingCompletionPort,	// 填写NULL
      [in]     ULONG_PTR CompletionKey,			// 忽略,填0即可
      [in]     DWORD  NumberOfConcurrentThreads// 最重要的参数并发线程数目,填0表示默认
    );
    // 如
    HANDLE hPort = CreateIoCompletionPort(INVALID_HANDLE_VALUE, 0, 0, 0);
    
    
    // 功能2绑定socket到完成端口上
    HANDLE CreateIoCompletionPort(
      [in]     HANDLE FileHandle,				// 需要绑定的socket的句柄
      [in, optional] HANDLE ExistingCompletionPort,	// 完成端口的句柄
      [in]     ULONG_PTR CompletionKey,			// 传进去一个参数,它会在GetQueuedCompletionStatus()时传出,可以借助该参数标记以及识别socket
      [in]     DWORD  NumberOfConcurrentThreads// 忽略,填0即可
    );
    // 如
    HANDLE hRes = CreateIoCompletionPort((HANDLE)sockListen, hPort, sockListen, 0);
    
  5. 绑定服务器socket与完成端口

  6. 启动服务器监听

  7. 然后创建合理数目的线程,在每个线程中使用GetQueuedCompletionStatus()函数,获取通知队列中的通知,然后根据传出参数进行分类,并处理。保证线程循环执行,不断读取通知队列中的通知并处理。

    BOOL GetQueuedCompletionStatus(
      [in]  HANDLE    CompletionPort,			// 完成端口句柄,只有与完成端口绑定的socket上发生的事件才可以被监测到
      LPDWORD   lpNumberOfBytesTransferred,// 接收或发送的字节数
      [out] PULONG_PTR   lpCompletionKey,			// 传出了在绑定socket与完成端口时,传入的一个参数3,可以用于标记socket
      [out] LPOVERLAPPED lpOverlapped,				// 传出了与socket绑定在一起的重叠结构,注意重叠结构是在调用异步函数时传入的
      [in]  DWORD  dMilliseconds				// 超时时间
    );
    
    // 返回值 true 执行成功  false 执行失败
    
  8. 对于线程处理函数,主要工作就是循环调用GetQueuedCompletionStatus()处理通知队列的通知

    • 对于建立连接的请求要及时对新的客户端socket绑定重叠结构以及完成端口,然后投递。
    • 对于收发数据的请求,要及时处理数据,并继续投递数据收发任务

如何回答讲讲你理解的完成端口模型?

完成端口模型是重叠IO模型的升级版,它解决了重叠IO模型中线程过多导致效率下降的问题。

在完成端口模型中,我们新创建一个完成端口变量,并将所有的socket(包括服务器socket和客户端通信socket)都绑定到完成端口上。然后使用AeptEx()、WSARecv()、WSASend()函数异步投递相应的任务,等任务完成后操作系统将完成通知放进通知队列中。

之后程序员创建合理数目的线程,在线程函数中取出通知队列的头部,然后分析并分类处理。

该模型所有函数执行部分都是异步的,而且不存在线程滥用问题,效率非常高!


完成端口模型的流程图


Copyright © 2016-2025 www.caominkang.com 曹敏电脑维修网 版权所有 Power by