喜讯 | 崔曙光教授团队在国际顶级期刊《美国国家科学院院刊》发表研究论文

崔曙光

港中大（深圳）校长讲座教授

理工学院教授

未来智联网络研究院院长

港中深-京东集团人工智能联合实验室主任

深圳市大数据研究院常务副院长

边缘设备，如物联网设备（传感器）、服务器和机构（医院）能够用联邦学习协作训练机器学习模型。在训练过程中， 边缘设备无需共享其私人数据。然而，在联邦学习的训练过程中，边缘设备需要迭代交换它们的机器学习模型参数。因此，利用联邦学习训练可靠的机器学习模型所需的时间不仅取决于训练的迭代次数，还取决于每一步的机器模型 参数的传输时间。在实际应用中，多个运行联邦学习的边缘设备需要通过资源受限 （带宽或功率受限）的通信网络传输训练的机器学习模型参数。因此，边缘设备的迭代传输机器学习模型 参数会引起显著的时延。该时延可能要比机器学习模型的训练时间大几个数量级。因此，机器学习模型传输时延是在无线蜂窝网络中部署联邦学习的主要瓶颈之一。崔教授团队提出了一种通信高效的联邦学习算法。该算法能够能够合理地运用无线网络资源从而降低了联邦学习的收敛时间和训练损失。

崔教授团队主要对联邦学习算法中边缘设备的选择，需要传输的机器学习模型参数的压缩，无线网络中的频谱资源的分配进行优化。首先，针对需要传输机器学习模型参数的边缘设备数远大于网络能够支持的通信设备数， 崔教授团队设计了一种随机边缘设备选择方案。该方案根据用户与基站的距离以及对联邦学习参数更新的历史贡献决定边缘设备的接入概率，不仅保证了每个边缘设备都能参与联邦学习训练，还降低了联邦学习的收敛时间和训练损失。