荔研专访丨计算机科学与技术博士研究生苏晓鑫——国家自然科学基金青年学生基础研究项目获得者访谈

选择深圳大学，一方面是因为深圳这座城市的创新氛围浓厚，充满机遇，有许多互联网公司扎根于此，深大计软依托其独特的地域优势，拥有优质的教学资源，便于开展前沿的科研研究。另一方面，学院师资力量强大，每个老师在自己的研究领域里都有着深厚的造诣，能给予学生高效的指导。

在持续深造的过程中，学校给了我很多成长机会。比如，经常举办学术讲座和交流活动，邀请国内外顶尖学者来介绍最前沿的计算机研究，拓宽了我的学术视野。学院特色的培养模式，注重理论与实践结合，鼓励学生加入不同老师的实验室、参与科研项目的研究，学院的老师也有丰富的科研项目，能让学生接触到最前沿的研究课题，并给予悉心指导，引导学生开展自己的科研生涯。深圳大学的培养模式对我科研能力的提升起到了关键作用。

我觉得在学习生涯中，最大的收获是提高了自己的逻辑思考能力和时间管理能力。在研究新工作的过程中，我们必须循序渐进，从现有算法的缺陷或未研究的问题出发，一步步了解当前的研究进展，基于自己的积累逐步进行一点点的创新，最终设计一个完整的系统，这个过程需要我们不断地重组自己的调研知识、不断地查漏补缺，从而锻炼了自己的逻辑思考能力。

计算机领域偏重于会议论文的投稿，有固定的截止时间，这就要求我们能根据自己设立的目标进行对应的研究、制定详细的研究计划，并通过完成自己的计划来强化自己的时间管理能力。

对于研究方向的确定，一方面是基于对现有文献的调研，在研究的开始阶段，需要去阅读顶会上不同方向的科研论文，了解前沿研究的关注重点和进展，在有了大致的基础后，可进一步对论文的工作进行复现和实践，确定自己感兴趣的方向，从而确定自己的研究方向，进行更深入的研究。

另一方面，我也受到了导师的启发和引导。我的导师崔来中教授在计算机网络领域有着深厚的积累和丰富的经验，他向我介绍了该方向的前沿动态，加深了我对于网络优化的兴趣，并让我看到了其中广阔的研究空间，让我意识到在这个方向上有机会做出一些有意义的研究成果，所以最终确定了这个研究方向。

在申报期间，最大的挑战就是需要注意研究项目与当前研究基础的联系，因为博士生项目注重项目内容与博士生毕业论文内容的区别和联系，所以需要特别考虑不同的研究点与博士生毕业论文之间的支撑关系。

针对这个挑战，首先在选题上，我需要考虑当前科研领域的前沿研究和国家战略需求，同时结合自己已有的研究基础，确定项目的研究目标。然后，需要调研相关的论文文献，基于调研的结果和本人的研究成果，讨论现有工作的不足之处，确保选题具有创新性和研究价值。在撰写申请书时，需要清晰阐述研究背景和研究意义，详细规划研究内容和技术路线，突出项目的特色与可行性。最后，在撰写申请书时需要注意图文并茂，用尽量简洁的图片概括相关的研究内容，从而能更突出项目的创新性。同时，需要积极向导师请教，针对难点问题反复修改完善，最终顺利完成申报。

大模型的分布式训练能充分利用不同节点上的算力和数据来训练模型，从而成为了优化大模型性能的强有力技术。然而，在分布式环境中训练大模型面临诸多复杂挑战：带宽资源的局限性、通信流量的不合理分配、通信原语的低效性，这些复杂的因素使得大模型的分布式训练面临带宽利用效率低、算法压缩效果不佳、节点间通信冗余等问题，严重限制了大模型在分布式环境中的训练效率。因此，本项目面向大模型分布式训练的通信压缩这一研究领域的前沿技术方向，系统性地分析大模型分布式训练过程中遇到的新问题新挑战，在理论上分析压缩效率与模型收敛性之间的权衡，探讨数据分布对压缩效率的影响，从而提高对于有限带宽资源的利用率。研究成果预期能够全面提升大模型分布式训练的效率和可扩展性，推动大模型在真实场景的高效部署。