ITCS · 新进教师| 贺烈博士



贺烈


博士:瑞士洛桑联邦理工学院

现任职务:上海财经大学计算机与人工智能学院常任轨助理教授



图片


Q:可以谈谈您过去的研究方向吗

在博士期间,我主要研究机器学习领域的分布式随机优化理论,尤其关注分布式架构带来的鲁棒性、通信效率和隐私保护等核心问题对优化问题的挑战。

近十年来,机器学习研究取得突破性进展的关键驱动力在于模型、数据和计算规模的持续增长。这种规模化趋势使得传统单机训练范式面临根本性挑战:GPU显存限制使得大型模型无法完整加载,海量数据导致训练时间呈指数级增长。分布式计算恰如其分地提供了解决方案——通过计算节点的横向扩展和智能并行化策略,我们能够突破单机资源的物理限制。另一方面,分布式架构也催生了一系列新颖的研究方向:在医疗健康等领域,数据天然分散在不同机构且受隐私法规保护,这使得分布式训练范式从技术选择演变为合规性必需。这些挑战推动我们发展出丰富的理论工具:如何设计通信高效的优化算法,使得同步开销不会抵消并行化收益?如何保证在存在延迟节点甚至恶意攻击者的情况下,分布式系统仍能稳定收敛?如何在保护数据隐私的同时,实现与集中式训练相当的性能?这些问题的解决往往需要优化理论、密码学和系统研究的深度交叉,也正是吸引我的地方。



Q:您进一步的研究方向是什么?

在博士后期到毕业后,我的研究重点从分布式场景下的鲁棒随机优化逐步扩展到更广泛的可信机器学习领域。

这一拓展既延续了对训练阶段可信计算的持续探索,又加强了对预测阶段可靠性的系统性研究。这种研究方向的演进并非偶然,而是源于深度学习应用不断深化带来的实际需求——当机器学习模型被部署到自动驾驶、医疗诊断等关键领域时,算法的可靠性就从理论课题转变为了必须解决的实际问题。促使我专注于这一领域的原因在于,当前机器学习研究在追求性能提升的同时,对可靠性的探索相对滞后。许多现有解决方案仍主要依赖经验性方法,缺乏严谨的理论基础,难以确保真正的可靠性。与此同时,一些具有理论保证的方法在应用于深度学习时又常常面临实际挑战,导致工业界对理论成果在实际场景中的有效性持保留态度。正是这种理论与实践的落差,使得开发既具备理论保证又能实际落地的方法显得尤为重要。


Q: 您来学院后,对研究中心的工作环境印象如何?工作的感受如何?

研究中心在计算经济学,算法博弈论方向拥有着多位顶级的专家,在海内外有很高的学术声誉。除此之外,中心还引进了很多年轻有为的老师,他们都在各自不同的方向上取得了相当有影响力的研究成果。我对加入这样的团队感到十分荣幸,并且相信自己能在这样优秀的环境中所取得很多成长。

更令我印象深刻的是,在当前普遍强调应用研究至上的氛围下,中心依然保持着对理论研究的坚持与追求并建立了科学合理的学术评价体系,这种对学术本质的坚守尤为可贵。


—— 贺烈简介 ——

贺烈于2023年获得瑞士洛桑联邦理工学院博士学位,曾先后在谷歌、亚马逊、及腾讯等知名企业实习工作。2025年5月加入上海财经大学计算机与人工智能学院,任常任轨助理教授。