褚晓文教授及其团队于GreenCom 2020获颁「最佳论文奖」

本系褚晓文教授、王强博士及博士研究生王宇新同学合著论文〈Energy-Efficient Inference Service of Transformer-Based Deep Learning Models on GPUs〉，最近获「2020年GreenCom国际会议」颁发「最佳论文奖」。

获奖论文旨在解决如何提高云计算环境中推理服务（IAAS）的能效，尤其是基于Transformer Sequence Transduction模型的语言翻译服务，同时又不违反服务水平协议（SLA）的问题。尽管Transformer在许多自然语言处理任务中都达到了最先进的性能，但由于其模型尺寸大和计算量大，它会消耗大量的电能。在这项工作中，他们对用于语言翻译服务的Transformer训练模型的推理性能和能效进行了全面研究。他们的发现提供了关于Transformer推理的完整概貌，并表明工作负载平衡和调度能够为提高Transformer推理服务的能源效率带来巨大的潜力。

为期五天的GreenCom国际会议为科学家、工程师和研究人员就有关绿色计算和通信技术的最新研究提供一个交流平台，探求新兴的研究主题和有待解决的问题。