褚曉文教授及其團隊於GreenCom 2020獲頒「最佳論文獎」

本系褚曉文教授、王強博士及博士研究生王宇新同學合著論文〈Energy-Efficient Inference Service of Transformer-Based Deep Learning Models on GPUs〉，最近獲「2020年GreenCom國際會議」頒發「最佳論文獎」。

獲獎論文旨在解決如何提高雲計算環境中推理服務（IAAS）的能效，尤其是基於Transformer Sequence Transduction模型的語言翻譯服務，同時又不違反服務水平協議（SLA）的問題。儘管Transformer在許多自然語言處理任務中都達到了最先進的性能，但由於其模型尺寸大和計算量大，它會消耗大量的電能。在這項工作中，他們對用於語言翻譯服務的Transformer訓練模型的推理性能和能效進行了全面研究。他們的發現提供了關於Transformer推理的完整概貌，並表明工作負載平衡和調度能夠為提高Transformer推理服務的能源效率帶來巨大的潛力。

為期五天的GreenCom國際會議為科學家、工程師和研究人員就有關綠色計算和通信技術的最新研究提供一個交流平台，探求新興的研究主題和有待解決的問題。