臺大研究團隊榮獲2019年嵌入式系統領域頂尖國際會議 ACM/IEEE CODES+ISSS最佳論文獎

本校資訊工程學系暨網路多媒體研究所於嵌入式系統領域頂尖國際會議榮獲佳績! 本(108)年於美國紐約市舉辦之Embedded Systems Week (ESWEEK) 2019年度大會,本校郭大維教授所領導的產學研究團隊之研究成果為嵌入式系統頂尖國際會議「ACM/IEEE 國際軟硬體協同設計與系統整合會議」ACM/IEEE International Conference on Hardware/Software Codesign and System Synthesis (CODES+ISSS)評審為年度最佳研究論文,並於由大會主席與最佳論文獎遴選主席共同頒予最佳論文獎狀。此為歷年來第一次由臺灣研究團隊獲獎。

本研究成果為臺大領導之中研院、旺宏電子等產學團隊所共同研發的研究成果《Achieving Lossless Accuracy with Lossy Programming for Efficient Neural-Network Training on NVM-Based Systems》,並同時由大會通過並接受於國際頂尖嵌入式系統學術期刊ACM TECS (ACM Transactions on Embedded Computing Systems)。「ACM/IEEE 國際軟硬體協同設計與系統整合會議」是由計算機協會ACM (Association for Computing Machinery) 以及國際電機與電子工程學會IEEE (Institute of Electrical and Electronics Engineers) 所共同主辦。此頂尖國際會議於1992年首辦,迄今為第28屆;從2005年起,此會議與其他國際頂尖會議ACM EMSOFT (International Conference on Embedded Software) 及CASES (International Conference on Compilers, Architecture, and Synthesis for Embedded Systems) 共同組織聯辦成為Embedded Systems Week (ESWEEK) ,也已成為嵌入式系統領域的年度盛事,每年會議期間皆吸引產學界高度關注。此次為28年來首次由臺灣團隊奪得最佳論文獎的殊榮,實屬難能可貴!

此篇由臺大團隊所發表的得獎論文,藉由高效率地寫入類神經網路資料,開創了一種在非揮發性記憶體系統上訓練類神經網路的新穎設計,有別於以往類神經網路設計無法在降低能耗及成本的同時又兼具精準度以及執行效能兩項優點,此論文為第一篇提出能在降低能耗及成本的同時,又能「達到超大型類神經網路架構化的精準度優勢」並「維持良好效能」的前瞻理論實務整合技術。

此研究指出類神經網路之訓練對於主記憶體容量需求極高,使用現今DRAM所造成的能耗及價格成本過高,造成許多嚴重的不良影響;因此臺大團隊提出以非揮發性記憶體,特別是相變化記憶體,藉由其高容量與高速讀取的特性,作為訓練類神經網路的主記憶體。然而,非對稱性寫入的問題將造成訓練類神經網路之效率低落;為此,臺大團隊除了利用非揮發性記憶體降低類神經網路訓練的能耗與成本問題之外,更旨在解決訓練效率,並在不降低類神經網路準確性的前提下,針對類神經網路的「資料流」及「資料內容」進行多項細微且深刻觀察,提出以損耗性寫入指令結合類神經網路的近似計算,包含針對「中介資料」聰穎且低負擔地紀錄其資料持續時間並搭配使用損耗性寫入指令,以及針對「權重值」與「偏差值」創新地將最高有效位元與最低有效位元分別搭配完整性寫入指令與損耗性寫入指令,最終再使用「緩衝行進式平均損耗技術」配合類神經網路之讀取及更新週期,將資料高效寫入記憶體內且延長記憶體使用壽命。 臺大團隊之研究成果能夠在幾乎不改變現有架構、技術的情況下,有效地解決當今訓練類神經網路所面臨的困境,此研究成果除了能夠啟發超大型類神經網路架構之創新研究以外,亦能夠被應用於類神經網路的推理階段。

此次能夠於嵌入式系統領域頂尖國際會議獲得最佳論文獎,為跨校際、跨領域與跨產業的成功研究典範,研究團隊特此感謝臺大校方、科技部與旺宏電子長期支持,亦足以證明集合產官學研之跨界合作更能夠展現驚人研發能量,不但為臺灣提升國際能見度,亦為臺灣產、學界提供更強勁研究動能與突破進展。

To Top