Sections
研究計劃
Image Slideshow
Left Column
Right Column
Text Area

研究計劃2 - 高能效與高效能的端側人工智能的軟硬件協同設計

推動算法-硬件協同設計領域的發展,解決具身智能應用在複雜度、可擴展性、能耗效率及延遲等日益增長的新挑戰。

 

Text Area

研究項目2-1:
面向能耗最小化及個人化的健康AI助手的軟硬件協同優化

Hardware/software co-optimization toward energy-minimal personalized health-AI companions

研究項目2-1旨在開發用於慢性病健康監測的超低能耗AI助手。其核心在於協同優化特徵提取和機器學習演算法,以滿足邊緣設備嚴格的能耗和性能要求。項目亦將開發創新的存內計算和近存計算策略,旨在最大限度地降低能耗,同時確保對生物訊號進行高品質的即時處理。

Text Area

研究項目2-2:
具備隱私保護的大規模AI模型的節能異構邊緣雲協同學習模式

Energy-efficient heterogeneous edge-cloud collaborating learning paradigm for large-scale AI models with privacy preservation.

研究項目2-2致力於解決在資源受限的邊緣設備上部署大規模AI模型時,同時兼顧性能與隱私保護的挑戰。其核心在於透過異構框架進行硬件與神經網絡架構的協同探索,以實現大規模AI模型的高效與動態部署。此外,項目還將開發一種能量感知的雲邊緣協同學習模式,用以優化尤其在聯邦學習模式中的能耗和學習效率。

Text Area

研究項目2-3:
3D神經渲染演算法面向硬件之軟件優化,用於邊緣設備實時加速

A hardware-aware software optimization of 3D neural rendering algorithms for real-time acceleration in edge devices

研究項目2-3旨在針對行動端渲染以及同步定位與建圖(SLAM)任務,對最新的神經輻射場(NeRF)演算法進行優化。因應其固有的高運算量與高功耗問題,項目提出一套硬件感知的軟硬件協同設計方法,透過優化資料展示、分層體積採樣及可重用的像素判定等技術,在渲染過程中有效改善延遲表現與顯著提升能耗效率。

Text Area

研究項目2-4:
面向生成式AI的動態混合精度運算擴散Transformer的高效能推理與微調

Energy-efficient inference and fine-tuning of diffusion transformers using dynamic mixed-precision arithmetic for generative AI.

研究項目2-4旨在應對基於Transformer之大規模AI模型所帶來的挑戰,其核心在於開發一種支持整數與浮點運算的混合數據類型加速器,以促進於邊緣設備上實現高效的模型推理與微調。透過軟硬件協同設計,並針對風格轉移應用進行優化,項目將充分展現此方法於實際應用中的顯著成效。