Transformer

算法迭代速度正在显著快于硬件更换周期，边缘 GPU 正面临一场日益严峻的考验

珠海錾芯半导体基于自有EDA软件ZESTOPT显著提升Transformer硬件PPA（Power, Performance, Area）

近来，ChatGPT成为社会各界关注的焦点。从技术领域看，ChatGPT的爆发是深度学习领域演进、发展和突破的结果，其背后代表着Transformer结构下的大模型技术的飞速进展。因此，如何在端侧、边缘侧高效部署Transformer也成为用户选择平台的核心考量。

在过去的一年中，英特尔、Habana Labs和Hugging Face基于开源项目、集成开发者体验与科学研究，不断提升人工智能应用的效率并降低使用门槛，在创建和训练高质量Transformer模型上取得了重大进展。

最近两年，Transformer在NLP、CV领域都取得了非常好的成绩。结合相关文章，Transformer的底层也是矩阵运算。使用FPGA加速，也会取得很好的效果。