3月16日 苹芯科技领导出席2024 AI大模型创新发展研讨会
2024 AI大模型创新发展研讨会暨清华上海自动化年会于2024年3月16日在上海杨浦区成功召开。活动内容包括专家主旨演讲、圆桌讨论、校友企业路演等交流活动。苹芯科技CEO杨越出席会议并进行项目分享。
本次会议得到了上海市杨浦区的大力支持,杨浦区委副书记、区长周海鹰,清华校友总会自动化系分会会长、清华大学自动化系主任张涛,清华校友总会自动化系分会秘书长、清华大学自动化系党委书记古槿,清华大学上海校友会会长、华虹计通董事长秦伟芳,清华大学上海校友会监事长、昕诺飞亚太区高级总监宿为民,清华大学上海校友会副会长兼秘书长、启迪控股副总裁韩威,清华大学上海校友会自动化专委会主任、软银中国创业投资有限公司合伙人宋安澜,清华大学上海校友会自动化专委会副主任、上海交通大学计算机系教授、思必驰创始人俞凯,上海欧美同学会副会长张海晓,启迪控股执行总裁、启迪之星董事长张金生,清华大学上海校友会自动化专委会秘书长、元钛基金合伙人陈刚以及来自学术界、产业界的大模型领域专家学者、企业代表、清华校友悉数出席会议,共同探讨AI大模型领域的发展趋势、技术挑战以及未来应用前景等业内焦点问题。
苹芯科技CEO杨越受邀出席本次会议并进行题为《从通用到专用 -- AI大模型推理专用加速芯片》的分享。
现阶段,随着大模型在人工智能领域快速发展,大模型的训练和推理对计算资源提出了前所未有的挑战。Groq TSP作为专门针对超低延迟应用而设计的确定性ML推理芯片,一经推出便引起广泛关注。但是,通过专业人士分析,其实际部署与应用仍然存在很大的成本问题,产品的应用前景依然在等待市场的反馈。
面对当前情况中的具体问题,苹芯团队提出了新思路,打造存算一体AI大模型端侧推理专用加速芯片,通过三条路径针对性解决难题:首先,利用存内计算技术,降低数据搬运,大幅提升计算能效;其次,打造大模型专属架构设计,完成高内聚低耦合数据处理单元设计,切实降低总体设计制造成本;最后,融入大模型完整产业生态,满足国产大模型对芯片设计需求,实现软硬件一体设计,打通上下游合作链,实现算力算法架构融合。
作为专注于存算一体AI芯片的创新型企业,苹芯科技将继续加快深入探索端侧大模型加速芯片的步伐,推出面向大模型应用场景的芯片产品与解决方案,为AI大模型时代提供强劲的“芯动力”。
相关文章:
相关推荐: