岩山科技子公司发布全新通用大模型

岩山科技子公司发布全新通用大模型
2024年01月26日 16:40 证券日报之声

本报记者 施露

1月24日,上海岩芯数智人工智能科技有限公司(下称“岩芯数智”)发布Yan架构通用大模型。

据岩芯数智CEO刘凡平介绍,Transformer作为GPT、LLaMA等大模型的基础架构,仍有算力消耗等缺陷。岩芯数智的研究团队历经近1000多个日夜的努力,自主研发出了不再依赖Transformer的全新架构—“Yan架构”。同时,基于Yan架构的通用大模型应运而生。

作为国内首个非Attention机制的通用自然语言大模型,Yan架构用线性的自然语言关联特征、关联函数等,解决了Transformer算力消耗、显存占用及成本高昂的缺陷,拥有相较于同等参数Transformer的7倍训练效率、5倍推理吞吐、3倍记忆能力,同时支持CPU无损运行、低幻觉表达、100%支持私有化应用。

Yan架构在保持性能的同时为大模型做了“瘦身”,从而大幅降低部署难度及应用成本,使Yan模型可以在0压缩、0裁剪的前提下,在目前主流的消费级CPU设备、甚至是笔记本电脑中无损运行。

岩芯数智是岩山科技旗下的科技创新型企业,是岩山科技在人工智能领域布局的重要一环。近年来,岩山科技全面拥抱人工智能新浪潮,目前已经在人工智能领域的智能驾驶、类脑智能、AIGC等新兴领域进行了布局,创造先进的人工智能科技产品和服务。

(编辑 张钰鹏)

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部