首页
摩登7产品
行业应用
渠道合作
摩登7新闻
研究院
投资者关系
技术支持
关于摩登7
|
 
  当前位置:首页 > 城市大脑 > ai智能 > 大模型训练参数规模量级最高或达5万亿以上  
 

大模型训练参数规模量级最高或达5万亿以上

来源:InfoQ研究中心      编辑:摩登7      时间:2023/6/21      主题:其他   [加盟]

-国内大模型出现大量参数规模大于100亿的模型

-百度研发的Ernie和华为研发的盘古目前是有数据的国内大模型参数规模的领先者

-国际领先的大模型GPT-4据推测参数规模量级可达5万亿以上

国内大模型未公布参数规模

•自研大模型(字节)

• 1+N认知智能大模型(科大讯飞)

•二郎神模型(IDEA研究院)

•自研AI大模型(光年之外)

•自研大模型(燧原科技)

•超拟人大模型(聆心智能)

•自研大模型(香依科技)

•魔力写作(竹间智能)

•自研大模型(MiniMax)

•蛋白质大模型(浙江大学杭州国 际科创中心)

国内模型参数规模<100 亿

•书生3.5 (商汤科技)

•孟子(澜舟科技)

•DriveGPT (毫末智行)

•ChatGLM (清华大学)

国内模型参数规模>100 亿

•ERNIE 3.0 (百度)

•盘古(华为)

•MOSS (复旦大学)

•遵义(阿里)

•言犀(京东)

•混元(腾讯)

•伏羲(网易)

•源1.0 (浪潮信息)

•行业精灵(云从科技)

•八卦炉(达摩院)

•元语大模型(莫塔社区)

•曹植大模型(达观数据)

•紫东太初(中科院自动化研究所)

•自研大模型(西湖星辰)

•悟道2.0 (智源研究院)

国际模型参数规模

•GPT-4 (OpenAI) 未公开,推测为超过50000亿

•PaLM (Google) 5400亿

•BERT (Google) 4810亿

•GPT-3.5 (OpenAI) 1750亿

•LaMDA (Google) 1370亿

•Galatica (Meta) 1200亿

•LLaMDA (Meta) 650亿

•Chinchilla (DeepMind) 700 亿

•Claude (Anthropic) 520亿

•Mineva (Google) 5400亿





大语言模型研发的关键影响要素

大语言模型产品研发需要同时具备三大要素,分别为数据资源要素,算法和模型要素,资金和资源要素,数据资源,资金和资源两要素为大模型研发的基础要素

大规模语言模型发展经过三阶段在2023年进⼊爆发阶段

大语言模型诞生阶段Transformer神经网络架构;探索阶段GPT-2发布并部分开源;大语言模型爆发阶段ChatGPT-3.5,百度文心一言发布

中国邮政储蓄银行、科蓝软件:科蓝智能高柜数币机器人“小蓝”

小蓝助力中国邮政储蓄银行打造创新型多模态生物科技赋能银行智慧网点驿站,担任无人柜台客服角色,可实现银行无柜员自助运行

中国移动天津公司、亚信科技:“天工”AIGC智慧客服虚拟数字人解决方案

天工虚拟数字人每月提升新业务办理量2000余笔,提升人员工作效率80%,模型查准率达90%,查全率达70%,平均月收入提升200万元

AI的应用场景有:消费端、产业端和多个行业

生成式AI可帮助人们完成众多繁琐工作,有助于促进消费端需求提升,2022年我国AI产业规模达到1958亿元,AI的产品形态和应用边界不断拓宽

CHATGPTAI掀起AI浪潮助力制造业发展

OpenAI的大型语言生成模型ChatGPT刷爆网络,其能胜任高情商对话,生成代码,构思剧本和小说等多个场景,将人机对话推向新的高度,引爆新一轮的AI热潮

人工智能研发运营体系(ML0ps)实践指南2023

指南站在组织如何布局和落地 MLOps 的视角,以模型的高质量,可持续交付作为核心逻辑,系统性梳理 MLOps 概念内涵,发展过程,落地挑战等现状

国内细分赛道企业在 AIGC 各应用场景有哪些布局

聆心智能提供AI驱动的高质量数字疗法等解决方案;澜舟科技 彩云科技 秘塔科技 香侬科技 感知阶跃 影谱科技 帝视科技 标贝科技 知觉之门 倒映有声 红棉小冰

国内科技大厂布局生成式 AI,未来有望借助业务生态推出爆款应用产品

百度文心通过文字描述生成图片;腾讯优图完成对于人像面部的3D建模;阿里巴巴Lubanner自动完成素材分析 抠图 配色等设计;剪映通过文字生成视频

AIGC领域相关初创公司及业务场景梳理

Otherside AI术采用 OpenAI 的 GPT-3 协议AI 邮件写作;Copy AI通过 AI 写作广告和营销文案;Jasper Ai人撰写营销推广文案以及博客等各 种文字内容

ChatGPT 以 GPT+RLHF 模型为核心支撑,为 AIGC 发展指明方向

ChatGPT将海量训练数据与Transformer框架结合,在GPT模型的基础上通过RLHF模型提升交互聊天能力,实现了对自然语言的深度建模,AIGC核心技术框架

AIGC提升文字 图片渗透率,视频 直播等较慢

科技大厂有望将 AI 技术应用 到业务生态中,有望推动在线办公,搜索引擎等应用场景的渗透率提升, 2030 年市场空间可达 2175.58 亿元
 
资料获取
ai智能
== 资讯 ==
» 2024年AI大模型技术变迁情况回溯:技
» 超拟人大模型的情绪价值体验:八大安全场景
» 教育大模型:AI赋能智能教育,塑造未来学
» 中国AI+营销趋势洞察与企业落地建议:成
» 无线内生安全技术2.0蓝皮书:支撑无线内
» GB-T 23024-2024制造业数字
» 数字银行场景安全技术解决方案研究报告:保
» 网络安全战略与技术发展趋势蓝皮书(202
» 2024典型数字化场景解决方案集:数字采
» 2024AI教育硬件全景报告:市场规模将
» 端侧智能行业-人工智能重要应用产品落地爆
» 2024年中国生成式AI行业月度观察报告
» 中国大数据产业发展指数报告2024版:总
» 律师办理数据出境法律业务操作指引2024
» 2024年AI Agent实施的明路应用
» 2024企业数据跨境安全合规指引:分析数
» 科研智能(AI4R&D) 人工智能驱动的
» 国家信息化发展报告2023年:鸿蒙7亿台
» 2024AIGC创新应用洞察报告:市场规
» MoE与思维链助力大模型技术路线破局:M
 
== 机器人推荐 ==
 
迎宾讲解服务机器人

服务机器人(迎宾、讲解、导诊...)

 

                              消毒机器人排名        移动消毒机器人        导览机器人         
版权所有 © 摩登7智能机器人集团股份有限公司     中国运营中心:上海·科技园8号楼5层     中国生产中心:山东日照解放路71号
销售1:4006-935-088    销售2:4006-937-088   客服电话: 4008-128-728