王金桥:大模子是万米赛跑,如今才跑了100米
搜狐科技《脑子大爆炸——对于话迷信家》栏目第36期,模万米赛米对于话中国迷信院自动化所“紫东太始”大模子钻研中间常务副主任 、跑今武汉家养智能钻研院院长王金桥。才跑
贵宾简介:
王金桥,王金中国迷信院自动化所“紫东太始”大模子钻研中间常务副主任、模万米赛米武汉家养智能钻研院院长 ,跑今主要处置多模态大模子、才跑视频合成与检索、王金大规模目的模万米赛米识别等方面的钻研 ,共宣告搜罗IEEE国内威信期刊以及顶级团聚论文300余篇。跑今
出品 | 搜狐科技
作者 | 张雅婷
随着意见热潮的才跑退去 ,“红患上发紫”的王金大模子财富正逐渐进入冷清期,外界也愈加关注行业的模万米赛米实际妨碍与商业化落地情景。
与年初比照 ,跑今国产大模子做患上奈何样样了?与OpenAI的差距变小了吗?烧钱还要烧多久?在2023中国合计机大会(CNCC)正式开幕前 ,搜狐科技与中国迷信院自动化所“紫东太始”大模子钻研中间常务副主任 、武汉家养智能钻研院院长王金桥妨碍了深入对于话 。
“假如不饶富的GPU,磨炼不出特意争先的工具”
在大模子财富飞快狂飙这泰半年来,大模子产物层出不穷。最新数据展现 ,我国我国有至少130家公司钻研大模子产物,其中通用大模子有78家。
王金桥以为 ,与年初ChatGPT横空降生激发的“焦虑”神色比照,巨匠已经有了确定做大模子的履历 ,如今处于武备角逐的阶段 。
这场角逐中 ,算力是中间的相助力 。王金桥以为,假如不饶富的GPU,难以磨炼出特意争先的工具。
而行业自己对于算力的高要求,也导致了厂商面临老本高企的挑战。有报道称OpenAI天天要烧70亿美元,山姆奥特曼前不久还去找中东土豪融资。
据清晰,GPT3磨炼一次的用度是460万美元,模子的参数目越大,磨炼的老本越高 。风闻GPT-4是8个2000多亿参数的模子,GPT-5约莫是GPT-4的100倍 。
而且,降本的拐点仍未展现 。王金桥展现 ,大模子是万米赛跑,如今才跑了100米。如今还处于武备角逐的阶段,模子越训越好 ,甚么时候好到一个瓶颈如今尚未探究进去。天花板尚未摸到 ,以是这块的投入确定是不断的。
“不钱难以炼出这么大的模子