771771威尼斯.cmApp官网
11月13日,彩云科技在北京总部与媒体进行一场主题为“From Paper to App”的沟通会。会上,彩云科技CEO袁行远,就通用大模型未来进化之路,与人工智能的落地场景等热点话题进行了交流,并正式推出了首款基于DCFormer架构开发的通用大模型云锦天章,与此同时,彩云科技旗下AI RPG平台彩云小梦,也成为首款基于DCFormer架构开发的AI产品。
早在2017年,谷歌发布《Attention Is All You Need》论文,首次提出Transformer架构,掀开了人工智能自然语言处理(NLP)领域发展的全新篇章。Transformer架构作为神经网络学习中最重要的架构,成为后来席卷全球的一系列通用大模型如ChatGPT、Gemini的底层技术支撑。而提升Transformer的运行效率也成为人工智能领域的研究热点,2024年4月,谷歌最近一次更新了Transformer架构,提出了Mixture-of-Depths(MoD)方法,使得训练后采样过程中提速50%,成为Transformer架构提速升级的又一重要事件。
同样在今年,一家来自国内的人工智能企业彩云科技,在国际机器学习领域的顶级会议ICML(国际机器学习大会)上,发布全新大模型论文《Improving Transformers with Dynamically Composable Multi-Head Attention》。在该论文中,彩云科技团队首次发布DCFormer架构,并在基于DCFormer打造的模型DCPythia-6.9B上,实现了在预训练困惑度和下游任务评估上都优于开源Pythia-12B。这意味着,DCFormer模型在性能上,实现了对Transformer模型1.7-2倍的提升。
沟通会现场,袁行远首先向参会者展示了一个ChatGPT o1的问答:“假设ChatGPT4每天响应用户约2亿个请求,消耗超过50万千瓦时的电力。假设全球网络都使用ChatGPT作为访问入口,ChatGPT每天消耗多少电力?另外按照这个速度发展下去,到2050年全球人工智能的耗电量会达到目前地球发电能力的多少倍?”ChatGPT o1给出的答案是,“到2050年,全球人工智能的耗电量可能会达到目前地球发电能力的8倍”。
彩云科技团队构建DCFormer框架,提出可动态组合的多头注意力(DCMHA),替换Transformer核心组件多头注意力模块(MHA),解除了MHA注意力头的查找选择回路和变换回路的固定绑定,让它们可以根据输入动态组合,从根本上提升了模型的表达能力,由此实现了对Transformer架构1.7—2倍的性能提升。
袁行远表示:我们的工作表明771771威尼斯.cmApp官网,Transformer架构距离“理想模型架构”还有很大的提升空间,除了堆算力堆数据的“大力出奇迹”路线,模型架构创新同样大有可为。往小了说,在大模型领域,利用效率更高的模型架构,小公司也可以在与世界顶级人工智能企业的对抗中取得优势。往大了说,模型效率的提升,可以有效地降低人工智能升级迭代的成本,加速AI时代的到来。
“世界最强的小说续写通用模型。”沟通会上,袁行远向大家展示了首个基于DCFormer架构的通用大模型云锦天章。“这个成语是比喻文章极为高雅、华美,和我们的大模型想要实现的效果有共通之处。”袁行远介绍,云锦天章可以实现在虚构世界观的基础上,赋予小说人物编程、数学等基础能力,可以高速针对大量文字进行扩写、缩写,针对文章风格进行大容量更换771771威尼斯.cmApp官网,同时兼具其他模型的问答、数学、编程等基础能力。
而在应用端,拥有四百万用户的彩云小梦,也迎来了基于全新DCFormer架构的V.3.5版本。与之前的版本相比,彩云小梦V3.5整体流畅性和连贯性提升了20%,支持前文长度由2000字提升至10000字,故事背景设定最长长度高达10000字。“这意味着,在故事创作或者与人工智能对话中,人工智能能够记住之前发生的事情,记住之前故事里发生的细节,人物记得自己明确的目标,并且会根据剧情及时进行反思修正。在做到自主创作的同时,发散性收敛,不会天马行空,人物性格前后一致,故事逻辑性更强。”
11月14日,最高人民检察院党组书记、检察长应勇率最高检调研组,围绕履行检察职能,促进社会矛盾纠纷防范化解,维护社会稳定等工作,深入上海市杨浦区检察院、上海市检察院第二分院和设在上海市公安局普陀分局“一站式”执法办案管理中心的侦查监督与协作配合办公室调研。应勇强调,要坚持以习近平新时代中国特色社会主义思想为指导,深入贯彻落实习近平法治思想和总体国家安全观,树牢系统观念,强化底线思维,完整准确贯彻宽严相济刑事政策,依法全面履行检察职能,严格依法办案、公正司法,依法从重从严惩治重大恶性犯罪,扎实推进检察信访工作法治化,以法治思维、法治方式加强风险源头防控771771威尼斯.cmApp官网,严防极端案件发生,以“时时放心不下”的责任感做好保安全护稳定各项工作,全力保障人民群众生命安全和社会稳定。
“习近平总书记近日对珠海市驾车冲撞行人案件作出重要指示,振聋发聩,令人警醒,对于我们依法惩治和预防极端恶性犯罪771771威尼斯.cmApp官网,全力保障人民群众生命安全和社会稳定,具有十分重要的指导意义。各级检察机关要深入学习领会,坚决抓好贯彻落实。”调研中,应勇强调771771威尼斯.cmApp官网,广东珠海市香洲区体育中心发生驾车冲撞行人案件,造成重大人员伤亡,性质极其恶劣。检察机关要依法履职,全力协同相关部门做好查清事实、依法惩处、善后处置、维护稳定等工作,切实保障人民群众生命安全,维护社会大局稳定。对类似重大恶性犯罪,要认真做好审查批捕、审查起诉工作,从重从严追究刑事责任,有力震慑犯罪。
应勇指出,要深刻汲取教训、举一反三、迅速行动,扎实开展涉检信访和矛盾纠纷大起底大排查,加强风险隐患源头防控。要以“如我在诉”意识持续做实高质效办好每一个案件,确保自身严格依法办案、公正司法,坚决防止因司法不规范、监督不到位等产生新的风险。要坚持和发展新时代“枫桥经验”,深入推进检察信访工作法治化,落实领导干部带头接访制度,持续推进群众信访“件件有回复”,把释法说理贯穿司法办案始终,实质性化解涉检矛盾纠纷,坚决防止检察环节矛盾激化、上行、外溢。要坚持抓前端、治未病771771威尼斯.cmApp官网,积极参与推动社会治安综合治理中心规范化建设,协同推动社会治安整体防控体系建设,坚持关口前移、源头治理、前端治理,不断提高社会风险防控能力,促进各类风险隐患标本兼治、更重治本。要加强对极端案件的回溯分析,全面总结案事件反映出的司法办案、社会治理问题,提出对策建议,促进提升司法水平,维护社会稳定。
“检察机关作为国家法律监督机关,必须坚持敢于监督、善于监督、勇于自我监督,既要带头做到严格依法公正履职,又要依法监督纠正诉讼活动中的违法情况,促进各执法司法机关严格执法、公正司法,共同守好严防极端案件的执法司法防线。”应勇强调,要依法加强立案和侦查活动监督,加强刑事申诉和再审抗诉工作,坚决纠正和防止冤错案件。加大对民事、行政申诉案件办理力度,对确有错误的案件,采取抗诉、再审检察建议等方式加强检察监督。加强检察侦查工作,依法查办徇私枉法、枉法裁判、刑讯逼供等犯罪,有力惩治司法腐败、维护司法公正。要加强对检察机关自身司法活动的监督制约,深化和规范司法公开,加强检察听证工作,自觉接受社会监督,确保检察权依法规范公正行使。深入推进对刑事申诉等案件的反向审视,及时发现、监督纠正检察机关自身办案中存在的突出问题。
应勇强调,要切实加强民生司法保障,更好维护人民群众合法权益。充分运用各项检察职能,维护妇女、老年人、残疾人、儿童等特定群体权益。聚焦重点领域、敏感时段、关键节点,加大对农民工讨薪、高校毕业生就业等权益司法保障。深化检察听证,通过公开听证释疑解惑,帮助当事人缓解对抗情绪、不满情绪,解“法结”、化“心结”。进一步加大司法救助力度,推动健全司法救助与社会救助衔接机制。畅通群众诉求表达渠道,完善司法救济保护制度,完善检察环节诉讼权利保障等机制,让人民群众在每一个司法案件和案件的每一个环节感受到公平正义。
建交50年来,中巴务实合作成果丰硕。巴西是中国在拉美地区最大直接投资目的国。中国连续15年成为巴西最大贸易伙伴,也是巴西第一个出口额超千亿美元的贸易伙伴。2023年中巴双边贸易额达1815.3亿美元,同比增长6.1%。两国正加快发展战略对接771771威尼斯.cmApp官网,在深化农业等传统领域合作基础上,打造能源转型、数字经济、低碳发展、智能制造等前沿领域更多合作增长点。
以新理念、新技术赋能农业发展,是中巴农业合作拓展的重点方向。今年5月,一艘万吨货轮从巴西巴卡雷纳港启航,历经一个多月的海上航行,最终抵达中国天津港,载着“零毁林和零植被破坏”巴西大豆来到中国市场。近年来,中巴不断深化可持续农业领域合作。中粮国际自2019年起771771威尼斯.cmApp官网,在巴西部分农场实施土地监测,绘制风险地图,构建“大豆可追溯体系”,有效遏制大豆生产中的毁林问题。“通过采取可持续的农业生产方式771771威尼斯.cmApp官网,我们不仅保护了自然环境,还提高了农产品的附加值。”巴西马托格罗索州北部农业经营者、“零毁林和零植被破坏”大豆供应商马科斯·卡马戈说。
近年来,巴西政府积极倡导能源绿色转型,清洁能源合作成为中巴合作热门领域。2017年和2019年,中国国家电网公司参与的美丽山一期、二期特高压输电项目先后建成投运,将巴西北部充沛的水电资源输送至人口稠密的东南部;2023年12月,中国国家电网公司成功中标巴西第三回直流特高压输电项目特许经营权,未来将把东北部的风能和太阳能等清洁能源输送至首都巴西利亚等地。
速卖通在巴西大力推动海外仓建设;希音集团宣布未来几年在巴西投资7.5亿雷亚尔,与2000家制造商合作,打造本土化供应链;拼多多旗下跨境电商平台特姆凭借性价比优势,迅速提高市场占有率……中国电商平台纷纷加大在巴西市场投入,通过优化供应链、提高物流效率等方式,为消费者带来多样商品选择和优质购物体验。
两国合作也在数字基础设施建设、数字技术、智慧城市等领域不断拓展。华为在巴西亚马孙雨林地区部署了超过8000千米的光纤,解决了当地宽带建设滞后问题;中国电信巴西公司完成圣保罗市网络业务节点建设,为两国企业提供高质量网络服务;TCL在马瑙斯市建立起电视机数字化生产线,智能制造助力提升生产效率;中国中车长春轨道客车公司在里约热内卢成立中巴智慧城市科技与文化交流中心……