beat365 手机版官方网站

来源:beat365 手机版官方网站 | 2024年11月15日 02:20
beat365 手机版官方网站 | 2024/11/15

beat365 手机版官方网站最新消息

beat365 手机版官方网站

beat365 手机版官方网站

beat365 手机版官方网站

11月13日,彩云科技在北京总部与媒体进行一场主题为“From Paper to App”的沟通会。会上,彩云科技CEO袁行远,就通用大模型未来进化之路,与人工智能的落地场景等热点话题进行了交流,并正式推出了首款基于DCFormer架构开发的通用大模型云锦天章,与此同时,彩云科技旗下AI RPG平台彩云小梦,也成为首款基于DCFormer架构开发的AI产品。

早在2017年,谷歌发布《Attention Is All You Need》论文,首次提出Transformer架构,掀开了人工智能自然语言处理(NLP)领域发展的全新篇章。Transformer架构作为神经网络学习中最重要的架构,成为后来席卷全球的一系列通用大模型如ChatGPT、Gemini的底层技术支撑。而提升Transformer的运行效率也成为人工智能领域的研究热点,2024年4月,谷歌最近一次更新了Transformer架构,提出了Mixture-of-Depths(MoD)方法,使得训练后采样过程中提速50%,成为Transformer架构提速升级的又一重要事件。

同样在今年,一家来自国内的人工智能企业彩云科技,在国际机器学习领域的顶级会议ICML(国际机器学习大会)上,发布全新大模型论文《Improving Transformers with Dynamically Composable Multi-Head Attention》。在该论文中,彩云科技团队首次发布DCFormer架构,并在基于DCFormer打造的模型DCPythia-6.9B上,实现了在预训练困惑度和下游任务评估上都优于开源Pythia-12B。这意味着,DCFormer模型在性能上,实现了对Transformer模型1.7-2倍的提升。

沟通会现场,袁行远首先向参会者展示了一个ChatGPT o1的问答:“假设ChatGPT4每天响应用户约2亿个请求,消耗超过50万千瓦时的电力。假设全球网络都使用ChatGPT作为访问入口,ChatGPT每天消耗多少电力?另外按照这个速度发展下去,到2050年全球人工智能的耗电量会达到目前地球发电能力的多少倍?”ChatGPT o1给出的答案是,“到2050年,全球人工智能的耗电量可能会达到目前地球发电能力的8倍”。

彩云科技团队构建DCFormer框架,提出可动态组合的多头注意力(DCMHA),替换Transformer核心组件多头注意力模块(MHA),解除了MHA注意力头的查找选择回路和变换回路的固定绑定,让它们可以根据输入动态组合,从根本上提升了模型的表达能力,由此实现了对Transformer架构1.7—2倍的性能提升。

袁行远表示:我们的工作表明,Transformer架构距离“理想模型架构”还有很大的提升空间,除了堆算力堆数据的“大力出奇迹”路线,模型架构创新同样大有可为。往小了说,在大模型领域,利用效率更高的模型架构,小公司也可以在与世界顶级人工智能企业的对抗中取得优势。往大了说beat365 手机版官方网站,模型效率的提升,可以有效地降低人工智能升级迭代的成本,加速AI时代的到来。

“世界最强的小说续写通用模型。”沟通会上,袁行远向大家展示了首个基于DCFormer架构的通用大模型云锦天章。“这个成语是比喻文章极为高雅、华美,和我们的大模型想要实现的效果有共通之处。”袁行远介绍,云锦天章可以实现在虚构世界观的基础上,赋予小说人物编程、数学等基础能力,可以高速针对大量文字进行扩写、缩写,针对文章风格进行大容量更换,同时兼具其他模型的问答、数学、编程等基础能力。

而在应用端,拥有四百万用户的彩云小梦,也迎来了基于全新DCFormer架构的V.3.5版本。与之前的版本相比,彩云小梦V3.5整体流畅性和连贯性提升了20%,支持前文长度由2000字提升至10000字,故事背景设定最长长度高达10000字。“这意味着,在故事创作或者与人工智能对话中,人工智能能够记住之前发生的事情,记住之前故事里发生的细节,人物记得自己明确的目标,并且会根据剧情及时进行反思修正。在做到自主创作的同时,发散性收敛,不会天马行空,人物性格前后一致,故事逻辑性更强。”

beat365 手机版官方网站

beat365 手机版官方网站

广州海关所属广州邮局海关关员在对1件进境邮件进行查验时,发现邮包内有一些零食和2盒境外品牌的胶原蛋白肽粉。现场关员发现该批胶原蛋白肽粉外包装粗劣,存在明显重新封装的痕迹,且内容物与外包装标重不符。经清点,该批粉末共有40袋、重971克。经送技术机构鉴定,确认上述粉末为氯胺酮、亚甲二氧甲基苯丙胺等毒品的混合物,又称“开心粉”。

beat365 手机版官方网站

beat365 手机版官方网站

11月14日,最高人民检察院党组书记、检察长应勇率最高检调研组,围绕履行检察职能,促进社会矛盾纠纷防范化解,维护社会稳定等工作,深入上海市杨浦区检察院、上海市检察院第二分院和设在上海市公安局普陀分局“一站式”执法办案管理中心的侦查监督与协作配合办公室调研。应勇强调,要坚持以习近平新时代中国特色社会主义思想为指导,深入贯彻落实习近平法治思想和总体国家安全观,树牢系统观念,强化底线思维,完整准确贯彻宽严相济刑事政策,依法全面履行检察职能,严格依法办案、公正司法,依法从重从严惩治重大恶性犯罪,扎实推进检察信访工作法治化,以法治思维、法治方式加强风险源头防控,严防极端案件发生,以“时时放心不下”的责任感做好保安全护稳定各项工作,全力保障人民群众生命安全和社会稳定。

“习近平总书记近日对珠海市驾车冲撞行人案件作出重要指示,振聋发聩,令人警醒,对于我们依法惩治和预防极端恶性犯罪,全力保障人民群众生命安全和社会稳定,具有十分重要的指导意义。各级检察机关要深入学习领会,坚决抓好贯彻落实。”调研中,应勇强调,广东珠海市香洲区体育中心发生驾车冲撞行人案件,造成重大人员伤亡,性质极其恶劣。检察机关要依法履职,全力协同相关部门做好查清事实、依法惩处、善后处置、维护稳定等工作,切实保障人民群众生命安全,维护社会大局稳定。对类似重大恶性犯罪,要认真做好审查批捕、审查起诉工作,从重从严追究刑事责任,有力震慑犯罪。

应勇指出,要深刻汲取教训、举一反三、迅速行动,扎实开展涉检信访和矛盾纠纷大起底大排查,加强风险隐患源头防控。要以“如我在诉”意识持续做实高质效办好每一个案件,确保自身严格依法办案、公正司法,坚决防止因司法不规范、监督不到位等产生新的风险。要坚持和发展新时代“枫桥经验”,深入推进检察信访工作法治化,落实领导干部带头接访制度,持续推进群众信访“件件有回复”,把释法说理贯穿司法办案始终,实质性化解涉检矛盾纠纷,坚决防止检察环节矛盾激化、上行、外溢。要坚持抓前端、治未病,积极参与推动社会治安综合治理中心规范化建设,协同推动社会治安整体防控体系建设,坚持关口前移、源头治理、前端治理,不断提高社会风险防控能力,促进各类风险隐患标本兼治、更重治本。要加强对极端案件的回溯分析,全面总结案事件反映出的司法办案、社会治理问题,提出对策建议,促进提升司法水平,维护社会稳定。

“检察机关作为国家法律监督机关,必须坚持敢于监督、善于监督、勇于自我监督,既要带头做到严格依法公正履职,又要依法监督纠正诉讼活动中的违法情况,促进各执法司法机关严格执法、公正司法,共同守好严防极端案件的执法司法防线。”应勇强调,要依法加强立案和侦查活动监督,加强刑事申诉和再审抗诉工作,坚决纠正和防止冤错案件。加大对民事、行政申诉案件办理力度,对确有错误的案件,采取抗诉、再审检察建议等方式加强检察监督。加强检察侦查工作,依法查办徇私枉法、枉法裁判、刑讯逼供等犯罪,有力惩治司法腐败、维护司法公正。要加强对检察机关自身司法活动的监督制约,深化和规范司法公开,加强检察听证工作,自觉接受社会监督,确保检察权依法规范公正行使。深入推进对刑事申诉等案件的反向审视,及时发现、监督纠正检察机关自身办案中存在的突出问题。

应勇强调,要切实加强民生司法保障,更好维护人民群众合法权益。充分运用各项检察职能,维护妇女、老年人、残疾人、儿童等特定群体权益。聚焦重点领域、敏感时段、关键节点,加大对农民工讨薪、高校毕业生就业等权益司法保障。深化检察听证,通过公开听证释疑解惑,帮助当事人缓解对抗情绪、不满情绪,解“法结”、化“心结”。进一步加大司法救助力度,推动健全司法救助与社会救助衔接机制。畅通群众诉求表达渠道,完善司法救济保护制度beat365 手机版官方网站,完善检察环节诉讼权利保障等机制,让人民群众在每一个司法案件和案件的每一个环节感受到公平正义。

编辑:令狐惠婕责任编辑:骆翔娜