万博manbetx登录手机版

来源:万博manbetx登录手机版 | 2024年11月15日 21:22
万博manbetx登录手机版 | 2024/11/15

万博manbetx登录手机版最新消息

万博manbetx登录手机版

万博manbetx登录手机版

万博manbetx登录手机版

11月13日,彩云科技在北京总部与媒体进行一场主题为“From Paper to App”的沟通会。会上,彩云科技CEO袁行远,就通用大模型未来进化之路,与人工智能的落地场景等热点话题进行了交流,并正式推出了首款基于DCFormer架构开发的通用大模型云锦天章,与此同时,彩云科技旗下AI RPG平台彩云小梦,也成为首款基于DCFormer架构开发的AI产品。

早在2017年,谷歌发布《Attention Is All You Need》论文,首次提出Transformer架构,掀开了人工智能自然语言处理(NLP)领域发展的全新篇章。Transformer架构作为神经网络学习中最重要的架构,成为后来席卷全球的一系列通用大模型如ChatGPT、Gemini的底层技术支撑。而提升Transformer的运行效率也成为人工智能领域的研究热点,2024年4月,谷歌最近一次更新了Transformer架构,提出了Mixture-of-Depths(MoD)方法,使得训练后采样过程中提速50%,成为Transformer架构提速升级的又一重要事件。

同样在今年,一家来自国内的人工智能企业彩云科技万博manbetx登录手机版,在国际机器学习领域的顶级会议ICML(国际机器学习大会)上,发布全新大模型论文《Improving Transformers with Dynamically Composable Multi-Head Attention》。在该论文中,彩云科技团队首次发布DCFormer架构,并在基于DCFormer打造的模型DCPythia-6.9B上万博manbetx登录手机版,实现了在预训练困惑度和下游任务评估上都优于开源Pythia-12B。这意味着万博manbetx登录手机版,DCFormer模型在性能上,实现了对Transformer模型1.7-2倍的提升。

沟通会现场,袁行远首先向参会者展示了一个ChatGPT o1的问答:“假设ChatGPT4每天响应用户约2亿个请求,消耗超过50万千瓦时的电力。假设全球网络都使用ChatGPT作为访问入口,ChatGPT每天消耗多少电力?另外按照这个速度发展下去,到2050年全球人工智能的耗电量会达到目前地球发电能力的多少倍?”ChatGPT o1给出的答案是,“到2050年,全球人工智能的耗电量可能会达到目前地球发电能力的8倍”。

彩云科技团队构建DCFormer框架,提出可动态组合的多头注意力(DCMHA),替换Transformer核心组件多头注意力模块(MHA),解除了MHA注意力头的查找选择回路和变换回路的固定绑定,让它们可以根据输入动态组合万博manbetx登录手机版,从根本上提升了模型的表达能力,由此实现了对Transformer架构1.7—2倍的性能提升。

袁行远表示:我们的工作表明,Transformer架构距离“理想模型架构”还有很大的提升空间,除了堆算力堆数据的“大力出奇迹”路线,模型架构创新同样大有可为。往小了说,在大模型领域,利用效率更高的模型架构,小公司也可以在与世界顶级人工智能企业的对抗中取得优势。往大了说,模型效率的提升,可以有效地降低人工智能升级迭代的成本,加速AI时代的到来。

“世界最强的小说续写通用模型。”沟通会上,袁行远向大家展示了首个基于DCFormer架构的通用大模型云锦天章。“这个成语是比喻文章极为高雅、华美,和我们的大模型想要实现的效果有共通之处。”袁行远介绍万博manbetx登录手机版,云锦天章可以实现在虚构世界观的基础上,赋予小说人物编程、数学等基础能力,可以高速针对大量文字进行扩写、缩写,针对文章风格进行大容量更换,同时兼具其他模型的问答、数学、编程等基础能力。

而在应用端,拥有四百万用户的彩云小梦,也迎来了基于全新DCFormer架构的V.3.5版本。与之前的版本相比,彩云小梦V3.5整体流畅性和连贯性提升了20%,支持前文长度由2000字提升至10000字,故事背景设定最长长度高达10000字。“这意味着,在故事创作或者与人工智能对话中,人工智能能够记住之前发生的事情,记住之前故事里发生的细节万博manbetx登录手机版,人物记得自己明确的目标,并且会根据剧情及时进行反思修正。在做到自主创作的同时,发散性收敛,不会天马行空,人物性格前后一致,故事逻辑性更强。”

万博manbetx登录手机版

万博manbetx登录手机版

一是行政执法监督要进行全方位、全流程监督,做到行政执法到哪里,行政执法监督就跟进到哪里。行政执法监督可以对行政执法工作涉及的制度、机制、主体、权限、程序、结果、法律责任等进行全要素监督。这次公布的监督案例涉及不同执法领域、执法主体和违法情形,有的属于法律适用错误问题,有的属于执法程序不规范问题,有的属于行政执法人员行为不当问题。在“某市司法局对县住房和城乡建设局执法人员不当执法行为执法监督案”中,行政执法监督机构积极协调指导有关行政执法机关依法处置不文明执法行为,与行政相对人沟通化解矛盾。“某市烟草专卖局对区烟草专卖局不当行政许可决定执法监督案”表明,行政执法监督的主体还包括上一级行政执法机关。

二是行政执法监督要督促行政执法机关落实严格规范公正文明执法各项要求,维护社会主义市场经济秩序,增强人民群众的获得感。在“某市司法局对有关行政执法部门涉企重复行政检查执法监督案”中,行政执法监督机构加强涉企执法监督,切实解决企业反映的检查主体多、检查内容多、检查频次多、检查标准不一等问题。在“某市司法局对县金融办不当出具‘风险提示函’执法监督案”中,行政执法监督机构通过多方座谈论证,准确认定该案“风险提示函”的性质,依法纠正不当行政行为,保护了企业的合法权益。

三是行政执法监督要综合运用多种监督措施,及时主动纠正行政执法工作中的错误偏差,注重提高监督的实际效果。在开展行政执法监督工作中,为查清事实,提高执法监督的效果,行政执法监督机关或者监督机构可以通过明察暗访、询问有关人员、查阅案卷资料、组织论证会、听取工作情况报告、评估鉴定、约谈有关负责人等方式对行政执法工作进行调查检查,对违法或不当的情形,可以制发监督文书督促相关机关自行纠错。在“某市司法局对县市场监督管理局不当行政处罚决定执法监督案”中,对重大疑难复杂案件或者认为下级行政执法监督机关、监督机构处理不当的,上级行政执法监督机关、监督机构可以提级办理。

万博manbetx登录手机版

万博manbetx登录手机版

在2024年的iGEM(国际基因工程机器大赛)上,人大附中代表队RDFZ-CHINA荣获高中组全球Top10,金奖,以及最佳新复合零件(Best New Composite Part)、最佳可持续发展影响(Best Sustainable Development Impact)、最佳演讲(Best Presentation)、最佳wiki(Best wiki)的四项单项奖提名,刷新了我们校队的最佳成绩。这一年收获的不止是成绩,更是知识、思维和能力上的成长!

当今,石油污染问题日益严重,对人类的生活造成威胁。同时,传统的解决方案不能彻底降解石油颗粒,对环境持续产生危害。我们的项目petropulsum通过开发创新的生物修复系统解决了石油污染这一关键问题。我们改造了大肠杆菌和枯草芽孢杆菌,使其使用 AlkM 和漆酶等酶降解石油,同时还利用表面活性剂提高其效率。此外,我们利用大肠杆菌生产植物激素 IAA,通过植物-微生物的合作促进植物的修复作用。而为了确保生物安全,我们设计了自杀系统来防止基因泄漏。这种多方面的方法为解决石油污染问题提供了可持续且可扩展的解决方案。

始于 2005 年万博manbetx登录手机版,每年由美国麻省理工学院主办,是合成生物学领域的国际性学术竞赛。合成生物学的主旨是重设计现有的天然的生物系统,或是设计和构建人工生物组件和系统,其目的在于通过了解天然生物体系的运作机理来创造全新的生物体系。iGEM于2013年开始设立高中组,以进行合成生物学更广泛的推广。自2016年起,这已经是人大附中校队参加iGEM比赛的第八年。

编辑:成烁静责任编辑:云先洋