
2024年10月22日,以“前沿发明,引领AI产业新变革”为主题的“2024百度十大科技前沿发明”发布会在北京召开。在今年的十大前沿发明中,大模型已成为产业创新和解锁新质生产力的重要抓手,AI原生应用正在融入生产生活的方方面面。北京市知识产权局副局长潘新胜、百度首席技术官(CTO)王海峰等出席仪式并为发布会致辞。
北京市知识产权局副局长潘新胜指出,近年来,国家高度重视人工智能产业发展,北京市正在大力推动人工智能创新策源地和产业高地建设。市知识产权局大力支持以百度公司为代表的产业知识产权龙头企业,在重点领域开展产业知识产权促进中心建设,以知识产权为纽带带动重点产业强链增效。作为人工智能领域领先企业,百度创新技术和知识产权工作已经走在了全国的前列。希望百度以此次发布会为契机,继续加强科技创新,以人工智能技术加快赋能产业高质量发展。
现如今,人工智能与实体经济加速融合,我国完备的产业体系为人工智能技术提供了广阔应用舞台,推动产业转型升级,成为科技革命和产业变革的关键力量。2024年两会提出“人工智能+”战略,强调AI在数字经济中的重要性,加快实现高水平科技自立自强。百度作为领先科技企业,积极推进技术规模化落地,加强自主创新,在城市、传感器融合的自动驾驶高精定位技术,精度达到厘米级,极大提高了可量产性,将车端定位依赖的地图包体积降低97.5%,可靠性达到99.9999%,全面支撑目前萝卜快跑全无人驾驶的规模化运营,在高架桥下、多层路、隧道等各种复杂困难场景实现全无人驾驶。
五、面向大模型智能化的个性化记忆机制
该发明技术创新性地提出了一套全面的记忆机制,涵盖记忆加工、存储、管理、触发和利用五大模块,赋予大模型个性化记忆能力。记忆加工借鉴人类海马体机制,实现了对全场景用户信息的深度理解和精准加工;记忆管理支持用户主动与系统自动的增删改查,确保了记忆库的实时更新与准确;记忆触发和利用,通过相关记忆的推测生成,辅助大模型产生更加拟人和个性化的回复。该发明技术已广泛应用于智能AI助手、数字人等场景。
六、基于大模型的超拟真数字人建模、驱动与生成系统
该发明技术提出了一整套的超拟真数字人建模、驱动和生成方案。针对真人数字人,研发了数据驱动的人像建模、跨模态驱动和人像视频生成大模型,实现了自然、拟真的数字人内容生产,独家支持大幅动作&遮挡场景的直播人像克隆,并实现了首个全身智能驱动直播间落地。针对超写实3D数字人,基于文心大模型研发了模态迁移和多智能体协作技术,实现了分钟级制作媲美影视大片、3A游戏的超写实数字人形象及运营内容。本发明技术已广泛地应用于数字人直播、视频生产、智能体等众多真人和3D数字人的产品中。
七、基于大模型的生成式商业检索系统
该发明技术变革了传统的“索引-召回-排序”流程,扁平化系统漏斗,减少信息损失,通过构建索引学习任务,将商业信息编码进模型参数,实现“模型即索引”,利用大模型的理解和推理能力,实现“生成即检索”,新范式显著提升系统定向效率120%。该发明所涉及项目业界率先落地,实现大规模工业化应用,生成式大模型结合商业搜索场景取得多项技术创新,创意丰富度提升37倍,创意质量提升92%,获得了显著的业务收益和广泛技术影响力。
八、大模型数据飞轮技术
该发明技术通过整合用户反馈、执行反馈和自监督反馈等多来源和形式的信息,自动识别模型缺陷并高效合成高质量、多样化的训练数据。同时结合多源反馈的强化学习方法,显著提升了模型训练效果。该创新技术构建了一个能够持续自我改进的数据飞轮,有效突破了大模型的数据瓶颈,降低了数据获取成本,提高了大模型的适应性和鲁棒性,提升了模型在不同任务场景下的泛化能力,加速大模型持续进化。
九、大模型高效推理技术
该发明技术提出的高效推理技术,底层模型层基于飞桨框架,在推理架构方向,结合主流的PrefixCaching、Lookahead、PagedAttention、PD分离等方向持续创新,并将各项技术高效结合,大幅提升模型吞吐和性能。在大模型压缩方面,采用大模型无损量化技术,通过激活自适应分段平滑与权重联动重排等方法,在业内率先实现了对百亿千亿级大模型的高效无损压缩。该发明支持多种大模型压缩和推理加速手段,目前已应用于百度智能云千帆大模型平台等核心业务,减少模型推理的资源消耗,节省大模型部署成本超50%,提升模型性能,模型吞吐提升3-5倍。
十、用户数据反馈驱动的检索生成系统
该发明技术提出的检索生成系统,能够结合用户行为反馈信号,实现快速自我强化。通过满意度建模和强化学习直接对齐用户偏好,并利用用户反馈触发系统快速反思,解决了传统数据应用时专家反馈效率低和用户偏好建模难的问题。基于该框架的检索生成系统已覆盖18%的搜索流量,广泛应用于文字、视频、图片等搜索场景。多元用户反馈的规模大、可循环的特性,使系统能够快速适应数据、产品和环境的变化,帮助系统自动化寻优,加速系统向理想状态演进,具备极高的实用价值和市场竞争力。
本文地址: 拷贝地址