大模型开「箱」即用，百度携医疗大模型一体机亮相WAIC 2024

7月4日-7月7日，2024年世界人工智能大会（WAIC 2024）在上海成功举办。作为人工智能领域最具影响力的行业盛会，WAIC吸引了500余家企业参展。百度健康开发的大模型辅助诊疗产品 “AI医生助手一体机”也在此首发亮相。该方案基于大模型打通了从数据到应用的最后一公里，同时在保障应用性能的同时采用了更低算力成本，极大的提升了大模型的应用可及性。

“AI医生助手”展台

医疗大模型如何落地？

用“一体机”实现开「箱」即用

在2024年的WAIC上，大模型无疑是最受瞩目的焦点，上千种大模型新成果在此组团亮相“秀技”，从在医疗、金融、农业等行业落地的大模型应用，到为其落地“扫清堵点”的各类工具，涉及产业上下的各种创新成果。其中，医疗大模型的落地应用是今年展会的重点之一。

但与其它领域有所不同，医疗大模型的落地应用往往面临更复杂的挑战。首先，医疗数据涉及患者隐私权与医院信息安全，要严格保障数据安全，这就要求私有化部署；其次，医院内部系统众多（如HIS、LIS、PACS等），各系统间数据标准不一、格式各异，数据非常杂乱，限制了应用；而且，医院的应用场景很复杂，大家对信息系统的要求各不相同，既要实时性、准确性，又要便捷性、人性化，给大模型产品落地增了很大难度；并且大模型对算力要求较高，还需医院付出AI加速器的额外成本。

医疗大模型一体机

为解决上述问题，百度健康基于英特尔至强可扩展处理器和xFastTransformer大模型推理加速引擎，合作开发了CPU版本的大模型一体机，它可兼顾大模型推理所需的性能，还能满足在医院落地应用各种复杂严苛的标准：既实现私有化部署，满足实时性或近实时性标准；且部署成本低无需医院再额外配置相关硬件，同时也避免了模型和硬件的调试成本，实现开「箱」即用。CPU版本相较于GPU成本更低且性能不减，其中核心的医疗信息抽取和医疗内容生成能力均不逊于GPU版本，甚至略有提升，为广大用户提供了更多资源选择。

上岗三甲医院

用大模型释放医院生产力

目前，该CPU大模型一体机已落地部署在上海某顶尖三甲医院落地应用。双方合作的大模型生成肝癌案例精要便在本次展会上得到了重点展示。

“案例精要”界面

案例精要主要是基于医院真实病历，通过大模型对患者诊疗经过进行总结提炼，并按照时间轴进行整理，包含患者概况，检查检验结果，诊断、诊疗经过，预后和治疗小节等。它是医疗团队成员之间交流患者病情的重要工具，确保了信息的连续性和一致性，对于多学科团队合作尤为重要。

过去，案例精要都需要医生手工整理、耗时耗力，且难以保障质量；现在，医生通过大模型就可以快速梳理。这除了能充分释放医生生产力外；也帮助医院激活了海量存量数据，便于医院数字资产沉淀。

“AI健康助手”展台

「CDSS- LLM」——大模型结合CDSS融入诊疗流程

该CPU大模型一体机还以标准API的接口提供相关大模型能力方便第三方信息化厂商产品集成，还可衔接院内CDSS（临床辅助决策）产品无缝升级大模型版本从而激活CDSS使用，助力医生工作场景提效服务。

以案例精要的应用为例，它就能在临床诊疗过程中通过大模型自动化应用，比如自动相似病历推荐、智能问答式提取所需知识，帮助专家传承临床经验，以及进一步帮助临床教学；让“数字专家”资源下沉，促进医疗普惠。

AI医生助手，赋能医疗新质生产力

目前，“AI医生助手”除案例精要外，其功能还涉及病历辅助生成、患者简报预览、智能医学问答等功能。

这些应用均源于百度健康医疗大模型，基于千亿Token优质医疗健康语料训练的领域基础模型，全生命周期模型开发工具链支撑；利用业内独创的循证AI技术结合创新的知识与数据RAG引擎支撑，最大化降低模型幻觉；自主研发的医学知识图谱和向量化检索技术优化，有效提升模型准召率与推理性能，可为医生提供医、教、研、管多方面的辅助支持，深入诊疗流程中为医生提供更好的交互体验。

百度健康长期致力于用AI+互联网推动中国医疗产业的发展。目前中国医疗资源结构整体有待优化，AI便是绝佳的“调配”手段，像 “AI医生助手”这类创新产品就在利用大模型技术在不断贴合临床需求、推动医疗普惠，发挥新质生产力价值。

未来，百度健康将与英特尔进一步加深合作，用CPU一体机的形式实现“AI医生助手”的低成本部署，为更多医院及企业提供服务打造医疗新质生产力，共同促进中国医疗健康事业的发展。