NVIDIA Clara Holoscan助力微识医疗加速消化内镜AI应用产品化

微识医疗通过采用 NVIDIA Clara Holoscan 平台提供的 RDMA 等技术栈加速医疗影像的传输与处理过程，实现产品临床使用的实时辅助诊断功能（每秒最高处理 240 帧图像），大幅减少了产品在临床应用中的画面延迟，极大提高了产品的实时性。 

微识医疗是一家人工智能医学影像科技初创公司，其利用深度学习和 NVIDIA AI 计算平台，将医学知识集成到灵活和可扩展的数学模型中，旨在使用少量开发样本实现 AI 临床价值，为医用光学影像领域提供改写临床指南级别的数字医疗创新，致力于在肠癌早筛的关键环节为临床检查提供最核心的帮助，创造 AI 的更高价值，为预防和监测癌症提供高效的智能辅助解决方案。

医疗影像深度学习推理过程需要处理海量的来自内窥镜的视频数据，计算量大、实时性要求高。使用传统的传输方法，内窥镜输出的视频数据首先经由视频采集卡捕获并写入系统内存中，然后通过 CPU 传输和 PCIE 总线连接到 GPU 的内存。内存的读写速率和 CPU 的性能成为制约视频流传输效率的瓶颈，因而导致额外的传输延迟。手术视频的需求要求内窥镜捕获的图像与投影到医用显示器上的图像之间具有一致且可靠的低延迟，因而额外的传输延迟将严重影响客户体验。与此同时，医疗应用对于底层平台的设计以及安全性有合规的要求，并且医疗设备的设计、生产和使用的周期都比较长。因此选择合适的技术平台将为医疗企业的发展起到奠定基础的作用。

基于以上挑战，微识医疗选择采用 NVIDIA Clara Holoscan 以及其搭载的 RDMA 等技术和支持服务来加速产品的开发迭代。RDMA，即远程直接内存访问，允许将视频数据直接从视频采集卡传输到 GPU 内存，这大大减少了 GPU 视频处理的延迟及系统所需的 PCIE 带宽，摆脱了对 CPU 性能的依赖，同时由 GPU 进行图像的预处理过程，充分发挥了 GPU 并行计算的优势，降低了整个系统的延迟和功耗，使用后给业务带来了巨大的支持和提升，具体体现在以下几个方面：

1.通过采用 RDMA 技术，以内窥镜常见的 1080i50 和 1080i60 视频分辨率为例，视频从采集卡到显卡内存的传输时间减少了 30%。

2.由 NVIDIA GPU 代替 CPU 进行图像预处理，相比之前使用 CPU，图像预处理的时间从 5ms 下降到 2ms。

3.通过减少视频传输和图像预处理时间，使整个系统的画面延迟从 25ms 降低到 16ms，极大得改善了用户体验，满足了临床应用的要求。

4.通过在 NVIDIA Clara Holoscan 上直接布署 EndoScreener，省去了功耗巨大的 CPU 和体积庞大的风冷系统，使医用工作站的体积减小为原来的一半，功耗降低到原来的 75%。

5.Clara Holoscan 平台所提供的 IEC60601，IEC62304 的预认证，以及长期的软硬件支持可以让企业有更稳定和全球化的平台开发 AI 应用。

微识医疗结肠镜计算机辅助检测软件 EndoScreener 通过搭载 NVIDIA Clara Holoscan 实现高效视频处理，保证产品性能的优效发挥。目前，通过若干高质量临床证据，EndoScreener 产品临床效用和价值被数国临床指南和共识认可接受，成为国内第一个消化内镜获得医疗三类证的公司。微识医疗未来将更多基于 Clara Holoscan 平台搭载的技术融入微识的产品中，提升产品的安全性和应用的实时性。