知肺团队完成DeepSeek能力蒸馏与RK3588端侧部署探索
知肺团队
在端侧AI成为科技产品竞争关键的背景下，知肺团队围绕呼吸声学数据处理、轻量化模型训练和边缘端部署，推进“一听知肺”技术方案从算法验证走向板端运行。不同于单纯展示大模型问答能力，团队更关注如何把DeepSeek等大模型的推理能力转化为可在RK3588边缘板上稳定运行的轻量模型能力。
这一技术路线的核心，是把云端大模型擅长的规则理解、样本解释和边界推理，通过知识蒸馏、特征对齐、量化压缩和端侧适配，沉淀为低时延、可离线、可嵌入设备的学生模型。对知肺而言，技术重点不是“模型有多大”，而是“能力能不能稳定落到端侧”。
图1 DeepSeek能力蒸馏到RK3588端侧运行的工程路径
从大模型到小模型：蒸馏不是搬运，而是能力重构
知肺团队在研发中采用教师—学生模型思路：DeepSeek作为教师端参与样本解释、特征规则生成和复杂边界分析；学生模型则面向板端运行重新设计网络规模、输入结构和输出方式。团队将肺音波形、频谱图、MFCC及差分特征、多频带能量等信息整理为训练输入，再结合教师端生成的软标签与解释规则，让学生模型学习“如何判断”和“为什么这样判断”。
在训练侧，团队重点处理三类问题：一是复杂声学场景下的噪声干扰，二是不同采集位点带来的信号差异，三是模型推理结果的稳定表达。通过软标签学习、特征对齐、错误样本回放和置信度校准，学生模型在保持识别能力的同时大幅降低参数规模，为后续端侧部署创造条件。
图2 知肺AI分析引擎：多维特征提取与端侧部署
落到RK3588：围绕时延、内存和离线能力做工程适配
知肺采用“传感采集 + 特征构建 + 蒸馏推理 + 规则生成”的整体框架。采集信号经过滤波、降噪和短时傅里叶变换后，提取对数频谱图、MFCC特征以及频带能量统计，随后进入轻量化学生模型完成推理。原型方案以RK3588高性能边缘开发板为部署基础，并结合INT8量化、算子替换和模型裁剪，降低板端运行成本。
团队在板端适配中重点关注三个指标：推理延迟能否满足实时分析，模型内存占用能否适配边缘设备，离线运行是否能够保持稳定输出。为此，团队将训练后的学生模型转换为端侧可执行格式，完成INT8量化校准，再针对RK3588的计算资源进行算子调度和推理链路测试，使采集、预处理、推理和报告生成能够在本地形成闭环。
图3 RK3588端侧部署测试与工程优化路径
端侧闭环：让数据处理从“可演示”走向“可运行”
知肺团队认为，科技产品的关键不只是把模型跑通，而是让模型进入完整流程。端侧系统需要同时处理设备连接、位点引导、波形缓存、特征提取、模型推理、结果解释和报告生成。任何一个环节不稳定，都会影响最终体验。
因此，团队把技术链路拆成采集端、边缘分析端和结果输出端三层：采集端负责高灵敏度声学信号获取和边缘预处理；边缘分析端负责特征构建、学生模型推理和事件统计；结果输出端则把模型结果整理为波形、频谱、统计指标和可读报告。通过这种模块化架构，知肺可以在后续迭代中分别优化硬件、算法和交互。
持续迭代：用真实数据反馈打磨端侧智能
知肺团队围绕多类使用场景开展需求验证和方案论证，采用实地走访、半结构化访谈、问卷统计、资料比对和原型联调等方式，逐步明确产品需要解决的工程问题。团队完成5类场景、8个点位走访，开展28人深度访谈，并回收204份问卷、有效196份，为模型输入、交互流程和板端部署提供了研发依据。
在研发节奏上，知肺团队并不追求一次性堆叠功能，而是围绕采集质量、模型稳定性、边缘推理效率和报告可读性持续迭代。每一轮板端测试都会回到数据链路本身：采集是否稳定、特征是否可靠、模型是否轻量、结果是否一致。这种工程化路径，也让知肺从概念方案逐步走向可部署的科技产品。
面向未来：以端侧AI打造呼吸声学数据入口
未来，知肺团队将继续围绕DeepSeek能力蒸馏、轻量模型压缩、RK3588板端优化和多端协同展开研发。一方面，团队将继续利用大模型提升样本理解、规则生成和异常模式解释能力；另一方面，也会把更多注意力放到端侧稳定性、低功耗运行和本地数据闭环上。
从科技公司视角看，知肺要做的不是简单“接入AI”，而是把大模型能力拆解、压缩并嵌入边缘设备，让呼吸声学数据在端侧完成采集、理解和表达。随着端侧AI能力持续提升，知肺有望把“一听知肺”打造为更稳定、更轻量、更可扩展的智能声学产品。
