一个必须先回答的问题
在健康管理产品中引入 AI，第一个要回答的不是技术问题，而是定位问题：这个 AI 是工具还是决策者。
答案会直接决定产品形态、合规路径与责任归属。我们的立场很明确：在现阶段的医疗健康场景中，AI 应当且只应当作为辅助工具存在。
三条不能越过的边界
边界一：不做诊断结论
系统可以提示"该患者近三次血压测量值呈上升趋势，建议关注"，但不能输出"该患者患有高血压"。
差别看似只是措辞，实质是责任主体的不同。诊断是执业医师的法定职责，任何绕过医师直接给出诊断结论的产品设计，都存在合规风险。
在界面呈现上，我们的做法是：所有 AI 输出统一标注为"辅助建议"，并在显著位置提示"最终诊断请以执业医师意见为准"。
边界二：不做用药决策
用药提醒可以做，相互作用提示可以做，但"建议将剂量调整为每日两次"这类内容不能由系统自动输出给患者。
处方权是严格受限的。系统能做的是把决策所需的信息（既往用药、过敏史、检验指标）整理清楚呈现给医师，提高其决策效率。
边界三：可解释性优先于准确率
在医疗场景，一个准确率 92% 但无法解释的模型，价值低于准确率 85% 但能说清依据的模型。
原因很实际：医师需要判断这个建议是否可信。如果系统只给出一个分数而不说明依据，医师无法验证，最终的结果是建议被忽略——再高的准确率也没有产生价值。
所以我们在风险分层模型上倾向于使用可解释性强的方法，并在界面上明确展示"触发该建议的关键指标"。
数据合规的实操要点
采集环节：目的明确、范围最小、授权充分。健康数据属于敏感个人信息，需要单独同意，不能混在通用用户协议中一揽子获取。
存储环节：身份证号、手机号等直接标识符加密存储；用于分析的数据集做去标识化处理。
使用环节：访问权限按角色最小化配置，医师只能查看自己负责患者的数据；所有访问行为记录审计日志，包括查询行为本身。
共享环节：向第三方提供数据前需重新获得授权，且需评估接收方的安全能力。
部署环节：多数医疗机构要求数据不出院内网络，产品架构需要从一开始就支持私有化部署，而不是事后改造。
产品设计中的克制
除了合规要求，还有一些设计上的自我约束值得坚持：
不制造焦虑。 指标异常的提示要客观、有分寸。"您的血糖偏高，建议咨询医师"是恰当的；用红色警示图标配合"危险"字样则可能引发不必要的恐慌，尤其对老年用户。
不承诺效果。 健康管理的效果受太多因素影响，产品文案中避免出现"降血压""治愈"等表述。
给出下一步。 只告诉用户"指标异常"是不负责任的，应当同时提供可执行的下一步——预约医师、查看解读、联系家庭医生。
结语
医疗健康是少数几个"能力越强越需要克制"的领域。技术团队常有的冲动是把模型能力尽可能暴露给用户，但在这个领域，明确边界、留出人工确认环节、把决策权交还给专业人士，才是可持续的产品路径。
克制不是能力不足，是对场景的尊重。