圣路易斯大学麦克维工程学院的研究人员开发了一种机器学习算法,可以从部分2D图像中创建细胞的连续3D模型,这些图像是在实验室中用相同的标准显微镜工具拍摄的。
他们的发现发表在9月16日的杂志《自然机器智能》上。
电气系统工程和计算机科学与工程助理教授Ulugbek Kamilov说,“我们在数字图像集上训练模型,以获得连续的表示。现在,我可以用任何我想要的方式来展示它。我可以平滑地放大,没有像素化。”
这项工作的关键是使用神经场网络,这是一种特殊的机器学习系统,它学习从空间坐标到相应物理量的映射。经过训练,研究人员可以指向任意坐标,模型可以提供该位置的图像值。
神经网络的一个特殊优势是,它们不需要训练大量的相似数据。相反,只要样本有足够数量的2D图像,网络就可以完全代表样本的内部和外部。
用于训练网络的图像与任何其他显微镜图像相同。本质上,细胞从下面发光;光线穿过它,在另一侧被捕获,形成图像。
卡米洛夫说,“因为我有一些细胞的视图,所以我可以使用这些图像来训练模型。”这是通过将模型信息输入到样本中的一个点来实现的,在该点图像捕捉细胞的一些内部结构。
然后,网络会尽力重建结构。如果输出错误,网络将被调整。如果这是正确的,那么这条道路将得到加强。一旦预测值与实际测量值匹配,网络就可以填充原始2D图像中没有捕捉到的细胞部分。
该模型现在包含细胞的完整和连续表示的信息。3354没有必要保存大量的图像文件,因为它总是可以被神经场网络重新创建。
卡米洛夫说,模型不仅易于存储,而且是细胞的真实表示,在许多方面,它比真实的模型更有用。
“我可以输入任何坐标,生成这个视图,”他说。”或者我可以从不同的角度产生全新的观点.”他可以使用模型将单元格旋转到顶部形状,或者放大以进行更近的观察;用这个模型完成其他数值任务,甚至输入到另一个算法中。
3d模型在线制作
3D打印模型广泛应用于不同领域。6月14日,发表在《年轻人的心脏病学》上的一篇文章介绍了3D打印在冠心病中的应用。
由于心脏形状的多样性和患者之间的个体差异,冠心病的治疗非常具有挑战性。利用3D模型,可以直接观察和操纵患者的心脏解剖结构,以便预测并发症和其他可能的结果。这开辟了个体化治疗的新领域,为整个手术的术前规划和体外实践提供了可能。
图3D打印心脏模型
没有两个人的身体是完全相同的。外科医生操纵手术刀和缝合线,在复杂的“人体地形”中准确、快速地进行切割和缝合,但由于每个人的生理状况不同,解剖细节也需要进行相应的调整,这给他们的工作增加了难度。
医生通常使用计算机断层扫描(CT)或磁共振成像(MRI)的二维图像来制定手术计划。现在他们越来越倾向于使用私人定制的真实3D模型。
为了完成3D打印,研究人员首先将许多连续CT或MRI扫描的数字二维“切片”组合成三维“地形图”,可以看到不同层次器官的复杂结构。然后,3D打印机逐层打印。这些树脂滴可以通过紫外线照射或挤压硬化等固定在特定位置。以形成三维结构。
3D打印技术发展于20世纪80年代。当时这种打印机价格昂贵,质量多变,生产材料有限。但是在过去的几年里,这项技术已经发展到普通家庭用户也能负担得起。软件和打印方法的改进使得打印具有高精度颜色和纹理的复杂物体成为可能。我们可以为外科手术建立更精确和真实的器官模型。
2012年,美国克利夫兰诊所肝脏病学主任兼肝移植医学主任尼扎尔蔡恩(Nizar Zein)首次提出了打印器官模型的想法。他想知道这种方法是否能使活体肝移植更加安全。
照片:尼萨德泽恩(图片来源:3dprinterworld.com)
泽恩博士说,不断增长的肝移植需求和尸体肝脏的短缺增加了对活体肝移植(LDLT)的需求。
他说,“当我们在肝脏上做手术时,最大的风险之一是我们不知道主要血管或胆管的确切位置,无意中切断了其中的一条。”
每个肝脏都有独特而复杂的动脉、静脉和胆管网络。如果切错了地方,可能会导致供体或受体的并发症甚至死亡。因此,泽恩集结了一个由临床医生、影像专家、工程师和软件设计师组成的团队,试图用树脂为特定患者“打印”一个肝脏,以指导手术过程。
泽恩回忆说,第一个模型非常粗糙,就像一个孩子在玩贝利的彩色粘土。它的大小不到活体肝脏的四分之三,它不是完全透明的,并且缺乏代表不同组织的颜色编码。在一个案例中,一名肝脏捐赠者在手术台上遭遇了危险的并发症。泽恩记得一位外科医生说过,如果事先练习这种模型,捐献者的生命可能会得救。
泽恩对模型进行了改进,并于2013年开始研究如何利用活体肝脏大小的三维模型来制定外科医生的手术方案。一项初步的小规模研究表明,他们的模型在解剖和形状上与活体器官相匹配。
目前,泽恩团队构建的模型已经在20多个手术中得到应用。泽恩说,在许多情况下,观察和研究这种模式使外科医生改变了他们切割器官的方式。甚至在某个病例中,外科医生得出某个供体不适合移植的结论,挽救了一个可能的医疗事故。
他的团队继续打印复杂肝脏肿瘤的三维模型,以了解它们如何在肝脏上生长。泽恩说,“我们对病人肿瘤组织的解剖结构了解得越多,手术的效果就会越好。”
图3D打印的人体器官3354肝叶,以及“有血有肉”的肝叶(来自捐赠)。这种对比观察可以帮助医生计划和实施复杂的移植。(资料来源:N.N. Zein等人/肝脏移植2013)
美国罗彻斯特大学泌尿科医生艾哈迈德加齐(Ahmed Ghazi)受到泽恩的启发,建立了一个更加逼真的肾脏模型,为模拟手术提供了一种“身临其境”的方法。
他说:“我只是想要一个看起来像肾,会流血的东西。”肾脏外科医生经常面临从充满血管的器官中移除肿瘤的问题。他们可能只有30分钟来完成工作,否则肾脏组织将停止血液循环,导致死亡。
经过改进,这种打印器官具有空间感、解剖准确性和触觉反馈,还可以用于模拟训练新的外科医生。
图人造器官模型(右)可以出血,就像真器官在手术过程中会出血一样(左)。这里的手术是切除一个肾肿瘤。(来源:艾哈迈德加齐)
为了建立肾脏模型,加齐的团队在一个类似腹腔的地方模拟了脂肪、肠道和其他组织,就像它们在真实病人体内一样。加齐与5名专家和10名新外科医生一起对模拟系统进行了测试,发现模型非常逼真,新医生们一致认为在手术前使用这些模型会有很大帮助。
纽约爱因斯坦医学院的生物医学影像专家Nicole Wake也研究了肾脏模型对手术规划的积极影响。在2017年的一项研究中,她和她的同事请三位经验丰富的外科医生回顾了10种不同复杂程度的肾脏手术,包括回忆患者的二维扫描图像和描述他们的手术计划。之后,他们用3D模型重复操作过程。在所有情况下,至少有一名外科医生改变了他最初的想法。他认为当时应该有更好的方法进入体腔或者夹住器官。他们表示,这种模拟可以让他们更好地确认自己的计划,提高手术的信心。
泽恩表示,在构建3D器官模型时,材料的选择取决于其用途。硬塑料更便宜,更适合简单的三维可视化,有助于临床医生专注于肿瘤的形状或血管的弯曲路径等视觉特征。
但是更有弹性的海绵状材料,包括硅胶、软塑料和水凝胶,就更现实了。它们的弹性可以模仿活体组织的力学特性,为外科医生提供了一个可以用于实践的器官,可以切开测量所需切口的宽度和深度,从而方便切除肿瘤,指导修复。更柔软的模型还可以结合其他功能,如压力传感器,让外科医生在手术前做更充分的准备。
齐家和他的同事构建了一系列组织纹理模型。他们不是直接打印,而是使用3D打印机构建一系列模具,然后注入特殊的水凝胶,水凝胶由水和其他液体组成,但可以像真正的肌肉、脂肪或血管一样对操作产生反应。即使当血管或其他导管被切开时,器官也会像在实际手术中一样出血或渗出。
明尼苏达大学机械工程师迈克尔麦卡尔平(Michael McAlpine)模仿组织的力学特性,制作了前列腺的器官模型。他的团队使用取自癌症患者的前列腺样本来测试前列腺的硬度和柔韧性,并通过调整硅胶打印材料的化学成分来改变聚合物之间的连接,使模型变得更软或更硬。
他们甚至为前列腺模型配备了3D打印的压敏传感器。该传感器由水凝胶和橡胶硅胶制成,可以测量内窥镜或手术剪刀施加的力,在医生进入手术室前为其提供有用的信息。
图 3D打印前列腺配备压力传感器可以让外科医生更真实地实践。(资料来源:K. Qiu等人/先进材料技术2018)
拥有3D打印设备和专业知识的医疗中心现在可以打印自己的器官模型,而一个硬塑料模型的打印成本不超过几百美元。像Lazarus 3D和Materialise这样的公司现在也提供利用成像数据制作器官模型的服务。但是,保险公司可能不会支付患者模型的打印费。
这可能会成为虚拟计算机模型的敲门砖。起初,嘎子想以这种方式开展工作,但他很快转向了物理模型3354。现在不可能用“虚拟感觉”来切,也不可能知道某个器官在某个地方切一下会流多少血。不确定因素太多了。目前,他正在与VR公司合作,这些公司可以使用物理模型来开发虚拟手术工具。
麦卡尔平认为,随着时间的推移,使用3D成像进行手术可能会成为常态,而不是例外。