医疗保健分析峰会回来了!9月13日至15日,在盐湖城收看我们的现场报道。现在注册
这篇文章是基于医疗保健分析峰会(有20虚拟)的报告汤姆Lawry微软AI、健康与生命科学国家主任,题为“健康AI伦理:创造惠及所有人的价值”。
人工智能(人工智能)已经渗透到许多行业,医疗保健也不甘落后。然而,尽管人工智能在医疗保健领域有巨大的潜力,分析领导者必须做出一定的考虑,以确保人工智能保持道德,并使所有患者受益。
人工智能擅长处理涉及模式、识别和关联的任务。然而,人的因素是任何分析应用都无法复制的——人的技能,比如推理、想象力和同理心。而人工智能可以改善护理服务在美国,医疗保健仍然需要人力监督,以确保它为最多的人带来最大的好处。分析领导者首先要理解AI的伦理原则,并采用最佳实践来支持这些原则,这样才能最好地利用AI。
负责任的分析管理将决定人工智能如何影响医疗保健生态系统。分析领导者可以通过实施支持以下原则的最佳实践来确保他们的AI是公平和道德的:
三个最佳实践帮助医疗保健AI用户满足上述医疗保健AI伦理原则:
与互联网的早期类似,医疗保健的人工智能之旅才刚刚开始。互联网最初没有隐私法、律师或管理机构来规范和执行其使用。直到互联网成为主流,专家和政策才出现。
同样,人工智能的影响轨迹已经走在了立法者和监管者的前面,使得在行业迎头赶上的同时,伦理原则的应用变得更加关键。在没有人工智能指导方针和监管监督的情况下行医可能对患者或卫生系统造成意外伤害。相同的联邦法律限制医疗信息的发布需要适用于人工智能和支持它的数据。此外,医疗保健人工智能用户应该考虑隐私法不涵盖但人工智能经常提及的方面,如基因检测。
虽然人工智能的使用旨在减轻提供者的工作量,改善患者护理,但如果工作人员不充分了解其局限性或准确性,它可能会导致不公平或伤害。特别是,医疗保健AI用户需要知道何时从因果关系中分离相关性,并认识到差异何时可能影响算法的输出。
例如,当一个医疗系统使用一个通用的AI时算法为了预测哪些病人可能需要后续护理,它发现82%的病人是白人,而只有18%是黑人。该算法假设医疗支出越高,健康状况越差。而且,由于美国白人似乎比黑人在医疗保健上花费更多,即使在同等情况下,算法也将白人归类为“病得更重”。在调整算法将财务支出作为相关值后,比例调整为53%的白人和43%的黑人。
在这个例子中,算法的开发人员已经修复了它,组织已经在数百万患者中使用了它的预测输出。然而,它的初始设计显示了差异是如何无意中进入人工智能的。因此,合乎道德的人工智能需要一定程度的人类推理和理解能力,以确保公平的结果,造福所有人类。
如果医疗专业人员不能找出病因预测能力在美国,撤销人工智能生成的推荐的能力变得越来越具有挑战性。一个系统如何计算推荐的透明度允许为了所有人的利益调整算法。
此外,医疗保健AI用户应该始终考虑到偏见的来源。例如,人工智能的数据通常只查看所服务患者的数据。然而,缺乏服务不足人群的数据很可能会影响结果。而且,持续学习的AI系统——那些随着数据的输入而变得更智能、更精致的系统——可能需要定期进行主观的人类评估,以确保其输出仍能提供预期的临床结果。
随着人工智能使用的增长,它将在一定程度上影响所有医疗工作者和患者。通过了解算法是如何计算的,是什么数据支持它们,以及结果对患者护理意味着什么,医疗保健专业人员可以负责地与人工智能合作。在法规和保障措施到位之前,应由医疗保健专业人员确保人工智能向所有人提供公平、负责、透明和道德的结果。通过遵循这些原则驱动的最佳实践,确保对人工智能驱动系统的理解和透明度,将有助于提高质量和提高护理提供。
你想了解更多关于这个主题的信息吗?以下是我们推荐的一些文章:
幻灯片
您愿意使用或分享这些概念吗?下载突出重点的演示文稿。
我们以为您提供相关、有用的内容而自豪。我们可以用cookies来追踪你所阅读的内容吗?我们非常重视您的隐私。详情请参阅我们的隐私政策了解详情和任何问题。