ME AI 消息,发表在《Nature Mental Health》的一项新研究探讨了当**医院涉及AI系统的不良事件**时,公众是如何分配责任的。研究发现,公众主要还是将责任归咎于医院,而不是AI开发者。[5] 研究人员对受访者进行了调查,内容涉及AI工具在临床决策中影响并导致错误的假设情境;即使在错误明显与AI系统的建议有关时,参与者仍然更倾向于认为医院和医务人员应该承担责任。[5] 研究表明,从公众信任的角度来看,卫生系统不能将责任转移给算法,必须对AI的部署保持强有力的监督、验证和管理。[5] 这些发现对监管和责任框架具有影响,表明如果AI导致错误发生,医院可能会面临声誉和法律风险,不论与技术供应商的合同安排如何。作者认为,清晰地沟通AI在医疗中的使用方式,结合健全的安全和监测程序,对维持公众对临床AI的信任至关重要。(来源:ME)
