多国医学专家警告:AI将威胁数百万人健康,应暂停开发

2023-05-10 21:21:27       来源:学术头条

人工智能(AI)可能会危害数百万人的健康,并对人类的生存构成威胁,多国医生和公共卫生专家呼吁,应停止开发通用人工智能(AGI),直到对其进行监管为止。

AI 有潜力通过改善疾病诊断、找到更好的治疗方法和扩大医疗保健覆盖范围等方式,彻底改变医疗保健。


(相关资料图)

但是,来自马来西亚、英国、美国、澳大利亚、哥斯达黎加的医疗专业人员在科学期刊 BMJ Global Health 上发文表示,AI 也可能产生负面健康影响。

在他们看来,与医学和医疗保健相关的风险包括“AI 错误可能导致患者受伤、数据隐私和安全问题,以及将 AI 用于加剧社会和健康不平等的方式”。

他们举例说,使用基于 AI 的脉搏血氧仪会高估皮肤较黑的患者的血氧水平,导致他们的低氧血症得不到充分治疗。

但他们还警告说,AI 还会对人类健康甚至人类生存产生更广泛的全球威胁。

AI 可能通过影响健康的社会决定因素危害数百万人的健康,如对人的控制和操纵,使用致命的自主武器,以及大规模失业对精神健康的影响。

他们声称,“当与快速改进的深度伪造(deep fakes)技术相结合时,基于 AI 的信息系统可能会进一步破坏民主,破坏信任,推动社会分裂和冲突,并引发公共卫生影响。”

与广泛部署 AI 技术相伴随的工作丧失也带来了威胁,估计在未来十年内失业人数将达到数千万人。

他们表示:“虽然结束重复、危险和不愉快的工作将带来许多好处,但我们已经知道失业与不良健康结果和行为密切相关。”

“此外,我们不知道社会将如何在心理和情感上对一个没有工作或工作不再必要的世界做出反应,我们也没有更多地考虑打破失业与健康问题之间联系所需的政策和策略,”他们说道。

他们认为,自我改进的 AGI 可能构成的威胁将是无处不在的。

“我们现在正在努力创建比我们更聪明、更强大的机器。这些机器应用这种智能和力量的可能性,无论是有意还是无意地,或者对人类造成伤害,都是现实存在的问题,且必须加以考虑。”

随着 AI 研究与发展的指数级增长,避免严重甚至可能导致灭绝性的危害的机会正在逐渐减少。

他们警告说:“需要有效监管 AI 的开发和使用,以避免危害。在建立这种监管机制之前,应该暂停自我改进的 AGI 的进一步开发。”

另外,在英国,一个由健康专家、独立事实核查人员和医疗慈善机构组成的联盟,呼吁政府修改即将出台的网络安全法案,采取行动打击健康虚假信息。

“我们保护医疗保健系统未来的一个关键途径是,确保互联网公司在如何识别其平台上出现的有害健康错误信息方面制定明确的政策,并采取一致的处理方法,”该团体在致英国科技、创新和科技国务大臣 Chloe Smith 的公开信中写道。

“这将为用户提供更多的保护,改善信息环境,并增强对公共机构的信任。”

该信件由英国心脏基金会、皇家全科医师学院和 Full Fact 等机构签署,并呼吁英国政府在该法案中增加一个新的具有法律约束力的职责,这将要求最大的社交网络在其服务条款中增加新的规则,管理其对基于健康的虚假信息的审查方式。

Full Fact 的首席执行官 Will Moy 表示:“如果没有这一修正案,在涉及有害健康虚假信息时,网络安全法案将毫无用处。”

责任编辑:

关键词:
x 广告
x 广告

Copyright @  2015-2022 海外生活网版权所有  备案号: 沪ICP备2020036824号-21   联系邮箱:562 66 29@qq.com