医疗保健领域生成式人工智能的兴起面临审查和怀疑

　　德勤的报告只是其中一项调查，显示尽管最近取得了突破和技术进步，但只有 53% 的美国人会考虑使用生成式人工智能来改善医疗保健服务。

　　剩下的 47% 的美国人仍然对生成人工智能作为降低成本和提高可及性的工具没有信心，这一事实表明市场存在一些重大差距。

　　技术困难和道德问题

　　研究表明，生成式人工智能在医疗保健领域的可靠性是迫在眉睫的趋势话题，因为它具有不可预测性和缺点。 JAMA 儿科研究显示 OpenAI 的 ChatGPT 红队医生在儿科疾病诊断中的错误率很高，贝斯以色列女执事医疗中心的研究也观察到 GPT 的类似结果。

　　在医疗管理功能方面，MedAlign 基准测试揭示了该模型与日常活动的缺陷。该模型的失败率为 35%。

　　这些问题是几个月以来人们相信可能会出现侵犯这些权利的可能性。斯坦福大学医学院健康相关领域的研究表明，新兴的人工智能技术可能会强化社会刻板印象，从而可能显着加剧健康不平等。

　　数据隐私、安全风险以及与人工智能在医疗保健领域的应用相关的不断变化的法律意味着人工智能的使用包含多个层次的复杂性。

　　来自 VA Sunshine Healthcare Network 的 Andrew Borkowski 和杜伊斯堡-埃森大学的 Jan Egger 等专家承认，应该为新兴的生成人工智能技术建立健全的验证和监管机制。

　　平衡人工智能创新和医疗保健监督

　　他们支持人工智能作为一种支持措施，而不是独立的解决方案，因此，他们介绍说，每个应用程序都受到经验丰富的医疗专业人员的密切关注。

　　在此之后……世界卫生组织的人类机构正在尝试改进指导方针，其中医疗保健人工智能应用的研究和验证应该严格，并让足够的人员参与一定程度的监督。

　　该建议旨在监督人工智能技术的实施过程，以确保其安全并为消费者带来优势。透明度、独立审计和参与者利益相关者的多样性是建议的措施。

　　医疗保健行业正面临着人工智能发挥更大作用的十字路口问题。尽管人们承认人工智能有潜力改变医疗保健的提供方式，但人工智能在医学中的部署仍然面临一些技术、伦理和监管问题。