参议员马克·华纳(弗吉尼亚州民主党人)说:“这些工具有很大的希望可以挽救更多的生命，”他补充说，“它们也有可能适得其反——伤害病人和他们的数据，强化人类偏见，并在没有明确规范的情况下，给医疗服务提供者增加负担。”
谷歌的人工智能搜索医疗记录、研究论文、成像和临床指南，以帮助医生诊断疾病和评估治疗方案。这家科技巨头已经在向医院出售这些工具了。它与梅奥诊所(Mayo Clinic)签署了一项协议，而且它还预见了更多，包括直接面向消费者的应用。
华纳最近致信谷歌首席执行官桑达尔·皮查伊，称他对医院在未经充分审查的情况下使用该公司的人工智能感到不安。
谷歌北美政策和政府事务主管、前俄亥俄州共和党参议员罗布?波特曼(Rob Portman)的幕僚长马克?伊萨科维茨(Mark Isakowitz)回应称，该公司的技术并未接受过个人健康信息方面的培训，只是在有限的能力范围内进行了部署。Isakowitz说，卫生系统可以控制它的使用方式并监控它的行为。
乔·拜登(Joe Biden)总统已责成他的机构研究如何确保医疗保健领域的人工智能像有血有肉的医生一样为患者提供服务，如果不是更好的话，但规则可能需要几个月或几年的时间。尽管美国食品和药物管理局(Food and Drug Administration)批准了使用人工智能的医疗设备，但它对基于软件的先进工具没有规定。
谷歌并没有等着该机构来写。目前，该公司正在与梅奥诊所(Mayo Clinic)的研究人员一起试用人工智能，作为助手。在美国和英国经营着2000多家医院和其他医疗机构的HCA Healthcare正在使用它来为医生和护士撰写临床记录。
拜耳制药公司(Bayer Pharmaceuticals)也在临床试验中尝试这种技术，帮助设计沟通工具。电子病历公司Meditech正在使用这项技术来总结病人的病史。
就在华纳等国会议员和美国食品和药物管理局(Food and Drug Administration)等监管机构考虑该怎么办的时候，谷歌聘请了前政府医疗监管机构的官员，这很有可能为该公司辩护。
“口袋里的医生”这句话出自凯伦·德萨佛，她曾为奥巴马总统监督医疗信息技术监管，现任谷歌首席卫生官。
初创公司担心，谷歌和其他科技巨头将推动法规，挤压较小的竞争对手。
这些较小的公司希望阻止拜登在10月份指示他的机构在一项关于人工智能监管的行政命令中制定的报告要求。他们认为，这样的要求对谷歌或微软这样的巨头来说很容易，但对资金不那么充裕的竞争对手来说就很难了。
临床笔记记录公司Suki AI的首席执行官普纽特?索尼(Punit Soni)谈到包括谷歌在内的医疗保健领域的大型科技公司时说:“他们基本上会创造一种局面，让我们只能依靠他们来前进。”
2019年，谷歌在与华盛顿合作方面吸取了重要教训。
就在那时，它首次尝试将其强大的“大数据”技术应用于患者记录——与总部位于圣路易斯的连锁医院阿森松达成协议，分析数千万份健康记录——引发了卫生和人类服务部对隐私问题的调查。
这一次，谷歌似乎在监管机构出现问题之前就采取了行动。
谷歌的母公司已经聘请了美国食品和药物管理局(FDA)的几名前官员，包括该机构前首席数字卫生官巴库尔·帕特尔(Bakul Patel)，他曾指导FDA对人工智能的早期思考。该机构由前谷歌母公司员工罗伯特·卡利夫(Robert Califf)领导，他将领导拜登政府的规则制定。
谷歌也是卫生人工智能联盟的成员，该联盟由卫生系统和技术公司组成，致力于与联邦卫生机构协调制定人工智能标准。该组织今年发布了人工智能在医疗保健领域的首份“蓝图”。它还帮助制定了美国国家医学院的《卫生保健人工智能行为准则》。
在拜登总统就人工智能发布行政命令之后，政策制定者正试图加快这项技术的发展速度——拜登已经要求提交报告和建议，并设定了截止日期——而谷歌希望提供帮助。
11月中旬，该公司发布了一份人工智能政策议程，呼吁制定支持创新的法律和基础设施，以支持人工智能的发展和采用。
该公司将自己视为政府的合作伙伴。帕特尔现在是谷歌全球数字健康战略和监管的高级主管，他说公司花了很多时间向官员解释这项技术是如何工作的，这样他们就可以制定标准。
“我们不能告诉他们该做什么，但我们可以教育他们，”他说。
谷歌出售的人工智能处于监管的灰色地带。
FDA批准了人工智能医疗设备，但其审查是针对不太先进的技术设计的。
政府中没有人能保证更新的、基于软件的工具能实现他们的承诺。
该机构去年表示，将寻求对其中一些产品进行审查，但目前还没有这样做。与此同时，该机构已经发布了一份规范人工智能的行动计划，并指导哪些算法属于其范围，以及公司在申请营销许可时应包括哪些信息。
拜登政府通过其行政命令分享了有关机构应如何监控和收集可能对国家安全或公共卫生产生影响的先进人工智能模型数据的规定。尽管如此，该行政命令在很大程度上是要求各机构进行研究，以更好地了解应该如何保护这项技术。
这是最终制定法规的初步步骤，可能需要几个月或几年的时间。
与此同时，国会正在慢慢加快速度。参议院卫生、教育、劳工和养老金委员会以及众议院能源和商业委员会都举行了听证会，探讨人工智能以及如何在医疗保健领域对其进行监管。
成员们就人工智能对从个人数据收集到在生物武器开发中的使用等各方面的影响提出了问题。但到目前为止，还没有立法出台。
由约翰·图恩(南卡罗来纳州共和党人)和艾米·克洛布查尔(明尼苏达州民主党人)领导的参议员提出了《2023年人工智能研究、创新和责任法案》，但该法案并非针对医疗保健，自上个月提出以来一直没有进展。
与此同时，FDA预计今年人工智能医疗设备将大幅增长，比2022年增长30%以上。
谷歌正在稳步推出人工智能项目和产品。该公司目前正在授权用于检测乳腺癌、肺癌和基因突变的算法。它还将继续测试人工智能作为诊断糖尿病视网膜病变的工具，以及在超声图像中发现异常。
谷歌推出的Med PaLM-2是一款可以回答问题并通过医疗执照考试的机器人，它建立在与医疗保健公司的现有关系之上。拜耳与谷歌云合作进行人工智能临床试验，并启动早期药物发现。在谷歌开始在梅奥诊所试用Med-PaLM 2之前，这两家公司曾合作开发人工智能，帮助计划头颈部癌症的放射治疗。自2021年以来，HCA Health一直在使用谷歌云。
谷歌对医疗保健的愿景并不局限于医疗保健公司。它有雄心在消费者健康方面发挥作用。该公司已经推出了FitBit，这是一款可穿戴设备，可以收集生命体征和其他健康指标。该公司还测试了其他消费者工具，比如DermAssist。DermAssist旨在诊断皮肤状况，在欧洲被标记为低风险医疗设备。
德萨佛将智能手机视为未来医学的关键工具。
德萨佛说:“仅仅是一个非常便宜的设备，就能发生很多事情，而且它掌握在地球上很大一部分人的手中。”“我很想把它当作一个面向人们、面向消费者的平台。”
监管机构、法律专家和初创公司的主要担忧是，人工智能将在立法者还没来得及思考之前渗透到医疗保健领域。
哈佛大学法学院佩特里-弗洛姆中心高级研究员梅森·马克斯表示，这不仅仅是因为没有监管新人工智能的法律。他说，为保护病人而设计的旧法律在新一代技术的重压下已经无法承受。
马克担心，HIPAA，一个几十年前的旨在保护病人隐私的法律，在面对大型语言模型时会崩溃，因为HIPAA允许卫生系统和他们的供应商使用去识别的病人数据。
“一旦你删除了某些个人标识符，你就可以用它做任何你想做的事情，”他说。研究人员指出，如果使用人工智能将去识别的数据与其他数据并置，就可以重新识别。
马克斯说，即使不是这样，也有道德上的考虑。他提到了“危机短信热线”(Crisis Text Line)的一个事件，这是一个基于短信的青少年心理健康热线，未经用户同意，就出于营销目的出售去识别数据。这并不违法，但他质疑这是否合乎道德，尤其是当公司利用这些数据来改进人工智能系统并从中获利时。
他说，获取这些数据还可能涉及反垄断问题。马克斯说:“像谷歌这样在医院和医疗保健系统的人工智能系统上投入巨资的公司，可以利用他们产生的所有数据，获得巨大的竞争优势或垄断地位。”
Suki AI的索尼也担心竞争和隐私问题，但从另一个角度来看。
他担心监管机构正在专注于起草规则，这些规则可能会造成合规负担，不一定能确保保护隐私或避免偏见，但这会让小型创新者难以与谷歌等财力雄厚的公司竞争。
他说:“我觉得我们在报告上翻了一番，却没有真正解释合规问题。”“我宁愿我们花点时间来弄清楚什么是HIPAA的人工智能版本。”
