安娜·马斯卡雷洛（Anna Mascarello），Elastic公司亚太地区公共部门与教育区域副总裁，在一篇特邀评论中表示：在金融和医疗等高度监管的行业中，利害关系极为重大。一个流程的改进可能带来显著的成本节约，而一次小小的合规失误却可能导致巨大的损失。生成式人工智能（GenAI）作为一种强大的颠覆性技术，已被企业广泛应用于各种场景，甚至像澳大利亚公共服务机构（APS）这样的政府和公共部门组织也开始涉足GenAI领域。
然而，当我们拥抱GenAI所带来的变革潜力时，也必须谨慎行事。创新的承诺必须与对现有监管框架的高度敏感相结合，这些框架旨在保护消费者和企业的利益。在澳大利亚，组织需要遵守《1988年隐私法》中的严格数据保护措施，以及来自澳大利亚证券与投资委员会（ASIC）等行业特定法规的要求。在这种快速变化的环境中，组织如何成功利用GenAI的能力，而不逾越合规的界限呢？
高影响，高投资
尽管受监管行业的合规要求非常严格，但对人工智能的投资仍在不断涌入。全球金融领域的AI投资预计将从2023年的580亿澳元激增至2028年的2098亿澳元。
在澳大利亚，金融机构正越来越多地利用GenAI进行欺诈检测、预测和报告等多方面的应用。同时，基于AI的推荐引擎和自主代理的采用也在增加，这些技术正在提升客户体验并优化运营效率。
同样，在医疗保健领域，预计到2030年，GenAI将贡献50亿至130亿澳元的价值。这一价值的主要驱动力在于其能够减轻行政负担，使医疗专业人员能够花更多时间进行面对面的患者护理。
GenAI的潜力甚至扩展到了诊断和治疗方法。例如，科廷大学（Curtin University）使用GenAI对抗抗生素耐药感染，西澳大利亚大学（University of Western Australia）通过可解释的人工智能在心电图诊断方面取得了进展。
监管环境
要在这些行业中成功部署GenAI，组织必须根据现有的和新兴的法规对其部署进行细致管理，以保护客户和患者的敏感个人信息。
即将对《1988年隐私法》进行的改革旨在提高透明度，强化个人获取和删除信息的权利，并实施更严格的问责制度。
使用GenAI进行自动化决策的金融机构需要披露个人数据是否参与了对个人有法律或重大影响的决策。此外，对于某些高风险活动（包括部分GenAI用例），企业可能需要进行隐私影响评估（PIA），以确保在部署前全面评估隐私风险。
另一个重要发展来自ASIC，该机构将其技术中立的监管义务扩展到AI系统，要求在其使用过程中实现公平、透明和问责。
《1988年隐私法》还对医疗机构如何在AI应用中管理患者数据产生了影响。该法案要求遵守《澳大利亚隐私原则》（APPs）。
此外，由治疗用品管理局（TGA）管理的《1989年治疗用品法》也对医疗保健行业产生了影响。在某些使用场景下，该法案将GenAI视为医疗设备，包括诊断工具、预测分析系统或任何具有声明医疗用途的软件。TGA要求这些系统根据风险级别进行分类，并在部署前列入澳大利亚治疗用品注册（ARTG）。
随着法规的不断发展，这些行业的组织必须采取谨慎的步骤，以确保其IT基础设施已准备好安全、负责任地使用GenAI。
安全使用GenAI的关键考虑因素
在受监管行业中成功部署GenAI的关键在于其访问、管理和应用数据的能力。这首先需要一个强大的数据平台。混合云架构（如数据湖）因其多功能性和成本效益而日益受到欢迎，相比纯云平台，它们还提供了更高的安全性。
这些优势使得数据湖特别适合于符合医疗和金融等行业中的法规要求，其中包括将敏感数据存储在本地的规定。
遵循治理框架还可以确保GenAI应用程序以负责任和可靠的方式运行。这些框架使IT团队能够执行数据访问政策，监控使用情况，并跟踪数据从摄取到部署的整个生命周期，验证准确性并检查是否存在偏见。这种方法在降低风险的同时促进了技术工作流的透明度，并简化了根据《1988年隐私法》进行PIA的任务。
最后，部署高级搜索和分析技术可以帮助组织通过实时数据发现和自动数据血缘跟踪来操作治理框架。这些功能使IT人员能够在数据生命周期内追踪其来源、转换和使用情况，进一步提高准确性和完整性，同时简化PIA等监管活动。通过实时主动监控，组织可以及时解决问题，减少因数据泄露或不准确而导致的违规风险。
在金融服务和医疗保健等行业中，GenAI在积极改变生活和生计方面的潜力是巨大的。然而，如果没有周密的计划和监督，组织可能难以完全实现这些好处。建立一个符合治理和合规框架的强大数据基础设施，对于充分发挥GenAI的潜力，同时保护它旨在服务的人员和机构至关重要。
(全文结束)
