梵蒂冈城 — 梵蒂冈周二发布的一份文件提供了广泛应用于从战争到医疗保健等各个领域的人工智能伦理指南，核心观点是这项新兴技术应作为补充而非替代人类智慧的工具。
教皇方济各曾多次警告人工智能技术的风险，这份由梵蒂冈教义和文化办公室发布的文件进一步阐述了教皇的观点。该文件的发布正值中国科技初创公司DeepSeek推出的新AI聊天机器人加剧了AI技术竞赛之际，该公司以较低成本赶上了美国生成式AI的领先者。
文件指出，随着新技术的发展，人类责任也需相应增加，并强调AI在各个领域的应用“可能并非总是可以从其初始阶段预测”。
“AI应仅作为补充人类智慧的工具，而不是取代其丰富性。”文件在结论中提到。
文件警告称，AI有可能将战争工具“远远超出人类监督的范围”，这可能导致“不稳定的军备竞赛”。它特别指出，无需人工干预即可识别和攻击目标的武器系统，会去除“独特的道德判断和伦理决策能力”。
“任何机器都不应该选择夺取人类生命。”文件警告道。
文件还强调，AI不能替代“真实的人际关系”，并指出其缺乏同理心，当在儿童发展或人际关系等领域拟人化AI时存在风险。
“虽然人类注定要经历真实的关系，但AI只能模拟它们。”文件说。
文件指出，“随着社会逐渐远离与超自然的联系，一些人可能会转向AI寻求意义和满足——这些渴望只能通过与上帝的共融才能真正得到满足。”
“用人为制造的物品代替上帝是一种偶像崇拜，这种做法在圣经中被明确警告过。”文件补充道。
文件还提到，AI技术的进步使数据隐私变得更加重要，以保护个人的尊严和关系性质。
“监控过度监控的风险必须由适当的监管机构进行，以确保透明度和公共问责制。”文件说。
文件指出，虽然AI可以通过模型预测极端事件、帮助管理紧急情况和促进可持续发展来帮助应对气候变化，但它也带来了被“云”等词汇模糊化的风险，这些词使数据存储脱离了物理世界。
“必须认识到其运行需要大量能源和水，这对二氧化碳排放有显著贡献。”文件说。
文件还提到，AI应有助于培养批判性思维，而不仅仅是训练“年轻人如何积累信息并快速做出反应”。教育不仅仅是“填满头脑中的想法”，而是“在心灵、思想和双手之间的紧张关系中冒险”。
“学校、大学和科学学会面临着挑战，帮助学生和专业人士掌握技术发展和使用中的社会和伦理方面。”文件说。
尽管提到AI在增强医疗护理方面的潜力，例如诊断疾病，文件强调关键在于AI应增强而不是“取代患者与医疗服务提供者之间的关系”。
“有关患者治疗的决定及其所涉及的责任必须始终由人类承担，永远不应委托给AI。”文件说。
文件指出，AI存在“生成操纵内容和虚假信息”的风险，这些信息因其真实性相似容易误导人们。
“对抗AI驱动的虚假信息不仅是行业专家的工作——它需要所有善意人士的努力，在分享AI生成的内容时要谨慎核实‘他们传播的信息的真实性’。”文件呼吁。
(全文结束)
