新的梵蒂冈文件提供了从战争到医疗保健的人工智能指导方针

梵蒂冈城（美联社）——周二发布的一份文件为从战争到医疗保健等领域的应用提供了广泛的道德指导方针，并呼吁新兴技术必须被用作补充而不是取代人类智能的工具。

教皇方济各（Pope Francis）对人工智能技术的风险有所担忧，梵蒂冈教义和文化办公室的这份新文件扩展了教皇已经说过的话。与此同时，中国科技初创公司推出的一款新型人工智能聊天机器人提高了在人工智能技术竞赛中的赌注，以极低的成本赶上了美国的生成型人工智能领导者。

该文件强调，人类的责任需要与新技术成比例地增长，人工智能在各个领域的应用的影响“可能并不总是从一开始就可以预测的”。

该文件在结论中表示：“人工智能只应被用作补充人类智慧的工具，而不应取代人类智慧的丰富性。”

人工智能与战争

该文件警告说，人工智能有可能增加“远远超出人类监督范围”的战争工具，这可能引发“不稳定的军备竞赛”。武器系统可以在没有人为干预的情况下识别和打击目标，消除了“人类独特的道德判断和伦理决策能力”。

该文件警告说：“任何机器都不应该选择夺走人类的生命。”

人工智能与人际关系

该文件警告称，人工智能不能替代“真正的人际关系”，并指出在儿童发展或人际关系等领域将人工智能拟人化时，缺乏同理心是一种风险。

该文件称：“虽然人类应该体验真实的关系，但人工智能只能模拟它们。”

人工智能和寻找意义

该文件提到了这样一种风险：“随着社会逐渐远离与超验的联系，一些人试图求助于人工智能来寻求意义和满足——这些渴望只有在与上帝的交流中才能真正得到满足。”

该文件称：“以上帝代替人类制造的人工制品的假设是偶像崇拜，这是圣经明确警告反对的做法。”

人工智能与隐私/监控

该文件称，人工智能数据处理的进步使得数据隐私“作为对个人尊严和关系本质的保障，变得更加必要”。

它表示：“监管机构必须对监管过度的风险进行监控，以确保透明度和公共问责制。”

人工智能与环境

该文件强调，虽然人工智能可以通过预测极端事件的模型来帮助应对气候变化，帮助管理紧急情况并帮助促进可持续发展，但它也带来了风险，这些风险被使用“云”等词所掩盖，这些词将数据存储与“物理世界”分离开来。

“至关重要的是要认识到，它的运行需要大量的能源和水，对二氧化碳排放有很大贡献，”该文件称。

人工智能与教育

该文件称，人工智能应该有助于促进批判性思维，而不仅仅是训练“年轻人如何收集信息和做出快速反应”。教育不是“用思想填满一个人的头脑”，而是“在头脑、心灵和双手之间的紧张关系中冒险”。

该文件称：“学校、大学和科学协会面临着帮助学生和专业人士掌握技术发展和使用的社会和伦理方面的挑战。”

人工智能与医疗保健

虽然提到了人工智能在改善医疗保健方面的潜力，比如在诊断疾病方面，但该文件表示，人工智能用于加强而不是“取代患者和医疗服务提供者之间的关系”至关重要。

该文件称：“有关患者治疗的决定及其所承担的责任必须始终由人来决定，绝不应委托给人工智能。”

人工智能和错误信息/深度造假

该文件称，人工智能存在“产生被操纵的内容和虚假信息的风险，由于与事实相似，这些信息很容易误导人们”。

“打击人工智能驱动的虚假信息不仅仅是行业专家的工作，它需要所有善意的人的努力，”它表示，呼吁那些分享人工智能生成内容的人勤奋，以验证“他们传播的真相”。