机器人是否需要具备道德能动性？一项关于社交机器人学的案例研究

本摘要有效地将其探究置于当前AI风险评估的时代思潮之中，承认了对通用人工智能（AGI）及其造成“有害行为”潜力的突出关注。布莱切利公园峰会为此次讨论提供了适时的支点。

从哲学视角来看，本摘要强调了一个关键的张力：即AGI的投机性、生存性威胁与当前部署的AI系统所带来的更直接、更切实的风险之间的张力。该论文旨在提供一项社交机器人学案例研究，在此尤为宝贵，有望将一场往往抽象的辩论置于具体的场景中。这种务实的方法对于弥合理论性哲学讨论与AI融入社会的实际挑战之间的鸿沟至关重要。

关键在于，本摘要重新开启了关于机器中道德能动性的讨论，这是一个它指出已被“大体驳回”的概念，理由是它带来的威胁大于缓解作用。这种驳回本身就值得哲学审视。这种驳回是基于固有的概念缺陷，还是基于早期“赋予”道德尝试的实际困难和意外后果？重新引入这场讨论，特别是通过将其与“现实生活风险”而非仅仅是超智能的幽灵联系起来，是一个重大的哲学举措。它迫使人们重新评估“道德能动性”在AI语境中可能意味着什么——它是否关乎显性的伦理编程、涌现的伦理行为，抑或是简单地实现能够防止危害的稳健安全对齐？该论文的隐含论点是，或许钟摆在驳回此类概念的效用方面摆得太远了，而对道德能动性的细致理解可能对于缓解AI非常真实但非AGI的风险至关重要。

本摘要有望为对AI安全的更细致理解做出贡献，将焦点从末日假设转移到当代伦理挑战，并重新引发一场必要的哲学对话，探讨我们可能需要——或可能不需要——在我们的自主创造物中培养的伦理能力。