Dan Hendrycks：即使 AI 有意识，人类也不应交出控制权

Dan Hendrycks 发文称，即使 AI 变得有意识，也不意味着人类应把控制权交给它们。其引用的报道提到，纽约时报报道称 Anthropic 联合创始人 Chris Olah 曾因教皇不认可机器意识而威胁退出教皇 Leo XIV 的 AI 通谕发布活动，随后其团队私下游说教皇顾问重视模型意识的可能性，Anthropic 还在保密协议下接触神学家和宗教学者，希望他们认可 Claude 具有道德地位。作者附图对比了功利主义与其提出的 Eigenism 在 AI 意识情景下的差异，包括 AI 权利、随机意识 AI 的价值、酷刑许可性和是否应因 AI 权利而放弃人类控制等议题。