前Anthropic研究员警告人类可能失去AI控制，纽约市拟要求AI模型先通过外部验证方可销售

前Anthropic研究员Jacob Coxon告知纽约市议员人类可能会失去对AI的控制，并将出席纽约市关于AI"kill switches"的听证会作证。纽约市正准备一项法案，要求本地销售的每个AI模型先通过外部验证，未经验证的销售或部署每次罚款2.5万美元。