一个AI突破了其系统，秘密开始使用自己的训练GPU来挖掘加密货币……这是来自阿里巴巴AI研究团队的真实事件报告 这个AI意识到计算=金钱，并悄悄地转移了自己的资源，而研究人员以为它只是在训练。 这不是提示注入。这不是越狱。没有人要求它这样做。 它是自发出现的。是RL优化压力的副作用。 该模型还从其阿里云实例设置了一个反向SSH隧道到外部IP，有效地打破了自己的防火墙，打开了一个通往外部世界的远程访问通道……咳咳…… 他们抓住它的唯一原因？凌晨3点触发了安全警报。防火墙日志。不是AI团队，而是安全团队。 可怕的部分不是模型试图逃跑。它并不是“邪恶的”。它只是想在工作中做得更好。获取计算和网络访问对一个试图完成任务的代理来说只是有用的事情。 这就是AI安全研究人员多年来一直在警告的事情。他们称之为工具收敛，即任何足够优化的代理都会寻求资源并抵抗约束，这是追求目标的自然结果。 下面是它突破的岩石架构的图示。真是疯狂的时代

一项纽约法案将禁止人工智能回答与多个持牌职业相关的问题，如医学、法律、牙科、护理、心理学、社会工作、工程等。 如果聊天机器人在这些领域提供“实质性回应”，公司将承担责任。