未来生命研究所(Future of Life Institute)29日公布一封题为“暂停巨型AI实验”的公开信,呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。公开信中提出,广泛的研究表明,具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险。高级AI可能代表地球生命史上的深刻变化,应以相应的关怀和资源进行规划和管理。不幸的是,这种级别的规划和管理并没有发生,只有当我们确信它们的影响是积极的并且风险是可控的时候,才应该开发强大的人工智能系统。这种信心必须有充分的理由,并随着系统潜在影响的规模而增加。
截至发稿,这封信已有一千多名科技人员签名,除了马斯克、谷歌副总裁兼工程研究员辛顿和Robust.AI首席执行官兼创始人马库斯之外,还包括苹果公司联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)、Stability AI首席执行官埃马德·莫斯塔克(Emad Mostaque)等人。
脑机接口是一种破译大脑信号并将其转化为外部技术命令的系统。如果系统被验证开始正常运行,患有渐冻人症等严重退行性疾病的患者最终可以用意念发短信或浏览社交媒体。
对于闭源模型,邓志东认为,其主要挑战是绝大多数人不知道那些闭源的AGI巨头都在干什么或打算干什么。
“明年人工智能可能会比任何人类个体都聪明,到2029年,人工智能可能比所有人类加起来还要聪明。”
这一决定意味着公众将可免费尝试使用该公司大模型技术背后的代码。xAI也将加入Meta和法国初创AI公司Mistral AI开源大模型的行列。
“我不会向任何一位美国总统候选人捐款。”