周鸿祎谈“马斯克等呼吁暂停GPT-5的研发”：不发展才是最大的不安全

3月30日，360集团创始人、董事长周鸿祎在微博上表示，昨天，以马斯克为首的科学家给美国政府写请愿信，要求暂停GPT-5的研发，担心它“对社会和人类构成潜在风险”，“我自己就是做安全的，但我坚定地认为，不发展才是最大的不安全”。

周鸿祎表示，包括360在内的一些中国公司已经展示了自己的作品，实事求是来说，离GPT-4的水平还有两年差距。现在担心风险为时尚早。不管你愿不愿意，GPT都将引领一场新的工业革命，意义超越互联网和iPhone的发明。它将带来生产力的大幅提升，进而提升国家竞争力，中国一定要迎头赶上。

昨日，未来生命研究所（Future of Life Institute）公布一封公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。公开信中提出，广泛的研究表明，具有与人类竞争智能的人工智能系统可能对社会和人类构成深远的风险。

公开信表示，高级AI可能代表地球生命史上的深刻变化，应以相应的关怀和资源进行规划和管理。不幸的是，这种级别的规划和管理并没有发生，只有当确信它们的影响是积极的并且风险是可控的时候，才应该开发强大的人工智能系统。这种信心必须有充分的理由，并随着系统潜在影响的规模而增加。

这封信有一千多名科技人员签名，除了马斯克、谷歌副总裁兼工程研究员辛顿和Robust.AI首席执行官兼创始人马库斯之外，还包括苹果公司联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）等人。​​​