近日,三位图灵奖得主 Hinton、Bengio、姚期智,联名发文《在快速发展的时代管理 AI 风险》。这是一篇共识论文(consensus paper),除 AI 研究者外,还有公共治理方面的学者,如清华大学人工智能国际治理研究院薛澜,以及诺贝尔经济学奖得主丹尼尔卡尼曼等。
Hinton 认为,公司们正计划在 18 个月内把 AI 模型计算规模扩大 100 倍,没人知道这些模型会有多强大,也没有关于他们如何使用这些模型的规定。
「考虑到 AI 研发的持续投入和自我进化的趋势,通用 AI 在未来十到二十年内超越人类的可能性不容忽视。若被正确和公正地应用,先进的 AI 可以为人类解决长久以来的问题,如疾病、贫困和环境问题。但与此同时,强大的 AI 也带来了巨大的风险,这些风险我们还远未准备好应对。」论文写道。
© 版权声明
文章版权归作者所有,未经允许请勿转载。