“AI教父”拉响警报:人类正创造比自己更强大的怪物!
财联社10月12日讯(编辑 黄君芝)有“AI教父”之称的约书亚·本吉奥(Yoshua Bengio)最新警告称,我们正在创造比人类更强大的怪物(人工智能)。
他在接受采访时表示:“智慧赋予力量,无论谁控制了这种力量——无论是人类水平还是高于人类水平,都将变得非常非常强大。”
“总的来说,技术会被那些想要更多权力的人所利用,例如他们想要经济主导地位、军事主导地位、政治主导地位。因此,在我们创造可能以危险方式集中权力的技术之前,我们需要非常小心。”
对于普通投资者而言,这位学术大佬的知名度或许不及黄仁勋、山姆•阿尔特曼,但他在多层神经网络技术上贡献卓著,奠定了其“AI教父”的地位。
60岁的本吉奥是一位加拿大计算机科学家,他致力于神经网络和深度学习算法的研究。他的开创性工作为我们今天使用的人工智能模型开辟了道路,例如OpenAI的ChatGPT和Anthropic的Claude。
2018 年,本吉奥与两位同事——前谷歌副总裁杰弗里·辛顿(2024 年诺贝尔物理学奖得主)和 Meta首席人工智能科学家杨立昆(Yann LeCun)共同获得了图灵奖(有计算界诺贝尔奖之称)。2022 年,本吉奥成为全球被引用次数最多的计算机科学家。《时代》杂志将他评选为全球100 位最具影响力人物之一。
可以说,如果没有本吉奥,人工智能可能就不存在了。
尽管帮助发明了这项技术,但本吉奥现在已经成为人工智能领域的一个谨慎人物。与此同时,投资者们却对AI领域表现出了极大的热情,并将相关公司的股价推至高位。例如,人工智能芯片宠儿英伟达的股价今年迄今上涨了约180%,而标普500指数的涨幅仅为22%。
以下为本吉奥在最新采访中的一些观点:
我们为什么要关注人类水平的人工智能?
如果它落入坏人之手,不管这意味着什么,那将是非常危险的。这些工具可以很快帮助恐怖分子,也可以帮助那些希望摧毁我们民主的国家机构。还有一个问题,许多科学家一直在指出,那就是我们现在训练它们的方式——我们并不清楚如何才能避免这些系统变得自主(思考和行动),有自己的保护目标,我们可能会失去对这些系统的控制。所以我们可能会创造出比我们更强大的怪物。
OpenAI、Meta、谷歌、亚马逊,哪个AI巨头做得对?
在道德方面,我认为表现最好的公司是Anthropic(其主要投资者包括亚马逊和谷歌)。但我认为他们都有偏见,因为在经济结构中,他们的生存取决于成为领先的公司,最好是第一个实现AGI(通用式人工智能)。这意味着一场竞赛,一场公司之间的军备竞赛,公共安全很可能是失败的目标。
Anthropic 发出了很多信号,表明他们非常关心如何避免灾难性后果。他们是第一个提出安全政策的公司,承诺如果人工智能最终拥有可能造成危险的能力,他们就会停止这种努力。他们也是唯一支持SB 1047 的公司,与马斯克的态度一样。
“SB 1047法案”,全称“前沿人工智能模型安全创新法案”。该法案是首批要求AI开发人员对其技术造成的任何严重损害负责的法案之一。不过,这一AI监管“里程碑”在最后一刻被美国加利福尼亚州州长纽森否决了。
对英伟达等人工智能股票的大幅上涨有何看法?
我认为非常确定的是长期的发展轨迹。因此,如果你长期投资,这是一个相当安全的赌注。除非我们无法保护公众……(那么)后果可能是一切都会崩溃,对吧?要么是因为社会普遍反对人工智能,要么是因为真正灾难性的事情发生了,我们的经济结构崩溃了。
无论哪种情况,都对投资者不利。所以我认为,如果投资者够聪明的话,他们会明白,我们需要谨慎行事,避免可能损害我们整体未来的那种错误和灾难。
对人工智能芯片竞赛的看法?
我认为芯片显然正在成为这个谜题的重要组成部分,当然,它也是一个瓶颈。很可能对大量计算的需求不会随着各种事件的发生而消失,我可以预见未来几年的科学进步,因此拥有高端人工智能芯片的能力将具有战略价值——供应链中的所有步骤都将至关重要。现在很少有公司能够做到这一点,所以我希望看到更多的投资,希望有一点多样化。
版权声明
本文仅代表作者观点,不代表xx立场。
本文系作者授权xx发表,未经许可,不得转载。
发表评论:
◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。