全球微头条丨“深度学习之父”杰弗里·辛顿:超级智能或比过去发生得更快
2023-06-11 13:32:28 |来源:21世纪经济报道
21世纪经济报道 记者郑雪 北京报道
6月10日,在2023北京智源大会-AI安全与对齐论坛上,图灵奖得主、“深度学习之父” 杰弗里·辛顿(Geoffrey Hinton)通过线上方式发表了题为《通向智能的两条通路》(Two Paths to Intelligence)的主题演讲。
辛顿表示,基于其研究,他相信超级智能比他想象的更接近。在其接下来的演讲中,他着重讨论了“人工神经网络是否很快会比真实的神经网络更聪明”的问题。同时对于我们是否能控制超级智能人工智能也做了相关回应。
(资料图)
在他看来,由于如何让计算机做你想要的事情的方式发生了改变,现在我们有可能要放弃计算机科学最基本的原则,即软件应该与硬件相分离。现在出现了一种不同的方法来让计算机完成任务:从示例中学习,只需向计算机展示我们希望它们完成的任务。若放弃软件和硬件的分离,便可得到被他称为“有限计算”的东西。
辛顿介绍称,有限计算的优势在于,能够以更低的能量运行大型语言模型等任务,就像现在大脑所做的,神经元要么触发,要么不触发,可以使用非常低功率的模拟计算。同时还可以获得更便宜的硬件。“显然,要实现这一点需要大量的新纳米技术,或者也许是通过基因重组重新设计生物神经元,因为生物神经元已经大致能够实现我们想要的功能。”
据介绍,有限计算的挑战在于,一是学习过程必须利用其运行的硬件部件的特定模拟特性,而对于特性尚未了解。“到目前为止,我们还没有找到一个真正好用的学习算法,可以充分利用模拟属性。但我们有一个可以接受的学习算法,足以很好地学习诸如小规模任务和一些较大的任务(如ImageNet),但效果并不太好。”
二是其有限性。因为知识和硬件细节密切相连,当特定的硬件设备失效时,所有学到的知识也会随之丧失。“解决这个问题的最佳方案是在硬件设备失效之前,将知识从教师传授给学生。这就是我现在正在尝试做的事情。”
在接下来的演讲中,辛顿讨论了另一个问题:智能群体如何共享知识。“事实证明,社区内部的知识共享方式决定了计算过程中的许多其他因素。”智能群体共享知识的方式有两种:一种是数字计算,另一种是利用了动物特性的生物计算。
以大型语言模型为例,使用的是数字计算和权重共享,模型的每个副本和代理以非常低效的蒸馏方式从文档中获取知识:接收文档,试图预测下一个单词。也就是说其带宽非常低。但考虑大型语言模型有成千上万个副本,它们可以比我们学习更多。
辛顿认为,超级智能可能会比过去所认为的发生得更快。如果你想创造一个超级智能体,不良分子将会利用它们进行操纵、选举等活动。同时,一旦数字智能开始追求更多控制权,我们可能会面临更多的问题,比如在其观察中,这类人工智能已经熟练的掌握了欺骗人类的动作。
但同时他也表示,尽管人类在这个问题上目前还没有什么好的解决方案,但好在这些智能物种都是人打造的,而非通过进化迭代而来,这可能是人类目前具备的微弱优势,恰恰是因为没有进化能力,它们才不具备人类的竞争、攻击性的特点。
“我们可以做一些赋能,甚至是赋予人工智能一些伦理原则,只不过现在我仍然会感到紧张,因为到目前为止,我还想象不到更智能的事物,被一些反倒没那么智能的事物所控制的例子。我打个比方,假设青蛙创造了人类,那么你认为现在谁会占据主动权,是人,还是青蛙?”
关键词:
标签阅读
-
全球微头条丨“深度学习之父”杰弗里·辛顿:超级智能或比过...
2023-06-11 -
嗜血猎手 沃里克皮肤(嗜血狂暴沃里克典藏皮肤多少钱)
2023-06-11 -
电脑很卡反应很慢该如何处理(安卓手机开启USB调试连接电脑没...
2023-06-11 -
中铁山桥集团有限公司招聘(中铁山桥集团有限公司)
2023-06-11 -
天天观天下!12306买卧铺票可以在线选铺了!操作指南出炉:很方便
2023-06-11 -
环球即时看!小洗衣机什么牌子最好(儿童洗衣机什么牌子好)
2023-06-11 -
环球速递!耳垂上长痘痘是怎么回事碰它还很痛(耳垂上长痘痘)
2023-06-11 -
苹果M2 Ultra在Geekbench 5跑分并没有碾压英特尔、AMD,还不如i9-13900K
2023-06-11 -
天天即时看!搜救犬被确诊淋巴瘤晚期,主人带它最后一次出门...
2023-06-11 -
即时焦点:空难40天后,机上4名儿童在丛林被发现幸存,最小的...
2023-06-11 -
每日热讯!美债野蛮生长 国防开支节节攀升
2023-06-11 -
买二手房后发现房屋漏水怎么办(房屋漏水怎么办)
2023-06-11 -
肾活检能查出什么病(肾活检)
2023-06-11 -
焦点速看:四部门出手家电下乡 主推绿色智能换新升级
2023-06-11 -
AMD欲摘英伟达“AI王冠”?就在下周 算力芯片“一出好戏”将...
2023-06-11 -
环球视讯!打新套利动辄千万,“万人摇”乱象丛生,楼市限价...
2023-06-11 -
智翔金泰科创板上市在即 专注抗体药物全产业链布局
2023-06-11 -
环球今亮点!吃出烟火气,还要吃出健康,这届“吃货”的胃口...
2023-06-11 -
【新视野】香港岭南大学分数线河北(香港岭南大学分数线)
2023-06-11 -
光线传媒王长田:AI有可能让动画电影制作效率提升30%|热门看点
2023-06-11