j9九游会有网友直接懵住:到底发生了什么?还是我漏掉了什么?你不是曾说过GPT-4为人类的蝴蝶吗?
不少人还认为Hinton此举有待商榷,应该将关注人工智能安全工作常态化而不是离职。
甚至还有人劝他理解AI,而不是通过延迟研究来限制。现在潘多拉魔盒已经打开。
但Hinton的态度似乎十分坚定,在访谈中直言:对自己毕生的工作感到后悔。
据《》消息,Hinton的离职是在4月提出的。辞职的理由一言以蔽之j9九游会,是对人工智能风险的担忧。
我对自己毕生的工作,感到非常后悔。 我用一个借口来安慰自己,如果我没有这么做,还会有其他人。
在微软将ChatGPT引入Bing后,挑战了谷歌的核心业务搜索引擎,然后谷歌马上推出了Bard作为应对。这让Hinton觉得,谷歌似乎不再扮演AI“好管家”的角色了。
而且科技巨头们正在掀起一场无法停止的角逐j9九游会。由此带来的影响,将是生成式AI生产出非常多真假难辨的内容。
而从长远来看,Hinton认为,AI将会对就业市场造成巨大影响。如助理、翻译等各行各业都可能被扰乱。
因为个人和企业不仅允许AI生成代码,实际上AI也有能力运行这些代码。因此Hinton认为有朝一日那种具有自主能力的杀手机器人,会成为现实。
他表示,AI实际上可以比人类拥有更聪明的想法——一些人相信这一点。但是他没有预料到人工智能的发展速度会像过去7个月那样快。
这种想法,和之前十余位美国人工智能协会专家联名发出的警告j9九游会,有些相似之处。不过在那时,Hinton并没有参与这项活动。
据《》消息,离职前,谷歌CEO桑达尔·皮查伊和他通过电话,但具体内容Hinton不愿透露。
这场离职风暴中,谷歌研究首席科学家、谷歌高级副总裁Jeff Dean发表了一份声明,表示:
我们仍会坚持对AI采取负责任的态度。我们在不断学习理解新出现的风险时,也在大胆创新。
对于Hinton的离职,另一位深度学习三巨头之一LeCun表示,Hinton并没有和他透露要离开谷歌的打算,不过他对此并不感到十分惊讶。
ChatGPT、大模型让全球对于通用人工智能的想象更加具象,其背后的安全与风险等问题也被搬上日程。
早在GPT-3刚出炉,其他两位图灵奖得主LeCun和Bengio都持不看好态度时,Hinton却表示j9九游会,从GPT-3出色的性能可以推断,生命、宇宙和万物的答案“不过是4.398万亿个参数而已”。
毛毛虫提取营养物质,然后转化为蝴蝶。人们已经提取了数十亿的理解金块,而 GPT-4 是人类的蝴蝶。
而现在,随着ChatGPT风暴席卷越来越多的行业,Hinton想要站出来承担人工智能危机“敲钟人”的角色,就已经到了关键时刻。
值得一提的是,在通用人工智能探索的最前沿,Hinton的学生们仍扮演着重要角色j9九游会。
当年,Hinton与他的两位学生Ilya Sutskever和Alex Krizhevsky共同发明了卷积神经网络AlexNet,拿下当时最权威的人工智能大赛ImageNet第一名,而且精确度是第二名的两倍。
后来,他们还一起成立了公司DNNResearch,后被谷歌4400万美元收购。
Ilya Sutskever担任Google Brain的研究科学家,并成为后来AlphaGO众多合著者之一。直至2015年底他离开谷歌,加入OpenAI担任联合创始人以及首席科学家。