近日，被称为“人工智能（AI）教父”的杰弗里·辛顿（Geoffrey Hinton）证实，他已经从工作了十余年的谷歌离职，他表示对自己在开发人工智能这项技术中的角色感到遗憾，并就其长期推广的AI技术风险发出警告。Hinton形容称，AI聊天机器人所带来的某些危险“相当恐怖”。
Geoffrey Hinton指出，生成式人工智能语言模型可能会导致虚假信息、照片和视频等在互联网上大量传播，而公众极易被其迷惑，很难分辨真假。此外，Hinton还表达了对科技巨头之间AI竞赛的担忧，并质疑巨头们是否走得太远，并无法在危险出现时及时踩下刹车。
（Geoffrey Hinton）
1、AI教父的担忧
被称为人工智能教父的Geoffrey Hinton，一直都是该领域最受尊敬的先驱之一。1972年，Hinton在爱丁堡大学开始了他的研究生生涯。在那里，他首次开始研究神经网络：一种通过分析数据来学习技能的数学系统。当时很少有研究人员相信这一概念能成真，但它却成为了Hinton此后学术生涯的重要课题。
2012年，Hinton和他在加拿大多伦多的两名学生创建了一家专注于“神经网络”的公司，其团队当时通过分析数百万张照片打造出一款可区分动物、物体图片的“神经网络系统”，能识别常见物体，如花、狗和汽车，被视为当代AI的基础。神经网络成为他与两名学生共同创建的公司DNNresearch背后的突破性概念，该公司最终在2013年被谷歌以4400万美元收购。值得一提的是，Hinton其中一名学生Ilya Sutskever如今成为了OpenAI首席科学家。
2018年，Geoffrey Hinton、Yann LeCun和Yoshua Bengio一起因对神经网络的研究获得了2018年的图灵奖，而神经网络正是ChatGPT、Bard等聊天机器人背后的奠基性技术。
（Yann LeCun、Geoffrey Hinton和Yoshua Bengio）
自2013年加入谷歌以来，Hinton把深度学习技术带进了谷歌的多项业务，直接推动谷歌成为了AI技术最出色的公司之一。在这十年生涯中，Hinton一直看好谷歌在人工智能技术上谨慎的态度。他表示，直到去年，谷歌一直谨小慎微地不去发布可能造成危险的AI，这恰恰解释了谷歌在这波人工智能浪潮中落后的原因。但是现在，微软为其必应搜索引擎接入GPT-4的能力，已经让谷歌焦急地不得不做点什么。
在最近接受纽约时报的专访中，Geoffrey Hinton表示，自己此次从谷歌离职并不是因为要批判谷歌，而是他能够在不影响谷歌的情况下，去真实地谈论AI的潜在风险。
在接受媒体采访时，Hinton坦言“我只能这样安慰我自己：即便是我不做相关研究，也会有其他人从事这项研究。”而一份内部文件显示，在过去一年里，Hinton减少了自己在谷歌的上班时间。去年3月，他只有20%的时间在全职工作；同年晚些时候，他被分配到了一个新团队担任职务。
（Hinton在社交平台的相关推文）
Hinton目前最担心的一方面是在人工智能技术的支持下，互联网将很快被各种虚假信息淹没。这些信息包括文字、照片、视频等，而普通人将越来越难分辨这些信息的真假，引发社会的失序。
另一方面，人工智能最终会对人类劳动力市场产生冲击，迟早会颠覆就业市场。如今，像ChatGPT这样的聊天机器人往往能很好地辅助人类工作，可能造成律师助理、翻译和行政性工作方面的大量裁员。这也是包括OpenAI首席执行官Sam Altman在内的行业专家们的忧虑所在。
最后，Hinton还担心GPT-4迭代会对人类构成威胁，“因为AI可能通过大量的数据和分析，出现一些令人意想不到的行为。”Hinton解释道，一些公司和个人已经允许AI写代码，甚至自主运行代码。“我担心未来类似于‘杀人机器人’的自动化武器可能成为现实。现在很难防止坏人利用AI做坏事。”
Hinton指出，大多数人认为人工智能比人还聪明的未来还很遥远，他之前也认为这个可能性还需要30-50年时间去实践。但现在，他的想法改变了。
（Geoffrey Hinton）
Hinton的担忧似乎也引发了谷歌一些现职员工的共鸣。据测试谷歌人工智能Bard的一些员工称，AI很危险，而谷歌也似乎并没有把人工智能的道德放在首位，反而急于求成，希望赶上OpenAI的ChatGPT技术。
但谷歌首席科学家Jeff Dean澄清称，谷歌致力于负责任地开发人工智能，不断学习、了解这项技术可能出现的风险，同时也在大胆创新。
2、加速还是暂停？
在此次Geoffrey Hinton发声之前，最近几个月来人工智能领域就已经发起过两波大型的联名，呼吁谨慎地发展人工智能技术。
一次是由马斯克，图灵奖得主、深度学习三巨头之一Yoshua Bengio，《人类简史》作者尤瓦尔·赫拉利等上千位产学研代表联名发表公开信，呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统，为期至少6个月，以确保人类能够有效管理其风险。另一次则是由拥有40多年历史、人工智能领域最权威学术机构之一的人工智能促进协会（AAAI）的19名现任及前任领导人所发布的联名信。
（马斯克）
目前，一些AI的投资人、研究者也纷纷转发了Geoffrey Hinton的访谈，呼吁学界、工业界、政府监管机构应该快速行动起来，趁当前技术还在可控范围内，尽快制定好监管框架和应用方案等。
对于AI研究暂停，也有人提出了不同的看法。就在昨天，针对马斯克等上千人呼吁暂停先进人工智能(AI)开发一事，微软首席科学官Eric Horvitz给出了相反的观点。他认为，AI真正需要的是加速投入，而不是暂停。“我真的很尊重那些在公开信上签名的人，”他表示，“我认为人们担心是合理的……对我来说，我更希望看到更多的知识，甚至加速研发，而不是暂停六个月。我不确定暂停是否可行。从某种程度上说，这是一个非常不明确的要求。”他补充道：“从更广泛的意义上说，六个月的暂停意义不大。我们真的需要在理解、指导甚至监管这项技术上投入更多，参与进来，而不是暂停。”
（Eric Horvitz）
在过去几年里，AI 技术经历了飞速的发展，极大地推动了行业的创新和进步。从去年年底开始，生成式 AI 开始狂飙，正以天为单位迭代，在这个快速发展的行业中，ChatGPT、多模态、大模型等 AI 技术不断涌现，AIGC 已成为科技巨头们逐鹿的新战场。
AI发展如此之快，到底是“福”是“祸”？我们还需拭目以待。
部分内容来源：
https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html
