有“AI教父”之称的杰佛瑞辛顿（Geoffrey Hinton）证实，他经在上周辞去效力了10年的谷歌，同时更坦言对毕生工作感到遗憾，大谈自己协助开发AI的危险！

辛顿是在5月1日发推宣布自己在4月辞去了谷歌副总裁和工程的职务。他说，在离职后，他可以自由及毫无顾忌的谈论AI的风险了。他也强调，他没要针对谷歌，并强调谷歌已采取非常负责任的行动。

辛顿接受《纽约时报》专访时说，他常常用一些借口，如“如果我没做这些，其他人也会这样做”来安慰自己。

辛顿替谷歌效力近10年，2013年因他创办的DNNresearch公司遭收购而进入谷歌。辛顿团队当时透过分析数百万张照片，打造一款可以区分动物、物体图片的神经网路系统，被视为当代人工智慧的基础，而后他也获得有“电脑界诺贝尔奖”之称的“图灵奖”（Turing Award）肯定。

辛顿担忧AI可能会导致某些工作机会减少，并创造一个许多人分不清什么是真实的世界，而AI正以惊人速度进步，远超出他和其他人的预期。

他说：“有想法认为，AI会比人类更聪明，某些人相信，但更多人是认为错得离谱，我先前也是这么想，我想可能要30到50年甚至更久，但现在我不再这么想了。”

辛顿担心，谷歌会为和ChatGPT、Bing等服务竞争，而放松对公开发布AI的约束，而这可能会引发一系列伦理问题。

短期内，辛顿认为生成性AI或将引发不实资讯的狂潮，而在未来，人工智慧不仅会消灭“繁重的工作”，许多职业的从业者都可能被其取而代之，更长远来看，辛顿对完全自主武器诞生的可能性，及AI模型从训练数据中习得奇怪行为的趋势，感到非常的担忧。

虽然，这些问题中有许多都只存在于理论层面，但辛顿认为，若没及时准备好相关法规和有效控制措施，这种升级将变得无法遏止。

辛顿对AI的立场是从去年开始转变，当时谷歌、OpenAI等公司都已开始开发在他认知中优于人类智慧的AI系统。

他认为，AI在过去5年发展神速，而未来5年可能发生事情将“非常可怕”。

实际上，除了辛顿外，业界有不少专家都曾提议放慢AI发展节奏。其中马斯克及Steve Wozniak为首的多名科技领袖、AI从业者在3月杪时便签署公开信，呼吁人工智慧实验室和相关企业，在至少6个月内不要训练超过GPT-4的技术。

（新闻综合自《联合新闻网》《雅虎科技》

）