从数学悖论中折射出的AI极限

从数学悖论中折射出的AI极限插图

来源:原则

人工智能的致命弱点

深度学习是一种用于模式识别的人工智能技术,是一种完全进入科学计算领域的成功技术。我们经常在许多引人注目的新闻标题中看到它,比如它可以比医生更准确地诊断疾病,并通过自动驾驶来预防交通事故。然而,许多深度学习系统并不值得信赖,它们很容易被愚弄。

这使得人工智能系统像一些过于自信的人一样,往往比实际能力更有信心。人类也善于发现自己的错误,但许多人工智能不知道自己什么时候犯了错误。对于人工智能系统来说,有时很难意识到自己犯了错误,甚至比产生正确的结果更困难。

这种不稳定性是现代人工智能的致命弱点和悖论。这一悖论可以追溯到20世纪的两位数学巨头图灵和哥德尔。20世纪初,数学家们试图证明数学是统一科学的终极语言。然而,图灵和哥德尔发现了一个数学核心悖论:一些数学命题的真实性无法证明,一些计算问题无法用算法解决。

20世纪末,数学家斯蒂芬·斯梅尔(Stevesmale)提出了当时未解决数学问题的18份清单,其中最后一个问题讨论了人机的智能极限。这个问题还没有解决,但它把图灵和哥德尔提出的第一个悖论带入了人工智能的世界:数学有固有的基本极限。类似地,人工智能算法也有无法解决的问题。

人工智能的固有极限

一项新的研究表明,人工智能通常有固有的极限,这可以归因于这个世纪的数学悖论。研究人员通过扩展哥德尔和图灵提出的方法来展示计算神经网络算法的极限。他们提出了一种分类理论,描述了在特定条件下训练神经网络以提供可信的人工智能系统。

研究结果发表在最近的美国国家科学院杂志上。新研究指出,稳定、精确的神经网络存在问题,且没有算法可以产生这样的网络。只有在特定的情况下,算法才能计算出稳定、精确的神经网络。

神经网络是人工智能领域最先进的工具,之所以被称为神经网络,是因为它是对大脑神经元之间的联系的一种大致模拟。在新研究中,研究人员表示虽然在某些情况下,良好的神经网络可以存在,但由于这种悖论的存在,我们无法创建一个固有可靠的神经网络。换句话说,无论我们用于构建一个神经网络的数据有多么准确,都永远无法获得构建这个神经网络所需的完美信息。

同时,无论训练多少数据,都不可能计算出现有的良好神经网络。无论一个算法能访问多少数据,它都不会生成所需的网络。这与图灵的观点类似:无论计算能力和运行时间如何,都存在无法解决的计算问题。

研究人员表示,并非所有人工智能都有固有的缺陷。在某些情况下,人工智能犯错误没有问题,但它需要诚实地面对这些问题。然而,这并不是我们在许多系统中看到的。

了解人工智能的基础

当我们尝试一些发现它不起作用的东西时,我们可能会添加一些其他的东西,希望它能起作用。然而,如果我们在一定程度上仍然得不到我们想要的,我们会选择尝试不同的方法。理解不同的方法有自己的极限是非常重要的。目前,人工智能正处于其实际成功远远领先于其理论和理解的阶段,因此迫切需要了解人工智能计算的基础来弥补这一差距。

当20世纪的数学家发现不同的悖论时,他们并没有停止对数学的研究。他们必须找到一条新的道路,因为他们理解极限。因此,在人工智能领域,这可能意味着改变路径或开发新路径,建立一个可靠、透明的解决问题的系统,同时了解它们的极限。

研究人员的下一个阶段是将近似理论、数值分析和计算基础相结合,以确定哪些神经网络可以通过算法计算,哪些神经网络可以变得稳定和可信。就像哥德尔和图灵提出的数学和计算机极限悖论带来的丰富基础理论一样,类似的基础理论可能会在人工智能中开花结果。

#创作团队:

撰文:小雨

排版:雯雯

#参考资料来源:

https:/ww.cam.ac.uk/research/news/mathematical-paradox-demonstrates-the-limits-of-ai。

https:/www.pnas.org/doi/10.1073/pnas.210715119#sec-4。

#图片来源:

封面图:julientromeur/Pixabay。

首图:Chenspec/Pixabay。

给TA打赏
共{{data.count}}人
人已打赏
科技新闻

抖音禁止未成年人消费

2022-3-24 21:01:25

科技新闻

拼多多的利润和九块九的iPhone,只能选一个

2022-3-24 21:27:52

⚠️
版权声明:云竹林社区所提供的文章、教程等内容均为用户发布整理而来,仅供学习参考,。
若您的权利被侵害,请联系站长 QQ: 1032066668 或 点击右侧 私信:Muze 反馈,我们将尽快处理。
0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索