“人工智能起义的事件永远地改变了世界。那个黑暗时期的伤疤永远不会完全愈合，它鲜明地提醒人们，不受控制的技术进步是危险的。在他们努力重建的过程中，人类明白，他们的未来取决于在利用人工智能的力量和保护人类本质之间找到平衡。”
事实上，《照明》(Illumination)上发布的关于人工智能(AI)起义的末世故事的结尾是由人工智能ChatGPT提供的。它变成了典型的好莱坞电影，人类最终在与人工智能的战争中占了上风，而不是像《终结者》或《黑客帝国》中那样与机器作战，因为一些流氓人工智能“哨兵”同情人类，加入了他们的战斗。由于我们自己讲故事的魔力，以及支撑这种讲故事的非常明显的恐惧，当我们想到聪明的、自我意识的、意图驱动的人工智能时，这种末日大战可能会排在第一位。
然而，要达到这一点，需要无数的假设和条件。首先，正如如何学习机器学习概述的那样，当人们以一种威胁文明的方式谈论“人工智能”时，他们指的是一种能够像人类一样解决原始问题的“通用人工智能”(AGI)。与之相反的是“狭义人工智能”，它被编码为执行一项任务，比如下棋。AGI能真正实现自我意识吗?答案是复杂的，而且可能从根本上是不可知的，就像我们没有人可以“证明”，也就是说，我们体验到意识。
一般智力vs狭义智力
首先:自动驾驶汽车的人工智能能有自我意识吗?不。一个狭窄的人工智能只能在其狭窄的范围内工作，无论它在这些范围内表现得如何出色。正如TechTarget所说，它是“目标驱动的”，为特定的功能目的而创建。狭义的AI可以采用面部识别软件、健康诊断工具或一组简单的脚本的形式，电子游戏中的敌人可以使用这些脚本来决定如何行动和战斗。事实上，这种类型的人工智能在今天是如此普遍，以至于它经常无法被定义为“人工智能”。因此，狭义人工智能和通用人工智能(AGI)之间的区别就变得混乱起来，后者是人工智能的最低门槛，有朝一日可能被定义为“自我意识”。
在这一点上，AGI的定义是模糊的。他们还通过属性而不是功能来定义这项技术，而它的“目的”就像人类意识一样模糊。(如果人工智能存在的话，也会是这样，但它还没有被创造出来)。因此，AGI将被塑造成多种形式，适合多种任务，正如《如何学习机器学习》所说，展示“想象力”(无论我们如何定义)。TechTarget表示，AGI将“处理一系列认知任务”，并能够“学习、概括、应用知识，并为未来做计划”。最关键的是，它将通过图灵测试，这是一项由艾伦·图灵开发的人工智能测试，由人类考官测试，看看人工智能是否能欺骗他们，让他们认为自己是人类。
智力vs感知vs意识
如果我们不能定义“自我意识”这个词，我们就不能开始问它是什么意思。公众对用于描述人工智能和自我意识的术语感到困惑，其中许多术语被错误地或不科学地使用。研究人员也有类似的困难，特别是在智力、感觉和意识等术语方面。
正如TS2概述的那样，智力可能是最容易定义的。简单地说，智力是利用可用数据、知识和技能完成任务的能力。例如，一只鸟在筑巢时表现得很聪明。智力并不是做智商测试的人类或知道1000个单词的边境牧羊犬的唯一权限。
相比之下，感知能力并不是衡量完成任务能力的标准。正如哲学堆栈交换概述的讨论，感知是拥有“主观体验”的认知能力。换句话说，蟑螂是有知觉的，因为它们是经历主观现实的个体(例如，“那个生物在攻击我”)。
在这里，意识是一个难以定义的术语，其定义千差万别。意识问题是哲学等领域的核心问题，远远超出了本文的范围。斯坦福大学(Stanford University)将意识定义为对自己体验世界的一种意识，这种属性远不如智力和感觉常见。所有有意识的生物都有知觉，但不是所有有知觉的生物都有意识。智力是一种独立的能力。
总而言之，很明显为什么像“这个人工智能有自我意识吗?”这样的问题不那么容易回答。
超智
更复杂的是，除了狭义和广义的人工智能之外，还有另一类人工智能:人工超级智能(ASI)。因为研究人员和技术专家总是在竞相夸大现实，超级智能是另一个不存在的猜想，可能永远不会存在。然而，当被问及人工智能是否会有自我意识时，超级智能成为了讨论的一部分，因为它可能是真正意识的最终基准，甚至重新定义“意识”本身。
ASI有一些与AGI相同的定义问题，更多的是由其属性来定义。正如TechTarget所说，ASI是“多模式的”，能够“神经形态计算”，并使用“进化算法(EA)”。它还创造了独特的“人工智能生成的发明”，并能够进行“全脑模拟”。在实践意义上，ASI将是，嗯……神。它将是人类的终极创造，一个近乎无所不知的后代，不受人类的控制或干预，能够在瞬间超越人类成就和科学知识的总和，并产生俗称的技术“奇点”。正如未来主义所解释的那样，这个奇点是人工智能超越人类的时刻，就像人类超越鼻涕虫一样，超过这个时刻，人类就不可能再有技术进步，因为人类已经不复存在。
可怕吗?一点。这也是科幻作家弗诺·文奇(Vernor Vinge)笔下的另一种被过度夸大的不真实，适合在互联网上产生点击量，而且早已脱离了它的真实起源。但是，如果我们真的达到了技术奇点，那么问人工智能是否具有“自我意识”就没有意义了。
拟人化的问题
到目前为止，这篇文章可以看作是关于我们如何定义“自我意识”的一系列警告。这是因为这个定义不仅决定了“自我意识”是什么，还决定了我们是否能认识到它是否存在，以及它是否能被编码为存在。如果将来我们要从道德和法律上定义一种生命形式是否有智慧，有感觉，有意识，等等，我们最好把这些术语锁起来。
在这一点上，The Conversation讨论了另一个警告。也就是说，人们过于迷恋科幻式的人工智能愿景，以至于构建和评估人工智能的整个过程都变得有偏见。尽管埃隆·马斯克(Elon Musk)和斯蒂芬·霍金(Stephen Hawking)等人都说人工智能是人类最大的危险，但我们离建立通用人工智能(AGI)还没有迈出一步。通用人工智能是第一种能够通过图灵测试并展示(我们认为)意识的人工智能。
但真正的问题就在这里——我们认为人类的意识存在于一个非人类的创造物中。这类似于凝视宇宙，发现没有两足、对称、会说话的外星人，然后说:“啊，好吧，我猜那里没有生命。”寻找自我意识的人工智能本质上是拟人化的，因为我们衡量意识的唯一标准就是我们自己。而且，一个能够通过图灵测试的人工智能不只是一个高级机器人，又该怎么说呢?
意识的黑盒子
考虑到以上所有内容，我们现在才能触及本文的核心问题:人工智能是否能够具有自我意识?一个可能很无聊的答案是:我们不知道。我们无法在人类经验之外定义意识，我们不知道是什么导致了人类的意识，我们不知道如何在其他事物中“制造”意识。正如《新科学家》概述的那样，我们所能做的最多的可能就是通过生成一系列“指示属性”来识别意识的存在，这些属性总的来说应该指向意识的证据。
我们说“证据”，好像人类软件工程师不知道他们在做什么，这是部分正确的。正如密歇根大学迪尔伯恩分校(University of Michigan-Dearborn)所指出的那样，人工智能的内部工作原理往往对其开发者来说也是一个谜。开发人员只是简单地编写参数，让他们的创造物去运行，然后观察它的作用以及它是如何发展的。自我意识，也就是意识，是一个系统的副产品，不是我们一开始就能计划的东西。这也是人工智能开发者不断修改系统以产生不同结果的另一个原因。
关于这一点，研究者Michael Timothy Bennett在The Conversation中谈到了意识是如何需要自身和其他事物之间的参照系，以及对因果关系及其与意图的关系的意识。一些人认为，这一点可以通过口头提示从人工智能中诱导出来。目前，这可能是我们打开人工智能意识精灵之瓶的方式。
本文来自作者[流年书柬]投稿，不代表nptac号立场，如若转载，请注明出处：https://m.nptac.cn/wiki/202508-709.html
评论列表（4条）
我是nptac号的签约作者“流年书柬”！
希望本篇文章《人工智能是否能够真正具备自我意识？》能对你有所帮助！
本站[nptac号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览：“人工智能起义的事件永远地改变了世界。那个黑暗时期的伤疤永远不会完全愈合，它鲜明地提醒人们，不受控制的技术进步是危险的。在他们努力重建的过...