现在, 有这么多的文章, 播客, 关于人工智能将如何超越人类智能的博客和评论——无论是好是坏. 这是 所谓的“人工智能奇点” 这代表了人工智能在能力上超过人类大脑的临界点. 但是演讲者忘记了几个重要的论点.
第一，人工智能实际上并没有模仿人类的思维. 当我们不了解大脑的全部功能时，它怎么能做到呢? 需要指出的是，人工智能是由有自己误解的人类创造的, 偏见和局限性. 也, 人工智能系统本质上缺乏如此多的人类属性, 比如同理心, 痛苦, 恐惧, 还有幽默感.
在一个 之前的文章，我指的是研究表明小脑可能具有认知功能. 最近发表的文章描述了 先前未被认识到的小脑功能 和 脑干. 此外， 最近发现了一种新的脑细胞. 很明显，关于人类的大脑和精神还有很多需要了解的地方.
So, 我的观点是:如果我们对这个神秘器官的工作原理不甚了解，我们就无法用计算机技术重建整个大脑. 我特别担心的是，我们并没有复制在我们大脑中运作的护栏——无论是逻辑的还是物理的. 进一步, 大脑的许多思维功能远远超出了大脑皮层和, 与人工智能, 我们只是试图复制大脑皮层的一小部分功能. 也许我们对人工智能失控的担忧源于人工智能对大脑功能的部分模拟. 这意味着我们不能通过将AI的行为与人类的思维进行比较来预测AI的行为，因为它们并不等同.
另一个问题是，人工智能系统缺乏人类的许多方面, 比如同情, 同理心, 痛苦, 害怕受伤和死亡, 幽默, 等. 是的，他们可能“表面上”表现出这种情绪，但在内心深处，他们实际上并没有感受到这些情绪. 这让人担心我们可能正在创造一群精神变态的怪物. 这种担忧部分来自于不知道人工智能系统将如何调整其行为以适应各种意想不到的情况. 毕竟, 这并不是说人工智能系统真的“关心”我们, 它们的创造者可能只是对创造很酷的技术感兴趣, 为自己赚钱和/或积累权力, 不管别人付出什么代价.
然而，另一个问题——许多人似乎没有认识到——是人工智能系统反映了偏见, 其创造者的偏见和人生观. 人工智能系统是为了赚钱而创造的. 自然界生物的主要动机是生存，以便繁殖自己. 为什么人工智能系统想要繁殖以确保其“物种”的生存?? 答案是它们不会，但它们的创造者可能会.
编者按:有关此主题的更多见解，请阅读C. 沃伦·阿克塞尔罗德最近在ISACA期刊上发表的文章， “减少自主系统中的人类和人工智能风险.”
