“人工智能让世界变得更愚蠢”。专家警告AI炒作“很快就会破灭”
参考新闻网8月14日报道 据德国《商报》网站7月15日报道，现年54岁的认知科学家加里-马库斯是人工智能(AI)圈子里最具争议的人物之一。环抱所谓的年夜型语言模子的才能，马库斯与开放人工智能研讨中心(OpenAI)首席执行官萨姆-奥尔特曼以及特斯拉首席执行官埃隆-马斯克争论不休。奥尔特曼和马斯克预计，人工智能将很快成长出类人的才能。
马库斯却看到了另一种危险：他以为，新的人工智能模子只是一场炒作，“很快就会幻灭”。
《商报》记者问：马库斯老师，您可能是最有名的OpenAI批驳者。奥尔特曼公司的哪一点让您不满。
马库斯答：我并不否决OpenAI或奥尔特曼本人。我否决的是虚伪许诺。
问：虚伪许诺是指。
答：OpenAI发布，其使命是开发能造福全人类的通用人工智能。人们可以向它提出任何问题，它会理性地给出正确谜底。但现实上，OpenAI的软件既不平安也弗成靠，且轻忽了"好处。
问：奥尔特曼说，OpenAI离实现通用人工智能可能只差一两次突破。
答：我以为，这是炒作和无稽之谈。
问：为什么。
答：看看新模子GPT-4o，我以为它是构建GPT-5的一次失败测验考试。OpenAI曾多次暗示，即将推出GPT-5，然后通用人工智能就会到来。事实倒是，人工智能的成长速率比来一直在放缓。OpenAI走错了偏向。
问：走错偏向。跟着谈天机械人ChatGPT的推出，OpenAI激发了前所未有的人工智能高潮。
答：ChatGPT或许很受迎接，但并弗成信。我对精明的企业家没什么意见，但必需指出当下贱行的人工智能模子的技术局限性。只有降服这些局限性，人工智能的成长能力进入值得信赖的轨道。
问：详细是什么让您不安。
答：我不以为年夜型语言模子(天生式人工智能的一个子集)真的是一个好的办理计划，只管它们很受迎接。它们包藏了太多风险，此中最严重的是差错信息，另一个则是幻觉。
问：也便是说，这些模子会编造谜底和成果。
答：恰是。什么是年夜型语言模子。它是一种概率模子，可以计算出句子中最有可能呈现的下一个词。其成果是，体系拥有惊人的仿照才能，但并不真正聪慧。它们或许可以很好地解答80%的问题，却对剩下的20%险些一筹莫展。人们可以和谈天机械人评论辩论险些任何工作。有时谜底是对的，有时是错的。但我们无法猜测何时会失足，这是一个年夜问题。
问：人类不会犯错吗。
答：人类当然会犯错，但人的差错与机械的差错判然不同。此外，人类在某些范畴异常精彩，当今的机械则否则。以人工智能辅助驾驶为例：我们看到，许多事故都是由人类驾驶员高估机械的才能造成的。他们看到机械正确驾驶了45分钟，于是就以为“太好了,我能相信它”。从统计学角度看，这种设法主意很愚蠢。一辆在95%的场景中主动驾驶的汽车，会在20种环境中的某一种中做失足误决议。这可能会要了我们的命。这是弗成接受的。
问：马斯克以为，更多的数据将完美主动驾驶。OpenAI也提出，数据越多，语言模子越强。
答：这是误入邪路。我们看到，新推出的模子变体带来的回报逐渐削减。提高速率放缓。我们不会由于模子越来越年夜而实现通用人工智能。
问：您怎么能如斯肯定呢。
答：没有什么是肯定的。但在我看来，用越来越多的数据“豢养”模子，从而实现通用人工智能，这种可能性微乎其微。一方面，基本没有足够的好数据。OpenAI已经搜索了互联网上的人类文本，如今又在转录优兔(YouTube)视频，但仍旧不够。另一方面，今朝还不清晰更多的文本是否真的有助于人工智能的成长。就拿我的孩子们来说：他们比任何人工智能都要聪慧，但他们并没有翻阅整个互联网。为什么。由于他们能更高效地阐发数据，并从更多渠道获取数据：经由过程眼睛、耳朵和感觉从实际生涯获取数据。人类构建了天下运行的因果模子，但天生式人工智能做不到这一点，以是我们无法真正相信它。
问：很多人都愿望用所谓的合成数据，即人工智能天生的数据，来训练他们的模子。
答：这是主流人工智能捉住的下一根救命稻草，其背后的设法主意异常糟糕。人工智能体系会产出全是幻觉的糟糕数据，然后它们又被用来训练其他体系。成果便是，越来越多的虚伪信息污染了互联网。人类已经在用天生式人工智能来快速炮制弗成靠的产物，例如未经研讨、未经核查的列传。如许一来，人工智能不会让天下变得更聪慧，而是变得更愚蠢。
问：ChatGPT经由过程了图灵测试。这是数学家艾伦-图灵在1950年提出的一项测试：假如人类以为一台机械的答复是人类的答复，那么这台机械便是智能的。
答：请托，图灵测试太可骇了。大概这曾是个巨大的设法主意，但它已经有74年汗青了，经不起光阴的磨练。图灵测试更实用于验证人类有何等容易受骗上当。我们如今就能树立一个体系，在短期内骗过一个没有受过生理学某人工智能训练的无邪的人。但这并不克不及证实什么。图灵测试切实其实提出了一个正确的问题：什么是智能。但我们仍未找到谜底。