塞龙信息门户网
首页
时事
文化
旅游
体育
娱乐
教育
综合
军事
科技
健康养生
社会
汽车
国际
财经
您当前的位置 : :塞龙信息门户网 >旅游> 人有两种记忆,而基于深度学习的AI只有一种,所以AI有问题?
人有两种记忆,而基于深度学习的AI只有一种,所以AI有问题?
2019-10-30 18:27:33    来源:塞龙信息门户网
  

9月21日至22日,由中国人工智能学会和青岛市组织的2019年第五届中国人工智能大会在青岛胶州举行。

在人工智能领域女科学家子论坛上,中国科学院科技战略研究所研究员李甄珍表示:“当技术发展到一定阶段,人工智能与自然和社会融为一体时,它会锁定技术,因此很难改变。今天最大的任务是在技术完全锁定之前重新调整和设计其发展方向。”

人工智能技术不断进步,应用场景逐渐丰富,其中不乏争议。一键变脸和一键脱衣服功能的应用既有趣又有趣,它们带来的伦理问题也发人深省。

随着大数据的推广和学习的深入,人工智能在语音识别、图像识别等领域取得了快速进展。然而,如果噪声被添加到语音和图像材料中,机器识别可能会出错。

同样值得注意的是,如果用于机器学习的大数据有缺陷,训练有素的人工智能容易产生偏差和错误。

李甄珍说,技术和社会是相互影响的。在工业社会中,技术的革命力量推动了人类价值观的变化。在后工业时代,技术的迅速发展促使人们追求自由、民主、公平和正义的概念,这反过来又成为人们面对社会复杂性的最实际行动。

她认为,随着人工智能逐渐达到人类智能的水平,它将不仅仅是技术,而且是技术、社会、文化和价值的结合。

考虑到当前的技术问题和未来的技术路径,可信人工智能的概念应运而生。

李甄珍认为,可信人工智能的核心理念是以人为本,它是由法律人工智能、伦理人工智能和稳健人工智能相结合而形成的,要求技术方法和非技术方法相结合。

具体来说,人工智能的要素包括算法、计算能力(计算机的计算能力)和数据(大数据)。从可信人工智能的角度来看,数据不仅要追求数据的数量,而且要合乎伦理和规范。该算法不仅是一种技术,而且是劳动、交通、餐饮、城市物流、技术研发等要素的结合。当计算能力大大提高了机器的自动化水平,而机器是社会行为者时,就有必要使用法律和伦理规则来规范和校准机器的行为。

从这个角度来看,“可信人工智能是一个与人类人工智能相当的价值主张。”李甄珍强调,可信的人工智能应该像人一样,而不是非人,并且应该符合人类的价值观和规范。

李甄珍说,如何将人工智能与人类行为相匹配,可以通过外部控制和内部控制来实现。所谓外部控制就是通过治理机制实现人的监督。内部控制是将人的价值和规范嵌入人工智能系统。

如今,在数据安全和隐私保护监管更加严格的情况下,法律行为和合规性已经成为企业的价值观和意识形态。

"隐私保护和数据孤岛是传统人工智能模型面临的两大问题."李甄珍表示,联邦学习采用加密机制下的参数交换方法,可以保证数据安全,在大数据交换过程中保护终端数据和个人隐私数据,保证通用建模,并在法律合规的前提下提高人工智能模型的效果。

然而,李甄珍强调,即使人工智能是在法律合规的框架内发展起来的,它仍然面临着巨大的问题。因为人工智能本身不断挑战现有的价值观,甚至对现有伦理的基本前提提出挑战,“如何使法律和政策及时跟进是一个非常大的挑战。”

如何将人类价值观和规范嵌入人工智能系统?

人工人脑神经网络的深度学习和大数据的发展“唤醒”了沉默的人工智能。然而,目前人工智能仍然存在许多问题:不可解释、不可理解和不可信。

李甄珍解释说,人类记忆分为陈述性记忆和非陈述性记忆。

例如,在学习游泳之前,阅读相关书籍并记住一些动作的要点。这种记忆是陈述性记忆。经过不断的练习,知识被转化为运动技能,游泳被学习。此时的内存是非声明性内存。

基于神经网络的人工智能模型理论上是基于连接主义(仿生学),学习机制是自上而下的。在生物学意义上,这是自然选择导致物种形成的过程。然而,“它不一定导致高级智能的形成。”李甄珍解释说,非陈述性记忆是在实践中获得的知识,可以通过联结主义来实现。然而,陈述性记忆是在符号系统中表达的知识,属于符号(逻辑主义)人工智能模型。

因此,为了使人工智能达到人类的水平,应该将人类的推理方法、符号逻辑,尤其是游戏逻辑教授给基于神经网络的人工智能,以补充深度学习的不足。

她还强调,当人工智能继续扩展和加强时,将有摆脱人类控制甚至成为人类对立面的风险。此外,当技术发展到一定阶段,当人工智能与自然和社会相结合时,就会导致技术锁定,这是很难改变的。因此,“今天最大的任务是在技术完全锁定之前重新调整和设计其发展方向。”

在调整和设计的过程中,李甄珍认为最大的任务是将人类共同的价值观和规范植入人工智能系统,使机器能够在这样的游戏规则下寻求最优的响应策略。“法律和政策是不可逾越的界限,中间的空间是道德编码的问题。”

杜南大数据研究所研究员闻一伟

nba比分下注

上一篇:黄润秋:70年来,我国已建立2750个自然保护区 下一篇:东营车主注意!国庆节后国内油价或迎“三连涨”
热门资讯
美国女记者新书曝特朗普与第一夫人婚前偷腥,43名女子对其指控
猜你喜欢