WAP手机版 RSS订阅 加入收藏  设为首页
电子游艺苹果版app下载

电子游艺苹果版app下载:人工智能的幻觉大多是由于人工智能对知识的记忆和理解不足

时间:2023/11/24 9:11:14   作者:   来源:   阅读:0   评论:0
内容摘要:“从技术角度来看,人工智能的幻觉大多是由于人工智能对知识的记忆和理解不足、训练方法的固有缺陷以及模型本身的技术局限性造成的。”张敏承认,人工智能的幻觉会导致知识偏差和误解。它有时甚至会导致安全风险、伦理和道德问题。人工智能错觉仍然难以消除尽管人工智能错觉很难在短期内完全消除,但业界正试图通过技术改进和监管评估来减轻其影...

“从技术角度来看,人工智能的幻觉大多是由于人工智能对知识的记忆和理解不足、训练方法的固有缺陷以及模型本身的技术局限性造成的。”张敏承认,人工智能的幻觉会导致知识偏差和误解。它有时甚至会导致安全风险、伦理和道德问题。

人工智能错觉仍然难以消除

尽管人工智能错觉很难在短期内完全消除,但业界正试图通过技术改进和监管评估来减轻其影响,以确保人工智能技术的安全可靠应用。电子游艺苹果版app下载

“现阶段很难完全消除人工智能的幻觉,但我们可以尝试减轻它。”张敏表示,在预训练、微调强化学习、推理生成等阶段采用适当的技术手段,有望缓解AI幻觉现象。

据介绍,在预训练方面,要加大对知识密集型数据和高质量数据的选择和过滤;在微调强化学习过程中,在模型知识边界内选择训练数据是非常重要的;在推理生成过程中,可以对外部知识进行检索,使模型生成结果有依据可循。此外,改进解码搜索算法也是一种可行的解决方案。

腾讯AI实验室联合国内外多家学术机构发布的一篇综述也表达了同样的观点,认为多智能体交互、指令设计、人在环、模型内部状态分析等技术也可以成为缓解AI幻觉的途径。

值得一提的是,哈尔滨工业大学(深圳)自主研发的立知文大模型和九天多模态大模型对上述缓解AI幻觉的方式进行了深入探索,并取得了显著效果。



本类更新

本类推荐

本类排行

本站所有站内信息仅供娱乐参考,不作任何商业用途,不以营利为目的,专注分享快乐,欢迎收藏本站!
所有信息均来自:百度一下 (电子娱乐官方网站)
浙ICP备18027881号-2