(资料图片)
科技讯 《AI前哨》北京时间6月1日消息，ChatGPT开发商OpenAI周三发布了一份研究论文，阐述了如何解决人工智能(AI)“幻觉”的新方法。AI幻觉指的是聊天机器人用编造的信息进行回应。
OpenAI要对抗AI幻觉
ChatGPT或谷歌“巴德”(Bard)这样的聊天机器人会完全捏造信息，表现得好像他们在滔滔不绝地讲事实，这就是AI幻觉。举个例子：在谷歌2月份为巴德拍摄的宣传视频中，这个聊天机器人对詹姆斯·韦伯太空望远镜做出了不真实的陈述。最近，ChatGPT在纽约联邦法院的一份文件中引用了“虚假”案例，涉案的纽约律师可能面临制裁。
OpenAI研究人员在报告中称：“即使是最先进的模型也容易生成谎言，它们在不确定的时刻会表现出捏造事实的倾向。这些幻觉在需要多步骤推理的领域尤其是个问题，因为一个逻辑错误就足以破坏一个更大的解决方案。”
为了对抗AI幻觉，OpenAI找到了一种潜在新策略：训练AI模型在推理出答案的每个正确步骤上给予自我奖励，而不仅仅是等到推理出正确的最终结论时才给予奖励。研究人员表示，这种方法被称为“过程监督”，与之相反的是“结果监督”，这可能会训练出更好的可解释AI，因为这种策略鼓励模型按照更类似人类的“思考”方式进行推理。
“检测和减轻一个模型的逻辑错误或幻觉，是构建一致性通用人工智能(AI)的关键步骤。”OpenAI数学论文生成器(mathgen)研究员卡尔·科布(Karl Cobbe)在接受采访时表示。他指出，尽管OpenAI并非发明了过程监督方法，但该公司正在推动其发展。“这项研究的动机是解决幻觉问题，以使模型在解决具有挑战性的推理问题方面能力更强。”
科布说，OpenAI已经发布了一个附带的数据集，其中包含80万个人类标注，它们用于训练研究论文中提到的模型。科技《AI前哨》对此将持续关注。(作者/箫雨)
更多一手新闻，欢迎下载凤凰新闻客户端订阅科技。想看深度报道，请微信搜索“科技”。
-
AI前哨｜AI胡编乱造怎么办？OpenAI称找到解决“幻觉”方法_全球观速讯科技讯《AI前哨》北京时间6月1日消息，ChatGPT开发商OpenAI周三发布了一份研究论文，阐述了如何解决人工智能
-
苏麻喇姑历经四朝地位尊贵，为何一年只洗一次澡？原因与它有关清朝没有入主中原的时候，他们信奉的就是萨满教，很多王公贵族都信奉萨满教，苏麻喇姑其实不是像康熙王朝 -
小学语文有效教学策略_小学语文教学策略有哪些1、小学语文知识教学策略有“阅读”、“表达”两种基本课型。2、“阅读”分低年级四环节阅读教学、中高年级 -
全球快讯:深化对外开放 共谱合作新曲｜薛侃接待丹麦驻沪总领事一行今天（5月31日）上午，区委书记薛侃接待丹麦驻沪总领事魏鸣珂一行，双方就进一步加强合作交流、促进高水平 -
全球即时：乌龙茶适合什么季节喝1、乌龙茶什么季节喝好 根据不同的气候传不一样的衣服，吃不同的食物，喝不同的茶。2、乌龙茶是我们最常 -
当前通讯！美国信用卡债务触及1万亿美元大关：全美家庭需耗时8年还款2万亿美国信用卡债务触及1万亿美元大关（资料图）海外网5月31日电据美国《国会山报》网站30日报道，美国的信用卡 -
环球热议:他们为听障儿童组建一支合唱团，还登上了世界舞台！天津有一支合唱团，全部由佩戴人工耳蜗的听障儿童组成。在儿童节到来之际，让我们一起走近了解这个合唱团。 -
【环球时快讯】马云一共有多少钱一个亿_马云一共有多少钱想必现在有很多小伙伴对于马云一共有多少钱方面的知识都比较想要了解，那么今天小好小编就为大家收集了一些 -
棕榈股份：因公司涉嫌信息披露违法违规，证监会决定对公司立案-世界播资讯棕榈股份（002431）公告，公司于2023年5月31日收到证监会出具的《立案告知书》，因公司涉嫌信息披露违法违 -
娓竵姹囩巼鍒涗笅30澶氬勾鏂颁綆鍚楋紵杩戞湡锛屾腐甯佹眹鐜囨寔缁蛋寮憋紝缁存寔鍦30澶氬勾浠ユ潵鐨勪綆鐐广傚湪3鏈8鏃ワ紝缇庡厓鍏戞腐鍏冩眹鐜 -
海南2023中级会计职称报名入口开通时间 当前热文海南2023中级会计职称报名入口开通时间由会计职称考试栏目提供,查找更多考试报名资讯、准考证打印、成绩查 -
深睿医疗：助力医生在无编程能力下进行AI算法模型构建与训练近日，陆军军医大学第一附属医院（西南医院）与深睿医疗联合申报的“面向高质量临床研究的医学AI能力生成服 -
【世界独家】2021百香果多少钱一斤(百香果每斤价格是多少)农业知识：不同地区的百香果价格也有所不同，像两广地区的价格在6~7元一斤，而其他地区可能会达到15~20元一 -
八卦象棋大师直播_八卦象棋大师1、八卦祖师：伏羲伏羲，神农与黄帝被尊为中华民族的人文始祖，伏羲氏是我国古籍中记载的最早的王之一，所 -
安佳1、珠海安佳电子有限公司主打品牌，是国内最具市场竞争力的安防品牌之一。2、该公司是一家集研发、生产、销 -
最喜欢的一本书英语作文_最喜欢的一本书-当前观点1、一个人可以被毁灭，但不能被打败。2、 年少时，读《老人与海》是因为这是诸多厚厚的世界文学名著中我 -
读书 | 枯笔化仙骨，重墨写风流——评《不俗即仙骨：草圣林散之评传》 时讯路东这部33万字的《草圣林散之评传》，从中国当代书法大师林散之生命的降临到他生命的终止，叙述了林散之跨 -
指天椒和小米椒一样吗 指天椒跟小米椒一样吗1、指天椒和小米椒不一样。2、小米椒和指天椒都是朝天椒中的品种，两种辣椒都是朝天生长，但在形状上不同。 -
焦点速递！主动权益基金行业调仓监测方法论再探究：基于二次卡尔曼滤波的优化主动权益基金行业调仓监测方法论再探究：基于二次卡尔曼滤波的优化 -
稷山法院开展“送法进校园”活动为不断弘扬和宣传法治精神，关心关爱青少年健康成长，5月25日下午，运城稷山县人民法院综合办公室副主任黄
-
2022年 贵安新区新建分散式污水处理设施1265座（本网记者程曦）5月30日，记者从贵阳贵安生态环境状况新闻发布会上获悉，为抓好水污染治理，2022年，贵安 -
陷入投资理财陷阱 一男子一个月暴“负”69万元_世界独家陷入投资理财陷阱一男子一个月暴“负”69万元 -
视点！股指 存量博弈格局短期难打破市场风险偏好受到近期海内外不确定性因素影响，股市存量博弈的格局短期难以打破。而中长期看，待经济基本面 -
国开行助成渝双城经济圈提速【记者冯娜娜】《中国银行保险报》记者从国家开发银行获悉，《国家开发银行支持成渝地区双城经济圈建设指导 -
多部门联合检查有害出版物日前，东河区公安分局环食药大队联合东河区委宣传部、东河区文化稽查大队对辖区图书音像市场进行检查。执法 -
丰田带头抵触汽车全面电动化，多家日本公司站队支持_环球新视野30日消息，对于新能源汽车，丰田表现的很抵触，而不少日本公司也选择跟丰田站在一起。 据日本媒体报道称， -
北京明确将率先淘汰城市管理和服务行业中的违规电动三、四轮车北京明确将率先淘汰城市管理和服务行业中的违规电动三、四轮车 -
罗马2全面战争秘籍怎么用_罗马2全面战争秘籍-即时看1、罗马2全面战争秘籍怎么用？下面给大家带来罗马2全面战争十五项秘籍修改器1 7版本的使用方法，此修改器是 -
5月30日基金净值：广发利鑫灵活配置混合A最新净值2.413，涨0.12%5月30日，广发利鑫灵活配置混合A最新单位净值为2 413元，累计净值为2 779元，较前一交易日上涨0 12%。历史 -
杨过怎么死的真实原因_杨过怎么死的-微头条1、杨过（1236-1267年）南宋末将领。2、字改之，北宋名将杨延昭（杨六郎）六世孙。3、宝佑二年（1254年），年
广告
X 关闭
滚动
-
国家统计局：2021年农业及相关增加值GDP占比16.05%
2022-12-30
-
-
四川长虹：公司旗下四川长虹电源有限责任公司相关项目正常建设中-全球快播报
2022-12-30
-
2022-12-30
-
广告
X 关闭