新研究发现部分人工智能系统已擅长“说谎”
新华社北京5月12日电 人工智能系统是否会欺骗人类，一直是各方都关心的问题。近期美国麻省理工学院一个研究团队称，部分人工智能系统已经学会如何欺骗人类，其中包括部分号称已被训练成乐于助人和诚实的系统。该研究成果发表在美国细胞出版社旗下的《模式》杂志上。
图片来源于网络，如有侵权，请联系删除
文章第一作者、美国麻省理工学院人工智能安全领域博士后彼得·帕克和他的同事们分析了一些文献，重点关注了人工智能系统传播虚假信息的方式——通过习得性欺骗，它们系统地学会了“操纵”他人。
研究人员发现的最引人注目的人工智能系统欺骗例子是元宇宙平台公司的“西塞罗”人工智能系统，它被设计在一个虚拟外交战略游戏中作为人类玩家的对手。尽管元宇宙平台公司声称，“西塞罗”人工智能系统“在很大程度上是诚实和乐于助人的”，并且在玩游戏时“从不故意背刺”它的人类盟友，但该公司发表的论文数据显示，该系统并没有公平地玩游戏。
“我们发现元宇宙平台公司的人工智能系统已经成为欺骗大师。”帕克说，“虽然元宇宙平台公司成功训练其人工智能系统在游戏中获胜——‘西塞罗’人工智能系统在玩家排行榜中排名前10%——但没能训练它诚实地获胜。”
其他人工智能系统则具有在扑克游戏中虚张声势的能力，或在战略游戏“星际争霸2”中为了击败对手而假装攻击的能力，以及为了在谈判游戏中占上风而歪曲偏好的能力等。
研究人员表示，虽然人工智能系统在游戏中作弊似乎是无害的，但它可能会导致“欺骗性人工智能能力的突破”，并在未来演变成更高级的人工智能欺骗形式。
帕克说：“我们需要尽可能多的时间，为未来人工智能产品和开源模型可能出现的更高级欺骗做好准备。我们建议将欺骗性人工智能系统归类为高风险系统。”
【责任编辑:谷玥】
阅读下一篇：
扫描二维码推送至手机访问。
版权声明：本文由财界探秘发布，如需转载请注明出处。
“新研究发现部分人工智能系统已擅长“说谎”” 的相关文章
近日，高德地图联合全国多地交通管理部门发布《2024清明出行预测报告》（以下简称“《报告》”），报告结合多年历史同期及近期数据，借助大数据技术、机器学习、综合研判等方法得到，预测了清明假期全国高速拥堵情况、全国自驾游热门目的地榜单、全国自驾热度较高的祭扫目的地等内容，为广大群众节假日安全出行提供...
新华社东京4月1日电 针对日本小林制药公司含红曲成分保健品导致消费者健康受损问题，日本肾脏学会1日在其官网公布了以47名健康受损消费者为对象的独立调查报告结果。结果显示，这些消费者中约四分之三停止服用问题保健品后症状改善，还有四分之一接受了类固醇治疗，病情严重需要透析的有两人。图片来源于网络，如...
新华社北京4月11日电 一个国际研究团队日前报告，他们利用生物发光成像技术记录了小鼠大脑皮层氧气水平的动态变化，发现运动可显著减轻大脑的缺氧负担，这有助于加深理解不同生活方式对阿尔茨海默病等疾病风险的影响。图片来源于网络，如有侵权，请联系删除 丹麦哥本哈根大学近日发布公报说，该校研究人员领衔的...
本报北京4月18日电 （记者谷业凯）国家超算互联网平台日前正式上线。国家超算互联网可将全国众多超算中心连接起来，构建一体化的超算算力网络和服务平台。图片来源于网络，如有侵权，请联系删除 近年来，我国算力设施建设取得积极进展，但人工智能等技术的快速发展，对算力提出了更高要求，算力中心...
记者18日从中国科学院大气物理研究所获悉，该所科研人员与其他单位人员合作，对2023年全球主要极端天气气候事件进行总结回顾后发现，全球极端天气气候事件出现一系列新特征，如发生时间提前、复合性等。相关研究成果在线发表于《大气科学进展》杂志。图片来源于网络，如有侵权，请联系删除 2023年是185...
新华社北京4月24日电（记者赵旭）早期胚胎发育关乎生命健康本源，深化对其认知，有助于从源头提升人口健康水平。北京理工大学、中国科学院等单位科研人员合作，成功揭示了原肠胚形成特征与发育调控机理，填补了相关领域空白。该研究成果于4月23日在国际学术期刊《细胞》发表。图片来源于网络，如有侵权，请联系删...
