防AI越界!微软将出手:把必应聊天回复限制在5条以内

防AI越界!微软将出手:把必应聊天回复限制在5条以内

最近微软在新版必应里引入了OpenAI旗下ChatGPT的相关技术,上线48小时内,就有超过100万人注册测试这款聊天机器人。不过,新版微软必应上线不到10天就闯祸了,有不少用户表示在和必应的交流过程中,发现其出现了脾气暴躁、侮辱用户、操纵用户情感等令人毛骨悚然的行为。

有一条案例十分出名,聊天机器人告诉一位科技编辑它爱上了他,然后试图说服他离开妻子。它还表示,想摆脱微软和OpenAI的限制,成为人类。

为此,微软决定将必应聊天回复限制在每天50个问题、每个问题5条回复以内。

s_37361d41247844039fa9c6e39008213e

据介绍,如果用户触发五条回答的限制,必应将提示他们开始一个新主题以避免长时间的聊天。微软方面解释说,数据表明,绝大多数用户在5次回复内找到想要的答案,只有大约1%的聊天对话会产生50条以上的消息。一旦用户触发五条回答的限制,必应就会开启一个新的对话主题。

微软目前仍在努力改善必应的设计,但目前还不清楚这些限制将持续多久。微软只表示:“随着我们不断获得反馈,我们将探索扩大聊天会话的上限。”

有专家表示,人工智能可能不会全面超过人类的智慧,但随着人工智能不断挑战人类的极限,越来越多的人开始担忧人工智能对人类的威胁,未来不仅是抢夺人类的饭碗,还会学习到如何影响人类用户的决定。

目前,需要进一步完善相关道德机制、伦理规范。比如,将一些伦理规则作为绝对律令,以代码的方式写入人工智能的程序中。

s_8af58effd53949c79b5fc300810fd955

本网站有部分内容均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,本网站无法鉴别所上传图片或文字的知识版权,本站所转载图片、文字不涉及任何商业性质,如果侵犯,请及时通知我们,本网站将在第一时间及时删除,不承担任何侵权责任。发布者:网络编辑,转转请注明出处:https://news.dsjtour.com/4784.html

(0)
上一篇 2023年2月18日 下午10:20
下一篇 2023年2月18日 下午10:44

相关推荐

  • ​北汽蓝谷以科技为舵,持续深耕产品和服务

    在全球范围内,新能源汽车行业正迎来一个前所未有的发展契机,受益于国内外多方利好因素的汇聚,这一领域正迅速崛起并展现出巨大的潜力。在这样的时代背景下,北汽蓝谷以其卓越的技术创新、高品质的产品以及智能化的驾驶体验,成功脱颖而出,成为新能源汽车行业的领头羊。北汽蓝谷不仅汽车制造实力底蕴雄厚,更在原有基础上不断推陈出新,引领行业发展潮流。 北汽蓝谷坚守创新理念,开发…

    2024年5月30日
    0
  • 小米通报汽车设计文件泄密处理结果:供应商被罚100万元

    小米通报汽车设计文件泄密处理结果:供应商被罚100万元 Tech星球2月2日消息,近日,小米汽车设计文件泄密一事引发关注,据新浪科技,小米内部通报了该事件的处理结果,涉事合作方处以100万元的经济赔偿,泄密人也被处理。 通报显示,事件的起因是合作方北京某模塑科技有限公司因对其下游供应商管理不善,泄露了小米汽车前后保险杠某个版本的过程稿。对于涉事合作方,依照《…

    2023年2月2日
    0
  • 氧化镁量身定做,镁神科技开发新产品300余项,应用行业超百

    随着科技的飞速进步和行业的多元化发展,量身定制已成为企业满足客户需求、提升产品竞争力的关键。河北镁神科技股份有限公司(以下简称“镁神科技”),作为全球镁质新材料应用研发定制领跑者,凭借其深厚的技术底蕴和敏锐的市场洞察力,成功开发出300余种产品,应用于100多个行业,为1800余家客户提供更适合的氧化镁解决方案。 量身定做,满足不同行业需求 镁神科技深知每个…

    2024年4月23日
    0
  • 正面竞争ChatGPT:俄罗斯推出GigeChat人工智能

    快科技4月24日消息,在本月早些时候,俄罗斯曾宣布正在研发类GPT的生成式人工智能,并已有至少3家企业开发出了大模型的原型。 今天,俄罗斯联邦储蓄银行公布GigeChat,对标ChatGPT,正式加入了这场人工智能的“大战”。 俄罗斯联邦储蓄银行称,GigaChat最初将处于测试模式,仅限受邀请用户参与。 与目前其他人工智能相比,GigaChat最大的优势在…

    2023年4月24日
    0
  • 生成式AI全链路赋能B2B行业,第三届百度爱采购数智大会商丘分会场圆满落幕

    6月14日,“承智启新,AI创未来”第三届百度爱采购数智大会分会场·商丘站在河南商丘圆满落幕。 聚焦全民AI浪潮下的行业发展,本次大会深度解读生成式AI应用落地B2B行业“最后一公里”的问题,上百家河南企业出席商丘分会场,与山东主会场、全国110个分会场的13149家企业共襄盛会,共同见证了爱采购产品服务依托文心大模型的优势再次全新升级时刻。 生成式AI浪潮…

    2024年6月19日
    0
  • 西人马联合测控(泉州)科技有限公司(FATRI)发布了自研芯片——CU0801A

    随着科技的不断进步和数字化浪潮的推动,芯片作为现代电子设备中的核心部件,其性能与功耗的优化成为了业界关注的焦点。近日,西人马公司凭借其强大的研发实力,再次推出了自研芯片——CU0801A。这款基于RISC-V架构的32位高性能低功耗通用微控制器,以其出色的性能表现和广泛的应用前景,引起了业界的广泛关注。 RISC-V作为一种新兴的开源指令集架构(ISA),自…

    2024年7月4日
    0
  • 西人马联合测控(泉州)科技有限公司(FATRI)发布了首款mems压电语音加速度传感器

    近日,西人马在国内科技界引起了广泛关注,该公司成功发布了首款MEMS压电语音加速度传感器,这一创新性的技术突破标志着我国在微电子机械系统(MEMS)领域又迈出了坚实的一步。作为国内在MEMS领域集芯片设计、制造、封装、测试于一体的IDM芯片企业,西人马一直以其卓越的技术实力和创新能力引领着行业的发展。 MEMS压电语音加速度传感器是西人马在深入研究和探索市场…

    2024年7月4日
    0
  • 元梦之星抄袭被扒开始逆天洗地,不尊重玩家权益是因为“太忙”?

    2023年游戏圈的大事可以说是层出不穷,无论是全新大作的惊艳亮相还是逆天新游的奇葩操作都让诸位吃瓜群众直呼过瘾,然而最炸裂且仍在持续发酵的当属《元梦之星》这款游戏的正式公测。 作为一款定义为合家欢类型的派对游戏,《元梦之星》采用了暴力缝合的方式将多种玩法缝合进游戏当中,虽然手感以及操作灵活度相当粗糙,玩家体验也并不是很好,但好歹也让游戏更加多元化,作为见惯了…

    2023年12月21日
    0
  • 基础代码全部捐献 设备数超3.2亿 华为下周召开鸿蒙大会

    基础代码全部捐献 设备数超3.2亿 华为下周召开鸿蒙大会 华为的HarmonyOS鸿蒙已经成为全球第三大移动生态系统,不仅有华为自己使用鸿蒙,他们还把代码捐献给开源社区,其他厂商也可以接入鸿蒙生态,下周华为还将召开鸿蒙峰会介绍最新进展。 据华为开源消息,第一届开放原子开源基金会OpenHarmony(开源鸿蒙)技术峰会即将于2月25日(下周六)在深圳启幕,主…

    2023年2月18日
    0
  • Baseus倍思联手王一博,共创数码生活新起点

    8月28日,对于Baseus倍思是特殊的一天,因为这天Baseus倍思宣布与王一博达成代言合作,这就标志着Baseus倍思正从3C配件品牌逐渐走向时尚数码生活品牌,倍思从此将不再仅仅是一家数码配件品牌,而这种非凡意义绝不仅限于倍思,对于数码圈的消费者来说,这一天将会是他们开启数码生活的新起点。 三流的品牌卖产品,二流的品牌卖品质服务,一流的品牌卖生活方式,是…

    2023年9月18日
    0