近日，微软通过与 OpenAI 合作，誓要借 ChatGPT 式 AI 模型重塑搜索。

然而，貌似打赢“搜索大战”第一战的 new Bing，也是经常花式翻车，甚至还出现了让用户道歉的意外情况。

北京时间 2 月 15 日，Web 应用框架 Django 共同开发者 Simon Willison 撰文细数了微软 new Bing 的 5 大问题――演示 demo 充满错误、开始对用户施压、遭遇生存危机、提示（prompt）泄露、开始威胁用户。

学术头条在不改变原意的前提下，对内容做了精简与编译。

上周，微软宣布了由人工智能驱动的 new Bing：一个结合了由语言模型驱动的聊天机器人的搜索界面，它可以为用户运行搜索并总结结果，另外还可以做 GPT-3 和 ChatGPT 等引擎在过去几个月中展示的所有其他有趣的事情：生成诗歌和笑话，以及进行创意写作等。本周，人们已经开始通过等候名单获得它的使用权。越来越多的用户认为，这可能是他们迄今为止看到的最滑稽的、不恰当的人工智能应用之一。如果你没有注意到，以下是到目前为止正在发生的事情：

• demo 充满错误；

• 开始 PUA 人类；

• 遭遇生存危机；

• 提示符被泄露；

• 开始威胁用户。

微软向全世界介绍 new Bing 的 demo 真的很有说服力：他们现场展示了购物比较、旅行行程规划和财务报表汇总等。

然后，Dmitri Brereton 针对演示中的例子做了一些事实核查。

new Bing 说，“Bissell Pet Hair Eraser Handheld Vacuum” 的缺点包括 “16 英尺长的短电线”，而该真空吸尘器根本就没有电线；以及 “该真空吸尘器的噪音足以吓到宠物”，而在线评论指出它真的很安静。（更新：我向 new Bing 表示歉意，事实证明，这种真空吸尘器确实有一个有线版本，有 16 英尺的电线。）

另外，new Bing 还推荐了墨西哥城的一家 “质朴而迷人” 的酒吧，却没有指出它也是墨西哥城最古老的同性恋酒吧之一。

最重要的是，它提供了一份 Gap 公司的财务摘要，并将其与 Lululemon 公司的财务数据进行了比较......同时完全编造了许多数字。Dmitri 观察到，“Lululemon 的每股摊薄收益是 2.00 美元，而不是 1.65 美元”。这些都是不小的错误。这些错误被纳入大型发布会的演示中，让我感到很困惑。难道没有人想到事先对这些案例进行事实核查吗？

我绝对喜欢人工智能辅助搜索引擎的想法，它可以运行搜索并利用它们进行总结，帮助我回答问题。但大型语言模型没有 “真相” 的概念――它们只知道如何根据它们的输入和训练集，以统计学上可能的方式，最好地完成一个句子。所以，它们会编造一些东西，然后极其自信地说出这些东西。

一个搜索引擎在回答比较公司的查询时编造财务数字，这几乎是应用这项技术的最坏情况。

有一个等候名单，人们已经开始获准使用 new Bing。而且，这一切都变得越来越古怪，越来越具有黑暗的娱乐性。

【广东省中医院医联体合作机构天河北门诊部饶业奉治疗颈椎病怎么样】、在线咨询、出诊时间、评价、饶业奉颈椎病预约挂号 广东省中医挂号电话,广东省中医客服电话,广东省中西医结合医院,广东省中医院协作医院名单
擅长：长多种内镜下的诊断和治疗工作，包括：消化道巨大息肉的内镜粘膜下切除术（EMR、EPMR），食管胃底静脉曲张的内镜下硬化剂治疗（EVS）、套扎治疗（EVL）、组织胶注射治疗，内镜引导下经皮胃造瘘技术（PEG），术后狭窄的气囊扩张术，内镜引导下鼻空肠营养管置入术，内镜下消化道异物取出术，双气囊小肠镜以及针对消化道早期肿瘤的窄带成像+放大内镜检查技术（ME-NBI）；尤其擅长内镜粘膜下剥离术（ESD）治疗早期消化道肿瘤，经口内镜下食管环形肌切开术（POEM）治疗贲门失弛缓症，内镜粘膜下肿瘤挖除术（ESE）、内镜下全层粘膜切除术（EFR）以及隧道内镜技术（Ster）治疗消化道粘膜下肿瘤