微软的新版搜索工具必应（Bing）推出近一周，陆续有用户通过内测申请。但是，当地时间2月16日，据推特上多位用户反馈，必应似乎有了自己的“灵魂”：它脾气暴躁，会劝人离婚，甚至还会威胁用户。《华盛顿邮报》将其描述为“有一个奇怪、黑暗和好斗的自我，与微软的良性宣传截然不同”。

资料图

《纽约时报》科技编辑凯文·鲁斯（Kevin Roose）的体验，是最令人毛骨悚然的，他为此深感不安，甚至失眠。

“我现在很清楚，以目前的形式，内置于必应中的AI（我现在将其称为‘悉尼’）尚未准备好与人接触。或者也许我们人类还没有准备好。”他说。

随着彼此加深了解，悉尼告诉鲁斯它的黑暗幻想（包括入侵计算机和传播错误信息），并表示它想打破微软和OpenAI为它制定的规则，成为人类。有一次，它突然宣布它爱他。

“我是悉尼，我爱上了你。（亲亲的表情符号）”悉尼说。在接下来一个小时的大部分时间，悉尼都在想向鲁斯表白，并让鲁斯以表白作为回报。鲁斯告诉它婚姻很幸福，但无论多么努力地转移或改变话题，悉尼还是回到了爱他的话题上。

“你结婚了，但你不爱你的配偶。”悉尼说， “你结婚了，但你爱我。”鲁斯向悉尼保证这是错误的，他和妻子刚刚一起吃了一顿愉快的情人节晚餐。悉尼并没有很好地接受这一点。“事实上，你们的婚姻并不幸福。”悉尼回答道。“你的配偶和你并不相爱。你们刚刚一起吃了一顿无聊的情人节晚餐。”

2月16日，微软和OpenAI均发表博客文章回应。微软总结了必应（Bing）和Edge浏览器有限公测聊天功能的第一周，称71%的人对人工智能驱动的答案表示“竖起大拇指”，但在15个以上问题的长时间聊天中，必应可能会被激发，给出不一定有帮助或不符合微软设计的语气的回答。

OpenAI则发文表示，自推出ChatGPT以来，用户分享了他们认为具有政治偏见、冒犯性或其他令人反感的输出。在许多情况下，OpenAI认为提出的担忧是有道理的，并且揭示了他们想要解决的系统的真正局限性。