“你不会再想用谷歌了” OpenAI总裁曝重磅消息（组图）

近日，ChatGPT背后技术公司OpenAI的首席执行官（CEO）Sam Altman接受了《纽约时报》科技播客节目Hard Fork的专访。

在访谈中，Sam Altman解答了关于微软发布的新版必应（Bing）搜索、人工智能（AI）的犯错行为、AI的安全，以及ChatGPT未来的版本等问题。

他提到，对于任何新技术，我们都无法完美地预测其所有问题和解决措施，因此需要从人类的反馈中不断学习和改进。“重要的是，人们还需要真正认真对待AI的安全和道德规范。”

此外，他还表示，当一切准备就绪时，OpenAI将发布更强大的ChatGPT版本，但现在还不是时候。

谈新版必应：很快会变得不可或缺

当地时间2月7日，微软公司宣布推出新版必应搜索和Edge浏览器。在这之前，微软和OpenAI已经对必应测试了至少几个星期的时间了，必应搜索引擎整合了ChatGPT系统背后的技术。

该播客节目中，主持人问到，“您认为必应将如何改变人们的搜索方式？或者说，它是否拥有一些过往搜索引擎所不能达到的功能？”

Sam Altman认为，（必应）很快会变得不可或缺。“当我无法访问它时，我会想念它。”    他同时说到他的亲身经历，“我有一个14岁的女儿，她喜欢说‘riz’和‘bussing’之类的话，而我不知道她在说什么。你可以输入比如，嘿，我有一个十几岁的孩子，她在说这些话，我不明白。此时，必应会充当一个Z世代的翻译。”

Sam Altman补充说，“它真的非常擅长这样的事情。还有一个例子是，昨天我装作是一名制造商，一直在寻找工业套结缝纫机。使用新的必应后，它向我展示了我以前在任何其他搜索中从未见过的东西，帮我确定了需要购买的机器，”。

“你不会再想回去使用谷歌（搜索）了，”他说道。

谈ChatGPT犯错：不可避免，但反馈会帮助提高

 在访谈中，Sam Altman语出惊人地表示，“ChatGPT是一个可怕（horrible）的产品。”随后，他给出了这样评价的理由。

“看看人们将其整合到自己工作流程的方式就知道了，”Sam Altman说道，“人们访问一个有时能正常工作、有时又会宕机的网站。他们在对话框输入一些东西，一直尝试，直到正确为止。随后他们复制ChatGPT给出的答案，并将其粘贴到其他地方，然后又返回继续尝试。”

“当然，这很酷。人们很喜欢它，这让我们感到开心，”他说道，“不过，目前还没有人会说这是一款出色的、集成良好的产品。但它是有价值的产品，因此人们愿意忍受它。”

自从ChatGPT推出以来，有一件事已经是一个共识——那就是它并非是万无一失的，在某些情景下，它会犯错误。当ChatGPT被接入每天被大量使用的搜索引擎必应时，Sam Altman如何看待这个问题呢？

“首先我想说，（相比其他模型）ChatGPT是一个错误更少的、更优秀的模型，但它仍然存在很多错误，”他这样说道，“正如微软过去许多年所经历的一样，他们围绕必应所构建的技术并不是万无一失的。你需要自己去验证它的准确性和实用性，不要完全相信它。尽管如此，我认为（必应的）体验已经比ChatGPT有了显著的改善。随着时间的推移，还会有更多提高。”

那么，是否存在这样一种情况，用户在必应上执行操作，应更加谨慎地去搜索某些类别，因为这些类别可能比其他类别更容易出错？

Sam Altman承认，这一点还没有答案。不过，他表示，“我认为我们将很快了解模型犯错的原因。当我们每一次发布新产品时，我们都会学到很多东西，并了解用户如何与之交互。我们在Copilot（Github开发的AI产品）身上学到了很多东西。”

“我要指出的一件事是这些技术带来的创新。三年前，GPT-3还未出世，那时候很少有人相信，AI领域将会发生意义非凡的进展，”他说道。

Sam Altman表示，对于任何新技术，人类都无法完美地预测其所有问题和缓解措施。“但如果它有一个非常紧密的反馈循环机制，按照事情发展的速度，我认为我们可以非常快地获得非常可靠的产品，”他颇有信心地说道。

谈ChatGPT的未来：一切准备就绪时，将发布更强大的版本

此前，谷歌推出了ChatGPT的竞品Bard。在硅谷，这种竞争并不少见，许多其他公司都争相向ChatGPT看齐。

“我们不是匆忙发布产品的人。这项技术的好处是如此之多，我认为很多人确实想要构建这些东西，”他说道，“但是，对于我们需要在这些系统上满足哪些标准，需要制定行业规范和法规。我认为这真的很重要。”

对于ChatGPT未来的更新路径，Sam Altman表示，的确还有更强大的版本，但现在并没有到公布的时机。“不马上把这些东西拿出来的原因是，人们认为我们已经是完整的AGI（通用人工智能），随时准备好按下按钮，但实际上还差得远。

“当我们准备好时，这意味着已经完成了校准工作和所有安全思考，并与外部审计员和其他AGI实验室合作，我们就会发布这些东西，”他说道，“但是，从现在到未来更强大的系统之间，肯定还有一些东西需要思考。我们还没有弄清楚这些，其他人也没有。”

谈ChatGPT被“破解”：令人烦恼，但不应消失

近期，Reddit论坛上有用户正致力于破解ChatGPT，并找到了一种方法。随后OpenAI修补了这个Bug。这是否将永远成为一种持续不断的猫捉老鼠的游戏？

Sam Altman的态度颇为开放。他认为，在一个充满活力的社区，人们试图突破技术的极限找出它的突破口，并在那里做一些不寻常、有趣的事情，这很好。

他表示，“AI系统可以做的事情范围很广，但这些范围不是由微软或OpenAI决定的，而是由社会、政府等来决定。在这些范围内，用户应该对AI的行为方式有很大的控制权，因为不同的用户会有不同的体验。”

“这是一项非常新的技术，我们不知道如何处理它，所以我们很保守。正确的答案是由社会设定的非常广泛的范围，然后由用户来进行选择，”他说道。

“这就是安全社区的工作方式。我宁愿受到批评，也希望人们在我的软件中发现错误，而不是让软件中那些潜在的错误被默默地利用并造成伤害。有时候，听到这类消息（破解）是挺烦恼的。但实际上，我并不希望它消失，”他这样说道。

谈Tay事件的教训：需认真对待AI安全和道德规范

2016年春季，微软在推特上推出了聊天机器人Tay，但在和用户开放对话后的不到一天时间里，它便由于不恰当的种族主义言论引发了激烈争议。随后微软很快就下线了Tay，这对于人工智能行业来说是一个警示。

对此，Sam Altman认为，“那个时代的很多东西都是由研究团队推出的，他们非常兴奋——嘿，我得到了这个技术上很有趣的东西。然而，他们并没有真正考虑产品的影响。”

如今的AI技术应当从中汲取什么样的教训呢？“我们仍然非常认真地对待AI，并且坚信它将成为最重要的技术之一。但我们从中学到的一件事是，永远不应该再犯同样的错误了。我们需要真正认真对待AI的安全和道德规范，”Sam Altman表示。

“我们必须去解决所有这些问题，以避免再次犯类似的错误，但这并不表示，我们不会再犯错误，”他说道，“在过去的五年半的时间内，我们一直在努力，并非只是嘴上说说，而是在实际工作中付诸实践。”

有人认为AI工具部署得过于迅速，以至于社会无法快速设置相应的安全规范。Sam Altman也同意这一点。

“但我有两点非常强烈的感受。一是，每个人都必须有机会了解这些工具的优缺点、使用方法，并共同塑造它。”他进一步说道，“有人认为这种技术应该保留在科技行业的一小部分人中，因为这些人才是我们可以信任的人。我完全不同意这一点，因为人们需要尽早地参与进来。”

“二是，在我所看到的技术史中，如果不与现实世界接触，你无法预测技术带来的美好以及它如何被误用。通过部署这些AI系统，通过学习，并通过获得人类反馈来改进，我们已经做出了非常好的模型，”他补充道。