ai产品经理视角下的chatgpt全解析 chatgpt是最智能的ai吗

通信学者Jeffrey Hancock表示：“我们需要思考在日常生活中使用人工智能的人性方面，以及它将如何影响我们感知和互动的方式。”

自2022年11月公开发布以来，【【微信】】吸引了全世界的关注，向全球数百万用户展示了人工智能的非凡潜力，它为从实用到超现实的各种请求提供了听起来像真人一样的答案。它能起草信件，撰写诗歌，甚至能像是威廉・莎士比亚一样，为约会应用用户制作征婚信息，甚至可以撰写新闻文章，项目策划案等等。

但是从这些有前途的应用中涌现出来的还有道德困境。在一个越来越被AI驱动的工具所主导的世界里，这些工具可以模仿人类的自然语言能力，那么诚实和真实意味着什么？

Hancock一直在研究这个问题，以及人工智能对人际关系的影响。

Hancock认为，图灵测试时代已经结束：机器人现在听起来如此真实，以至于人们无法在对话中区分人类和机器，这给大规模操纵和欺骗带来了巨大风险。Hancock和其他人担心的问题是，这些工具如何能被妥善的运用而非被用于非法的途径。

虽然Hancock看到了人工智能帮助人们更有效地工作的潜力，但他同时也看到了陷阱。最终，我们的挑战将是开发支持人类目标的人工智能，并教育人们如何以有效的、合乎道德的方式使用这些新技术。几年来，汉考克一直在研究人工智能介导的沟通是如何转变的，并有可能破坏人际关系。

在这里，他解释了【【微信】】等工具带来的一些挑战，以及它们将如何塑造我们未来的生活：

Q问题1：您如何看待像【【微信】】这样的人工智能中介工具融入人们的生活？

就像计算器没有取代人们学习数学、工作或做会计的需要一样，我认为我们会找到使用 人工智能作为工具的沟通方式。我们越是把它看作是一个非常强大的助手或工具，我们就越能想象它的用处。但需要注意的是，这些系统还没有准备好即插即用。他们还不在那里，我们人类也不在那里。

Q问题2：您认为【【微信】】在哪些领域有机会帮助人们更好地工作或更有效地工作？

我认为这将会带来一个全新的沟通世界，真的感觉像是一个拐点。例如，在治疗和辅导的初始阶段有巨大的潜力。假设你工作进展缓慢，或者你需要协助谈判，又或者你在工作上有些焦虑，与真正的咨询师或辅导员经常会面的话是比较困难的，加上费用也非常高昂。Chatgbt这类的系统就起到了很大的作用，至少在解决问题的初始阶段。我认为最好的组合是当【【微信】】能够更好地支持一个辅导员的时候，他可以更有效地帮助更多的人。 【【微信】】可以帮助辅导员在了解客户需求时做一些准备工作。有时有些标准问题，可以通过训练【【微信】】去询问客户，与辅导员更好的打配合。这样的话有利于让辅导员更深入地与客户互动或帮助更多的客户。

当然，我们仍然不知道人们对机器人参与此类对话会有什么反应。几年前我们做的一些研究表明，人们与机器人对话产生的情感、关系和心理结果可能与真正的人的对话产生的结果是相似的。这是有潜力的，但在这样的交流中引入这类系统肯定是需要谨慎的。

Q问题3：您研究的一个领域是信任和欺骗。您认为人工智能如何影响人们相互信任的方式？

我认为如果机器帮助你成为你自己，那么你就可以保持真实。AI系统可以被优化用于各种事情，其中一些可以是人际关系。你可以说：“我想要一个在线约会描述，并且我想要表现得非常有趣、温暖和开放。”我在课堂上做了一个练习，让学生使用【【微信】】创建一个在线约会档案，当所有学生都说【【微信】】的描述是他们自己的准确表现时，我感到震惊！他们也都同意稍微修改一下，但是这已经是出乎意料的好了。这可以真正地帮助一个人，特别是对于那些有沟通焦虑或不擅长表达自己的人来说。

但是对于那些试图使用这些描述作为人物信号的人来说，我们通常的印象形成过程会失败，因为让人觉得非常有趣、温暖和开放的不是你，而是一台机器。我们将对如何使用这些工具负有很大的责任。我认为这实际上取决于我们作为人类如何选择使用它。

Q问题4：我们能信任这些系统吗？

有很多技术上的问题，比如AI是如何开发出来的。广泛的担忧是这些系统依赖于有偏见的数据进行训练。但是还有更深层次的哲学问题涉及到意识和意图。机器欺骗意味着什么？它可以撒谎关于自己的身份，谈论它没有经历过的生活经历，这是具有欺骗性的。但大多数欺骗的定义包括有意误导他人的意图。如果系统没有这个意图，它还算是欺骗吗？它是否归结于提出问题或让系统欺骗的人？这个我无法判断，所以在这一点上，问题是多于答案的。

Q问题5：您也研究虚假信息。您担心人工智能如何被用于邪恶目的？

我也想在这里表明滥用的危险性。我在斯坦福互联网观察中心的同事和合作者Renée DiResta有一份报告，列出了这些系统可能威胁到信息不准确性的主要方式和可能的解决方案。正如Renée和报告所指出的那样，一旦不良行为者能够使用语言模型来运行影响力活动，他们将能够以相当低廉的价格生成大量内容，并潜在地发展出大规模说服的新策略。它有可能转变和加剧信息不准确性的问题，因此我们需要现在就着手解决。

Q问题6：可以做什么来验证通信？

在过去一年左右，有许多论文表明，这些大型语言模型和聊天机器人已经无法与其人类对手区分开来了。因此，如何验证通信是一个重大问题。为了显得真实，你可以说：“这是由AI编写或部分编写的。”如果你这样做，你是诚实的，但研究表明人们可能会认为你不够真诚――有一篇论文指出，如果你道歉并表示是使用了AI来帮助写道歉信的，他们会认为你不够真诚。在我们的一篇论文中讨论到，如果你申请工作时表明自己是使用AI来编写申请，人们会认为你不够能干。如果你一旦透露是使用了AI，就会有相应的代价，但是如果你不透露这一点，你会显得不真实。这些关于真实性、欺骗和信任的问题将非常重要，我们需要进行更多研究来帮助我们理解AI将如何影响我们与其他人类互动。