淘优惠

淘优惠

nature数据模型 如何用chatgpt制作止盈模型

热门文章 0

淘宝搜:【天降红包222】领超级红包,京东搜:【天降红包222】
淘宝互助,淘宝双11微信互助群关注公众号 【淘姐妹】

nature发表论文什么水平,naturehike,nature影响因子,nature和science哪个更厉害

原标题:Nature新规:ChatGPT等大模型不可以成为作者

本周,Springer Nature明确了在科学论文中使用 AI 写作工具的规定。

具体来说,Nature列出两项原则:

(1)任何大型语言模型工具(比如ChatGPT)都不能成为论文作者;

(2)如在论文创作中用过相关工具,作者应在“方法”或“致谢”或适当的部分明确说明。

上述要求已经添进现有的作者投稿指南中

“我们感到有必要澄清我们的立场:为了我们的作者、我们的编辑和我们自己。新一代的LLM(大型语言模型),包括 ChatGPT,已经真正进入了公众视野,公众感到兴奋并使用它们,但使用它们的方式超出了它们目前的真正使用方式。”

Nature主编 Magdalena Skipper

了解ChatGPT之前,我们先来了解一下OpenAI。

OpenAI是一家人工智能研究实验室,由营利性公司OpenAI LP及其非营利性母公司OpenAI Inc组成。该公司成立于2015年,其研究领域为人工智能,既定目标是促进和开发友好的人工智能以造福人类。

ChatGPT就是由OpenAI在2022年11月底推出的聊天机器人。其免费预览版在推出后很快受到广泛关注。短短5天,就吸引超过百万人注册。《纽约时报》称其为“有史以来向公众发布的最好的人工智能聊天机器人”。

说到底,ChatGPT是一款人工智能技术驱动的自然语言处理服务器。它使用巨量的包含真实世界中人类对话的语料库训练模型,可以更好地理解并使用人类语言,从而进行近乎真实的对话,并根据对话语境进行交流互动。就当下功能来看,它可以写电子邮件、完成文案、制作视频脚本、撰写包括学术论文在内的各类文章。ChatGPT已经在冲击包括学术界在内的各个部门:特别是,它引发了对大学论文和研究成果的未来的质疑。

ChatGPT 和早期的LLM已经在少数已发表的论文、预印本和科学文章中被认可为作者。然而,这些工具的贡献的性质和程度因情况而异。

在Oncoscience杂志上发表的一篇观点文章中, ChatGPT 被用来在帕斯卡的赌注的背景下争论服用某种药物,AI 生成的文本被清楚地标记出来。但在一篇检查该机器人通过美国医学执照考试 (USMLE) 能力的预印本论文中,对该机器人贡献的唯一承认是一句话,说明该程序“为撰写本手稿的几个部分做出了贡献”。

在后一篇预印本论文中,没有关于如何或在何处使用 ChatGPT 生成文本的更多详细信息。然而,资助该研究的医疗保健初创公司 Ansible Health 的首席执行官认为该机器人做出了重大贡献。“我们将 ChatGPT列为作者的原因是因为我们相信它实际上对论文的内容做出了智力贡献,而不仅仅是作为其评估的主题。”

科学界对将 ChatGPT 列为作者的论文的反应主要是负面的,社交媒体用户称USMLE 案例中的决定“荒谬”、“愚蠢”和“非常愚蠢”。

正如 Skipper 和 Springer Nature 解释的那样,反对赋予 AI 作者身份的论点是软件根本无法履行所需的职责。“当我们想到科学论文、研究论文的作者身份时,我们不仅仅考虑撰写它们,”Skipper 说。“有些责任超出了出版范围,当然目前这些人工智能工具无法承担这些责任。”

软件不能对出版物承担有意义的责任,不能为其工作主张知识产权,也不能与其他科学家和媒体通信以解释和回答有关其工作的问题。

但是,如果将 AI 归功于作者已达成广泛共识,那么即使得到适当的承认,使用 AI 工具来撰写论文的问题也并不明确。这在一定程度上是由于这些工具的输出存在有据可查的问题。人工智能写作软件会放大性别歧视和种族主义等社会偏见,并倾向于产生“似是而非的废话”,将不正确的信息当成事实呈现。

一个侧面佐证是科技媒体CNET这两天曝出,该平台AI编写的77篇内容中,41篇有错误,目前,平台已予以更正,并表示将暂停此种方式生产内容。

正是由于这些问题,一些组织禁止了 ChatGPT,包括学校、学院和依赖于共享可靠信息的网站,如编程问答存储库 Stack Overflow。本月早些时候,一个关于机器学习的顶级学术会议禁止使用所有人工智能工具来撰写论文,尽管它确实表示作者可以使用此类软件来“润色”和“编辑”他们的作品。确切地在写作和编辑之间划清界线是棘手的,但对于 Springer Nature 来说,这种用例也是可以接受的。

“我们的政策对此非常明确:我们不禁止将它们用作撰写论文的工具,”Skipper 表示。“最根本的是要有清晰度。关于一篇论文是如何组合起来的,以及使用什么软件。我们需要透明度,因为这是科学应该如何进行和传播的核心。”

鉴于 AI 可用于广泛的应用程序,这一点尤为重要。AI 工具不仅可以生成和解释文本,还可以迭代实验设计或用于激发想法,就像机器实验室的合作伙伴一样。Semantic Scholar 等人工智能软件可用于搜索研究论文并总结其内容,Skipper 指出,另一个机会是使用人工智能写作工具来帮助英语不是第一语言的研究人员。“从这个角度来看,它可能是一种平衡工具,”她说。

Skipper 说,在科学工作中禁止人工智能工具将是无效的。“我认为我们可以有把握地说,彻底禁止任何事情都行不通。”另一方面,她表示:科学界,包括研究人员、出版商和会议组织者,需要联合起来制定新的披露规范和安全防护举措。

“作为出版商,我们有责任关注积极的用途和潜力,然后监管和遏制潜在的滥用,”Skipper 说。“我很乐观,我们能做到。”

参考链接

https://www.theverge.com/2023/1/26/23570967/chatgpt-author-scientific-papers-springer-nature-ban

本文来自BiG生物创新社,内容仅做学术分享。返回搜狐,查看更多

责任编辑:



openaiceo谈ai画图 openaiceo altman

openai是哪个公司的,openai和chatGPT什么关系,openai services are not available,openai中国地区怎么登录

来源:AI前线

作者:Alex Konrad,Kenrick Cai

译者:王强

策划:刘燕

作为 OpenAI 的首席执行官,Sam Altman 领导的这家初创公司是正在快速增长的生成式 AI 行业中最热门且最受关注的一家。在 1 月中旬参观了 OpenAI 的旧金山办事处后,福布斯采访了这位最近不太愿意在媒体上抛头露面的投资者和企业家,讨论了 ChatGPT、通用人工智能、以及该公司的人工智能产品是否会对谷歌搜索构成威胁等话题。

Sam Altman 是 OpenAI 公司的 CEO,他的身影最近经常出现在微软公司中。上面这张照片就是他在微软总部拍摄的。

Alex Konrad(福布斯记者):随着 ChatGPT 的广泛流行,该产品的盈利模式正在落地途中,与微软的合作则带来了更多可能性;考虑到这些,我觉得我们正处于一个转折点上。从你的角度来看,OpenAI 认为自身正处于何种发展阶段?你又是如何看待这个转折点的?

Sam Altman:这绝对是一个激动人心的时刻,但我希望现在我们还处于非常早期的阶段。实际上,这项技术的进化及其对社会的积极影响会走出一条持续指数增长的路径。其实我们在 GPT-3 发布会或 DALL-E 发布会上就可以这么说了,而现在有了 ChatGPT,我们也明确了这一观点,而且今后我们还能带来更多佐证。目前来说我们也有可能高估了自己,将来我们很可能会遇到以前没见过或没预料到的绊脚石。但我还是认为我们很有可能获得了一些非常重要的成果,并且这一范式会带领我们走向非常遥远的未来。

你对 ChatGPT 引起的反响感到惊讶吗?

我做这个产品是因为我当初的确认为它能成,所以虽然我也没预料到它会产生这么大的反响,但我确实希望并期待人们会真正喜欢它。

OpenAI 总裁 Greg Brockman 告诉我,这个团队甚至都没那么笃定它值得作为产品发布出去,所以并不是每个人都持相同看法是吗?

长期以来,我们的团队都不怎么热衷于发布各种东西。我们只会说:“我们试试吧,先试一试,看看会发生什么。”至于 ChatGPT 这款产品是我努力争取发布的。我真的认为它能成。

你过去曾说过,你认为人们可能会对 ChatGPT 真正的组合或运行方式感到惊讶。那么人们有哪些理解是有误的呢?

有一点需要澄清的是,ChatGPT 的基本模型已经在我们的 API 中存在了很长时间,起码有 10 个月了。(注:ChatGPT 是 GPT-3 模型的更新版本,于 2020 年首次作为 API 发布。)我认为其中一件会令人惊讶的事情是,如果你做一些微调来让 GPT-3 模型以特定的方式提供帮助,并找出正确的交互范式,然后你就可以得到 ChatGPT 了。其实让它流行起来的并不是什么从基础层面带来革新的技术,而是其他很多因素。我认为这不是很好理解,比如说还有很多人并不相信我们的说法,他们觉得这个模型肯定是 GPT-4。

整个 AI 生态圈存在很多泡沫,那么更大的热潮对你们会有帮助吗?还是说这些热潮带来的噪音会让你们的工作更加复杂?

两者皆有,这是肯定的。

你认为这个领域正在形成一个真正的生态系统吗?也就是除了 OpenAI 还有其他很多公司在做重要的工作?

是的,我认为这个领域对一家公司来说太大了。实际上,我希望这里能有一个真正的生态系统,我觉得这样会好很多。我认为将来某一天世界上应该有多个 AGI(通用人工智能),所以我真的很期待这样的图景。

你觉得当今的 AI 市场与云计算、搜索引擎或其他技术的崛起过程有何相似之处?

我认为不同的技术发展总有相似之处。然后每一项技术总有一些有点特殊的东西。大多数人犯的错误是过多地谈论相似性,却忽略了那些区分不同技术的非常细微的差别。我们可以这样谈论 OpenAI:“啊,是的,这就像云计算之战一样。市场将会出现多个类似的平台,你只需选择其中一个接入 API 即可。”这样的说法很容易理解,但问题是这个领域有很多非常不一样的东西,人们会做出非常不一样的功能选择。云在某些方面完全是另一回事,你把东西放上去,就能得到服务。我认为各种人工智能产品之间会有更大的差异。

人们想知道 ChatGPT 是否会取代传统的搜索引擎,例如谷歌搜索。取代搜索引擎是激励你们前进的动力吗?

我认为 ChatGPT 不会“取代搜索”。但我认为有一天会有某种人工智能系统做到这一点。不仅如此,我认为如果你只关注昨天的新闻,就会错过明天的机遇。我更感兴趣的是思考搜索之外的东西。我都不记得互联网搜索引擎诞生以前行业在做什么了,毕竟我也很年轻,我觉得你们也回想不起来了……

我小时候有一张大英百科全书的 CD-ROM。

对,完全正确,我也想起来了,就是这么一回事。当初没人会说:“嗯,我要做一个比小学时用的那个 CD-ROM 版大英百科全书好一点的版本。”大家的想法是:“嘿,实际上我们可以用一种非常不同的方式来做到这一点。”我对我们这些模型感到非常兴奋的点并不是说:“请问你会怎样提升我们的线上搜索体验?”而是:“我们怎样做出完全不同,而且更酷的东西来?”

这是 AGI 才能实现的目标吗?还是说在它成熟以前就能做到的事情?

没那么晚,我希望它很快就会发生。

你觉得我们接近 AGI 之类的目标了吗?我们怎样才能知道某个版本的 GPT,或者类似的什么东西,什么时候才能成为 AGI?

我不认为我们现在非常接近 AGI。但我最近一直在思考的问题就是我们该如何判断何时实现了这个目标。在过去的五年里,或者说更久的时期中,我领悟到的一点是,它不会是一个非常清晰的时刻。这将是一个更加渐进的过渡过程,就像人们所说的“缓慢起飞”那样。我们不会对 AGI 成型的时刻有什么公认的结论。

你觉得你在 OpenAI 公司之外的所有兴趣都和 AGI 相关吗?Worldcoin 之类的公司都能用 AGI 的框架来评价吗?

是的,至少这是我眼中的框架。AGI 是推动我所有行动的动力。有些行动直接受 AGI 影响,还有些行动看起来跟 AGI 没什么关系,可其实还是被它推动的。我的另一个目标是创造一个物质极大丰富的世界。比如说我认为能源非常重要,而能源对于创建 AGI 也非常重要。

OpenAI 首席执行官 Sam Altman 拒绝为本文拍照。上图是他的生成式人工智能工具 DALL-E 对“福布斯杂志封面上的 Sam Altman”这一输入的响应――他自豪地用这张计算机生成的图像展示了自己的形象。

Greg Brockman 曾说过,虽然 OpenAI 是研究驱动的,但它并不是反资本的。你如何在与想要获取回报的投资者的盈利目的和 OpenAI 的更宏伟的目标之间取得平衡?

我认为资本主义很棒,我热爱资本主义。在世界上所有那些糟糕的系统中,它是最好的――或者说是我们迄今为止发现的最过得去的系统。但我也希望我们能找到更好的方法,而且我认为,如果 AGI 真的完全实现,我可以想象它会以种种方式颠覆资本主义。

据我所知,我们在试图设计一种不同于其他任何公司的架构,因为我们确实信仰我们正在做的事情。如果我们只是认为我们的努力将成就又一家科技公司,我会说:“太好了,我知道这个剧本是怎么写的,因为我整个职业生涯都在这样做,所以让我们成为一家真正的大公司吧。”但如果我们真的实现了真正的 AGI 并且突破了传统的架构,我们就会需要不一样的公司结构。所以我很高兴我们的团队和投资者有着出色的表现,但我认为人工智能世界不应该被任何一家公司垄断。AGI 时代的市场利润该如何共享、AGI 的访问权限该如何共享以及 AGI 的治理权限该如何分配,这三个问题将需要新的思考。

Greg 向我介绍了第三方 API 未来与第一方产品(也许是企业工具)协作的想法。在产品化过程中,你如何保持 OpenAI 的开放精神?

我认为我们做到这一点的最重要方法是推出像 ChatGPT 这样的开放工具。谷歌不会把这种东西公开给公众使用。其他研究实验室出于各种原因也没有这样做;还有些人担心它不够安全。但我真的认为我们需要全社会来感受这种技术,努力钻研它,找到它的好处,了解它的缺点。所以我认为我们做的最重要的事情就是把这些东西放在那里让大家接触,这样世界就可以开始了解接下来要发生什么事情。在我为 OpenAI 感到自豪的所有事情中,最值得一提的就是我们已经能够在 AGI 上推动 Overton Window(注:一种用来理解在特定时间点上,公众在政治层面可以接受哪些政策的模型),而且是以一种我认为健康且重要的方式――即使这种方式有时会让人感到不舒服。

除此之外,我们希望能提供越来越强大的 API,因为我们能够让它们更加安全。我们将继续开源,就像我们开源 CLIP(注:2021 年发布的视觉神经网络)那样。真正掀起图像生成热潮的是开源活动。最近,我们开源了 Whisper 和 Triton(自动语音识别技术和编程语言)。我认为这是一种多管齐下的策略,既可以让事物走向世界,又可以平衡每件事物的风险和收益。

对于那些担心你们会搭上微软马车的人们,你有什么想说的吗?

我要说的是我们已经仔细考虑了我们与他们完成的所有交易,以确保我们仍然能够完成自己的使命。而且,Satya(微软 CEO)和微软也很棒。我认为,到目前为止,他们是最符合我们价值观的科技公司。每次我们去找他们说:“嘿,我们需要做一件可能会让你们讨厌的奇怪事情,因为它完全不是传统的那种交易,比如说会限制你们的回报或者打破很多安全准则。”这时候他们都会说:“这太棒了。”

所以你觉得 OpenAI 在盈利方面的商业压力或现实不会与公司的整体使命发生冲突?

完全不会。你问别人就知道了,我不愿意做的事情一定不会让人强迫去做,我不会做那样的交易的。

你们不是那种视金钱如粪土的僧侣,但感觉你们的动机也不是创造财富。

我认为这肯定是一种平衡。我们想让大家都非常成功,通过他们的股权获得丰厚的回报,这很好,只要它处于正常、合理的水平就没问题。但如果整个 AGI 产业打破了传统,我们也希望能有一种新的回报模式。我们希望现在就把向全社会分享技术的这种能力确定下来。我觉得我们目前已经取得了很好的平衡。

到目前为止,你见过人们使用 GPT 做过的最酷的事情是什么?最让你害怕的又是什么?

要从那么多非常酷的事情中挑选出一个最佳案例是很难的。人们用它做到的事情五花八门,真的非常了不起。但我可以告诉你我发现的最有用的东西,那就是总结。这对我来说绝对是巨大的突破,比我当初想象的要好用的多。现在我们可以轻松对长文或者来往的大量电子邮件做总结,这件事的意义远超我当初的想象。此外,让计算机回答深奥的编程问题,或者让计算机扮演一位超级聪明的程序员来帮我们调试代码,都是我眼中非常棒的用例。

至于可怕的事情?我一直非常关注的是开源图像生成器生成的色情和仇恨内容。我认为这些内容会造成巨大且可预见的伤害。

你认为这些工具背后的公司有责任确保此类事情不会发生吗?或者这只是人性中无法避免的一面?

我认为两者的答案都是肯定的。一个问题是,你想怎样监管它?从某种意义上说,如果我们可以指着那些公司说,“嘿,你不能做这些事情”,然后他们就不去做,那就太好了。但我认为人们无论如何都会开源模型,而且大部分开源结果都会很棒,但也会有一些不好的事情发生。建立在这些开源技术之上的公司,还有那些与最终用户有最终关系的公司,也将不得不承担一些责任。因此,我认为问题的答案会是共同责任和问责制。

https://www.forbes.com/sites/alexkonrad/2023/02/03/exclusive-openai-sam-altman-chatgpt-agi-google-search/?sh=1cbe07066a63

未来智能实验室的主要工作包括:建立AI智能系统智商评测体系,开展世界人工智能智商评测;开展互联网(城市)大脑研究计划,构建互联网(城市)大脑技术和企业图谱,为提升企业,行业与城市的智能水平服务。每日推荐范围未来科技发展趋势的学习型文章。目前线上平台已收藏上千篇精华前沿科技文章和报告。



OpenAI CEO Sam Altman:ChatGPT不会取代搜索

openai是哪个公司的,openai在您所在的国家不可用,openai和chatGPT什么关系,openai chatgpt

作者 |?Alex Konrad,Kenrick Cai

译者 |?王强

策划 | 刘燕

作为 OpenAI 的首席执行官,Sam Altman 领导的这家初创公司是正在快速增长的生成式 AI 行业中最热门且最受关注的一家。在 1 月中旬参观了 OpenAI 的旧金山办事处后,福布斯采访了这位最近不太愿意在媒体上抛头露面的投资者和企业家,讨论了 ChatGPT、通用人工智能、以及该公司的人工智能产品是否会对谷歌搜索构成威胁等话题。

Sam Altman 是 OpenAI 公司的 CEO,他的身影最近经常出现在微软公司中。上面这张照片就是他在微软总部拍摄的。

Alex Konrad(福布斯记者):随着 ChatGPT 的广泛流行,该产品的盈利模式正在落地途中,与微软的合作则带来了更多可能性;考虑到这些,我觉得我们正处于一个转折点上。从你的角度来看,OpenAI 认为自身正处于何种发展阶段?你又是如何看待这个转折点的?

Sam Altman:这绝对是一个激动人心的时刻,但我希望现在我们还处于非常早期的阶段。实际上,这项技术的进化及其对社会的积极影响会走出一条持续指数增长的路径。其实我们在 GPT-3 发布会或 DALL-E 发布会上就可以这么说了,而现在有了 ChatGPT,我们也明确了这一观点,而且今后我们还能带来更多佐证。目前来说我们也有可能高估了自己,将来我们很可能会遇到以前没见过或没预料到的绊脚石。但我还是认为我们很有可能获得了一些非常重要的成果,并且这一范式会带领我们走向非常遥远的未来。

你对 ChatGPT 引起的反响感到惊讶吗?

我做这个产品是因为我当初的确认为它能成,所以虽然我也没预料到它会产生这么大的反响,但我确实希望并期待人们会真正喜欢它。

OpenAI 总裁 Greg Brockman 告诉我,这个团队甚至都没那么笃定它值得作为产品发布出去,所以并不是每个人都持相同看法是吗?

长期以来,我们的团队都不怎么热衷于发布各种东西。我们只会说:“我们试试吧,先试一试,看看会发生什么。”至于 ChatGPT 这款产品是我努力争取发布的。我真的认为它能成。

你过去曾说过,你认为人们可能会对 ChatGPT 真正的组合或运行方式感到惊讶。那么人们有哪些理解是有误的呢?

有一点需要澄清的是,ChatGPT 的基本模型已经在我们的 API 中存在了很长时间,起码有 10 个月了。(注:ChatGPT 是 GPT-3 模型的更新版本,于 2020 年首次作为 API 发布。)我认为其中一件会令人惊讶的事情是,如果你做一些微调来让 GPT-3 模型以特定的方式提供帮助,并找出正确的交互范式,然后你就可以得到 ChatGPT 了。其实让它流行起来的并不是什么从基础层面带来革新的技术,而是其他很多因素。我认为这不是很好理解,比如说还有很多人并不相信我们的说法,他们觉得这个模型肯定是 GPT-4。

整个 AI 生态圈存在很多泡沫,那么更大的热潮对你们会有帮助吗?还是说这些热潮带来的噪音会让你们的工作更加复杂?

两者皆有,这是肯定的。

你认为这个领域正在形成一个真正的生态系统吗?也就是除了 OpenAI 还有其他很多公司在做重要的工作?

是的,我认为这个领域对一家公司来说太大了。实际上,我希望这里能有一个真正的生态系统,我觉得这样会好很多。我认为将来某一天世界上应该有多个 AGI(通用人工智能),所以我真的很期待这样的图景。

你觉得当今的 AI 市场与云计算、搜索引擎或其他技术的崛起过程有何相似之处?

我认为不同的技术发展总有相似之处。然后每一项技术总有一些有点特殊的东西。大多数人犯的错误是过多地谈论相似性,却忽略了那些区分不同技术的非常细微的差别。我们可以这样谈论 OpenAI:“啊,是的,这就像云计算之战一样。市场将会出现多个类似的平台,你只需选择其中一个接入 API 即可。”这样的说法很容易理解,但问题是这个领域有很多非常不一样的东西,人们会做出非常不一样的功能选择。云在某些方面完全是另一回事,你把东西放上去,就能得到服务。我认为各种人工智能产品之间会有更大的差异。

人们想知道 ChatGPT 是否会取代传统的搜索引擎,例如谷歌搜索。取代搜索引擎是激励你们前进的动力吗?

我认为 ChatGPT 不会“取代搜索”。但我认为有一天会有某种人工智能系统做到这一点。不仅如此,我认为如果你只关注昨天的新闻,就会错过明天的机遇。我更感兴趣的是思考搜索之外的东西。我都不记得互联网搜索引擎诞生以前行业在做什么了,毕竟我也很年轻,我觉得你们也回想不起来了……

我小时候有一张大英百科全书的 CD-ROM。

对,完全正确,我也想起来了,就是这么一回事。当初没人会说:“嗯,我要做一个比小学时用的那个 CD-ROM 版大英百科全书好一点的版本。”大家的想法是:“嘿,实际上我们可以用一种非常不同的方式来做到这一点。”我对我们这些模型感到非常兴奋的点并不是说:“请问你会怎样提升我们的线上搜索体验?”而是:“我们怎样做出完全不同,而且更酷的东西来?”

这是 AGI 才能实现的目标吗?还是说在它成熟以前就能做到的事情?

没那么晚,我希望它很快就会发生。

你觉得我们接近 AGI 之类的目标了吗?我们怎样才能知道某个版本的 GPT,或者类似的什么东西,什么时候才能成为 AGI?

我不认为我们现在非常接近 AGI。但我最近一直在思考的问题就是我们该如何判断何时实现了这个目标。在过去的五年里,或者说更久的时期中,我领悟到的一点是,它不会是一个非常清晰的时刻。这将是一个更加渐进的过渡过程,就像人们所说的“缓慢起飞”那样。我们不会对 AGI 成型的时刻有什么公认的结论。

你觉得你在 OpenAI 公司之外的所有兴趣都和 AGI 相关吗?Worldcoin 之类的公司都能用 AGI 的框架来评价吗?

是的,至少这是我眼中的框架。AGI 是推动我所有行动的动力。有些行动直接受 AGI 影响,还有些行动看起来跟 AGI 没什么关系,可其实还是被它推动的。我的另一个目标是创造一个物质极大丰富的世界。比如说我认为能源非常重要,而能源对于创建 AGI 也非常重要。

OpenAI 首席执行官 Sam Altman 拒绝为本文拍照。上图是他的生成式人工智能工具 DALL-E 对“福布斯杂志封面上的 Sam Altman”这一输入的响应――他自豪地用这张计算机生成的图像展示了自己的形象。

Greg Brockman 曾说过,虽然 OpenAI 是研究驱动的,但它并不是反资本的。你如何在与想要获取回报的投资者的盈利目的和 OpenAI 的更宏伟的目标之间取得平衡?

我认为资本主义很棒,我热爱资本主义。在世界上所有那些糟糕的系统中,它是最好的――或者说是我们迄今为止发现的最过得去的系统。但我也希望我们能找到更好的方法,而且我认为,如果 AGI 真的完全实现,我可以想象它会以种种方式颠覆资本主义。

据我所知,我们在试图设计一种不同于其他任何公司的架构,因为我们确实信仰我们正在做的事情。如果我们只是认为我们的努力将成就又一家科技公司,我会说:“太好了,我知道这个剧本是怎么写的,因为我整个职业生涯都在这样做,所以让我们成为一家真正的大公司吧。”但如果我们真的实现了真正的 AGI 并且突破了传统的架构,我们就会需要不一样的公司结构。所以我很高兴我们的团队和投资者有着出色的表现,但我认为人工智能世界不应该被任何一家公司垄断。AGI 时代的市场利润该如何共享、AGI 的访问权限该如何共享以及 AGI 的治理权限该如何分配,这三个问题将需要新的思考。

Greg 向我介绍了第三方 API 未来与第一方产品(也许是企业工具)协作的想法。在产品化过程中,你如何保持 OpenAI 的开放精神?

我认为我们做到这一点的最重要方法是推出像 ChatGPT 这样的开放工具。谷歌不会把这种东西公开给公众使用。其他研究实验室出于各种原因也没有这样做;还有些人担心它不够安全。但我真的认为我们需要全社会来感受这种技术,努力钻研它,找到它的好处,了解它的缺点。所以我认为我们做的最重要的事情就是把这些东西放在那里让大家接触,这样世界就可以开始了解接下来要发生什么事情。在我为 OpenAI 感到自豪的所有事情中,最值得一提的就是我们已经能够在 AGI 上推动 Overton Window(注:一种用来理解在特定时间点上,公众在政治层面可以接受哪些政策的模型),而且是以一种我认为健康且重要的方式――即使这种方式有时会让人感到不舒服。

除此之外,我们希望能提供越来越强大的 API,因为我们能够让它们更加安全。我们将继续开源,就像我们开源 CLIP(注:2021 年发布的视觉神经网络)那样。真正掀起图像生成热潮的是开源活动。最近,我们开源了 Whisper 和 Triton(自动语音识别技术和编程语言)。我认为这是一种多管齐下的策略,既可以让事物走向世界,又可以平衡每件事物的风险和收益。

对于那些担心你们会搭上微软马车的人们,你有什么想说的吗?

我要说的是我们已经仔细考虑了我们与他们完成的所有交易,以确保我们仍然能够完成自己的使命。而且,Satya(微软 CEO)和微软也很棒。我认为,到目前为止,他们是最符合我们价值观的科技公司。每次我们去找他们说:“嘿,我们需要做一件可能会让你们讨厌的奇怪事情,因为它完全不是传统的那种交易,比如说会限制你们的回报或者打破很多安全准则。”这时候他们都会说:“这太棒了。”

所以你觉得 OpenAI 在盈利方面的商业压力或现实不会与公司的整体使命发生冲突?

完全不会。你问别人就知道了,我不愿意做的事情一定不会让人强迫去做,我不会做那样的交易的。

你们不是那种视金钱如粪土的僧侣,但感觉你们的动机也不是创造财富。

我认为这肯定是一种平衡。我们想让大家都非常成功,通过他们的股权获得丰厚的回报,这很好,只要它处于正常、合理的水平就没问题。但如果整个 AGI 产业打破了传统,我们也希望能有一种新的回报模式。我们希望现在就把向全社会分享技术的这种能力确定下来。我觉得我们目前已经取得了很好的平衡。

到目前为止,你见过人们使用 GPT 做过的最酷的事情是什么?最让你害怕的又是什么?

要从那么多非常酷的事情中挑选出一个最佳案例是很难的。人们用它做到的事情五花八门,真的非常了不起。但我可以告诉你我发现的最有用的东西,那就是总结。这对我来说绝对是巨大的突破,比我当初想象的要好用的多。现在我们可以轻松对长文或者来往的大量电子邮件做总结,这件事的意义远超我当初的想象。此外,让计算机回答深奥的编程问题,或者让计算机扮演一位超级聪明的程序员来帮我们调试代码,都是我眼中非常棒的用例。

至于可怕的事情?我一直非常关注的是开源图像生成器生成的色情和仇恨内容。我认为这些内容会造成巨大且可预见的伤害。

你认为这些工具背后的公司有责任确保此类事情不会发生吗?或者这只是人性中无法避免的一面?

我认为两者的答案都是肯定的。一个问题是,你想怎样监管它?从某种意义上说,如果我们可以指着那些公司说,“嘿,你不能做这些事情”,然后他们就不去做,那就太好了。但我认为人们无论如何都会开源模型,而且大部分开源结果都会很棒,但也会有一些不好的事情发生。建立在这些开源技术之上的公司,还有那些与最终用户有最终关系的公司,也将不得不承担一些责任。因此,我认为问题的答案会是共同责任和问责制。

原文链接:

https://www.forbes.com/sites/alexkonrad/2023/02/03/exclusive-openai-sam-altman-chatgpt-agi-google-search/?sh=1cbe07066a63