人工智能open ai ai神经网络图
淘宝搜:【天降红包222】领超级红包,京东搜:【天降红包222】
淘宝互助,淘宝双11微信互助群关注公众号 【淘姐妹】
作者 | 蒋宝尚
编辑 | 贾伟
躺尸接近三个月的OpenAI博客终于有了更新,这次它为AI研究者带来的作品是“OpenAI Microscope”,中文译名OpenAI 显微镜。
意为可以像实验室中的显微镜一样工作,帮助AI研究人员更好地理解神经网络的结构和特征。
博客地址:https://openai.com/blog/microscope/
说到底,这个显微镜更像是一个神经元可视化库,里面包含了历史上重要且普遍研究的计算机视觉模型,如2012年ImageNet挑战赛冠军AlexNet,2014年的ImageNet冠军GoogleNet(又名Inception V1)和ResNet v2。
OpenAI Microscope
显微镜地址:https://microscope.openai.com/models
如上图所示,初始版本包含8个计算机视觉领域的神经网络模型。每个神经网络都用可视化的形式展示了一些重要神经元的内部结构。
OpenAI在研究中提到:现代神经网络模型强大的能力来源于成千上万个神经元相互作用,
但神经元之间的“协作”一直是个迷,OpenAI 发布的这个显微镜能够帮助快速探索这些神经元。
例如,一位研究人员可能会推测:InceptionV1 4c:447 is a car detector which is built from a wheel detector (4b:373) and a window detector (4b:237)。InceptionV1 4c:447是由车轮检测器(4b:373)和车窗检测器(4b:237)组成的汽车检测器。那么,用OpenAI 显微镜就可以评估该推测,并发现新事物。
如,OpenAI显微镜对AlexNet的观察,如上动图所示,从最初的一张完整图片开始,经历了神经网络提取特征,最后图片会“虚化”成一些彩色线条。
(雷锋网)
这中间发生了什么?显然,弄清楚神经网络中间的运行过程非常重要。
如上,点击神经网络的每一层,OpenAI 显微镜都会对处理图片的过程进行可视化的展示,具体到每一个神经元都会对应一张处理后的图片。非常清晰的展示了每一张图片的“渐进”过程。
据OpenAI介绍,这种探索神经元的过程,对另一份神经网络可解释性研究《Zoom In: An Introduction to Circuits》提供了意想不到的帮助。
“显微镜”技术基于两个概念:模型中的位置和技术。形象一些的讲,位置就是你把显微镜对准的地方,技术就是你给它贴上什么样的透镜。
模型由“节点”(神经网络层)图组成,这些图通过“边”相互连接。每个操作包含数百个“单元”,大致类似于神经元。
值得注意的是,其使用的大多数技术仅在特定分辨率下才有用。例如,特征可视化只能指向一个“单元”,而不是其父“节点”。另外,在给出这个工具的同时,OpenAI也给出了几点对可解释性研究的贡献:1、所有的模型和可视化都已经开源,且“显微镜”中所有的可视化都是用lucid库生成。2、能够将模型和神经元相互联系起来,可以立即对神经元进行审查和进一步探索。3、可访问性,通过共享可视化研究,保持高度的可访问性。正如生物学家专注于研究少数“模型生物”一样,“显微镜”也专注于详细探索少数模型。OpenAI的初始版本包括九个常用的视觉模型,未来几个月会扩展到其他模型。也就是说,目前仅提供DeepDream和函数可视化功能,尚未支持定制模型可视化探索。
可解释性研究:源于DeepDream
可解释性和确定性在机器学习系统方面是一个宽泛的话题,设法了解神经网络在那些层的函数中具体在做什么是一大挑战。
但弄清楚应该如何选择初始化参数这类问题,必须了解神经网络的本质。
AI研究员们也一直朝着这个方向努力。除了Microscope下的神经元可视化之外,近年来的一些工作也试图可视化机器学习模型。
(雷锋网)
例如,Facebook在去年春天推出的Captum,便尝试了使用可视化技术来解释机器学习模型做出的决策。作为基于 Pytorch 的一个模型解释库,其功能强大、灵活且易于使用,并为所有最新的算法提供了解释性,能够帮助研究人员及开发者更好地理解对模型预测结果产生作用的具体特征、神经元及神经网络层。
在当时,Facebook也推出了Captum Insight 的试用版,基于 Captum 构建,提供了解释性的可视化功能。
而在2019年3月,OpenAI和谷歌也曾发布用于可视化机器学习算法做出的决策的激活地图技术(Activation Atlases);
(雷锋网)
如果将之前的研究比作在算法的视觉字母表中显示单个字母,那么激活地图集则提供了整个字典,它能够显示字母是如何组合在一起制作实际词汇。
激活地图集建立在特征可视化的基础上,将关注点从单个神经元转移到可视化这些神经元所共同代表的空间。
显然,今天“显微镜”的这项工作也集成、借助了之前的激活地图技术。
追根溯源,所有的此类可视化研究或许可以归结为一项名为DeepDream的早期实验,这是2015年发布的计算机视觉计划,意图将任何图片变成了自身的“幻觉”版本。
DeepDream展示了google神经网络模型对输入图片的理解,类似于“深度盗梦”,由于画风诡异,其被认为在某些方面,定义了所谓人工智能美学。
或许,从那时候,AI研究人员就对神经网络模型眼中的世界产生了好奇,开启了可解释性探秘之路。
正如OpenAI的Chris OlahOlah曾经说过的那样:“在某些方面,这一切都始于DeepDream。”
搞事?立陶宛煽动民众不买中国手机;滴滴否认最终或被控制及柳青计划卸任;小米投出汽车芯片独角兽;台积电罕见开除七名员工|IoT早报
立陶宛为什么爆发抗议,立陶宛为什么抗议,立陶宛为啥抗议,立陶宛人民抗议编辑:Sophia
图片:全国肺炎疫情实时数据(数据来源:百度)
点击阅读原文直达iot101.com,一网打尽物联网产业所有新鲜资讯
【今日物语】
发展6G要坚持需求导向、战略谋划不可或缺,要不失时机地布局6G面临的广域通信、天地融合、新型信息服务等研究,谋求长远发展优势,坚持守正创新,谨防路径依赖的负面效应。
――中国科学院院士 陆建华
一、【物联网头条】
立陶宛建议民众不买中国手机
据路透社报道,立陶宛国防部近日发表一则报告,建议消费者避免购买中国手机,该政府报告声称,他们发现这些手机设备内部具有内置的审查功能,建议人们扔掉现在拥有的中国手机。
工业数据采集国产替代方案
chatgpt 会让设计师失业么 chatgpt出现后医生会失业吗chatgpt,chatgpt怎么下载,chatgpt注册,chatgpt概念股
ChatGPT有多火?瑞银集团报告显示,截至2023年1月末,在ChatGPT推出2个月后,其月度活跃用户已突破1亿人次,成为史上用户增长速度最快的消费级应用程序。
ChatGPT不仅能聊天,还能参加考试
2022年11月,人工智能研究公司OpenAI推出ChatGPT语言模型。OpenAI官网显示,ChatGPT能完成问题解答、文案、翻译、代码等任务,其局限性在于有时会生成不正确的信息,产生有害指令或有偏见的内容,以及对2021年后发生的事情了解有限等。此前,该公司已陆续推出3代GPT。
从性能上看,GPT-3的参数量较上一代提升超100倍达1750亿,训练所用的数据量达45TB。新推出的ChatGPT主要源于GPT-3的预训练模型,能对文本输入生成类似人类的响应,是专门为会话任务设计的模型。
发表在MedRxiv上的一项研究称,ChatGPT标志着自然语言处理模型(NLP)在医学问题回答任务上有显著改进。耶鲁大学研究者考察了ChatGPT在美国医学执照考试中的表现,结果显示ChatGPT在4个试题数据集上的准确率分别为64.4%、57.8%、44%和42%。随着问题难度增加,ChatGPT模型性能显著下降。研究认为,该模型与大学三年级医学生相当。
ChatGPT会让哪些人“失业”?
自2023年1月以来,类ChatGPT聊天机器人“争夺战”愈演愈烈,全球多家互联网巨头纷纷布局。继微软1月底宣布将向OpenAI投资后,2月初,谷歌向Anthropic投资约3亿美元,而后者正在测试ChatGPT竞争产品。
与此同时,谷歌2月6日透露计划推出一款聊天机器人Apprentice Bard,正面迎战ChatGPT。2月7日,百度发布消息称,公司聊天机器人项目将于3月完成内测,面向公众开放,名字确定为“文心一言”,英文名ERNIE Bot。
随着各公司类似ChatGPT聊天机器人在未来逐渐问世,这类技术将会被布局在哪些领域?界面数据记者在ChatGPT上提问“ChatGPT未来可以怎么应用”,得到的回答包括在客户服务、虚拟助手、医疗保健、教育、营销、金融这六大领域上的应用。这意味着,金融、营销、教育、医疗、客服行业在未来将会受到类似ChatGPT聊天机器人影响,部分岗位或将面临被“替代”的风险。
OpenAI背后资本浮现,或获微软100亿美元投资
2015年,OpenAI成立,其联合创始人包括特斯拉CEO埃隆・马斯克、美国著名创业孵化器Y Combinator前CEO山姆・奥特曼等,起初便获得PayPal联合创始人彼得・蒂尔、LinkedIn联合创始人雷德・霍夫曼等人投资。2018年,马斯克辞去OpenAI董事职务,但称将继续为公司提供资金支持并担任顾问。
2019年7月,在OpenAI推出GPT-2后几个月,公司获得微软10亿美元注资。GPT-3推出后,OpenAI又引来老虎全球管理基金、红杉资本等知名投资机构投资。
随着ChatGPT在全球大火,2023年1月底,微软宣布将向OpenAI开展“多年、数十亿美元”的投资。彭博社援引知情人士消息称,微软将向OpenAI投资100亿美元,微软计划将OpenAI的技术纳入其必应搜索引擎和其他产品中。
返回搜狐,查看更多
责任编辑: