欢迎光临
我们一直在努力

直播回顾 “资深算法工程师带你走进ChatGPT”(全程干货)

“ ChatGPT ”一夜爆火,最近可谓是“走红”网络,不仅引发了AI圈不小的轰动,而且这款产品上线以来圈粉无数,非AI从业者,也感受到了其独特的“魅力”,不少网友调侃道:照这样发展下去,ChatGPT不断优化迭代,取代自己的工作是迟早的事情,甚至秒杀现在的搜索引擎……

作为AI领域从业者和学习者,使用之余,难免会产生各种各样的疑问:ChatGPT的模型是什么样的,如何正确使用?原理如何?未来趋势和发展如何?对于算法从业者,该如何利用和把握这波节奏?等等一系列围绕ChatGPT相关的算法和技术等问题。

为此我们上周五(12月9日20:00)通过1个半小时的直播,邀请到清华大学计算机科学与人工智能研究部博士后、美国劳伦斯伯克利国家实验室访问学者、主要从事NLP、对话领域的前沿研究和商业化、先后在AAAI、NeurlPS、ACM、EMNLP等国际顶会及期刊发表高水平论文十余篇的Jack老师,给大家详细阐述了“ChatGPT的前世今生”。

上周的直播过程,引起了大家强烈的反响,单平台观看人数破千,点赞上万,评论和私信收到大量的留言和互动,很多朋友转发和分享,大家直呼不过瘾,想要多看几次回放,细细领会,为此我们把精美的干货视频放在了视频号里,大家可以多次浏览和观看哈~

以下,为本次直播的精华纪要和视频:

1、ChatGPT与OpenAI简介

Jack:首先,非常感谢贪心科技的邀请,让我来给大家分享下关于“ChatGPT”的相关原理和未来趋势等技术问题。ChatGPT这款产品目前是由OpenAI刚推出1周左右,就非常的火爆,甚至火出圈了,如果要探索背后的原理,我们可以从OpenAI进行推导,从他们发表一些开源的论文、博客等研究内容来探讨,因为这款产品属于OpenAI的商业机密,所以具体的实现方法可能很少有外人知道。
作为OpenAI众多明星产品之一,了解OpenAI有助于我们明确ChatGPT的技术方案选型,这家公司成立之初是为了解决通用人工智能的问题,逐渐引领了工业界和学术界的潮流,GLIDE和DALLE、GPT系列、Whisper这3条业务线及产品是该公司核心优势体现。ChatGPT属于GPT业务线,本质上是用文本的形式和大家进行交互,在网友的试用下,让我们惊艳的是,它有一定程度的智能化。

Job来了

,赞 8

2、ChatGPT与GPT系列模型

Jack:ChatGPT的模型原理目前属于内部保密阶段,属于GPT系列,所以模型背后原理,基本都是这样的语言模型,简单来说就是你给定前N个词,给你输预测出来N+1个词,整个预测过程中,就可以使用各种各样的技术,来实现这样的目的。

要更深的了解ChatGPT,我们需要知道GPT系列模型的发展历程,才能进一步推测出ChatGPT的技术实现思路(发展历程下图所示,具体详解大家可看下方视频)

Job来了

,赞 3

3、ChatGPT与RLHF

这部分重点为“ RLHF ”(Reinforcement Learning Human Feedback)实现思路的讲解,大家直接观看视频即可。

Job来了

,赞 4

4、ChatGPT的使用及未来展望

Jack:通过网址(https://chat.openai.com/chat)下载注册使用即可。未来的发展趋势,据我看来,ChatGPT更是跨时代的一款产品,尽管大家对于该产品呈现出褒贬不一的说法。两年前,NLP的从业者文本生成这个领域还是在一堆case里去挑好的,而从ChatGPT往后大家开始在好的模型里去挑不好的case,能完成这样一个转变是非常不容易的。
对于这样优秀产品的出现,对于从业者和研究者来说更是感到技术方面的“望尘莫及”和“心向往之”,况且,和OpenAI内部大佬沟通发现,目前的版本其实还不是最好的。即便如此,也是给我们解决了很多问题,并且指出了未来在新的技术研究和模型等方面的思路。

Job来了

,赞 2

5、答疑环节

以下是本次直播过程中被大家问的最多的问题,并且Jack老师进行精彩的解答和分享(视频中有完整版回答)。
您推测中文版是直接把英文的模型翻译过来的吗还是直接用中文数据训练的?
小尺寸模型量化,剪枝能做到吗?
有资料说现在支持多少语言吗?
你好,目前市面上有一些跟虚拟角色对话的产品,可以设定特定的人设,原理是怎么样的?
模型怎么可以分辨能解决的问题和不能解决的问题?
代码和自然语言处理应该是基于不同的数据集吧?
GPT里怎么定义一个action?
请问,怎么去提升对数据的理解程度呢?
高质量多样性的数据,这个能举些例子吗?
ChatGPT最后只需要留Policy的参数,基础模型可以扔了吗?
请问DeepMind基于Google训练的语言模型和OpenAI的GPT哪家强?以及为什么?多谢
在预训练模型基础上人工监督打分(微调模型),是否可以看作是加入先验成分?
ChatGPT和InstructGPT的区别是什么?
百度的文心大模型怎么样?
为什么ChatGPT可以做到这么小的模型尺寸?
中文怎么实现打分?
Human in the loop里面用了在线学习吗?
请问ChatGPT中是否会用到prompt?
语义理解怎么做到的?
什么是大模型,模型参数变大的时候,模型结构会有什么变化吗?

更多精彩的内容和直播,请大家持续关注

您推测中文版是直接把英文的模型翻译过来的吗还是直接用中文数据训练的?
小尺寸模型量化,剪枝能做到吗?
有资料说现在支持多少语言吗?
你好,目前市面上有一些跟虚拟角色对话的产品,可以设定特定的人设,原理是怎么样的?
模型怎么可以分辨能解决的问题和不能解决的问题?
代码和自然语言处理应该是基于不同的数据集吧?
GPT里怎么定义一个action?
请问,怎么去提升对数据的理解程度呢?
高质量多样性的数据,这个能举些例子吗?
ChatGPT最后只需要留Policy的参数,基础模型可以扔了吗?
请问DeepMind基于Google训练的语言模型和OpenAI的GPT哪家强?以及为什么?多谢
在预训练模型基础上人工监督打分(微调模型),是否可以看作是加入先验成分?
ChatGPT和InstructGPT的区别是什么?
百度的文心大模型怎么样?
为什么ChatGPT可以做到这么小的模型尺寸?
中文怎么实现打分?
Human in the loop里面用了在线学习吗?
请问ChatGPT中是否会用到prompt?
语义理解怎么做到的?
什么是大模型,模型参数变大的时候,模型结

不会自己注册chagpt账号或者太麻烦,可以直接购买一个成品chagpt账号,直接使用!一人一号,独立使用!直接购买联系qq465693115 定制个人邮箱,非共享号码实时帮你接收验证码,非常快速

赞(0)
未经允许不得转载:梦马网络 » 直播回顾 “资深算法工程师带你走进ChatGPT”(全程干货)
分享到

登录

找回密码

注册