美国人工智能公司OpenAI的大语言模型ChatGPT在推出约两个月后,1月已达到1亿月活跃用户,成为历史上增长最快的消费者应用程序。
目录
01.诞生过程
02.背后的技术
03.颠覆的行业
04.对教育的未来变化
01.诞生过程
2018年6月,拥有1.17亿参数的GPT1启动,以往的人工智能机器学习要对学习内容事先要做标记,但GPT1可以对未标记文本的不同语料库进行语言模型的生成性预训练,然后对每个特定任务进行区分性微调,实现无监督训练和有监督微调相结合的语言理解任务。能力应该算接近小学生。
2019年2月,拥有15亿个参数的GPT2启动,实现了无监督的多任务学习者,因为在前期大量学习的基础上,这个数字大脑已经有了一定自我纠偏能力。GPT2开始训练的数据取自于著名社交站点Reddit上高赞的文章,累计有约40GB的800万篇文章。能力应该算接近中学生。
2020年5月,拥有1750亿参数的GPT3启动,利用前面过滤形成的45TB的压缩文本,开始了大规模的机器学习,把能获取的人类书籍、学术论文、新闻、高质量的各种信息作为学习内容,并形成了根据人类反馈的强化学习方案RLHF(reinforcement learning from human feedback)。这个时候的GPT已经达到了大学生的思考能力,关键是它还能自己创编新的知识。
2022年11月30日,ChatGPT横空出世,在全球范围内形成了热烈的讨论。根据 Similarweb 的数据,今年1 月,平均每天约有 1300 万独立访客使用 ChatGPT,是去年 12 月份的两倍多,累计用户超1亿,创下了互联网最快破亿应用的记录,超过了之前TikTok 9个月破亿的速度。
02.背后的技术
ChatGPT使用的核心技术之一是Transformer。这从其全称上也能看得出来,Chat Generative Pre-trained Transformer。ChatGPT背后的支撑是人工智能大模型,当前的人工智能大多是针对特定的场景应用进行训练,整个过程不仅需要大量的手工调参, 还需要给机器喂养海量的标注数据,这拉低了人工智能的研发效率, 且成本较高。所以之前的人工智能大家的感觉就是成不了专家,仅仅可以用,其实它的上限被标注人员的能力所限制了,很难突破这个能力。GPT模型突破了这个限制。
03.颠覆的行业
“AI 不会取代你。一个使用 AI 的人将取代你”。
大量的开发者可以利用ChatGPT这样的底层平台,在大模型基础上根据不同行业和场景进行模型调优,从而创造出各类满足用户需求的丰富应用。硅谷近期创业很多与之有关的项目。例如国外火爆的Jasper,通过在GPT3模型上的微调,可以帮助用户撰写营销文案,甚至帮助留学生撰写留学论文。
在教育、医疗、广告营销、市场、企业服务、编写代码等专业服务领域,成为更为专业的人类助手,不仅可以生成内容,还可以调用各种专业能力,甚至替代部分初级的专业工作。
2月8日,微软推出了由 ChatGPT 提供技术支持的Bing搜索引擎, 直接把微软股价拉高几千亿,冲击Google的搜索引擎市场。
未来ChatGPT与数字人协同,就会出现数字诗人、歌手、科学家,假如与特斯拉的人形机器人协同,那就会出现无所不能的真实的智能机器人,你会拥有十分聪明的机器人同事,也会有无所不知的智能老师。
04.对教育的未来变化
ChatGPT几乎能回答学生问的所有问题,它背后是整个人类知识库,还在不断完善迭代,这是任何老师无法做到的。我们要考虑如何更无缝的连接它。
如果我们每个人知识可以随时方便的获得,那么那些已知的知识还有没有必要浪费每个人大量的时间去学习,记忆。我们未来不会是靠学习建立自己独立的神经元连接,而是我们的神经元如何和整个ChatGPT这样的人类知识库的不断链接,目前这样的链接是需要训练的,未来通过脑机接口,可能出生后就很容易获得。
无论学生还是老师,掌握这个能力和不掌握这个能力,未来完全是不同的起点,类似不同维度的降维打击。那我们未来的学习到底学什么?不仅掌握知识,更多的是掌握知识背后的原理,知其然知其所以然。我们也不要期望成为全才,我们应该在一个领域深入学习,成为更具体领域的专家。要学会下苦工,做到自己在某个细分领域有别人所没有的思考和实践。
无论如何,这场变革以来,五年也许十年,人类将迎来科技的奇点!
本文链接:https://my.lmcjl.com/post/6630.html
4 评论