“数据中台”这几年在大数据圈里颇为盛行,讨论度居高不下,好像不聊它就落伍了。作为大数据的下一风口,各一线大厂如阿里、网易、京东、美团等都很重视,如今也渗透到各个传统行业。 什么是数据中台? 数据中台到底是什么?我们可以从它的字面上开始理解,数据中台的“中”字意味着它是介于两个物品之间的产物。数据中台居于前台和后台之间,是企业级的数据共享、能力复用平台,是数字 继续阅读
2023年科技者工作日感悟
科技强,则国强,科技兴,则国兴。科技正在改变着我们的生活, 生活又推动科技发展,而且科技让我们的生活变得更加美好。科技应用就在我们身边,如ChatGPT、智能手机、智能手表、智能驾驶、北斗导航、人机对话、智能机器人、抖音、虚拟现实、农业科技、民生科技、航空航天、装备制造、生物医药、节能环保等多个领域。今年最热门的科技话题ChatGPT,ChatGPT是OpenAI开发的一种基于Transformer的语言模型&# 继续阅读
ReduceNet
本文直接采用VanillaNet的方案重新开始构建模型ReduceNet。按照VanillaNet的方式极限压缩网络深度至单层 前几天在知乎上看到华为提出的一个VanillaNet,其中的一个设计点和我一直想实现的功能非常类似,即训练阶段的时候模型是比较深的网络,推理的时候会自动变成比较浅的网络。起初我一直想缓渐地暴力地丢掉卷积层,结果不能如愿,模型性能会在训练阶段的最后几个epoch一直退化,模型变成毫无用处 继续阅读
「料见」vol25.回顾 | PKU-Beaver开源项目团队:一起来聊首个可复现的RLHF基准
为了解决复现RLHF技术和基于RLHF技术的大预言模型的不安全问题,北京大学团队开源了名为PKU-Beaver(海狸)开源项目。 第25期料见闭门分享会,我“门”非常开心邀请到PKU-Beaver开源项目团队成员——北京大学人工智能研究院助理教授 杨耀东 老师、北京大学在读博士生 吉嘉铭,来与大家分享项目介绍、近期情况,并与线上同学进行QA交流互动。 本次开源SafeRLHF第一轮的20k数据集ÿ 继续阅读
“开源”一词诞生 | 历史上的今天
整理 | 王启隆 透过「历史上的今天」,从过去看未来,从现在亦可以改变未来。 今天是 2023 年 2 月 3 日,在 51 年前的今天,1972 年 2 月 3 日,第 11 届冬季奥林匹克运动会在日本札幌举行,开亚洲举办冬奥会之先河,有 35 个国家和地区 1600 多名运动员参加。回顾计算机历史上的 2 月 3 日,还有一件与我们生活息息相关的大事件发生,你知道 继续阅读
必看!大语言模型调研汇总!!
自从ChatGPT出现之后,各种大语言模型是彻底被解封了,每天见到的模型都能不重样,几乎分不清这些模型是哪个机构发布的、有什么功能特点、以及这些模型的关系。比如 GPT-3.0 和 GPT 3.5 就有一系列的模型版本和索引,还有羊驼、小羊驼、骆驼 ...... 动图封面 于是浅浅的调研了一下比较有名的大语言模型,主要是想混个脸熟,整理完之后就感觉清晰多了,又可以轻松逛知乎学习了。 动图封 继续阅读
大语言模型调研汇总
自从ChatGPT出现之后,各种大语言模型是彻底被解封了,每天见到的模型都能不重样,几乎分不清这些模型是哪个机构发布的、有什么功能特点、以及这些模型的关系。比如 GPT-3.0 和 GPT 3.5 就有一系列的模型版本和索引,还有羊驼、小羊驼、骆驼 ...... 于是浅浅的调研了一下比较有名的大语言模型,主要是想混个脸熟,整理完之后就感觉清晰多了,又可以轻松逛知乎学习了。 一. Basic Language Model 基础语言模型是指只在大规模文本语料中进行了预训练的 继续阅读
一网打尽!国内外50多个大模型调研汇总
因公众号更改推送规则,请点“在看”并加“星标”第一时间获取精彩技术分享 点击关注#互联网架构师公众号,领取架构师全套资料 都在这里 0、2T架构师学习资料干货分 上一篇:ChatGPT研究框架(80页PPT,附下载) 大家好,我是互联网架构师! 自从ChatGPT出现之后,各种大语言模型是彻底被解封了,每天见到的模型都能不重样,几乎分不清这些 继续阅读
ChatGPT 之父传奇:8岁学编程,16岁出柜,37岁颠覆科技圈,网友:“天选 CEO!”
近日,“ChatGPT 月活破亿”冲上热搜!根据 Sensor Tower 数据,TikTok 在全球推出后用约 9 个月时间达到 1 亿用户,Instagram 花费了 30 个月,而 ChatGPT 仅用了两个多月的时间,就达到这一数据基准。 那么, ChatGPT 创造奇迹的背后,必须提及开发 ChatGPT 的人工智能实验室 OpenAI 及 OpenAI 首席执行官且被媒 继续阅读
OpenAI到底做对了什么?李建忠研思
OpenAI通过一系列在AI技术和产品上的突破,引爆了通用人工智能(AGI)的发展,被微软CEO 萨提亚 · 纳德拉称为“堪比工业革命的技术浪潮”。OpenAI趟出来的以大语言模型为主的AGI技术路线,也基本上宣告了其他AI技术路线的终结,这样以一己之力改变整个领域航道的,在技术史上也是空前绝后。一个区区两三百人(在去年底推出ChatGPT时,OpenAI团队大约270人 继续阅读
这 3 本书,大佬纷纷推荐!闭眼入!
最近爆火的 ChatGPT 能够很好地理解人类的语言,并以流畅且符合逻辑的自然语言来反馈。刚刚发布的 GPT-4 更是在各种学科考试(美国高考 SAT、研究生入学考试 GRE 等)和专业考试(律师考试等)中能拿到前 10% 的成绩。某种程度上,智能已经接近人类的水平,这是之前人工智能系统无法想象的。 大家可能都很好奇,人工智能是怎么做到的?究竟发生了什么? 继续阅读
OpenAI到底做对了什么?
OpenAI通过一系列在AI技术和产品上的突破,引爆了通用人工智能(AGI)的发展,被微软CEO 萨提亚 · 纳德拉称为“堪比工业革命的技术浪潮”。OpenAI趟出来的以大语言模型为主的AGI技术路线,也基本上宣告了其他AI技术路线的终结,这样以一己之力改变整个领域航道的,在技术史上也是空前绝后。一个区区两三百人(在去年底推出ChatGPT时,OpenAI团队大约270 继续阅读
如何用ChatGPT做咨询师,附Prompt
对基本问题研究得不深不透、得不到可靠的分析框架支持的情况下,仓促采取就事论事的应对措施 ,由于未能触及事情的根本,往往非但不能获得预期的效果,相反可能引发新的矛盾。 ——吴敬琏(著名经济学家,国务院发展研究中心研究员,中国经济学界的泰斗, 当代中国杰出经济学家、著名市场经济学者) 解决问题的三大障碍: 一是问题杂乱,没有识别基本问题 二 继续阅读
OpenAI宣布安卓版ChatGPT正式上线;一站式 LLM底层技术原理入门指南
🦉 AI新闻 🚀 OpenAI宣布安卓版ChatGPT正式上线 摘要:OpenAI今日宣布,安卓版ChatGPT已正式上线,目前美国、印度、孟加拉国和巴西四国的安卓用户已可在谷歌Play商店下载,并计划在下周拓展到更多地区。ChatGPT是一款聊天机器人应用,用户可向其询问问题的答案、指导或建议等。ChatGPT iOS版在推出一周后就扩展到30多个国家,预计安卓版本也会相 继续阅读
为什么软件架构重要?
作者:[美]伦·巴斯等 第2章为什么软件架构重要 如果架构是答案,那么问题是什么? 本章主要从技术角度讨论为什么架构重要。我们将研究13个重要原因。你可以利用它们来推动新架构的创建,或者对已有系统架构进行分析和优化。 1)架构可以抑制或支持系统的质量属性。 2)在架构中做出的决策允许你根据系统的发展进行推理和变更管理。 3)对架构的分析能够提前预测系统的质量。 4)文档化的架构增强了利益相关者之间的沟通。 5)架构是最早的, 继续阅读












