手机浏览器扫描二维码访问
第109章 OpenAI最近有点儿跳得限制一下（第1页）
第109章OpenAI最近有点儿跳，得限制一下！
郝成请了一顿饭，何钢吃了满肚子的心事。
饭局刚刚一结束，他就立刻回到酒店，联系上了于东。
“老何，我咋发现你每次一去临州，都会变得这么慌慌张张的呢？”
于东甚至调侃上了。
“你先别忙，听我说。”
何钢仔细的将郝成在车上的话简单跟于东复述了一遍，而后总结道：“可不要看这东西是郝成在扯闲篇，是在泛泛而谈大路的概念，是没有透露任何AI训练方法的。
“但实际上，他这个泛泛而谈，跟我们一大群人去聊天，他不一样！”
“我知道，他已经训练出小沙了，他的大路概念那是正确的概念。”
于东长长的呼了口气：“从这泛泛而谈中或许能找到方向。
“但光听这些也没有用啊！”
思索了很久，于东也是无奈道：“你说的所有的东西，我只能总结出三个字‘类似人’，而这种方向，团队早就考虑过了。
“但现在的问题不是方向，是方法，我们没有找到任何的方法。
唯一的好消息是，我们以传统方式训练AI的成本也大大的降低了，效率却大大的提高了。”
于东说的这个倒是实情，不仅仅是华为、抖音、腾讯甚至OpenAI，训练AI的成本都降低了。
究其原因，也很简单，他们让小沙帮他们做数据清洗、标定和反馈。
数据清洗原本是一个非常复杂且繁琐的工作，也是训练AI非常关键的步骤，数据清洗的质量越高，AI训练的质量也就越高。
以往，这个工作都是由人工来实现的，也有用AI来做的，但是效果就会很差，往往会投喂一些垃圾数据，造成模型被污染，进而产生一些低级错误。
而现在有了小沙，这项工作可以更快速的进行，准确率甚至不比人工清洗差。
而更关键的一个问题，以往GPT类的模型，是RLHF，也就是基于人类反馈的强化学习。
怎么做的呢：就是先预训练一个语言模型，然后做微调。
微调怎么调呢：就是你问一个问题，语言模型给你回答，然后人工给这些回答进行排名，然后获得一个有质量排序的数据集，用这个数据集反过来再去微调相关的模型参数，一遍又一遍循环往复，然后答案就会越来越接近人想要的。
而现在，小沙代替了人工的这个步骤。
RLHF模型先前被认为不可能无限提高，其中最重要的一个原因就是，随着参数越来越多，数据量越来越大，人工去获取一个有质量排序的数据集也变得越来越不可能。
于是有人就认为，自我反馈模型，也就是让模型自我去评价去提升的模型才是未来，纵然它有时候显得很弱智。
但是现在，有了小沙，小沙替代【基于人类反馈的强化学习】里边的人类，变成了【基于小沙反馈的强化学习】，这一切就又变得可能了！
不仅解决了自我反馈容易弱智的问题，同时解决了人工反馈效率过低、成本过高的问题。
这就相当于将两个模型的优点直接结合了。
而且，超大规模超超大规模，也不用担心人工的问题了。
所以，各家的模型现在进步都非常大，原因就在于此。
想要变得跟小沙一样厉害，那当然不可能——基于小沙训练的AI想超过小沙那本身就是一个悖论。
但是，只要舍得堆积算力，无限的堆积算力，再加上用小沙代替人类进行反馈的强化学习，理论上最终能极限逼近小沙的水准。
当然，理论只是理论，现实中不存在无限算力，考虑实际情况，用这种方式结合超大算力训练一年，达到小沙的六七成水准应该是可能的。
第109章OpenAI最近有点儿跳，得限制一下！
华为这边默默的评估过，现在几乎所有的AI训练企业都在偷偷的这么干。
“需要跟郝成说一下这个情况吗？”
何钢问了一嘴。
“这他应该知道吧？”
陆慕言苏溶月笔趣阁免费阅读 言淼宋遇宁笔趣阁免费阅读 勤劳的小野猫小说主角言淼宋遇宁 谁又偷猫肉小说主角戴淼淼戴旭 主角叫郝成的小说 孽海海棠文无删减 媚人小说主角陆慕言苏溶月 裁员后我成了科技教父无防盗章节 太子妃位被夺我转身嫁太子他爹无防盗章节 裁员后我成了科技教父郝成免费阅读无错版 主角叫陆凌瑶的小说 和离之后 辰小序原创新书裁员后我成了科技教父 笼中雀by陆慕言苏溶月翠微居完整版 孽海 笼中雀 笼中雀海棠文无删减 孽海by言淼宋遇宁翠微居完整版 陆凌瑶太子妃位被夺我转身嫁太子他爹笔趣阁未删减版 淼淼by戴淼淼戴旭翠微居完整版
第一纨绔：王爷放肆撩
唐庭若是温澜见过最不知羞的姑娘，当街亲嘴，隔空示爱，夜半爬床，甚至在满朝文武面前向他求亲温澜是唐庭若见过最表里不一的公子，白天一套，晚上一套，没羞没臊，甚至在满城百姓面前向她下跪求娶。人世间，有百媚千红唯独你，我情之所钟...
邪蛮太子妃：殿下，好放肆！
一对一身心干净甜宠文太子病重，钦天监一封奏疏，苏玥当夜就被塞进东宫，莫名其妙地成了大周国太子妃。喂！不是说太子只有进气没出气吗？为何还能折腾她一整夜，令她第二天连床都下不了？！大骗子，你又骗我！哪有骗你？正是你命格好，冲走了我的沉疴！我大学本科毕业，会信你的鬼话？苏玥恨恨道，你就不知道强扭的瓜不甜吗？谁说不甜？太子轻抬起她的下巴，深深地印上去一个吻，我觉得甘之若饴。如果您喜欢邪蛮太子妃殿下，好放肆！，别忘记分享给朋友...
清穿咸鱼攻略
清穿咸鱼攻略简介emspemsp关于清穿咸鱼攻略宅女林羡余被宫斗APP绑定，开启快穿之路，本应智斗嫔妃攻略帝王，然鹅看看那些渣得各有特色的渣渣，林羡余表示，争宠是不可能争宠的，她宁可当一条混吃等死的咸鱼！谁敢坏老娘享乐大业，咸鱼甩尾抽死之！第一场游戏董鄂妃她妹（进行中）第二场游戏辛者库贱妇（预告）第三场游戏十岁小福晋（预告）第四场游戏未定...
暴躁女主在线撒欢
她本是秦家最具天赋的年轻一辈，谁曾想树大招风，人心不古，遭人暗算，一朝身死，魂归大地！再睁眼时，却发现自己重生在一个无父无母，穷困潦倒还有一群极品亲戚的小可怜身上。看着这糟糕至极的处境，她暴走了！极品亲戚？打一顿就好了，一顿不行的话就打两顿，打到不极品不就好了吗？白莲花？踩爆她的狗头就好了！渣男？送他去极乐世界转一转，一切都不是问题。至于仇人？踩爆他们的狗头，顺便让他们体验一下什么叫人间疾苦就行了。本来，她以为自己可以拿着女主的剧本一路开挂，金手指，报血仇，贵人相助，遇难呈详，谁料遇到他，翻天覆地满盘皆乱然，事与愿违，碰壁有瘾她当真体会到何为哑巴吃黄连，有苦说不出遇到看淡红尘，绝对禁欲的心上人怎么破？打不得，骂不得，还总想挂在心尖尖上宠那就哄吧殊不知，哄着哄着，就把自己搭了进去如果您喜欢暴躁女主在线撒欢，别忘记分享给朋友...
掠天记
...
眷忆曾为挽别离
疯批女追男囚爱后，疯批男火葬场追妻。最倒霉的，是这个天下呗！主角版美强惨摄政长公主，因上辈子是个病秧子，性情孤僻一身反骨，重生成了恶人头子。很好很适合她。就爱拉天下一起发疯。夺权抢人，就爱看你们狠不过我的样子。什么？爱上的是死对头？替身女配还倒反天罡？想骑在她头上拉臭...