深度学习

主要流程 定义任务 理解业务目标 定义问题: 理解数据要要预测的目标, 定义机器学习类型, 分类/回归/推荐/ … 阅读更多

材料 GPT-1论文 GPT-2论文 GPT-3论文 Codex: Evaluating Large Lang … 阅读更多

Linear Probe: 冻住预训练模型， 仅训练新增的层，比如classifier layer Fine- … 阅读更多

AIGC在快速发展, 现在AIGC可能迎来了一个转折点, 在过去AIGC更多的是研究人员使用的玩具, 但是这两 … 阅读更多

微调最早是在图片领域用的更多, NLP虽然来的晚,但是后来居上. 不过微调的思路和一些tricks其实也没有什 … 阅读更多

背景 训练数据规模往往比较小: 领域数据自身少, 标注成本高 互联网上有大量标注和未标注的数据 能够利用在大规 … 阅读更多

【【2022最新版】李宏毅NLP（自然语言处理）】 【OpenAI Whisper 精读【论文精读】】 [NV … 阅读更多

参考材料 视频: 这个不完整, 只有李宏毅的部分, B站整理的会更完整. 但是这里有很多其他系列的视频也是挺好 … 阅读更多