机器学习和计算框架

深度学习/机器学习的新算法,模型和实现原理,深度学习的训练/推理框架及其引擎, 不包含深度学习的硬件算子和实现(该部分在硬件部分),深度学习的未来探讨和现状分析的博客论文代码讨论等.

通用教程知识

开源模型论文

名称 地址 论文 说明
OPT: Open Pre-trained Transformer Language Models github arxiv facebook
  • GLM-130B : github, demo, blog
  • PanGu-Coder: Program Synthesis with Function-Level Language Modeling: arxiv, 盘古, 华为开源的copilot工具
  • hybird AI: blog
  • DALL-E 2 - Pytorch: github, 文字转图片
  • imagen-torch: github: text to image, pytorch, imagen
  • NLP-Paper
  • 字节跳动; NLP论文代码整理;
  • 包含 NLP 领域下的对话语音领域,复现模型以及数据处理
  • Goopt
  • 基于GPT-3的搜索引擎
  • yolo v7
  • 添加对transformer的支持
  • 对NV GPU的适配
  • min-dalle
  • DALLE的精简版实现(for 推理)

在 Python 中使用机器学习来检测钓鱼链接:blog, 随机森林模型应用 * Text Summarization with Huggingface Transformers and Python * paperwithcode:Bringing Old Films Back to Life * transformer库快速体验文本生成

图片 * AI:Scaling Up Your Kenrels to 31x31: Revisiting Large Kernel Design in CNN * 通过大卷积核实现好的训练效果

  • 美团:基于强化学习的信息流广告分配方法CrossDQN
  • 广告推荐算法
  • 论文预印版
  • 图学习?Transformer:我也行!
  • transformer在图学习领域应用,介绍了四篇主要工作
  • 盘点22年各大顶会,对比学习它来了!: 微信
  • Improving Efficiency and Robustness of Transformer-based Information Retrieval Systems: github, ppt, Transformer信息检索效率和鲁棒性
  • A visual introduction to information theory: arxiv
  • A Survey on Vision Transformer: arxiv, 中科院vit综述论文
  • Dive into Big Model Training: blog, 大模型训练经典论文集
  • 如何高效、精准地进行图片搜索?看看轻量化视觉预训练模型: blog, 微软视觉理解深度学习模型
  • This repo supplements our 3D Vision with Transformers Survey: github, arxiv, 3D视觉模型整理, 约有几十篇论文和模型
  • How codesearch.ai works: blog
  • 基于 AI 的代码搜索的源代码级演练
  • Basic Graph Theory: 图论基础书籍

框架原理分析

框架工具实现

框架

实用工具

缺陷修复技巧

历史人物杂谈

文件列表

  • 01.Machine-Learning