machine-learning-collection：实践指南

如果把machine-learning-collection放进候选清单，不能只看热度；它的定位是:closebook:Microsoft 及其子公司的机器学习技术集合。把它放到日常自动化流程中，最容易暴露的是输入边界、依赖和失败处理如果不清楚就很难稳定复用，不能只看演示是否顺利。我的评估方法是用一项范围明确的真实任务完成最小试跑，然后检查配置时间、输出质量、异常信息和维护痕迹是否与文档一致。如果团队属于愿意先做小范围验证并复查原始文档的团队，它有继续测试的理由；否则先看替代方案会更省时间。

机器学习合集

Microsoft 为机器学习和深度学习提供库、工具、配方、示例代码和研讨会内容。

提升

• LightGBM - 一个快速、分布式、高性能的梯度提升框架。
• LightGBM 基准测试套件 - LightGBM 的基准测试工具。
• 可解释的提升机 - Microsoft Research 开发的可解释模型，使用 bagging、梯度提升和自动交互检测来估计广义加性模型。
• 循环提升机 - 一种可解释的监督机器学习算法，专门用于预测计数数据，例如销售和需求。

AutoML

• 神经网络智能 - 用于自动化机器学习生命周期的开源 AutoML 工具包，包括特征工程、神经架构搜索、模型压缩和超参数调整。
• Archai - 用于神经架构搜索的可重复快速研究（NAS）。
• FLAML - 快速、轻量级的 AutoML 库。
• Azure 自动化机器学习 - Azure 机器学习的表格数据自动化机器学习（回归、分类和预测）
• Cream - Microsoft NAS 和 Vision Transformer 作品的集合。

神经网络

• PyMarlin - 基于 PyTorch 的轻量级深度学习模型训练库。
• bayesianize - pytorch 中的贝叶斯神经网络包装器。
• O-CNN - 用于 3D 形状分析的基于八叉树的卷积神经网络。
• ResNet - 深度残差网络。
• CNTK - 微软认知工具包（CNTK），开源深度学习工具包。
• InfiniBatch - 高效、检查点数据加载，用于海量数据集的深度学习。
• Hugging Face 下的模型 - 微软在 Hugging Face 上分享变压器模型。 51 个预训练模型（截至 2021 年 6 月 28 日）。
• Muzic - 人工智能音乐理解和生成。

图与网络

• masterologic - 设计用于使用专门的图形统计算法处理和分析图形的实用程序和算法。
• TF 图神经网络示例 - tensorFlow 图神经网络的实现。
• ptgnn - PyTorch 图神经网络库
• StemGNN - 用于多元时间序列预测的谱时间图神经网络（StemGNN）。
• SPTAG - 分布式近似最近邻搜索（ANN）库。
• DiskANN - 用于近似最近邻搜索的基于可扩展图的索引。

愿景

• Microsoft 视觉模型 ResNet50 - 使用搜索引擎的网络规模图像数据的大型预训练视觉 ResNet-50 模型。
• Oscar - 针对视觉语言任务的对象语义对齐预训练。
• TorchGeo - PyTorch 域库，类似于 torchvision，提供特定于地理空间数据的数据集、转换、采样器和预训练模型。
• Swin Transformer - “Swin Transformer：使用移位窗口的分层视觉变压器”的官方实现。

时间序列

• 鲁米诺 - 异常检测和关联库。
• SR-CNN - 基于频谱残差的异常检测算法，SR-CNN 实现。
• Greykite - 通过其旗舰算法 Silverkite 进行灵活、直观和快速的预测。
• 用于从卫星图像中检测结构变化的时间聚类匹配 - 用于从遥感图像时间序列中检测结构足迹变化的时间聚类匹配方法的实现。
• Microsoft 时间序列预测框架 - 一个预测包，利用云上的尖端时间序列预测和并行化来生成财务数据的准确预测。
• FOST - 易于使用的时空预测工具

NLP

• T-ULRv2 - 图灵多语言模型。
• Turing-NLG - 图灵自然语言生成，170亿参数语言模型。
• DeBERTa - 具有解缠注意力的解码增强型 BERT
• UniLM - 统一语言模型预训练/NLP及以上的预训练
• Unicoder - 用于理解和生成的 Unicoder 模型。
• NeuronBlocks - 像玩乐高一样构建你的 nlp dnn 模型
• 多语言模型迁移 - 新的深度学习模型，用于使用其他语言的标记数据引导没有标记数据的语言的语言理解模型。
• MT-DNN - 用于自然语言理解的多任务深度神经网络。
• inmt - 交互式神经机器训练slation-lite
• OpenKP - 自动提取对文档含义显着的关键短语是语义文档理解的重要步骤。
• DeText - 用于排序和分类任务的深度神经文本理解框架。
• Genalog - 一个开源、跨平台的 python 包，允许生成具有自定义降级和文本对齐功能的合成文档图像。
• FastFormers - NLU 的高效变压器模型。
• VERSEAGILITY - 一个基于 Python 的工具包，用于增强您的自定义自然语言处理 (NLP) 任务，允许您引入自己的数据并将模型投入生产。它是 Microsoft 数据科学工具包的核心组件。
• DPU 实用程序 - 深度程序理解团队使用的实用程序。
• KEAR - 通过外部注意力在 CommonsenseQA 上实现人类平等的官方代码。
• 提示引擎 - 用于创建和维护大型语言模型提示的实用程序库。

在线机器学习

• Vowpal Wabbit - 快速、高效、灵活的在线机器学习技术，用于强化学习、监督学习等。

推荐

• 推荐器 - 构建推荐系统的示例和最佳实践（A2SVD、DKN、xDeepFM、LightGBM、LSTUR、NAML、 NPA、NRMS、RLRMC、SAR、Vowpal Wabbit 是 Microsoft 的 invented/contributed）。
• GDMIX - 深度排名个性化框架
• rankerEval - 用于信息检索和推荐的排名指标的快速基于 numpy 的实现。

分布式

• DeepSpeed - DeepSpeed 是一个深度学习优化库，使分布式训练变得简单、高效、有效。
• MMLSpark - Spark 上的机器学习库。
• photon-ml - apache Spark 上的可扩展机器学习库。
• TonY - 在 apache hadoop 上本机运行深度学习框架的框架。
• 隔离林 - 隔离林无监督异常值检测算法的 Spark/Scala 实现。

因果推理

• EconML - 用于通过机器学习从观察数据估计异质治疗效果的 Python 包。
• DoWhy - 用于因果推理的 Python 库，支持因果假设的显式建模和测试。

负责人 AI

• InterpretML - 一个帮助理解模型并实现责任机器学习的工具包。
  • 解释社区 - 通过附加的可解释性技术和实用功能扩展解释存储库。
  • DiCE - 多种反事实解释。
  • 解释文本 - 基于文本的机器学习模型的最先进的解释器并通过仪表板进行可视化。
• fairlearn - 用于评估和提高机器学习模型公平性的 python 包。
• LiFT - linkedin 公平性工具包。
• RobustDG - 用于构建机器学习模型的工具包，该模型可泛化到不可见的领域并且对隐私和其他攻击具有鲁棒性。
• SHAP - 一种解释任何机器学习模型输出的博弈论方法（scott lundbert，微软研究院）。
• LIME - 解释任何机器学习分类器的预测（Marco，微软研究院）。
• BackwardCompatibilityML - 机器学习中向后兼容性的开源研究工作项目
• confidential-ml-utils - 用于针对您看不到的数据训练和部署 ML 模型的 Python 实用程序。
• presidio - 上下文感知、可插入和可定制的文本和图像数据保护和匿名化服务。
  • Presidio-research - 该软件包具有与数据科学相关的任务，用于为 Presidio 开发新的识别器。
• 机密 ONNX 推理服务器 - ONNX 推理服务器的开放 Enclave 端口，具有数据加密和证明功能，可在 Azure 机密计算上启用机密推理。
• Responsible-AI-Widgets - 负责 Fairlearn、解释社区和错误分析的 AI 用户界面，以及它们所依赖的基础构建块。
• 误差分析 - 帮助分析和提高模型准确性的工具包。
• 安全数据沙箱 - 用于针对机密数据进行机器学习试验的工具包。
• 伯劳 - 用于帮助 Azure 机器学习中的“合规实验”的 Python 实用程序 - 在不查看训练数据的情况下训练 ML 模型。
• HAX 工具包 - 人性-AI eXperience (HAX) 工具包是一套实用工具，用于创建人性化的 AI 体验开始。
• GAM Changer - 编辑机器学习模型以反映人类知识和价值观。
• AdaTest - 使用自适应测试查找并修复自然语言机器学习模型中的错误。

优化

• ONNXRuntime - 跨平台、高性能 ML 推理和训练加速I器。
  • ONNX PyTorch 运行时 - 使用 ONNX 运行时加速 PyTorch 模型。
  • ONNX 运行时训练示例 - 使用 onnx 运行时进行模型训练的示例。
  • ONNX 运行时推理示例 - 使用 onnx 运行时进行模型推理的示例。
  • ONNX 转换器 - onnx 转换器的常用实用程序。
  • ONNX.js - 使用 javascript 运行 onnx 模型。
  • ONNX.js 演示 - ONNX.js 的演示。
  • Olive - 一系列 Docker 映像，可自动执行 ONNX 模型运输过程。
• Hummingbird - 将训练好的机器学习模型编译为张量计算以加快推理速度。
• EdgeML - 为微软印度研究院开发的边缘设备提供机器学习算法的代码。
• DirectML - 用于机器学习的高性能硬件加速 DirectX 12 库。
• MMdnn - MMdnn 是一套帮助用户在不同深度学习框架之间互操作的工具。 E.g。模型转换和可视化。
• inifinibatch - 高效、检查点数据加载，用于海量数据集的深度学习。
• InferenceSchema - 推理代码的模式修饰
• nnfusion - 灵活高效的深度神经网络编译器。
• Accera - 来自 Microsoft Research 的 AI 算法中使用的计算密集型循环的开源跨平台编译器。

强化学习

• AirSim - 基于微软研究的虚幻引擎/Unity构建的自动驾驶汽车开源模拟器。

• TextWorld - TextWorld 是一个沙盒学习环境，用于在基于文本的游戏上训练和评估强化学习 (RL) 代理。

• Moab - Project Moab，一款新型开源平衡机器人，可帮助工程师和开发人员学习如何使用 Project Bonsai 构建现实世界的自主控制系统。

• MARO - 多代理资源优化（MARO）平台。

• 培训数据驱动或代理模拟器 - 根据数据构建模拟，用于 RL 和盆景平台进行机器教学。

• 盆景 - 低代码工业机器教学平台。

  • Bonsai Python SDK - 用于将数据源与 Bonsai BRAIN 集成的 python 库。

• SEGAR - 用于泛化代理研究的沙箱环境。

安全性

• 对应 - CLI，提供通用自动化层用于评估 ML 模型的安全性。
• 联邦学习模拟框架 - 一个灵活的框架，用于在模拟联邦学习 (FL) 环境中使用 PyTorch 模型运行实验。
• FLUTE - 用于进行高性能联邦学习模拟的平台。

窗户

• Windows 机器学习 - Windows 上的机器学习。

数据集

• COCO 数据集 - COCO 是一个大规模的对象检测、分割和字幕数据集。
• MS MARCO - 专注于搜索中深度学习的数据集集合。
• InnerEye CreateDataset - InnerEye-DeepLearning 库的 InnerEye 数据集创建工具。将 DICOM 数据转换为掩码以训练深度学习模型。
• 来自 MIMIC 的脓毒症队列 III - 来自 MIMIC 数据集的脓毒症队列。
• MIND ：微软新闻数据集 - 用于新闻推荐研究的大规模数据集。
• 地球 AI 数据集 - AIForEarthDataSets 是 AI 研究的数据集集合。
• ORBIT - 由blind/low-vision的人在手机上录制的干净和杂乱场景中的物体视频集合。
• EcoFlows - 社区代表协作处理 APAC 中生态和农业场景的标记 AI 数据，每月更新。

调试和基准测试

• tensorwatch - 用于 python 机器学习和数据科学的调试、坚控和可视化。
• PYRIGHT - python 的静态类型检查器。
• Bench ML - 用于对流行的预构建云 AI APIs 进行基准测试的 Python 库。
• debugpy - Python 调试适配器协议的实现
• kineto - 一个 CPU+GPU 分析库，可提供对 Azure AI 平台团队贡献的时间线跟踪和硬件性能计数器的访问。
• SuperBenchmark - AI 基础设施（软件和硬件）的基准测试和诊断工具。
• tempeh - tempeh 是 TEst 机器学习 PErformance exHaustively 的框架，其中包括跟踪内存使用情况和运行时间。

管道

• GitHub 操作 - 自动化所有软件工作流程，现在使用世界一流的 CI/CD。直接从 GitHub 构建、测试和部署您的代码。
• Azure Pipelines - 使用 Pipelines 自动执行构建和部署，这样您就可以减少花在具体细节上的时间，而将更多时间用于创意。
• Dagli - 用于定义机器学习模型的框架，包括特征生成和转换为 DAG。

平台

• AI for Earth API 平台 - 分布式基础设施，旨在提供安全、可扩展和可定制的 API 托管，旨在处理 long-running/asynchronous 机器学习模型推理的需求。

• AI开放平台（OpenPAI） - AI的资源调度和集群管理。

  • OpenPAI 运行时 - 深度学习工作负载的运行时。
  • OpenPAI 协议 - OpenPAI 协议支持作业共享和可移植性。
  • Openpaimarketplace - 存储 openpai 示例和作业模板的市场。
  • OpenPAI FrameworkController - 旨在通过单个控制器协调 Kubernetes 上的各种应用程序。
  • HivedDScheduler - 用于深度学习的 Kubernetes 调度程序。
  • OpenPAI JS SDK - JavaScript SDK 旨在方便 OpenPAI 的开发人员提供用户友好的功能经验。
  • OpenPAI VS 代码客户端 - 连接 OpenPAI 集群、提交 AI 作业、本地模拟作业、管理文件等的扩展。

• MLOS - 数据科学驱动的基础设施和方法论，使性能工程民主化和自动化。

• 情境智能平台 - 多模式、集成 AI 的开源框架。

• Qlib - 一个面向AI-的量化平台。

特征工程

• Azure 上的盛宴 - 用于盛宴的 Azure 插件 (FEAture STore).
• Feathr - 企业级高性能功能存储。

标记

• TagAnomaly - 异常检测分析和标记工具，专门针对多个时间序列（每个类别一个时间序列）
• VoTT - 视觉对象标记工具
• 卫星图像注释工具 - 一个轻量级 Web 界面，用于在 satellite/aerial 图像场景上创建和共享矢量注释。

开发者工具

• Visual Studio Code - 代码编辑器重新定义和优化，用于构建和调试现代 Web 和云应用程序。
• Gather - 将 Python 语言中的收集功能添加到 Jupyter 扩展中。
• Pylance - 一个与 Visual Studio Code 中的 Python 一起工作的扩展，以提供高性能的语言支持。
• Azure ML 片段 - 用于 Azure 机器学习的 VSCode 片段

示例代码

• 微软 AI 地球

  • 共享实用程序 - 用于使用 Azure 机器学习的实用程序集合。
  • 声学鸟类检测 - 教程：使用生物声学模型从少量训练片段中进行准确的生物声学物种检测
  • beluasound - 使用机器学习来检测水听器录音中的白鲸叫声。
  • arcticseals - 在航空图像中检测和分类北极海豹，以了解它们如何适应不断变化的世界。
  • AIDE：数据驱动生态学注释接口 - 检测和分类航空图像中的野生动物。
  • 相机陷阱工具 - 用于训练和运行从运动触发相机收集的野生动物图像的探测器和分类器的工具。
  • 奥里诺基亚地区土地覆盖图 - 用于预测秘鲁奥里诺基亚地区土地覆盖的工具。
  • 行星计算机中心 - 一种开发环境，使我们的数据和 APIs 可通过熟悉的开源工具访问，并允许用户轻松扩展他们的分析。
  • 家禽谷仓测绘 - 用于从高分辨率航空图像和美国各地预测谷仓的随附数据集检测家禽谷仓的代码。
  • 行星计算机 SDK for Python - 用于行星计算机中心的 Python SDK.
  • 物种分类 - 用于对图像中的物种进行分类的工具。

• 新闻线程 - 新闻线程项目分析新闻文章，以帮助查找新闻文章之间的相似性并跟踪不同时间的新闻来源。

• InnerEye DeepLearning - 医学成像深度学习库，用于在 Azure 机器学习和 Azure Stack 上训练和部署模型

• 深层地震 - 地震成像和解释的深度学习

• 多物种生物声学分类 - 使用深度学习算法的多物种生物声学分类。

• 雀巢痤疮评估 - 深度学习模型，根据自拍图像评估痤疮严重程度。

• 视觉类比 - 探索艺术品与深层“视觉类比”之间的联系。

• 预测最佳实践 - 时间序列预测最佳实践和示例。

• 计算机视觉食谱 - 计算机视觉的最佳实践、代码示例和文档。

• DeepSpeed 示例 - 使用 DeepSpeed 的示例模型

• A TALE OF THREE CITIES - 分析 Azure 开放数据集为芝加哥、波士顿和纽约发布的安全 (311) 数据集SparkR、SParkSQL、Azure Databricks，使用 ggplot2 和 leaflet 进行可视化。

• Microsoft 健康智能机器学习工具箱 - Microsoft 健康智能 Azure 机器学习工具箱。

• Azure 机器学习示例 - 官方社区驱动的 Azure 机器学习示例，使用 GitHub 操作进行测试。

• Azure 机器学习 R 模板 - 使用 Azure 机器学习运行 R 代码的模式和示例。

• Azure 机器学习 Python SDK 笔记本 - 使用 ML 的 Python 笔记本以及使用 Azure 机器学习 Python SDK 的深度学习示例。

• Azure 机器学习库 - 此存储库使我们不断壮大的开发人员和数据科学家社区能够共享他们的机器学习管道、组件等，以提高机器学习生命周期中的生产力。

• Azure 机器学习预览 - Azure 机器学习中预览功能的示例。

• AzureML 设计器示例 - Azure 机器学习设计器的示例。

• 船舶探测器 - 训练一个可以在卫星图像中检测和定位船舶的物体检测模型。

• 微软解决方案加速I器

  • MLOps 解决方案加速I器 - 此存储库帮助 ML 团队利用 Azure 加速其模型部署到生产。
  • 异常检测解决方案加速I器 - 实施异常检测，这是一种识别罕见事件或观察的技术，这些事件或观察可能因与其余观察的统计差异而引起怀疑。
  • 分类解决方案加速I器 - 这是一个分类解决方案加速I器，可帮助您构建和部署二进制分类项目。

• 具有 Azure 机器学习演示的医学成像 - 医学成像演示存储库。

• Azure 中的联合学习 ML - Azure ML 中联合学习的示例和秘诀。

• 负责任的 AI 研讨会 - 负责任的 AI 研讨会：一系列教程和演练，说明如何将负责任的 AI 付诸实践。

• GlobalMLBuildingFootprints - 来自卫星图像的全球建筑足迹。

• 使用 Azure 上的 Jupyter Notebook 进行基因组数据分析 - Azure 上的 Jupyter Notebook，用于基因组数据分析。

社区

• AI@Edge 社区 - 通过硬件、机器学习 (ML)、人工智能 (AI) 和 Microsoft Azure 服务的组合，找到使用边缘智能创建解决方案所需的资源。
• 全球 AI 社区 - 使热衷于 AI 的开发者能够通过活动和聚会分享知识。
• 深度学习实验室（日本） - 提供与深度学习相关的开发案例和最新技术趋势信息。

车间

• 创意工坊维基

竞争

• 2020 机器学习安全规避竞赛 - 2020 机器学习安全规避竞赛的代码示例。

预订

• PRML - Christopher Bishop 的模式识别和机器学习
• 数据科学基础 - 数据科学基础理论。
• 掌握 Azure 机器学习：使用 Microsoft Azure 机器学习在云中执行大规模端到端高级机器学习
• Azure上实用的自动化机器学习：使用Azure机器学习快速构建AI解决方案

学习

• Microsoft Learn - Microsoft 技术的学习内容
  • 数据科学家、AI 工程师
• 经理的数据科学 - 泛化、实用性和实验：ML 制定更好业务决策的概念
• Github学习实验室 - Github技术的学习内容。
• Python 入门 - Channel 9 Python 初学者课程的示例代码。
  • Python 初学者
  • 适合初学者的更多 Python
  • 适合初学者的更多 Python
• 开始使用 PyTorch - 通过 PyTorch 学习深度学习的基础知识。
• 数据科学开发简介 - 在这个 28 个视频系列中，您将学习在 Azure 上构建端到端机器学习应用程序的重要概念和技术。
• 初学者机器学习 - 课程 - 12 周，24 节课，适合所有人的经典机器学习
• 初学者数据科学 - 课程 - 10 周，20 节课，面向所有人的数据科学！
• 人工智能初学者 - 12 周，24 节课，AI 适合所有人！
• Microsoft 云研讨会 - Wide World Importers (WWI) 为制造商提供创新的解决方案。

博客、新闻和网络研讨会

• 频道 9 - AI 显示 - 面向构建 Microsoft 产品和服务的人员的开发人员的视频。
• 微软开源博客 - 关于微软开源技术的博客。
• Microsoft Research 活动、会议和网络研讨会 - Microsoft Research 举办的活动、会议和网络研讨会。
• Microsoft 创新技术中心 - Microsoft 中的 AI 项目。
• LinkedIn 工程博客 - LinkedIn 工程团队的博客
• AI 系统 - AI 教育资源系统（中文）。
• AI Edu - 针对中国学生、教师和 IT 专业人士的 AI 教育材料（中文）。

商标

该项目可能包含项目、产品或服务的商标或徽标。微软授权使用 商标或徽标受制于且必须遵循 Microsoft 商标和品牌指南。 在此项目的修改版本中使用 Microsoft 商标或徽标不得引起混淆或暗示 Microsoft 赞助。 对第三方商标或徽标的任何使用均须遵守这些第三方的正策。