triton，triton x-114

本文目录一览：

• 1、triton

• 2、中欧蓝筹

• 3、triton x100

• 4、triton x-114

主讲人 | 何琨 英伟达
量子位

在计算机视觉领域，手势识别是机器读懂人类手势、高效实现人机交互的重要方式，广泛应用于物联网、文娱、智能汽车等领域。

那么，0基础的小白、AI开发者们，如何快速搭建和部署一个高精度的手势识别系统？

近期，英伟达x量子位发起了系列CV公开课，在第三期课程中，NVIDIA开发者社区的老师通过代码演示、分享了如何利用TLT 3.0、Triton等工具低门槛、快速搭建和部署手势识别系统。

分享大纲

· 手势识别任务介绍

· 工具介绍：NVIDIA TLT 3.0 & Triton

· 实战演示：利用TLT和Triton快速搭建和部署手势识别系统

以下为分享内容整理：

大家好，我是来自NVIDIA开发者社区的何琨，很高兴与大家参与今天的直播。我主要负责与各位开发者朋友交流沟通，如果大家对我们的产品有什么建议、或者有哪些需求，也期待反馈给我们。

手势识别任务

今天分享的内容是“快速搭建手势识别系统”，即通过搭建和部署AI模型、对人物的手势动作进行识别。

今天我将通过这个案例，向大家分享如何利用NVIDIA的工具包快速、高效率地实现AI开发。大家可以通过这一案例、入门AI开发，实现更多CV项目。

今天的任务将会用到两个工具包：Transfer Learning Toolkit 3.0和 Triton。

分享过程中，首先会为新来的朋友介绍下这两个工具，然后通过代码实例，向大家展示如何利用这两个工具，简单、高效地实现AI模型的训练与部署。

课程后大家可以利用我们提供的代码、亲手操作一遍。（课程中所需的代码见本文末）

Transfer Learning Toolkit

Transfer Learning Toolkit（TLT）是一个简单的、集成化的工具，可以帮助大家简化深度学习模型的开发流程。Develop like a pro with zero coding，利用TLT不需要太多编程的内容就可以实现AI模型训练、优化与导出。

Transfer Learning Toolkit强调的Transfer Learning，即迁移式学习，它的主要特点是为开发者提供了大量预训练模型。开发者可以结合自己的数据集，根据不同的使用场景和需求，在这些预训练模型的基础上进行模型训练、调整、剪枝，以及导出模型进行部署等。而且大家可以通过简单的几行代码来实现上述功能。

TLT有几个主要的特点：

第一，在异构的多GPU环境下进行模型调整与重新训练。只通过一两个命令，就能够对多GPU进行合理的利用和分配。

第二，丰富的预训练模型库。包含大量的常见任务模型，在视觉、语音等方面都有很多可以实际应用的模型。大家可以在NGC上免费下载（ngc.nvidia.com），进而应用到实际的项目中。

第三，优化模型。一方面可以利用TLT修剪、缩小模型尺寸，应用起来非常便捷、只需要非常简单的代码即可实现；另一方面，可以将模型转化成TensorRT、DeepStream、Triton等可以直接使用的深度学习推理引擎，可以方便的部署到几乎所有的NVIDIA产品上。

Triton工具简介

Triton是我们今天完成课程任务需要的另一个工具。

Triton的前身是TensorRT Inference Server平台，是一个基于TensorRT的推理服务引擎。TensorRT是NVIDIA专门为GPU在深度学习推理阶段的加速而开发的引擎，能够让GPU发挥出更强大计算能力。

TensorRT主要通过5个步骤实现对GPU推理过程的优化：精度校正、动态Memory管理、多流的执行、Kernel参数的调优、网络层融合计算。通过这一系列步骤，在速度和吞吐量上对推理模型进行优化。

而Triton推理服务器能够简化AI模型的大规模部署流程，开发者可以从本地存储或云平台的任何框架部署训练好的AI模型，或基于GPU、CPU的基础设施。

Triton更像是一个即时响应的、Web Request的工具。它的应用场景主要是网页端、远程的数据中心，当然也支持嵌入式平台。能够大幅简化模型部署流程，搭建好之后只需调用其中的接口，不需要再操心模型的训练及优化。

特点一：支持多种框架。Triton支持市面上几乎所有的框架，比如常见的TensorFlow、Pytorch、ONNX等，也支持一些自定义的框架。

特点二：高性能的推理能力。Triton的推理能力不仅速度快，吞吐量也很高。可以极大加快集群的运行效率和执行效率。

特点三：简化模型部署流程。上图是 Triton的架构，可以看到，Triton将深度学习处理的流程封装在一起了，部署在我们的服务器上。开发者只需几步即可完成部署：

第一，准备模型库。

第二，调用接口加载模型。启动Triton Inference Server时，模型的序列、参数、执行方案等一系列内容即可直接加载完成。

它的优点是，能够将模型库和使用这个模型的流程区分开。对于一些项目团队来说，有人擅长做算法，有人擅长做前端，但只要算法工程师将模型训练好，前端不需要懂得如何优化模型算法，只需要通过Triton调用接口就可以。

其次，在多线程执行时，Triton Server也能够自动分配好GPU的内存，减少安全隐患、降低能耗。

特点四：动态可扩展性。假设我们搭建好的两台服务器可以服务现有的10万用户，但是当用户量快速增加到100万时，我们只需要再增加几台服务器，直接通过Docker等方式扩展到新的服务器上。

实战演示：搭建手势识别系统

下面，我们将通过一份简单的代码，调用TLT和Triton工具来实现手势识别模型的训练与部署。

代码&课程PPT下载链接：https://pan.baidu.com/s/1OXyLeF7qU-bcA3UPAY2K_A

提取码: 81ik（百度网盘）

接下来，何琨老师通过代码讲解，向大家展示了如何借助TLT和Triton完成手势识别系统的训练与部署。大家可观看视频、继续学习：

直播回放链接：https://www.bilibili.com/video/BV1cB4y1u722/

p.s.代码演示部分从第30分钟开始~

往期CV公开课

本次CV公开课共3期，点击链接可查看往期课程内容整理、下载课程PPT、源代码等~

第1期：NVIDIA专家实战演示，教你快速搭建基于Python的车辆信息识别系统

第2期：NVIDIA专家实战演示，教你快速搭建情感识别系统

— 完 —

7月21日中欧基金旗下周蔚文 冯炉丹管理的中欧新蓝筹灵活配置混合型基金公布中报，近1年净值增长率-8.07%。与上一季度相比，该基金前十大重仓股新增宁德时代，晶澳科技，通策医疗，；并对法拉电子增仓7.41万股，为该基金第一大重仓股；阳光电源，立讯精密，圣农发展，中远海能等退出前十大重仓股；详细数据

以上内容由证券之星根据公开信息整理，与本站立场无关。证券之星不保证该信息（包括但不限于文字、视频、音频、数据及图表）全部或者部分内容的的准确性、完整性、有效性、及时性等，如存在问题请联系我们。本文为数据整理，不对您构成任何投资建议，投资有风险，请谨慎决策。

撰文 | Leon

责编 | 雪月

在当前疫情的大流行下，SARS-CoV-2检测和诊断的需求是空前的，全世界的科学家正在努力开发各种各样的检测方法。理想的检测方法应该不需要专门的设备，在不同的环境下都可以进行应用。而且，还应该在短时间内得到结果，结果易于解读。

2020年4月28日，哈佛医学院的Constance Cepko实验室在medRxiv预印本服务器发布了他们开发的基于RT-LAMP（reverse-transcription loop-mediated isothermal amplification）的新型SARS-CoV-2检测方法。只需常用的试剂和65度温浴，不需要PCR仪，检测结果会在30分钟内以比色的形式呈现，每个样本的成本仅为7美分（约人民币5角）。这项方法还可以检测唾液中的SARS-CoV-2。更重要的是，该方法的灵敏度很高，检测下限为每微升1个RNA拷贝。

LAMP是一种快速DNA扩增的方法，需要六种DNA oligo与目标分子的8个不同区域杂交。在一种特殊的DNA聚合酶（strand displacing polymerase）介导下，反应中形成类似于环状的DNA结构，进而进行快速的扩增反应。这种反应能够在很短的时间内，在单一的反应温度下产生微克级别的DNA[1]。此外，由于这种DNA聚合酶有反转录活性，LAMP也可以用来检测RNA（RT-LAMP），也可以加入逆转录酶以提高反应的灵敏度。LAMP反应最后会产生大量的DNA，可以通过使用DNA染料来呈现结果，也可以简单地通过溶液浊度升高，或pH的降低来反映结果[2]。其中，pH的变化足以使pH指示剂改变颜色，可以作为呈现结果的*方式。

在RT-LAMP反应中，每个循环为65℃，30秒。理想情况下，30分钟后（第60个循环后）可以读取结果。但为了增强显色反应，也可以延长到40分钟。作者针对SARS-CoV-2的ORF1ab设计了引物，该区域与其他密切相关的SARS-CoV并不高度保守。研究者比较了几种方法，也对设计的引物进行了优化，最后得到了与其他方法相比表现最灵敏的方法。

除了使用RT-LAMP对SARS-CoV-2进行检测外，作者还优化了样品制备，以提高灵敏度，并保证样品对实验者的安全。作者发现RT-LAMP反应对去污剂耐受，1.5% Tween 20或1%Triton X100对反应没有明显影响。RNA纯化时会加入GuSCN来抑制RNase，RT-LAMP反应对GuSCN或另一种盐NaI的耐受达到50 mM。为了快速灭活并裂解病毒颗粒，同时保护RNA，作者采用了TCEP和EDTA。

为进一步提高灵敏度，使其更便宜、更易获得、更易于规模化，作者优化出一种能够将病毒RNA浓缩的方案。为了做到这一点，实验者使用了一种非常廉价的二氧化硅颗粒悬浮液。这种悬浮液是把细小的二氧化硅颗粒悬浮在水中制成的。二氧化硅颗粒悬浮液是目前常用的核酸抽提试剂盒的前身，核酸在GuSCN或NaI存在下会与离心柱中的二氧化硅薄膜结合。这样，加入了NaI和悬浮液，病毒RNA得到浓缩，RT-LAMP的检测下限进一步下降到每微升1个RNA拷贝。这种方案不需要商业试剂盒，也不需要离心机。二氧化硅颗粒悬浮液很容易获得，不需要专门的设备或昂贵的试剂，成本低。整套流程下来，每个检测样本的成本仅为7美分（约人民币5角）。

样本灭活和纯化流程

最后，作者还想开发一种从唾液中纯化病毒RNA的方法。用上述方案使病毒失活后，在加入二氧化硅颗粒悬浮液之前，由于絮状物的存在，作者不得不使用离心机来分离出上清。尽管最后也能达到每微升1个RNA拷贝的灵敏度，但离心机的使用减少了这个方案的简便性。研究者将邀请其他团队一起合作，简化唾液检测的流程（比如使用简易的离心机）。

基于RT-LAMP的检测灵敏度非常高（阳性显示为黄色，阴性为红色）

原文链接

https://www.medrxiv.org/content/10.1101/2020.04.23.20076877v1.full.pdf

参考文献

1.Nagamine, K., T. Hase, and T. Notomi, Accelerated reaction by loop-mediated isothermal amplification using loop primers. Mol Cell Probes, 2002. 16(3): p.223-9.

2. Calvert,A.E., et al., Rapid colorimetric detection of Zika virus from serum and urine specimens by reverse transcription loop-mediated isothermal amplification(RT-LAMP). PLoS One, 2017. 12(9): p. e0185340.

免责声明
           本站所有信息均来自互联网搜集
1.与产品相关信息的真实性准确性均由发布单位及个人负责，
2.拒绝任何人以任何形式在本站发表与中华人民共和国法律相抵触的言论
3.请大家仔细辨认！并不代表本站观点,本站对此不承担任何相关法律责任！
4.如果发现本网站有任何文章侵犯你的权益,请立刻联系本站站长[QQ:775191930]，通知给予删除