Inhaltsverzeichnis:
Künstliche Intelligenz und Maschinen, die lernen können, wie die Dinge, die wir jeden Tag benutzen, verbessert werden. Google und Android sind über Google Assistant und maschinelles Lernen mit AI verbunden. Daher ist es wichtig zu wissen, wie das Back-End funktioniert, wie es dort ankommt und welche Art von Ausrüstung dies alles ermöglicht. Und es ist auch wirklich cool!
Die Menschen, die diese Technologie der Zukunft bauen werden, werden die Werkzeuge dafür brauchen. Im Jahr 2017 leistet NVIDIA seinen Beitrag, und der Jetson TX2 ist der Inbegriff dieser Idee. Entwickler benötigen Hardware, die nicht nur das Rechnen und Denken beherrscht (ja, ich sage es), das unsere intelligentere Zukunft braucht, sondern auch einfach zu verwenden und bereitzustellen ist.
KI am Rande.
NVIDIA nennt dies "AI am Rande liefern" und es ist eine passende Beschreibung. Der TX2 ist ein kompletter Supercomputer. Es ist in der Lage, Daten an dem Ort und zu dem Zeitpunkt, an dem sie tatsächlich stattfinden, selbstständig zu verarbeiten, anstatt Tausende von Kilometern entfernt über das Internet. Konnektivität ist für uns eine Selbstverständlichkeit, da wir sie derzeit verwenden. Es gibt jedoch viele Fälle, in denen das Warten auf eine Datenrundreise von einem intelligenten Gerät zu lange dauert. Und ein großer Teil dieses blauen Marmors, auf dem wir leben, hat keine Verbindung zum Internet und wird es für eine sehr lange Zeit nicht sein.
Mit einem kleinen Computer, der fast alles kann und alle von ihm gesammelten Daten selbst verarbeitet, können Sie diese Probleme lösen. NVIDIA scheint es hier geschafft zu haben.
Was ist dieses Ding?
Dies ist nichts, was Sie bei Best Buy finden können, um Dinge zu tun, die Sie mit Ihrem Telefon tun. Es läuft nicht auf Android (aber es wäre sicherlich nicht schwierig, das zu beheben) und die meisten von uns werden es nicht kaufen. Aber es ist immer noch ein sehr wichtiger Teil der Dinge, die wir lieben.
Der Jetson TX2 ist ein Entwicklungswerkzeug. Der Jetson TX2 ist auch ein vor Ort einsatzbereites Modul zur Stromversorgung von AI-basierten Geräten. Es ist ein Computer von der Größe einer Kreditkarte mit allen Ein- und Ausgängen, die ein "normaler" Computer hat. Wenn Sie das TX2-Modul in sein speziell entwickeltes Backboard stecken (das Teil des Entwicklungskits ist), wird es zumeist zu einem typischen PC mit kleinem Formfaktor, der alle Anschlüsse und Stecker für Ihren Desktop enthält.
Entwickler können damit Geräte bauen und den Jetson selbst zum Ausführen von Demos und Simulationen verwenden. Es ist eine fähige kleine Maschine, die alle Berechnungen ausführen kann, die viel größere ausführen können, während sie dazu eine winzige Menge an Kraft benötigt. Die technischen Daten sind beeindruckend.
- NVIDIA Parker-Serie Tegra X2: 256-Kern-Pascal-GPU und zwei 64-Bit-Denver-CPU-Kerne gepaart mit vier Cortex-A57-CPUs in einer HMP-Konfiguration
- 8 GB 128-Bit-LPDDR4-RAM
- 32 GB interner eMMC 5.1-Speicher
- 802.11b / g / n / ac 2x2 MIMO Wi-Fi
- Bluetooth 4.1
- USB 3.0 und USB 2.0
- Gigabit Ethernet
- SD-Kartensteckplatz für externen Speicher
- SATA 2.0
- Komplettes Mehrkanal-PMIC
- 400-poliger Hochgeschwindigkeits- und Niedriggeschwindigkeits-Standard-E / A-Steckverbinder
Die beste technische Spezifikation ist, dass der Jetson TX2 als Ersatz für den letztjährigen Jetson TX1 dient. Lassen Sie das ein wenig auf sich wirken - Entwickler, die vorhandene NVIDIA TX1-Computer verwenden, um die Gehirne hinter ihren Geräten mit Strom zu versorgen, können die Dinge herunterfahren, das alte Board herausziehen und das neue einbauen. Die Software für den TX1 wird auf die gleiche Software aktualisiert, die der TX2 verwendet, sodass der Austausch praktisch entfällt. Wenn Sie jemals eine Art von Feld- oder Fabrikarbeit an Geräten durchgeführt haben, die bei Ausfallzeiten viel Geld kosten, wissen Sie, wie wichtig dies ist. Während die Ausrüstung der nächsten Generation entwickelt wird, wird Hardware verwendet, die zu 100% mit der vorhandenen Generation zusammenarbeitet.
Das Geheimnis liegt in den Pascal-GPU-Kernen von NVIDIA. Der gleiche Grund, warum Pascal-Kerne in sehr hochwertigen Grafikkarten für VR- und 4K-3D-Spiele verwendet werden, ist der, warum sie für den Jetson TX2 verwendet werden. GPU-Kerne sind eine effizientere Methode, um Zahlen zu knacken. Sie sind schneller und verbrauchen viel weniger Strom.
Das Allerheiligste am Computer ist die künstliche Intelligenz (KI): Sie baut eine Maschine, die so intelligent ist, dass sie ohne ausdrückliche Anweisung selbstständig lernen kann. Deep Learning ist eine wichtige Zutat für die Erreichung einer modernen KI. Durch tiefes Lernen kann das KI-Gehirn die Welt um sich herum wahrnehmen. Die Maschine lernt und trifft letztendlich selbst Entscheidungen. In Wissenschaft und Industrie ist mittlerweile allgemein anerkannt, dass GPUs aufgrund der Geschwindigkeits- und Energieeffizienzvorteile im Vergleich zu herkömmlichen CPU-basierten Plattformen der Stand der Technik beim Training von tiefen neuronalen Netzen (DNN) sind.
NVIDIA GPU-Computer leisten bereits einige erstaunliche Dinge. Sie üben tiefgreifendes Lernen in selbstfahrenden Autos aus, unterrichten Roboter in menschlich-motorischen Fähigkeiten wie Gehen und Greifen, analysieren Videos mit hoher Geschwindigkeit, um Textunterschriften bereitzustellen und spielen sogar Go. Und richtig gute menschliche Gegner besiegen.
GPU-Kerne können dieselbe Arbeit mit geringerem Stromverbrauch ausführen wie herkömmliche CPU-Computer.
Die reale Prüfung der KI und der Gehirne, die sie fahren können, ist am Horizont. Autonome Roboter und Drohnen werden für Arbeiten wie die industrielle Inspektion entwickelt, tragbare medizinische Geräte, die vor Ort mitgenommen werden können, um Bedürftigen zu helfen, werden dringend benötigt, und sogar intelligente Sicherheitskameras, die analysieren können, was sie sehen, und entsprechende Maßnahmen ergreifen, stehen kurz bevor Realitäten sein. Für diese Ideen ist ein Computer erforderlich, der die KI mit Deep-Learning-Algorithmen antreibt und die Fähigkeit besitzt, die im neuronalen Netzwerk gesammelten Daten selbstständig zu analysieren. Sie können nicht an ein Kabel angeschlossen werden und werden an Orten verwendet, an denen selbst Verizon keine Abdeckung hat.
Ein kleiner und tragbarer Computer muss nicht nur leistungsstark, sondern auch energieeffizient sein. Tests (PDF-Datei) haben ergeben, dass NVIDIA GPU-basiertes Computing einer Intel Core i7 6700K-CPU entspricht und 6 Watt im Vergleich zu 60 verbraucht. Für Geräte, die nicht an das Stromnetz angeschlossen sind, ist dies wichtig.
Wir haben einige Benchmarks mit AlexNet und GoogLeNet - CV - basierter Software zum Klassifizieren und Erkennen von Objektkategorien durchgeführt und die Ergebnisse waren fantastisch. Im Max-P-Modus (High-Power) konnte der Jetson TX2 im AlexNet-Netzwerk durchschnittlich 641 Bilder pro Sekunde analysieren und dabei nur 13 Watt Leistung verbrauchen. Die GoogLeNet-Tests ergaben durchschnittlich 278 Bilder pro Sekunde bei einer Leistungsaufnahme von 14 Watt. Max-Q-Tests (Low Power) ergaben im Durchschnitt 481 Bilder pro Sekunde bei AlexNet und 191 Bilder pro Sekunde bei GoogLeNet bei nur 7 Watt Leistung. Das ist ungefähr das Doppelte dessen, was der Jetson TX1 im letzten Jahr liefern konnte, und das war auch ziemlich gut.
Wenn Sie Informationen so schnell und genau vor Ort verarbeiten können, ist eine Verbindung zur Cloud nicht mehr der limitierende Faktor.
Im Labor
Der Jetson TX2 sollte im Feld sehr leistungsfähig sein. Dies ist die erste Maschine der nächsten Generation, die ohne Verbindung zur Cloud und mit einem wesentlichen Upgrade der vorhandenen Geräte auskommt. Aber es hat auch Funktionen, die Entwickler lieben werden.
Das kreditkartengroße Computermodul kann in eine komplette Trägerplatine eingesteckt werden, die als Teil des Jetson TX2-Entwicklungskits erhältlich ist. Die Trägerplatine verwendet die 400 E / A-Pins des Jetson-Moduls, um Standard-Desktop-Verbindungen bereitzustellen. Ein Softwareentwickler kann eine Standard-USB-Tastatur und -Maus, einen Standardmonitor und den Jetson TX2 verwenden, um eine vollständige Entwicklungsumgebung zu erstellen.
Auf einem Ubuntu 16.04-basierten Linux4Tegra-Betriebssystem sind alle Tools, die Sie zum Entwickeln und Debuggen von KI-Anwendungen für vertiefendes Lernen benötigen, in der JetPack-Software von NVIDIA enthalten. Entwickler können das Paket von der NVIDIA Developer Zone herunterladen sowie Tutorials und Community-Wissen befolgen, um zu sehen, was der Jetson tun kann, und dann mit der Arbeit an eigenen Ideen beginnen. Die im JetPack enthaltene Software ist so vorkonfiguriert, dass sie auf dem TX2-Verarbeitungssystem optimiert ausgeführt werden kann:
- cuDNN - eine GPU-beschleunigte Bibliothek von Grundelementen für tiefe neuronale Netze.
- NVIDIA VisionWorks ist ein Software-Entwicklungspaket für Computer Vision (CV) und Bildverarbeitung.
- CUDA Toolkit - eine umfassende Entwicklungsumgebung für C- und C ++ - Entwickler, die GPU-beschleunigte Anwendungen erstellen.
- TensorRT - eine leistungsstarke Deep-Learning-Inferenz-Laufzeit für die Klassifizierung, Segmentierung und Objekterkennung von neuronalen Netzen.
- NVIDIA Nsight Eclipse - Eine voll funktionsfähige und angepasste Eclipse-IDE zum Entwickeln, Debuggen und Profilieren von CUDA-C-Anwendungen.
- Tegra System Profiler und Tegra Graphics Debugger - Tools zum Profilieren und Testen von Anwendungen mit OpenGL.
- Die erforderlichen Sicherheiten und Vermögenswerte für die Entwicklung und den Entwurf von Hardware mithilfe des NVIDIA Jetson TX2.
Die Verwendung derselben Plattform zum Erstellen und Debuggen von Anwendungen ist ein Muss für komplexe und komplizierte Aufgaben. Dies ist eine der Möglichkeiten, mit denen Entwickler den Prozess vereinfachen können, und alles, was zur Vereinfachung beiträgt, trägt zur Zufriedenheit der Entwickler bei. Obwohl der Jetson TX2 möglicherweise nicht als einziger Entwicklungs- und Erstellungscomputer konzipiert ist, den jede Gruppe verwenden würde, ist er ein Segen für die Installation und die Feldarbeit. Kleine Anpassungen und Änderungen können am Edge auf die gleiche Weise vorgenommen werden wie bei der Verarbeitung, ohne dass Daten zur Verarbeitung und Rückgabe an eine andere Computerbank zurückgesendet werden müssen.
Geräte können mit den verfügbaren Hardwarekomponenten und Zeichnungen entworfen werden, um nicht nur die Komplexität zu verringern, sondern auch eine einfache Benutzeroberfläche mit sofort verfügbaren Peripheriegeräten und Software zu ermöglichen. Ausgerüstet mit einem Laptop und einem USB-Kabel hat ein Ingenieur oder Außendiensttechniker alles, was erforderlich ist, um bei Bedarf von Grund auf neu aufzubauen.
Mit der NVIDIA Jetpack-Software können sich Entwickler auf ihre Arbeit konzentrieren, ohne eine Build-Umgebung einzurichten.
Sogar die Installation von NVIDIAs Jetpack ist optimiert. Die Rezensenten erhielten eine aktualisierte Version für die Installation. Nach ein paar einfachen Anweisungen über eine clevere Benutzeroberfläche wurde die gesamte Software mit nur wenigen Schritten und einer Tasse Kaffee neu erstellt. Wir sehen, dass NVIDIA die Dinge einfacher macht, damit sich Entwickler auf ihre Arbeit konzentrieren können, anstatt die Build-Umgebung selbst zu warten.
Nachdem ich einige Tage lang alles eingerichtet und getestet hatte, war ich sehr beeindruckt davon, was NVIDIA hier liefert. Der erste Jetson TX1 war ein großartiges Produkt, das die Notwendigkeit einer schnellen Entwicklung mit GPU-Kernen erfüllte, um das schwere Heben für Deep-Learning-Anwendungen in neuronalen Netzen durchzuführen. In kürzester Zeit hat NVIDIA die Messlatte für einen Nachfolger höher gelegt, mit dem die Abhängigkeit von der Cloud mithilfe der gleichen vertrauten Entwicklungstools und -techniken aufgehoben werden kann.
Die Technologie der Zukunft wird uns alle begeistern und begeistern. Produkte wie der Jetson TX2 machen diese Zukunft möglich. Das NVIDIA Jetson TX2 Developer Kit kostet 599 US-Dollar für Einzelhandelsbestellungen und 299 US-Dollar für Studenten.
Siehe im NVIDIA Embedded Developers Portal
