Veröffentlicht am: Feb 5, 2018
Version 0.2 von Model Server for Apache MXNet (MMS), eine Open-Source-Bibliothek für Apache MXNet, ist jetzt verfügbar, um Deep-Learning-Modelle für die Inferenz im Maßstab zu verpacken und zu bedienen. Sie können MMS verwenden, um ONNX-Modelle bereitzustellen, die mit einem beliebigen ONNX-unterstützenden Deep-Learning-Framework erstellt wurden, z. B. PyTorch, Caffe2, Microsoft Cognitive Toolkit oder Chainer. ONNX, das Open-Neural-Network-Exchange-Format ist eine Community-Initiative, die von AWS, Facebook und Microsoft vorangetrieben wird und zunehmend Unterstützung für zusätzliche Deep-Learning-Frameworks und -Plattformen bietet. Um damit zu beginnen, ONNX-Modelle zu bedienen, siehe MMS-ONNX-Serving-Dokumentation.
Diese neue MMS-Version beinhaltet auch die Integration mit der Amazon-CloudWatch-API, die die einfache und bequeme Veröffentlichung betrieblicher Kennzahlen von MMS nach CloudWatch ermöglicht. Mit dieser Integration profitieren Ingenieure von dem webbasierten Dashboard von CloudWatch, dem Echtzeit-Rendering von Messwerten und der Möglichkeit, Auslöser und Warnungen zu konfigurieren. Um mit der CloudWatch-Integration für MMS zu beginnen, lesen Sie den Abschnitt MMS-CloudWatch-Metrics-Dokumentation.
Geändert am 27.09.2021 – Um ein großartiges Erlebnis zu gewährleisten, wurden abgelaufene Links in diesem Beitrag aktualisiert oder aus dem ursprünglichen Beitrag entfernt.