- Künstliche Intelligenz›
- Generative KI›
- Amazon Nova›
- Nova Forge
Amazon Nova Forge
Nova zum Entwickeln eigener Frontier-Modelle
Amazon Nova Forge: Nova zum Entwickeln eigener Frontier-Modelle
Nova Forge ist ein neuer Service, mit dem Sie Ihre eigenen Frontier-Modelle mit Nova entwickeln können. Nova-Forge-Kunden können ihre Entwicklung von frühen Modellprüfpunkten aus beginnen, firmeneigene Daten mit von Amazon Nova kuratierten Trainingsdaten kombinieren und ihre benutzerdefinierten Modelle sicher in AWS hosten.
Nova Forge ist der einfachste und kostengünstigste Weg, um Ihr eigenes Frontier-Modell zu entwickeln.
Vorteile
Beginnen Sie Ihre benutzerdefinierte Modellentwicklung auf SageMaker AI mithilfe von frühen Nova-Prüfpunkten in den Phasen vor, während des Trainings oder nach dem Training. Auf diese Weise können Sie Ihre geschützten Daten zum optimalen Zeitpunkt in das Modelltraining einbringen und so das Lernen des Modells aus Ihren Daten maximieren.
Kombinieren Sie geschützte Daten mit von Amazon Nova kuratierten Trainingsdaten unter Verwendung der von Amazon bereitgestellten SageMaker-Rezepte. Mit diesem Ansatz können Sie ein Modell entwickeln, das das geschützte Wissen Ihres Unternehmens umfassend versteht und gleichzeitig Risiken wie katastrophales Vergessen minimiert und grundlegende Fähigkeiten wie Denken bewahrt.
Integrieren Sie Belohnungsfunktionen für Reinforcement Fine Tuning (RFT) in Ihre Umgebung. Dadurch kann das Modell aus dem Feedback lernen, das in Ihrer Umgebung von Ihren Anwendungen generiert wird.
Verwenden Sie das in Nova Forge verfügbare Toolkit für verantwortungsvolle KI, um die Sicherheits- und Inhaltsmoderationseinstellungen Ihres benutzerdefinierten Modells zu konfigurieren. Sie können die Einstellungen an Ihre spezifischen Geschäftsanforderungen in Bereichen wie Sicherheit und Handhabung anpassen.
Bleiben Sie an der Spitze der KI-Technologie mit vorzeitigem Zugriff auf neue Nova-Modelle, darunter Nova 2 Pro und Nova 2 Omni.
Kontrolle und Flexibilität in allen Phasen des Modelltrainings
Das Lernen in der frühesten Phase des Trainings maximieren
Kunden mit großen Mengen unstrukturierter Daten können ihre Daten im Rahmen von Continued Pre-Training (CPT) einführen. Der Start mit dem vortrainierten Prüfpunkt stellt sicher, dass die neuen Datensätze in das Modell eingeführt werden, wenn es sich auf dem Höhepunkt seiner Lernfähigkeit für neue Fachgebiete befindet, während gleichzeitig Nova-Trainingsdaten einfließen, um Risiken wie das katastrophale Vergessen grundlegender Fähigkeiten zu minimieren.
Die Modellfunktionen mithilfe spezialisierter Datensätze verbessern
Für Kunden mit mittleren Mengen unstrukturierter Daten bietet Nova Forge Modellprüfpunkte und Rezepte, um Daten während des Trainings einzuführen, wenn die Neigung, aus neuen Trainingsdaten zu lernen, nicht so hoch ist wie vor dem Training. Wie beim Vortraining können Kunden während der Trainingsphase ihre geschützten Daten mit von Amazon Nova kuratierten Trainingsdaten kombinieren. Dadurch kann das Modell fachgebietsspezifisches Wissen aufnehmen und gleichzeitig allgemeine Fähigkeiten wie Sprachverständnis und Denken beibehalten, jedoch mit einer konservativeren Lernrate, um katastrophales Vergessen zu vermeiden.
Effektive anwendungsspezifische Antworten durch SFT und Datenmischung generieren
Supervised Fine-Tuning (SFT) verwendet beschriftete Daten, z. B. Datensätze mit Anweisungen und Antworten, um dem Modell beizubringen, wie es auf Abfragemuster reagieren soll. Kunden können wählen, ob sie das Supervised Fine-Tuning auf einem von ihnen erstellten benutzerdefinierten Basisprüfpunkt, dem vorgefertigten Basisprüfpunkt von Nova oder dem von Nova auf Anweisungen abgestimmten Modell durchführen möchten – je nach ihren Anforderungen und der Verfügbarkeit von Trainingsdaten. Wie bei CPT können Kunden beim Supervised Fine-Tuning ihre geschützten Daten mit von Amazon Nova kuratierten, beschrifteten Datensätzen mischen. Auf diese Weise können Kunden das Modell für ihre speziellen Anwendungen trainieren und gleichzeitig die umfassenden Modellfunktionen wie das Befolgen von Anweisungen beibehalten.
Genauigkeit maximieren und das Modell an Feedback und Simulationen aus der realen Welt anpassen
Reinforcement Learning (RL) verfeinert das Verhalten des Modells mithilfe von Belohnungssignalen und menschlichem Feedback weiter. In der RL-Phase können Nova-Forge-Kunden ihr Modell anhand des Feedbacks von Remote-Belohnungsfunktionen ausrichten. Dadurch können sie während der Ausrichtung Feedback aus benutzerdefinierten Umgebungen mit geschützten Tools und Verifizierern über eine API nutzen. Im Gegensatz zum Branchenstandard, bei dem einfache Belohnungsfunktionen in kleinen Python-Dateien definiert werden, ermöglicht dieser API-basierte Ansatz den Kunden die Integration komplexer benutzerdefinierter Umgebungs-Harnesses und deren Ausführung in großem Maßstab. Beispiele für benutzerdefinierte Belohnungsfunktionen sind Physiksimulatoren, komplexe Codeauswertungen mithilfe interner Systeme mit verschachtelten Tools-Aufrufen und Robotikaufgaben anhand geschützter Testframeworks.
Anpassungs- und Trainingsmöglichkeiten von Nova
Die Zusammenarbeit mit Nova Forge ermöglicht es uns, die Moderation von Inhalten auf Reddit mit einem einheitlicheren System zu verbessern, das bereits beeindruckende Ergebnisse liefert. Wir ersetzen eine Reihe verschiedener Modelle durch eine einzige, genauere Lösung, die die Moderation effizienter macht. Die Möglichkeit, mehrere spezialisierte ML-Workflows durch einen kohärenten Ansatz zu ersetzen, markiert einen Wandel in der Art und Weise, wie wir KI auf Reddit implementieren und skalieren. Nachdem wir diese ersten Erfolge bei unseren Sicherheitsbemühungen gesehen haben, sind wir gespannt, wie Nova Forge in anderen Bereichen unseres Geschäfts helfen könnte.
Chris Slowe
CTO, Reddit
Wir verwenden Nova Forge, um einen einheitlichen Assistenten für die Wirkstoffforschung zu entwickeln, der molekulare Eigenschaften vorhersagen, chemische Probleme lösen und neuartige Wirkstoffkandidaten generieren kann. Indem wir Tausende von Kandidaten rechnerisch untersuchen, bevor wir sie im Labor testen, wo jedes Experiment Tausende kostet, können wir den Patienten bessere Medikamente schneller zur Verfügung stellen und gleichzeitig die Kosten senken. Durch die überwachte Feinabstimmung und Verstärkung der Feinabstimmung mit Nova 2 Lite haben wir bestehende große Sprachmodelle wie Sonnet 4 bei Eigenschaftsvorhersageaufgaben bereits um 20–50 % übertroffen; die Leistung mehrerer spezialisierter GNN-Modelle bei denselben Aufgaben übertroffen oder erreicht, und wir gehen jetzt zur molekularen Generierung über.
Leela Dodda
Director of Computational Chemistry, Nimbus Therapeutics
Nova Forge ermöglicht es uns, branchenspezifische LLMs als überzeugende Alternative zu Modellen mit offenem Gewicht zu entwickeln. Mit SageMaker AI und einer verwalteten Trainingsinfrastruktur können wir spezialisierte Modelle wie unser LLM für japanische Finanzdienstleistungen effizient entwickeln, indem wir von Amazon Nova kuratierte Daten mit unseren geschützten Datensätzen kombinieren.
Takahiko Inaba
Head of AI and Managing Director, Nomura Research Institute, Ltd.
Bei Cosine AI erweitern wir ständig die Grenzen der Softwareentwicklungsagenten durch die Feinabstimmung von Verstärkungen. Wir haben den API-basierten Ansatz von Nova Forge mitentwickelt, der es uns ermöglicht, unsere internen Tools und unsere Umgebung zu nutzen, damit das Modell genau die Herausforderungen Ihres Unternehmens lernt und optimiert – ein entscheidender Faktor dafür, dass wir den neuesten Stand der Technik erreicht haben.
Yang Li
Mitgründer, Cosine AI
Wir nutzen das Nova-Forge-Programm, um hochmoderne KI für unsere vielfältigen Geschäfte und Abläufe zu entwickeln. Bei der Sony Group stellen wir uns der Herausforderung, die Effizienz des Überprüfungs- und Bewertungsprozesses um das 100-fache zu steigern. Dazu verwenden wir einen KI-Agenten, der auf einem von Nova Forge entwickelten Modell basiert. Erste Ergebnisse zeigen, dass wir mithilfe von Verstärkungsfeinabstimmungen die Leistung größerer Modelle übertreffen und gleichzeitig von der Latenz und dem Preis-/Leistungsverhältnis von Nova profitieren.
Masahiro Oba
Senior General Manager of AI Acceleration Division, Digital & Technology Platform bei der Sony Group Corporation
Nova 2 Lite ermöglicht es uns, das Konversationserlebnis der nächsten Generation zu entwickeln und die Art und Weise, wie Benutzer mit der Siemens-Website interagieren, neu zu erfinden. Mithilfe der Feinabstimmungsfunktionen von Nova können wir die kontextuelle Ausgabe unseres Retrieval-Augmented Generation (RAG)-Systems optimieren, die Relevanz von Tool-Aufrufen verfeinern und die Gesamtgenauigkeit der Suchergebnisse erhöhen.
Fabian Fischer
Enterprise Architect, SiemensHaben Sie die gewünschten Informationen gefunden?
Ihr Beitrag hilft uns, die Qualität der Inhalte auf unseren Seiten zu verbessern.