Dropbox spart Millionen durch Aufbau eines skalierbaren Metadatenspeichers auf Amazon DynamoDB und Amazon S3

Dropbox wurde 2007 von zwei Studenten des Massachusetts Institute of Technology gegründet und ist ein globales Tool für Zusammenarbeit und Dateifreigabe-Service. Es hat sich zu einem der erfolgreichsten Startups der Welt entwickelt. Über 600 Millionen Nutzer haben mehr als 400 Milliarden Inhalte hochgeladen.

Die Metadatenspeicher von Dropbox waren ursprünglich ausschließlich im Hauptdatenspeicher des Unternehmens, Edgestore, untergebracht und in einer verteilten On-Premises-Datenbank gehostet, die auf geteilten MySQL-Clustern aufbaute. Mitte 2018 waren die schnell wachsenden kalten Metadaten – Daten, auf die selten zugegriffen wird, die aber dauerhaft gespeichert und sofort verfügbar sein müssen – weniger als 2 Jahre davon entfernt, Edgestore zu überfordern. Um die Kapazität der On-Premises-Datenbank zu erhöhen, müssten jedoch die vorhandenen Partitionen aufgeteilt und neue Computer gekauft werden, um sie zu hosten, was die Kosten von Edgestore verdoppeln und jährlich Millionen von Dollar zusätzlich kosten würde. Darüber hinaus war es nicht mehr sinnvoll, kalte Metadaten in derselben Datenbank wie heiße – oder häufig verwendete – Metadaten zu speichern. „Wenn Sie Daten schreiben, die nicht oft gelesen werden sollen, ist ihre Verwendung auf Medien, die für die Abrufgeschwindigkeit optimiert sind, extrem teuer – ganz zu schweigen davon, sie zu speichern“, sagt Jonathan Lee, technischer Leiter des Alki-Teams von Dropbox.

Zwei Mitglieder des Datenbankteams konzentrierten sich dann nur darauf, Alki zu entwickeln, die Lösung, die Metadaten kostengünstig speichern würde. Ihr Fokus lag insbesondere auf Auditprotokollierungsdaten, den wichtigsten Anwendungsfall für Metadaten bei Edgestore. Da das kleine Alki-Team vor einer engen Frist stand, die, sollte sie nicht eingehalten werden, möglicherweise zum Verlust von Benutzermetadaten führen könnte, entschied es sich, Managed Services von AWS zu implementieren. Mithilfe von Amazon DynamoDB und Amazon S3 hat Dropbox innerhalb von nur einem Jahr schnell einen Prototyp für einen kalten Metadatenspeicher auf AWS entwickelt und bereitgestellt. AWS Solutions Architects fungierten wie eine Erweiterung des Alki-Teams von Dropbox und boten einen präskriptiven Leitfaden und Hilfe bei der Implementierung.

„Beim Aufbau eines Speichersystems müssen Sie über viele Komponenten nachdenken, darunter Replikation, Backups und Kapazitätsmanagement. Amazon DynamoDB und Amazon S3 erfüllen diese Anforderungen gut – sie sind Industriestandards“, sagt Lee. „Das sind Probleme, für deren Lösung große Teams mehrere Jahre benötigen. Durch die Verwendung von Amazon DynamoDB und Amazon S3 vereinfachen wir diese Probleme jedoch, da AWS viele der komplexen Aufgaben wie Datenreplikation, Datenbeständigkeitsmanagement und Hardwarebereitstellung übernimmt. Sowohl Amazon DynamoDB als auch Amazon S3 wachsen automatisch mit unseren Kapazitätsanforderungen. Wir müssen nicht mehr für On-Premises-Kapazitäten planen und Budgets für Hardwarekäufe aufstellen, um dann vier Jahre lang an unsere Entscheidungen gebunden zu sein.“

Das Alki-Team entwickelte mit Unterstützung von AWS Solutions Architects ein auf Log-Structured Merge-Tree (LSM Tree) basierendes Metadaten-Speichersystem, das über zwei Datenspeicherebenen verfügt: eine obere Ebene für heiße Metadaten und eine untere Ebene für kalte Metadaten. Amazon DynamoDB fungiert als Hot-Storage-Layer und überträgt Prüfprotokollierungsdaten in sechs DynamoDB-Tabellen mit 4 000–6 000 Schreibvorgängen pro Sekunde pro Tabelle. Dann speichert jede dieser Tabellen täglich 50-80 GB. Am Ende eines jeden Tages lädt das Team die Metadaten aus diesen Tabellen zur dauerhaften Speicherung in Amazon S3 aus, woraufhin die Tabellen in Amazon DynamoDB gelöscht werden.

Anfang 2019, weniger als sechs Monate nachdem sich das Alki-Team für Amazon DynamoDB und Amazon S3 entschieden hatte, befand sich Alki in der Beta-Phase der Produktion, in der alle Daten aufgenommen und eine Teilmenge der Lesungen bereitgestellt wurden. Bis Oktober 2019 wurden etwa 300 TB an Audit-Protokolldaten - ein Viertel aller in Edgestore gespeicherten Daten - nach Alki migriert, das nun voll in Betrieb war.

Dank der Skalierbarkeit von Amazon DynamoDB und Amazon S3 konnte das Dropbox-Team diese Datenmigration in weniger als zwei Wochen abschließen. „Normalerweise könnte man ein System für das Zehnfache der Skalierung entwerfen, die man im stationären Zustand erwarten würde“, erklärt Lee. „Aber wir könnten auf AWS das 100- bis 1 000-fache skalieren, ohne das System im Voraus zu entwerfen.“ Das Alki-Team erwartete einen stabilen Zustand von 4 000 Abfragen pro Sekunde, konnte Amazon DynamoDB jedoch während der Migration für 600 000 Abfragen pro Sekunde bereitstellen.

Laut Lee haben AWS Solutions Architects dem Alki-Team während der gesamten Migration erstklassigen Support geboten. „Wir können nur positive Dinge über unsere Zusammenarbeit mit dem AWS-Team sagen, das an Alki arbeitet. Es war immer sehr proaktiv und hat uns dabei geholfen, Probleme zu finden, wie wir die Dinge schneller machen können, oder Bereiche identifiziert, in denen wir operativ vorsichtiger sein sollten“, sagt Lee. Das Alki-Team und die AWS Solutions Architects waren in der Lage, über Echtzeitkanäle in ständiger Kommunikation zu bleiben. Und das Alki-Team wird weiterhin die Vorteile dieser Zusammenarbeit durch die Managed Services von AWS nutzen. „Der dauerhafte Betrieb eines Systems erfordert Fachwissen, und dieses Fachwissen hatten wir nicht“, sagt Stas Ilinskiy, Softwareingenieur im Alki-Team. „Aber durch den Einsatz von Amazon DynamoDB gewinnen wir auch die Mitarbeiter, die über das nötige Fachwissen verfügen, um es zu betreiben.“

Mit Alki sparte Dropbox Millionen von Dollar an Erweiterungskosten und senkte die Gigabyte-Kosten pro Benutzer durch den Einsatz von Amazon DynamoDB und Amazon S3 erheblich. Der Edgestore von Dropbox würde Nutzer 5,5-mal mehr kosten als Alki pro Benutzer-Gigabyte und Jahr.