Itaú migliora la velocità di commercializzazione e la produttività delle soluzioni ML utilizzando Amazon Web Services

Itaú fornisce servizi bancari a clienti in Brasile, America Latina e altri 18 Paesi in tutto il mondo. Ha oltre 95.700 dipendenti, di cui circa 15.000 nel settore IT. L'infrastruttura originale di Itaú era interamente on-premise, il che comportava costi elevati e tempi di sviluppo lenti. Inoltre, l'infrastruttura on-premises non era scalabile perché limitata dallo spazio fisico e dall'hardware. Nel gruppo di dati della banca, i data scientist dovevano attendere fino a 6 mesi per avere disponibili memoria e risorse e l'azienda aveva una lista d'attesa per l'implementazione di oltre 100 modelli ML.

Per superare queste sfide, Itaú ha deciso di migrare una parte della sua attività sul cloud e ha scelto di utilizzare AWS. "Uno dei motivi per cui abbiamo scelto di migrare dall'on-premise al cloud è stata una strategia volta ad aumentare la competitività e l'efficienza aziendale allo stesso tempo", spiega Diego Nogare, ML engineering manager di Itaú.

Circa 6 mesi dopo l'inizio della migrazione, Itaú ha scelto Amazon SageMaker come soluzione ML flessibile e nativa del cloud: un servizio per creare, addestrare e distribuire modelli ML per qualsiasi caso d'uso con infrastruttura, strumenti e flussi di lavoro completamente gestiti. "Stavamo trasformando il nostro software e i nostri dati utilizzando AWS e avevamo bisogno di una soluzione che funzionasse perfettamente su AWS, racconta Vitor Azeka, data science superintendent di Itaú. "Amazon SageMaker è stata la scelta più ovvia". Al 2024, circa il 60 percento del software e dei dati dell'azienda è già stato modernizzato per funzionare sul cloud".

Itaú ha creato una soluzione completa per i suoi data scientist utilizzando AWS. Innanzitutto i dati vengono raccolti usando AWS Glue, un servizio di integrazione dei dati serverless che facilita la scoperta, la preparazione, lo spostamento e l'integrazione dei dati da più origini per l'analisi, il machine learning (ML) e lo sviluppo di applicazioni. Questi dati vengono quindi utilizzati per avviare esperimenti utilizzando Amazon SageMaker Studio. Itaú utilizza Amazon SageMaker Studio come soluzione di sviluppo flessibile per la sperimentazione dei suoi data scientist interni. Successivamente, i modelli ML vengono distribuiti utilizzando altri strumenti Amazon SageMaker come Endpoint, Batch Transform e Asynchronous Inference. La società monitora i modelli usando Amazon CloudWatch, che raccoglie e visualizza log, parametri e dati sugli eventi in tempo quasi reale in pannelli di controllo automatizzati per semplificare la manutenzione dell'infrastruttura e delle applicazioni. Utilizzando tutti questi servizi AWS insieme, i data scientist possono soddisfare le loro esigenze.

Itaú ha fornito la sua prima soluzione utilizzando Amazon SageMaker Studio come ambiente di sviluppo integrato nell'agosto 2021 e, ad aprile 2023, contava più di 3.200 utenti unici per il servizio AWS, inclusi circa 350 data scientist.

Itaú non ha più una lista d'attesa per la distribuzione di modelli ML. Utilizzando Amazon SageMaker Studio, l'azienda ha ridotto i tempi di distribuzione da un massimo di 6 mesi a 3-5 giorni in alcuni casi. Questo tempo di implementazione ridotto migliora la velocità di immissione sul mercato per l'azienda. "Quando utilizziamo Amazon SageMaker Studio, possiamo eseguire la nostra pipeline e fornire la soluzione ai nostri clienti molto rapidamente", afferma Nogare. "Così possiamo migliorare l'esperienza dei clienti." Itaú sta inoltre risparmiando sui costi rispetto alla sua vecchia infrastruttura on-premises.

Da novembre 2021, Itaú ha avuto incontri settimanali con il team AWS per discutere dell'architettura, della sicurezza e della sua road map. "Il supporto di AWS è stato molto importante per raggiungere i risultati di oggi", afferma Nogare. "Ogni volta che abbiamo riscontrato un problema con le nostre soluzioni o esigenze di governance, il team AWS ci ha supportato". Alcune esigenze di governance vengono soddisfatte utilizzando Amazon SageMaker Studio. Quando l'azienda esegue pipeline per fornire Amazon SageMaker Studio agli utenti, i problemi di governance e sicurezza sono già risolti.

La standardizzazione della sua soluzione significa che Itaú può assumere più facilmente nuovi dipendenti e spostare i data scientist da un reparto all'altro. L'aggiornamento è più semplice poiché tutto è virtuale e l'azienda non deve più fare affidamento su macchine fisiche. Utilizzando AWS, le pipeline per i data scientist sono integrate, quindi i modelli di ML vengono distribuiti e monitorati nella stessa pipeline di dati. Ciò migliora ulteriormente l'efficienza per i data scientist.

"A conti fatti, ci permette di essere più veloci", afferma Rodrigo Fernandes Mello, distinguished data scientist di Itaú. "Abbiamo migliorato la standardizzazione e l'integrazione e possiamo usare AWS per continuare a migliorare".