Red Hat SummitPanoramica
Con edge machine learning si intende il processo di esecuzione di modelli di machine learning (ML) su un dispositivo edge per raccogliere, elaborare e riconoscere i modelli all'interno di raccolte di dati grezzi.
Cos'è il machine learning all'edge?
Per illustrare al meglio il machine learning all'edge, partiamo dalla presentazione dei due elementi che lo compongono: machine learning ed edge computing.
- Il machine learning è un sottotipo di intelligenza artificiale (IA) in grado di eseguire attività percettive in una minima parte del tempo di cui avrebbe bisogno un essere umano.
- L'edge computing è una strategia che prevede l'avvicinamento dei servizi di elaborazione all'ubicazione fisica dell'utente o alla sorgente dei dati. Questi servizi di elaborazione sono disponibili su quelli che chiamiamo dispositivi edge, computer che consentono di raccogliere ed elaborare dati grezzi in tempo reale per un'analisi più rapida e affidabile.
Il machine learning all'edge consente di eseguire i modelli di machine learning localmente su dispositivi edge, come i dispositivi Internet of Things (IoT).
Cosa migliora l'edge?
Di pari passo con l'aumento delle aspettative dei clienti, aumenta anche la richiesta di una potenza di elaborazione veloce e sicura.
Ogni interazione tra l'azienda e il cliente è oggi un mix di tecnologie e punti di contatto ibridi che richiedono un accesso agevole a dispositivi, dati e applicazioni che danno origine a nuove esperienze e creano un'esperienza end-to-end positiva per l'utente.
Tradizionalmente, questa elaborazione avviene tramite il trasferimento dei data set su cloud distanti tramite reti che possono faticare a funzionare a piena capacità, per via della lunga distanza che i dati devono percorrere tra le destinazioni. Questa situazione può potenzialmente comportare problemi che spaziano dalla latenza alle violazioni della sicurezza.
L'edge computing consente di avvicinare le applicazioni basate su intelligenza artificiale/machine learning (AI/ML) alle sorgenti di dati quali sensori, fotocamere e dispositivi mobili, per ottenere più rapidamente informazioni, identificare schemi e intraprendere azioni senza dover ricorrere alle reti cloud tradizionali.
Come creare una strategia per l'edge computing
L'edge computing è una parte integrante dell'approccio al cloud ibrido open source, che garantisce la coerenza delle applicazioni e delle operazioni nell'intera architettura tramite una piattaforma orizzontale comune.
Mentre una strategia di cloud ibrido consente alle organizzazioni di eseguire i medesimi carichi di lavoro nei propri datacenter e su infrastrutture di cloud pubblico (come Amazon Web Services, Microsoft Azure o Google Cloud), una strategia edge permette agli ambienti cloud di raggiungere posizioni troppo remote per mantenere una connettività continua con i data center.
Presso i siti di edge computing, il personale IT è spesso in numero limitato. Una soluzione di edge computing affidabile può essere gestita avvalendosi degli stessi strumenti e processi in uso nell'infrastruttura centralizzata e consente di operare in modo indipendente e disconnesso.
In generale, una soluzione completa di edge computing deve essere in grado di:
- Eseguire un modello di deployment coerente dal core all'edge.
- Offrire opzioni architetturali flessibili che soddisfano le esigenze di connettività e gestione dei dati.
- Automatizzare e gestire i deployment e gli aggiornamenti dell'infrastruttura dal datacenter centrale ai siti remoti.
- Eseguire il provisioning, aggiornare e gestire le applicazioni software in modo scalabile nella tua infrastruttura.
- Evitare di interrompere le attività all'edge, anche quando la connessione Internet non è affidabile.
- Includere una piattaforma software solida e scalabile in orizzontale e in verticale.
- Proteggere dati e infrastruttura negli ambienti edge che presentano problemi di sicurezza.
Come creare una strategia per il machine learning (ML)
Non esiste un unico modo per creare e rendere operativi i modelli di ML, ma c'è sempre bisogno di raccogliere e preparare i data set, convertire i modelli in applicazioni intelligenti e trarre profitto da tali applicazioni. Per rendere operative queste applicazioni con le funzionalità di ML integrate, note come MLOps, e tenerle aggiornate, è necessaria la collaborazione tra data scientist, sviluppatori, ingegneri ML, operazioni IT e varie tecnologie DevOps.
Con l'applicazione dei principi DevOps e GitOps, le organizzazioni automatizzano e semplificano il processo iterativo di integrazione dei modelli di ML nei processi di sviluppo del software, rollout in produzione, monitoraggio, riaddestramento e ridistribuzione per previsioni sempre accurate.
Con Red Hat® OpenShift®, questo processo può essere sostanzialmente suddiviso in 4 passaggi:
- Addestramento: i modelli di ML vengono addestrati sui notebook Jupyter su Red Hat OpenShift.
- Automazione: Red Hat OpenShift Pipelines è una funzionalità di integrazione continua guidata dagli eventi, che consente di creare pacchetti dei modelli di ML come immagini container:
Salvando i modelli pronti per il deployment in un apposito archivio.
Convertendo i modelli salvati in immagini container con Red Hat OpenShift.
Testando le immagini containerizzate dei modelli per assicurare che continuino a funzionare.
Archiviando le immagini containerizzate dei modelli in un apposito registro privato e globale, come Red Hat Quay, nel quale vengono analizzate per identificare potenziali problemi, mitigando i rischi per la sicurezza e la replica geografica.
- Deployment: la configurazione dichiarativa gestita da Red Hat OpenShift GitOps automatizza il deployment dei modelli di ML in modo scalabile ovunque.
- Monitoraggio: i modelli vengono monitorati in termini di affidabilità, velocità, scalabilità e altri parametri, con gli strumenti offerti da uno dei partner del nostro ecosistema e vengono aggiornati con il riaddestramento e la ridistribuzione, quando necessario.
Perché scegliere Red Hat per AI/ML all'edge?
L'intelligenza artificiale e il machine learning sono diventati in breve tempo essenziali per le aziende che puntano a convertire i dati in valore per il business. Le soluzioni open source di Red Hat per l'edge computing si focalizzano sull'accelerazione delle iniziative aziendali, fornendo servizi che automatizzano e semplificano il processo di sviluppo di applicazioni intelligenti nel cloud ibrido.
Red Hat è consapevole che, nonostante l'impegno dei data scientist per la creazione dei modelli di AI/ML, le loro attività sono spesso complicate dalla mancanza di allineamento tra gli strumenti in rapida evoluzione. Tutto questo può influire, a sua volta, sulla produttività e sulla collaborazione tra team, sviluppatori di software e team delle operazioni IT.
Per evitare questi potenziali ostacoli, i servizi Red Hat OpenShift sono progettati con l'obiettivo di supportare gli utenti nella progettazione, nel deployment e nella gestione coerenti delle applicazioni intelligenti in ambienti cloud e datacenter.
La maggior parte delle aziende potrebbe fare un miglior uso dei propri dati, ma è limitata dagli strumenti e dai flussi di lavoro. Red Hat® OpenShift® Data Science offre un ambiente self service supportato che consente ai data scientist di perfezionare gli algoritmi e sperimentare con lo sviluppo, l'addestramento e i test di modelli di machine learning.
L'edge computing su OpenShift si rivela utile in svariati settori e può essere uno strumento fondamentale per una vasta serie di attività, dal rilevamento delle frodi all'automazione dei preventivi assicurativi, fino all'esplorazione delle risorse naturali.
