In Breve
- Cos'è AI Scout?
- AI Scout è uno strumento di NordLayer per monitorare l'uso di servizi di intelligenza artificiale in azienda.
- Quali sono le principali funzionalità di AI Scout?
- AI Scout monitora l'uso di AI, identifica servizi autorizzati e non autorizzati e previene la perdita di dati.
- Perché è importante monitorare l'uso di AI in azienda?
- Il monitoraggio è fondamentale per prevenire rischi di violazione dei dati e gestire l'uso di strumenti non autorizzati.
NordLayer, azienda specializzata in soluzioni di sicurezza informatica, ha recentemente lanciato AI Scout, uno strumento innovativo progettato per fornire alle aziende una visibilità completa sull’uso di servizi di intelligenza artificiale (AI) da parte dei dipendenti. Questo strumento si propone di affrontare i rischi di perdita di dati associati all’uso di strumenti non autorizzati, un fenomeno in crescita noto come shadow AI.
AI Scout è un prodotto standalone che monitora le interazioni degli utenti su browser e desktop. La sua funzione principale è quella di identificare i servizi AI autorizzati e non autorizzati, misurando l’utilizzo reale rispetto alle sottoscrizioni acquistate e stimando il consumo di token tra i modelli linguistici utilizzati. Grazie a controlli avanzati, AI Scout può ispezionare i prompt e bloccare o redigere contenuti sensibili prima che vengano trasmessi a servizi esterni.
Inoltre, i controlli basati sul browser possono intervenire nel momento in cui un dipendente inserisce informazioni che necessitano di ulteriore revisione. Questo approccio proattivo è fondamentale per garantire la sicurezza dei dati aziendali, soprattutto in un contesto in cui l’adozione di tecnologie AI sta diventando sempre più diffusa.
Il monitoraggio di AI Scout si estende oltre i chatbot convenzionali, includendo agenti AI e le loro connessioni tecniche con i servizi aziendali. Gli amministratori hanno la possibilità di ispezionare l’infrastruttura MCP (Managed Cloud Platform) collegata ad agenti di programmazione e valutare le capacità operative di questi sistemi, garantendo così un controllo più efficace sull’uso delle tecnologie AI.
Questa iniziativa di NordLayer risponde a una necessità crescente nel mondo del lavoro. Secondo indagini recenti, il 59% delle aziende spende più di 1 milione di dollari all’anno in tecnologie AI, mentre il 42% dei dipendenti utilizza sistemi AI approvati. Tuttavia, il 70% dei lavoratori si affida a modelli gratuiti non autorizzati, aumentando il rischio di violazioni dei dati. Le violazioni legate allo shadow AI possono incrementare il costo medio globale di una breach di circa 400.000 dollari, su un valore medio di 4,99 milioni.
NordLayer sottolinea che l’AI DLP (Data Loss Prevention) di AI Scout è progettata per ispezionare i prompt e controllarli prima dell’invio, evitando così l’immissione di dati sensibili. La rapida crescita di nuovi modelli linguistici richiede strumenti di telemetria in grado di raccogliere in un’unica piattaforma l’utilizzo dell’AI, sia autorizzato che non autorizzato.
In conclusione, AI Scout rappresenta un passo significativo verso una maggiore sicurezza nell’uso delle tecnologie AI in azienda, fornendo strumenti essenziali per monitorare e gestire i rischi associati all’adozione di queste tecnologie innovative.
