Esma mette nel mirino l’Intelligenza Artificiale
Lo scorso 31 agosto Esma ha pubblicato il secondo Trv Risk Monitor, il report che analizza i trend, i rischi e le criticità, e tra i temi da tenere monitorati include anche l’AI. Come emerge nel report, i mercati finanziari sono un settore in cui la tecnologia AI basata su Llm (modelli di linguaggio di grandi dimensioni) avrà uno degli impatti maggiori, migliorando attività quali l’analisi del sentiment nelle strategie di investimento, la compliance, il reporting, lo studio delle interazioni tra i consumatori, l’automazione nonché migliorare i processi decisionali nel settore.
Tuttavia, ribadisce Esma, l’uso intensivo dell’AI generativa nel sistema finanziario può comportare notevoli rischi. Poiché questi tool sono in continuo sviluppo e “auto-apprendimento” dalle interazioni che hanno con gli stessi utenti, una prima problematica risiede nella qualità e nell’affidabilità delle risposte restituite dai chatbot. Informazioni non accurate potrebbero avere un impatto sulla fiducia dei consumatori.
Altrettanto rischioso è l’utilizzo che soggetti malintenzionati possono fare di questi strumenti, sia cercando di distorcere e influenzare le attività di trading attraverso post sui social media creati ad arte dall’AI, sia insinuandosi nell’attività degli organismi regolatori e delle autorità manipolando i reclami dei consumatori o le risposte alle consultazioni, minando così l’integrità dei processi normativi.
L’ingente numero di risorse necessario al continuo sviluppo dell’AI rappresenterà sicuramente una barriera all’entrata in grado di restringere in relativamente poco tempo il campo a pochi attori, quali le Big Tech, con conseguenti rischi operativi e di rischi di dipendenza all’interno del settore finanziario.
Al contrario, lo sviluppo da parte di startup di modelli di AI snelli e specializzati, ma anche più rapidi da addestrare e quindi più difficili da monitorare, potrebbe rendere più arduo garantire il mantenimento di adeguate misure di tutela e contenimento dei rischi.
La sfida degli enti regolatori sarà monitorare e mitigare i potenziali rischi per garantire che i partecipanti al mercato sfruttino i vantaggi di queste tecnologie continuando a operare in un ecosistema finanziario sicuro e affidabile.
