Ho letto un recente studio pubblicato da Rolling Stone che afferma che il 39% degli americani si fida dei consigli medici forniti da chatbot di intelligenza artificiale come ChatGPT. Non stiamo parlando di raccomandazioni su quale film guardare o dove andare a cena, ma di questioni letteralmente di vita o di morte. Se quasi quattro persone su dieci sono disposte a seguire il parere di un algoritmo per decidere se prendere un farmaco o consultare un medico, possiamo facilmente immaginare quanto sarà rapida la diffusione di questi strumenti nel mondo della finanza personale e degli investimenti. Dopotutto, se ci fidiamo dell’AI per la nostra salute, perché non dovremmo fidarci per gestire i nostri risparmi?
La questione però non è tanto se l’intelligenza artificiale sia o meno in grado di fornire consigli finanziari o medici accurati (ne abbiamo già parlato in un altro post) perché la tecnologia, come sempre, è neutrale: può essere uno strumento potentissimo se usata nel modo giusto o terribile se usata in modo sbagliato. Ma quanto tempo ci vorrà prima che le grandi corporation che controllano questi sistemi di AI trasformino la nostra fiducia in un’opportunità di business? E soprattutto, saremo in grado di accorgercene quando i “consigli intelligenti” che riceviamo saranno in realtà orientati da logiche commerciali piuttosto che dal nostro reale interesse?
Pensateci un momento: quando un’intelligenza artificiale vi suggerirà di comprare un certo ETF piuttosto che un altro, come farete a sapere se quella raccomandazione è davvero la migliore per voi o se invece è stata “educata” su dati selezionati ad arte per favorire certi prodotti finanziari? Non serve nemmeno immaginare scenari fantascientifici di corruzione algoritmiche: basta che il modello di AI sia stato addestrato prevalentemente su documenti e analisi forniti da determinati asset manager piuttosto che altri, ed ecco che le risposte tenderanno naturalmente verso certe direzioni. Il bias non è nemmeno intenzionale, è strutturale – e non è trasparente come quello di un consulente finanziario che è regolamentato e ufficialmente dichiarato e soggetto a verifiche e controlli.
L’algoritmo non ha interessi propri, ma è stato programmato, addestrato, orientato da qualcuno che quegli interessi li ha eccome. E qui si apre uno scenario preoccupante: se le normative attuali già faticano a tenere il passo con l’innovazione finanziaria tradizionale, come potranno mai regolamentare qualcosa di così opaco e complesso come i processi decisionali di un’intelligenza artificiale?
E guardate che il problema non è accademico: lo studio americano di cui sopra rivela che le aziende di AI hanno progressivamente eliminato i disclaimer che avvertivano gli utenti di non seguire ciecamente i consigli medici forniti dai chatbot: si è passati dal 26% di risposte che contenevano un avvertimento nel 2022 a meno dell’1% oggi. Tradotto: quando questa fiducia incondizionata si sposterà nel settore finanziario, chi ci garantirà che i consigli che riceveremo siano davvero nel nostro interesse e non in quello di chi controlla il modello?
Come professionisti della finanza e come risparmiatori, dobbiamo iniziare a porci queste domande ora, prima che diventi la normalità affidarsi completamente a consulenti virtuali di cui non conosciamo le logiche di funzionamento. L’intelligenza artificiale può essere un alleato formidabile per analizzare dati, identificare trend, simulare scenari. Ma la decisione finale su dove mettere i nostri soldi dovrebbe sempre passare attraverso una relazione trasparente dove possiamo guardare negli occhi chi ci consiglia.
