Assistente virtuale Comune di Firenze, Palagi (SPC): "Indicare i nomi delle aziende"
"Partiamo da cos'è. FestinaLente è l'assistente virtuale del Comune di Firenze: si scrive una domanda in una finestra di chat e risponde un programma di intelligenza artificiale. Al momento ci sono due utilizzi possibili: uno per il cambio di residenza e uno per gli altri servizi. Al telefono del 055055, invece, rispondono ancora delle persone, quindi quello che segue riguarda soltanto chi utilizza il servizio digitale, senza chiamare il centralino. A giugno abbiamo depositato un'interrogazione per sapere chi tratta le informazioni di chi usa quel servizio" spiega in una nota Dmitrij Palagi, consigliere comunale di Sinistra Progetto Comune. "La risposta è arrivata il 4 agosto e contiene i nomi. Il servizio è gestito da SILFI, la società del Comune; è stato costruito da un'azienda italiana, Ergon, su una piattaforma di un'altra azienda italiana, Memori; gira su server di Amazon collocati in Irlanda; e la parte che genera le risposte è di OpenAI, la società statunitense che produce ChatGPT. Sono cinque aziende. Nell'informativa sulla privacy che il Comune pubblica sul proprio sito, però, non ce n'è nessuna: c'è scritto soltanto «Privati (fornitore del servizio)». Alla nostra domanda se intendesse aggiornare quel documento, la Giunta ha risposto che va già bene così. Non è una questione di riservatezza commerciale: il nome della piattaforma è scritto in chiaro in una determina del Comune del 2 dicembre 2025, che ne mette a bilancio il canone annuale.
C'è poi un punto che non torna. Il 14 maggio la Giunta ci aveva scritto che il Comune conserva per sei mesi le conversazioni e l'indirizzo IP, cioè il codice che identifica il collegamento da cui si scrive. Il 4 agosto ha scritto che il servizio non chiede dati personali e che quindi, se le autorità statunitensi chiedessero di accedere a quelle informazioni, l'effetto sulla privacy sarebbe «pressoché nullo». Non stiamo dicendo che qualcuno abbia mentito. Diciamo che le due frasi non stanno insieme, perché l'indirizzo IP è un dato personale, e perché se davvero non ci fossero dati personali non servirebbero né l'informativa né la valutazione dei rischi che il Comune dichiara di aver fatto.
Il fatto che i computer siano in Irlanda non risolve. Una legge statunitense del 2018 permette alle autorità americane di chiedere i dati alle aziende americane ovunque questi si trovino: conta la nazionalità dell'impresa, non il luogo dei server. E qui sono statunitensi sia chi ospita il servizio sia chi produce le risposte. Che non sia un'ipotesi di scuola lo dice un caso recente: nel novembre 2025 un giudice federale di New York ha ordinato a OpenAI di consegnare venti milioni di conversazioni, dentro una causa fra privati.
L'ultima cosa riguarda una promessa" aggiunge Palagi. "Un anno fa, con una delibera approvata dalla sola Giunta, il Comune si è dato un piano sull'intelligenza artificiale che prevede un elenco pubblico di tutti i sistemi che utilizza, con l'indicazione del livello di rischio e dell'azienda fornitrice. Quell'elenco doveva essere pubblicato sul sito comunale per permettere alle cittadine e ai cittadini di controllare. A nove mesi di distanza non ci risulta che esista.
Va detto anche quello che funziona: le valutazioni sui rischi sono state fatte, anche dove non erano obbligatorie, SILFI ha svolto test di sicurezza sull'assistente e le conversazioni vengono controllate a campione ogni settimana. Il problema non è un'irregolarità: è una scelta politica di cui nessuno ha discusso. Lo dice la risposta stessa, dove si legge che la piattaforma può funzionare anche con programmi liberi installati su server europei: il ricorso a un'azienda statunitense non era obbligato.
Per questo chiediamo tre documenti con una richiesta di accesso agli atti (le valutazioni sui rischi, i contratti con le aziende, la scheda del servizio nell'elenco che il Comune deve pubblicare) e depositiamo una mozione perché il Consiglio comunale impegni la Giunta a scrivere i nomi delle aziende nell'informativa, a pubblicare quell'elenco, a rivedere la valutazione del rischio ogni volta che il servizio si allarga, ad avviare il passaggio a soluzioni europee e a garantire che al 055055 si possa sempre parlare con una persona.
Lo facciamo perché pensiamo che la politica e il pubblico siano a rischio di fronte a grandi colossi privati, che spesso si muovono da una condizione di particolare forza. Sapere chi risponde, e chi ascolta, - conclude il consigliere - non è un tecnicismo: è la differenza fra una cittadinanza e un'utenza. Tutto questo merita una discussione politica".