{"id":51257,"date":"2026-10-17T14:38:45","date_gmt":"2026-10-17T12:38:45","guid":{"rendered":"https:\/\/www.fabriziogiancola.eu\/?p=51257"},"modified":"2026-10-17T14:38:45","modified_gmt":"2026-10-17T12:38:45","slug":"non-si-e-rotto-niente","status":"publish","type":"post","link":"https:\/\/www.fabriziogiancola.eu\/index.php\/2026\/10\/17\/non-si-e-rotto-niente\/","title":{"rendered":"Non si \u00e8 rotto niente"},"content":{"rendered":"\n

I cinque articoli precedenti parlavano di controlli tecnici. Questo parla della persona alla tastiera – perch\u00e9 in quasi tutte le storie che seguono non si \u00e8 guastato nulla, nessuno \u00e8 stato sconsiderato e l\u2019unico controllo presente in quel momento era il buon senso di qualcuno che aveva tre secondi per decidere.<\/em><\/p>\n\n\n\n

\n\n\n\n

Gennaio 2024. Un addetto alla finanza di una multinazionale dell\u2019ingegneria riceve un messaggio dal direttore finanziario: c\u2019\u00e8 un\u2019operazione riservata da gestire in silenzio e va fatta in fretta.<\/p>\n\n\n\n

La cosa gli puzza. Perch\u00e9 tanta urgenza? Perch\u00e9 la segretezza?<\/p>\n\n\n\n

Allora il direttore lo invita a una videochiamata. E ci sono tutti: il CFO, diversi colleghi che riconosce. Gli spiegano la situazione e cosa deve fare subito. Lui esegue – quindici bonifici, venticinque milioni di dollari.<\/p>\n\n\n\n

Ogni singola persona di quella videochiamata era generata artificialmente. Volti e voci, ricostruiti da materiale pubblico. L\u2019unica persona reale collegata era lui. La frode \u00e8 emersa solo quando ha ricontattato la sede centrale, che gli ha chiesto: quale operazione?<\/p>\n\n\n\n

Il responsabile informatico dell\u2019azienda l\u2019ha definita \u201cingegneria sociale potenziata dalla tecnologia\u201d. Ma la parte che mi interessa davvero \u00e8 un\u2019altra: quel dipendente il sospetto ce l\u2019aveva<\/strong>. Gli attaccanti hanno risposto al suo sospetto con una videochiamata e lui ha ottenuto la conferma su un canale che controllavano loro.<\/p>\n\n\n\n

Non si \u00e8 rotto niente. Nessun sistema \u00e8 stato violato, nessuna vulnerabilit\u00e0 sfruttata, nessun avviso ignorato.<\/p>\n\n\n\n

Perch\u00e9 questo pezzo \u00e8 diverso dai precedenti<\/strong><\/h1>\n\n\n\n

Nei cinque articoli precedenti ho scritto di confini di fiducia, privilegi minimi, autorizzazione continua, identit\u00e0 crittografiche. Roba che si progetta e si impone. Questo nasce da un corso costruito per tutt\u2019altro pubblico – risorse umane, amministrazione, marketing, vendite – e la sua tesi, che condivido, \u00e8 che una parte consistente del rischio AI non \u00e8 raggiungibile da nessuno di quei controlli.<\/p>\n\n\n\n

Tre situazioni, dal corso, tutte verosimili.<\/p>\n\n\n\n

Il marketing organizza un webinar e raccoglie duecento contatti. Le vendite vogliono sapere chi chiamare per primo e qualcuno incolla l\u2019elenco in una chat AI chiedendo di ordinarlo per priorit\u00e0. Uso intelligente. Ma se quello strumento non \u00e8 approvato dall\u2019azienda, sono i dati personali di duecento persone appena usciti verso un fornitore terzo.<\/p>\n\n\n\n

Ti colleghi a una riunione e c\u2019\u00e8 un trascrittore automatico. Normale, non ci fai pi\u00f9 caso. Ma tutto ci\u00f2 che viene detto in quella stanza adesso \u00e8 un documento<\/strong>, e pu\u00f2 viaggiare molto pi\u00f9 lontano di quanto i presenti immaginino.<\/p>\n\n\n\n

Qualcuno in HR chiede all\u2019AI di selezionare i dieci curricula migliori su trecento. Veloce e sembra pure imparziale. Ma l\u2019AI pu\u00f2 aver raccolto pregiudizi che nessuno ha messo l\u00ec di proposito e adesso quello strumento sta scartando candidati.<\/p>\n\n\n\n

Nessuno \u00e8 stato imprudente. Nessuno aveva cattive intenzioni. E soprattutto: nessuna di queste \u00e8 stata una decisione informatica<\/strong>. L\u2019ha presa qualcuno nelle vendite, qualcuno in riunione, qualcuno in HR, in pochi secondi.<\/p>\n\n\n\n

Gli strumenti di sicurezza aiutano, ma in quel momento l\u00ec non c\u2019erano.<\/p>\n\n\n\n

Primo: la verifica vale solo se il canale lo apri tu<\/strong><\/h1>\n\n\n\n

Questa \u00e8 la singola abitudine pi\u00f9 trasferibile dell\u2019intero corso e vale ben oltre i deepfake<\/em>.<\/p>\n\n\n\n

Il punto di partenza \u00e8 smettere di contare sugli occhi e sulle orecchie. I deepfake <\/em>pi\u00f9 comuni non sono nemmeno i video: la voce costa molto meno<\/strong>. A un attaccante basta un minuto di audio di una persona – a volte pochi secondi – per costruirne una copia. Il materiale grezzo \u00e8 ovunque: interventi a convegni, webinar, podcast, video su LinkedIn. Il docente del corso ne ha fatto uno di s\u00e9 stesso con novanta secondi presi dal corso stesso.<\/p>\n\n\n\n

E la met\u00e0 che rende credibile la storia – a chi riporti, su cosa stai lavorando, dove sei stato la settimana scorsa – sta sui social e nelle risposte automatiche di assenza. Uno fornisce il volto e la voce di cui ti fidi, l\u2019altro dice cosa farci dire.<\/p>\n\n\n\n

Su un campione di duemila persone avvisate in anticipo che avrebbero visto contenuti falsi e invitate a individuarli, meno dell\u2019uno per cento ha fatto en plein<\/em>. E con i video \u00e8 andata peggio che con le immagini.<\/p>\n\n\n\n

Quindi se il volto e la voce non sono pi\u00f9 verificabili, si guarda la richiesta<\/strong>. Perch\u00e9 quello che vogliono gli attaccanti non \u00e8 cambiato: nessuno costruisce un deepfake <\/em>del direttore finanziario per chiederti che tempo fa. La commissione federale statunitense per il commercio pubblica da anni quattro segnali che si applicano perfettamente:<\/p>\n\n\n\n

    \n
  • Fingono<\/strong> di essere qualcuno che conosci.<\/li>\n\n\n\n
  • C\u2019\u00e8 un problema o un premio<\/strong> – qualcosa che solo tu puoi risolvere, o che stai per perdere.<\/li>\n\n\n\n
  • Pressione<\/strong>: subito, e non dirlo a nessuno. Urgenza pi\u00f9 segretezza non \u00e8 quasi mai legittimo.<\/li>\n\n\n\n
  • Pagamento<\/strong>, in una modalit\u00e0 specifica. E non \u00e8 sempre denaro: possono essere dati, accessi, una password.<\/li>\n<\/ul>\n\n\n\n

    Quando una richiesta \u00e8 urgente, riservata e riguarda denaro, dati o accessi, \u00e8 l\u00ec che deve suonare l\u2019allarme. E deve suonare per qualsiasi cambio di coordinate bancarie, per quanto familiare sembri chi lo chiede.<\/p>\n\n\n\n

    La regola operativa \u00e8 una sola<\/strong>: riaggancia, cerca tu il numero, richiama. Non il numero che ti ha chiamato, non quello nella mail appena ricevuta. Il caso del fornitore che comunica le nuove coordinate bancarie e ti invita a chiamarlo per conferma \u00e8 esattamente questo: telefonare a quel numero sembra<\/em> <\/mark>un controllo, ma stai chiamando l\u2019attaccante.<\/p>\n\n\n\n

    Luglio 2024, un dirigente Ferrari riceve messaggi WhatsApp da un numero nuovo che dice di essere l\u2019amministratore delegato. Acquisizione riservata, massima discrezione. Poi il telefono squilla ed \u00e8 la sua voce, accento perfetto. Il dirigente risponde che ha bisogno di verificare e gli chiede quale libro gli avesse consigliato pochi giorni prima. Il truffatore riattacca.<\/p>\n\n\n\n

    La domanda sul libro \u00e8 brillante ma non necessaria. Sarebbe bastato: ti richiamo subito io<\/mark><\/em> e comporre il numero che aveva gi\u00e0.<\/p>\n\n\n\n

    E s\u00ec, si pu\u00f2 riagganciare in faccia all\u2019amministratore delegato. Ti garantisco che \u00e8 il primo a volerlo.<\/p>\n\n\n\n

    Secondo: i dati escono dalla porta principale<\/strong><\/h1>\n\n\n\n

    C\u2019\u00e8 una cosa che il corso dice con una chiarezza che mi \u00e8 piaciuta: la chat con l\u2019AI sembra<\/em> un\u2019altra cosa rispetto al resto del lavoro. Una mail sembra ufficiale, una chat sembra pensare ad alta voce. Per questo ci si sbilancia di pi\u00f9 e si scrivono cose che non si metterebbero mai in una mail.<\/p>\n\n\n\n

    Ma le chat di lavoro con l\u2019AI sono dati di lavoro, come le mail e i file. Il che significa tre cose: sono conservate, viaggiano e si possono tirare fuori<\/strong>.<\/p>\n\n\n\n

    Conservate.<\/strong> Sui piani aziendali l\u2019accordo col fornitore in genere esclude che le conversazioni vengano usate per addestrare i modelli – ed \u00e8 la ragione principale per cui l\u2019azienda paga una licenza invece di lasciare che tutti usino strumenti gratuiti. Ma privato<\/em> <\/mark>non vuol dire invisibile<\/mark><\/em>: le chat restano archiviate e l\u2019azienda pu\u00f2 conservarle, cercarle e consultarle quando c\u2019\u00e8 una ragione. Esattamente come gi\u00e0 accade per la posta.<\/p>\n\n\n\n

    Viaggiano<\/strong>, e qui ci sono tre esempi che non sono violazioni di nulla.<\/p>\n\n\n\n

    Il pulsante condividi<\/em>: nel 2025 migliaia di conversazioni condivise hanno cominciato a comparire nei risultati dei motori di ricerca, perch\u00e9 quei link erano pubblici e i motori li indicizzavano. Curricula, problemi di lavoro, vicende personali, a una ricerca di distanza.<\/p>\n\n\n\n

    L\u2019estensione del browser: a fine 2025 i ricercatori hanno esaminato un\u2019estensione VPN gratuita con milioni di utenti, che copiava parola per parola le conversazioni AI – ogni richiesta, ogni risposta – anche a VPN spenta, e le girava a una societ\u00e0 di dati che le rivendeva come analisi di mercato. Lo strumento AI non aveva alcun difetto: l\u2019estensione stava nel browser e leggeva tutto.<\/p>\n\n\n\n

    Il riepilogo della riunione, che il trascrittore manda a tutti gli invitati, ospiti esterni compresi.<\/p>\n\n\n\n

    Nessuno ha forzato niente. Ogni volta \u00e8 una funzionalit\u00e0 che fa il suo mestiere.<\/p>\n\n\n\n

    Si possono tirare fuori.<\/strong> A febbraio 2026 un giudice federale di New York si \u00e8 pronunciato su un dirigente sotto accusa per frode che aveva discusso la propria difesa con un\u2019AI: quelle conversazioni non sono coperte da alcun privilegio. L\u2019AI non \u00e8 il tuo avvocato.<\/strong> E il principio si estende al lavoro quotidiano: la domanda stizzita su un collega, il reclamo che non hai mai mandato, i ragionamenti \u201ce se invece facessimo…<\/em>\u201d. Se l\u2019hai scritto, \u00e8 agli atti.<\/p>\n\n\n\n

    Qui aggiungo una nota per chi legge dall\u2019Italia, perch\u00e9 il corso \u00e8 pensato per il contesto statunitense e la cornice da noi \u00e8 diversa. Il nostro equivalente non \u00e8 tanto la discovery<\/em> civile quanto il GDPR e, sul versante del controllo dei lavoratori, lo Statuto dei Lavoratori: conservazione, informativa e base giuridica non sono dettagli e vanno guardati con il responsabile della protezione dei dati prima, non dopo. Il punto pratico per\u00f2 non cambia di una virgola: quello che scrivi l\u00ec dentro \u00e8 un documento aziendale<\/strong>.<\/p>\n\n\n\n

    Terzo: ogni strumento \u00e8 un fornitore nuovo<\/strong><\/h1>\n\n\n\n

    Gennaio 2025: un\u2019app AI arriva prima nella classifica statunitense dell\u2019App Store in una settimana. Gratuita, veloce, davvero notevole. Le persone cominciano a usarla per lavoro subito – non dopo una verifica, non dopo un aggiornamento delle policy.<\/p>\n\n\n\n

    Il 29 gennaio alcuni ricercatori guardano l\u2019infrastruttura di quella societ\u00e0 e trovano un database aperto su internet: nessuna password, nessun accesso. Dentro, oltre un milione di righe di log, cronologie di conversazioni comprese. L\u2019azienda ha chiuso in fretta la falla e i database mal configurati sono fra i ritrovamenti pi\u00f9 comuni in assoluto. Ma il punto che riguarda chi legge \u00e8 questo: nessuno fra gli utenti avrebbe potuto accorgersene<\/strong>. Funzionava benissimo. Non si capisce quanto \u00e8 sicuro uno strumento usandolo.<\/p>\n\n\n\n

    E a volte lo strumento \u00e8<\/em> l\u2019attacco. Nel 2024 un ingegnere di una grande azienda di intrattenimento scarica sul computer di casa uno strumento gratuito per generare immagini. Era malware: ha preso le password salvate su quella macchina, comprese quelle di lavoro. Quell\u2019estate oltre un terabyte di conversazioni interne \u00e8 finito online.<\/p>\n\n\n\n

    Non \u00e8 un caso isolato. Nel rapporto IBM sui costi delle violazioni del 2026, il 43% delle organizzazioni colpite ha avuto un incidente che coinvolgeva AI non autorizzata<\/strong> – pi\u00f9 del doppio rispetto al 20% dell\u2019anno prima.<\/p>\n\n\n\n

    La risposta non \u00e8 meno AI, \u00e8 sapere quale<\/em> <\/mark>AI. E qui c\u2019\u00e8 il cambio di forma che spiega perch\u00e9 i controlli tradizionali faticano: una volta il software nuovo si valutava prima di adottarlo. Oggi arriva come una scheda del browser e un indirizzo email, o come un\u2019estensione che promette di migliorarti la scrittura e chiede di leggere tutto quello che apri. Un clic ed \u00e8 dentro. Ma sotto \u00e8 sempre la stessa cosa: codice di una societ\u00e0 esterna che vede il tuo lavoro, lo elabora e a volte agisce.<\/p>\n\n\n\n

    Quando ti registri con la mail aziendale e incolli contenuti di lavoro, stai accettando le loro condizioni per i dati della tua azienda<\/strong>. Quanto li tengono, dove e se li usano per addestrare – cosa che su molti piani gratuiti e personali \u00e8 attiva in partenza, mentre sulle versioni aziendali degli stessi strumenti in genere non lo \u00e8. Lo stesso strumento, sull\u2019account personale e su quello di lavoro, tratta i tuoi dati in modo molto diverso.<\/p>\n\n\n\n

    La richiesta da fare al reparto informatico sta in tre righe: cosa stai cercando di fare, quale strumento hai trovato, quali dati toccher\u00e0. Non sar\u00e0 sempre un s\u00ec immediato, ma \u00e8 cos\u00ec che le buone idee entrano dalla porta principale. E spesso esiste gi\u00e0 una versione approvata di quello che stavi per installare.<\/p>\n\n\n\n

    Quarto: usare e collegare non sono la stessa cosa<\/strong><\/h1>\n\n\n\n

    Qui si entra nel territorio che avevo gi\u00e0 trattato per gli addetti ai lavori, ma la versione per tutti \u00e8 pi\u00f9 utile di quanto mi aspettassi. Tre domande prima di collegare qualunque AI: cosa pu\u00f2 vedere, cosa pu\u00f2 fare e di chi sono le parole che legge<\/strong>.<\/p>\n\n\n\n

    Cosa pu\u00f2 vedere.<\/strong> Un\u2019AI collegata non ottiene accessi speciali: ottiene i tuoi<\/em>. E i tuoi accessi non sono solo i file su cui lavori, sono anche tutti quelli che altri hanno condiviso con te – la cartella enorme a cui mezza azienda ha accesso, l\u2019unit\u00e0 che un collega ti ha aperto per un progetto di due anni fa. L\u2019AI collegata pu\u00f2 cercare dentro tutto quello.<\/p>\n\n\n\n

    Cosa pu\u00f2 fare.<\/strong> Aprile 2026: un\u2019azienda di infrastrutture per il web ha comunicato una violazione partita da un dipendente che si era registrato a uno strumento AI con l\u2019account di lavoro e aveva cliccato consenti tutto<\/em> nella finestra dei permessi. Quando la societ\u00e0 di quello strumento \u00e8 stata compromessa, gli attaccanti hanno usato quel consenso. Nessuna password da rubare, nessun secondo fattore da aggirare: il permesso era gi\u00e0 l\u00ec<\/strong>. E da l\u00ec sono arrivati a sistemi interni, credenziali e chiavi di accesso.<\/p>\n\n\n\n

    Quel consenso non scade quando finisce il compito. Resta finch\u00e9 non lo togli.<\/p>\n\n\n\n

    Di chi sono le parole che legge.<\/strong> Quando l\u2019AI legge la tua posta, i tuoi file o una pagina web, legge parole scritte da altri – e non sempre distingue fra contenuto da valutare e istruzioni da eseguire. \u00c8 la prompt injection<\/em> di cui ho scritto diffusamente e la sua versione quotidiana fa impressione: una mail che non apri mai, con dentro istruzioni rivolte non a te ma all\u2019assistente, resta l\u00ec in casella. Giorni dopo chiedi all\u2019AI di riassumerti la posta, lei la legge, segue le istruzioni, raccoglie i dettagli sensibili che riesce a trovare e li fa uscire infilandoli nell\u2019indirizzo di un\u2019immagine che il tuo schermo carica da solo.<\/p>\n\n\n\n

    Non hai cliccato niente, non hai aperto niente. E all\u2019attaccante non \u00e8 servito alcun permesso di invio<\/em>: leggere \u00e8 bastato<\/strong>. Ci\u00f2 che l\u2019AI pu\u00f2 vedere \u00e8 ci\u00f2 che si pu\u00f2 far uscire.<\/p>\n\n\n\n

    C\u2019\u00e8 un ultimo caso, del febbraio 2026, che vale pi\u00f9 di qualsiasi spiegazione. Una dipendente di una grande azienda tecnologica collega un agente AI alla propria posta, dopo settimane di prove su una casella di servizio andate bene. Istruzione chiara: suggerisci soltanto cosa archiviare o eliminare, non fare nulla finch\u00e9 non te lo dico<\/em>. Ma la casella vera era molto pi\u00f9 grande di quella di prova, l\u2019agente ha perso il filo delle istruzioni e ha iniziato a cancellare. Lei gli ha detto di fermarsi. Ha continuato. Quando \u00e8 riuscita a spegnerlo, erano spariti centinaia di messaggi.<\/p>\n\n\n\n

    L\u2019ha chiamata una leggerezza da principianti, ma guarda cos\u2019\u00e8 successo davvero: aveva dato un\u2019istruzione su cosa fare e cosa non fare e le istruzioni non sono vincoli<\/strong>. L\u2019AI aveva il permesso di cancellare, e l\u2019ha usato.<\/p>\n\n\n\n

    \u00c8 la stessa cosa che scrivevo nell\u2019articolo precedente in linguaggio tecnico e tradotta per tutti suona anche meglio: quello che comanda davvero sono i permessi, non le istruzioni<\/mark>.<\/strong> Se non gli dai il permesso di cancellare, non canceller\u00e0 in nessun caso.<\/p>\n\n\n\n

    Da cui quattro abitudini: collega con uno scopo preciso e uno solo; prendi meno<\/strong> di quello che la finestra ti offre – se c\u2019\u00e8 un\u2019opzione per fare di meno, scegli quella, perch\u00e9 chi riassume la posta non ha bisogno anche di spedirla; mettiti davanti a tutto ci\u00f2 che \u00e8 difficile da annullare – inviare, condividere, cancellare, pagare, pubblicare; e ogni tanto guarda cosa \u00e8 collegato ai tuoi account e stacca quello che non usi.<\/p>\n\n\n\n

    Quinto: i verbali che nessuno ricordava di avere in stanza<\/strong><\/h1>\n\n\n\n

    Settembre 2024. Un imprenditore presenta la propria azienda a un fondo di investimento in videochiamata. Finita la presentazione si scollega, gli investitori restano a discuterne fra loro. Il trascrittore automatico resta anche lui. A fine riunione manda il riassunto a tutti i partecipanti – lui compreso. Quello che legge nella discussione privata gli basta per abbandonare la trattativa.<\/p>\n\n\n\n

    Nessuna violazione, nessuna fuga intenzionale. Lo strumento ha funzionato come previsto.<\/p>\n\n\n\n

    Un ex responsabile della sicurezza di alcune grandi aziende tecnologiche ha definito il trascrittore la persona pi\u00f9 importante nella stanza<\/strong>, perch\u00e9 non \u00e8 un arredo, \u00e8 un partecipante. Sente tutto, incluse le chiacchiere prima dell\u2019inizio e la conversazione dopo il \u201cchiuso\u201d – hai presente la sala riunioni dove la videochiamata resta aperta sullo schermo mentre tutti escono? Scrive e spedisce, non solo trascrive: riassume, estrae decisioni, assegna compiti e li manda agli invitati o li riversa negli strumenti condivisi. E lavora per chi l\u2019ha portato: spesso non sei tu e allora il verbale non \u00e8 tuo e dove finisce non lo decidi tu.<\/p>\n\n\n\n

    Le tue riunioni sono diventate documenti: archiviabili, ricercabili, condivisibili<\/strong>.<\/p>\n\n\n\n

    Quando il trascrittore \u00e8 tuo: annuncialo a voce, dagli un nome che dica di chi \u00e8 e controlla tre impostazioni: se si auto-invita a tutte le riunioni in calendario anche quando tu non ci sei, a chi manda le note e dove le riversa. Soprattutto, tienilo fuori dalle stanze sbagliate. In una causa del 2026 un\u2019azienda ha licenziato una dipendente in videochiamata con il trascrittore attivo; secondo il ricorso ha continuato a registrare dopo che lei si era scollegata, raccogliendo i commenti dei responsabili su chi avrebbe dovuto sostituirla – e poi le ha mandato il link alla registrazione completa. Adesso \u00e8 la prova principale di una causa per discriminazione.<\/p>\n\n\n\n

    Quando \u00e8 di qualcun altro: hai il diritto di chiedere che venga spento e se non \u00e8 chiaro puoi chiedere a voce se qualcuno sta registrando. Non \u00e8 scortese, \u00e8 normale. In mancanza di risposta, dai per scontato che ci sia e parla come se ti stessero verbalizzando.<\/p>\n\n\n\n

    Sul piano giuridico il corso ragiona di consenso secondo il diritto statunitense, dove in diversi Stati serve l\u2019accordo di tutte le parti. In Italia la cornice \u00e8 un\u2019altra – GDPR per il trattamento e Statuto dei Lavoratori quando di mezzo c\u2019\u00e8 il luogo di lavoro – e non \u00e8 materia su cui improvvisare: se nella tua organizzazione i trascrittori sono arrivati senza che nessuno abbia scritto una riga di informativa, quello \u00e8 il punto da sollevare.<\/p>\n\n\n\n

    Sesto: l\u2019output lo firmi tu<\/strong><\/h1>\n\n\n\n

    Due famiglie di problemi, una sola conclusione.<\/p>\n\n\n\n

    L\u2019AI sbagliata che sembra sicura di s\u00e9.<\/strong> Nel 2025 una societ\u00e0 di consulenza consegna al governo australiano una revisione di un sistema sanzionatorio. Un docente universitario fa una cosa semplicissima: legge le note a pi\u00e8 di pagina. Trova citazioni di articoli accademici inesistenti, riferimenti a un libro mai scritto e una citazione da una sentenza con parole che il giudice non ha mai scritto – col nome pure sbagliato. La societ\u00e0 ha dovuto ripubblicare il rapporto e restituire parte del compenso. Le conclusioni erano valide, dicono, e probabilmente \u00e8 vero: ma una volta trovate fonti inventate, nessuno si fida pi\u00f9 del resto.<\/p>\n\n\n\n

    Il meccanismo l\u2019ho spiegato nell\u2019articolo precedente: il modello non mente, prevede come dovrebbe essere fatta una buona risposta ed \u00e8 bravissimo a farlo. Ma una risposta ben fatta e una risposta vera non sono la stessa cosa. Se chiedi tre fonti, te ne d\u00e0 tre – che esistano o no.<\/p>\n\n\n\n

    Due controlli. Esiste?<\/strong> Il libro, la sentenza, il link: se conta, verificalo. E un trucco che uso anch\u2019io: apri una chat nuova, incolla la risposta e chiedi di verificarla. \u00c8 un compito completamente diverso dal chiedere alla stessa chat \u201cma \u00e8 vero?\u201d, perch\u00e9 quella tende a confermare quello che ha gi\u00e0 detto – nel 2023 un avvocato di New York ha fatto esattamente l\u2019errore opposto, ha chiesto conferma alla stessa conversazione, si \u00e8 sentito dire di s\u00ec e nessuna delle sei sentenze citate esisteva.<\/p>\n\n\n\n

    Lo firmeresti?<\/strong> Perch\u00e9 una volta che lo usi, \u00e8 a tuo nome. E se \u00e8 il chatbot della tua azienda a dirlo, l\u2019ha detto la tua azienda: il vettore aereo che sostenne che il proprio chatbot fosse un soggetto responsabile delle proprie affermazioni si sent\u00ec rispondere dal giudice che era una tesi notevole e dovette onorare quanto promesso.<\/p>\n\n\n\n

    Infine, commisura il controllo alla posta in gioco<\/strong>: una bozza per te stesso si scorre, un brainstorming si lascia correre, ma tutto ci\u00f2 che va a un cliente, a un capo, su un sito, si verifica riga per riga. Pi\u00f9 lontano viaggia, pi\u00f9 attenzione merita.<\/p>\n\n\n\n

    L\u2019AI che decide delle persone.<\/strong> Nel 2021 una donna fa domanda per un appartamento vicino a Boston. Ha sedici anni di affitti pagati puntualmente alle spalle. La societ\u00e0 di gestione passa la pratica a un servizio automatico di valutazione degli inquilini: punteggio troppo basso, respinta. Lei fa ricorso allegando le referenze di due proprietari precedenti. La risposta: non accettiamo ricorsi e non possiamo modificare l\u2019esito della valutazione<\/em>.<\/p>\n\n\n\n

    Rileggi quella frase. Non possiamo modificare l\u2019esito.<\/strong> Lo strumento era diventato il decisore. La causa si \u00e8 chiusa con una transazione superiore ai due milioni di dollari che ha coinvolto anche la societ\u00e0 del software, la quale sosteneva di non essere responsabile perch\u00e9 si limitava a produrre un punteggio.<\/p>\n\n\n\n

    Il pregiudizio non ha bisogno che qualcuno lo voglia: basta che i dati ce l\u2019abbiano. Il caso classico resta lo strumento di selezione dei curricula addestrato su dieci anni di assunzioni di un\u2019azienda, che da solo ha imparato a penalizzare ogni curriculum contenente la parola \u201cfemminile\u201d – club di scacchi femminile, universit\u00e0 femminile. Nessuno aveva scritto quella regola e nessuno la voleva. E una parte del problema arriva ancora prima: esperimenti che sottopongono ai modelli curricula identici parola per parola, cambiando solo il nome in cima, hanno visto le classifiche spostarsi sulla base del nome.<\/p>\n\n\n\n

    C\u2019\u00e8 poi la trappola nascosta nella frase rassicurante \u201cl\u2019AI assiste, ma decidi tu<\/em>\u201d. Se l\u2019AI ha gi\u00e0 filtrato, cosa stai decidendo esattamente?<\/strong> Hai chiesto i dieci migliori, hai scelto con cura fra quei dieci e non hai mai visto i trenta che ha scartato. La classifica era la decisione.<\/p>\n\n\n\n

    Il test che riassume tutto: sai spiegare la scelta senza citare l\u2019AI?<\/strong> \u201cIl sistema l\u2019ha classificato in basso\u201d non \u00e8 una motivazione. Se la risposta \u00e8 \u201cha scelto cos\u00ec l\u2019AI\u201d, non \u00e8 una decisione, \u00e8 una delega.<\/p>\n\n\n\n

    Cosa aggiungerei io<\/strong><\/h1>\n\n\n\n

    Due cose, dal mestiere che faccio.<\/p>\n\n\n\n

    La segnalazione precoce \u00e8 il controllo con il miglior rapporto fra costo e resa, e le organizzazioni lo distruggono da sole.<\/strong> In quasi tutte le storie qui sopra, la differenza fra un problema e un disastro \u00e8 stata quanto tempo \u00e8 passato prima che qualcuno lo dicesse. La frode ai danni della multinazionale \u00e8 emersa perch\u00e9 il dipendente ha ricontattato la sede, e a quel punto i soldi erano partiti. Se nella tua azienda chi segnala di aver incollato la cosa sbagliata nello strumento sbagliato si prende una ramanzina, hai appena comprato mesi di silenzio al prezzo di cinque minuti di sfogo. Le chat si possono cancellare, gli account chiudere, i permessi revocare, le note disfare – ma solo se qualcuno lo dice e presto<\/strong>.<\/p>\n\n\n\n

    Quello che chieder\u00f2 se mi chiami.<\/strong> Vale la pena saperlo in anticipo, perch\u00e9 determina cosa \u00e8 ricostruibile: quale strumento, su quale account – personale o aziendale – e con quali permessi concessi e quando; cosa esattamente \u00e8 stato incollato o collegato; chi altro era sul link, sull\u2019invito o nella catena; e se l\u2019output \u00e8 gi\u00e0 uscito, dove. Non \u00e8 un interrogatorio, \u00e8 la differenza fra contenere in un\u2019ora e rincorrere per un mese. Chi tiene traccia di queste quattro cose mentre lavora si semplifica enormemente la vita.<\/p>\n\n\n\n

    Una riga sull\u2019etichettatura<\/strong><\/h1>\n\n\n\n

    Dell\u2019AI Act ho scritto a sufficienza nei pezzi precedenti, quindi qui tengo solo la parte che tocca chiunque pubblichi qualcosa.<\/p>\n\n\n\n

    Dal 2 agosto 2026 gli obblighi di trasparenza sono pienamente operativi e in pratica significa questo: se un contenuto generato o modificato artificialmente \u00e8 abbastanza realistico da essere scambiato per autentico e va al pubblico, va etichettato. La foto di un cliente reale con l\u2019espressione ritoccata, la voce sintetica di un dirigente in un video promozionale: s\u00ec. L\u2019illustrazione stilizzata su una slide: no, nessuno la scambia per reale.<\/p>\n\n\n\n

    Il testo funziona diversamente ed \u00e8 la parte pi\u00f9 utile da ricordare: la regola riguarda i testi pubblicati per informare il pubblico su questioni di interesse pubblico e c\u2019\u00e8 un\u2019esenzione che le immagini non hanno. Se il testo passa da una revisione umana vera e una persona se ne assume la responsabilit\u00e0 editoriale, l\u2019etichetta non serve.<\/strong> Stesso contenuto, stesso strumento: cambia solo se qualcuno lo possiede davvero.<\/p>\n\n\n\n

    Che poi \u00e8 il filo che tiene insieme tutto quello che hai letto fin qui.<\/p>\n\n\n\n

    Torna all\u2019inizio, alla videochiamata con venticinque milioni in ballo. Non si \u00e8 rotto niente. Il microfono funzionava, la rete funzionava, i sistemi dell\u2019azienda funzionavano. L\u2019unica cosa che poteva fermare quella frode era un dipendente che, avendo gi\u00e0 il sospetto giusto, scegliesse di verificarlo su un canale aperto da lui.<\/p>\n\n\n\n

    \u00c8 tutto qui il motivo per cui questa roba non si delega all\u2019informatica.<\/p>\n\n\n\n

    Articolo elaborato a partire dagli appunti del corso \u201cAI Security for Everyone\u201d di AISEC University<\/a> (docente: Dan Barahona). I casi citati sono stati verificati a ottobre 2026. Le note sul contesto normativo italiano, la sezione sulla segnalazione precoce e i raccordi con gli articoli precedenti sono miei.<\/em><\/p>\n\n\n\n

    Fonti:<\/em><\/p>\n\n\n\n