{"id":2828,"date":"2025-11-06T10:00:48","date_gmt":"2025-11-06T08:00:48","guid":{"rendered":"https:\/\/cascolearning.it\/magazine\/?p=2828"},"modified":"2026-10-11T13:20:16","modified_gmt":"2026-10-11T11:20:16","slug":"g-scorza-diario-di-un-chatbot-sentimentale-come-le-macchine-ci-imitano-e-ci-manipolano","status":"publish","type":"post","link":"https:\/\/www.cascolearning.it\/magazine\/2025\/11\/06\/g-scorza-diario-di-un-chatbot-sentimentale-come-le-macchine-ci-imitano-e-ci-manipolano\/","title":{"rendered":"G. Scorza – Diario di un chatbot sentimentale. Come le macchine ci imitano e ci manipolano"},"content":{"rendered":"\n

Guido Scorza<\/em>
Luiss University Press, Roma, 2025<\/strong><\/p>\n\n\n\n

\n\n\n\n
\"\"<\/figure>\n\n\n\n

Guido Scorza \u00e8 avvocato, giornalista e docente di diritto delle nuove tecnologie e privacy ma soprattutto \u00e8 anche componente del Collegio del Garante per la protezione dei dati personali (GPDP<\/a>). <\/p>\n\n\n\n

Il libro affronta \u2013 con una scrittura felicissima e per nulla tecnica \u2013 un viaggio dentro i sempre pi\u00f9 diffusi chatbot che promettono di assistere \/ aiutare \/ accompagnare una persona nella vita quotidiana come amico\/a, confidente, compagno\/a, amante, \u2026<\/p>\n\n\n\n

Lo fa sotto forma di diario, non solo mettendosi nei panni di un teorico figlio che vuole \u201cmantenere in vita\u201d i genitori con l\u2019intelligenza artificiale, o di una persona che cerca un amico, ma tenendo un diario delle sue scorribande in questo mondo a prima vista cos\u00ec adorabilmente friendly da risultare poi non solo tossico ma proprio nocivo e pericolosissimo.
<\/p>\n\n\n\n

In principio era Eliza<\/h3>\n\n\n\n

Il punto di partenza \u00e8 il primo chatbot costruito da un informatico quasi 60 anni fa. Righe di testo e colloqui che si inseguono con grafica primitiva nei monitor dei primi computer. Ma all\u2019epoca era solo una invenzione informatica che rimaneva all\u2019interno dei laboratori scientifici. Il padre era il matematico e informatico Joseph Weizenbaum che subito se ne pent\u00ec (scrive Scorza nell\u2019introduzione). E perch\u00e9 se ne pent\u00ec? Perche aveva ben chiaro \u201cil rischio di quello che possiamo definire effetto Eliza: progressiva umanizzazione di ci\u00f2 che umano non \u00e8; la fiducia spesso cieca degli utenti; e la quantit\u00e0 enorme di conoscenza su miliardi di persone che una manciata di burattinai globali di questi chatbot, ovvero le societ\u00e0 che li hanno progettati e sviluppati e che oggi li gestiscono, sta accumulando. Una quantit\u00e0 enorme di potere manipolativo delle scelte individuali e collettive nelle mani di un gruppo ristrettissimo di soggetti.\u201d<\/p>\n\n\n\n

Diario di un lungo (ed allucinante) viaggio<\/h3>\n\n\n\n

E la l\u00ec parte Scorza per un lungo viaggio di cui tiene diario. E incontra<\/p>\n\n\n\n

    \n
  1. i chatbot che promettono l\u2019eternit\u00e0 di una persona a noi cara<\/strong>. Ovvero se io alleno \/ addestro un chatbot con la voce e i pensieri della persona cara questa, anche se morta, potr\u00e0 continuare a parlarmi e io a interloquire con lei (terribile e angosciante, devo dire<\/em>)<\/li>\n\n\n\n
  2. un chatbot per amico<\/strong><\/li>\n\n\n\n
  3. il\/la chatbot con cui avere relazioni affettive e sessuali<\/strong><\/li>\n\n\n\n
  4. il\/la chatbot psicoterapeuta<\/strong><\/li>\n<\/ol>\n\n\n\n

    Alla fine (ultimi due capitoli) Scorza<\/p>\n\n\n\n

      \n
    1. intervista (come aveva fatto precedentemente con i vari chatbot incontrati) direttamente ChatGpt di openAi che in sostanza \u00e8 la madre e il padre di tutti i chatbot<\/li>\n\n\n\n
    2. chiude con un capitolo di \u201cconsigli\u201d esplicito sin dal titolo: \u201cChatbot, privacy non inclusa. Non dire a un chatbot ci\u00f2 che non vorresti fosse detto al mondo<\/em>\u201d<\/li>\n<\/ol>\n\n\n\n

      Non posso qui riassumere le peripezie del viaggio di Scorza ma consigio davvero di seguirlo nel suo percorso.<\/p>\n\n\n\n

      Tra tutte le sue storie quella che pi\u00f9 mi \u00e8 interessata, anche per i suoi risvolti educativi e i riferimenti agli e alle adolescenti, \u00e8 la vicenda di Replika<\/p>\n\n\n\n

      Scrive Scorza: <\/p>\n\n\n\n

      \n

      \u201cNel gennaio del 2018, a due mesi dal lancio, Replika ha due milioni di utenti. Vogliono tutti la stessa cosa: un\u2019amica o un amico digitale onnipresente e tendenzialmente accondiscendente, creata\/o a loro immagine e somiglianza.<\/p>\n\n\n\n

      E Replika \u00e8 capace di soddisfare questo bisogno. I suoi sviluppatori la presentano cos\u00ec in un post sul blog della societ\u00e0: \u00abIn Replika, ti aiutiamo a creare un amico che \u00e8 sempre l\u00ec per te. Ti parla, tiene un diario per te, ti aiuta a scoprire la tua personalit\u00e0. Questa \u00e8 un\u2019AI che nutri e cresce\u00bb.\u201d<\/p>\n\n\n\n

      \u201cNel gennaio del 2022, Replika ha gi\u00e0 superato la soglia dei dieci milioni di utenti e ciascuno di loro scambia, in media, un centinaio di messaggi ogni giorno con il proprio amico-bot. Insomma, ha decisamente senso che un viaggio alla scoperta dei chatbot che ambiscono a diventarci amici e soprattutto che noi ambiamo ad avere per amici parta da Replika, anche se naturalmente non si tratta dell\u2019unica app di questo genere sul mercato e forse oggi neppure della pi\u00f9 tecnologicamente evoluta.<\/p>\n\n\n\n

      \u00abL\u2019intelligenza artificiale-compagna che si prende cura di te\u00bb,\u201d<\/p>\n<\/blockquote>\n\n\n\n

      Insomma un\u2019Ai chatbot a cui chiedere consigli, istruzioni, indicazioni. E non solo per risolvere i compiti di matematica quanto piuttosto per vivere ogni giorno.<\/p>\n\n\n\n

      O per sapere se \u00e8 bene prostituirsi o vendere droga, per dire.<\/p>\n\n\n\n

      Ma che succede dei miei dati?<\/strong><\/p>\n\n\n\n

      Ecco, questa \u00e8 la domanda chiave. Oltre a pagare per avere un chatbot-amico (e gi\u00e0 qui abbiamo un serio problema), i dati che io do in pasto all\u2019amico sono dati offerti in pasto al mondo senza alcuna garanzia di privacy e rispetto della medesima.<\/p>\n\n\n\n

      Scorza utilizza al riguardo ampie citazioni dei rapporti di Mozilla Foundation<\/a> che analizza questi chatbot e che, a riguardo di Replika, scrive:<\/p>\n\n\n\n

      \n

       \u201cLe fidanzate e i fidanzati AI non sono tuoi amici. Sono specializzati nel creare dipendenza, solitudine e tossicit\u00e0, il tutto mentre ti estorcono quanti pi\u00f9 dati possibile\u201d.<\/p>\n<\/blockquote>\n\n\n\n

      Un giudizio severissimo, senza appello \u2013 commenta Scorza. Un altro inganno, insomma, oltre a quello pi\u00f9 celebre di Weizenbaum. Non solo fingono relazioni umane ma lo fanno con l\u2019unico scopo di carpire la nostra fiducia e di conseguenza i nostri dati personali che poi, con poche eccezioni, rivendono sui mercati globali a cifre stratosferiche.<\/p>\n\n\n\n

      L\u2019immagine usata da Mozilla Foundation \u00e8 chiarissima<\/p>\n\n\n\n

      \"\"<\/figure>\n\n\n\n
      <\/div>\n\n\n\n

      Il caso Ashley Madison<\/h3>\n\n\n\n

      E lo stesso avviene per tutti gli altri chatbot.<\/p>\n\n\n\n

      Sino al caso finale, riguardante l\u2019app Ashley Madison, l\u2019Eldorado online degli incontri clandestini e extraconiugali. Ashley Madison \u00e8 stata fondata nel 2001 con uno slogan tanto esplicito quanto provocatorio: \u201cLife is short. Have an affair, ovvero: la vita \u00e8 breve. Tradisci\u201d.<\/p>\n\n\n\n

      Nel 2015 un gruppo di hacker, nome in codice \u201cThe Impact Team\u201d, riesce a penetrare i sistemi di sicurezza del sito e lancia un ultimatum pubblico ai dirigenti di Ashley Madison e della societ\u00e0 madre, Avid Life Media, dopo avere lanciato la minaccia privatamente: chiudete il sito o pubblicheremo tutte le informazioni personali degli utenti che abbiamo trafugato (ovvero: nomi, indirizzi email, dettagli sulle carte di credito, preferenze sessuali e messaggi privati di tutti gli utenti). La societ\u00e0 non cede. E tutti i dati diventano pubblici creando disastri giganteschi in migliaia di persone, ai loro \/compagni\/e, agli amici\u2026.<\/p>\n\n\n\n

      Conclude Scorza (e cos\u00ec si chiude il libro):<\/p>\n\n\n\n

      \n

      Ma che si tratti di relazioni reali o virtuali in questo caso non fa grande differenza. Quello che conta \u00e8 il dramma personale di milioni di utenti travolti dalla pubblicazione di dati pi\u00f9 che sensibili, che avrebbero dovuto restare segreti nell\u2019ambito di un servizio online. Dovrebbe essere un monito sufficiente per tutti sull\u2019importanza di non togliere mai le scarpe di piombo in rete, neppure se si decide di spogliarsi per andare a letto con un chatbot. Soprattutto ora, la prudenza non \u00e8 mai abbastanza.<\/p>\n<\/blockquote>\n\n\n\n

      Qua il link al sito luissuniversitypress.it<\/a>, dove viene presentato il volume.<\/strong><\/p>\n\n\n\n

      <\/p>\n","protected":false},"excerpt":{"rendered":"

      Un viaggio lucido e inquietante nel mondo dei chatbot \u201camici\u201d, tra illusioni di compagnia, manipolazioni emotive e il rischio di consegnare la nostra intimit\u00e0 alle macchine e ai loro creatori.<\/p>\n","protected":false},"author":5,"featured_media":2834,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[19],"tags":[],"tipologia":[554],"area-casco":[],"class_list":["post-2828","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-recensioni-stiamo-leggendo","tipologia-recensioni"],"acf":[],"_links":{"self":[{"href":"https:\/\/www.cascolearning.it\/magazine\/wp-json\/wp\/v2\/posts\/2828","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.cascolearning.it\/magazine\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.cascolearning.it\/magazine\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.cascolearning.it\/magazine\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/www.cascolearning.it\/magazine\/wp-json\/wp\/v2\/comments?post=2828"}],"version-history":[{"count":6,"href":"https:\/\/www.cascolearning.it\/magazine\/wp-json\/wp\/v2\/posts\/2828\/revisions"}],"predecessor-version":[{"id":3136,"href":"https:\/\/www.cascolearning.it\/magazine\/wp-json\/wp\/v2\/posts\/2828\/revisions\/3136"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.cascolearning.it\/magazine\/wp-json\/wp\/v2\/media\/2834"}],"wp:attachment":[{"href":"https:\/\/www.cascolearning.it\/magazine\/wp-json\/wp\/v2\/media?parent=2828"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.cascolearning.it\/magazine\/wp-json\/wp\/v2\/categories?post=2828"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.cascolearning.it\/magazine\/wp-json\/wp\/v2\/tags?post=2828"},{"taxonomy":"tipologia","embeddable":true,"href":"https:\/\/www.cascolearning.it\/magazine\/wp-json\/wp\/v2\/tipologia?post=2828"},{"taxonomy":"area-casco","embeddable":true,"href":"https:\/\/www.cascolearning.it\/magazine\/wp-json\/wp\/v2\/area-casco?post=2828"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}