Bambini ‘datificati’ ancora prima di nascere

di Cinthia Caruso, Direttrice di Pediatria

Articolo pubblicato su Pediatria numero 4-5 – 2022, pag. 18-19

La principale differenza tra me e le mie figlie è che i miei colleghi, la mia compagnia assicurativa non sanno cosa ho mangiato da bambina, se mia madre fumava in casa o se mio nonno era di destra o di sinistra, né possono usare questi dati per giudicarmi. Per le mie figlie è diverso. I dati sul loro conto che vengono raccolti oggi, domani saranno probabilmente elaborati da molteplici sistemi di intelligenza artificiale e potranno influenzare le loro opportunità di vita in molti modi: quando cercheranno un impiego, o stipuleranno una polizza assicurativa o affitteranno una casa o accenderanno un mutuo”. Veronica Barassi, antropologa digitale, docente di Scienza della Comunicazione presso la Scuola di scienze umane e sociali dell’Università San Gallo, studia da anni le implicazioni sociali e politiche delle tecnologie dei dati e dell’intelligenza artificiale. Nel suo ultimo libro “I figli dell’algoritmo” (LUISS 2021) documenta, dati alla mano, che per la prima volta stiamo creando una generazione “datificata” già prima della nascita. Consapevolmente o meno, infatti, la stragrande maggioranza dei genitori condivide quotidianamente una spaventosa quantità di dati personali sui propri figli attraverso i social media, le ricerche su google, le app che monitorano la salute e la crescita di neonati e bambini, gli assistenti virtuali installati nelle nostre case, o ancora le app di tracciamento che consentono di sapere sempre dove si trovano i propri figli. Dati che vengono aggregati, scambiati, venduti e che in futuro potranno essere usati per prendere decisioni sulle loro vite. 

In che modo la pandemia ha influito su questo processo di datificazione descritto nel suo libro?

I processi che descrivo nel mio libro hanno iniziato ad emergere negli ultimi 20 anni, ma sono stati amplificati dalla pandemia che ci ha fatto vedere gli aspetti positivi delle tecnologie grazie alle quali abbiamo potuto continuare a lavorare, a far studiare i nostri figli, a rimpiazzare parti della nostra vita sociale. Allo stesso tempo abbiamo visto anche aspetti negativi e una rapida accelerazione dei processi di datificazione e monopolio dei Big Tech. Abbiamo visto ad esempio un’azienda come Google entrare nelle classi italiane con classroom. Un altro fenomeno che è stato accelerato con la pandemia è stata la datificazione dei sistemi sanitari: pensiamo per esempio all’America dove tutti i dati dei pazienti sono andati on-line, così come gli scambi tra dottori e pazienti, l’uso delle app per registrare malattie, gravidanze e vari aspetti della vita sanitaria.

A proposito delle app sulla gravidanza e sui neonati, secondo una ricerca del “British Medical Journal” su 24 app mHeath 19 hanno condiviso i dati degli utenti con terzi, i quali a loro volta li hanno condivisi con 216 “quarte parti”, tra cui società di pubblicità, e perfino un’agenzia di credito. Insomma esisterebbe un vero e proprio business di raccolta dati per creare profili digitali dei bambini prima della loro nascita. I genitori secondo lei sono consapevoli di tutto ciò? E come possono difendersi?

I genitori purtroppo non sono consapevoli di questi rischi. Tutta la nostra economia si basa sui dati, molte delle nostre leggi sulla privacy si basano sull’ idea del consenso e della trasparenza, senza però tenere conto del fatto che non solo le persone non leggono la policy sulla privacy, ma molte volte non hanno scelta perché il sistema attorno a loro è datificato. Io per prima non ho avuto scelta: quando è scoppiata la pandemia ho dovuto creare l’account Google per registrare mia figlia su classroom. L’altro aspetto di cui dobbiamo tenere conto è che molte di queste app sono legali, non violano alcuna legge cedendo dati ai terzi, è il loro “business model”. Il problema è che il linguaggio utilizzato per il consenso al trattamento dei dati è talmente complesso che io stessa, che da 5 anni studio i modelli per la privacy, mentre scrivevo un libro, scherzando, dicevo che mi sentivo stupida.

I genitori sono impotenti ma non del tutto, esistono per esempio fenomeni come lo “sharenting”, ossia la smania di mamme e papà di postare ogni momento della vita dei propri figli sui social. Cosa ne pensa?

La cosa che mi stupisce è che si parla molto dei genitori, spesso colpevolizzandoli, mentre poco si parla di quello che c’è dall’altra parte, per esempio del fatto che un’azienda americana abbia preso dai social network le facce di milioni di persone in tutto il mondo per creare un database di riconoscimento facciale che viene utilizzato dalla polizia e da altri agenti federali in un altro Paese. O del fatto che i dati che vengono processati dal social TikTok finiscano in Cina, o del fatto che sia YouTubeKids di Google che TikTok negli ultimi anni siano stati multati per avere violato le leggi sul COPPA e GDPR che proteggono i bambini. Tutto il dibattito pubblico si è incentrato su quello che fanno i genitori, ma è mancato un dibattito pubblico su quello che fanno le Big Tech, sugli scandali che documento nel mio libro e che sono ancora aperti

Nel suo libro si sofferma anche sull’interazione tra bambini e tecnologie domestiche che usano l’intelligenza artificiale, come gli assistenti virtuali. Quasi una famiglia su 2 in Italia è in possesso di assistenti virtuali come Alexa. I bambini che tipo di relazione creano con l’intelligenza artificiale? Quali sono gli aspetti positivi e quali i possibili effetti negativi?

Uno degli ambiti a cui sto lavorando in questo momento, con due ricercatrici australiane, è proprio volto a capire il problema dei valori culturali che l’intelligenza artificiale trasmette ai bambini e le implicazioni di tutto questo. Le faccio un esempio personale. Noi a casa non abbiamo Alexa, però la mia bambina di 8 anni un giorno tornando da casa di amici mi ha detto: “Mamma ho chiesto ad Alexa quanti anni dovessi avere per sposarmi e mi ha risposto 18, poi le ho chiesto a quanti anni si può avere un bambino e mi ha risposto 12”. Era estremamente confusa da questa cosa, allora ho dovuto spiegarle che è vero che tecnicamente, per via della pubertà, si potrebbe rimanere incinte anche a 12 anni, ma che non è giusto. Mi sono trovata a parlare di concetti importanti che non avrei voluto affrontare in quel momento e in quel modo. L’intelligenza artificiale nella nostra società ha moltissime forme: gli algoritmi dei social network, i sistemi di riconoscimento facciale, i sistemi di analisi predittiva che vengono utilizzati per determinare il corso di una malattia. Però molto spesso si sente parlare di intelligenza artificiale come di una tecnologia unica, in grado di replicare la nostra intelligenza, una tecnologia che è in grado di salvarci o di sfidarci. Ma, al momento, questo è un solo sogno, l’intelligenza artificiale di cui oggi disponiamo è molto lontana dalle immagini che abbiamo visto nei film di Hollywood. C’è però un problema e si ripercuote moltissimo sui bambini ed è il fatto che noi investiamo in queste tecnologie grandissime aspettative. Joseph Weizenbaum, l’ideatore di Eliza, primo vero chatbot mai creato nel 1967, era sconvolto per il fatto che la sua assistente si fosse messa ad avere una conversazione personale con il computer, pur sapendo che il programma che avevano creato non era ‘intelligente’ ma ripeteva quello che gli veniva detto. Weizenbaum ha scritto un libro che si chiama “Il potere del computer e la ragione umana”, per spiegare il potere che esercita il computer e specialmente l’intelligenza artificiale sulle nostre menti. Lui è stato uno dei primi a dire che l’intelligenza artificiale deve essere etica. I bambini sono molto più esposti a tutto questo. Quando interagiscono con queste macchine, a differenza degli adulti, ci mettono tanta immaginazione, perché i bambini lavorano in maniera diversa da noi e quindi questo antropoformismo, che può essere bello in tanti casi, in altri casi è un rischio perché sono esposti a una serie di concetti senza contestualizzazioni.

Se in una società datificata i genitori sono impotenti, cosa possono fare le istituzioni?

Ci sono due modi in cui le istituzioni possono intervenire. Il primo è quello di promuovere l’educazione, c’è bisogno di maggiore consapevolezza da parte di chi usa questi sistemi, dai medici agli insegnanti. L’altro aspetto è provare a pensare a delle alternative, affidandosi a tecnologie più rispettose della privacy e non necessariamente ai modelli delle Big Tech. Certo queste hanno il vantaggio enorme di avere tecnologie molto sofisticate e di essere gratuite e quindi a volte rappresentano la soluzione più semplice, però dobbiamo essere anche responsabili, per questo la sensibilizzazione e l’educazione sociale sono importantissime

Quale ruolo per i pediatri?

I pediatri e insegnanti sono il filtro tra le istituzioni e le famiglie. Molto lavoro è stato fatto dalla Pediatria sui rischi della eccessiva quantità di esposizione agli schermi, un lavoro importantissimo, ma molto deve essere fatto per informare maggiormente le famiglie sui rischi di alcune app per la salute. Per questo è necessario che per primi i pediatri siano formati ed educati