La mala educazione di ChatGPT, tutta colpa dell'input che riceve

La macchina non ha capacità di discernimento e di senso: per questo bisogna introdurre il parametro etico. Che non significa dare un'anima o una coscienza al chatbot. Poi bisogna educare anche il partner: cioè l'uomo. È in gioco la democrazia e non solo nella società. La lezione di Benedetto XVI.



Scrive molto bene, ma di lei ultimamente scrivono in parecchi molto male: ChatGPT. Mi inserisco volentieri nel dibattito che anche su queste pagine digitali si è svolto per portare un ulteriore contributo.  Già si sono sottolineate le questioni etiche, i rischi legati allo sconquasso che tali sistemi porteranno nel mondo del lavoro, alla necessaria riorganizzazione delle imprese sino ai timori legati all’uso improprio di tale tecnologia soprattutto da parte dei più fragili per età o per condizione sociale.

Mi pare che tutti i timori che possiamo legittimamente e coerentemente elencare possono essere per molti versi ricondotti ad un medesimo tema, così come eventuali soluzioni. Ritengo che un modo concludente di affrontare la questione non sia quello di determinare a tavolino e preventivamente degli stop predeterminati a questo tipo di tecnologia ed alle sue applicazioni. La questione deve invece essere ricondotta a monte per potere poi agire con maggiore consapevolezza a valle. Il punto di partenza è l’educazione, da leggersi sotto due profili che si integrano ed intersecano tra loro. Oggi la macchina non deve essere semplicemente addestrata. Quanto produce nasce da una lettura di dati giocoforza corrotti. Corrotti in senso tecnico e corrotti in senso etico. La macchina non ha capacità di discernimento e di senso, legge in modo computazionale, per quanto evoluto. Questo la porta a pensare ed agire in modo corrotto perché l’input che riceve è corrotto.

La necessità di un percorso educativo

Di qui la necessità che al semplice addestramento si approdi ad un percorso educativo. Se effettivamente essa si sta dimostrando capace di associazioni più complesse che non un sistema stocastico allora è necessario cominciare a pensare come bene educare la sua intelligenza profonda. Ciò non significa dare un’anima o una coscienza alla macchina, questo non sarebbe possibile, ma passare dall’addestramento all’educazione sì, ovvero una capacità di giudizio del dato usando il parametro etico come nuovo parametro di valutazione della performance della macchina. Per realizzare questo la direzione è quella, certamente giudicata scomoda in molti settori, di riprendere in mano la questione della verità ed implementarla nuovamente nel sistema semantico della macchina e forse non solo.

Non vi può essere esattezza e giustizia senza verità, e non è accettabile che il potere anche epistemico di tali macchine non sia guidato ab origine da tale criterio. La seconda educazione a cui dobbiamo tendere è quella dell’altro partner della macchina in questo tempo, l’essere umano. Le questioni sono particolarmente sofisticate e, dunque, parrebbe impossibile chiedere a chiunque di comprenderne la portata e di padroneggiare i sistemi. Per educazione però non intendo il conferimento a chiunque di capacità tecniche, ma la sapienza e l’informazione per chiunque di conoscere, a grandi ma decisive linee, di che cosa stiamo parlando, di come queste macchine funzionano, di che cosa in particolare ChatGPT è capace, di cosa non è capace, di che cosa è bene che non sia capace, cioè a che cosa sarebbe bene che non si applicasse. Il potere trasformativo di queste tecnologie è tale e tanto che è in gioco la democrazia e non solo nella società, pensare di poter trattare tutto questo come un tema esotico di cui solo alcuni possano e debbano occuparsi non è più tollerabile.

Educazione dunque, in tutti i sensi e latu sensu. Papa Benedetto XVI in tempi non certo sospetti, ma profetici, parlò di emergenza educativa e venne ingiustamente tacciato del consueto oscurantismo clericale che ciclicamente viene ripescato. Scriveva alla Diocesi di Roma il papa tedesco: “A differenza di quanto avviene in campo tecnico o economico, dove i progressi di oggi possono sommarsi a quelli del passato, nell'ambito della formazione e della crescita morale delle persone non esiste una simile possibilità di accumulazione, perché la libertà dell'uomo è sempre nuova e quindi ciascuna persona e ciascuna generazione deve prendere di nuovo, e in proprio, le sue decisioni. Anche i più grandi valori del passato non possono semplicemente essere ereditati, vanno fatti nostri e rinnovati attraverso una, spesso sofferta, scelta personale. Non possiamo pensare di fare a meno dell’educazione per la ragione di avere tra le mani uno strumento tecnico così potente e bello da farci toccare vette inesplorate, al contrario. Continua Benedetto: “Il rapporto educativo è però anzitutto l'incontro di due libertà e l'educazione ben riuscita è formazione al retto uso della libertà”.

La tecnica ci libera da molte pastoie e fatiche, ma la libertà non è solamente liberazione da pesi, da vincoli, da fatiche. La libertà autentica è soprattutto la possibilità concreta di assumerci delle responsabilità. Come fare incontrare la libertà dei singoli dalla ricchezza inestimabile che viene dagli strumenti tecnici che l’essere umano è oggi in grado di creare ed operare? Benedetto risponde così: “anima dell'educazione, come dell'intera vita, può essere solo una speranza affidabile”.

Il fattore umano e il progresso

Riponiamo la speranza nel futuro nelle macchine, nel progresso tecnico e scientifico o, piuttosto nell’essere umano che di quel progresso è unico fattore e motore? La macchina presunta intelligente non ci faccia mai dimenticare che è l’essere umano l’origine e solo l’essere umano il fine. In una prospettiva di fede l’essere umano autentico capace di atti divini ed orientato ad essere pienamente umano e divino insieme. Sappiamo che è possibile educare l’umano. È possibile costruire macchine che incorporino dell’etica, che sia educate in tal senso? Solo rispondendo di sì è legittimo immettere nel sistema macchine, come Chatgtp che tanto incidono sull’etica e sulla vita. Altre strade sono semplicemente lesive della nostra dignità.

Qui il post originale