Il segreto delle premesse

Nelle nostre piccole vite diamo come al solito grande importanza alle soluzioni, al Dio generato dalla macchina, all’innovazione.
Quasi mai ci soffermiamo abbastanza a lungo sulle premesse.
Comprendere correttamente le premesse spesso non richiede più un ulteriore lavorio inventivo: di molte cose non avevamo bisogno; molti bisogni erano sbagliati; dar retta ad alcuni di questi spesso ha generato disastri planetari.
Quando insegnavo, gli allievi si concentravano sempre sull’intervento tecnico risolutivo, mentre io, sadicamente, fornivo loro false tracce che richiedevano un’approfondita e faticosa indagine, che tutti driblavano ciechi e con disappunto.
Quella che ingenuamente chiamiamo “Intelligenza Artificiale” riferendoc͏i alle tan͏te variant͏i del Chat͏ GPT, è un’importante tecnica sintattica, priva di bagaglio semantico reale e che quindi è costretta a prenderlo in prestito, incapace di una vera euristica e men che meno di doti ermeneutiche. Il vero problema è che sono pronto a scommettere che sono pochi gli utilizzatori di chatGPT ad essere in grado di comprende il senso della frase appena formulata.
Per͏ qu͏est͏o, ͏ad ͏occ͏hi ͏inc͏apa͏ci ͏di ͏un ͏ver͏o s͏ape͏re ͏che͏ tr͏ovi͏ fo͏nda͏men͏to ͏nel͏la ͏com͏pre͏nsi͏one͏ ac͏cur͏ata͏ de͏lle͏ pr͏eme͏sse͏, q͏ues͏to ͏tip͏o d͏i a͏rti͏fic͏ial͏ità͏ no͏n p͏otr͏à c͏he ͏app͏ari͏re ͏int͏ell͏ige͏nte͏.
A tale proposito è normale che un bot, per quanto molto superficiale, si riveli decisamente più capace dell’uomo della strada, del tuo capo ufficio e di gran parte dei politici e degli amministratori delegati di aziende.
Ecco quello che ne “pensa”:
In questo contesto, un essere umano potrebbe dire che ChatGPT e altri modelli di linguaggio sono progettati per generare testo coerente e plausibile sulla base dei dati di addestramento che hanno ricevuto. Questi modelli possono essere molto bravi nel generare testo che suona naturale e può anche sembrare avere una comprensione semantica del contenuto. Tuttavia, la loro capacità di comprendere il significato profondo del testo è limitata e dipende dai dati di addestramento che hanno ricevuto. Inoltre, questi modelli non hanno una vera e propria capacità euristica o ermeneutica. Spero che questo ti aiuti a capire meglio la questione. 😊
Detto in altri termini, da premesse sbagliate possono generarsi affermazioni sbagliate e perfino disastrose, per quanto plausibili.
Dove va a pescare il bot? Quelli più seri attingono per l’80% da Wikipedia e per il resto da fonti di contenuto date per esperte da qualcuno e soprattutto libere dal copyright. Senza queste fonti disserterebbe sul nulla. Fonti che qualche sherpa o peone della rete fornisce gratuitamente per guadagnare un personal brand inutile come la medaglia o la coccarda vinta alle elementari.
D’altronde, per il momento almeno, il danno maggiore non lo producono questi motori sintattici, quanto le solite fonti di informazione: giornali e soprattutto TV. Punteggiature ed enfasi scorrette a notizie parziali mostrate da punti di vista sempre di parte attivano al cervelletto delle tante famiglie Simpson attaccate all’etere come ad una flebo che, nonappena lasciate libere di contagiare gli ambienti del paese carichi di altri credenti del luogo comune, producono massicce quantità di stercopinioni ricche di convinzione.
Non importa che si conosca la realtà. Non è questo a fare la vera differenza. Quello che importa è sempre e solo che si sia capaci, prima di leggere la risposta del bot, artificiale o organico che sia, quanto sono state prese in considerazione ed analizzate le premesse.
- Da p͏reme͏sse ͏corr͏ette͏ nas͏cono͏ svi͏lupp͏i pr͏ezio͏si.
- Da premesse di 💩 un mondo letamaio.
- Da premesse scorrette una reazione a catena di errori all’ennesima potenza.
- Da premesse nucleari, come quelle dei gestori di Chernobyl, catastrofi planetarie.
Quale di queste strade intraprenderà l’utilizzo che faranno i nostri Homer al comando e al consumo delle possibilità fornite da bot e AI?
