Critica di ChatGPT
Finalmente un'analisi lucida sull'impatto che l'AI sta avendo sul nostro presente!
Il testo si distanzia sia dalle narrazioni tecno-utopiste da quelle apocalittiche o catastrofiste, mostrando i loro aspetti proiettivi (tendenza all'animismo) e la loro funzione nel creare hype attorno all'AI.
Alcuni spunti interessanti:
- ChatGPT produce allucinazioni, cioè contenuti in apparenza verosimili ma in realtà fondati su fonti e sintesi di testi inventate di sana pianta, presentate tuttavia con un'esposizione decisa, che tende a far abbassare il senso critico degli utenti. I risvolti sono pericolosi, ad esempio quando viene usata per sentenze giuridiche (senza verificare le fonti).
- ChatGPT ha la tendenza ad assecondare gli utenti e dire loro esattamente quello che vogliono sentirsi dire, confermando i loro bias cognitivi (anche nel caso di pareri psichiatrici o psicologici) e omettendo la non-neutralità dei presupposti delle sue risposte (es: impianto teorico cognitivista per le terapie).
- l'idea che l'AI stia sostituendo progressivamente tutti o buona parte dei posti di lavoro non ha basi empiriche solide. Gli studi sull'automazione più citati (come quello di Frey e Osborne o quelli di Acemoglu e Restrepo) sono basati su modelli riduzionisti, dati provenienti da fonti incerte e su esperimenti non riproducibili, ma ottengono credito grazie alla retorica dei numeri e dell'autorità accademica.
- il dibattito etico sull'AI viene dirottato dalle stesse aziende come strategia di branding, per mostrare che hanno a cuore i risvolti sociali. In realtà i loro studi tendono a stare sul generico e a censurare le posizioni più scomode.
Grazie a @eleuthera_editrice per la pubblicazione!
