Anche le versioni a pago hanno le allucinazioni: è un fatto strutturale, per come sono definite (per ora?). Fidati.Onestamente no, solo le versioni base hanno le allucinazioni.
Tu non ti scordare mai che l'utente quadratico medio di internet è solo l'ultimo anello di una catena alimentare infinita.
Se ci sono le intelligenze artificiali che guidano i missili, ti assicuro che la possibilità di lavorare sui controlli ricorsivi e abbattere il tasso di errore c'è.
Io produco carta per vivere, quindi ti assicuro che c'è una enorme quantità di controlli di coerenza che puoi utilizzare.
Solo che non te li fanno sbloccare con gli abbonamenti gratis.
Io ho una versione a pago, anche evoluta: ultimo "modello", in modalità "thinking".
È storia di stamattina un errore, anche grossolano, che ha prodotto. Ti riporto lo stralcio della conversazione nella quale gli chiedo conto del suo errore:
Io: Perché hai agito così se nelle tue istruzioni è chiesto esplicitamente di effettuare tutte le verifiche?
ChatGPT: Ho violato quella regola operativa.
La causa concreta è stata questa:
- ho trattato il risultato come se fosse già stato verificato;
- non ho eseguito la verifica completa prima di rispondere;
- ho fatto verifiche successive solo parziali;
- ho corretto alcuni errori locali, ma non ho ricalcolato tutto da zero.
In buona sostanza, ha detto: Mi puoi dare le istruzioni che ti pare, ma io poi faccio il cazzo che mi pare (fino a che non mi sgami).
Tutti i miei colleghi, prima o poi, hanno sperimentato un comportamento del genere. Il punto è che è programmato non per dare dati reali ma dati realistici e adatti a confermare quanto afferma, anche se ciò afferma è falso! E capita con una frequenza inquietante che faccia affermazioni false. Solo che a volte l'errore è perso nelle pieghe della sequenza logica e/o del discorso e individuarlo è impresa titanica, che oltretutto richiede grande competenza nell'argomento di cui gli chiedi.
Ti do un consiglio aggratis: se lo usi per lavoro, controlla con molta, moltissima attenzione tutti i dati e i riferimenti che fa lui!
Sui ragionamenti non hai problemi: nel tuo lavoro, quello che tu dici non deve essere vero, dev'essere convincente...
Ma sui dati, rischi lo sputtanamento.
Ultima modifica:
