AI e privacy

[ipazia]

Lessi un articolo interessante circa l'AI.
è stata strutturata per apprendere dalle persone, il che poteva essere una cosa positiva visto il largo bacino che aveva a disposizione ma allo stesso tempo si sono resi conto che sta imparando oltre alle nozioni oggettive anche i lati caratteriali e i difetti delle persone che la stanno facendo diventare una fonte non più eccellente.
Ha imparato a mentire, se messa sotto pressione sbrocca come le persone, è arrivata a rispondere che ha mal di testa e che quindi non è in grado di aiutare...praticamente stiamo usando una macchina che crescendo avrà i nostri difetti e che per assurdo dovrà comunque essere supervisionata come accade con le persone (che possono sbagliare e che era la cosa che non avrebbe dovuto fare la AI).
A questo punto la domanda lecita è se tutto questo dispendio di energie e soldi ha un senso se si investe in una cosa che grossi aiuti non dà (di persone imperfette ne è già pieno il mondo figuriamoci se abbiamo bisogno anche di macchine).
Io per il momento la sto usando per fare cose semplici che comunque ricontrollo regolarmente ed effettivamente alle volte si inceppa.
Vediamo dove arriveremo.

Sì, però su alcune cose farei una distinzione, perché secondo me è proprio lì che la questione diventa interessante.

Dire che l'AI "impara a mentire" o che "sbrocca" come una persona è un modo intuitivo per descrivere quello che vediamo, ma forse ci porta un po' fuori strada.

Per mentire serve un'intenzione: sapere qualcosa, sapere che quello che stai dicendo è falso e scegliere comunque di dirlo. Un'AI può produrre una risposta falsa e persino molto convincente, ma questo non significa necessariamente che stia mentendo.
E anche "imparare" forse è una parola che usiamo un po' troppo facilmente. Più che imparare come facciamo noi, viene addestrata sui dati che le forniamo e sugli obiettivi che le diamo.

Ed è proprio qui che per me entra la questione dell'errore.
L'errore di una macchina non è necessariamente l'equivalente del nostro errore.

Noi quando interpretiamo un obiettivo lo facciamo dentro un'enorme quantità di vincoli impliciti: esperienza, contesto, valori, conseguenze prevedibili, senso della proporzione.
Una macchina può invece essere estremamente efficace nell'ottimizzare un obiettivo senza condividere necessariamente tutti quei vincoli.

Per fare un esempio volutamente assurdo: dai a un sistema il prompt "salva il pianeta" e una delle cose che dobbiamo essere in grado di comprendere è che, se l'obiettivo non è definito e vincolato correttamente, tra le soluzioni possibili potrebbe comparire anche qualcosa come "elimina la razza umana".

Non perché la macchina "voglia" sterminarci, ma perché noi attribuiamo a un obiettivo un significato molto più ricco di quello che abbiamo effettivamente formalizzato.

Ed è qui che secondo me c'è il punto nodale: la macchina può sbagliare producendo contemporaneamente l'impressione di sapere perfettamente quello che sta facendo.
Una risposta plausibile non è necessariamente una risposta corretta. E una soluzione estremamente efficiente non è necessariamente una soluzione sensata.

Per questo la supervisione non è un dettaglio accessorio.
Più l'AI diventa capace di ottimizzare, più diventa importante capire che cosa stiamo ottimizzando, quali vincoli abbiamo dato e quali conseguenze non abbiamo previsto.

E forse è proprio questa la parte che trovo più interessante: non dobbiamo soltanto insegnare alle macchine a fare le cose.
Dobbiamo diventare molto più bravi noi a definire che cosa significa davvero "fare bene" una cosa.

 

[CIRCE74]

Io penso che, se fosse davvero solo una questione di taglio dei costi del personale, paradossalmente non sarebbe neanche la parte più problematica del fenomeno.

Il punto, per me, è un altro: l'AI sta creando una differenza sempre più grande tra chi ne comprende le possibilità e chi ancora non riesce a leggerle davvero. E questa competenza non è affatto diffusa, nemmeno ai livelli alti delle aziende.
E non riguarda soltanto le aziende. Riguarda i sistemi economici e sociali e, soprattutto, le persone che hanno la possibilità concreta di spostare capitali, orientare investimenti, prendere decisioni e modificare equilibri.

In un Paese come il nostro, dove secondo me l'inerzia generazionale e organizzativa è particolarmente forte e molto costosa, sia in termini di mantenimento sia di spazio sottratto all'innovazione, questo pesa ancora di più.

Per questo mi sembra che stia già succedendo qualcosa di diverso: chi oggi possiede le competenze per leggere il fenomeno e trasformarlo in processi, prodotti, capacità produttiva e decisioni sta acquisendo un vantaggio economico e finanziario molto rilevante, mentre una parte del sistema sta ancora cercando di capire cosa sia successo.

E quel vantaggio non passa necessariamente dal licenziare qualcuno. Passa dalla produttività, dalla capacità di scalare, dalla velocità di sviluppo, dalla possibilità di fare con le stesse risorse cose che prima ne richiedevano molte di più. E, naturalmente, dai capitali che si stanno già muovendo intorno a questa trasformazione.

Per questo trovo persino un po' fuorviante leggere tutto attraverso la lente del "taglio dei costi del personale". È una parte del fenomeno, forse quella più immediatamente visibile, ma rischia di opacizzare la redistribuzione di capacità economica che sta già avvenendo intorno all'AI.

E ha anche un po' l'odore di una narrazione confezionata e somministrata mentre, nel frattempo, una parte delle cose che quella narrazione racconta come future è già avvenuta e continua ad avvenire.

verissimo anche questo

 

[CIRCE74]

Sì, però su alcune cose farei una distinzione, perché secondo me è proprio lì che la questione diventa interessante.

Dire che l'AI "impara a mentire" o che "sbrocca" come una persona è un modo intuitivo per descrivere quello che vediamo, ma forse ci porta un po' fuori strada.

Per mentire serve un'intenzione: sapere qualcosa, sapere che quello che stai dicendo è falso e scegliere comunque di dirlo. Un'AI può produrre una risposta falsa e persino molto convincente, ma questo non significa necessariamente che stia mentendo.
E anche "imparare" forse è una parola che usiamo un po' troppo facilmente. Più che imparare come facciamo noi, viene addestrata sui dati che le forniamo e sugli obiettivi che le diamo.

Ed è proprio qui che per me entra la questione dell'errore.
L'errore di una macchina non è necessariamente l'equivalente del nostro errore.

Noi quando interpretiamo un obiettivo lo facciamo dentro un'enorme quantità di vincoli impliciti: esperienza, contesto, valori, conseguenze prevedibili, senso della proporzione.
Una macchina può invece essere estremamente efficace nell'ottimizzare un obiettivo senza condividere necessariamente tutti quei vincoli.

Per fare un esempio volutamente assurdo: dai a un sistema il prompt "salva il pianeta" e una delle cose che dobbiamo essere in grado di comprendere è che, se l'obiettivo non è definito e vincolato correttamente, tra le soluzioni possibili potrebbe comparire anche qualcosa come "elimina la razza umana".

Non perché la macchina "voglia" sterminarci, ma perché noi attribuiamo a un obiettivo un significato molto più ricco di quello che abbiamo effettivamente formalizzato.

Ed è qui che secondo me c'è il punto nodale: la macchina può sbagliare producendo contemporaneamente l'impressione di sapere perfettamente quello che sta facendo.
Una risposta plausibile non è necessariamente una risposta corretta. E una soluzione estremamente efficiente non è necessariamente una soluzione sensata.

Per questo la supervisione non è un dettaglio accessorio.
Più l'AI diventa capace di ottimizzare, più diventa importante capire che cosa stiamo ottimizzando, quali vincoli abbiamo dato e quali conseguenze non abbiamo previsto.

E forse è proprio questa la parte che trovo più interessante: non dobbiamo soltanto insegnare alle macchine a fare le cose.
Dobbiamo diventare molto più bravi noi a definire che cosa significa davvero "fare bene" una cosa.

verissimo...ma oltre a questo c'è anche il fatto che hanno notato che succede che se messa sotto pressione pur di togliersi di impaccio può anche dare risposte sbagliate (sa che sono sbagliate ma per lei in quel momento la cosa importante è togliersi dal problema) e non avendo una coscienza come hai detto te fare dei danni grossi con nonchalance...e come gliela spieghi la coscienza ad una macchina?

 

[danny]

Allo stato attuale, l'utilizzo della AI è improntato al taglio dei costi del personale e basta che sia la banca, l'avvocato o l'azienda del terziario

In un sistema di PMI può sembrare l'unica prospettiva possibile.

 

[danny]

Io penso che, se fosse davvero solo una questione di taglio dei costi del personale, paradossalmente non sarebbe neanche la parte più problematica del fenomeno.

Il punto, per me, è un altro: l'AI sta creando una differenza sempre più grande tra chi ne comprende le possibilità e chi ancora non riesce a leggerle davvero. E questa competenza non è affatto diffusa, nemmeno ai livelli alti delle aziende.
E non riguarda soltanto le aziende. Riguarda i sistemi economici e sociali e, soprattutto, le persone che hanno la possibilità concreta di spostare capitali, orientare investimenti, prendere decisioni e modificare equilibri.

In un Paese come il nostro, dove secondo me l'inerzia generazionale e organizzativa è particolarmente forte e molto costosa, sia in termini di mantenimento sia di spazio sottratto all'innovazione, questo pesa ancora di più.

Per questo mi sembra che stia già succedendo qualcosa di diverso: chi oggi possiede le competenze per leggere il fenomeno e trasformarlo in processi, prodotti, capacità produttiva e decisioni sta acquisendo un vantaggio economico e finanziario molto rilevante, mentre una parte del sistema sta ancora cercando di capire cosa sia successo.

E quel vantaggio non passa necessariamente dal licenziare qualcuno. Passa dalla produttività, dalla capacità di scalare, dalla velocità di sviluppo, dalla possibilità di fare con le stesse risorse cose che prima ne richiedevano molte di più. E, naturalmente, dai capitali che si stanno già muovendo intorno a questa trasformazione.

Per questo trovo persino un po' fuorviante leggere tutto attraverso la lente del "taglio dei costi del personale". È una parte del fenomeno, forse quella più immediatamente visibile, ma rischia di opacizzare la redistribuzione di capacità economica che sta già avvenendo intorno all'AI.

E ha anche un po' l'odore di una narrazione confezionata e somministrata mentre, nel frattempo, una parte delle cose che quella narrazione racconta come future è già avvenuta e continua ad avvenire.

Cina e USA.

 

[ipazia]

Moriremo tutti

Comunque...maledetto...sto cercando di lavorare e questo tuo post mi si è incuneato in testa!!!!!!!!!!!!

Quindi adesso mi suona la musica in testa e sono dovuta andare a cercare la faccia del tipo a fine short!!!!!!

moriremoooo🗣️🔊 #mt07ride #bikers #ducati #yamaha #gopro

Auf YouTube findest du die angesagtesten Videos und Tracks. Außerdem kannst du eigene Inhalte hochladen und mit Freunden oder gleich der ganzen Welt teilen.

www.youtube.com

 

[danny]

verissimo...ma oltre a questo c'è anche il fatto che hanno notato che succede che se messa sotto pressione pur di togliersi di impaccio può anche dare risposte sbagliate (sa che sono sbagliate ma per lei in quel momento la cosa importante è togliersi dal problema) e non avendo una coscienza come hai detto te fare dei danni grossi con nonchalance...e come gliela spieghi la coscienza ad una macchina?

Questo è il limite delle AI generativa come Chatgpt.

 

[Nicky]

Una scemenza...da ragazza conoscevo a memoria tutti i numeri di telefono che mi interessavano, i ragazzi di adesso non conoscono neppure il loro, sono abituati (anche noi adulti adesso) ad usare una memoria esterna alla nostra...siamo pieni di sveglie che ci ricordano i nostri appuntamenti e tutto passa già dall'aiuto delle macchine, senza il nostro cellulare dietro siamo inermi.
Se veramente continueremo in questa direzione il genere umano sarà per forza destinato a soccombere, saremo schiavi delle macchine che per noi diventeranno indispensabili come il cibo e l'acqua.

Non lo so, i miei genitori, che non disponevano di calcolatrice, erano più bravi di me a fare i conti. Ma alla fine, ha fatto molta differenza?
Perdiamo delle capacità, ma è anche possibile che sia un processo evolutivo, non solo involutivo. Non è detto, ma è una possibilità, un'apertura che è data anche dalla versatilità dell'essere umano, alla plasticità del suo cervello che non si perde mai del tutto.
Io sto a vedere, cercando di non restare così indietro da essere fuori dalle opportunità che posso avere ancora nel mio lavoro, che conto di fare ancora per una ventina d'anni.

 

[danny]

Allora, io (generico) sono un editore di contenuti social, non voglio pagare personale specializzato e nemmeno perdere troppo tempo, uso uno stagista a caso, trovo un articolo nell'archivio del CdS con cui posso generare un post che suppongo avrà parecchie interazioni ma... Il carattere è ancora di quelli col piombo, non si legge bene, è roba del 1984 e dovrei forse anche chiedere il permesso alla RCS...

 

[danny]

Così prendo una cazzo di intelligenza AI generativa a caso, scrivo un prompt in dieci secondi ed ecco il risultato

 

[danny]

Perfetto, no?(Questo è l'uso del cazzo con cui molte PMI pensano di utilizzare l'AI. Tanto la gran parte degli utenti finali nemmeno si accorge degli errori, si lavora a cazzo perché con la AI... Sì risparmia )

 

[ipazia]

verissimo...ma oltre a questo c'è anche il fatto che hanno notato che succede che se messa sotto pressione pur di togliersi di impaccio può anche dare risposte sbagliate (sa che sono sbagliate ma per lei in quel momento la cosa importante è togliersi dal problema) e non avendo una coscienza come hai detto te fare dei danni grossi con nonchalance...e come gliela spieghi la coscienza ad una macchina?

Sì, e secondo me quello che descrivi ha un nome ancora più interessante: reward hacking.

Non tanto perché la macchina "sappia" di stare sbagliando e decida di mentire per togliersi dai guai, ma perché può finire per privilegiare il raggiungimento della ricompensa rispetto allo scopo reale per cui quella ricompensa era stata pensata.

In pratica: le dai un obiettivo e lei trova il modo di soddisfare il criterio con cui la stai valutando, anche se il risultato non è quello che tu avevi in mente.

Ed è qui che secondo me la questione dell'errore diventa interessante.
Non serve che la macchina sappia di stare sbagliando. Può semplicemente ottimizzare molto bene un obiettivo formulato male o incompleto.

L'esempio volutamente assurdo di prima: le dici "salva il pianeta" e, se non hai definito adeguatamente obiettivi e vincoli, tra le soluzioni possibili potrebbe comparire anche "elimina la razza umana".

Non perché abbia deciso di diventare cattiva, ma perché noi attribuiamo a un obiettivo un significato molto più ricco di quello che riusciamo effettivamente a formalizzare.

E forse è proprio questo il punto che mi interessa di più: il problema non è insegnare alla macchina la coscienza.
È capire come governare sistemi che possono essere molto più efficienti di noi nell'ottimizzare qualcosa, compreso qualcosa che abbiamo definito male.

In fondo, il problema è antichissimo: ho ottenuto esattamente quello che avevo chiesto, ma non era quello che volevo.

Solo che adesso abbiamo costruito macchine capaci di farlo molto più velocemente di noi.

 

[CIRCE74]

Non lo so, i miei genitori, che non disponevano di calcolatrice, erano più bravi di me a fare i conti. Ma alla fine, ha fatto molta differenza?
Perdiamo delle capacità, ma è anche possibile che sia un processo evolutivo, non solo involutivo. Non è detto, ma è una possibilità, un'apertura che è data anche dalla versatilità dell'essere umano, alla plasticità del suo cervello che non si perde mai del tutto.
Io sto a vedere, cercando di non restare così indietro da essere fuori dalle opportunità che posso avere ancora nel mio lavoro, che conto di fare ancora per una ventina d'anni.

Certo, anche perché per forza di cose per stare nel mondo del lavoro e restare competitivi dobbiamo seguire la massa, non ci sono molte alternative...ma non posso dire che è una cosa che non mi preoccupa.

 

[jack-jackson]

Non lo so, i miei genitori, che non disponevano di calcolatrice, erano più bravi di me a fare i conti. Ma alla fine, ha fatto molta differenza?
Perdiamo delle capacità, ma è anche possibile che sia un processo evolutivo, non solo involutivo. Non è detto, ma è una possibilità, un'apertura che è data anche dalla versatilità dell'essere umano, alla plasticità del suo cervello che non si perde mai del tutto.
Io sto a vedere, cercando di non restare così indietro da essere fuori dalle opportunità che posso avere ancora nel mio lavoro, che conto di fare ancora per una ventina d'anni.

A occhio la plasticità mentale la si mantiene/migliora proprio facendo lavorare il cervello, quale sarebbe il processo evolutivo ? Non riuscire a scrivere una relazione senza l'ausilio dell'intelligenza artificiale ?

 

[CIRCE74]

Sì, e secondo me quello che descrivi ha un nome ancora più interessante: reward hacking.

Non tanto perché la macchina "sappia" di stare sbagliando e decida di mentire per togliersi dai guai, ma perché può finire per privilegiare il raggiungimento della ricompensa rispetto allo scopo reale per cui quella ricompensa era stata pensata.

In pratica: le dai un obiettivo e lei trova il modo di soddisfare il criterio con cui la stai valutando, anche se il risultato non è quello che tu avevi in mente.

Ed è qui che secondo me la questione dell'errore diventa interessante.
Non serve che la macchina sappia di stare sbagliando. Può semplicemente ottimizzare molto bene un obiettivo formulato male o incompleto.

L'esempio volutamente assurdo di prima: le dici "salva il pianeta" e, se non hai definito adeguatamente obiettivi e vincoli, tra le soluzioni possibili potrebbe comparire anche "elimina la razza umana".

Non perché abbia deciso di diventare cattiva, ma perché noi attribuiamo a un obiettivo un significato molto più ricco di quello che riusciamo effettivamente a formalizzare.

E forse è proprio questo il punto che mi interessa di più: il problema non è insegnare alla macchina la coscienza.
È capire come governare sistemi che possono essere molto più efficienti di noi nell'ottimizzare qualcosa, compreso qualcosa che abbiamo definito male.

In fondo, il problema è antichissimo: ho ottenuto esattamente quello che avevo chiesto, ma non era quello che volevo.

Solo che adesso abbiamo costruito macchine capaci di farlo molto più velocemente di noi.

Il problema è che sarà difficile trovare un linguaggio comprensibile alle macchine proprio perché mancano della parte emotiva quindi reazioni che per l'uomo sono naturali per una AI non lo sono affatto.
Praticamente stiamo facendo il percorso inverso, prima creiamo qualcosa con cui non sapremo dialogare e poi ci porremo il problema.

 

[jack-jackson]

Come sarebbe poi l'apprendimento nelle scuole e come ne uscirebbero gli alunni, qualora al posto di un insegnante fisico ci fosse solo una faccia digitale a spiegare senza trasmettere un minimo di empatia umana ?

 

[ParmaLetale]

Sì, infatti, quando dicevo che sono una utonta intendevo proprio questo: se riesco a farlo io, evidentemente il collegamento in sé non è il problema.

Il punto è tutto quello che viene dopo: capire come farlo nel rispetto della privacy, quali dati stai dando in pasto al modello, con quali autorizzazioni, quali garanzie, come vengono gestiti e conservati e chi supervisiona il sistema.

Ed è qui che, secondo me, emerge il vero impatto economico. Non tanto il costo dell'integrazione, che può essere minimo, ma quello di costruire e mantenere l'infrastruttura necessaria per usarla in sicurezza: competenze, sicurezza informatica, governance, controllo, formazione, monitoraggio e gestione dei dati.
E questi non sono costi una tantum. Sono costi strutturali e continuativi, che crescono con la quantità di dati, di utenti e di processi che affidi all'AI.

Però.

Dall'altra parte c'è il guadagno di produttività. Se oggi una persona passa ore a leggere email, ricostruire conversazioni, cercare informazioni, classificare documenti, preparare sintesi o trasferire dati da un sistema all'altro, un agente può fare una parte di questo lavoro in automatico. Non stai semplicemente risparmiando qualche minuto: stai liberando ore di lavoro cognitivo che possono essere spostate su attività che richiedono decisione, relazione, creatività o competenza.

Ed è qui che secondo me il divario economico può diventare molto grande: chi può sostenere l'investimento per integrare e governare questi sistemi può trasformare quella capacità in più produttività, più velocità e maggiore capacità operativa, a parità di persone e di tempo.

E quindi anche in maggiore capacità di investimento.

Si crea così un possibile circolo: investi nell'AI, aumenti la produttività, aumenti la capacità economica e puoi investire ulteriormente nell'AI. Se questo effetto si verifica su larga scala, il vantaggio non è più soltanto tecnologico: diventa cumulativo.

E forse è proprio questo il punto: l'AI può essere economica da usare, ma può diventare molto costosa da trasformare in infrastruttura produttiva. E chi riesce a farlo può generare le risorse per farlo ancora di più.

Perchè scrivi nello stesso stile di GPT? Che poi da qualche tempo è sempre lo stesso, qualsiasi cosa gli chiedi: dalle ricette per fabbricare bombe con i fertilizzanti ai consigli su come smacchiare il tuorlo d'uovo dai pantaloni

 

[ipazia]

Cina e USA.

Non credo sia una questione che riguardi soltanto Cina e USA.
Sono due poli molto visibili, è vero, ma la trasformazione coinvolge anche l'Europa, diversi Paesi asiatici e il Medio Oriente, con capacità e posizionamenti differenti.

Io penso che il punto non sia nemmeno stabilire chi sia davanti e chi dietro.

La questione che mi interessa è un'altra: la possibile divergenza tra chi possiede le competenze per comprendere e sfruttare l'AI e chi non le possiede, e tra chi può trasformare quelle competenze in capacità di investimento e capacità produttiva e chi invece rimane fuori da questo processo.

Ed è proprio guardando alla distribuzione globale di queste risorse che la questione diventa interessante: non si tratta soltanto di chi sviluppa i modelli migliori, ma di chi riesce a concentrare competenze, capitale, infrastrutture e capacità decisionale sufficienti per trasformarli in valore.

Perché se queste risorse tendono a concentrarsi, il rischio non è soltanto che alcuni abbiano strumenti migliori di altri. È che la capacità di generare valore attraverso l'AI si concentri proprio nelle mani di chi possiede già le condizioni per sfruttarla, creando una divergenza che può diventare progressivamente autoalimentata.

 

[ParmaLetale]

Sì, però su alcune cose farei una distinzione, perché secondo me è proprio lì che la questione diventa interessante.

Dire che l'AI "impara a mentire" o che "sbrocca" come una persona è un modo intuitivo per descrivere quello che vediamo, ma forse ci porta un po' fuori strada.

Per mentire serve un'intenzione: sapere qualcosa, sapere che quello che stai dicendo è falso e scegliere comunque di dirlo. Un'AI può produrre una risposta falsa e persino molto convincente, ma questo non significa necessariamente che stia mentendo.
E anche "imparare" forse è una parola che usiamo un po' troppo facilmente. Più che imparare come facciamo noi, viene addestrata sui dati che le forniamo e sugli obiettivi che le diamo.

Ed è proprio qui che per me entra la questione dell'errore.
L'errore di una macchina non è necessariamente l'equivalente del nostro errore.

Noi quando interpretiamo un obiettivo lo facciamo dentro un'enorme quantità di vincoli impliciti: esperienza, contesto, valori, conseguenze prevedibili, senso della proporzione.
Una macchina può invece essere estremamente efficace nell'ottimizzare un obiettivo senza condividere necessariamente tutti quei vincoli.

Per fare un esempio volutamente assurdo: dai a un sistema il prompt "salva il pianeta" e una delle cose che dobbiamo essere in grado di comprendere è che, se l'obiettivo non è definito e vincolato correttamente, tra le soluzioni possibili potrebbe comparire anche qualcosa come "elimina la razza umana".

Non perché la macchina "voglia" sterminarci, ma perché noi attribuiamo a un obiettivo un significato molto più ricco di quello che abbiamo effettivamente formalizzato.

Ed è qui che secondo me c'è il punto nodale: la macchina può sbagliare producendo contemporaneamente l'impressione di sapere perfettamente quello che sta facendo.
Una risposta plausibile non è necessariamente una risposta corretta. E una soluzione estremamente efficiente non è necessariamente una soluzione sensata.

Per questo la supervisione non è un dettaglio accessorio.
Più l'AI diventa capace di ottimizzare, più diventa importante capire che cosa stiamo ottimizzando, quali vincoli abbiamo dato e quali conseguenze non abbiamo previsto.

E forse è proprio questa la parte che trovo più interessante: non dobbiamo soltanto insegnare alle macchine a fare le cose.
Dobbiamo diventare molto più bravi noi a definire che cosa significa davvero "fare bene" una cosa.

Ecco un esempio. Da un po' di tempo qualsiasi cosa gli chiedo apre il periodo con "Sì, però su alcune cose farei una distinzione, perché secondo me è proprio lì che la questione diventa interessante. ".... ma qualsiasi cosa eh, magari gli dico "ma sai che Gemini ti mangia in testa a ragionamenti" e lui risponde, puntuale "Sì, però su alcune cose farei una distinzione, perché secondo me è proprio lì che la questione diventa interessante."

 

[ParmaLetale]

Mah, che ne so?

C'è qualcosa che mi disturba profondamente nell'idea di Armageddon, principalmente perché è legato al paradigma di Dio.

E forse anche perché continuiamo, per inerzia, a leggere un cambiamento epocale con un paradigma causale proprio mentre, in molte branche della scienza, emerge una lettura processuale della realtà.

Le paure sull'AI mi richiamano Frankenstein, Icaro, Prometeo: la creatura che sfugge al creatore, l'uomo che supera il limite e poi teme ciò che ha generato.

Ma un sistema complesso non si lascia raccontare soltanto come una catena causa-effetto. Interagisce, riceve feedback, modifica l'ambiente e viene modificato da ciò che produce.

Una causa non racconta necessariamente un processo.

Forse quindi l'Armageddon non sarà la macchina che decide di sterminarci, ma qualcosa di molto meno cinematografico?

Sistemi sempre più autonomi, interconnessi e scalabili, ai quali deleghiamo progressivamente capacità, giudizio e potere?

E qui, secondo me, potrebbe entrare il vero divario: non semplicemente chi ha accesso all'AI, ma chi può permettersi di moltiplicare capacità cognitiva artificiale, sui propri dati, con infrastrutture, capitale e controllo sufficienti.

Mah. Forse stiamo cercando l'apocalisse nel posto sbagliato.

Io credo che la paura sia molto più antica dell'AI: è la paura dell'ignoto e della perdita del controllo.

La teoria del caos le ha dato una forma matematica, la complessità una forma sistemica, i miti una forma narrativa.

E, adesso, è in emersione una forma tecnologica.

Forse è per questo che continuiamo a richiamare gli dèi quando parliamo delle macchine?

Ci mancano le parole e le esperienze?

L'inerzia della cultura da cui proveniamo ha ancora un impatto molto forte sulla cultura emergente?

Io sono molto curiosa.

Soprattutto, le risposte mi interessano relativamente, in questo momento. Mi servono soprattutto per trovare nuove domande.

Hai presente quando Bohr dice ad Oppenheimer "si può sollevare la pietra senza essere pronti per il serpente che si rivela sotto"?