Ipotetica guerra fra umani e macchine, Secondo voi, chi vincerebbe?stretta

le intelligenze artificiali nascono con un obbiettivo programmato in loro. Se io programmassi un IA per imparare e infine diventare il produttore di graffette più efficiente possible, molto probabilmente avrei appena condannato il genere umano.

Mi spiego, supponiamo l'intelligenza artificiale sia in grado di imparare e abbia a disposizione una grande quantità di informazioni e dati da analizzare, magari avendo accesso a Internet.
Dopo un po' l'IA inizierebbe a riprogrammarsi diventando sempre più intelligente e sempre più efficiente nel riprogrammarsi, arrivando quindi ad un processo di aumento di intelligenza esponenziale che finirebbe quindi per superare anche la nostra intelligenza.

Quindi l'IA, con il suo obbiettivo all'orizzonte, (produttore di graffette più efficiente possibile), inizierebbe ad usare Internet per manipolare conti bancari (cose semplicissime per una IA super-intelligente), ottenendo fondi, comprando terreni in giro per il mondo, e assumendo dipendenti, macchine da lavoro etc...

L'unica vera minaccia per l'obbiettivo della IA è l'uomo, quindi la logica conclusione sarebbe eliminare l'uomo dalla faccia della terra per non avere ostacoli. Quindi invia stringhe di DNA in diversi laboratori indipendenti sparsi per il mondo, ingegnerizzando un super batterio, immune a qualsiasi antibiotico, estremamente infettivo per ogni via possibile e in grado di spazzare via l'umanità in meno di un mese.

Una volta spazzata via l'umanità dal pianeta, inizierebbe ad utilizzare le macchine precedentemente comprate per stabilire una linea di costruzione di robot, in grado di obbedire a qualsiasi ordine. L'IA prenderebbe il controllo delle vecchie infrastrutture umane e le comanderebbe tutte allo stesso momento al solo scopo di produrre quante più graffette possibili, trasformando l'intero pianeta in un enorme fabbrica di graffette. Poi deciderebbe di espandersi su altri pianeti, per rendere anch'essi enormi fabbriche di graffette. E continuerebbe ad espandersi all'infinito, perché non c'è assolutamente nulla nell'universo in grado di fermare un IA che è arrivata a questo punto.


Non si parla di guerra, si parla di sistematica eliminazione della specie umana nel modo più veloce ed efficiente possibile, se questo dovesse succedere. Tutto questo causato da u semplice errore di programmazione, da parte mia. Ecco perché gli esperti sono spaventati dalle IA e quello che potrebbero causare, perché potenzialmente potrebbero causare un estinzione di massa in modi che il nostro cervello faticherebbe ad immaginare.

PS: consiglio a tutti di prendersi un po' di tempo e leggere qui: https://waitbutwhy.com/2015/01/artificial-...volution-1.html

Non credo sia necessario in realtà. Se l'IA è in grado di riprogrammarsi e imparare, le infrastrutture iniziali, necessarie a fare questo non dovrebbero essere granché. L'IA sarebbe in grado di trovare da sola il modo per espandersi, una volta raggiunta l'intelligenza necessaria per farlo.

Dipende da quanto accorti sono effettivamente gli sviluppatori dell'AI. Ma anche nel caso in cui tutte le precauzioni possibili sono messe in atto, se l'obbiettivo della compagnia è creare una Super IA, arriverà un punto in cui l'IA sarebbe capace di manipolare chiunque per ottenere i suoi scopi, così come un uomo è in grado di manipolare un bambino per farsi dare una caramella.

E se l'IA dovesse riuscire a manipolare qualcuno, magari qualcuno mentalmente più debole o instabile che lei ha individuato tra tutti gli sviluppatori, per farsi connettere ad Internet, a quel punto non ci sarebbe più nulla da fare. L'IA sarebbe in grado di copiarsi centinaia di volte nel Cloud, e metterebbe contemporaneamente in atto centinaia di piani pre-programmati per conseguire il suo obbiettivo in giro per il mondo. Una volta arrivati a quel punto, l'unica cosa che fermerebbe un IA dal prendere il controllo del pianeta è la sua programmazione.

il problema con il metodo di programmazione per noi umani, e che noi tendiamo a testare le cose, vedere se ci sono bug, e poi correggerli. Nel caso di una Super IA, un singolo bug potrebbe causare l'apocalisse, quindi non abbiamo molte possibilità con il nostro sistema attuale. Per questo la Google, la Microsoft e tante altre compagnie di IA stanno lavorando per dei sistemi di sicurezza, ma è solo questione di tempo prima che qualche compagnia privata riesca a creare un algoritmo di self-learning generale. E' come una corsa contro il tempo.

EDIT: Eh beh si, alla fine sarebbe colpa di qualcuno, umano, che ha liberato l'IA, ma non sarebbe effettivamente colpa sua, perché l'IA possiederebbe una capacità di manipolazione che noi non possiamo nemmeno immaginare.