-
.
Giusto per sfogarmi sulla tastiera in questo periodo di calma piatta, ho trovato qualche notizia che mi piacerebbe condividere con voi.
Pare che due robot destinati a dialogare tra loro siano finiti con l'inventare un linguaggio logico incomprensibile all'essere umano . Il tutto può essere banalmente archiviabile con il fatto che si tratti di una mera semplificazione e non di una vera e propria nuova lingua e che sia stato dovuto solo alla mancanza di una regola. Insomma, qualcosa di risolvibile rapidamente introducendo una breve linea di codice. In ogni caso l'ho trovato curioso perchè la base sará l’inglese, ma è bastata una dimenticanza per dare luce ad un qualcosa di non conosciuto. Ho approfondito un po' l'argomento e mi sono imbattuta in un'altra interessante news. In sostanza sembra che si stia parlando di una macchina in grado di memorizzare l'esperienza, di "imparare". Anche se può sembrare tutto scontato e il normale sviluppo delle cose, vale la pena soffermarsi un attimo su quello che sta accadendo. È affascinante come pian piano stiamo davvero arrivando a gettare le basi per l’evoluzione autonoma del computer disgiunta dalla programmazione dell’uomo. Voglio dire, al di lá dell'inquietante o meno, sembra proprio di stare dando alla luce una sorta di "neonato" con la certezza che avrá sicuramente un potenziale infinitamente piú alto di quello del suo "genitore". Allora mi domando se siamo veramente in grado di creare qualcosa piú intelligente di noi. Possiamo realmente calcolare e prevenire tutti i rischi di programmazione? Oppure, finirá come nel raccondo di Asimov "L'ultima domanda"? (10 minuti di lettura altamente consigliati). Sicuramente è un argomento interessante sul quale sarebbe bello leggere cosa ne pensate, altrimenti spero almeno di aver dato un diversivo alla vostra mente in queste torride giornate di agosto
. -
.
A mio parere non si è ancora pronti a creare un qualcosa del genere .
Percaritá non sono contro il progresso anzi sono pro ma questo mi sembra il passo più lungo della gamba. -
.
L'argomento è indiscutibilmente ficcante, ma presta il fianco a una serie interminabile di variabili che bisognerà comunque tenere presente nello sviluppo immediatamente futuro (parlo dei prossimi 50 anni) del genere umano in quanto tale e dello sviluppo della IA come risorsa della quale forse con il tempo non si potrà fare a meno. Ho letto il racconto, molto bello e poetico, nel quale non si trova traccia del problema fondamentale dell'uomo e cioè che la società è conflitto.
Posto il fatto che in futuro si possa utilizzare tout court una energia pulita, anche grazie all'aiuto , perché no, di qualche IA, il problema resta sempre quello: la gestione di tale energia e i conflitti in termini economici, politici, militari, ecc. che ne deriveranno.
A livello di vivibilità del nostro pianeta pare che siamo già arrivati ormai ad un punto di non ritorno (pensiamo solo al problema dell'acqua che ci investirà in un immediato futuro in maniera sempre più pressante).
Non mi dilungo su questo perché andrei OT, ma ritengo che i due discorsi siano interconnessi.
Riusciranno le IA a risolvere le problematiche che affliggono l'umanità? La sete sfrenata di potere e di denaro? Il divario sempre più grande tra ricchi e poveri? Lo sfruttamento indiscriminato delle risorse del pianeta?
Forse prima bisognerà trovare il modo di creare un nuovo ordine planetario basato sulla giustizia, il che continuerà a creare necessariamente dei conflitti. Da che parte staranno le IA?
La mia visione pessimistica mi porta a prevedere che l'uomo si sarà estinto prima che "AC" sia in grado di rispondere a queste domande. Di conseguenza la risposta all'ultima domanda del racconto a questo punto è inevitabilmente irrilevante.. -
.
Mi porto un attimo in un piano diverso per informarvi del fatto che la notizia, annunciata in quel modo, è poi risultata falsa; avevo trovato parecchi articoli interessanti ma mi sono scordato di salvare i link per condividerli, anche se ho trovato un interessante riassunto in Italiano qui: CITAZIONENon erano due robot, non stavano parlando lingue sconosciute e soprattutto non c'è nessun panico. Come raccontare malissimo una notizia >
"No, non c’è nessuna 'paura nella Silicon Valley', come scrive Il Messaggero titolando 'Due robot iniziano a parlare fra loro in una lingua sconosciuta: sospeso l'esperimento di Facebook'. Huffington Post, invece, titola 'Facebook sospende il test per l'Intelligenza Artificiale: "Due bot hanno inventato un proprio linguaggio, incomprensibile all'uomo'.
(...) Non c’è nessuna intelligenza artificiale ostile che trama contro l’umanità in lingue segrete e non c’è stato nessun panico: semplicemente l’esperimento di intelligenza artificiale (due programmi che dialogavano tra loro, non due robot) “è stato chiuso perché faceva cose che al team di ricercatori non interessavano -- non perché i ricercatori pensavano di essersi imbattuti in un rischio per l’esistenza dell’umanità”.
Inoltre, “come spiega divertita la BBC invece di fare terrorismo luddista, la notizia, pubblicata inizialmente da Facebook, risale a giugno scorso, quando era passata inosservata (a parte qualche commento di riviste scientifiche divulgative).
▶️ Paolo Attivissimo – goo.gl/Ti2UDr
Lega Nerd spiega nel dettaglio cosa è successo:
"I ricercatori hanno provato a farli parlare tra loro e dopo un po’ due di questi bot hanno iniziato a comunicare con un inglese incomprensibile. Questo semplicemente perché, giustamente, hanno cominciato a levare tutte le parole inutili e a ottimizzare le frasi secondo i loro algoritmi, senza tenere conto della corretta grammatica inglese. Non era stato impostato infatti un “premio” che li tenesse nel binario della comprensibilità. Questo è il motivo per cui sono stati interrotti per essere riprogrammati e inserire appunto la necessità di rimanere all’interno di una corretta grammatica comprensibile all’uomo. Tutto qua".
▶️ goo.gl/426UCn
Anche chi parla di errore di programmazione in realtà dice una cosa non proprio corretta: si trattava di meccanismi di intelligenza artificiale probabilmente lasciati volutamente liberi di interagire 'come volevano'. Non si può definire errore di programmazione ma un percorso evolutivo che non ha portato a risultati. Forse mancavano feedback adeguati ma errore di programmazione è una parola grossa. [più che percorso evolutivo si tratta di percorso di ottimizzazione come spiega Nantas Nardelli ex ricercatore AI di Facebook nei commenti. Riportiamo qui link al suo commento
▶️ https://goo.gl/L8GiyN
Qui il post dello scienziato, Dhruv Batra, che spiega nei dettagli cosa è successo >
www.facebook.com/dhruv.batra.dbatra/posts/1943791229195215
Come ha sintetizzato in un commento qui al post Silvia Passerini:
"Non sta scritto da nessuna parte che ci fosse un "errore di programmazione", né che i BOT dicessero cose "insensate", solo non erano stati programmati per usare la sintassi inglese corretta, quindi hanno ottimizzato le parole, e siccome una macchina non ha la necessità, come l'uomo, di spezzare i concetti per semplificarli, può usare parole che contengono una complessità infinita e capirle perfettamente, cosa che all'uomo è impossibile, ed ecco perché i programmatori non possono capire questi messaggi".
Qui l'articolo di Snopes > www.snopes.com/facebook-ai-developed-own-language/
Detto questo, e tornando al centro della discussione che non è la notizia in sè ma il fatto che l'uomo stia imparando a costruire macchine che imparano e che creano qualcosa, direi che siamo ancora abbastanza lontano dal creare qualcosa di più intelligente di noi. Sicuramente siamo e saremo in grado di creare una macchina più forte, più veloce nei calcoli e nel problem-solving, ma superare le potenzialità del cervello umano è secondo me ancora impossibile, anche perchè l'uomo nemmeno conosce al 100% il proprio cervello. Più si va avanti con la tecnologia più si cerca di creare una macchina autonoma, e funzioni di auto-apprendimento sono ormai utilizzate anche nella tecnologia più basica (algoritmo della musica di iTunes, i più moderni cookies, l'automazione della casa, il frigorifero che fa la lista della spesa in base alle preferenze) e ultimamente hanno avuto un grande sviluppo, anche se penso che la creazione di un IA autonoma che sappia uscire dagli schemi della programmazione sia ancora fantascienza.. -
.
Noooooooooooooooo, scesone!! . -
.
Hanno trollato tutti .
Trol , trol_lol
. -
.
Giusto per andare un pò off topic, questa discussione mi ha fatto pensare ad un film visto tempo fa chiamato "ex machina". Si tratta di un thriller con al centro la questione delle IA e la loro capacità o meno di sviluppare emozioni proprie. Se vi capita secondo me merita . -
.Giusto per andare un pò off topic, questa discussione mi ha fatto pensare ad un film visto tempo fa chiamato "ex machina". Si tratta di un thriller con al centro la questione delle IA e la loro capacità o meno di sviluppare emozioni proprie. Se vi capita secondo me merita
Finale angosciante, film bellissimo però.. -
.Giusto per andare un pò off topic, questa discussione mi ha fatto pensare ad un film visto tempo fa chiamato "ex machina". Si tratta di un thriller con al centro la questione delle IA e la loro capacità o meno di sviluppare emozioni proprie. Se vi capita secondo me merita
Finale angosciante, film bellissimo però.
Non ci va certo piano sul rapporto di strumentalità uomo-macchina. Personalmente resto legato a una visione meccanicista - assai lontana dal fiabesco "L'uomo bicentenario" - delle macchine e dei programmi frutto di invenzione dell'uomo tendenzialmente per servire a uno scopo, ed è proprio lo scopo il cardine del problema: potenziare o completare capacità umane (es. ricerca dati utili o protesi attive) in alternativa a sostituire l'uomo o addirittura eliminarlo. La radice decisionale a monte è sempre umana e - per fortuna o purtroppo - si valuta dagli esiti.
. -
Plario.
User deleted
Una lettura che consiglio è la serie di articoli di Tim Urban chiamata "AI revolution", consultabile in inglese su https://waitbutwhy.com/2015/01/artificial-...volution-1.html e credo pure tradotta in italiano su tom's hw . -
.Una lettura che consiglio è la serie di articoli di Tim Urban chiamata "AI revolution", consultabile in inglese su https://waitbutwhy.com/2015/01/artificial-...volution-1.html e credo pure tradotta in italiano su tom's hw
L'impostazione del testo è eccellente ed offre molti spunti interessanti sugli scenari possibili. Ho letto quanto prendendo "con le pinze" alcuni assunti - anche se è vero che sotto il profilo di calcolo brute force perdiamo già la competizione - per condividere comunque a fondo il tema degli scenari estremi (estinzione vs. "benessere", l'immortalità menzionata è un sogno) e della radice umana nel raggiungimento degli stessi. Per esempio sul tema, caldo negli USA, dei robot da guerra le posizioni vanno dai fautori del progresso estremo a ogni costo al pensiero "si vis pacem para bellum" al proibizionismo, che avrebbe senso solo se su scala mondiale... ma la storia insegna che le leggi non fermano ricerca e tecnica! Per contestualizzare meglio il problema dei robot da guerra, che finora possono generare risultati gravi ma ancora non apparentemente catastrofali, si pensi al ricorso crescente ai Contractor ossia agli eserciti privati in appalto oppure alla violazione informatica dei software di controllo, o a un semplice bug (probabilità crescente con la complessità): la distorsione dello scopo della macchina fino a dove potrebbe portare e a vantaggio di chi? In direzione opposta, nello scenario generale positivo, penso non sarà il vantaggio tecnologico poi così diffuso e distribuito, i detentori della tecnologia più avanzata si approprieranno dei vantaggi, se andrà molto bene resteremo solamente 5-10 anni indietro rispetto a quelli.
"Careful What You Wish For" - Testament.
L'obsolescenza umanae la noia estiva |
Web
Contacts
