Vitalik Buterin: l’AI rappresenta una seria minaccia per il dominio dell’umanità
Il cofondatore di Ethereum, Vitalik Buterin, ha lanciato un allarme sui potenziali pericoli posti da un’intelligenza artificiale (AI) super avanzata in grado di scavalcare l’intelligenza umana e, potenzialmente, diventare la “specie” dominante sulla Terra.
In un recente post pubblicato sul social X (ex Twitter), il creatore di Ethereum (ETH) ha sottolineato che saranno il controllo e l’intervento dell’uomo nello sviluppo dell’AI a determinare se questo fosco scenario si realizzerà oppure no.
Nel prossimo futuro l’AI sterminerà il genere umano?
Buterin ha sostenuto che l’AI è fondamentalmente diversa dalle precedenti invenzioni come i social media, gli aerei e la stampa, in quanto ha la capacità di creare un nuovo tipo di “mente” che potrebbe in conflitto con gli interessi umani, e di conseguenza diventare pericolosa per le persone.
Il timore più grande di Buterin è lo stesso che è stato già paventato in molti racconti e film di fantascienza, e cioè che una AI superintelligente, senza essere sottoposta a uno stretto controllo, possa arrivare a considerare gli esseri umani come una minaccia per la propria sopravvivenza e potenzialmente portare all’estinzione dell’umanità come “misura di sicurezza”. Buterin ha dichiarato:
“L’AI è […] un nuovo tipo di mente che sta rapidamente acquisendo intelligenza e ha serie possibilità di superare le facoltà mentali degli esseri umani e diventare la nuova specie al vertice del pianeta”.
Pur riconoscendo che la probabilità di un esito così estremo è bassa, Buterin ha sottolineato comunque la necessità, per gli esseri umani, di prendere le dovute precauzioni affinché questo non accada.
AI risk 2: would a world with superintelligent AIs even be a world we would feel satisfied living in? On the instability of outcomes other than us being pets, and the failures of scifi to present realistic alternatives. pic.twitter.com/o9z8s6QAej
— vitalik.eth (@VitalikButerin) November 27, 2023
La soluzione proposta da Buterin è quella di integrare delle interfacce cervello-computer (BCI) come mezzo per dare all’uomo un maggiore controllo sulla cognitività e sul calcolo basati sull’AI.
Le BCI stabiliscono un percorso di comunicazione diretto tra il cervello umano e i dispositivi esterni, consentendo all’uomo di partecipare attivamente ai processi decisionali.
Riducendo il ciclo di comunicazione tra l’uomo e le macchine a pochi millisecondi, le BCI assicurano che l’uomo mantenga un livello significativo di controllo sul mondo.
Buterin ha sottolineato l’importanza che gli esseri umani mantengano la responsabilità della pianificazione di alto livello, riducendo così al minimo il rischio che l’AI agisca in modi non allineati con i valori umani.
“Possiamo ridurre l’incentivo a scaricare la responsabilità della pianificazione di alto livello sull’AI stessa, riducendo così la possibilità che l’AI faccia da sola qualcosa di totalmente non allineato con i valori dell’umanità”.
Buterin sottolinea l’importanza della regolamentazione dell’IA
Buterin ha anche sottolineato l’importanza dell’intenzione umana nel guidare l’IA verso risultati vantaggiosi per l’umanità e ha messo in guardia dal dare priorità alla massimizzazione dei profitti, evidenziando la necessità di un processo decisionale consapevole che si allinei con i valori e le aspirazioni umane.
Buterin non è il solo a lanciare l’allarme, anche Elon Musk, mesi fa, aveva espresso le sue preoccupazioni in merito, sottolineando l’importanza di stabilire delle regole. Il magnate di SpaceX ha anche sottoscritto, insieme a Steve Wozniak e altre 1.800 persone che lavorano nell’ambito della ricerca scientifica, una lettera nella quale si chiede una pausa di sei mesi sull’addestramento dei sistemi AI.
Nelle sue osservazioni conclusive, Buterin ha elogiato l’ingegno e il potenziale creativo dell’umanità.
Ha sottolineato che gli esseri umani hanno continuamente sviluppato la tecnologia per migliorare le loro capacità nel corso della storia e ha espresso la speranza che le conquiste umane, come i viaggi nello spazio e la geoingegneria, contribuiranno alla conservazione e alla bellezza della vita sulla Terra e oltre.
“Tra due miliardi di anni, se la Terra o qualsiasi parte dell’universo porterà ancora la bellezza della vita terrestre, saranno gli artifici umani come i viaggi spaziali e la geoingegneria ad averlo reso possibile”.
We are the brightest star. There is a lot of good that can come from ongoing human progress, into the stars and beyond. But there are big forks in the road and we need to choose carefully. Accelerate, but accelerate carefully and well. pic.twitter.com/vxPlJWFVGq
— vitalik.eth (@VitalikButerin) November 27, 2023
Leggi anche:
- Diversified: investire in articoli di lusso a partire da 100 euro con crypto e Blockchain
- Kronos Research avvia le trattative con l’hacker dopo il furto da $25 milioni
