I visionari di OpenAI: L’AI cambierà il Mondo. Si ma a quale costo?

Redazione RHC : 4 Novembre 2023 16:48

Avevano riportato una volta che quando il genio è uscito dalla lampada, è difficile riportarlo dentro. Mentre Elon Musk, Sam Altman (CEO di OpenAI) e Eric Schmidt (ex CEO di Google) parlano dei grandissimi rischi in cui versa il mondo nei confronti delle AI, anche Ilya Sutskever si unisce al coro.

Ma intanto vanno avanti nelle attività di ricerca e sviluppo, per arrivare primi. A Cosa? A implementare servizi basato sulle AI per i dividendi delle loro rispettive aziende e al guadagno personale andando in contro a quello che dicono “annientamento del genere umano”?

Ai tempi in cui OpenAI era solo un nome familiare nell’area della Baia di San Francisco, il cofondatore e capo scienziato Ilya Sutskever avvertì che la tecnologia che la sua azienda stava costruendo avrebbe cambiato il mondo.

Ma in quel periodo non si comprendevano i risvolti negativi di quello che sarebbe potuto accadere, anche se nella sua testa probabilmente erano molto chiari.

“L’intelligenza artificiale è una cosa grandiosa, perché risolverà tutti i problemi che abbiamo oggi“, ha detto Sutskever al documentarista Tonje Hessen Schei in un mini-documentario pubblicato da The Guardian. “Risolverà l’occupazione, risolverà le malattie, risolverà la povertà. Ma creerà anche nuovi problemi“.

È chiaro che prima che l’azienda cambiasse davvero il mondo, le persone che ne facevano parte sapevano che tutto questo sarebbe stato rivoluzionario, ed erano già alle prese con le sue implicazioni.

Registrato tra il 2016 e il 2019, il cortometraggio esplora lo stato d’animo di Ilya Sutskever nel momento in cui OpenAI stava costruendo la tecnologia che fornisce le basi per l’ormai virale ChatGPT.

In questo cortometraggio, Sutskever sembrava terribilmente ottimista riguardo all’intelligenza artificiale generale, o AGI. Per lui il significato di AGI è un “sistema informatico in grado di svolgere qualsiasi lavoro o qualsiasi compito svolto da un essere umano, ma solo meglio“.

Anche se non ne parla direttamente, l’esperto di machine learning all’inizio del 2022 affermò che alcuni LLM potrebbero essere “leggermente coscienti“. Ha sposato i principi dell’allineamento dell’intelligenza artificiale assicurarsi che le IA presenti e future siano create per “essere allineate con i nostri obiettivi”, qualunque essi siano.

Sutskever ha continuato confrontando gli obiettivi di qualsiasi futura AGI sfrenata e disallineata con il comportamento familiare di noi umani dicendo:

“Penso che una buona analogia potrebbe essere il modo in cui gli esseri umani trattano gli animali… Non è che odiamo gli animali. Penso che gli esseri umani amino gli animali e nutrano molto affetto per loro. Ma quando arriva il momento di costruire un’autostrada tra due città, non chiediamo il permesso agli animali. Lo facciamo semplicemente perché per noi è importante” e quindi ha detto: “Penso che, per impostazione predefinita, questo sia il tipo di relazione che ci sarà tra noi e le AGI, che sono veramente autonome e operano per proprio conto”.

È un pensiero piuttosto spaventoso, ma di fronte al quale lo scienziato capo di OpenAI non sembra battere ciglio, tranne per dire che sarà “estremamente importante” che gli esseri umani “programmino gli AGI correttamente”.

“Se ciò non viene fatto”, ha concluso, “allora la natura dell’evoluzione, della selezione naturale, favorisce quei sistemi che danno priorità alla propria sopravvivenza“.

Redazione
La redazione di Red Hot Cyber è composta da un insieme di persone fisiche e fonti anonime che collaborano attivamente fornendo informazioni in anteprima e news sulla sicurezza informatica e sull'informatica in generale.

Lista degli articoli