Red Hot Cyber
Sicurezza Informatica, Notizie su Cybercrime, Analisi Vulnerabilità e Intelligenza Artificiale
L’intelligenza artificiale sta entrando nella matematica avanzata, arrivando a confrontarsi con problemi considerati irrisolvibili. Venticinque vincitori della Medaglia Fields, tra cui Terence Tao, avvertono però che la corsa a produrre risultati sempre più rapidi rischia di compromettere verifica, paternità e comprensione scientifica.
Venticinque vincitori della medaglia Fields, tra cui Terence Tao, Peter Scholze, Marina Vyazovskaya e Maxim Kontsevich, hanno avvertito che la corsa delle aziende di intelligenza artificiale a risolvere celebri problemi matematici inizia a nuocere alla stessa matematica. Gli scienziati ritengono che la fretta di dimostrare rapidamente le capacità di un nuovo modello entri in conflitto con il modo in cui la scienza verifica le prove, sviluppa nuovi metodi e attribuisce la paternità.
Gli autori dell’appello riconoscono il rapido progresso dei grandi modelli linguistici. Negli ultimi mesi, i sistemi di intelligenza artificiale hanno imparato a ottenere risultati su grandi problemi aperti che fino a poco tempo fa erano considerati inaccessibili ai metodi automatizzati. Il problema, secondo i matematici, sorge quando la risoluzione di un problema viene trasformata principalmente in un test della potenza del modello. Per la scienza, la risposta finale serve solo come parte del lavoro. Un valore non minore è rappresentato dalla comprensione delle cause, un nuovo metodo di prova, il collegamento con le ricerche precedenti e la possibilità di trasmettere la conoscenza acquisita ad altre persone.
I vincitori della medaglia Fields temono che il flusso di risultati portati dall’AI possa interrompere il ciclo abituale della ricerca matematica. Dopo la comparsa di una prova, gli esperti di solito la verificano per mesi o anni, discutono i punti deboli, semplificano gli argomenti e identificano nuove idee che poi iniziano ad applicare in altri problemi. L’IA può accelerare notevolmente la prima parte del processo, ma le altre fasi richiedono ancora molto lavoro da parte dei matematici.
Particolare preoccupazione suscita la velocità delle pubblicazioni. Secondo gli autori dell’appello, i risultati vengono spesso annunciati prima della preparazione di un testo completo, dell’analisi dei metodi utilizzati e della corretta citazione delle opere precedenti. Questa pratica crea problemi con l’istituzione della priorità, la paternità e il possibile plagio. I matematici temono situazioni in cui il modello produce una prova corretta, ma la comunità scientifica non riesce a capire da dove provengano le idee utilizzate e a chi appartenga il contributo originale.
L’appello è apparso tre giorni dopo che OpenAI ha pubblicato la soluzione al problema del premio del millennio di Navier-Stokes una delle sette problematiche del millennio, il problema dell’esistenza e della regolarità delle soluzioni delle equazioni di Navier-Stokes. La risoluzione del problema ha richiesto agli agenti circa 130 miliardi di token di output e 2,7 milioni di messaggi scambiati. La verifica indipendente del risultato da parte della comunità matematica è in corso.
La storia intorno alle equazioni di Navier-Stokes ha mostrato contemporaneamente il problema di paternità di cui parlano i firmatari del nuovo appello. Il matematico dell’Università di New York Tristan Buckmaster e il dipendente di Anthropic Levent Alpöge hanno lavorato parallelamente su problemi simili e hanno pubblicamente discusso con OpenAI sulla priorità e sulle circostanze della comparsa del risultato aziendale.
L’attuale avvertimento non è stato il primo segnale di allarme da parte della comunità matematica.
A giugno, l’Unione Matematica Internazionale ha sostenuto una dichiarazione ufficiale preparata dopo una conferenza all’Università di Leiden sulle AI. Gli autori del documento hanno invitato a mantenere la possibilità di verifica indipendente dei risultati, la paternità chiara, la responsabilità per la correttezza delle prove e l’accesso aperto dei ricercatori all’infrastruttura di calcolo. Il nuovo appello è risultato significativamente più duro ed è apparso dopo una settimana di discussioni tra i vincitori della medaglia Fields.
Ciononostante, i firmatari non propongono di rinunciare all’IA. I matematici riconoscono apertamente che i nuovi sistemi possono accelerare le ricerche e aiutare a trovare idee che sarebbe difficile per le persone scoprire da sole. Il pericolo lo vedono altrove. Se il successo dell’IA viene misurato dal numero di celebri problemi risolti e dalla velocità di pubblicazione dei record, le aziende riceveranno l’incentivo a produrre sempre più risposte pronte, mentre la scienza è interessata principalmente a comprendere perché il risultato trovato è corretto e quali nuove conoscenze se ne possono ottenere.
Gli autori dell’appello ritengono che il conflitto intorno alla matematica sia un esempio precoce di un problema più ampio del lavoro intellettuale. Gli anni di preparazione di uno scienziato, un programmatore, un ingegnere o un autore servono non solo per il prodotto finale. L’istruzione forma la capacità di porre nuove domande, valutare le idee altrui e sviluppare i propri metodi. L’IA riproduce sempre meglio il risultato finale di tale lavoro, quindi la società rischia di iniziare a ottimizzare la produzione di risposte e contemporaneamente distruggere l’ambiente in cui sorgono nuove domande.
RHC4Edu nasce dalla volontà della community di Red Hot Cyber di portare la cultura della cybersecurity, dell’intelligenza artificiale e del digitale direttamente nelle scuole, mettendo gratuitamente a disposizione degli studenti l’esperienza di professionisti, ricercatori e specialisti del settore. Il progetto è ufficialmente operativo e permette agli istituti interessati di richiedere workshop gratuiti e incontri con gli esperti della community, attraverso un coordinamento della redazione che mette in relazione le esigenze della scuola con le competenze e la disponibilità dei professionisti presenti sul territorio.
L’obiettivo di RHC4Edu non è trasformare gli studenti in tecnici informatici, ma aiutarli a sviluppare consapevolezza e pensiero critico davanti a un mondo sempre più digitale. Cybersecurity, truffe online, privacy, social network, cyberbullismo, fake news e intelligenza artificiale diventano così argomenti da affrontare con esempi concreti e con il contributo diretto di chi lavora quotidianamente nel settore. Un’iniziativa costruita sulla condivisione della conoscenza e sul volontariato della community, perché portare queste competenze nelle aule significa anche offrire ai ragazzi la possibilità di conoscere nuove professioni, sviluppare curiosità e imparare a vivere la tecnologia in modo più sicuro e consapevole.
Prenota il tuo workshop gratuito con gli esperti di Red Hot Cyber.