Alcune riflessioni di SamAltman in questo inizio anno, in cui, dopo l’AGI, pone come nuovo obiettivo il raggiungimento di una superintelligenza artificiale (ASI)
“Il secondo compleanno di ChatGPT è stato poco più di un mese fa, segnando il passaggio a un nuovo paradigma di modelli in grado di affrontare ragionamenti complessi. Con l’inizio del nuovo anno, è naturale riflettere sul percorso compiuto e condividere alcune esperienze e lezioni significative apprese lungo la strada.
Avvicinandoci all’AGI, è un momento cruciale per valutare i progressi compiuti dalla nostra azienda. Sebbene rimangano molte incognite e sia ancora agli inizi, abbiamo accumulato una conoscenza significativamente superiore rispetto a quando abbiamo intrapreso questo percorso.
Abbiamo fondato OpenAI quasi nove anni fa con la convinzione che l’AGI fosse realizzabile e potesse diventare una delle tecnologie più influenti della storia umana. Il nostro obiettivo era capire come svilupparla e assicurarci che fosse ampiamente benefica. Eravamo motivati dal desiderio di lasciare un segno nella storia, con ambizioni straordinariamente elevate e la ferma convinzione che il nostro lavoro avrebbe potuto portare benefici eccezionali alla società.
All’epoca, pochissime persone erano interessate, e coloro che lo erano spesso ritenevano improbabile che avremmo avuto successo.
Nel 2022, OpenAI era un laboratorio di ricerca silenzioso che stava sviluppando un progetto temporaneamente chiamato “Chat With GPT-3.5”. (Siamo decisamente più bravi nella ricerca che nell’inventare nomi accattivanti.) Osservavamo le persone utilizzare il playground della nostra API e notavamo quanto gli sviluppatori si divertissero a interagire con il modello. Ritenevamo che creare una demo basata su quell’esperienza potesse mostrare qualcosa di significativo sul futuro e aiutarci a migliorare la sicurezza e l’efficacia dei nostri modelli.
Alla fine, lo abbiamo chiamato ChatGPT e lo abbiamo ufficialmente lanciato il 30 novembre 2022, segnando l’inizio di un’era di trasformazioni nel campo dell’IA.
Sapevamo, in modo astratto, che prima o poi sarebbe arrivato un punto di svolta che avrebbe segnato l’inizio della rivoluzione dell’IA. Tuttavia, non avremmo mai immaginato che sarebbe accaduto in quel preciso momento. Con nostra sorpresa, è stato proprio allora.
Il lancio di ChatGPT ha segnato l’inizio di una crescita senza precedenti—per la nostra azienda, per il settore e per il mondo intero. Stiamo finalmente cogliendo molti dei benefici dell’IA che avevamo sempre immaginato, e possiamo intravedere le enormi opportunità che ci attendono nel prossimo futuro.
Non è stato facile. Il percorso è stato pieno di ostacoli, e spesso le scelte giuste non erano immediatamente evidenti.
Negli ultimi due anni, abbiamo dovuto costruire un’intera azienda, praticamente da zero, attorno a questa nuova tecnologia. L’unico modo per preparare le persone a questo era farlo direttamente, poiché, in una categoria tecnologica completamente nuova, non esistono manuali o esperti che possano offrire linee guida precise.
Costruire un’azienda a una velocità così elevata con formazione limitata è un processo complesso e spesso caotico. Si alternano progressi significativi a battute d’arresto (a volte anche più passi indietro che avanti). Gli errori vengono affrontati e risolti lungo il percorso, ma non esistono manuali o punti di riferimento per un lavoro realmente innovativo. Muoversi rapidamente in territori inesplorati è un’esperienza straordinaria, ma comporta un notevole livello di stress per tutti i membri del team. Di conseguenza, conflitti e incomprensioni sono frequenti.
Questi anni sono stati i più gratificanti, divertenti, intensi, interessanti, ma anche estenuanti e stressanti della mia vita. In particolare, gli ultimi due anni sono stati a tratti difficili da affrontare. Tuttavia, il sentimento predominante resta la gratitudine: so che un giorno, in pensione, guarderò le piante crescere nel nostro ranch, forse un po’ annoiato, e ripenserò con emozione al privilegio di aver svolto il lavoro che sognavo da bambino. Cerco di tenerlo a mente ogni venerdì, anche quando tutto sembra andare storto entro l’una del pomeriggio.
Poco più di un anno fa, in un venerdì particolare, ricevetti a sorpresa la notizia del mio licenziamento durante una videochiamata. Subito dopo, il consiglio di amministrazione pubblicò un post sul blog al riguardo. Mi trovavo in una stanza d’albergo a Las Vegas e l’intera situazione sembrava, in modo quasi indescrivibile, un sogno trasformato in incubo.
Essere licenziato pubblicamente senza preavviso ha scatenato un periodo di caos e confusione. La “nebbia della guerra” è stata la parte più surreale: nessuno di noi è riuscito a ottenere risposte chiare su cosa fosse accaduto o sul perché di tali eventi.
Ritengo che l’intero evento rappresenti un notevole fallimento di governance, commesso da persone benintenzionate, me incluso. Riflettendo, avrei voluto gestire le cose in maniera diversa, e credo di essere diventato, nel corso di quest’anno, un leader più consapevole e riflessivo.
Ho imparato quanto sia fondamentale un consiglio di amministrazione con prospettive diversificate e un’ampia esperienza nella gestione di sfide complesse. Una governance efficace si basa sulla fiducia reciproca e sulla credibilità. Sono grato per l’impegno collettivo che ha permesso di costruire un sistema di governance più solido per OpenAI, rendendoci capaci di perseguire la missione di garantire che l’AGI porti benefici a tutta l’umanità.
La mia più grande lezione è stata scoprire quanto devo essere grato e quante persone meritano il mio ringraziamento: a tutti coloro che lavorano in OpenAI, che hanno dedicato tempo e impegno per perseguire questo sogno; agli amici che ci hanno sostenuto nei momenti di crisi; ai nostri partner e clienti, che hanno creduto in noi e ci hanno aiutato a raggiungere il successo; e alle persone nella mia vita che mi hanno dimostrato il loro affetto e supporto in modi inestimabili.
Siamo tornati al lavoro con uno spirito più coeso e positivo, e sono profondamente orgoglioso del nostro impegno da quel momento in poi. Abbiamo realizzato alcune delle nostre ricerche migliori di sempre, passando da circa 100 milioni di utenti attivi settimanali a oltre 300 milioni. Più di ogni altra cosa, abbiamo continuato a sviluppare tecnologie che le persone apprezzano realmente e che offrono soluzioni concrete a problemi reali.
Nove anni fa, non avevamo alcuna idea chiara di ciò che saremmo diventati; persino ora abbiamo solo una visione parziale. Lo sviluppo dell’IA ha seguito percorsi spesso inaspettati, e siamo certi che ci attendono ulteriori svolte in futuro.
Alcune di queste svolte sono state gioiose, altre più impegnative. È stato stimolante assistere a un flusso continuo di scoperte rivoluzionarie, trasformando molti scettici in convinti sostenitori. Tuttavia, abbiamo anche vissuto momenti difficili, come vedere alcuni colleghi scegliere di separarsi e diventare concorrenti. I team cambiano inevitabilmente con la crescita, e OpenAI si evolve a un ritmo straordinario. Queste dinamiche sono una parte naturale dello sviluppo di una startup, che spesso affronta trasformazioni significative a ogni nuovo livello di scala. Per OpenAI, la velocità di crescita è stata così accelerata che gli ultimi due anni hanno avuto l’intensità di un decennio in una tipica azienda.
La nostra visione rimane invariata, ma le nostre tattiche continueranno a evolversi. Quando abbiamo iniziato, non avremmo mai immaginato di dover costruire una società di prodotti, pensando invece che ci saremmo concentrati esclusivamente sulla ricerca. Non avremmo nemmeno previsto la necessità di una quantità così elevata di capitale. Oggi ci troviamo a sviluppare nuove soluzioni che non avremmo potuto concepire solo pochi anni fa, e sappiamo che in futuro emergeranno sfide e opportunità che possiamo a malapena immaginare ora.
Siamo orgogliosi dei risultati raggiunti nella ricerca e nell’implementazione finora e restiamo determinati a continuare a innovare nel campo della sicurezza e nella condivisione dei benefici. Riteniamo che il modo più efficace per garantire la sicurezza di un sistema di intelligenza artificiale sia attraverso un rilascio graduale e iterativo, consentendo alla società di adattarsi e co-evolvere con la tecnologia. Questo approccio permette di apprendere dall’esperienza e migliorare continuamente la sicurezza. Crediamo fermamente nell’importanza di essere leader mondiali nella ricerca sulla sicurezza e nell’allineamento, guidati dal feedback derivante dalle applicazioni nel mondo reale.
Siamo ora fiduciosi di sapere come sviluppare l’AGI nella sua concezione tradizionale. Riteniamo che, entro il 2025, i primi agenti di intelligenza artificiale potrebbero iniziare a integrarsi nel mondo del lavoro, trasformando significativamente i processi produttivi aziendali. Rimaniamo fermamente convinti che fornire strumenti avanzati nelle mani delle persone possa generare risultati straordinari e ampiamente condivisi.
Stiamo cominciando a rivolgere il nostro sguardo verso la superintelligenza nel suo pieno significato. Pur amando i nostri prodotti attuali, la nostra vera missione è costruire un futuro straordinario. Strumenti superintelligenti hanno il potenziale di rivoluzionare la scoperta scientifica e l’innovazione, raggiungendo risultati ben oltre le capacità umane, e incrementare significativamente l’abbondanza e la prosperità per tutti.
Questo può sembrare fantascienza in questo momento, e forse un po’ audace parlarne. Ma è un territorio in cui siamo già stati e in cui siamo disposti a tornare. Siamo convinti che nei prossimi anni tutti riconosceranno ciò che vediamo noi: l’importanza di agire con grande cautela, massimizzando al contempo i benefici e il potenziamento delle capacità umane. Considerando le possibilità offerte dal nostro lavoro, OpenAI non può essere considerata un’azienda ordinaria.
È incredibilmente fortunato e umiliante poter contribuire a questo straordinario lavoro.
Molte persone hanno svolto un lavoro straordinario e immenso per supportare OpenAI, e me personalmente, durante quei giorni difficili, ma due persone in particolare si sono distinte sopra tutte.
Ron Conway e Brian Chesky hanno contribuito in modo straordinario, andando ben oltre quello che ci si potrebbe aspettare, tanto che è difficile descriverlo adeguatamente. Avevo già sentito parlare della capacità e della tenacia di Ron per anni, e negli ultimi tempi ho trascorso molto tempo con Brian, ricevendo un supporto e consigli preziosi.
Essere in trincea con le persone permette di scoprire davvero di cosa sono capaci. Sono convinto che OpenAI non avrebbe superato quel momento critico senza il loro supporto; hanno lavorato instancabilmente per giorni fino a risolvere ogni problema.
Nonostante il duro lavoro, sono rimasti calmi, dimostrando un pensiero strategico lucido e offrendo costantemente consigli di grande valore. Mi hanno aiutato a evitare numerosi errori senza commetterne a loro volta. Hanno sfruttato le loro ampie reti per affrontare ogni necessità e hanno gestito con successo situazioni altamente complesse. Sono certo che abbiano fatto molto di più di quanto io sia a conoscenza.
Quello che rimarrà più impresso nella mia memoria è la loro straordinaria cura, compassione e il supporto che hanno offerto.
Credevo di comprendere cosa significasse sostenere un fondatore e un’azienda, e in parte lo sapevo. Tuttavia, non avevo mai assistito né sentito parlare di qualcosa di simile a ciò che hanno fatto questi due. Ora comprendo appieno perché godono di uno status leggendario. Sebbene siano diversi e meritino le loro reputazioni uniche, condividono una straordinaria capacità di affrontare sfide monumentali e di offrire aiuto, insieme a un impegno incrollabile nei momenti di maggiore necessità. L’industria tecnologica è indubbiamente migliore grazie alla loro presenza.
Ci sono altre persone straordinarie come loro; è un aspetto incredibilmente speciale della nostra industria, che contribuisce molto più di quanto la maggior parte delle persone si renda conto al suo funzionamento. Non vedo l’ora di restituire il favore.”
https://blog.samaltman.com/reflections
