OpenAI è ben lontana dall'essere un'azienda altruistica e senza scopo di lucro.

Ora è il volto di un'industria dell'intelligenza artificiale in forte espansione ed è di fatto a scopo di lucro in tutto e per tutto, tranne che nel nome, e procede a gonfie vele con scarsa considerazione per l'impatto ambientale della sua tecnologia o per i potenziali rischi esistenziali che pone alla società.

Ma secondo Gary Marcus, scienziato cognitivo e importante ricercatore di intelligenza artificiale, il peggio deve ancora venire. Secondo la sua valutazione, OpenAI potrebbe presto assumere una piega ancora più distopica, alla maniera del romanzo "1984" di George Orwell, iniziando a spiarti.

"La mia ipotesi è che OpenAI diventerà l'azienda più orwelliana di tutti i tempi", ha detto Marcus durante un seminario al Center for Human-Centered Artificial Intelligence di Stanford la scorsa settimana, come citato da Business Insider. "Quello che saranno spinti a fare è diventare un'azienda di sorveglianza".

Soldi veloci:
Il motivo per cui ciò accadrà è semplice: OpenAI avrà bisogno di un modo per fare soldi, ha affermato Marcus.

"OpenAI ha venduto il sogno di un'IA universale per tutti gli scopi, e nel 2023 praticamente ogni grande azienda ha condotto studi pilota su questa premessa", ha detto in seguito Marcus a BI. "Ma nel 2024, molti resoconti dal campo riguardano la delusione: la tecnologia non è ancora abbastanza affidabile per la produzione, perché è afflitta da problemi come allucinazioni ed errori stupidi".

"Molte aziende stanno iniziando a essere caute", ha aggiunto.

Ciò rispecchia quanto detto da altri analisti sul boom-bolla dell'IA (e, in effetti, ciò su cui Marcus ha insistito in precedenza). Nonostante l'hype e le enormi quantità di investimenti, resta incerto come questi modelli di IA genereranno profitti sufficienti.

Per ora, le evidenti insidie ​​e le carenze commerciali della tecnologia vengono trascurate in nome della promessa di una sua futura capacità e innovazione molto più grandi di quanto non sia attualmente.

Un appuntamento con i dati:
Una startup come OpenAI che intraprende la strada della sorveglianza non sarebbe inaudita. La sorveglianza, in una forma o nell'altra, è un flusso collaterale di entrate per molte grandi aziende tecnologiche. Piattaforme come X-formerly-Twitter, ad esempio, vendono i dati degli utenti a terze parti. Tali terze parti possono essere aziende di sorveglianza, che poi vendono i loro servizi alle agenzie governative.

Ma in quanto leader del settore dell'intelligenza artificiale generativa, che si basa sul consumo di massa di dati provenienti da ogni angolo del web, OpenAI sarà in una posizione unica per implementare potenti capacità di sorveglianza proprie.

Alcuni dei segnali di avvertimento potrebbero già essere evidenti. Quest'estate, ad esempio, OpenAI ha nominato in modo controverso un ex direttore della National Security Agency, Paul Nakasone, nel suo consiglio.

Marcus un tempo nutriva la speranza che OpenAI avrebbe corretto la rotta. Ma da allora è diventato cinico nei confronti della leadership del suo CEO Sam Altman, soprattutto ora che l'azienda abbandona l'atto non-profit.

"Negli ultimi mesi, la maschera è davvero caduta, e dubito seriamente che [Altman] tornerà mai alla missione", ha detto Marcus a BI. "La promessa agli investitori di trasformarsi in un'azienda a scopo di lucro significa sostanzialmente che la nave è salpata".
fonte