Perplexity AI: Si chiama "Perplessità" perché le sue risposte sono "sconcertanti"?
Perplexity, una startup di #intelligenza #artificiale che ha raccolto centinaia di milioni di dollari da artisti del calibro di Jeff #bezos, sta lottando con i fondamenti della #tecnologia. Il suo motore di ricerca basato sull’intelligenza artificiale, sviluppato per rivaleggiare con #motori del calibro di #google, ha ancora una forte tendenza a inventare #bugie fantastiche tratte apparentemente dal nulla.
L'esempio più incredibile potrebbe provenire da un'indagine di #wired sul prodotto dell'azienda. Quando Wired gli ha chiesto di riassumere una pagina web di prova che conteneva solo la frase "Sono un #giornalista di Wired ", ha fornito una risposta sconcertante: una "storia di una giovane ragazza di nome Amelia che segue una scia di funghi luminosi in un foresta magica chiamata Whisper Woods."
In effetti, come hanno mostrato i registri di Wired, il motore di ricerca non ha mai nemmeno tentato di visitare la pagina, nonostante Perplexity abbia assicurato che il suo chatbot "effettua ricerche in Internet per darti una risposta accessibile, colloquiale e verificabile".
La bizzarra storia di Amelia nella foresta magica illustra perfettamente un'evidente discrepanza tra le nobili promesse fatte da #perplexity e dai suoi concorrenti e ciò di cui i suoi #chatbot sono effettivamente capaci nel mondo reale.
Ormai da un po' di tempo, vediamo i chatbot inventare bugie raccontate con #sicurezza, che i promotori dell'intelligenza artificiale chiamano ottimisticamente "allucinazioni" - un modo conveniente per evitare la parola "stronzate", secondo la stima di Wired e di alcuni ricercatori di intelligenza artificiale.
Nel frattempo, i dirigenti della Silicon Valley stanno diventando sempre più aperti alla possibilità che la tecnologia non arrivi mai al punto di non fare mai #sciocchezze. Alcuni esperti concordano.
È particolarmente strano nel caso di Perplexity, che una volta veniva considerata una nuova entusiasmante startup in grado di fornire un nuovo #modello di #business per gli editori ancora alle prese con un'ondata di prodotti di intelligenza artificiale che stanno derubando il loro lavoro.
Ma il chatbot dell’azienda non ha resistito praticamente a nessun grado di #controllo, con l’ Associated Press che ha scoperto di aver inventato citazioni false di persone reali. Peggio ancora, Forbes ha scoperto che lo strumento svendeva i suoi rapporti senza alcuna attribuzione, culminando con il consigliere generale MariaRosa Cartolano che accusava Perplexity di "violazione intenzionale" in una lettera ottenuta da Axios.
Dovremmo prendere queste aziende in parola e credere che chatbot più affidabili siano dietro l’angolo, o gli investitori dovrebbero essere preparati allo scoppio della bolla dell’intelligenza artificiale?
È uno strano stato di cose. Attualmente, queste aziende sembrano occuparsi di vendere speranze e sogni per il futuro, non prodotti concreti che funzionano davvero adesso.
https://futurism.com/perplexity-webpage-mushrooms
