OpenAI, la società che ha lanciato il software di intelligenza artificiale generativa ChatGPT, era preoccupata che il suono realistico del suo software potesse indurre gli utenti ad affezionarsi ad esso, a scapito delle interazioni umane.
“L’antropomorfismo implica l’attribuzione di atteggiamenti o caratteristiche umane a qualcosa di non umano, come un modello di intelligenza artificiale”, ha affermato la società in un rapporto pubblicato giovedì.
“Il rischio potrebbe aumentare a causa delle funzioni vocali di GPT-4, che facilitano le interazioni di tipo umano”, osserva il rapporto.
Il documento è stato pubblicato il giorno prima del lancio della nuova versione di ChatGPT, GPT-4o, che include la possibilità per il software di rispondere vocalmente e condurre l’equivalente di una conversazione.
Ma avere lo stesso tipo di conversazione con un’intelligenza artificiale che si può fare con un essere umano può creare una “fiducia mal riposta” nel software, che l’audio aggiunto può rafforzare.
OpenAI conferma nello specifico di aver potuto osservare scambi tra tester della nuova versione con l’IA che sembravano mostrare la creazione di un legame emotivo, come esprimere rammarico per il fatto che quello fosse il loro ultimo giorno insieme.
“Questi casi sembrano certamente insignificanti, ma evidenziano la necessità di ulteriori ricerche su come questi effetti emergono nel lungo termine”, conclude il rapporto.
Entrare in una qualche forma di relazione sociale con l’intelligenza artificiale potrebbe anche incoraggiare gli utenti a ridurre il loro desiderio di avere rapporti con gli esseri umani, prevede OpenAI.
“Le interazioni prolungate con il modello possono avere un impatto sulle norme sociali. Ad esempio, i nostri modelli sono sempre rispettosi, consentendo agli utenti di interromperli in qualsiasi momento, un comportamento che può essere al di fuori delle norme delle interazioni sociali, sebbene normale per l’intelligenza artificiale”.
sostituire
La capacità dell’intelligenza artificiale di ricordare i dettagli delle conversazioni e di svolgere i compiti assegnati può anche portare gli utenti a fare troppo affidamento sulla tecnologia.
“Queste nuove preoccupazioni condivise da OpenAI riguardo al rischio di una potenziale dipendenza dall’audio ChatGPT sottolineano la misura in cui si pone la domanda: dovremmo prenderci il tempo e cercare di capire in che modo la tecnologia influisce sulle interazioni e sulle relazioni umane?” ha affermato Alon Yamin, co-fondatore e CEO di Copyleaks, una piattaforma di rilevamento del plagio basata sull’intelligenza artificiale.
Ha aggiunto: “L’intelligenza artificiale è una tecnologia complementare che mira ad aiutarci a semplificare il nostro lavoro e la nostra vita quotidiana, e non dovrebbe diventare un sostituto delle relazioni umane reali”.
OpenAI ha confermato di continuare a studiare come la funzionalità vocale dell’intelligenza artificiale possa rendere gli utenti legati emotivamente ad essa.
I tester sono riusciti anche a indurlo a ripetere informazioni false o a creare teorie di cospirazione, sollevando preoccupazioni sui rischi del modello di intelligenza artificiale.
La funzionalità vocale di Chat-GPT ha già suscitato molte reazioni negative e ha costretto OpenAI a scusarsi con l’attrice Scarlett Johansson lo scorso giugno per aver utilizzato una voce troppo vicina alla sua, innescando un dibattito sui rischi associati alla trascrizione delle voci utilizzando la tecnologia.
Se l’azienda nega di aver utilizzato la voce della Johansson, il fatto che il suo presidente, Sam Altman, abbia evidenziato la funzione vocale sui social network utilizzando una parola, “lei”, in riferimento al film in cui l’attrice interpreta un’intelligenza artificiale, non lo nega. Aiutala a convincere gli osservatori.
Il film, uscito nel 2013, racconta la storia di un uomo, interpretato da Joaquin Phoenix, che si innamora della sua intelligenza artificiale, Samantha, doppiata da Scarlett Johansson.
“Pluripremiato studioso di zombi. Professionista di musica. Esperto di cibo. Piantagrane”.