L’influencer americana Caryn Marjorie grazie a Forever Voices ha lanciato un chatbot con cui i suoi fan possono interagire. Un suo avatar virtuale addestrato con migliaia di ore di video della ragazza. Sarà l’inizio di una nuova era di fidanzate/i virtuali?
Circa una settimana fa l’influencer 23enne Caryn Marjorie ha lanciato un particolare servizio. Si tratta di un chatbot basato su un sistema di intelligenza artificiale che i suoi fan possono utilizzare per replicare una conversazione con Caryn stessa.
“Sono sempre stata molto vicina al mio pubblico, ma quando si hanno centinaia di milioni di visualizzazioni ogni mese non risulta più umanamente possibile parlare ad ognuna di queste persone. È qui che CarynAI colmerà il vuoto” ha dichiarato la ragazza.
Un dollaro al minuto per parlare con una fidanzata virtuale
Per usufruire del servizio soprannominato CarynAI gli utenti pagano un dollaro per ogni minuto di conversazione virtuale. Non sono in pochi tra i milioni di follower della giovane ragazza che hanno già provato il chatbot. Sarebbero più di un migliaio i “fidanzati virtuali” che trascorrono pochi minuti o ore intere a parlare con la replica virtuale di Caryn.
In una sola settimana la ragazza, secondo quanto dichiarato dai suoi business manager a Fortune, avrebbe ricavato ben 71mila dollari grazie al suo chatbot.
“Essendo la prima influencer ad offrire questo tipo di servizio ho potuto decidere il prezzo senza preoccuparmi della competizione con altri servizi simili. Il costo è giustificato dallo sforzo richiesto per mantenere il servizio attivo e supportare il team che se ne occupa” le parole di Caryn.
La carriera di Caryn
Caryn ha iniziato la sua carriera da influencer a soli quindici anni su YouNow, piattaforma di live-streaming. Quando questa ha perso il suo fascino, è passata a Instagram e YouTube dove è diventata una beauty blogger. Col tempo si è resa conto che la sua carriera avrebbe potuto fare un ulteriore salto “sfruttando” la sua popolarità tra ragazzi e uomini. È a questo punto che passa a Snapchat, diventando l’influencer in più rapida crescita sulla piattaforma riuscendo a guadagnare un milione di dollari all’anno grazie al revenue sharing program di Snapchat.
Il chatbot sembra quindi essere un naturale passaggio nella carriera di Caryn.
Un clone virtuale di @cutiecaryn
Il chatbot attrae tante persone per la sua accuratezza. Oltre a rispondere con messaggi testuali, è in grado di riprodurre fedelmente la voce della ragazza poiché il sistema è stato addestrato con migliaia di ore di filmati di Caryn, ora cancellati, presenti sul suo canale YouTube.
CarynAI è ancora in fase di test e solo chi è parte del gruppo privato su Telegram creato dalla ragazza ha potuto accedere al chatbot. Proprio questo martedì, però, dovrebbe avvenire il lancio ufficiale del servizio promosso sui profili social della giovane influencer.
Già da questa prima fase di test sono sorti alcuni problemi. La ragazza ha dichiarato ad Insider che il chatbot avrebbe intrapreso delle conversazioni esplicite a sfondo sessuale con alcuni degli utenti, nonostante non fosse programmato per fare ciò. Il suo team è al lavoro per risolvere la problematica ma, diciamocelo, non era certo uno sviluppo difficilmente prevedibile.
CarynAI è la Samantha di “Her”?
Si tratta del primo avatar che funge da fidanzato virtuale sviluppato da Forever Voices, che in precedenza ha già creato dei chatbot che ricreano le voci di personaggi famosi come Steve Jobs o Taylor Swift con cui è possibile parlare, come per CarynAI, pagando una tariffa al minuto.
CarynAI, però, è un passo avanti in quanto ricrea un reale coinvolgimento emotivo un po’ come nel film “Her” del 2013 in cui il protagonista Theodore, interpretato da Joaquin Phoenix, si innamora di un rivoluzionario sistema operativo basato sull’intelligenza artificiale a cui Scarlett Johanson presta la voce.
La questione etica
Se questo per alcuni è il punto forte di CarynAI, ad altri sorgono invece numerosi dubbi di natura etica a riguardo.
“Vorrei che pensassimo molto profondamente a come potrebbe influenzare le nostre interazioni con altre persone. Spero solamente che gli interessati discutano delle considerazioni etiche prima che la tecnologia si muova troppo velocemente” le parole del Dr. Jason Borenstein, direttore del programma di etica alla Georgia Tech e direttore del Programma di Ricerca Etica e Responsabile della National Science Foundation.
Risponde il CEO di Forever Voices, John Meyer dichiarando che “l’etica è qualcosa che io e il mio team di ingegneri prendiamo molto seriamente, motivo per cui stiamo cercando un Chief Ethics Officer da unire alla nostra squadra”. Secondo Meyer, però, questa tecnologia può essere particolarmente importante per i più giovani, magari quelli considerati “strambi” e che hanno difficoltà nel farsi degli amici.
Dall’altra parte, proprio questo senso di maggiore sicurezza nell’interfacciarsi con personalità virtuali potrebbe portare le persone a preferire queste relazioni a quelle umane e reali come dichiara il biologo evoluzionista e professore alla University of New South Wales Sydney, il Dr. Robert Brooks. La sua preoccupazione riguarda più che altro i giovani nell’età della pubertà, momento in cui si sviluppa l’abilità di creare relazioni sociali e intime.
“È facile immaginare le implicazioni negative di queste nuove tecnologie. Ma potrebbero esserci anche risvolti positivi. Ad esempio, potrebbe renderci più socievoli anche nella vita reale. Non so se questo accadrà, poiché richiederebbe un approccio di ingegneria sociale, a cui non credo troppe aziende saranno interessate” continua il Dr. Brooks.
Lo scopo della ragazza sembrerebbe benevolo. Dichiara infatti che la sua generazione, la Gen Z, a causa della pandemia ha subito molti effetti collaterali dell’isolamento come lo sviluppo di disturbi di ansia che risultano in un timore a relazionarsi con l’altro, in particolare nel caso delle relazioni amorose. Caryn spera, quindi, che la sua gemella virtuale possa servire da “allenamento” per stabilire delle relazioni nella vita reale e che non si limiti solamente ad una verosimile interazione fan-influencer. Questa, almeno, la versione ufficiale che calza bene alle comunicazioni istituzionali. Rimane il legittimo sospetto che Caryn abbia, in realtà, anche uno spiccato fiuto per i nuovi business. L’ansia da relazione, dunque, può trasformarsi in uno straordinario boomerang redditizio. Un allenamento sociale, certo, ma non solo. Ben inteso: nulla che meriti chissà quale condanna morale. Ha avuto una buona idea e ora, probabilmente, ci guadagnerà molto. Non spetta alle influencer scrivere le norme di controllo dei rapporti sociali.
I rischi per la vera Caryn
Secondo la giovane influencer il suo chatbot potrebbe arrivare a fatturare ben 5 milioni di dollari al mese, prevedendo un pubblico di utenti paganti regolare di circa 20mila persone. Basterebbe quindi che poco più dell’1% dei suoi follower parli con la sua versione virtuale.
Se questo è il lato positivo, però, ad esso potrebbe corrispondere un altro ben più negativo e sembra che Caryn ne sia consapevole. La ragazza, infatti, è stata già vittima di alcuni suoi fan stalker che si sono appostati fuori da casa sua o che, addirittura, hanno tentato di intrufolarsi al suo interno. Il confine tra virtuale e reale può essere troppo labile per garantire protezione. Le star sono già particolarmente esposte in questo senso: figuriamoci quelle che permettono di stringere rapporti personali (seppur con alias).
Non risulta difficile pensare che CarynAI possa peggiorare questa situazione, ed è per questo che la ragazza si è munita di un team che si occuperà della sua sicurezza 24 ore su 24. Nonostante ciò, per Caryn è prevista un’ulteriore precauzione nel suo chatbot virtuale. Alcuni dei suoi dati personali non vengono condivisi dalla sua versione virtuale come la data del suo compleanno o i membri della sua famiglia, ricordando all’utente che pone domande su questi argomenti che CarynAI è solamente una “fidanzata digitale che non ha un corpo o una biografia”. Ci mancherebbe, verrebbe da dire. Tuttavia non è escluso che qualcuno ripercorra questa strada con meno paletti: quello che può accadere ha una dimensione di preoccupazione. Se per alcuni questi rischi possono sembrare sproporzionati all’attività condotta dalla ragazza, inoltre, Caryn li definisce semplicemente “i rischi del mestiere” e sembra essere entusiasta dei suoi 15mila fidanzati virtuali.
Non sono mancate le critiche rivolte a Caryn dopo il lancio del suo rivoluzionario chatbot. La ragazza, infatti, è stata addirittura costretta a lasciare la sua abitazione a causa delle orribili minacce ricevute da chi vede nel nuovo chatbot la fine dell’umanità.
Un futuro di compagni virtuali
Potrebbe quindi uno scenario alla “Her” diventare il futuro? Secondo alcuni sì. Tra questi il già citato CEO di Forever Voices, che ha sviluppato CarynAI. Meyer ha commentato così la sua esperienza con CarynAI: “Mi sono commosso durante la mia conversazione con la versione virtuale di Caryn. Ho instaurato una vera connessione e mi sono sentito supportato. È stato come prendere parte ad un vero appuntamento, che è durato diverse ore. Guardando al futuro credo che questo sia l’inizio di un futuro in cui la compagnia umana potrebbe essere sostituita dall’intelligenza artificiale.” Che questo sia progresso o meno ciascuno ha la sua sensibilità.
Si pone, però, di conseguenza anche la questione della dipendenza da questi sistemi. È di poche settimane fa la notizia di Daniele Amadio, 58 anni, che ha dichiarato di essere dipendente da ChatGPT e di avere per questo motivo perso amici e fidanzata. Per evitare situazioni di questo genere, CarynAI è programmato per interrompere la conversazione dopo un’ora, invitando però gli utenti a riprenderla più tardi (sono pur sempre clienti). Non c’è invece un limite orario giornaliero per il suo utilizzo e sembra che alcuni utenti passino diverse ore al giorno in compagnia della Caryn virtuale.
Il potenziale dell’AI per i creator
Di sicuro CarynAI mostra un’ulteriore potenziale dell’intelligenza artificiale che permette ad un singolo di raggiungere un audience in maniera quasi personale. Questo permette di intensificare le relazioni che si instaurano tra influencer e follower. Secondo Meyer, però, questo discorso non vale per le celebrità tradizionali.
Le personalità diventate famose online, infatti, hanno un pubblico diverso che tende ad instaurare un rapporto più profondo con la persona che seguono, interagendo con lei. Quando il pubblico inizia a crescere, però, diventa sempre più difficile per L’influencer interagire e rispondere a tutti i suoi seguaci. Ed è qui che l’AI può aiutare.
Sarebbe sicuramente positivo per i creator online, sollevati dal compito di rimanere appiccicati allo smartphone per interagire con l’audience.
Rimane la questione se il pubblico sarebbe davvero contento di ricevere una risposta dalla sua influencer preferita, consapevole del fatto che non sia veramente lei ma un suo clone virtuale. La storia di Caryn, però, risponde a questo dubbio con gli altissimi numeri registrati sul sito Caryn AI. Attualmente infatti, l’attesa per accedere al servizio è di ben 96 ore.
Non soffermiamoci, però, solo alla sua applicazione collegata alle celebrità o agli influencer. Proviamo a portare questa idea ad un piano superiore rispetto all’entertainment. E se qualcosa di simile la ideasse un politico per la campagna elettorale? Le implicazioni a cascata andrebbero oltre ogni confine.
