Technology Pusher: gli algoritmi che ingannano Alexa

Anche Alexa si fa fregare da alcuni algoritmi.

Gli algoritmi che riescono a ingannare gli smart speaker come Alexa al momento sono due, e hanno nomi impronunciabili. Si chiamano SV2TTS e AutoVS e testano campioni di registrazioni vocali prese a casaccio in database pubblici.

Ci troviamo all’Università di Chicago, pioniera in alcune ricerche iper tecnologiche e patria dell’hi-tech. Qui, un team di ricercatori ha scoperto degli algoritmi così avanzati al punto di ingannare i dispositivi di riconoscimento vocale. Primo fra tutti, da sempre il più scelto e il più apprezzato nelle Best Amazon Choices, Alexa.

Come funzionano questi algoritmi?

I sistemi sono stati costruiti utilizzando in totale 90 frammenti di vocali da cinque minuti di persone che parlano. Non banali conversazioni, s’intende, ma dialoghi registrati sui mezzi pubblici, o in fila al bar, piuttosto che testi scolastici letti e ripetuti ad alta voce dagli studenti durante le ore passate sui banchi.

I due algoritmi sono stati poi calibrati sulle informazioni ricevute e, se messi a confronto con il colosso degli smart speaker Alexa, ottengono e recepiscono messaggi più precisi, e quindi in grado di fornire soluzioni e risposte decisamente più adeguate alle circostanze.

In poche parole, l’algoritmo faceva domande e Alexa non sapeva che dire. Viceversa, Alexa chiedeva e l’algoritmo rispondeva molto più precisamente di quanto avrebbe saputo fare Alexa stessa.

Gli esperimenti con gli algoritmi SV2TTS e AutoVS

Gli esperti hanno chiesto aiuto a 15 volontari che, felici di aiutarli, hanno fornito campioni vocali dai loro dispositivi di riconoscimento vocale. I ricercatori hanno poi testato i sistemi utilizzando un software open source di alto livello (Resemblyzer) che ascolta, confronta e ripete le registrazioni vocali per fornire una valutazione che si basi su campioni simili.

Risultato? Gli algoritmi sono in grado di ingannare anche questo software, in maniera anche più disarmante rispetto a come ingannano Alexa. Più del 60% delle volte entrambi i sistemi convincono Alexa a cercare delle informazioni al fine di valutarne l’autenticità e il risultato era, per il povero smartspeaker di Amazon, un fallimento.