Použil som AI na klonovanie hlasu a navádzanie mamy na myšlienku, že som to bol ja

Pozrite si toto video na YouTube

youtube.com



V januári mužmenom Aviv Ovadya vystrašilo ma to . Dohodol som sa, že sa s ním porozprávam o budúcnosti dezinformácií, pričom som očakával triezvu predpoveď na nasledujúce roky ako postupne horšiu. Ovadya však vykreslil oveľa slabší obraz-budúcnosť, v ktorej by množstvo ľahko použiteľných a bezproblémových technológií demokratizovalo schopnosť manipulovať s vnímaním a falšovať realitu. Čo sa stane, uvažoval, keď ktokoľvek dokáže, aby to vyzeralo, že sa niečo stalo, bez ohľadu na to, či sa to stalo alebo nie? '

Ovadya mi povedal o „apatii reality“, „ľudských bábkach“ a „infokalypse“. Bolo to desivé - o to viac, že ​​rané verzie niektorých dystopických technológií, o ktorých sme diskutovali, už sú tu; niektoré z nich sú dokonca dostupné pre verejnosť.

Takto som skončil pri vytváraní digitálnej rekreácie môjho hlasu s vykreslením AI, ktorá bola taká presvedčivá, že oklamala osobu, ktorá môj hlas pravdepodobne pozná lepšie ako ktokoľvek iný: moja mama.

Ak sa chcete o tomto príbehu dozvedieť viac, pozrite sa na novú sériu BuzzFeed News Sledujte toto na Netflixe.



Na to som použil Lyrebird, bezplatný softvér na vytváranie „vokálnych avatarov“. Lyrebird analyzuje kadenciu vašej reči a spôsob, akým vyslovujete samohlásky a spoluhlásky, aby ste vytvorili realistickú digitálnu kópiu vašich rečových vzorov.

Tento proces vyžaduje, aby ste si prečítali sortiment svetských fráz, ako napríklad sledovanie paródie bola skvelá zábava, alebo si Eric vzal vitamíny a pokračoval v cvičebnom režime, zatiaľ čo váš hlas je zaznamenaný.

Lyrebird

Jedna z fráz, ktoré vás Lyrebird žiada, aby ste si vytvorili kópiu svojho digitálneho hlasu.



Akonáhle zadáte dostatok príkladov, AI Lyrebird vytvorí kópiu vášho digitálneho hlasu. Potom môžete do textového poľa napísať čokoľvek a počuť to nahlas prečítané.

Na demonštráciu svojej AI Lyrebird použil svoju technológiu na vytvorenie digitálnej kópie hlasu Donalda Trumpa.

Lyrebird AI @LyrebirdAi

@realDonaldTrump https://t.co/a9qKmhwk5D

06:40 - 04. september 2017 Odpovedať Retweet Obľúbené

LyrebirdAi / Twitter / Via Twitter: @LyrebirdAi

Trvalo mi asi hodinu, kým som prečítal vstupné frázy (asi 60), aby som získal slušné podanie svojho hlasu. Prvá iterácia bola sotva dokonalá; bolo to monotónne a robotické - ale znelo to ako (robotické) ja.

Prvy pokus:



w.soundcloud.com

Napriek tomu boli základné prvky ako zvuky tónu a samohlásky dostatočne presné, aby z môjho editora vyvolali „omfg“.

Flákač

Keď som nakŕmil Lyrebird viac nahrávkami svojho skutočného hlasu, jeho digitálna kópia sa zlepšila. Špecifické bity - ako moja vokálna kadencia - sa zlepšili, aj keď celková kvalita bola stále zrnitá.

Druhý pokus bol o niečo lepší.

w.soundcloud.com

A asi po hodine záznamu som skončil s niečím celkom slušným.

w.soundcloud.com

Keď sme diskutovali o zázname s mojím redaktorom, zistili sme, že slušné bolo pravdepodobne dosť dobré na to, aby oklamalo nič netušiaceho človeka v názore, že môj „vokálny avatar“ som ja. Potreboval som len navrhnúť, aby som volal z oblasti so slabým príjmom buniek.

Flákač

Rozhodli sme sa, že nič netušiaca osoba by mala byť moja mama. Dôverne pozná môj hlas - ťažký cieľ.

Aby som sa pripravil, vyťukal som pár fráz, ktoré som pravdepodobne použil v krátkom hovore. Budem musieť udržať náš chat krátky - dlhá konverzácia by pravdepodobne odhalila ďalšie chyby v mojom digitálnom hlase a dala by mi preč. V ten večer som sa plánoval stretnúť s mamou na večeru, a tak som usúdil, že zavolám a rýchlo sa prihlásim, aby som potvrdil naše plány. Potom by som predstieral stratu služby a rozlúčil sa.

Netflix

Fungovalo to. Bez problémov. Takto to dopadlo:

video-player.buzzfeed.com

Netreba dodávať, že som bol celkom prekvapený.

Flákač

Môj lyrebirdský hlas nielenže oklamal moju matku, ale ťažko uverila, že ho vytvorila AI. „Nevedela som, že je niečo také možné,“ povedala mi neskôr a pripomenula mi, že manipulácia so zvukom a videom v jej zvuku znie viac ako sci -fi ako realita. 'Ani na chvíľu som nepochyboval, že si to ty.'

Technológia Lyrebird nie je ani zďaleka dokonalá, ale vyvíja sa dostatočne rýchlo, takže na tom vlastne nezáleží. Zlepší sa to a už je to dosť dobré na to, aby som oklamal moju mamu. Čo je desivé, niečo, čo si Lyrebird sám veľmi dobre uvedomuje.

„Predstavte si, že sme sa rozhodli túto technológiu vôbec neuvoľniť,“ vysvetľuje spoločnosť na etickej stránke na svojom webe. „Ostatní by to vyvinuli a ktovie, či by ich zámery boli rovnako úprimné ako naše: mohli by napríklad technológiu predávať iba konkrétnej spoločnosti alebo zle úmyselnej organizácii. Technológiu naopak sprístupňujeme komukoľvek a zavádzame ju postupne, aby sa jej spoločnosť dokázala prispôsobiť, nadobro využiť jej pozitívne aspekty a zabrániť potenciálne negatívnym aplikáciám. “

Lyrebird však nie je zďaleka jedinou spoločnosťou, ktorá hrá v prekérnej oblasti manipulácie so zvukom a videom. Aby som pochopil desivú budúcnosť falošných správ, pustil som sa do reportáže, ktorá ma zaviedla hlboko do sveta ľudských bábok, AI, deepfakes a digitálneho obťažovania. ●


Ak sa chcete dozvedieť viac o tomto príbehu, sledovaťSledujte toto na Netflixe, spravodajskej relácii od BuzzFeed News.