Deepfakes, nu med lyd!

Musikbranche og ophavsrettigheder, musikteori, artister, sange og videoer, butikker.
Nyt svar
Medlemsavatar
Mike-air
Forum Donator
Indlæg: 8664

Re: Deepfakes, nu med lyd!

Indlæg af Mike-air »

Våbenkapløbet er igang:
https://www.technologyreview.com/s/6138 ... fefor-now/

Jeg forudsiger at der går max 1 år, så er der et paper ude hvor de forsøger at snyde denne metode.

Jeg hørte selve skaberen af GAN’s (Ian Goodfellow) udtale sig om at han tror vi i fremtiden bliver nødt til at varemærke digitalt indhold med en krypteringsnøgle for at sikre autenticitet.

Der er et bevis fra 1989 som siger at: kan vi observere noget i data, kan vi også approximere det i et neuralt netværk, uanset hvor kompleks funktionen er.

Derfor er der meget der taler for at den langsigtede løsning vil være kryptering. På kort sigt er det bare en kamp om hvem der først finder et sikkerhedshul og exploiter eller fixer det.


Medlemsavatar
Mike-air
Forum Donator
Indlæg: 8664

Indlæg af Mike-air »

Christoffer I. N. skrev:
Haha. Virkelig fed video :-D

Gad vide om 2x Titan X 12GB kort kan klare opgaven... Måske man kunne lave en deepfake holger? :roll:

Medlemsavatar
Christoffer I. N.
Lydmaskinist
Indlæg: 32291
Sted: Hørsholm

Indlæg af Christoffer I. N. »

Jeg ved ikke hvorfor det lige er Tom Cruise der er så interessant for de her deepfake folk. Men her kommer et andet bud, dog uden ændret stemme:


Medlemsavatar
Mike-air
Forum Donator
Indlæg: 8664

Indlæg af Mike-air »

Facebook releaser i dag et datasaet med deepfakes som betyder der kan laves en hulens masse forskning paa at detektere deepfakes f.eks. foer de gaar viral.

https://ai.facebook.com/blog/deepfake-d ... challenge/

Medlemsavatar
SustainerPlayer
Medlem
Indlæg: 12411
Sted: På kanten

Indlæg af SustainerPlayer »

"Robotterne" slås allerede med hinanden. :-P

Medlemsavatar
Mike-air
Forum Donator
Indlæg: 8664

Indlæg af Mike-air »

SustainerPlayer skrev:"Robotterne" slås allerede med hinanden. :-P
Det giver faktisk mening på et lidt dybere plan :-D

General Adversarial Networks - som er teknologien bag deepfakes, er baseret på to agenter som slås med hinanden. Tror nok jeg har skrevet det tidligere også.

Men det er et nulsumsspil, og nu handler det om at finde andre metoder som slår benene væk under deepfakes. Og her skal FAIR sku ha kado for indsatsen :-)


Medlemsavatar
Mike-air
Forum Donator
Indlæg: 8664

Indlæg af Mike-air »

Så er der satme en konkurrence i deepfake detection:
https://www.kaggle.com/c/deepfake-detec ... e/overview

Medlemsavatar
derermusikanten000
Medlem
Indlæg: 1030
Sted: copenhagen

Indlæg af derermusikanten000 »






:)

Medlemsavatar
Christoffer I. N.
Lydmaskinist
Indlæg: 32291
Sted: Hørsholm

Indlæg af Christoffer I. N. »

Det her er vist vores største deepfake tråd, så lad os bare samle videoer her.

Har fået set de her 3, som har ligget på min liste i noget tid.







Delvist relateret, om ansigts genkendelse:






Og så er den her, Home Stallone, postet herinde tidligere:


Medlemsavatar
Mike-air
Forum Donator
Indlæg: 8664

Indlæg af Mike-air »

Christoffer I. N. skrev:Det her er vist vores største deepfake tråd, så lad os bare samle videoer her.

Har fået set de her 3, som har ligget på min liste i noget tid.

Den her video syntes jeg er god fordi den får de mest vigtige ting med på kort tid.

En lille fun fact:
General Adversarial Networks var en ide "opfundet" af Ian Goodfellow, som fik idéen over nogle øl på en pub sammen med sine venner. Basically gik han tidligere hjem og prøvede ideen af: Sætte to NN til at konkurrere med hinanden. Og det virkede!

Da hans paper kom tilbage i 2014 blev det beskrevet af en af de mest respekterede forskere på området (Yann Lecun) som den mest interessante ide indenfor AI.

Og idag eksploderer det nærmest med områder hvor GAN's kan bruges til både gode og dårlige ting :-P
Men sådan er det jo nærmest med al ny teknologi?

Medlemsavatar
Mike-air
Forum Donator
Indlæg: 8664

Indlæg af Mike-air »

Til dem der er rigtig nørdede, så er her den første, banebrydende artikel på området:
https://papers.nips.cc/paper/5423-gener ... l-nets.pdf

~ 5 år har det taget før det kom til at berøre vores liv :-P

Medlemsavatar
Mike-air
Forum Donator
Indlæg: 8664

Indlæg af Mike-air »

Hvis man skal koge det ned til lommefilosofi, kan man vel sige at AI er vores bedste våben mod at blive udnyttet via AI :-P

Uden deepfake detectors ser det satema sort ud :)


Nyt svar