Deepfakes verklaarden de AI die nep video's maakt te overtuigend

Zien is geloven. Nou ja, dat was tenminste het geval voordat we ons realiseerden dat mensen doktersvideo's konden maken om hoaxes voort te stuwen en de geschiedenis te herschrijven. Hoewel we manieren hebben gevonden om de meeste hoax-afbeeldingen te ontzenuwen, is er één technologische ontwikkeling die zo snel evolueert dat we binnenkort misschien niet meer weten hoe we moeten vertellen wat echt is en wat nep is.

Deepfakes veranderen alles wat we mogelijk dachten in termen van gefokte video's. Hier is alles wat u moet weten over hen ...

Wat zijn Deepfakes?

De term deepfakes komt van een combinatie van de woorden “diepgaand leren” en “fakes”. Dit komt omdat kunstmatige intelligentiesoftware die is getraind in beeld- en videosynthese deze video's maakt. Deze AI kan het gezicht van een onderwerp (de bron) op een video van een ander (het doelwit) leggen. Meer geavanceerde vormen van de technologie kunnen een volledig nieuw model van een persoon samenstellen met behulp van de gezichtsgebaren van de bron en afbeeldingen of video van het onderwerp dat zij willen nabootsen.

De technologie kan gezichtsmodellen maken op basis van beperkte visuele gegevens, zoals één afbeelding. Hoe meer gegevens de AI moet afwerken, des te realistischer is het resultaat.

Dit is de reden waarom politici en beroemdheden zulke gemakkelijke doelen zijn voor deepfakes, omdat er zoveel visuele gegevens online beschikbaar zijn die de software kan gebruiken. Omdat deepfake-software beschikbaar is op open-sourceplatforms, blijven mensen op internet voortdurend werken aan het werk van anderen.

The Origins of Deepfake AI Technology

De technologie achter deepfakes is ontwikkeld voor een veelvoud aan doeleinden. Net als Photoshop, de software heeft professionele, entertainment en hobbyistische toepassingen. En net zoals Photoshop, ondanks dat de maker geen kwaadaardige bedoelingen heeft bij het maken van de software, heeft dit mensen er niet van weerhouden om het te gebruiken voor kwaadwillende doeleinden.

Face-swapping-technologie werd aanvankelijk vooral gebruikt in de filmindustrie. Een van de bekendste voorbeelden is in de film Rogue One 2016: A Star Wars Story. In de film gebruikten de filmmakers face-swapping en video-synthese-technologie om het personage Grand Moff Tarkin opnieuw te creëren. Een jongere versie van Princess Leia werd ook in de film gemaakt. In beide gevallen werden modellen van de gezichten van de oorspronkelijke acteurs overgebracht op stand-in-acteurs.

Apps zoals Snapchat gebruiken ook face-swapping-technologie om leuke filters voor gebruikers te maken. De ontwikkelaars achter deze apps verfijnen voortdurend gezichtsdetectie en tracking om deze filters effectiever toe te passen.

Ondertussen hebben anderen video-synthesetools ontwikkeld om hologrammen te maken voor educatieve doeleinden. In één project werden video- en gezichtssynthesesoftware ontwikkeld, zodat de getuigenis van overlevenden van de holocaust kon worden gepresenteerd als interactieve hologrammen in een museum.

Waarom Deepfakes mensen nerveus maken

Toen mensen zich realiseerden dat oplichters en mensen die hoaxes speelden Photoshop gebruikten om nepbeelden te maken, moesten we sceptischer worden over wat we als bewijs beschouwden. Gelukkig waren er veel manieren om te detecteren of een afbeelding nep was, zelfs met het blote oog.

Daarnaast is het creëren van een overtuigend gemanipuleerd beeld in Photoshop relatief arbeidsintensief. Niet zomaar iemand kan twee afbeeldingen samenvoegen en er realistisch uit laten zien.

Maar deepfakes zijn anders. Machinaal leren maakt het leven gemakkelijker 4 Machinaal leren Algoritmen die uw leven bepalen 4 Machinaal leren Algoritmen die uw leven bepalen Misschien beseft u het niet, maar machinaal leren is al overal om u heen en het kan een verrassende mate van invloed op uw leven uitoefenen. Geloof me niet? Je zult verrast zijn. Meer lezen, maar in dit geval maakt het namaak aanzienlijk eenvoudiger. Ten eerste is de software op grote schaal en vrij verkrijgbaar. FakeApp, bijvoorbeeld, is een populaire keuze voor het maken van deepfakes. Je hebt geen geavanceerde vaardigheden nodig om een ​​face-swap toe te passen, de software zal het voor je doen.

Omdat AI en deep learning deepfakes helpen creëren, verbetert de technologie ook en overtuigt ze in een alarmerend tempo. Het zal niet lang duren voordat deze bewerkingen niet zichtbaar zijn voor het blote oog.

In een wereld vol nepnieuws, zou overtuigende diepgang een chaotische kracht blijken te zijn tegen wat volgens ons waar is.

De opkomst van deepfakes vindt ook plaats op een moment dat ook de AI-spraaksynthese vordert. Niet alleen kan AI valse video's genereren, maar het kan ook spraakmodellen voor mensen genereren.

Dit betekent dat je geen nabootser nodig zou hebben om het te laten klinken alsof een politicus een schandalige verklaring aflegt. Je kunt AI trainen om hun stem na te bootsen.

De gevolgen van Deepfakes

Mensen gebruiken al deepfakes voor kwaadwillende doeleinden. Mensen gebruikten vaak FakeApp om valse video's te maken van actrices van beroemdheden die zich bezighouden met inhoud voor volwassenen.

Gal Gadot, Daisy Ridley en Emma Watson zijn slechts enkele van de actrices die het doelwit zijn van nepvideo's voor volwassenen. Deze deepfakes wisselen gezichten van actrices om in video's van pornosterren voor volwassenen.

Hoewel verschillende platforms en bepaalde websites voor volwassenen dit soort video's hebben verbannen, verschijnen er elke dag meer. Sterker nog, sommige websites maken speciaal deepfake celebrity-video's voor volwassenen op basis van gebruikersverzoeken.

In de meeste landen hebben wetten nog geen betrekking op dit soort inhoud, waardoor het moeilijk te controleren is.

Hoewel we nog steeds ver weg zijn van de dystopie geregeerd door verkeerde informatie en onjuist videobewijs dat we zien in films als The Running Man, zijn we al bekend met de effecten van nepnieuws Wat is nepnieuws en hoe verspreidt het zich zo Snel? Wat is nepnieuws en hoe verspreidt het zich zo snel? Nepnieuws heeft internet teisteren en het ergste is dat de meeste mensen het niet kunnen herkennen als ze het zien. Lees verder .

Deepfakes kunnen een krachtig hulpmiddel zijn bij het verspreiden van verkeerde informatie. Niemand is ingelijfd voor een misdaad of vervalst hun dood met behulp van deepfakes, maar wat gebeurt er wanneer het moeilijk wordt om te vertellen welke video's echt echt zijn?

De consequenties van deepfakes die voor politieke doeleinden worden gebruikt, zijn tweevoudig. Ten eerste maakt het nepnieuws veel gemakkelijker om te verspreiden. Video's zijn waarschijnlijker dan tekst of afbeeldingen om mensen ervan te overtuigen dat er daadwerkelijk iets fictiefs is gebeurd.

Mensen geloven al in krantenkoppen van nep-websites zonder bewijs dat hun verhaal ondersteunt. Plots zullen valse verhalen hebben “bewijsmateriaal” laten zien dat politici bekennen dat er misstanden zijn of dat ze buitensporige uitspraken doen.

Aan de andere kant kunnen diepzinnigen ook politici aanmoedigen als ze verantwoordelijkheid wegnemen. Ze konden altijd beweren dat een audio- of video-opname eigenlijk een deep-fake is.

Hoe Vechten we Deepfakes?

Hoewel veel technologiebedrijven hun tijd nemen om te regeren in deepfakes, ontwikkelen verschillende mensen tools om kwaadaardige nepvideo's te bestrijden. AI kan hackers en cybercriminaliteit bestrijden Hoe kunstmatige intelligentie moderne hackers en cybercriminaliteit zal bestrijden Hoe kunstmatige intelligentie moderne hackers en cybercriminaliteit zal bestrijden Met een cybersecurity-talententekort en cybercriminaliteitsepidemie, hoe kunnen bedrijven hackers bestrijden? Met kunstmatige intelligentie! Meer lezen, maar het is ook handig voor het detecteren van AI-knoeien in video's.

De AI Foundation heeft een browserplug-in genaamd Reality Defender gemaakt om deepfake-content online te detecteren. Een andere plug-in, SurfSafe, voert ook vergelijkbare controles uit. Beide tools zijn bedoeld om internetgebruikers te helpen onderscheid te maken tussen feiten en fictie.

Fact-checking websites zoals Snopes hebben zich ook uitgebreid tot het uitdragen van gemanipuleerde video's. Maar ze hebben nog niet de tools om deepfakes automatisch te detecteren.

Zelfs het Amerikaanse ministerie van Defensie heeft geïnvesteerd in software om deepfakes te detecteren. Wat zou er tenslotte gebeuren als een overtuigende video van een wereldleider online zou verschijnen, de oorlog zou verklaren of een raketlancering tegen een ander land? Regeringen hebben hulpmiddelen nodig om snel de legitimiteit van een video te verifiëren.

Onbedoelde gevolgen van machine learning

Het lijdt geen twijfel dat AI-technologie en diep machine learning onze levens op veel manieren verbeteren. Maar de technologie heeft ook onbedoelde consequenties.

Hoewel slechte gegevens een grote belemmering vormen voor algoritmes voor machine learning, speelt het menselijke element ook een rol. Het is moeilijk te voorspellen hoe mensen bepaalde technologie kunnen gebruiken voor kwaadaardige doeleinden. U kunt meer te weten komen over machine learning en fouten uit het verleden in onze handleiding voor algoritmen voor het leren van machines en waarom ze verkeerd lopen. Wat zijn machine-learningalgoritmen? Hier zijn hoe ze werken Wat zijn machine-learning-algoritmen? Hier zijn de algoritmes voor hoe zij werken Machine learning zijn ontworpen om het leven gemakkelijker te maken en systemen te verbeteren, maar ze kunnen misgaan met slechte gevolgen. Lees verder .

Ontdek meer over: Kunstmatige intelligentie, Deepfakes, Hoaxes.