Tartalom
- Mi a deepfake?
- Hogyan működik a deepfake?
- Az eredet
- A veszélyek
- Megoldás keresése
- Népszerű mélyfajta tartalom
A mélyfajta tartalom káoszt teremt azok között az emberek között, akik azzal a gondolattal nőttek fel, hogy a látás hisz. A fotókat és videókat, amelyeket valaha valami tagadhatatlan bizonyítékának tekinttek, most a tömegek kérdőjelezik meg. Ez akkor várható, miután megtudta, hogy Barack Obama elképesztően valósághű videó, amelyben Trump elnököt „teljes és teljes körű ****” -nek hívják, csupán mélyfajta alkotás.
A mélyfajta tartalom káoszt teremt azok között az emberek között, akik azzal a gondolattal nőttek fel, hogy a látás hisz.
Edgar CervantesA részt vevő technika felvonja a szemöldökét és kérdéseket vet fel, ezért vagyunk azért, hogy azért vagyunk itt, hogy teljes mélyreható képet adjunk arról, hogy mi ez, hogyan működik, és ha valóban van ok aggódni.
Mi a deepfake?
A Deepfake egy AI (mesterséges intelligencia) technika, amely gépi tanulást használ a tartalom létrehozásához vagy manipulálásához. Gyakran használják montázsok készítéséhez vagy az emberek arcának egymás fölé helyezéséhez, de képességei messze túlmutatnak. Ez a technológia rengeteg más alkalmazással rendelkezik. Ezek magukban foglalják a hang, a mozgás, a táj, az állatok és a többi manipulálását vagy létrehozását.
Hogyan működik a deepfake?
A mélyfake-tartalmat egy GAN (generatív versenytárs-hálózat) néven ismert gépi tanulási technikával hozzák létre. A GAN két ideghálót használ: egy generátort és egy megkülönböztetőt. Ezek folyamatosan versenyeznek egymással.
A generátor megkísérel valósághű képet létrehozni, míg a diszkriminátor megpróbálja meghatározni, hamis-e vagy sem. Ha a generátor becsapja a megkülönböztetőt, akkor a megkülönböztető az összegyűjtött információkat jobb bíróvá teszi. Hasonlóképpen, ha a megkülönböztető meghatározza, hogy a generátor képe hamis, akkor a generátor jobban képes hamis képet létrehozni. A véget nem érő ciklus addig folytatódhat, amíg a kép, a videó vagy a hang nem lesz már észrevehetően hamis az emberi szempontból.
Az eredet
Az első mélyfake videó nyilvánvalóan pornó volt!
Edgar CervantesAz első mélyfake videó nyilvánvalóan pornó volt! Pontosabban, szokás volt látni, hogy a hírességek arca egymásra helyezkedik a pornó színésznők felett. A Nicholas Cage mémek szintén népszerűek voltak a szórakoztató találmányok között.
A deepfake szó 2017-ben szinonimá vált ezzel a technikával, köszönhetően egy Reddit felhasználónak, aki „deepfakes” néven ment el. A felhasználóhoz mások is csatlakoztak a most tiltott állapotban R / deepfakes subreddit, ahol megosztották alkotásaikat a világgal.
A generatív, egymással versengő hálózatok valódi alkotója Ian Goodfellow. Kollégáival együtt 2014-ben bemutatta a koncepciót a Montreali Egyetemen. Ezt követően átment a Google-hoz, és jelenleg az Apple alkalmazásában áll.
A veszélyek
Rossz kezekben a mélyfake alkotás sokkal többet hamisíthat meg, mint a buta Nicholas Cage mémek.
Edgar CervantesBár a tartalom manipulálása nem új, addig komoly készségeket igényelt. Szüksége volt egy hatalmas számítógépre és egy igazán jó okra (vagy éppen túl sok szabadidőre) hamis tartalom készítéséhez. A mélyfake-készítő szoftverek, például a FakeApp, ingyenes, könnyen megtalálhatók és nem igényelnek sok számítógépes energiát. Mivel az összes munkát önmagában végzi el, nem kell, hogy képzett szerkesztő legyen, hogy őrülten valódi mélyfajta médiumokat készítsen.
Ezért aggasztja a nagyközönség, a hírességek, a politikai szervezetek és a kormányok a mélyfaj mozgalom miatt. Rossz kezekben a mélyfake alkotás sokkal többet hamisíthat meg, mint a buta Nicholas Cage mémek. Képzelje el, hogy valaki hamis híreket készít vagy vádló videó bizonyítékokat készít. Adhat hozzá hamis és bosszúálló pornót a problémához. A dolgok gyorsan rendetlenné válhatnak.
Egy másik ok a mélységes tartalom miatt aggódni, hogy a fontos személyiségek megtagadhatják a múltbeli cselekedeteket. Mivel a mélyfake-videók olyan valóknak tűnnek, bárki azt állíthatja, hogy egy valódi klip mélyfake.
Olvassa el: Az etika és az AI összetettsége
Megoldás keresése
Bár egy nagyon közel áll a valódihoz, a képzett szem továbbra is észlel hamis videót, nagy figyelmet fordítva. Aggodalomra ad okot, hogy a jövő bizonyos pontjaiban nem tudjuk megmondani a különbséget.
A Twitter, a Pornhub, a Reddit és mások sikertelenül próbálták megszabadulni az ilyen tartalomtól. A hivatalosabb oldalon a DARPA (Defense Advanced Research Projects Agency) a kutatóintézetekkel és a Colorado Egyetemmel működik együtt, hogy megmutassák a mélységek észlelésének módját.
A mélyfajú videók leküzdése érdekében az a legjobb, ha figyelmesebbek és kevésbé hamisak.
Edgar CervantesAmíg nincs olyan szoftverünk, amely észleli a szabálytalanságokat az ilyen videókban, a legjobb, amit megteszünk, ha figyelmesebb és kevésbé hibáztatható. Mielőtt feltételezné, hogy a videó, kép vagy hang valódi, végezzen kutatást. Különben is, ezt már meg kellett volna tennünk.
Népszerű mélyfajta tartalom
Jordan Peele csatlakozik a Buzzfeedhez, hogy összeállítsa ezt a videót, amelynek célja a tudatosság létrehozása.
Online manipulációs szakértő, Claire Wardle megmutatja nekünk, mennyire reálisak lehetnek ezek a videók, ha Adele-ként jelenik meg a videó első 30 másodpercében. Ez a The New York Times videó a nagyszerű betekintést nyújt nekünk a témához.
A Watchmojo gives összeállította a környék legnépszerűbb mélyfake-videóinak listáját. Ez egy szórakoztató videó, rengeteg nagyszerű példával.
Aggódik a mélyfake videók következményei miatt? Ez minden bizonnyal egy olyan téma, amelyet szem előtt kell tartanunk, miközben a megoldások megtalálására törekszünk.
