Утім, діпфейки охоплюють набагато ширше коло медіа  це зображення, відео та аудіо, створені або змінені так, що здаються реальними, хоча такими не є. Приклади сфабриковані зображення Папи Франциска в модному пуховику або відео з Марком Цукербергом, який зізнається в маніпуляції користувачами через соцмережі. Ці зображення й відео створені не для розваги, а часто для викривлення реальності.

Технологічна основа

Процес створення діпфейку базується на використанні двох нейронних мереж. Перша генерує зображення або відео, що максимально наближаються до реальних, тоді як друга перевіряє їхню автентичність. Ці алгоритми змагаються між собою у своєрідній технологічній грі, поки синтетичне зображення не стане практично невідрізним від справжнього. У випадку аудіо-діпфейків, голос певної людини імітується на основі записів її реальної мови, що дозволяє створювати промови, які ця людина ніколи не виголошувала.

Небезпеки: дезінформація, приниження, маніпуляція

Діпфейки активно використовуються зловмисниками для поширення неправдивої інформації, політичної пропаганди, шантажу та залякування. Особливо вразливими є жінки понад 90% шкідливого вмісту з діпфейками припадає на порнографічні відео. У зоні ризику не лише знаменитості та політики, а й пересічні громадяни, які можуть стати жертвами кібербулінгу або підроблених компроматів.

Окрім особистих трагедій, проблема діпфейків стосується й безпеки демократичних процесів. Поширення неправдивих відео може підірвати довіру до політичних заяв, кандидатів і навіть виборчих результатів. Для запобігання цим загрозам критично важливо підвищувати рівень медіа грамотності серед населення, навчаючи розрізняти реальний контент від штучно згенерованого.

Позитивне застосування

Попри численні загрози, технологія діпфейків має і потенційно корисні сфери застосування. Наприклад, у мистецтві вона дозволяє «оживити» історичних постатей. На виставці «Далі живе» у Флориді демонструвалося відео з імітацією голосу та образу Сальвадора Далі, який цитує свої власні листи та інтерв’ю. Подібні приклади є у сфері соціальних кампаній: футболіст Девід Бекхем, завдяки діпфейкам, «заговорив» дев’ятьма мовами, поширюючи інформацію про боротьбу з малярією у світі.

У галузі освіти діпфейки можуть стати інструментом занурення в історію  учні можуть «почути» промови Черчилля чи Мартіна Лютера Кінга у форматі відеозапису, який виглядає абсолютно реалістично. В медицині діпфейкові зображення використовуються для навчання штучного інтелекту у виявленні пухлин, коли реальних даних недостатньо. Синтетичні медіа дають змогу розпізнавати аномалії без порушення конфіденційності пацієнтів, що відкриває нові горизонти для клінічних досліджень.

Виклики майбутнього і необхідність регулювання

Технологія діпфейків демонструє надзвичайну силу і водночас  глибоку небезпеку. Вона кидає виклик традиційним уявленням про правду, довіру та автентичність інформації. Розробка нових методів виявлення фальсифікацій, створення правових рамок, міжнародного етичного регулювання та просвітницькі кампанії  це ключові завдання, які стоять перед суспільством у зв’язку з розвитком синтетичних медіа.

Світ, у якому можна змінити будь-яке зображення, перекроїти будь-який голос і створити вигадані події з фотореалістичною достовірністю, потребує не лише технологічного захисту, а й гуманітарного осмислення. Діпфейк — це дзеркало, яке технологія тримає перед людством, і відповідь на питання, що ми в ньому побачимо, залежить від нас.

Данило Ігнатенко

The post Діпфейки: штучна реальність, яка змінює світ first appeared on Wake Up Media — наука, історія, мистецтво, психологія.

Сам термін «deepfake» поєднує в собі два слова: «deep», що походить від глибокого навчання — підвиду машинного навчання, і «fake», що підкреслює несправжність створеного контенту. Вперше його почали використовувати у 2017 році, коли на платформі Reddit з’явився субреддит, присвячений відео з заміною облич, що швидко привернули увагу користувачів.

Сфера використання діпфейків значно розширилася з часом. Окрім відомих випадків, коли технологія використовувалася для створення фальшивих відео за участі знаменитостей, з’явилися приклади, які стали вірусними. Наприклад, зображення Папи Франциска в пуховій куртці або відео колишнього президента США Дональда Трампа у конфлікті з поліцією. Ці події ніколи не відбувалися в реальному житті, але завдяки діпфейку вони виглядали напрочуд реалістично.

Процес створення діпфейків базується на використанні двох алгоритмів ШІ. Перший з них створює синтетичний контент, максимально схожий на оригінал, тоді як другий перевіряє, наскільки вірогідним є створений образ, і повідомляє про можливі недоліки. Завдяки постійній взаємодії цих алгоритмів створюються дедалі досконаліші підробки, які складно відрізнити від реальності.

Звукові діпфейки створюються шляхом навчання моделі ШІ на основі реальних аудіозаписів конкретної людини, що дозволяє точно відтворювати її голос у нових контекстах. Це відкриває можливості для використання технології у розважальних та освітніх цілях, але також створює ризики поширення дезінформації.

Ця технологія найчастіше асоціюється з негативними проявами, такими як створення фальшивих новин або використання для залякування та переслідування. Це явище вказує на серйозну загрозу для суспільства, особливо коли такі підробки стають інструментом політичної маніпуляції. Водночас це може мати і позитивне застосування. Так, наприклад, у кампанії проти малярії, відомий футболіст Девід Бекхем «заговорив» дев’ятьма різними мовами завдяки технології синтетичного відео. Також у музеї Сальвадора Далі у Флориді використали діпфейк для створення виставки, де великий художник ніби сам розповідає про своє життя.

Технологія має потенціал для використання в освіті та медицині. Наприклад, в освітньому процесі можна створювати інтерактивні уроки, відтворюючи історичні промови або інші важливі події. У медицині діпфейки можуть допомогти в діагностиці, наприклад, шляхом створення штучних зображень рідкісних захворювань для навчання алгоритмів ШІ. Це може значно покращити точність діагностичних процедур і допомогти уникнути проблем із конфіденційністю пацієнтів. Важливо усвідомлювати як її потенціал, так і ризики, що супроводжують цей стрімкий розвиток, щоб використовувати її на благо людства.

The post Технологія діпфейк та синтетичні медіа: виклики та можливості first appeared on Wake Up Media — наука, історія, мистецтво, психологія.