Дийпфейк измами и разпознаването им

Ключови бележки

• Дийпфейк технологията понижава бариерата за манипулиране на съдържание и позволява мащабиране на измами без нужда от значителни технически умения.
• Най-често се използва за финансови, социални и инвестиционни измами, като се комбинира висока достоверност със социален инженеринг.
• Тази заплаха се посреща с все повече нови технологични решения за проверка на съдържание, както и нови видове европейски законодателни регулации.

Най-важното

Дийпфейк технологията позволява създаването на убедителни фалшиви видеа, изображения и гласови записи, често без сериозни технически познания.

Чрез изключително новата технология на дийпфейка вече се променя начина, по който възприемаме какво е истина онлайн.  Тя може да създава убедителни видеа, аудиозаписи, изображения на реални личности, включително с автоматизирано създаване на дийпфейкове. Това включва и генериране на фалшиви изображения, които могат да изглеждат като напълно автентични фотографии.  Тази възможност идеално се вписва и дори допълнително надгражда множество видове класически и онлайн измами. Може да се използва и за романтични измами с фалшиво порнографско съдържание или за инвестиционни измами, като например да пресъздава реч на известен предприемач. Подобен реализъм създава трайни психологически ефекти върху жертвите, като доверие, страх, алчност, привързаност. Тези емоции са и двигателят за извършването на парични преводи към измамниците. Но все още има начини всеки да се предпази, включително и чрез разпознаване на дийпфейкове и сканиране на всяко съмнително съдържание. 

Постоянната информираност в комбинация с добра техническа грамотност си остава най-добрата защита от deepfake измами и всякакви други видове дълбоки фалшификации, ползващи AI. През 2026-та в действия влиза и нов регламент на ЕС, част от развиващото се законодателство за дийпфейкове, т.нар. AI act, който ще изисква обозначаване на синтезираното от AI съдържание в интернет.

Какво е дийпфейк и какви са неговите характеристики?

Интернет е пълен от колосално количество информация, най-често текст, изображения, видеа и аудио, включително огромни обеми публична информация. За последните две десетилетия голяма част от комуникациите, медийното съдържание, рекламите на частно, публично и дори лично ниво се дигитализираха. С масовия ръст и популяризация на изкуствения интелект през 2025-та обаче, съдържанието онлайн може да бъде убедително подправяно както никога досега.

Дийпфейк е изкуствено медийно съдържание, най-често формирано чрез изкуствен интелект и машинно обучение. Той може да манипулира видеоклипове, аудиозаписи, изображения до изключително високо ниво. Може да създава видео на база изображение, при това на реалистично лице с мимики, жестове и поведение. Синхрон на устни и глас, имитация на глас, генериране на емоции и контекстуална достоверност са все по-малко затруднение за най-новите модели изкуствен интелект. Често пъти за създаването на висококачествени дийпфейк материали не е нужно особено техническо познание, нито пък усилие. Ако преди време е било нужно време и усилие дори за минимално подобряване на изображение с Фотошоп, вече може изцяло да генерираш синтетично изображение на реален човек за броени секунди.

Крайният ефект на този тип техническа иновация е, че интуитивното правило за удостоверяване на истината с един поглед вече не важи. Това поставя и исторически прецедент, където вече документирането на истината е многократно по-трудно, отколкото синтезирането на фалшива реалност. Последствията от фалшивото медийно съдържание, фалшивите снимки, тепърва ще стават ясни, но като за начало е видимо, че има цяла нова вълна от заблуди, онлайн измами, фалшиви новини и манипулиране на лично и обществено мнение.

Deepfake технология (AI, генеративни модели)

Простото обяснение за Deepfake технологията е, че се базира на изкуствен интелект (artificial intelligence) и генеративни модели, които чрез машинно обучение анализират големи обеми от текст, изображения, видеоклипове и аудио, за да създават ново синтетично съдържание.

 
Източник: Adobe Stock

Нужно е обаче малко да се разясни какво означава всеки отделен термин. Машинното обучение най-просто може да се обясни с това да покажеш топка на куче. След време, ако я види отново, то може да използва паметта си и да си спомни какво представлява топката. Това е обучение без програмиране на ясно зададени команди, а чрез пример. Този тип обучение е основа и за по-широката интеракция с технологии, при която системите реагират на човешки действия и съдържание. За разпознаване на изображения компютърната система например преглежда огромен брой снимки или звуци и постепенно се научава да ги различава. 

По същата логика генеративните модели могат да се оприличат на малко дете, което е гледало много рисунки на кучета. След като е изгледало достатъчно, генеративният модел рисува собствена рисунка на куче на база видяното. С увеличаването на количеството данни се повишава и качеството на синтезираното изображение. При достатъчно данни и изчислителна мощ един генеративен модел може да синтезира напълно реалистично изображение на истински човек.

Видове дийпфейк измами

С новата и достъпна технология на дийпфейка се създава цяло ново поле киберпрестъпления. При тях изцяло фалшиви видеоклипове, аудиозаписи и изображения създават заблуда и манипулация с цел извличане на материална изгода от жертвата. Все още технологията е в ранен етап на своето развитие, затова повечето правоохранителни органи по света тепърва очакват да видят драматичен ръст на онлайн измамите с употреба на дийпфейк.

-Финансови измами

Един от най-често цитираните случаи от ранната зора на изкуствения интелект през 2019-та е за случай на измама с имитация на глас. Престъпници клонират гласа на изпълнителния директор на британска енергийна компания. Със създадения дийпфейк убеждават един от мениджърите да прехвърли $243 хил. към сметка на измамниците. Сходен случай през 2025 г. включва финансов директор в Сингапур, който позволява превод на половин милион долара по време на Zoom среща с лидерите на компанията. Впоследствие се оказва, че всички изображения и гласове са генерирани от измамници. По този начин бързото развитие на дийпфейк вече изправя финансовите мениджъри и счетоводителите на големи институции пред нови и все по-големи предизвикателства. За хора, които управляват парични потоци, вече ще става все по-важно да ограничават своите публични появи по медиите, както и да ограничават свободното публикуване на изображения, видео и аудио по социалните си мрежи. Това е пример за мярка, която може да затрудни генерирането на качествен дийпфейк, който впоследствие да се използва за измами.

-Социални измами

Все повече разследвания през последните няколко години откриват използването на дийпфейк за различни видове социални и романтични измами. Използването на визуален реализъм подпомага създаването на фалшиво доверие. Нещо повече, употребата на предварително разписана комуникация позволява на измамниците да масовизират своите действия с още повече жертви. Дийпфейк е способен и да създава целенасочено порнографско съдържание, включително ползвайки изображения на реални хора. Това също прави романтичните измами в още по-опасни, особено за самотни хора и такива в периоди на развод и раздяла. Всички тези технически възможности правят лесно синтезирането на фалшиво текстово, аудио и видео съдържание в продължение на месеци наред изцяло фалшива романтична връзка.

-Инвестиционни измами

През последните години бяха много нашумели инвестиционни измами, например с фалшив видеозапис на Елон Мъск. Употребата на известни личности с широка обществена подкрепа и доверие за подобен тип измами става също все по-лесна и масова. Записи на известни журналисти, които рекламират фалшиви сайтове и платформи за криптовалути са също сред популярните методи за такъв тип инвестиционни измами. Подобни видеа на известни личности често се комбинират с платени реклами в социалните мрежи или онлайн търсачките.

Кредитните карти и дийпфейк измами

Измамите, комбиниращи дийпфейк и кредитни карти, е твърде вероятно да нарастнат значително през следващите години. Това е може би един от най-бързо нарастващите рискове за измама в момента. Причината за притеснение е, че с достатъчно убедителен дийпфейк е възможно да бъде убеден потребителят да сподели данни, свързани със защитата на трансакция от картата. Това включва не само статичната парола, но и двустепенната верификация с подвижна парола.  

Бяла Карта

Вземи Бяла Карта

Превърни КОГА в СЕГА и се радвай на хубавите моменти в живота.

Бяла Карта - кредитна карта с лимит до 3 000 EUR/5 867.40 лв. Кандидатстваш веднъж, имаш пари винаги.

Заяви сега

-социален инженеринг 

При социален инженеринг измамниците могат да ползват синтетични аудио или видеозаписи, за да се представят за банков служител или близък човек. Той се обажда, търси съдействие от теб и целта е да създаде доверие. Изисква се споделяне на информация за картата или потвърждение и допълване на лични данни. Повод за такава комуникация например “банков служител”, който съобщава притеснено за “съмнителна трансакция” и изисква потвърждение чрез диктуване на данните на картата ти. 

-фишинг и кражба на данни

Същият принцип като при социален инжинеринг, само че чрез видео в имейл, като част от по-масова кампания. Това видео може да е на служител в банка или друга платежна услуга и отново изисква да последваш линка в съобщението, където да въведеш платежните си данни. Сайтът е само бледо копие на реална институция и има една цел - да открадне твоите платежни данни.

-въздействие върху потребителя и бизнеса

Тепърва се очаква развитието на дийпфейк да започне да има все по-масово присъствие. Затова и рисковете от финансови измами, кражба на данни ще се повишават, а заедно с тях - репутационните щети за институциите и все по-сериозни изисквания за вътрешна и външна сигурност. Нужна е все по-голяма информираност по темата, а все повече всеки потребител ще трябва да свикне да проверява почти всяко съдържание.

Как да разпознаем дийпфейк измамите

Разпознаването на дийпфейк само чрез външни белези изисква силно внимание към детайлите. Дори най-убедителното AI съдържание неизбежно съдържа визуални, аудио- или други контекстуални несъответствия. Така при синтезирането на човешки образ могат да са налице множество грешки. Реалистичното човешко движение и поведение е трудно да бъде винаги добре синтезирано. Възможно е между отделните кадри да има странни движения, които не е ясно откъде се появяват. Неправилни сенки, особено около лицето и очите, или неестествено мигане са много ясни белези за AI съдържание. Косата изисква голямо усилие за пресъздаване и много често може да има движение от вятър на косата от едната страна, каквото липсва от друга. Добър синхрон между реч и движение на устните е също друго голямо предизвикателство.

Източник: Adobe Stock

При синтезиран аудио глас може лесно да се намери монотонност, повторяемост, дори нехарактерни за всякакъв глас паузи. Много често при нормален говор има други звуци като дишане, покашляне, които при изкуствено синтезиран глас отсъстват. Роботизираната интонация и неестествения ритъм са ясен белег за дийпфейк. Надежден подход е винаги да направиш проверка на произхода на съдържанието. Например, ако имаш мейл с видео за дадена новина, тази новина трябва да я има и по други новинарски сайтове.

Инструменти за разпознаване

С увеличаването на заплахите се увеличават и възможните инструменти за проверка на потенциално AI съдържание. Едни от най-популярните онлайн платформи за проверка са Deepware Scanner и DeepfakeDetection. Първият инструмент е основно фокусиран върху проверка на съмнително видео, а вторият е безплатна онлайн услуга за проверка на изображения, видео и аудио. Това е изключително удобен инструмент за ежедневна проверка.

Ако търсиш по-сериозни инструменти, може да потърсиш тежката артилерия при откриването на AI съдържание. Към 2026-та това са Sensity AI, Reality Defender и Hive AI Deepfake detection. Това са удачни инструменти за платформи и организации, особено ако трябва да скалират своята дейност при проверка.

Реални случаи на дийпфейк измами

Широко цитиран случай, включително и на Световния икономически форум в Давос през 2025-та, е този на компанията Arup в Хонконг. Служител във финансовия отдел участва във видеоконференция, на която вижда колеги и главния финансов директор на компанията, които инструктират серия от плащания. По-късно се установява, че всички участници са били AI генерирани чрез видео и гласово клониране. Счита се, че директните загуби възлизат на $25 милиона. Според множество специалисти по киберсигурност този тип измами е вече все по-масов.

Друг много известен пример за масова дийпфейк измама включва компанията Nvidia и нейния главен изпълнителен директор Дженсън Хуанг. Жертвите получават мейл с видео, в което той рекламира крипто схема с препращане към QR код за извършване на плащане.

Как да се предпазиш от тях?

Да нямаш никакъв досег със съдържание, обработвано с AI след 2026, напрактика е невъзможно. Последни проучвания на Майкрософт към 2025-та показват, че близо 16% от световното население използва генеративен AI за някакви цели. Затова и през същото време инцидентите с deepfake регистрират колосални ръстове: близо 312% увеличение за 2025-та според доклад на Resemble, спрямо предишната година. Загубите за предходната година само за отделни тримесечия се изчисляват в размер от стотици милиони долари. Проучвания сред мениджъри на световноизвестни компании показват, че повечето нямат никакви очаквания deepfake атаките да се забавят в скоро време, а над половината очакват атаките срещу техните организации да се усилят.

Ето защо трябва да приемеш, че вероятно ти ще бъдеш заобиколен от deepfake не само сега, но и дълго занапред. Важното е да си даваш сметка дали дадено твое действие, което предприемеш, може да е породено от някаква форма на deepfake. Това означава да проверяваш съобщенията и мейлите, които намираш за съмнителни. Изтегли приложения, които могат да извършват такива проверки бързо на телефона ти. Използвай качествена защита за всички твои банкови сметки, дебитни, кредитни карти и задължително ползвай двуфакторна автентикация. Комбинацията от технологични решения и публична осведоменост по темата е засега най-добрата защита от deepfake атаки.

Какви са регулациите за защита от дийпфейк съдържание в ЕС и в България

От август 2026-та в ЕС влиза в сила AI act или регламент за изкуствения интелект. Той ще даде повече рамки за работата с изкуствен интелект и най-вече защита на потребителите. Хората ще трябва да са уведомени при взаимодействие със съдържание, което е генерирано или обработвано с AI. Това включва използването на водни знаци, метаданни и всякакви други начини за машинно разпознаване на синтетичното съдържание. Идеята на тази регулация е да създаде възможност за търсене на отговорност, ако някой съзнателно разпространява AI генерирано съдържание с цел измама. Ако например компания прави видео с AI генерирани кадри, които имитират реалност по своите канали, тя трябва да обозначава, че видеото е създавано с изкуствен интелект. Глобите за компании, които не обозначават такова съдържание по каналите си може да бъдат в размер на процент от глобалния оборот на компанията и десетки милиони евро. За платформи като медии, социални мрежи и търсачки като Google ще трябва да има системна защита от това да може ясно да се обозначава изкуствено синтезираното съдържание от реалното. Важно е да се упомене, че това не засяга просто съдържание, което е изкуствено генерирано - една компания може да анимира примери за използването на нейния продукт и без да обозначава, че тези примери не са истински. Такова обозначение ще е нужно, когато има човек в синтезираното видео, който говори; AI глас, който не е на истински човек; фалшиви лични примери за използване на продукт на изцяло синтезиран образ и глас на човек. Ако има налице симулация на реалността, тогава е нужно да бъде ясно посочено, че такава има.

Употребата на нечий глас, визия или снимки за синтезирането на такова съдържание също може да доведе до още по-тежки глоби.

Източници:

1. Институт за регистрираните счетоводители в Англия и Уелс
2. Европол
3. Форбс
4. Световен икономически форум
5. Майкрософт
6. Tookitaki
7. Bitmind
8. Статистика за дийпфейк измами в programs