Илин Савов: Финансовите измами влизат в нов стадий – изкуственият интелект е техният най-голям ускорител

Развитието на изкуствения интелект променя не само бизнеса и начина, по който хората общуват, но и методите на финансовите измамници. Новите технологии позволяват създаването на все по-убедителни фалшиви самоличности, гласове, видеозаписи и съобщения, а границата между истинско и манипулирано съдържание става все по-трудна за разпознаване. За тази нова реалност предупреждава експертът по сигурност Илин Савов.

Финансовите измами навлизат в нов етап, в който изкуственият интелект може значително да увеличи скоростта, мащаба и убедителността на атаките. Ако доскоро много от схемите разчитаха на сравнително лесно разпознаваеми фалшиви имейли, телефонни обаждания и съобщения, днес технологиите позволяват атаките да бъдат много по-персонализирани.

Според Илин Савов изкуственият интелект трябва да се разглежда като мощен ускорител на вече познати престъпни модели. Самите измами не са непременно нови – нови са инструментите, с които могат да бъдат реализирани.

Гласът и образът вече не са достатъчно доказателство

Една от сериозните промени идва от развитието на т.нар. deepfake технологии. С помощта на изкуствен интелект могат да бъдат генерирани изображения, видео и глас, които наподобяват реален човек.

Това създава възможност за ново поколение социално инженерство.

Измамник например може да се представи за ръководител на компания, бизнес партньор, служител на финансова институция или дори близък на потенциалната жертва. При достатъчно публично достъпни материали може да бъде имитиран глас или да бъде създадено убедително видео.

Така един от традиционните механизми за проверка – „чух гласа му“ или „видях го на видео“ – вече не трябва автоматично да се приема като гаранция за самоличност.

Измамите стават персонализирани

Другата голяма промяна е възможността огромно количество публична информация да бъде обработвано за много кратко време.

Социалните мрежи, корпоративните сайтове и други публични източници могат да разкриват информация за професия, контакти, колеги, пътувания, интереси и бизнес отношения.

Изкуственият интелект позволява тази информация да бъде превърната в персонализирано съобщение, което изглежда значително по-достоверно от традиционните масови измами.

Вместо стандартно съобщение от типа „спечелихте награда“, потенциалната жертва може да получи комуникация, която съдържа реални имена, компании и обстоятелства.

Именно контекстът прави подобна атака опасна.

Бизнесът също е под заплаха

Рискът не засяга единствено гражданите.

Компаниите могат да бъдат атакувани чрез имитация на изпълнителни директори, счетоводители, доставчици или дългогодишни партньори.

Сценарият може да изглежда напълно нормално – спешно плащане към доставчик, промяна на банкова сметка или нареждане за превод. Когато към убедителния имейл бъде добавен телефонен разговор с клониран глас или фалшифицирана видеовръзка, психологическият натиск върху служителя значително нараства.

Затова защитата вече не може да разчита само на способността на отделния човек да забележи нещо подозрително.

Необходими са процедури.

При значителни финансови операции компаниите трябва да разполагат с независим механизъм за потвърждение – например втори канал за комуникация, предварително установена процедура или одобрение от повече от един служител.

Скоростта се превръща в оръжие

Измамниците традиционно използват страх, авторитет и усещане за спешност. Изкуственият интелект прави възможно тези техники да бъдат прилагани едновременно срещу огромен брой хора.

Това означава, че престъпниците могат да експериментират с различни послания и сценарии и бързо да адаптират подхода си.

Особено подозрителни трябва да бъдат исканията за незабавно действие: „преведи парите веднага“, „потвърди профила си“, „изпрати кода“, „сметката ти ще бъде блокирана“ или „не казвай на никого“.

Колкото по-голям е натискът за незабавна реакция, толкова по-важно е информацията да бъде проверена независимо.

Изкуственият интелект е и част от защитата

Новата технологична среда обаче не означава, че предимството е единствено на страната на престъпниците.

Изкуственият интелект вече се използва и за откриване на необичайни транзакции, анализ на поведение, идентифициране на подозрителни модели и автоматизирано противодействие на измами.

Така започва своеобразна технологична надпревара – престъпниците използват ИИ, за да създават по-убедителни атаки, докато финансовите институции и компаниите го използват, за да ги откриват.

Но технологията сама по себе си няма да бъде достатъчна.

Най-слабата точка остава човекът

Независимо колко напреднали стават инструментите, голяма част от измамите продължават да преследват една и съща цел – да убедят човека сам да предостави информация, код за достъп или да извърши финансов превод.

Затова дигиталната грамотност постепенно се превръща в част от личната финансова сигурност.

Основното правило в новата среда е просто: не вярвай само защото виждаш или чуваш познат човек – провери по независим начин.

При необичайно искане за пари човек може да прекрати разговора и сам да позвъни на познат номер. При съобщение от банка – да използва официалното приложение или предварително известен канал, вместо предоставена връзка. При бизнес плащане – да се приложи установената вътрешна процедура за потвърждение.

Какво следва?

Следващият етап вероятно ще бъде белязан от още по-голяма автоматизация и персонализация на измамите.

Фалшивите гласове и изображения ще стават по-убедителни, комуникацията – по-естествена, а атаките – по-добре адаптирани към конкретния човек.

Това променя и философията на сигурността.

Въпросът вече не е само „Изглежда ли това истинско?“, а „Мога ли независимо да потвърдя, че е истинско?“

Именно тази промяна в поведението може да се окаже една от най-важните защити в ерата на изкуствения интелект.

Финансовите измами съществуват отдавна. Това, което се променя, е тяхната технологична мощ. А когато изкуственият интелект се превръща в ускорител на престъпните схеми, скоростта, с която обществото, бизнесът и институциите изграждат нови механизми за защита, става решаваща.