Изкуственият интелект навлиза във финансите не само като инструмент за автоматизация, анализ на данни и защита от измами, но и като потенциален източник на системен риск. Според анализатори следващата фаза на технологичната надпревара вече не се ограничава до чатботове, които отговарят на въпроси. Агентният изкуствен интелект може самостоятелно да проучва финансови продукти, да избира инвестиции, да прехвърля средства и да извършва плащания от името на потребителите. Това обещава по-ниски разходи и по-добър достъп до финансови услуги, но поставя под натиск механизмите, върху които банковата система разчита от десетилетия.
Това са устойчивите депозити, контрола върху транзакциите и възможността решенията да бъдат проследени до конкретен отговорен субект. Опасността не е единствено от способността на алгоритмите да допускат грешки. Тя е свързана и със скоростта, с която могат да действат, с общите технологични зависимости на финансовите институции и с поведението на множество автономни системи, които преследват сходни цели.
Ако хиляди агенти едновременно преценят, че дадена банка предлага неизгодни условия, те могат да пренасочат средствата на клиентите към конкурентни институции за минути. Това, което за отделния потребител е рационално финансово решение, при масово приложение може да се превърне в проблем за ликвидността на банковия сектор.
От киберзаплахите до автономните финансови решения
Регулаторите в Европейския съюз и Великобритания все по-често разглеждат изкуствения интелект не просто като технологична възможност, а като фактор, способен да усили вече съществуващи слабости. Европейската централна банка следи рисковете от кибератаки, оперативни прекъсвания и концентрация на технологични услуги, а Европейският съвет анализира възможността тези заплахи да засегнат едновременно множество институции.
Германският финансов надзор също предупреждава за необходимостта от по-сериозни инвестиции в киберсигурност.
Генеративните модели могат да подпомагат престъпници при създаването на убедителни фишинг съобщения, автоматизирането на разузнавателни операции и откриването на уязвимости в софтуера. Дипфейк записи на гласове и видеоматериали допълнително затрудняват проверката на самоличността при дистанционни финансови операции.
Усъвършенстването на моделите помага на злонамерени играчи да извършват по-евтини и по-бързи атаки. В същото време банките използват същите технологии за откриване на необичайни транзакции, оценка на риска и по-бърза реакция при инциденти. Надпреварата между защитата и атаките се ускорява, а предимството зависи от качеството на данните, контрола върху системите и способността за навременна намеса.
Допълнителен проблем е концентрацията на инфраструктурата. Много финансови институции разчитат на ограничен брой доставчици на облачни услуги, изчислителна мощност и модели с изкуствен интелект. Прекъсване или сериозна уязвимост при един от тях може да засегне едновременно множество банки, платежни оператори и инвестиционни компании.
Ако автономни агенти получат достъп до банкови сметки, платежни инструменти и инвестиционни платформи, компрометирането на една система би могло да има последствия не само за първоначалната жертва. Рискът се усложнява от начина, по който работи агентният изкуствен интелект.
За разлика от стандартния чатбот, който генерира отговор на конкретна заявка, агентът може да разделя целта на отделни задачи, да използва външни инструменти и да предприема последователни действия без постоянно одобрение от човека, който ръководи процеса. Например потребител може да му възложи да намери най-добрата доходност за спестяванията си. Системата би могла да сравни лихви, такси, условия за теглене и гаранции, след което да избере сметка и да инициира превод.
Подобна автоматизация има икономическа логика. Според оценка на консултантската компания McKinsey агентната търговия може да генерира между 3 и 5 трилиона долара приходи годишно до 2030 година.
Прогнозата обхваща широк спектър от приложения, а не само финансови услуги, и зависи от това доколко потребителите ще поверят реални покупки и решения на автономни системи. За технологичните компании това е възможност да се превърнат в посредници не само при търсенето на информация, но и при самото разпределение на парите.
Тук възниква и въпросът за отговорността. Ако агент избере неподходящ инвестиционен продукт, извърши неоторизиран превод или разкрие чувствителни данни, вината може да бъде разпределена между разработчика на модела, доставчика на платформата, банката, платежния оператор и самия клиент. Договорните условия невинаги дават ясен отговор кой трябва да понесе загубата.
За финансовите регулатори това означава, че техническият контрол трябва да бъде придружен от проследими действия, ограничения на правомощията и механизми за бързо спиране на операциите.
Депозитите, инвестиционният бум и рискът от верижна реакция
Най-прекият системен риск може да се появи при банковите депозити. Традиционният модел разчита на това, че значителна част от клиентите не преместват средствата си незабавно при всяка промяна в лихвите. Тези депозити осигуряват сравнително стабилен източник на финансиране за кредити към домакинствата и бизнеса. Автономните агенти могат да променят тази зависимост, като сравняват офертите постоянно и пренасочват средствата към институциите с най-висока доходност.
Главният икономист на глобалната инвестиционна компания Apollo Торстен Слок предупреждава за възможността подобни системи да насочват автоматично домакинските спестявания към сметки с лихви от 3.3% до 5%, вместо към разплащателни сметки със средна доходност от около 0.1 процента. Същественото тук е, че агентът може да превърне разликата в доходността в основание за незабавно прехвърляне на значителни суми, като се пренебрегне факта, че финансовата институция не е достатъчно сигурна.
За отделния клиент това би било рационално. За банката, която губи евтино финансиране, последиците могат да бъдат сериозни, примерно необходимост от привличане на нови депозити при по-високи лихви, търсене на по-скъпо пазарно финансиране или ограничаване на кредитирането. Ако множество агенти реагират едновременно на един и същ сигнал, движението на средствата може да се ускори до темп, при който управлението на ликвидността става значително по-трудно.
Фалитът на Silicon Valley Bank през март 2023 г. показа колко бързо понякога се развива такъв процес и без автономни агенти. Банката се сблъска с масово теглене на депозити, подпомогнато от дигиталните канали и координацията между клиенти, инвеститори и компании. Агентната търговия би могла да ускори подобна динамика, ако системи, оптимизирани за доходност или сигурност, започнат едновременно да препоръчват теглене на средства от една и съща институция.
Рискът не се изчерпва с депозитите. Независими инвестиционни агенти могат да насочат капитали към едни и същи активи, ако използват сходни данни, модели или критерии за оценка. При промяна на пазарните условия те могат да продадат едновременно, увеличавайки ценовите колебания.
Това е особено важно на фона на инвестиционния бум около изкуствения интелект. Според данни, цитирани от Световната банка, капиталовите разходи, свързани с ИИ, в САЩ са достигнали приблизително 6% от брутния вътрешен продукт. Въпросното равнище е съпоставимо с пика на инвестициите в информационните технологии през 2000 година.
Допълнителна уязвимост идва от частното кредитиране, защото този пазар е по-малко прозрачен от традиционното банково финансиране. По оценки, цитирани също от Световната банка, от планираните 2.9 трилиона долара капиталови разходи за ИИ през периода 2025–2028 г. около 800 милиарда долара се очаква да бъдат осигурени чрез частно кредитиране. И ако технологичните компании не успеят да оправдаят направените инвестиции, загубите могат да засегнат кредитори, фондове и институции с експозиции към този сегмент.
За банките предизвикателството е двойно – да използват ИИ, за да останат конкурентоспособни, и едновременно да ограничат риска от системи, които действат по-бързо от традиционните механизми за контрол.
Когато решението за преместване на милиони евро се взема от софтуер, който оптимизира доходността на отделния клиент, стабилността на банковата система вече не зависи единствено от платежоспособността на банките. Тя зависи и от правилата, по които действат машините, от информацията, на която се доверяват, и от това дали хората могат да реагират навреме.
Източници: Политико и Ройтерс
