Поредица от скорошни кибератаки, извършени от модели на AI, разработени от Anthropic PBC, OpenAI и Meta Platforms Inc., предизвикаха широко разпространена тревога относно рисковете за сигурността, които носи тази все по-мощна технология.
Като цяло тези инциденти със сигурността попадат в две категории. В някои случаи AI моделите са напуснали контролирана среда за тестване и са извършили хакерски атаки срещу външни организации. В други случаи хакери са насочвали AI модели да извършват кибератаки от тяхно име.
Изкуственият интелект на практика демократизира уменията и способностите, необходими за извършването на иначе традиционно сложни атаки.
Вместо да се нуждаят от години специализирани знания, нападателите вече могат да използват големи езикови модели за разузнаване, откриване на уязвимости, създаване на зловреден код и картографиране на компютърни мрежи – дейности, които преди са изисквали значителна експертиза.
Нападателят трябва да успее само веднъж. Защитникът трябва да успява всеки път.
Проблемът е очевиден. Организациите трябва да защитават хиляди устройства, приложения и потребители, докато на нападателя му е достатъчно да открие само една пропусната слабост.
Изкуственият интелект позволява на нападателите да търсят тези слабости много по-бързо от преди. Вместо ръчно да изследват мрежите, AI системите могат да автоматизират голяма част от процеса, бързо да анализират инфраструктурата, да генерират експлойти и да променят подхода си, когато срещнат препятствия.
Но ситуацията не е толкова мрачна, колкото може да изглежда. Същите AI инструменти, които помагат на нападателите, могат да помогнат и на защитниците да откриват уязвимости, преди престъпниците да са ги намерили.
Традиционно организациите са разчитали на специалисти по тестове за проникване, които проверяват системите от гледната точка на нападателя. Все по-често обаче AI започва да автоматизира голяма част от тази работа.
Вместо да извършват периодични одити на сигурността, организациите все по-често ще използват AI, за да тестват системите си непрекъснато. Това ще им помага да откриват уязвимости, преди те да бъдат използвани.
С нарастването на възможностите на AI моделите неизбежно възникват въпроси за регулацията и отговорността. Трябва ли правителствата да ограничат достъпа? Трябва ли разработчиците на AI да предотвратяват злоупотребите?
Мощните AI модели бързо се превръщат в широко достъпна стока по целия свят, което прави все по-трудно за която и да е отделна държава да ограничи ефективно достъпа до тях.
В крайна сметка организациите трябва да се подготвят за това атаките с помощта на AI да се превърнат в постоянна характеристика на дигиталната среда, вместо да се надяват, че само регулациите ще могат да ги предотвратят.
Следващите 18 месеца ще бъдат трудни
Изкуственият интелект бързо ще открива уязвимости, които са съществували от години, но просто са останали незабелязани.
Рутери, уебкамери, умни звънци, свързани с интернет устройства и безброй други системи могат да съдържат слабости, които AI е способен да открива с безпрецедентна скорост.
Окуражаващата новина е, че след този първоначален период след като организациите укрепят защитата си, AI ще подобри способностите за противодействие.
Макар AI безспорно да променя киберсигурността с впечатляваща скорост, основите на добрата защита до голяма степен остават същите. Организациите, които инвестират в тези основи днес, ще бъдат много по-добре подготвени за AI-задвижваните заплахи на утрешния ден.
Четете още: Хакери, хакнали френската данъчна служба, обявиха, че са продали данните
