Бързото развитие на изкуствения интелект предизвика сериозни опасения сред американските власти и експертите по киберсигурност, след като нов модел на компанията Anthropic демонстрира способност да открива и използва софтуерни слабости в мащаб, който доскоро се смяташе за недостижим за машините, пише „Уолстрийт джърнъл“.
Тревогата започва още през март, когато изследователят по киберсигурност Никълъс Карлини от Anthropic представя пред стотици специалисти резултатите от работата си с експерименталния модел Mythos.
Карлини, известен дълги години като скептик по отношение на възможностите на AI, признава, че новите системи вече надминават собствените му умения при откриването на определени видове уязвимости.
По време на демонстрацията той показва как моделът е открил критични слабости в системата за публикуване на уебсайтове Ghost и в ядрото на операционната система Linux – една от най-проверяваните и използвани софтуерни платформи в света. Само за няколко дни AI моделът успява да анализира хиляди редове код и да открие стотици потенциални проблеми.
След представянето Карлини предупреждава ръководството на Anthropic, че технологията може да е твърде мощна, за да бъде пусната без ограничения. Така започва дебатът, наречен от експертите Bugmageddon – нова ера, в която откриването на програмни грешки и създаването на инструменти за тяхното използване става значително по-достъпно чрез изкуствен интелект.
Миналата седмица компанията представи обновената версия Mythos 5, както и Fable 5 – модифицирана версия с въведени защитни механизми, предназначени да ограничат злоупотребите.
Въпреки това администрацията на президента Доналд Тръмп реагира остро и наложи ограничения върху използването на двата модела от чуждестранни правителства, компании и граждани. За да спази изискванията, Anthropic временно прекрати достъпа до системите.
Последва напрежение между компанията и Белия дом. Представители на администрацията изразиха опасения, че моделите могат да бъдат използвани за откриване на критични уязвимости и създаване на зловреден код, докато Anthropic настоява, че е приложила механизми за сигурност и че част от откритите слабости могат да бъдат намерени и с други налични инструменти.
Опасенията на експертите не се ограничават само до държавните институции. Банки, корпорации и оператори на критична инфраструктура се тревожат, че огромен брой стари софтуерни системи могат да съдържат уязвимости, които изкуственият интелект ще разкрие много по-бързо, отколкото организациите могат да ги отстранят.
По данни на Anthropic моделът Mythos вече е открил над 10 000 софтуерни проблема. Най-голямото безпокойство е, че изкуственият интелект не само намира грешки, но все по-успешно създава и така наречения експлойт код – програми, които използват тези слабости за извършване на кибератаки.
Самият Карлини смята, че предимството на Mythos няма да остане уникално за дълго и че други компании за изкуствен интелект скоро ще достигнат подобно ниво на способности. Затова институциите трябва да намерят начин да се адаптират към новата реалност или в противен случай кибератаките посредством AI ще зачестят.
