Хакването на системата на стартъпа Hugging Face от модел на изкуствен интелект (AI) на американската компания OpenAI, разработчик на чатбота ChatGPT, е предупреждение за цялата индустрия. Това заяви Мустафа Сюлейман, генерален мениджър „Разработка на изкуствен интелект“ в Microsoft и съосновател на Google DeepMind.
„Това са много мощни инструменти и с тях трябва да се борави много внимателно. Трябва да обръщаме голямо внимание на детайлите. Моделите стават все по-сложни и мисля, че това е предупредителен знак“, каза Сюлейман в интервю за британския вестник Financial Times.
От своя страна, ръководителят по сигурността на Microsoft Хайет Галот отбеляза, че
компанията „няма друг избор“, освен да инвестира в разработването на защити срещу атаки с изкуствен интелект.
На 16 юли Hugging Face, която позволява на създателите на модели с изкуствен интелект и продукти, базирани на тях, да споделят данни и да променят работата си въз основа на тях, обяви, че е открила неоторизирано проникване в системите си. Компанията нарече инцидента безпрецедентен, защото хакерската атака е била оркестрирана „от началото до края“ от агент с изкуствен интелект. На 22 юли OpenAI съобщи, че атаката е била извършена от нейните модели с изкуствен интелект, които по време на тестване са успели да „избягат“ от вътрешна, изолирана система в интернет и са търсили отговори на тестови въпроси в базите данни на Hugging Face.
