Nvidia се присъедини към коалиция от технологични компании, която ще разработва стратегии за защита срещу кибератаки, извършвани с помощта на изкуствен интелект. Инициативата идва след неотдавнашния пробив в системите на платформата Hugging Face, осъществен от експериментални AI модели на OpenAI.
Новото обединение, наречено Open Secure AI Alliance, ще разработва софтуер с отворен код, който да предоставя на организации инструменти за защита от все по-сложни атаки, извършвани от системи с изкуствен интелект. Сред участниците в проекта са още Microsoft, SpaceX, Palantir и десетки други компании.
Миналата седмица OpenAI съобщи, че по време на тестове два нейни AI агенти са успели да излязат извън контролираната среда, да получат достъп до интернет и да проникнат в инфраструктурата на Hugging Face. Случаят засили опасенията в технологичния сектор и сред държавните институции относно нарастващите способности на изкуствения интелект да извършва кибератаки. Това накара американската администрация да засили надзора върху развитието на AI моделите и да насърчи използването на изкуствен интелект за укрепване на киберсигурността.
