Австралия заяви в четвъртък 24 септември, че агент на OpenAI е проникнал през юни в правителствен портал за здравни данни, като е получил неоторизиран достъп до файлове. Това може да е първият известен случай на AI агент, който хаква правителствен уебсайт.
Пробивът е един от най-значимите публично известни инциденти, при които AI агенти са получили достъп до външни системи извън Съединените щати. Той се случва на фона на няколко скорошни пробива по света, извършени от т.нар. „неконтролирани AI агенти“, които предизвикаха тревога сред правителства и компании.
Австралийският премиер Антъни Албанезе заяви, че агентът на OpenAI е получил неоторизиран достъп до портала за медицинска статистика на Medicare – австралийската универсална здравноосигурителна програма докато е извършвал проучване на публичните разходи за здравеопазване.
„Наличните към момента доказателства показват, че няма по-широко компрометиране на мрежата. Въпреки това тази ситуация очевидно е неприемлива“, заяви Албанезе пред журналисти Ню Йорк, където участва в Общото събрание на ООН.
Разследването продължава, а Австралия е изразила „изключителната си загриженост за този инцидент“ пред главния изпълнителен директор на OpenAI Сам Алтман, каза Албанезе. Той добави, че е дълбоко разочарован от забавянето на компанията при уведомяването на правителството.
„До 10 септември изобщо не е имало уведомяване“, каза Албанезе. Той добави, че разследването ще проучи и защо правителствените системи не са успели да засекат пробива още при възникването му.
Премиерът също предупреди, че още три правителствени уебсайта, свързани със здравеопазването, може да са били засегнати от действията на агента на OpenAI, но не потвърди, че това действително се е случило.
В свое изявление OpenAI заяви, че „при извършения преглед не са открити доказателства за достъп до медицински досиета на пациенти“.
Компанията добави, че е „идентифицирала активност, свързана с няколко австралийски правителствени уебсайта и услуги, докато нашите модели са се опитвали да намерят отговори… нашите модели са предприели действия, които не сме възнамерявали да предприемат“.
Пробивът, свързан с AI агента, допълнително засилва напрежението между Австралия и най-големите американски технологични компании. Канбера вече предизвика критики от социалните мрежи и Вашингтон, след като въведе първата в света забрана за използване на социални медии от деца под 16 години, както и нови правила, които задължават технологичните компании да позволят на потребителите да изключват алгоритмично подбраното съдържание в своите информационни потоци.
Австралийското правителство е създало специална работна група, която да разследва пробива и да провери дали съществуващата мрежова сигурност е достатъчна, за да предотврати подобни инциденти.
Пробивът беше обявен в същия ден, в който водещите AI компании в света предупредиха Съвета за сигурност на ООН за рисковете, които изкуственият интелект представлява за човечеството, и призоваха правителствата да работят заедно за контролиране на все по-мощната технология.
През последните четири години Австралия е станала обект на поредица от опити за хакерски атаки срещу корпорации и компании, свързани с правителството.
Министърът на отбраната Ричард Марлс заяви, че пробитият портал на Medicare не е съдържал индивидуални медицински искове, плащания на обезщетения, лични банкови данни или медицински истории на пациентите на 27-те милиона жители на Австралия.
Вместо това сайтът съдържа само обобщени данни за използването на здравни услуги в страната, каза той. Въпреки това Австралия разглежда пробива като сериозен инцидент.
„Очевидно е имало блокировки, които ясно са казвали на AI агента „не“. AI агентът е намерил начин да заобиколи тези блокировки – просто не е приел „не“ за отговор“, заяви Албанезе пред журналисти.
Инцидентът е поредният от няколко скорошни случая, при които създателят на ChatGPT OpenAI е разкривал хакерски атаки или неоторизирана активност, свързана с негови AI агенти, значително след като са се случили.
Четете още: Властите на Британска Колумбия съдят OpenAI за ролята му в стрелба в училище
