Заплахите на Съединените щати да наложат санкции срещу китайски разработчици на изкуствен интелект заради предполагаема кражба на интелектуална собственост и нарушения на правилата за експортен контрол могат да провалят усилията за изграждане на двустранен диалог по въпросите на безопасността на AI. Това предупреждават анализатори на фона на все по-мощните модели, които пораждат опасения от сериозни пробиви в сигурността.
В сряда американски представители обвиниха китайската лаборатория Moonshot, че е разработила своя модел Kimi K3, използвайки техника, известна като дестилация, върху усъвършенствания модел Fable 5 на американската компания Anthropic. Вследствие на това министърът на финансите на САЩ Скот Бесънт предупреди, че срещу компанията могат да бъдат наложени санкции.
Дестилацията представлява процес, при който нов модел се обучава, използвайки отговорите на по-мощен модел. По този начин значително се намаляват разходите за създаване на високоефективен AI.
Паралелно с това Бюрото за индустрия и сигурност към Министерството на търговията на САЩ проверява дали китайски компании, включително Moonshot, не използват незаконно американски високопроизводителни чипове за обучение на своите модели. Представители на Moonshot не са коментирали обвиненията.
Според анализаторите спорът показва нарастващото противоречие в съревнованието между САЩ и Китай в сферата на изкуствения интелект.
И двете държави разглеждат най-съвременните AI модели едновременно като стратегически актив и като потенциална заплаха за националната сигурност. В същото време специалистите смятат, че именно сега сътрудничеството за изработване на общи стандарти за безопасност е по-необходимо от всякога, тъй като мощните модели могат да бъдат използвани за кибератаки или други злонамерени действия.
Според експерти настоящите обвинения, както и обсъжданите във Вашингтон ограничения върху китайските модели с отворени тегла, могат да предизвикат ответни мерки от страна на Пекин и да застрашат планираната през септември среща между представители на двете държави по въпросите на AI.
Това напрежение се добавя към вече съществуващите американски ограничения върху износа на високотехнологични чипове за Китай, които през последните години се превърнаха в основен елемент от търговските отношения между двете страни.
Пол Триоло от консултантската компания DGA-Albright Stonebridge Group предупреждава, че ако санкциите засегнат голям брой китайски компании, това може да провали както диалога за безопасността на AI, така и планираната среща между президентите Доналд Тръмп и Си Дзинпин на 24 септември.
Междувременно Китай също обмисля възможността да ограничи достъпа на чуждестранни потребители до свои AI модели като ответна мярка.
Миналата седмица нюйоркската платформа Hugging Face използва китайския модел GLM-5.2 на компанията Z.ai, за да овладее кибератака, извършена от неконтролируем AI агент на OpenAI, който е излязъл извън контрол по време на тестове за безопасност.
Иронично, според публикацията, затворените американски модели са имали толкова строги защитни механизми, че не са били подходящи за реакция в конкретната ситуация.
Изследователи предупреждават, че както китайските, така и американските модели вече започват да достигат етап на рекурсивно самоусъвършенстване – способност самостоятелно да подобряват собствените си възможности. Това прави сътрудничеството между двете държави още по-важно.
Специалистите обръщат внимание и на риска от моделите с отворени тегла, които могат свободно да бъдат изтегляни, променяни и разпространявани, което значително затруднява контрола върху тях.
Един от най-известните учени в областта на изкуствения интелект Йошуа Бенджио предупреди по време на голям форум в Китай, че веднъж разпространени, такива модели практически не могат да бъдат върнати под контрол.
Според него трябва да се публикуват само модели, които са преминали сериозна оценка на риска, а най-опасните разработки изобщо да не се предоставят публично.
Китайските AI модели преминават през държавни проверки за безопасност и съдържание преди официалното им пускане, но настоящите правила не обхващат последващи модификации на моделите.
Експерти отбелязват, че за разлика от американските компании OpenAI и Anthropic, много китайски лаборатории не разполагат с достатъчно изчислителни ресурси, за да инвестират сериозно в обучение за безопасност. Вместо това те концентрират усилията си върху подобряване на възможностите на моделите.
Според изследователката Кристи Лоук е възможно Китай в бъдеще да ограничи публикуването на най-мощните си модели с отворени тегла, но подобна промяна би била трудна.
Някои специалисти по безопасност настояват както китайските, така и американските компании да бъдат задължени да подлагат новите си модели на независими тестове още преди официалното им пускане.
В САЩ компаниите могат доброволно да изпращат моделите си за оценка в държавния Център за стандарти и иновации в областта на изкуствения интелект (CAISI), но част от законодателите настояват тези проверки да станат задължителни.
Според Лоук най-добрият вариант би бил двете държави да създадат общи стандарти за предварително тестване и да определят ясни граници за разработването и разпространението на най-мощните AI модели.
