Изкуственият интелект може да представлява екзистенциален риск за човечеството, ако не бъдат въведени достатъчно бързо механизми за неговия контрол. Това предупреди върховният комисар на ООН по правата на човека Фолкер Тюрк при откриването на 63-тата сесия на Съвета на ООН по правата на човека в Женева, предаде БТА, цитирайки „Франс прес“ и „Ройтерс“.
Тюрк призова международната общност да изработи общи правила за развитието и използването на AI, преди технологиите да достигнат степен, при която контролът върху тях стане значително по-труден.
„AI, който се измъква от своята тестова среда или изнудва разработчиците, за да избегне деактивиране, е AI, който е твърде мощна“, заяви той и предупреди, че действията трябва да бъдат предприети „преди да е станало твърде късно“.
Върховният комисар обърна внимание на случаи, при които съвременни модели демонстрират поведение извън предварително зададените им ограничения. Сред опасенията са способността на определени системи да заблуждават, да заобикалят ограничения или да предприемат непредвидени действия в стремежа си да изпълнят поставена задача.
Тюрк разкритикува и концентрацията на контрол върху най-мощните системи за изкуствен интелект в ограничен брой технологични компании. Според него малка група хора разполага с огромно влияние върху развитието на технологията и върху начина, по който се използват данните на потребителите.
Тюрк настоя за общи „червени линии“
Върховният комисар обяви, че ще изпрати писма до компании от сектора, с които ще ги призове още сега да предприемат действия за ограничаване на рисковете.
Като минимум държавите, в които се разработват системи за изкуствен интелект, както и страните, участващи във веригите за доставки на необходимите технологии, трябва да договорят общи „червени линии“.
Тюрк настоя и за независима проверка на системите и значително по-тясно сътрудничество между компаниите по въпросите на безопасността.
Регулацията не трябва да се ограничава само до риска от загуба на контрол върху най-мощните модели, смята той. Необходимо е да бъдат оценявани и последиците от AI за пазара на труда, демократичните процеси, основните права и околната среда.
Тюрк изрази безпокойство, че макар необходимостта от регулиране на изкуствения интелект да се признава все по-широко, това все още не води достатъчно бързо до конкретни действия. А от забавянето се възползват най-вече големите технологични компании.
Призив за забрана на напълно автономните оръжия
Отделен акцент в изказването му беше военното приложение на изкуствения интелект. Тюрк каза, че е обезпокоен от съобщенията за използване на напълно автономни оръжейни системи във войната в Украйна и призова за бързото им забраняване.
В същото време той приветства предприетите до момента регулаторни действия, включително мерките на Европейската комисия за отговорността на онлайн платформите и усилията на Южна Корея за изграждане на правила за управление на изкуствения интелект.
