Системите с изкуствен интелект (AI) стават все по-мощни и автономни. Те могат да се развиват по-бързо, отколкото съществуващите институции могат да реагират, да концентрират властта в ръцете на ограничен брой играчи и да вземат решения, които хората вече не разбират или контролират. Това заяви Сам Алтман, главен изпълнителен директор на OpenAI, американската компания, стояща зад услугата ChatGPT, на заседание на Съвета за сигурност на ООН, посветено на изкуствения интелект.
„Тази загриженост става особено важна, тъй като се приближаваме към системи, които могат да се подобряват сами и своите бъдещи версии, често наричани рекурсивно самоусъвършенстване. Тъй като процесът на създаване на изкуствен интелект се автоматизира, темпът на неговото развитие може да се ускори драстично. Това изисква изключителна предпазливост“, каза Алтман.
Според него, нарастващата автономност на изкуствения интелект създава риск „технологичното развитие да започне да изпреварва способността на държавите и международните институции да го регулират и контролират“.
Дарио Амодей посочва три стъпки към установяване на стандарти за изкуствен интелект
Главният изпълнителен директор на американската технологична корпорация Anthropic, говорейки пред Съвета за сигурност на ООН, се застъпи за създаването на международни стандарти за безопасност на изкуствения интелект и очерта три стъпки към тяхното установяване.
Амодей припомни, че преди това е говорил за необходимостта от постигане на „глобално сътрудничество между правителствата по целия свят за установяване на международни стандарти“ и отбеляза, че „тази тема е най-пряко свързана с правомощията на този Съвет за сигурност“.
Технологиите за изкуствен интелект, ако са неконтролирани, биха могли да представляват заплаха за човечеството като цяло.
Това предупреждение направи Дарио Амодей. „Дори вярвам, че изкуствения интелект може да представлява заплаха за човечеството като цяло“, каза той. „Преди четири години той едва можеше да напише ред код или да реши математическа задача в гимназията. Сега той пише по-голямата част от кода на Anthropic и може да решава световноизвестни нерешени математически задачи. Тази траектория на развитие трябва да продължи само за много кратък период от време – година или две, може би по-малко – за да достигне това, което наричам земя на гении от центрове за данни“, добави той.
Усъвършенстваните модели на изкуствен интелект могат да донесат много ползи за човечеството,
но те също така идват с определени рискове, отбеляза той, като подчерта две основни категории заплахи. „Първата е злоупотребата с модели на изкуствен интелект, например от биотерористи за създаване на биологични оръжия. Вторият риск е загубата на контрол върху изкуствения интелект“, каза той.
Амоедей заяви готовността на Anthropic да „забави скоростта на разработването на изкуствен интелект, колкото е необходимо, за да гарантира безопасността на всяка технология за изкуствен интелект, която пуска“. Той обаче подчерта, че борбата с тези проблеми „е извън възможностите на която и да е отделна компания и е в индустриален и глобален мащаб“.
„В тази връзка бих искал да предложа три идеи.
Първо, трябва да започнем с целенасочени споразумения, които всички членове могат да подкрепят, като например забрана на използването на изкуствен интелект за създаване на биологични оръжия или разрешаване на използването на технологии с изкуствен интелект за създаване на биологични оръжия. Второ, трябва да създадем системи за проверка и валидиране, които са в крак с развитието на изкуствения интелект, така че държавите да разбират възможностите на усъвършенстваните модели и да могат взаимно да проверяват спазването на ангажиментите си. Трето, трябва да определим общи глобални стандарти за тестване на модели с изкуствен интелект за рисковете от загуба на контрол и злоупотреба и да създадем система за уведомяване за инциденти, свързани с изкуствен интелект, които са значими от гледна точка на глобалната сигурност“, каза той.
Амодей изрази увереност, че заплахите, свързани с изкуствения интелект, са „най-важното глобално предизвикателство за сигурността, пред което е изправен светът днес“. „Въпреки всички различия в тази зала, трябва да ги оставим настрана, за да се справим с тази глобална възможност и заплаха. Никой лидер, компания или държава не може да направи това сам“, заключи изпълнителният директор на Anthropic.
