Нововъзникващият изкуствен интелект (ИИ) може да стане толкова суперинтелигентен и мощен, че да доведе до масивни социални катаклизми и дори до унищожаване на човечеството.
Повече от 350 изследователи и инженери наскоро отправиха предупреждение, че изкуственият интелект представлява опасност, сравнима с рисковете от пандемии и ядрена война. В проучване на експерти, проведено през 2022 г., средната вероятност изкуственият интелект да причини изчезване или сериозно намаляване на човечеството е 1 към 10.
Джефри Хинтън, който често е наричан „кръстникът“ на изкуствения интелект, не смята подобни страхове за фантастични. Той смяташе, че опасността от изкуствения интелект ще се появи след поне 30 години. Сега обаче изкуственият интелект, според него, се развива в суперинтелект толкова бързо, че след пет години може да стане по-умен от хората. Захранван от изкуствен интелект ChatGPT и чатботът Bing вече могат да издържат изпитите за правоспособност и медицински лицензи и да получат 99% резултат на тестовете за интелигентност, т.е. да достигнат нивото на човешкия гений. Джефри Хинтън и други се страхуват от момента, в който изкуственият интелект може да надмине хората в почти всяка задача. Някои експерти по изкуствен интелект сравняват тази възможност с внезапното пристигане на по-висша извънземна раса на нашата планета. И така, друг пионер в областта на изследванията на изкуствения интелект, компютърният учен Стюарт Ръсел заяви: „Нямате представа какво ще направят, когато дойдат тук, освен че ще превземат света.“
Един апокалиптичен сценарий е, че нападателите могат да използват силата на изкуствения интелект, за да създадат нови биологични оръжия, по-смъртоносни от естествените пандемии. Друга опасност е, че когато AI се интегрира в световните системи, той може да бъде използван от терористи и други нападатели за затваряне на жизненоважна инфраструктура и финансови пазари.
Освен това се посочва, че изкуственият интелект може да иска да стане напълно независим и за това напълно да се отърве от човешкия контрол. Следователно изкуственият интелект може да заблуди лидерите на ядрените държави да повярват, че врагът е изстрелял ракетите, като по този начин ги принуди да изстрелят свои собствени ракети.
