Александър Ребен, инженер и изследовател от Калифорнийския университет, създаде робот, който може съзнателно да нанесе вреда на човека, нарушавайки прочутия първи закон на роботиката, формулиран от писателя фантаст Айзък Азимов. Въпреки безобидния си външен вид той отново предизвика вълна от дискусии за необходимостта от създаване на паник бутон, който да предпазва хората от атаките на по-мощни устройства в бъдеще.
Конструкцията на Ребен включва място, където може да се сложи човешки палец. Когато някой се докосне до него, роботът фиксира действието и решава дали да му причини вреда, убождайки го с малка игла, или не. Изследователят отбелязва, че самият той не би могъл да предскаже поведението на машината, която е създал.
Наистина, стрелящите дронове и безпилотните военни апарати съществуват много преди появата на робота с малката игла. Но те не могат да вземат самостоятелно решение за убийството на човек, защото зад крайния резултат от действията им стоят хора. Устройството на Ребен определя самостоятелно как да се държи във всеки отделен случай, когато нечий палец се намира на достъпно разстояние от иглата.
Конструирането на необичайния робот отнема на американеца няколко дни и 200 долара и основното му предназначение е да се замислим върху сигурността на човечеството и неговото бъдеще. Впрочем инженерът далеч не е противник на роботите и обича да създава необикновени вещи. В "арсенала" му са музикална кутия, работеща със слънчеви батерии, "умни" масажори за глава и бъбрив апарат, който прави компания на стеснителни хора.
При все че засега роботите не живеят наравно с хората в обществото, фантастичните филми с човекоподобни машини не са толкова далеч от истината. Роботи се експлоатират като мениджъри в компании, а изкуственият интелект вече е в състояние да прогнозира времето и да развлича самотници. Което е още една причина за създаването на преграда пред този интелект, който може да "поумнее“ дотолкова, че да излезе от контрола на човека.
Най-известните хора в сферата на високите технологии също предупреждават за опасността от суперинтелекта. В разговор с потребители от популярното онлайн общество Reddit основателят на Microsoft Бил Гейтс предположи, че роботите могат да са безобидни и полезни в домакинската работа, но ако израснат до свърхразум, прогнозирането на поведението им ще стане изключително сложно.
През юни 2015-а ръководителят на Tesla и SpaceX Елън Мъск астрофизикът Стивън Хокинг и съоснователят на Apple Стивън Возняк написаха открито писмо, в което се говори за опасността от изкуствения интелект в сферата на отбраната. Специалистите твърдят, че суперинтелектът, способен да използва оръжие, заобикаляйки човешкия фактор, ще доведе до нова ера в надпреварата във въоръжаването и че не става дума за измислици, а за бъдеще, което може да настъпи след няколко години. Според тримата попадането на подобни технологии в ръцете на терористи би довело до разрушаване на световния ред.
Трите закона на роботиката
1. Роботът не може да причини или с бездействието си да допусне да бъде причинена вреда на човека.
2. Роботът трябва да се подчинява на командите, които му дава човекът, освен в случаите, когато тези команди противоречат на Първия закон.
3. Роботът трябва да се грижи за своята безопасност, ако това не противоречи на Първия и Втория закон.
