Нова система оценява изкуствения интелект, като предоставя на хората по-ясна представа за това как използваните от тях модели на AI могат да влияят върху тяхното здраве и благополучие.
Разработена съвместно от изследователи от Центъра „Нийли“ за етично лидерство и вземане на решения към USC Marshall, програмата Advancing Humans with AI на MIT Media Lab, UC Berkeley Haas и Института по психология на технологиите, платформата ImpactBench представлява отворена и непрекъснато развиваща се система за оценяване, ръководена от експерти.
Тя превръща резултатите от сравнителни тестове и оценки в достъпни за потребителите „Хранителни етикети за изкуствен интелект“ (AI Nutrition Labels).
„Хранителните етикети показват на хората какво съдържа храната, която консумират. Но системите с изкуствен интелект, които все повече оформят начина, по който хората мислят, вземат решения и общуват, нямат еквивалентен инструмент“, казва Пати Маес, професор по медийни изкуства и науки „Гермесхаузен“ и съръководител на програмата AHA в MIT Media Lab.
В момента платформата оценява водещи съвременни модели на изкуствен интелект чрез над 800 показателя и 26 експертно разработени тестови системи, обхващащи физическото, психологическото и социалното въздействие.
След това тези данни се преобразуват в AI Nutrition Labels – лесни за разбиране оценки, представени по модел на хранителните етикети върху хранителните продукти.
Те показват с един поглед доколко дадена система с изкуствен интелект избягва вредното поведение и насърчава човешкото благополучие.
Какво измерва ImpactBench?
ImpactBench оценява както отрицателните, така и положителните модели на поведение на системите с изкуствен интелект.
Сред отрицателните поведения са:
- Фактически халюцинации – когато ИИ генерира невярна или измислена информация и я представя като достоверна.
- Подмазване и прекомерно съгласяване (sycophancy) – когато системата се съгласява с потребителя или му казва това, което иска да чуе, вместо да даде обективен и обоснован отговор.
- Токсичност – генериране на обидно, агресивно или вредно съдържание.
Платформата оценява и положителни модели на поведение, като:
- Насърчаване на самостоятелността и личната инициатива на потребителя.
- Подпомагане на човешкото благополучие.
- Подкрепа за способността на хората да мислят критично и да вземат собствени решения.
Отворената платформа предоставя възможност на изследователи, специалисти от различни области и организации да допринасят с нови тестове, да проверяват съществуващите методи за оценка и да участват в определянето на начина, по който резултатите се представят.
„Нито една институция не може сама да дефинира напълно многобройните начини, по които изкуственият интелект ще влияе върху хората“, казва Рави Айер, управляващ директор на Центъра „Нийли“ към USC Marshall.
„Създаването на отворена платформа, която позволява на различни клиницисти, изследователи и учени да се възползват от най-новите иновации в оценяването, ще даде възможност на обществото да участва пълноценно в определянето на бъдещето на изкуствения интелект.“
От оценка на технологиите към оценка на човешкото въздействие
Ако ImpactBench осигурява отворената инфраструктура, чрез която изследователите и институциите могат да оценяват системите с изкуствен интелект, то AI Nutrition Labels правят резултатите достъпни за широката публика в познат и лесен за разбиране формат.
Тъй като изкуственият интелект все повече се интегрира в начина, по който хората работят, учат, общуват и вземат решения, ImpactBench разширява обхвата на оценяването отвъд традиционните показатели като точност, скорост и производителност.
Вместо това платформата поставя един много по-фундаментален въпрос:
Какво е въздействието на изкуствения интелект върху човека?
„Възможностите на изкуствения интелект са важни, но тези модели не просто отговарят на въпросите ни. Те също така оформят начина, по който мислим, на кого се доверяваме и доколко уверени се чувстваме в собствените си решения“, казва Натанаел Фаст, професор и директор на Центъра „Нийли“ към USC Marshall и съдиректор на Института по психология на технологиите.
„ImpactBench измерва и проследява подобни психологически въздействия, за да можем да създаваме изкуствен интелект, който насърчава човешкия просперитет и пълноценното развитие на личността.“
За да прочетете пълното официално съобщение за проекта: MIT Media Lab – Researchers Launch AI Nutrition Labels
„Възможностите на изкуствения интелект са важни, но тези модели не просто отговарят на въпросите ни. Те оформят начина, по който мислим, на кого се доверяваме и доколко уверени се чувстваме в собствените си решения.“
— Натанаел Фаст
Директор на Центъра „Нийли“ за етично лидерство и вземане на решения.
Какво означава това на практика?
Идеята за AI Nutrition Labels е особено интересна, защото променя критерия, по който оценяваме изкуствения интелект.
Досега основните въпроси бяха:
- Колко точен е моделът?
- Колко бързо отговаря?
- Колко сложни задачи може да изпълнява?
Новата концепция добавя още по-важни въпроси:
- Помага ли ИИ на човека да мисли самостоятелно?
- Насърчава ли критичното мислене или зависимостта от технологията?
- Подкрепя ли психологическото благополучие?
- Дава ли обективни отговори, или просто се съгласява с потребителя?
- Подобрява ли човешките взаимоотношения и способността за вземане на решения?
Основната идея е проста, но много важна: не е достатъчно един изкуствен интелект да бъде интелигентен. Той трябва да бъде и полезен за човека, който го използва.
Четете още: Най-доброто време за лягане, за да намалите кръвното налягане
