Организацията с нестопанска цел Humane Intelligence, която има за цел да насърчава етичното използване на Изкуствения интелект, и американският Национален институт за стандарти и технологии започват серия от състезания, съобщава WIRED. Те имат за цел да насърчат повече хора да търсят проблеми в генеративните системи за Изкуствен интелект.
Още през миналата 2023 година – на конференция на така наречените бели хакери Defcon в Лас Вегас, на която участваха и технологични компании, работещи по програми за изкуствен интелект, стана ясно, че те търсят хиляди доброволци, които да проверяват за бъгове в генеративните платформи за Изкуствен интелект.
Тази акция беше подкрепена от правителството на Съединените щати. Сега организацията с нестопанска цел Humane Intelligence предвижва инициативата още една крачка напред. Сега всеки американски гражданин може да участва в състезание – така наречения квалификационен кръг – който ще може даде ввъзможност да се включи към отбора на червените, които ще оценяват софтуера на компаниите, работещи с Изкуствен интелект.
Състезанието ще се проведе онлайн и на него могат да участват както разработчици, така и изкушени от предизвикателствата на оценката на рисковете и въздействията на Изкуствения интелект.
Участниците, които преминат през своеобразния кръг на квалификациите, ще участват в още един кръг, от който ще се прецени ще станат ли част от отбора на червените, които ще се събират в края на октомври за участие в Конференцията за приложно машинно обучение по информационната сигурност във Вирджиния.
Целта на инциативата е да се разширят възможностите за тествания на сигурността, устойчивостта и етиката при прилагането на на генеративните ИИ технологии.
Освен това отборът на червените ще има за цел да атакува защитите на системите на ИИ, като на тях ще им се противопоставят други доброволци, участващи в отбора на сините.
През следващите седмици Humane Intelligence ще обяви още интересни инициативи, организирани съвместно с правителствени агенции на САЩ, с НПО-сектора и с държавни структури на други страни. Целта е компаниите, работещи по програмите с ИИ, да не оставят усещането, че създават непроницаеми за никого алгоритми, а да предлагат прозрачност и отчетност чрез механизмите на игрите с предизвикателства. Така не само работата им ще стане по-прозрачна и видима, но и ще им се помогне да отстранят бъгове в ИИ моделите.
От Humane Intelligence заявяват, че и политици, и журналисти, и гражданското общество като цяло трябва да бъдат включени в процеса на тестване и оценка на системите за Изкуствен интелект. Те предвиждат и представители на малцинствени култури също да могат да участват в този процес.
