Технологичният гигант Meta спря спорната си програма Model Compatibility Initiative (MCI) за наблюдение на служители, след като вътрешен проблем със сигурността е направил възможно данните, събрани чрез нея, да бъдат достъпни за други служители в компанията.
„Разработихме програмата с мерки за защита на личните данни. Засега няма доказателства, че някой служител е използвал неправомерно тази информация, но я спираме временно, докато извършим проверка“, заяви говорителката на Meta Трейси Клейтън.
Компанията въведе системата Model Compatibility Initiative през април за служителите си в САЩ. Целта ѝ е да събира информация за начина, по който хората работят на компютър, за да обучава модели с изкуствен интелект. Програмата записва движенията на мишката, местата, на които потребителят кликва, натиснатите клавиши и съдържанието на екрана.
Първоначално служителите не са имали право да откажат участие в програмата. След протести и критики Meta все пак е позволила на част от тях да се откажат.
Ръководството на компанията защитаваше проекта с аргумента, че тези данни са необходими, за да се научат AI системите да използват компютърни програми по начина, по който го правят хората. Според Meta именно нейните служители са най-подходящият източник на подобни примери.
В понеделник (22 юни) обаче инженер от компанията е изпратил вътрешно съобщение, че базите данни, събрани чрез MCI, по погрешка са били достъпни за всички служители на Meta.
Бивш служител, който е участвал в кампанията срещу програмата, определи случилото се като „пълен хаос“ и заяви, че подобен инцидент е бил очакван.
„Когато предупредихме за рисковете, ръководството не ни чу. Вместо да обърне внимание на опасенията за сигурността и поверителността на данните на служителите и клиентите, то настоя проектът да продължи“, коментира той.
След вълната от критики във вътрешните форуми на компанията Meta изненадващо реши да спре изцяло програмата MCI.
