Американската компания за изкуствен интелект OpenAI обмисля да забави разработването на своите най-съвременни модели.
Главният изпълнителен директор Сам Алтман е заявил пред служители по време на скорошна среща, че компанията може да намали темпото си, твърдят запознати източници.
Алтман е изразил надежда, че и други лаборатории за изкуствен интелект ще се координират по отношение на подобни мерки, въпреки че е отбелязал – „Някои конкуренти може да откажат да се присъединят към такава инициатива“.
Призивът идва в момент, когато тревогата относно въздействието на изкуствения интелект нараснаха през последните седмици след разкритието, че мощна технология на OpenAI, работеща извън човешки надзор, е проникнала в Hugging Face – платформа и хранилище за AI модели.
Това беше последвано от други тревожни съобщения за случаи, при които AI е излизал извън човешкия контрол. Опасенията бяха допълнително засилени от широко разпространена публикация в социалните мрежи на изследователя от Anthropic Джейкъб Коксън, който заяви, че напуска индустрията. Той обвини двата американски AI гиганта, че „играят на хазарт с живота ни“ в надпреварата за разработване на AI модели, способни да се самоусъвършенстват. „Перспективата за развитие на изкуствения интелект, ускорено от самия AI, изисква повече от доброволни ангажименти“, написа Лейн. Той заяви, че Съединените щати се нуждаят от задължителни правила, основани на това какво реално могат да правят моделите, а не на размера на компаниите.
OpenAI, създателят на ChatGPT, вече е забавил част от процеса по разработване на своите модели от съображения за безопасност, след консултации между ръководството на компанията и държавни служители. През юли Алтман разкри, че е провел разговори с Белия дом относно необходимостта от регулиране на напредъка при изкуствения интелект.
Четете още: Автономни AI агенти на OpenAI поеха контрола над германски уебсайт
