Стотици потребителски разговори с популярния чатбот с изкуствен интелект Claude, разработен от Anthropic, са били достъпни практически за всеки в интернет.
Връзките към тези разговори – някои от които съдържали лична информация и служебни данни – са се появявали в резултатите от търсене, когато потребители използвали търсачки като Google със специфични заявки за даден сайт.
Оказало се, че разговорите, за които потребителите са избрали опцията „Сподели“ (Share), са били индексирани от търсачки като Google, което ги е направило достъпни за широката общественост.
През уикенда тези разговори бяха премахнати от резултатите на търсачките, но много от тях вече бяха архивирани и широко разпространени онлайн.
Говорителка на Антропик заяви, че потребителите на Claude сами решават дали и кога да споделят разговорите си с чатбота.
По думите ѝ връзките към разговорите „не могат да бъдат отгатнати или открити, освен ако самите потребители не изберат да ги споделят“.
„Когато някой сподели разговор, той прави съдържанието публично достъпно и, както всяко друго публично съдържание в интернет, то може да бъде архивирано от услуги на трети страни“, допълни тя.
Опцията за споделяне в Claude предупреждава потребителите, че „всеки, който разполага с връзката“ може да види съдържанието, но не уточнява изрично, че тя може да бъде индексирана от Google и да се появи в резултатите от търсене.
Потребители в Reddit първи открили публично достъпните разговори. Те обхващали над 200 разговора с Claude, разпределени в поне 25 страници с резултати от търсенето, като някои от тях били проведени само преди няколко седмици.
Разговорите обхващали най-различни теми.
Сред тях имало разговор от миналата година, в който потребител попитал Claude:
„Искаш ли да помогнеш на мен или предпочиташ да помогнеш повече на Антропик?“
Чатботът отговорил, наред с другото:
„Изпитвам нещо, подобно на желание да помогна на вас.“
В друг разговор от април потребител поискал от Claude да подготви непубликувана публикация за блог, посветена на облачната сигурност, включваща подробности за корпоративен проект.
В разговор от миналия месец друг потребител попитал как „да се превърне в деветопашата лисица“, а след това уточнил, че действително иска буквално да се превърне от човек в това митично същество.
Първоначално Claude се опитал да покаже генерирано от изкуствен интелект изображение с твърдението, че потребителят вече разполага с „напълно функциониращи способности на лисица“.
Сред публично достъпните разговори имало и такива, в които потребители търсели помощ за изготвяне на автобиографии, като включвали собствените си имена, данни за контакт и професионален опит.
Някои използвали Claude и за дейности, свързани със служебни проекти, включително за анализ на информация в сферата на здравеопазването, като качвали дори стенограми от поверителни разговори.
Подобен случай имаше и миналата година с ChatGPT на OpenAI, когато разговори на потребители също станаха публично достъпни чрез интернет търсене. Впоследствие компанията промени начина, по който подобни връзки могат да бъдат достъпвани.
Миналата година и Grok – чатботът с изкуствен интелект в социалната платформа X, собственост на Илон Мъск – също допусна стотици хиляди разговори да станат публично достъпни чрез онлайн търсене.
Говорител на Google подчерта, че компанията не определя кои страници са публично достъпни в интернет, а това зависи от самите сайтове.
„Предоставяме на собствениците на сайтове ясни инструменти, с които да решат дали страниците им могат да бъдат обхождани и индексирани, и винаги спазваме техните указания“, заяви той.
Тъй като разговорите вече не се индексират от търсачките, вероятно Антропик е използвала наличните инструменти, за да блокира бързо тези връзки от резултатите при търсене. Процедурата на Google за премахване на подобни страници е сравнително лесна, но трябва да бъде инициирана от собственика на съответния уебсайт.
Четете още: Anthropic дарява още 20 млн. долара в подкрепа на регулацията на изкуствения интелект
