AI Observatory разкрива пълната картина за употребата на генеративен изкуствен интелект отвъд фирмените отчети

Изследване на употребата на изкуствен интелект от AI Observatory

Компаниите, развиващи изкуствен интелект като Anthropic и OpenAI, редовно публикуват отчети за начина, по който хората използват продукти като Claude и ChatGPT. Въпреки това, според специалисти по изкуствен интелект, те представят само данните, които искат да видим, оставяйки по-широкия и пълен контекст в сянка.

„Няма независим източник, който да потвърди тези данни“, отбелязва Анка Реуел, докторант по компютърни науки в Stanford Trustworthy AI Research (STAIR) Lab.

Тя е съосновател на нов изследователски проект, наречен AI Observatory, който цели да запълни тази липса на достоверна и независима информация. Това е публична платформа, която агрегира и анализира реални разговори с популярни AI модели като Claude и Gemini, събрани с потребителско съгласие от седем съществуващи набора от данни. Основната цел е да предостави надеждни източници, които да помогнат на изследователи и политици да преценят как хората използват генеративния ИИ.

„В момента се вземат изключително важни решения за ползите и рисковете от AI на база много ограничени данни“, предупреждава Реуел.

Основни констатации от AI Observatory

От AI Observatory установяват, че употребата на AI варира значително в зависимост от модела и се развива във времето. Техните изследвания разкриват много повече чувствителни взаимодействия, отколкото показват отчетите на големите компании, които обичайно се фокусират предимно върху професионалната употреба, а не върху личната.

Ограничения на съществуващите източници

Един от най-известните и широко цитираните източници на данни за употреба на AI е Economic Index на Anthropic, но и той има пропуски. Както подсказва името му, индексът се съсредоточава върху работни и продуктивностни приложения на Claude, като филтрира разговори, несвързани с тези цели.

Изследователите от AI Observatory, прилагайки методите на Anthropic към собствените си данни, установяват, че почти половината от разговорите (48%) биха били изключени от анализа. Сред тях се срещат много по-често теми като:

• Здравеопазване и взаимоотношения (44.2% спрямо 31.2% в анализа на Anthropic)
• Възрастово ограничени или незаконни теми (7.9% спрямо 2.1%)
• Тормоз и омраза (27.5% спрямо 5.66%)
• Сексуално съдържание (16.7% спрямо 2.4%)

Подобни са и резултатите от доклада на OpenAI за ChatGPT за 2025 г., където само 30% от потребителската употреба имала работна насоченост.

По-задълбочен анализ и нов поглед

Anthropic е публикувала отделни блог постове за използването на Claude за подкрепа, компания или дори за създаване на детска сексуална експлоатация (CSAM), но според Дейвид Уидър, асистент професор в Университета на Тексас в Остин, по-задълбоченият обзорен анализ на AI Observatory дава по-добра и по-последователна картина на различните форми на употреба, вместо да разчита на отделни, изолирани доклади.

Промени във времето и трендове

Разговорите, анализирани от AI Observatory и проведени между 2023 и 2025 г., показват значими промени във времето. Например, в най-големия и един от най-подробните набори с данни WildChat, разговорите стават по-дълги и по-сложни – измерено чрез увеличен брой изписани знаци и завъртания в дискусиите.

Също така се наблюдава увеличение на „леки разговори“, което подсказва растяща нужда от компания от AI асистентите, докато същевременно самите AI все по-рядко разкриват, че са чатботове.

Друг важен тренд е, че чувствителния и потенциално вреден контент, включително сексуален тормоз и реч на омразата, се появява по-рядко с течение на времето, вероятно заради по-ефективните мерки за защита от платформите.

Разлики между модели и версия на AI

AI Observatory установява различия в темите, стиловете и структури на разговорите, както и във възможността за чувствителни случки при различните AI модели. Например:

• При Grok и Gemini домашното фокусиране е върху търсене на информация.
• Grok е особено популярен за новини и политически тематики, но концентрира и повече дезинформация.

Тази тенденция съвпада с други изследвания, показващи лесното разпространение на невярна информация на платформата Grok.

Потребителите по-често използват:

• Anthropic за кодиране,
• Gemini за социални и ролеви игри,
• ChatGPT – за помощ с домашни задачи.

Значими са и разликите между различни версии на един и същи модел. Например, разговорите с ChatGPT, базиран на GPT-3.5, са по-кратки, докато тези с GPT-4o са по-дълги и итеративни, което съответства на идеята, че GPT-4o води до емоционална зависимост.

Критика към корпоративните отчети

Въпреки важните нюанси, отчетите на компаниите рядко ги представят, казват независимите изследователи.

„Нито един отделен доклад на компания не разказва цялата история“, подчертава Шейн Лонгпре, съосновател на проекта AI Observatory и докторант в MIT Media Lab.

Обем на данните и достъпност

За създаването на AI Observatory, Реуел и екип от MIT, Stanford и други институти са събрали 85 633 завъртания в разговори (т.е. запитвания и съответните отговори от AI) от общо 24 521 разговора в седем реални и доброволно предоставени набора от данни. Те включват над 5 000 потребители и 52 различни AI модела, сред които Claude, Gemini, ChatGPT и Grok, в периода 2023-2025 г.

Въпреки това, тези разговори са само капка в морето спрямо мащаба на данните, до които имат достъп големите лаборатории. Например:

• Най-новият Economic AI Index на Anthropic се базира на анализ на 1 милион разговора с Claude.
• Докладът на OpenAI за ChatGPT разглежда 1.5 милиона разговора.

Представител на Anthropic обясни, че публикуваните от компанията изследвания отразяват конкретните въпроси и интереси на техните научни екипи и че подкрепянето на външни независими изследвания е важно. OpenAI не отговори на запитвания за коментар.

Ограничения и перспективи

Тъй като данните на AI Observatory се събират доброволно, най-вероятно те подценяват чувствителните употреби на AI, които хората трудно споделят. Затова изследователите предупреждават, че техните резултати не могат да бъдат обобщени като представителни за всички форми на използване на AI.

Все пак проектът значително разширява достъпа до данни за научната общност. Големите AI компании рядко споделят чат данните си за независим анализ, което означава, че техните отчети обичайно подчертават само тези констатации, които ги представят в най-добра светлина, казват Реуел и Уидър.

„Когато искаме да разберем дали например системата на Anthropic се използва предимно за добри или лоши цели, нямаме начин да го проверим, защото тази информация е собственост на компанията“, обяснява Уидър.

Данните на AI Observatory ще бъдат достъпни за изследователите, а екипът се надява да разшири наборите от данни с времето.

Реуел се надява, че в бъдеще компаниите ще споделят данни с независими изследователи по начин, който гарантира поверителността на потребителите. В противен случай, тя предупреждава, че хората вземащи важни решения, базирани на данни за използването на AI, рискуват да „работят напълно на сляпо и да вземат големи решения без да знаят какво всъщност се случва извън официалните фирмени наративи“.