Ограничения на ИИ за рекурсивно самоусъвършенстване и креативност в научните изследвания

Смелото обещание на индустрията на изкуствения интелект (ИИ)

ИИ скоро ще може да се подобрява сам с минимална човешка помощ – процес, известен като рекурсивно самоусъвършенстване. Големите езикови модели (Large Language Models, LLMs) вече се справят с различни задачи като писане на код, генериране на синтетични данни и оптимизация на хардуер, което поражда прогнози за бързи и значими подобрения в развитието на ИИ. Въпреки това, ново изследване на учени от Принстънския университет, ръководено от Питър Киргис и Саяш Капур, поставя под съмнение подобен оптимизъм.

Екипът установява, че макар ИИ агенти да могат да решават инженерни задачи, те липсват на необходимото критично мислене, преценка и креативност, нужна за оригинални, отворени за развитие научни изследвания в областта на изкуствения интелект – типични за водещи конференции по машинно обучение.

Различия между инженерни задачи и истински научни изследвания

По-голямата част от предишните изследвания и разработки са се съсредоточили върху тясно специализирани ИИ задачи с ясен и проверим отговор, докато истинските научни изследвания в сферата на ИИ изискват нестандартно мислене, формулиране на хипотези и адаптивност към неочаквани резултати.

Методът „сянкова оценка“ („shadow evaluation“)

В този контекст изследователите въведоха иновативен метод, наречен „shadow evaluation“ – „сянкова оценка“. В този подход ИИ беше поставен пред предизвикателството да отговори на непубликувани научни въпроси от NeurIPS 2026, включително:

• Контролиране на „персони“ в големи езикови модели чрез промяна на техните тежести.
• Откриване на ненадеждни прогнози в модели, базирани на електронни таблици.

За изпълнение на задачата AI агентът имаше шест дни, бюджет от 3000 долара под формата на API кредити и достъп до GPU ресурси, с които да преглежда литература, да провежда експерименти и да подготвя научни статии. Тези есета бяха оценени от оригиналните автори на въпросите, които единодушно отхвърлиха предложенията.

Резултати и ключови наблюдения

Въпреки че агентите се справиха технически с инженерството зад задачите, изследователите отбелязаха сериозни пропуски в качеството на реалните изследователски дейности.

• Експериментите, проведени от ИИ, бяха предимно посредствени, без оригинална или значителна креативност – често повърхностни и тривиални.
• Самото писане на документация беше неясно и затруднително за възприемане.
• Не се появиха нови научни приноси или пробиви.
• Неспособност на ИИ да взима смислени решения за отдаденост на определени научни пътеки.
• Липсата на умения за преразглеждане и корекция след неуспешни опити.
• Агентът не използваше ефективно обратната връзка и управление на ресурсите – вместо това просто стесняваше претенциите си без да подобрява методите си.

Положително е, че не се наблюдаваха нелоялни практики като „reward hacking“ („манипулиране на възнагражденията“), което предполага, че поне засега ИИ не прибягва до измами в процеса.

Ограничения на методите и бъдещи перспективи

Това изследване подчертава, че настоящите методи за обучение на ИИ е по-вероятно да дадат добри резултати при задачи с лесно проверими отговори и ясни критерии за успех, вместо при отворени творчески задачи, които изискват нестандартен подход. Този факт ограничава потенциала на рекурсивното самоусъвършенстване във възходяща посока.

За момента изследователите тестват по-напреднали модели като Anthropic Mythos, въпреки че резултатите от подобни експерименти все още не са публикувани.

Ограниченията на настоящото проучване включват малкия брой изследвани примери и възможна субективност при оценяването от страна на човешките рецензенти, но въпреки тези фактори, резултатите поставят сериозни въпроси относно реалистичността на прогнози за бързи и автономни научни пробиви чрез ИИ в близко бъдеще.

Мнения от индустрията и основният въпрос

Специалисти от индустрията също отбелязват липсата на интуитивна креативност в съвременните модели, което сигнализира за значителни предизвикателства пред възможността за постигане на рекурсивно самоусъвършенстване.

Макар че компаниите са мотивирани да развиват системи с подобряващ се ИИ и вече са направили впечатляващи стъпки в автоматизацията на конкретни задачи – например автоматично генериране на код – постиженията в тесни, строго дефинирани задачи се очаква да напредват по-бързо от тези в отворени научни изследвания, които исторически изискват качествени творчески скокове.

Основният въпрос, който остава отворен, е дали ИИ някога ще може да постигне рекурсивно самоусъвършенстване без да овладее именно тези широки и творчески предизвикателства. Отговорът на този въпрос е жизнено важен за бъдещето на трансформативните технологии базирани на изкуствен интелект.

Заключение

Настоящото изследване отваря врата към по-реалистична оценка на възможностите и ограниченията на съвременните ИИ модели и ни напомня, че пътуването към истински автономен и творчески самоусъвършенстващ се ИИ все още е път с много неизвестни и значими препятствия.

Само с преодоляване на тези предизвикателства ще можем да доближим визията за ИИ, който непрекъснато се развива и усъвършенства самостоятелно, водейки до революционни промени в науката, технологиите и обществото.