Търговски представител попита ИИ агент за клиентски цени, а агентът извлече данни от множество източници: ограничени ценови системи, вътрешни комуникации и архивирани оферти. Резултатът изглежда точен на агента, така че втори агент използва данните, за да изготви предложение за търговеца. Никой човек не проверява никоя от тези стъпки. Когато се установява, че предложението съдържа неодобрена, поверителна и чувствителна информация, никой не може да проследи къде проблемните данни са навлезли в работния процес или как са се разпространили между системите, файловете и агентите.
Този сценарий илюстрира защо управлението на изкуствения интелект трябва да се развива бързо и динамично. С нарастването на броя на предприятията, които започват да използват агентен ИИ в ежедневните си работни процеси, те осъзнават, че трябва да управляват не само статични файлове, но и движещи се и фрагментирани данни, които непрекъснато се поглъщат, копират, обобщават, трансформират, преизползват и разпространяват в нови форми. Накратко, сигурността на ИИ не е проблем на инструментите; тя е проблем на видимостта на данните.
Като следствие, традиционните подходи за сигурност, изградени единствено около приложения, системи, мрежи или крайни точки, вече не са достатъчни. Осигуряването на сигурност на агентния ИИ в мащаб изисква разбиране как се движат данните. Екипите следователно трябва да установят произход на данните, за да управляват ефективно управлението, отчетността и доверието в човешките, агентните и хибридните работни процеси.
Това съдържание е създадено от Insights, подразделението за персонализирано съдържание на MIT Technology Review, а не от неговия редакционен екип. То е проучено и написано от хора, като всички ИИ инструменти, които може да са били използвани, са ограничени до производствени процеси под човешки надзор.
Родителство и дигитален свят: Баланс между защита на децата и технологичен напредък
Създайте концизно заглавие, обхващащо ключови моменти, използвайки максимум 20 думи.
Прогнози за Биткойн 2026: Оптимизъм, рискове и ключови ценови сценарии