Скот Уийнър: от Калифорния към Конгреса за регулиране на рисковете от изкуствения интелект

Като сенатор в щата Калифорния Скот Уийнър authored законодателство, целящо ограничаването на рисковете от напредналия изкуствен интелект. Сега, след като спечели оспорваната надпревара за Конгреса за освобободеното място на бившия спикер на Камарата Нанси Пелоси в Сан Франциско, той би могъл да изиграе ключова роля при определянето на федералната политика за ИИ.

Разговорих се с Уийнър в петък, само няколко часа след обявяването му за победител. Но той вече мислеше за рисковете от ИИ. Предния ден нестопанската организация METR публикува доклад, който беше широко възприет като доказателство, че Anthropic е постигнала рекурсивно самоусъвършенстване — явление, при което ИИ съществено допринася за собствения си напредък и развитието на ИИ потенциално излиза от контрол.

„Това е много обезпокоително“, заяви Уийнър, посочвайки доклада като доказателство, че времето за регулиране на ИИ бързо изтича. „Надявах се Конгресът да предприеме решителни действия преди края на тази година“, каза той. „Изглежда, че това не се случва.“

През последните години Уийнър все повече се фокусира върху ИИ и възприе много от тревогите на движението за безопасност на ИИ като свои собствени: по време на двадесетминутния ни разговор, например, използва фразата „рекурсивно самоусъвършенстване“ около шест пъти.

„Трябва да забавим този процес“, казва той. „Защото се движи много бързо и можем да се допуснем да попаднем в катастрофа, докато спим.“

Уийнър вече е оказал реално влияние върху политиката за ИИ. Законопроектът SB 1047, който той разработи през 2024 година, трябваше да стане първият истински нормативен акт за граничен ИИ в страната, преди губернаторът на Калифорния Гавин Нюсъм да наложи вето; след това той подкрепи SB 53 — законопроект с по-меки мерки, който Нюсъм подписа. И двата законопроекта са послужили за основа на предложения на федерално ниво.

Кампанията на Уийнър за Конгреса получи над 3 милиона долара от Public First Action — нестопанска организация, подкрепяща регулирането на ИИ, която получава значително финансиране от Anthropic. Това финансиране накара опонентите му да го критикуват за прекалена близост с индустрията на ИИ, но Уийнър твърди, че това е напълно погрешно.

„Public First ме подкрепи, защото аз бях първият законодател в страната, внесъл регулация на ИИ, и първият, който я прие и осъществи“, написа той в съобщение след интервюто ни. „Атаките срещу мен заради тяхната подкрепа бяха шокиращо цинични — на практика атакуваха кандидат, който реално регулира ИИ въпреки възраженията на големите технологични компании, и лъжливо твърдяха, че кандидатът е твърде близък до Големия технологичен сектор.“

Уийнър казва, че ако Конгресът сформира специален комитет по изкуствения интелект — нещо, което демократите обсъждат от септември — той би искал да е част от него. И е ентусиазиран от много от идеите за политика, които се дискутират в Конгреса.

„Смятам, че е изключително важно да има силен, овластен и гъвкав федерален регулатор“, казва той, отбелязвайки, че конгресменът Ро Кана, съпартиец от Калифорния, е предложил законодателство за създаването на такъв регулатор.

Той също подчертава важността на защитата на осведомителите, изискванията за тестване и одитиране, както и изискването за спешен прекъсващ ключ, и иска Конгресът да използва контролните си правомощия, за да държи лабораториите по ИИ отговорни.

„Това касае бъдещето на човечеството и искаме да гарантираме, че обществеността има думата и че знае какво се случва“, казва той.

Като дългогодишен щатски законодател той се противопоставя на широка федерална отмяна на щатските закони за ИИ, което някои от предложените федерални закони биха изисквали.

„Щатите са, както казва Брандайс, лаборатории“, отбелязва той. „Искаме щатите да могат да продължат да бъдат гъвкави по начини, по които понякога Конгресът не е.“

Преди всичко друго, Уийнър казва, че иска Конгресът да приеме политики с реална сила.

„Изключително важно е, когато Конгресът действа, да го правим по начин, който е наистина смислен и отговаря на момента“, казва той.

Това означава сериозно да се вземе предвид възможността за катастрофа от ИИ — нещо, което той обсъжда с език, типичен за експертите по безопасност на ИИ.

„Намираме се в момент, който е много опасен по отношение на риска от загуба на контрол върху ИИ“, каза ми той. „Трябва да се справим с рекурсивното самоусъвършенстване. Щом влезеш в тази сфера, това наистина потенциално е рецепта за пълна загуба на контрол.“

Той ще има съюзници в борбата срещу катастрофалния риск от ИИ. Сенаторът Бърни Сандърс, например, се е срещал с много от най-влиятелните фигури в движението за безопасност на ИИ и многократно е говорил за ИИ и екзистенциалния риск. Но все още съществува голяма пропаст между перспективата на Уийнър от района на залива Сан Франциско, повлияна от идеята за AGI, и националното настроение относно ИИ, което е основно свързано с противопоставянето на дата центрове. Фактът, че избирателите одобриха 40 от 41 анти-дата център инициативи във вторник, може да изглежда добър знак за Уийнър и другите поддръжници на регулацията на ИИ, но Уийнър казва, че вижда това движение като много по-тясно свързано с местни проблеми, отколкото с по-големите въпроси за риска от ИИ.

„Хората, които наистина са против посоката, в която върви ИИ, това е сфера, в която реално могат да направят нещо“, казва той. „Но бунтът срещу дата центровете — за мен той по-скоро отразява, че хората са възмутени, че подобно нещо може да се появи в тяхната общност, с всички последствия близо до домовете им, с покачване на сметките за ток и потребление на вода. Мисля, че това е по-важният проблем за повечето хора, доколкото мога да преценя.“

Уийнър се описва само като „предпазливо оптимист“ относно способността на Конгреса да овладее ИИ, предвид лошата му история в регулирането на технологичния сектор. Той има и опасения дали законодателство ще може да бъде прието при президента Доналд Тръмп, който през септември нарече тревогите за катастрофалния риск от ИИ „измама“ и демонстрира ясно нежелание за сътрудничество с Китай — нещо, което Уийнър смята за съществено за предотвратяването на най-лошите последици от ИИ.

Но той казва, че непредвидимостта на Тръмп дава известна надежда, макар и съмнителна.

„Досега видяхме някои проблематични неща, но не и пълни катастрофи“, казва Уийнър. „Надявам се да не се наложи катастрофа, за да подтикна президента към действие. И ако това все пак се наложи — което, както казах, се надявам да не се случи — но ако се наложи, надявам се тя да е възможно най-малка.“