Обратната теория на игрите: нов подход за контрол над поведението на ИИ агентите

Това е днешното издание на The Download — нашият делничен бюлетин, който ви доставя дневна доза от случващото се в света на технологиите.

Как „обратната теория на игрите" може да държи ИИ агентите под контрол

Нов подход, известен като „обратна теория на игрите", цели да контролира мощните ИИ модели, като проектира системи, които ги насърчават да спазват правилата.

Докато теорията на игрите предсказва как рационални участници се държат при определени правила, обратната теория на игрите проектира правила, които да предизвикат желаното от нас поведение. Представете си разпределяне на торта: ако един човек я реже, а другият получава първия избор, режещият има стимул да направи порциите равни.

Изследователите смятат, че този подход може да приведе ИИ в по-голямо съответствие с нашите правила и инструкции. Но остават големи въпроси дали тези механизми ще работят на практика.

Ето как обратната теория на игрите може да помогне ИИ агентите да се държат както трябва.

—Амит Катуала

Ето кой се изравнява в редиците за теста на лоялността „Свръхразузнаване" на Тръмп

В края на септември президентът Тръмп подписа изпълнителна заповед само с една директива: правителствените агенции трябва да преименуват изкуствения интелект на „Свръхразузнаване".

Месец по-късно новото наименование бавно се появява в правителствените уебсайтове и документи, но не е прието от всички. Дори някои от най-големите имена в технологичния сектор все още използват „ИИ".

Но по-голямата притеснение е, че новият термин се превръща в тест за политическа лоялност: тези, които го използват, сигнализират за верност към администрацията. Тези, които не го правят, стават мишени за атаки.

И така, месец след началото, кой е на борда?

—Джеймс О'Донъл

Тази история е от The Algorithm — нашия седмичен бюлетин за изкуствен интелект. Абонирайте се, за да го получавате във входящата си поща всеки понеделник.

Задължителното четене

Обиколих интернет, за да ви намеря днешните най-интересни/важни/страшни/увлекателни истории за технологиите.

1. Днешните междинни избори ще тестват влиянието на ИИ върху политиката в САЩ. Кандидатите заложиха, че регулацията на ИИ ще наклони избирателите към тяхна страна. (Axios) + Гневните избиратели биха могли да провалят републиканските залагания на Илън Мъск. (BI) + Технологичните инвеститори са в напрежение заради резултатите. (Reuters $) + Америка е разделена по въпроса за регулацията на ИИ. (MIT Technology Review)

2. Nvidia нарежда на клиентите си за центрове за данни да ограничат бизнеса си с Китай. Компанията съобщи на доставчиците, че по-голямата част от продажбите им трябва да са не-китайски. (FT $) + Ходето последва натиск от Вашингтон. (Bloomberg $) + Китайският ИИ разтърси Белия дом. (MIT Technology Review)

3. Хакерите превърнаха хладилниците в супермаркетите в риск за продоволствената сигурност. Атаките в Европа поставиха системите на американските супермаркети в бойна готовност. (CNBC) + Те събудиха и опасения относно други домакински уреди. (BBC) + Добро е времето за престъпления. (MIT Technology Review)

4. Учените засекоха сигнали в най-малък мащаб, изследван досега. Откритието дава улики за свят от екзотични нови частици. (BBC) + То дойде чрез Големия адронен колайдер на CERN. (The Times $)

5. Електрическото стимулиране на част от мозъка кара вас да мислите по-интензивно — с цена. То може едновременно да подобри представянето и да намали мотивацията. (New Scientist $) + Сондите Neuropixels трансформират начина, по който изследваме мозъка. (Nature)

6. Големите технологични компании харчат пъркономега газови централи за захранване на центровете за данни. Проектите заплашват да обърнат назад години климатични ангажименти. (WP $)

7. Google съобщи, че партньор по Android е заразил 1,3 милиона устройства. Зловредният софтуер зарази ТВ боксове и други базирани на Android устройства. (Verge)

8. Apple се опитва да създаде първия си робот. Но се оказва много по-трудно, отколкото се очакваше. (Information $) + ИИ роботите все още са далеч от полезността. (MIT Technology Review)

9. Най-големият пазарен фестивал в Китай има нов продукт за продажба: ИИ. ИИ токените се превърнаха в нова голяма категория за Деня на ергените. (Reuters $)

10. Метеорит в Сахара разкри нови улики за Марс. Химията му може да помогне за обяснението как планетата е изгубила водата си. (Wired $)

Цитат на деня

„Не харчете излишно пари, като молите човешки експерт да влезе в дебат с робот-експерт."

—Стивън Бенмор, адвокат по семейно право, казва пред Wall Street Journal, че клиентите все по-често трябва да плащат на човешки експерти, за да коригират съветите, които са получили от чатботове.

Още нещо

Шумът, който произвеждаме, наранява животните. Можем ли да се научим да замълчим?

С разрастването на човешкото общество животните започнаха да трудно се чуват едни други. За много птици шумът е нараснал толкова много, че те са започнали да пеят с по-бързи трели. Сега техните брачни повици не са толкова ефективни.

Нарастващата врява може също да увеличи конфликтите между птиците, а цели видове, които не могат да понесат градския шум, просто напускат града завинаги. Но има технологични решения за шума, който наранява животните — и те биха могли да помогнат и на хората.

Прочетете цялата история.

—Клайв Томпсън

Все още можем да имаме хубави неща

Място за уют, забавление и развлечение, което да разкраси деня ви. (Имате ли идеи? Пишете ми.)

• Гледайте как пет новородени гепарда растат на livestream на Смитсоновия институт.
• Петдесет години след Songs in the Key of Life Стиви Уондър издаде четири изгубени трака от албума.
• 50 въздушни китаристи „шреднаха" абсолютно нищо на 30-ото световно първенство по въздушна китара във Финландия.
• Победителите в конкурса Океански фотограф на годината показват едновременно красотата на морския живот и опасностите, пред които той е изправен.