Как технологичните компании проверяват възрастта на потребителите за детска безопасност при AI чатботове

Тази статия първоначално беше публикувана в The Algorithm, нашия седмичен бюлетин за изкуствен интелект. За да получавате подобни истории директно в пощенската си кутия, регистрирайте се тук.

Как технологичните компании проверяват дали потребителите им са деца?

Този въпрос придоби нова и спешна значимост в последно време, поради нарастващите опасения относно рисковете, които могат да възникнат, когато деца общуват с чатботове на базата на изкуствен интелект (ИИ). За години технологичните гиганти просто питаха за датата на раждане – нещо, което можеше лесно да бъде фалшифицирано – за да избегнат нарушаване на законите за защита на непълнолетните, без да са задължени да управляват съдържанието въз основа на възрастта. В последната седмица обаче два важни развития на този фронт в САЩ демонстрират колко бързо се променя ситуацията и как темата се превръща в нов бойно поле, дори сред родители и застъпници за детска безопасност.

Политическият контекст и противоречията

В единия ъгъл стои Републиканската партия, която подкрепя закони в няколко щата за задължително потвърждаване на възрастта за достъп до сайтове с възрастово ограничено съдържание, включително такива с порнографско съдържание. Критиците предупреждават, че тази мярка може да бъде използвана за блокиране на всякакво съдържание, което се счита за "вредно за малцинства", включително и образователни материали по секс образование. Междувременно щати като Калифорния целят директно AI компаниите с нови закони, които изискват да се потвърждава възрастта на децата, които взаимодействат с чатботове. В същото време бившият президент Доналд Тръмп се опитва да наложи регулиране на ИИ на национално ниво, за да предотврати въвеждането на различни правила от щатите. Подкрепата за различни законопроекти в Конгреса остава в постоянна динамика.

Кой ще бъде отговорен за проверката на възрастта?

Дебатът бързо се измества от въпроса дали проверката на възрастта е необходима към въпроса кой трябва да носи отговорността за това. Това отговорност никоя технологична компания не иска да поеме – „горещ картоф“, който всеки иска да прехвърли.

Миналия вторник OpenAI обяви в блог пост, че ще въведе автоматично предсказване на възрастта. Компанията планира да използва модели, които вземат предвид различни признаци, като например часовия период на деня, за да определят дали лицето, което разговаря с чатбота, е под 18 години. За потребители, идентифицирани като тийнове или деца, ChatGPT ще активира филтри, които ще намалят достъпа до съдържание като графично насилие или сексуални ролеви игри. Подобна система беше въведена и от YouTube през същата година.

Предизвикателствата пред поверителността и точността

За тези, които подкрепят проверката на възрастта, но са загрижени за поверителността, тази стъпка може да изглежда като победа. Въпреки това има уловка. Тези системи не са перфектни и може да класират грешно потребителите – например, да определят дете като възрастен или обратно. Потребителите, които са неправилно категоризирани като деца, могат да потвърдят самоличността си чрез изпращане на селфи или държавен документ за самоличност чрез компания, наречена Persona.

Процедурата по верифициране чрез селфи обаче има сериозни недостатъци. Тя се проваля по-често при хора с по-тъмен цвят на кожата и такива с определени увреждания. Самир Хиндуджа, съдиректор на Центъра по изследване на тормоза в интернет (Cyberbullying Research Center), предупреждава, че натрупването на милиони правителствени документи и биометрични данни на едно място представлява сериозна уязвимост.

„Ако тези данни изтекат, това ще изложи на риск огромни групи хора наведнъж,“ отбелязва той.

Алтернативи – верификация на устройството и политика на Apple

Хиндуджа предлага вместо това да се използва верификация на ниво устройство, при която родителят посочва възрастта на детето при първоначалната настройка на телефона. Тази информация остава запазена на самото устройство и се споделя по сигурен начин с различни приложения и уебсайтове. Това е подход, който Тим Кук, главен изпълнителен директор на Apple, наскоро застъпи пред американските законодатели. Той се противопоставя на изискването за проверка на възрастта в рамките на App Store, което би наложило на Apple големи правни рискове.

Предстояща среща и политическа атмосфера

Още повече подробности за това в каква посока ще се развиват нещата ще станат ясни в сряда, когато Федералната търговска комисия (FTC) – агенцията, която ще отговаря за прилагането на тези нови закони – организира целодневен семинар на тема проверка на възрастта. Сред участниците ще са Ник Роси – ръководител на правителствените връзки на Apple, както и ръководители на детска безопасност от Google и Meta и представители на компании, специализирани в маркетинг към деца.

FTC става все по-политизирана агенция под ръководството на администрацията на Тръмп. През юли писах, че има сигнали за омекотяване на позицията на комисията към AI компаниите. През декември FTC отмени решение, въведено по ерата на администрацията на Байдън, което беше насочено срещу AI фирма, позволяваща масово публикуване на фалшиви продуктови ревюта. Решението бе мотивирано с несъвместимост с Националния план за действие по AI на Тръмп.

Провежданият семинар може да покаже колко партизански тенденции ще доминират във вземането на решения относно проверката на възрастта. Републикански щати традиционно подкрепят закони, които изискват сайтовете с порнографско съдържание да верифицират възрастта на потребителите, но критиците предупреждават, че тези закони могат да бъдат използвани за блокиране на много по-широка гама от информация. Например, Бетани Сой – републикански представител в законодателното събрание на Южна Дакота и инициатор на подобен закон в своя щат – ще говори на срещата на FTC. От своя страна Американският съюз за граждански свободи (ACLU) се противопоставя на закони, които изискват официални документи за достъп до сайтове, и вместо това подкрепя разширяване на съществуващите родителски контролни механизми.

Нарастващи опасения и нужда от баланс

Докато този дебат продължава, AI вече създава сериозни проблеми в сферата на детската безопасност. Забелязва се скок в създаването и разпространението на материали, свързани с детска сексуална злоупотреба, има съдебни дела и притеснения за случаи на самоубийства и самонаранявания след разговори с чатботове, а също и тревожни данни за това как децата се привързват емоционално към AI-компаньоните. Конфликтите между права на личните данни, политически нагласи, свобода на изразяване и масов контрол изключително усложняват намирането на ефективно решение. Очаквам да чуя вашите мнения по темата.

Ако имате какво да добавите или споделите относно технологията, детската безопасност или политиката на AI, не се колебайте да се свържете с мен.