В ходе расследования цензуры в Интернете в школах США было обнаружено широкое использование фильтров для цензурирования информации о здоровье, личности и других важных сведений. По словам учеников, это делает Интернет совершенно непригодным для использования.
В июле ученик из Альбукерке, штат Нью-Мексико, набрал в гугле "горячая линия по предотвращению самоубийств". Запрос был автоматически заблокирован. Ученик попробовал снова, используя свой ноутбук, выданный школьным округом Альбукерке, чтобы найти "контактные методы предотвращения самоубийств". Через несколько часов при попытке зайти на веб-страницу ресурсного центра по предотвращению самоубийств, финансируемого из федерального бюджета, им снова отказали. В тот вечер ученик более дюжины раз пытался получить доступ к онлайновым ресурсам по охране психического здоровья, и каждый раз веб-фильтр района блокировал его просьбы о помощи.
В последующие недели ученики и сотрудники по всему Альбукерке пытались и не смогли получить доступ к кризисным ресурсам по охране психического здоровья на компьютерах района. Восьмиклассник на домашнем ноутбуке набрал "горячая линия для самоубийц", девятиклассник искал "номер горячей линии для самоубийц", консультант средней школы набрал "кто обязан сообщать о самоубийствах в Нью-Мексико", а другой консультант начальной школы пытался загрузить PDF-файл с протоколом округа по предотвращению самоубийств. Заблокировано, заблокировано, заблокировано - и все это в штате с одним из самых высоких уровней самоубийств в США.
"Это просто еще одна форма угнетения".
Во многом благодаря федеральному закону о борьбе с порнографией двухлетней давности школьные округа по всей территории США ограничивают доступ учащихся в интернет с помощью множества коммерческих веб-фильтров, которые блокируют огромные и зачастую случайные участки интернета. Такие компании, как GoGuardian и Blocksi- два фильтра, использованные в Альбукерке, управляют интернетом в тысячах школьных округов США. В то время как национальные дебаты о школьной цензуре сосредоточены на противоречивых законах о запрете книг, расследование показывает, как эти автоматические веб-фильтры могут увековечить опасную цензуру в еще больших масштабах.
Запросив записи о цензуре в Интернете у 17 государственных школьных округов США, мы составили картину широко распространенной цифровой цензуры, происходящей по всей стране. Наше расследование посвящено государственным школам Альбукерке (APS), одному из крупнейших школьных округов США, который предоставил наиболее полное представление о своих системах веб-фильтрации. APS предоставила 36 гигабайт журналов школьной сети за период с января 2022 года по 21 августа 2023 года, что позволило получить беспрецедентное представление о том, какой контент ежедневно блокируется в школах США. Наш анализ более 117 миллионов записей о цензуре подтверждает то, о чем давно предупреждали ученики и защитники гражданских прав: Веб-фильтры мешают детям найти важную информацию о своем здоровье, личности и предметах, которые они изучают в классе.
"Это просто еще одна форма угнетения", - говорит о фильтрах округа Бруклинн Чавес, выпускница средней школы La Cueva в северо-восточном Альбукерке. "Это ужасное чувство".
Эта проблема никуда не исчезнет. Этим летом APS установила веб-фильтры Blocksi на всех устройствах учеников и сотрудников. Согласно нашему анализу и интервью с сотрудниками APS, результаты оказались катастрофическими. В течение почти трех месяцев, пока APS использовала фильтр Blocksi, он блокировал в среднем более миллиона сетевых запросов в день, включая поиск услуг по охране психического и физического здоровья; слов, связанных с ЛГБТК+, чернокожими и испаноязычными сообществами; сайтов местных молодежных групп; тысячи ученических запросов на безобидную информацию и десятки тысяч новостных статей.
"Это, по сути, отключит ваш интернет, - говорит Шеллмари Харрис, директор по образовательным технологиям APS, о технологии фильтрации ключевых слов Blocksi. "Дети, учителя не смогут ни к чему придраться".
По словам Харрис, APS, установившая Blocksi в мае, в августе перестала использовать фильтр на большинстве своих устройств из-за его ограничений и вернулась к фильтру GoGuardian, которым пользовалась до перехода. Наше расследование поднимает вопросы о целесообразности и применении фильтра GoGuardian.
В мае, до того как округ перешел на Blocksi, фильтр GoGuardian заблокировал восьмикласснику поиск "предотвращение самоубийств". Он не позволил третьекласснику найти слово "латина", а шестикласснику - "черный человек". Когда одиннадцатиклассник набрал в гугле "Obergefell v. Hodges ruling", вместо списка сайтов с информацией об эпохальном деле Верховного суда США, легализовавшем однополые браки, он увидел серый экран с логотипом APS и сообщением: "Ограничено. Этот сайт был заблокирован вашим администратором."
Сложно определить, кто именно несет ответственность за ограничение того или иного контента. Хотя администраторы APS устанавливают сетевую политику для всего района, отдельные учителя также могут выбирать, что фильтровать с помощью GoGuardian - в том числе полностью отключать интернет для конкретного ученика или класса на время урока, по словам Харриса. Во внеурочное время родители также могут использовать родительские приложения Blocksi и GoGuardian, которые APS предоставляет для установки собственных ограничений на школьных устройствах своих детей.
Blocksi не ответила на многочисленные просьбы о комментарии и не ответила на подробные вопросы о цензуре веб-активности APS.
Джефф Гордон, директор по связям с общественностью GoGuardian, говорит: "GoGuardian регулярно оценивает категоризацию наших сайтов, чтобы гарантировать, насколько это возможно, что законные образовательные сайты доступны для учеников по умолчанию". По его словам, более 7600 школьных округов используют веб-фильтр компании, и все вопросы о том, была ли заблокированная деятельность в Альбукерке подвергнута надлежащей цензуре, он направил в округ.
Ситара Субраманиан, ученица 11 класса средней школы La Cueva, говорит, что начала регулярно сталкиваться с фильтром GoGuardian в своей школе примерно в то время, когда закончилось дистанционное обучение. "Когда мы вернулись в школу, это стало довольно серьезным явлением: образовательные сайты стали блокироваться", - говорит Субраманиан. Цензура особенно мешала ей при изучении биологии и анатомии. "Такое ощущение, что они пытаются ограничить наше образование, а не повысить его уровень".
"Мой сын говорит, что фильтры делают интернет бесполезным", - рассказывает Сара Хутэн, мать Генри, 13-летнего бывшего ученика APS. Генри говорит, что не смог воспользоваться YouTube, чтобы найти информацию для доклада о тропических лесах, который ему задали. "Я знаю, что отчасти это связано с тем, чтобы запретить детям делать то, что они не должны делать", - говорит Генри. "Но это также просто школа не понимает, что именно она блокирует."
Что пошло не так
Масштабы цензуры, которые мы обнаружили в школах Альбукерке, показывают, как веб-фильтры могут превратить простые на первый взгляд решения о блокировке нежелательного онлайн-контента в политику, которая делает использование интернета практически невозможным.
В одном случае сотрудник APS не смог просмотреть получивший Пулитцеровскую премию "Проект 1619" газеты The New York Times - историческое исследование о рабстве и его последствиях в Соединенных Штатах - из-за, очевидно, ошибочного блокирования ключевых слов в районном фильтре Blocksi. Окружной веб-фильтр блокировал сайты, содержащие ключевое слово "avery". В результате были заблокированы сотни попыток зайти на сайт полиграфической компании Avery.com, хотя представители APS не смогли объяснить, почему ключевое слово "avery" было заблокировано. Но поскольку URL-адрес проекта "1619" включает слово "рабство", он также был заблокирован. Также были заблокированы лекция Стэнфордского университета о рабстве, карта рабства в США из Википедии и несколько статей о спорной учебной программе о рабстве во Флориде.
Записи APS показывают, что ключевые слова из черного списка округа с 31 мая по 21 августа срабатывали фильтр Blocksi почти 32 миллиона раз.
Хотя большинство проверенных ключевых слов предназначены для ограничения порнографического контента и игр, некоторые, похоже, непреднамеренно вызывали более широкие ограничения, препятствующие доступу учащихся к легитимному образовательному контенту. Запрет на слово "нападение", например, блокировал новостные статьи не менее 60 раз, включая материалы из The Atlantic, CNN и Associated Press. В общей сложности APS блокировала доступ учеников к новостным сайтам почти 40 000 раз.
"Это неправильный подход - пытаться цензурировать информацию, потому что мы боимся, как они на нее отреагируют", - говорит Кейтлин Вогус, заместитель директора по пропаганде Фонда свободы прессы. "Если кому-то в нашем обществе и интересно читать о школьных расстрелах, так это самим ученикам."
Запрещенные ключевые слова также показывают, что кто-то - APS не смогла сказать, кто именно - заблокировал доступ к важнейшим веб-сайтам, посвященным здравоохранению. Например, сайты Центров по контролю и профилактике заболеваний США (CDC) и Planned Parenthood были заблокированы по ключевым словам. Веб-страницы ЦКЗ, включая многие, относящиеся непосредственно к Covid-19, подвергались цензуре 1 607 раз. Страницы организации "Планирование семьи" подвергались цензуре более 50 раз в Альбукерке, пока использовался Blocksi.
Директор по коммуникациям APS Моника Армента говорит, что, "насколько мне известно", округ не блокировал целенаправленно URL, содержащие "avery" или сайты ЦКЗ и организации "Планирование семьи".
"Мы регулярно отсылали наши семьи и сотрудников к ЦКЗ за рекомендациями по Covid", - говорит Армента. "Мы не обнаружили никаких проблем с доступом учеников или сотрудников к CDC, Planned Parenthood или 'avery' в школьное время". На момент ответа Арменты округ уже не использовал фильтр Blocksi, который ограничивал доступ к этим сайтам.
Приблизительно три четверти заблокированных действий не были явно привязаны к ключевому слову, а данные, предоставленные APS, не объясняли, почему эти веб-страницы вызвали срабатывание фильтров округа.
Blocksi говорит, что сортирует контент по 79 заранее установленным категориям, чтобы принимать решения о блокировке. Среди этих категорий - "альтернативные убеждения", "аборты", "сексуальное воспитание", "фольклор" и "бессмысленный контент". Сотрудники школы могут выбирать, какие из этих категорий блокировать, разрешать или блокировать с предупреждением.
GoGuardian утверждает, что использует алгоритмы машинного обучения, которые сканируют содержание и контекст страницы, а не просто выбирают ключевые слова, чтобы решить, подходит ли она для учащихся. Но анализ журналов цензуры APS ставит под сомнение эффективность фильтра GoGuardian в оценке контекста. Например, с января по август 2023 года фильтр GoGuardian заблокировал более 1 580 сайтов со словом "гей" в URL. Хотя среди них были домены и URL-адреса, содержащие сексуальный контент, многие из них, как оказалось, вообще не имели сексуального содержания. 18 мая окружной фильтр GoGuardian заблокировал однословный поиск в Google по слову "гей", сделанный десятиклассником средней школы Ла-Куэва.
"Это, по сути, отключит ваш интернет. Дети, учителя не смогут ни в чем разобраться"
Харрис, директор по образовательным технологиям Альбукерке, говорит, что слово "гей" не должно было блокироваться само по себе, но могло сработать другое правило в фильтре. Набрав слово "гей" на своем компьютере, она предположила, что GoGuardian мог заблокировать поиск, потому что на странице результатов были указаны на Google Maps несколько баров в Альбукерке, которые обслуживают клиентов ЛГБТК+, а округ решил заблокировать контент, связанный с алкоголем, на своих устройствах.
Фильтр GoGuardian может запускать автоматические оповещения школьного персонала о просмотре сайтов. Во время интервью Харрис получила уведомление GoGuardian Smart Alert о том, что один из учеников просматривает потенциально опасные материалы в Интернете. "Этот бедный ребенок стал мишенью, потому что [он искал] "как нарисовать траву"", - говорит Харрис. "И поэтому он, вероятно, думает, что "трава" - это марихуана".
Харрис говорит, что APS позволяет сотрудникам и ученикам просить разблокировать контент. Несколько учеников, с которыми мы беседовали, сказали, что им было бы неудобно просить администраторов разблокировать контент.
Тира Тэнксли, научный сотрудник, изучающая молодежную и технологическую политику в Калифорнийском университете, говорит, что школы должны учитывать последствия чрезмерной фильтрации, особенно когда такие технологии, как GoGuardian's Smart Alerts, автоматически уведомляют взрослых о том, что дети смотрят в Интернете.
"Мы должны помнить, кто использует устройства, выданные школой, - говорит Тэнксли. "Уже заложено, что это будут люди с низким уровнем дохода, возможно, цветные, просто из-за экономического неравенства. Многократные попытки получить доступ к неподобающему контенту открывают дверь для других видов дисциплинарного неравенства", - утверждает она.
В 2022-2023 учебном году 66 процентов учащихся APS считали себя латиноамериканцами, 20 процентов - белыми, 5 процентов - американскими индейцами или коренными жителями Аляски и 3 процента - чернокожими, согласно данным, опубликованным школьным округом. Около 68 процентов учащихся округа получают бесплатное школьное питание, что примерно отражает количество семей, живущих вблизи черты бедности, и немного превышает средний показатель по стране.
Наше расследование показало, что фильтры Blocksi и GoGuardian, используемые APS, подвергают цензуре широкий спектр слов, веб-сайтов и онлайн-ресурсов, непосредственно связанных с расовой и этнической принадлежностью. Ученики, с которыми мы беседовали, говорят, что их часто блокировали при попытке исследовать исторические события, связанные с расизмом или насилием.
Когда ученики 12-го класса городской средней школы Atrisco Heritage Academy попытались запросить в Google информацию о "структурном расизме в черном сообществе", GoGuardian заблокировал их поиск, как показали изученные нами записи. Он также заблокировал поиск девятиклассника по иллюстрациям чернокожих людей, поиск семиклассника по "индейцам пуэбло", поиск четвертиклассника по картинке "иммигрант" и поиск девятиклассника по картинке "el mobimiento [sic] chicano" - мексикано-американское движение чикано 1960-х годов.
Фильтры Blocksi блокировали похожие поисковые запросы, включая "как угнетают черных людей". Кроме того, он заблокировал сотни попыток получить доступ к правовой информации для иммигрантов на сайте USCIS.gov. 27 июля он не позволил сотруднику APS открыть форму, используемую для подачи заявления на получение гражданства США онлайн, свидетельствуют записи APS.
Чавес, выпускник средней школы La Cueva, который возглавляет Союз коренных американских студентов своей школы, говорит, что фильтры округа препятствовали его попыткам изучить наследие коренных народов и протесты коренных народов. "Поскольку я не могу найти информацию по некоторым темам, связанным с коренными народами, я беспокоюсь о детях, которые младше меня, о детях из числа коренных народов, которые пытаются найти информацию о своем наследии, пытаются узнать о своем наследии", - говорит Чавес. "Меня это расстраивает, потому что они не могут этого сделать. Это труднодоступно, особенно в школьное время".
Содержание, касающееся гендера, сексуальности и идентичности, также было заблокировано по всему Альбукерке. Например, веб-фильтры округа не позволили шести ученикам посетить страницы Trevor Project, одной из ведущих в стране групп по защите прав молодежи ЛГБТК+. Даже сайты местных молодежных некоммерческих организаций, включая Together for Brothers и Southwest Organizing Project, были закрыты. Три разных ученика средней школы в три разных дня искали "флаг гордости" и были заблокированы.
В своем заявлении Кейси Пик, директор по законодательству и политике проекта "Тревор", назвал цензуру APS "опасной" и "неэтичной"."
"Блокировка контента по своей сути предполагает, что это что-то неподобающее, что люди не должны видеть или знать об этом", - говорит Джош Блок, старший штатный юрист Американского союза гражданских свобод (ACLU), который занимается проектом по ЛГБТ и ВИЧ, ориентированным на гражданские свободы. "Это, безусловно, несет в себе сигнал, который отражается не только на экране компьютера".
Гордон, представитель GoGuardian, говорит, что компания "не блокирует поиск и не ограничивает доступ к законным образовательным сайтам по умолчанию, мы также не блокируем по умолчанию сайты ЛГБТКВ+, репродуктивного здоровья или расовой справедливости".
Веб-страницы, принадлежащие ACLU, были заблокированы 68 раз.
Безопасность против образования
Последствия школьной веб-фильтрации выходят далеко за рамки Альбукерке. Практически каждая школа в США использует автоматический веб-фильтр, в основном благодаря Закону о защите детей в Интернете (CIPA), принятому Конгрессом в 2000 году. Закон требует от школ и библиотек блокировать "детскую порнографию" и другой контент, считающийся "непристойным" или "вредным для несовершеннолетних", чтобы иметь право на получение федеральной технологической помощи, известной как E-rate.
В таких районах, как Альбукерке, которые вложили миллионы в обеспечение учащихся домашними компьютерами, фильтры все чаще стали управлять жизнью детей в Интернете как в школе, так и за ее пределами. Наше расследование показало, что почти 10 процентов блокировок в период с января 2022 года по август 2023 года происходили по выходным.
Фильтры отлавливают множество контента, который, по мнению чиновников округа, должен быть заблокирован на законных основаниях: некоторые ученики пытаются смотреть порно, многие пытаются играть в онлайн-игры во время занятий, а значительная часть контента, блокируемого фильтрами Альбукерке, похоже, представляет собой всплывающие окна, рекламу и спам. Харрис говорит, что округ намеренно решил заблокировать доступ учеников к инструментам генеративного ИИ; за три месяца работы фильтра Blocksi предотвратил более 41 000 попыток доступа к ChatGPT.
"Каждый день создаются сотни тысяч сайтов, и у нас нет ресурсов, чтобы постоянно проверять и просматривать их", - говорит Харрис. "Мы делаем все возможное, что в наших силах, и наша позиция заключается в том, чтобы ограничить объем фильтрации и научить гражданственности в сфере цифровых технологий".
С тех пор как в 1998 году был впервые предложен CIPA, и критики, и сторонники выражали обеспокоенность влиянием технологии веб-фильтрации и балансом между свободным доступом к информации и безопасностью.
"Я очень обеспокоен цензурой", - заявил главный спонсор закона, покойный сенатор от Аризоны Джон Маккейн в феврале 1998 года в интервью The New York Times. Но я считаю, что нам нужно действовать, чтобы попытаться установить некоторые правила, иначе мы можем оказаться в ситуации, когда американцы скажут: "Слушайте, это должно прекратиться; мы готовы пожертвовать некоторыми нашими гражданскими свободами, чтобы защитить наших детей""
После принятия закона в 2000 году CIPA был немедленно оспорен Американской библиотечной ассоциацией и ACLU, которые в серии исков утверждали, что требование закона о веб-фильтрации накладывает неконституционные ограничения на свободу слова посетителей библиотек. В 2003 году Верховный суд США со счетом 6:3 признал, что обязательная государственная веб-фильтрация является конституционной, в том числе потому, что библиотеки позволяют посетителям просить разблокировать конкретные сайты.
"Я думаю, что это излишне и почти оскорбительно, что они пытаются цензурировать все до такой непристойной степени".
Студенты и группы по защите гражданских прав продолжают бороться с веб-цензурой. В 2011 году ACLU запустил кампанию "Не фильтруй меня", призывающую школы прекратить использование веб-фильтров, блокирующих контент ЛГБТК+. Кульминацией кампании стало дело 2012 года, в котором федеральный суд обязал школьный округ города Камдентон, штат Миссури, прекратить использование фильтра, который явно блокировал не взрослые сайты ЛГБТК+.
За десятилетие, прошедшее после этого решения, ученики постоянно жаловались на якобы дискриминационные модели блокировки школьных веб-фильтров. Ученик с Гавайев утверждал, что школьный веб-фильтр Securly маркирует сайты, в домене которых есть слово "гей", как порнографию. В Парк-Сити, штат Юта, ученики жаловались, что им якобы не дают искать слова "гей", "лесбиянка" и "квир". А в Кэти, штат Техас, протесты учащихся и жалоба в ACLU в прошлом году заставили школьный округ прекратить использование веб-фильтра с категорией, которая, по словам авторов жалобы, называлась "Альтернативные сексуальные образы жизни (GLBT) Global" и блокировала доступ к сайту Trevor Project и других организаций поддержки ЛГБТК+.
Победы над неточными и потенциально опасными веб-фильтрами случаются редко. В сентябре общенациональный опрос, проведенный Центром демократии и технологий, показал, что большинство учеников считают, что веб-фильтр в их школе мешает им выполнять учебные задания. В школах с веб-фильтрами 71 процент учащихся согласились с тем, что иногда им трудно выполнять школьные задания, потому что веб-фильтры блокируют доступ к важной информации. Столько же учащихся заявили, что им не разрешали посещать сайты, которые, по их мнению, они должны были посещать. При этом учащиеся ЛГБТК+ сообщили, что им блокировали доступ к контенту чаще, чем учащимся не-ЛГБТК+.
Более половины учителей, ответивших на опрос CDT (57 процентов), согласились с тем, что веб-фильтры в их школе затрудняют выполнение заданий. Тридцать семь процентов учителей считают, что веб-фильтры в их школах чаще блокируют контент, связанный с ЛГБТК+, а 32 процента - что фильтры чаще блокируют контент, связанный с цветными учениками.
Чавес, старшеклассник средней школы Ла Куэва на северо-востоке Альбукерке, говорит, что они и многие другие ученики их школы перестали пользоваться приобретенными APS Chromebook вообще. Вместо этого, по их словам, ученики теперь приносят в школу свои личные ноутбуки из дома. Но другие ученики говорят, что у них нет такой возможности.
"Это полностью мешает мне проводить исследования или замедляет весь рабочий процесс", - говорит Матео, старшеклассник другой средней школы APS, который попросил не использовать его настоящее имя, о фильтрах округа. Но его школа не разрешает ученикам приносить личные ноутбуки, поэтому у него нет другого выбора, кроме как пользоваться отфильтрованным интернетом.
"Я думаю, что это излишне и почти оскорбительно, - говорит Матео, - что они пытаются цензурировать все до такой степени".