Мы смотрели фантастические фильмы о влиянии онлайн-действий на реальную жизнь, пугались отчаянной охоты на баллы, как в сериале «Черное зеркало», — а теперь это все стало реальностью, пишет издание Wired.

Прогрессивная общественность возмущается системой социального кредита, которую вводит правительство КНР, и разве только Китай оценивает граждан в интернете и наяву? Не согласимся. Поскольку эта тема получила огласку, мы решили перевести на русский язык статью западных исследователей про китайский социальный рейтинг доверия на основе виртуальной жизни. Анонсирован полноценный запуск такой системы в Китае до 2020 года. Вполне возможно, что практика будет перенята другими странами. Вопрос в том, узнаем ли об этом мы, рядовые граждане.

Китайский образ жизни

Еще в 2014 году Китайская Народная Республика опубликовала документ под названием «Планирование структуры системы социальных кредитов», в основе которого — назначение гражданам определенного уровня доверия. Правительство само будет определять, насколько вам можно доверять на основе всей вашей деятельности, включая с интернет активностью. Представьте мир, в котором все ваши действия тщательно отслеживаются и оцениваются: что вы покупаете в онлайн-магазинах; где вы находитесь в тот или иной момент времени; с кем и как дружите; сколько часов тратите на стриминг или видеоигры; какие счета и налоги платите (или не платите). На самом деле, представить такое легко, поскольку большинство из описанного происходит уже благодаря регулярному сбору пользовательской информации через Google, Facebook, Instagram, фитнес-трекеры типа Fitbit и тому подобное. Но имейте в виду: все действия оцениваются, как позитивные или негативные, а также пересчитываются в баллы. Порядок оценки устанавливает государственная власть, в компетенции которой теперь будет определять, стоит ли вам доверять. Вдобавок, рейтинг будет публичной открытой информацией и от него будет зависеть, получите ли вы ипотеку, новую должность, в какую школу смогут ходить ваши дети, и даже — стоит ли идти с вами на свидание или нет.

Сценарий станет реальностью для 1,3 млрд китайцев уже в 2020 году, когда правительство полноценно запустит программу Social Credit System (SCS) с целью построения общества, в котором «быть честным и заслуживающим доверия станет престижно и желательно». Впрочем, внешние эксперты из китайской (и так весьма непростой) бизнес-среды менее оптимистичны, чем руководящая партия. Рожиер Кримерс (Rogier Creemers) из старейшего университета Нидерландов Leiden University считается ведущим европейским специалистом в области права и государственного управления КНР. Именно он первым обнародовал перевод системы социального рейтинга доверия, которую называет своеобразной версии сервисов оценки ресторанов, при условии, что баллы выставляет государство, которое следит за каждым шагом граждан онлайн и офлайн.

Пока что участие в SCS добровольное, но к 2020 году станет обязательным для всех людей, компаний и организаций, осуществляющих свою деятельность в КНР. Сейчас идет подготовка к масштабному внедрению: 8 частных компаний должны получить лицензию от правительства (вопрос отсрочен, впрочем планы по внедрению SCS остались без изменений) на разработку алгоритма оценивания. Две наиболее удачные схемы разработали интернет-гиганты, работающие с массивами пользовательских данных.

Первая — China Rapid Finance, партнер корпорации Tencent и разработчик мессенджера WeChat, который насчитывает 850 млн активных пользователей. Вторая — Sesame Credit, входящая в группу Ant Financial Services Group (AFSG) и является аффилированной компанией Alibaba. AFSG занимается продажами страховых продуктов и предоставляет займы малому и среднему бизнесу. Впрочем, самым успешным проектом группы является платежный инструмент AliPay — китайцы используют его не только для покупки в онлайн-магазинах, но и для оплаты счетов в ресторанах и кинотеатрах, в такси и в школьных учреждениях, даже для денежных переводов. Sesame Credit объединила усилия с другими генераторами пользовательских данных: платформой для совместных поездок Didi Chuxing (главный конкурент Uber на китайском рынке) и Baihe, сайтом знакомств. Теперь понятно, что Sesame Credit уже имеет объемное досье на большую часть населения страны, что позволит выставлять оценку каждому, согласно градации, установленной государством.

Так как будет определяться рейтинг? Каждый в системе Sesame Credit сможет получить от 350 до 950 баллов. Alibaba не раскрывает «сложный алгоритм», который вычисляет рейтинг, однако открывает те 5 факторов, которые будут приниматься во внимание для оценки того, стоит ли вам доверять:

• Первый — кредитная история. Платит ли этот господин/госпожа вовремя за электричество, телефон?
• Второй — способность выполнять взятые на себя обязательства.
• Третий — личные данные, верифицированная информация о лице, например, адрес или номер мобильного телефона.
• Четвертый — поведение и личные параметры, что является преимуществами. И вот тут становится действительно интересно.

Система превращает такие невинные вещи, как привычки покупателя онлайн-магазина, на характерные черты лица. Alibaba признает, что распределяет и оценивает людей по типам продуктов, которые они покупают. Ли Юньгунь (Li Yingyun), технический директор Sesame объясняет: лицо, которое проводит по 10 часов в день за видеоиграми, будет считаться ненадежным. Тот, кто часто покупает подгузники, вероятно имеет маленького ребенка, а значит будет считаться индивидом с чувством ответственности. Система не просто исследует поведение, но на ее основе формирует характеристику граждан. Она будет склонять пользователей избегать покупок и сценариев поведения, которые не нравятся правительству.

Скажи мне, кто друг твой

С покупками предметов понятно, теперь переходим на личности.

Пятый фактор — отношения между гражданами. «Скажи мне, кто твой друг, и я скажу, кто ты» — это высказывание еще никогда не имело столь буквального значения, как в версии китайского правительства. И даже более: будут иметь значение все онлайн-друзья и взаимодействия с ними на просторах Сети. Будет учитываться, как и о чем вы переписываетесь в чатах. То, что Sesame Credit называет «положительной энергетикой» в интернете, буквально означает сообщение в поддержку правительства, одобрительные комментарии экономического состояния республики. Это будет повышать личный социальный рейтинг доверия.

Alibaba настаивает: все негативные комментарии, которые появляются в соцсетях сейчас (и до наступления судьбоносного 2020 года) не учитываются для SCS, хотя подтвердить эти заявления невозможно, поскольку работа алгоритма не обнародуется. Но подумайте вот о чем: пилотные проекты, которые тестируются сейчас, собирают имеющуюся информацию о гражданах. Даже если ни одна из этих систем в конце не будет адаптирована, а для SCS будет развернута условная девятая технология, маловероятно, что правительство откажется от загрузки в нее сведений из пилотных проектов. В таком случае, уже сегодняшняя информация будет обработана в SCS. Обозреватели не исключают и такого сценария, при котором правительство введет государственную технологию, а частные компании будут вынуждены передавать информацию. Возможно, у них просто не будет выбора.

Давно известно, что упоминания о событиях на площади Тяньаньмэнь 1989 года не сделают вас любимцем власти в Китае, но теперь негативные последствия будут иметь буквально обозримый эффект, поскольку будут реально влиять на карьеру, условия жизни. Вот что пугает: не меньше на эти аспекты будет влиять и поведение ваших онлайн-друзей. Не знаете половину из вашего френд-списке Facebook? А как насчет их политических или религиозных взглядов? В будущей китайской реальности нежелательное правительством онлайн-поведение контактов ухудшит персональный рейтинг лица.

Приспешники коммунистической партии

Как же так случилось, что миллионы людей уже согласились участвовать в колоссальной системе государственного слежки за личной жизнью? Причины могут быть еще менее демократичны, чем кажется: например, страх репрессий. Но есть огромный пул пользователей, которые рассчитывают на привилегии и улучшения своего уровня жизни, за счет «удобного» для власти поведения:

• Тот, кто вступает в систему Sesame Credit, получает право на заем в 5 тыс. юань (около $750) для онлайн-покупок на сайте Alibaba.
• Имеет доверия на 650 баллов — берите машину на прокат без залога, скорее регистрируйтесь в гостиницах, проходите через VIP-вход в крупнейшем Столичном аэропорту Пекина.
• Граждане с личным балансом более 666 баллов смогут брать заем до 50 тыс. юань наличными (более $7,5 тыс.), конечно же, только в Ant Financial Services.
• 700 баллами на счету — путешествовать в Сингапур без подачи дополнительных подтверждающих документов, например письмо от работодателя;
• 750 баллов — смогут оформить шенгенскую визу по ускоренной процедуре.

Высшие баллы становятся признаком особого социального статуса, поводом для бахвальства — за первые месяцы от запуска пилотного проекта почти 100 тыс. пользователей Weibo (китайский Twitter) написали про свой рейтинг онлайн. Чем больше баллов в рейтинговой системе Sesame, тем заметнее становится профиль лица на сайте Baihe — прямая зависимость ваших шансов познакомиться с кем-то от ваших других социальных действий.

Sesame Credit уже подсказывает клиентам, как они могут заработать дополнительные баллы, включительно с советом избегать онлайн-дружбы с теми, кто имеет более низкий рейтинг. Это приведет к появлению советников и консультантов по вопросам получения дополнительных баллов, как стабильно повышать рейтинг или удалиться из перечня граждан с низким уровнем доверия. Прошли времена, когда китайцы доносили друг на друга — теперь достаточно делать или не делать что-то в интернете, чтобы удовлетворять желания управляющей элиты. Раньше нужно было уговаривать родственников и друзей не ходить на митинги, а теперь граждане будут пытаться контролировать, что именно их близкие публикуют онлайн. Иначе будут разрывать с ними отношения.

Скорее всего, будет сформировано и черный рынок для торговли репутацией — не совсем легальные варианты для получения правительственной доверия. Так же, как можно купить Facebook-like или подписчиков Twitter, найдутся те, кто будет платить за дополнительные баллы. Не следует забывать и о хакерах (даже нанятых самим правительством), которые будут взламывать систему для повышения или понижения рейтинга отдельных людей. Новая китайская система рейтинга предлагает имитировать послушание населения.

Осенью 2015 года съемочная группа BBC решила расспросить жителей престижного района Пекина об их впечатлениях от Sesame Credit. Большинство комментаторов перечисляли плюсы, но, кто бы осмелился вслух, да еще и по телевидению, критиковать систему? Сюжет показал, к чему приведет массовое распространение SCS: люди побоялись отвечать искренне, чтобы не навредить самим себе в будущем. И журналистов еще более тревожил тот факт, что значительная часть населения вообще не знала о том, что их рейтингуют.

На сегодня система не наказывает тех, кто оказался ненадежным - считается, что эффективнее побудить пользователей к определенным действиям, обещая вознаграждение за хорошие поступки. Ху Тао (Hu Tao), руководитель программы Sesame Credit, предупреждает: система разработана таким образом, чтобы не заслуживающие доверия граждане не могли ни взять на прокат машину, ни получить заем или даже элементарно найти достойную работу. Более того, она рассказала о сотрудничестве Sesame Credit и управления образования, в рамках которой последний передаст информацию об учащихся и студентов, которые нарушали правила на национальных экзаменах, чтобы в дальнейшем такие граждане расплатились собственным рейтингом за нечестность. Расплата же наступит тогда, когда система будет обязательным по всей КНР. Согласно официальных разъяснений, главный принцип рейтинга в том, что если вы не оправдали доверие в одной отрасли, негативные последствия и ограничения будут применены везде.

Чтобы было понятнее, пример: за низкий рейтинг доверия гражданин будет иметь медленный интернет, не сможет посещать определенные рестораны, ночные клубы и курсы игры в гольф, будет ограничен в путешествиях за границу с дополнительным контролем за использованием услуг в местах отдыха и туристических компаниях. Объем доверия, который вы вызываете у SCS, будет влиять на возможность получения займа, страхования или любой другой социальной гарантии. Те, кто по мнению государства не достойны доверия, не смогут даже подавать свою кандидатуру для трудоустройства на некоторые должности. На госслужбу, в журналистику или для правозащитной деятельности будут отбирать только самых надежных. Чтобы попасть в частную платную школу, ребенок должен происходить из семьи с высоким рейтингом доверия. Все эти примеры не являются условными, они прямо прописаны в документации о развертывании SCS в КНР.

Влияние на сознание общества

Профессор философии из Оксфорда Лучиано Флориде (Luciano Floridi), который также исследует влияние интернета на глобальные изменения в развитии социума, замечает, что есть три главных фактора, которые повлияли на самосознание человека:

• открытия Николая Коперника, что Земля вращается вокруг Солнца;
• принцип естественного отбора Чарлза Дарвина;
• утверждение Зигмунда Фрейда, что подсознание влияет на наши ежедневные действия.

Профессор убежден, что сейчас мы переходим к четвертому этапу становления личности, согласно которой онлайн и офлайн действия одинаково влияют на нашу жизнь. Ранее считалось, что онлайн-жизнь является отделенным от реальности. От начала развития веба то, что случалось онлайн, онлайн оставалось. Но разграничение между реальностью и виртуальной активностью постепенно исчезало, а новые инициативы на уровне государственной власти закрепляют неотвратимость ответственности реальной жизнью за онлайн-поведение.

Возьмем тот же Facebook: все же согласятся, что пытаются изобразить себя там немного более правильными, умнее или социализированными, чем есть на самом деле? А как насчет поездки на Uber, когда вы промолчали и не поссорились с водителем, потому что вовремя вспомнили, что пассажиры так же получают оценки? Но что там оценки в Убер — весной 2016-го года появился мобильное приложение Peeple, в котором любой мог оставлять отзыв и ставить оценку своим знакомым, родственникам, соседям, руководителю и бывшим партнерам. Каждый видит свою общую оценку, которая базируется на отзывах и рекомендациях. Однажды добавив свое имя в приложение, вы его оттуда не заберете. Даже удалив программу, вы не бросите ее базу и о вас могут продолжать оставлять отзывы. Peeple запрещает раскрывать информацию о чьем-то состоянии здоровья, употреблять нецензурную лексику, сексизмы, но почти не регулирует, как именно определяется рейтинг и по каким критериям.

Первые последствия и ограничения

Хотя система проходит тестирование, последствия ее развертывания уже ощущаются. В феврале этого года Верховный суд КНР объявил, что за последние 4 года 6,15 млн граждан получили наказание за социальные проступки — им не позволили осуществить полеты. Запрет на перелеты позиционируется как шаг судебной системы навстречу рейтингу SCS. Менг Кшианг (Meng Xiang), председатель исполнительного департамента Верховного суда рассказал, что уже подписан меморандум о сотрудничестве с 44 государственными учреждениями с целью внедрения на разных уровнях ограничений для граждан, которые дискредитировали себя. Еще 1,65 млн китайцев попали в список людей, которые не могут путешествовать поездами.

Алгоритмы вычисления уровня доверия являются несправедливо ограничивающими. Они не учитывают контекст и нюансы каждого отдельного случая. Например, кто-то может пропустить обязательный платеж по кредиту через то, что находится в больнице, а кто — то- просто потому, что тунеядец. Это и является наибольшим вызовом для технологий, которые совмещают цифровой и реальный мир, при том, проблема актуальна для всех современных пользователей, не только для участников SCS. Алгоритмы должны научиться учитывать нюансы, противоречия и противоречия, присущие людям, чтобы адекватно отражать их в системе оценки и рейтингов.

Когда информации недостаточно

Можно сказать, что в китайской SCS сочетается фантастика «1984» Джорджа Оруэлла и тактика дрессировки собачек по методу Ивана Павлова. Веди себя, как порядочный гражданин, получай вознаграждение и убеждай сам себя, что тебя все устраивает. Но не будем слишком строги к Азии — на самом деле, в западной цивилизации системы персонального оценивания граждан действуют на протяжении многих десятилетий. Вот только о них не говорят так откровенно на государственном уровне.

Более чем 70 лет назад инженер Билл Фер (Bill Fair) и математик Эрл Исаак (Earl Isaac) изобрели кредитный рейтинг и разработали программное обеспечение, помогающее принимать взвешенные обоснованные решения. В портфель продуктов FICO (от названия «Fair, Isaac and Company», основанной в 1956 году) входят аналитические системы для автоматизации, оптимизации, унификации процессов принятия решений. Сегодня программы FICO используются, в том числе, чтобы определять уровень риска для ипотеки или же стоит ли выдавать ссуду вообще. Большая часть населения КНР никогда не имела кредитного рейтинга, поскольку не имеет возможности получить кредит. Вэнь Цюань (Wen Quan), влиятельный блогер, пишущий о технологии и финансы, поясняет:

«Много людей в Китае не являются собственниками домов, машин или кредитных карточек, поэтому информацию о них невозможно оценить, чтобы проставить рейтинг. Центральный банк обладает финансовой информацией про 800 млн человек, но только 320 млн имеют то, что считается традиционной кредитной историей».

Министерство торговли КНР сообщает, что из-за недостатка кредитной информации экономика ежегодно теряет более 600 млрд юаней (более $9 млрд). Недостатки национальной кредитной системы правительство собирается исправить благодаря SCS, чтобы восполнить «дефицит доверия». В отраслях экономики, которые плохо регулируются, отсутствие определенного уровня надежности оборачивается недополученными доходами в госбюджете. Международная организация OECD отмечает, что 63% всех подделок в мире (от часов и кожаных сумок до детского питания) происходит из КНР. Рожие Кримерс объясняет: «Уровень коррупции на местах просто огромный. Если система сможет привнести хоть немного порядка и поможет бороться с подделками, скорее всего, ее радостно введут». В эру большой скорости заключения контрактов, возможность оперативно проверить рейтинг доверия контрагента поможет вести законную деятельность.

Правительство также указывает на тот факт, что рейтинг персонального доверия позволит незащищенным слоям населения улучшить условия жизни. Студенты или малообеспеченные граждане, которые годами не имели возможности получить определенные блага, теперь смогут заработать право на них. Цель, которую преследует государство, звучит как желание развивать «честный менталитет и прозрачный уровень кредитования всего общества», чтобы улучшить «общую конкурентоспособность страны». Собственно, для страны, имеющей долгую историю тщательного слежения за своими гражданами, внедрения рейтинга SCS не является чем-то уж слишком шокирующим. Блогер Расул Маджид (Расул Majid), который живет в Шанхае и пишет о психологии игр, предлагает взглянуть на проблему с другого ракурса:

«Китайцы и так знают, что за ними следят, и что все, написанное онлайн, будет зафиксировано. Так не лучше четко знать правила игры, которую ведет правительство, чтобы использовать эту информацию для собственной пользы? Или вы хотите продолжать жить в воображаемом мире, где существует неприкосновенность личной жизни в интернете, и верить, что государство уважает границы вашего личного пространства?»

Иными словами, блогер считает, что раскрыв план внедрения SCS, правительство предоставило пользователям немного больше возможностей контролировать свои данные.

Рейтинги, о которых мы ничего не знаем

Европейские и американские IT-издания возмутились, узнав о планах китайской партии оценить граждан. Хотя мы и сами не восторге от того, чтобы поставить кому-то оценку: имеем баллы для ресторанов, кино и кинотеатров, книг и врачей. А тем временем алгоритм Facebook, например, может распознать вас на фотографии, даже не видя ваше лицо, — программе нужны только одежда, волосы и структура тела, чтобы заметить именно вас на картинке, с точностью до 83%. Еще в 2015 году OECD подсчитала, что на 100 жителей США приходится не менее 24,9 подключенных устройств. Все компании, которые производят и обслуживают такие гаджеты, собираются множество информации о пользователях и их привычки, чтобы понимать и предсказывать онлайн-поведение.

Не только производители техники, но и правительства разных стран занимаются мониторингом. Американское АНБ даже не возражает против масштабной слежки за всеми гражданами. Администрация безопасности транспорта в 2015 году предложила распространить действие программы PreCheck - проверки происхождения человека на исследование социальных сетей, историю геолокации и онлайн-покупок. Идею раскритиковали, но это не означает, что от нее отказались. Жители США так же живут в мире, где алгоритмы решают, является ли лицо опасным или происходит из зоны риска, является ли оно порядочным гражданином и можно ли ему доверять. Запад гораздо ближе к Востоку, который трансформирует кредитный рейтинг в социальную систему оценивания SCS. Вот только, в отличие от китайцев, американцев об этом официально не сообщили.

Неужели нас ждет будущее, в котором всех будут исследовать и оценивать за онлайн-действиями, раздавая ярлыки? Похоже, все к тому идет. Кто-то пытается восстать против новых традиций и отвоевать приватность в «темном» интернете, но правда заключается в том, что мы шагаем к реальности, в которой все поступки будут оценены по градации, о которой мы ничего не знаем, и оценку нельзя будет изменить или удалить. Забудьте про право удалять контент, право быть забытым (за которое так долго и мучительно боролись в ЕС), о праве быть молодым и глупым.

Остановить это движение уже нереально, но мы сможем повлиять на ситуацию. В первую очередь, нужно установить рейтинг доверия для самих оценщиков. Нужны надежные прозрачные механизмы, которые будут управлять процессом и обеспечат надлежащее использование информации. Чтобы доверять системе, в ней не должно остаться ни одного нераскрытого элемента. Аргументы разработчиков, что обнародованный алгоритм легче обойти, недостаточно, ведь речь идет о настройке системы, которая будет определять уровень и качество жизни каждого отдельного индивида.

Скорее всего, власти Китая захотят исключить первых лиц государства из рейтинга. Однако, это будет слишком очевидным шагом: когда негативные поступки управленцев не ухудшат их рейтинг, население это заметит и возмутится. Относительно особенностей центрального регулирования такой системы рейтингов есть много вопросов. Сегодня КНР, а завтра любая другая страна может ввести оценивание людей. И самые главные вопросы заключаются не в технологической или экономической плоскости, а именно в моральном. Геймификация слежки за гражданами превратит нашу жизнь на онлайн-соревнование по популизму, в котором мы все будем зарабатывать как можно больше баллов, неважно, насколько сильно при этом придется пожертвовать собственными принципами и предпочтениями.

Материал по теме:

Рок-коммунары (МРК) - против мрака кибертоталитаризма!