К чему может привести тотальная видеослежка за людьми и ошибки искусственного интеллекта? Показательный случай произошёл с автомобилистом из города Цзинань китайской провинции Шаньдун.

 

Китайская Народная Республика – мировой лидер в сфере слежки за гражданами: в стране на данный момент функционирует более 200 миллионов камер видеонаблюдения, а уже в следующем году будет 400 миллионов. Записи с этих камер собираются в дата-центры и анализируются искусственным интеллектом. Лица граждан распознаются, нарушители правопорядка выявляются и наказываются, причём в некоторых городах их портреты отображаются на больших электронных досках позора – такое, понимаете ли, общественное порицание.

Разумеется, наибольшая концентрация камер – на дорогах: водители-нарушители исправно пополняют штрафами китайскую казну. Вот только время от времени система даёт сбой и выписывает штрафы невиновным. Водитель по имени Лю ехал 20 мая по своим делам по улицам Цзинаня, которые, разумеется, утыканы камерами. Под одной из таких камер Лю почесал правой рукой щёку, и этот невинный жест искусственный интеллект интерпретировал как нарушение ПДД, а именно – разговор по мобильному телефону в процессе управления автомобилем. Вскоре Лю получил извещение о необходимости оплатить штраф в размере 50 юаней (примерно 470 рублей) и два штрафных балла. На фотографии в постановлении Лю узнал себя, но никакого телефона в руке на снимке не видно – просто ладонь у щеки.

 

Невинно осуждённый гражданин бросился звонить в полицию с требованием отменить наказание, но удалённо решить проблему не смог и был вынужден ехать обивать пороги ответственных учреждений, писать заявления и доказывать, что он ничего не нарушил. В итоге штраф ему отменили и восстановили социальный рейтинг, и будет ли жизнь Лю после этого инцидента прежней?

В Китае теперь каждому гражданину присваивается так называемый рейтинг социального доверия, основанный на комплексе поведенческих особенностей в самых разных жизненных ситуациях – от езды на машине и покупки продуктов в супермаркете до визита к стоматологу и похода на свидание с девушкой. На каждого жителя на основании данных с камер видеонаблюдения и других систем слежки (в частности, за «цифровыми следами» в интернете) составляется подробное досье и даётся оценка, на основе которой индивид может получить или не получить доступ к благам цивилизации – качественному медицинскому обслуживанию, кредиту в банке, проживанию в комфортном отеле, прокатному автомобилю и проч. Лю вроде бы опротестовал штраф, но где гарантия, что система не идентифицирует этот его поступок как склочность и стремление противостоять системе? Да и чесотка тоже, знаете ли, недобрый знак. Может, Лю плохо следит за собой, редко моется или чем-то болен, а потому его нужно изолировать от сайтов знакомств, чтобы не портил китайский генофонд. Вот такие ужасы в лучших традициях сериала «Чёрное зеркало» теперь происходят в реальной жизни самого крупнонаселённого государства планеты Земля.

В России, конечно, пока такого цифрового зверства не наблюдается – всё-таки у нас права человека имеют какую-никакую ценность и за личное благо граждане, как правило, борются сильнее, чем за общественное. Но водители уже под ударом: количество камер на дорогах растёт, а с ним и количество ошибочно выписанных штрафов, причём, как и в Китае, обжаловать их дистанционно пока нельзя – нет соответствующего закона, и когда будет, неизвестно. Вот и приходится российским водителям, как товарищу Лю, в случае компьютерных ошибок обивать пороги учреждений с бумажками.

28.05.2019