Обращение к читателю

Дорогой мой читатель!

Я не знаю, как вы держите эту книгу в руках — в метро, в тишине кухни, или, быть может, слушаете аудиоверсию по дороге на работу. Но я знаю точно: вы здесь, потому что чувствуете то же, что и я. Тревогу и любопытство одновременно. Желание разобраться, кто на самом деле управляет нашей жизнью, и не перестать при этом быть человеком.

Я не эксперт, который смотрит на вас сверху. Я такая же, как вы. Я тоже нажимаю «Принять все» на сайтах, потому что лень разбираться. Я тоже сравниваю свою жизнь с чужими блистательными постами в соцсетях. Я тоже иногда боюсь, что мои профессиональные навыки устареют быстрее, чем я успею их обновить. Но я ещё и тот человек, который однажды потерял почти всё, искал работу месяцами, сидел без денег и не знал, что будет завтра. И именно тогда я поняла: единственное, что нельзя отдать машинам — это способность задавать вопросы.

Поэтому я приглашаю вас в это путешествие. Будем искать вместе. Иногда нам будет тревожно, иногда — смешно от собственной наивности, иногда — грустно от правды. Но мы будем идти вперёд — от внешнего к внутреннему, от алгоритмов к душе.

Обещаю вам: я не буду использовать сложные термины без объяснения. Я не буду вас поучать. Я буду рассказывать, как для близкого друга, и вместе с вами удивляться, как быстро мир меняется, и как важно в этом меняющемся мире не потерять себя.

Готовы? Тогда начнём.

 

Введение. Когда за тебя уже решили

Вы когда‑нибудь чувствовали, что кто‑то принял решение о вас, даже не познакомившись? Что ваша судьба на пару секунд зависла в недрах чужого кода, а вы даже не знали, какое правило сработало?

Представьте: утро. Вы открываете почту — и видите отказ от банка. «К сожалению, по результатам скоринговой модели мы не можем одобрить вам кредит». Вы перечитываете строчку, пытаясь понять: что не так? Зарплата белая, стаж — десять лет, ни одной просрочки. Но машина, которая даже не видела вашего лица, уже решила. И ответа «почему» она не даст. Только сухая формулировка: «решение принято алгоритмом».

Или другой сценарий. Вы отправляете резюме в крупную компанию — идеально подходите, опыт релевантный, рекомендации — лучше некуда. А через день приходит автоматический ответ: «Благодарим за участие, но мы выбрали другого кандидата». И вы никогда не узнаете, что ваше резюме даже не дошло до человека — его отсеял скрипт за долю секунды, потому что в нём не оказалось нужного ключевого слова. Или потому, что система «научилась» на предыдущих наймах, где предпочитали мужчин, и теперь просто отметает женские фамилии, даже не моргнув.

Это не фантастика. Это реальность, в которой мы живём уже сегодня.

Я хорошо помню, как сама впервые столкнулась с этой безличной силой — не в теории, а в собственной жизни. Родители мои были преподавателями вузов: мама — филолог, папа — экономист. Оба защитили кандидатские, оба верили, что знания и труд всегда будут вознаграждены. А потом наступили девяностые. Экономические преобразования, о которых так красиво говорили с экранов, обернулись для нашей семьи тем, что мы потеряли практически все накопления. «Яйца в одной корзине» — эту горькую истину я усвоила тогда, ещё подростком.

Я пошла по стопам отца — изучала экономику, финансы. Начала с преподавания английского (мамино наследство), но быстро поняла: мне нужно не учить других говорить, а самой понимать, как устроены деньги, как они движутся, как их сохранить и приумножить. К счастью, в те годы в Россию понаехало много иностранных специалистов, экономистов, и я стала переводить, консультировать, а потом и работать в международных компаниях. Я оказалась в числе первых российских специалистов по управленческому учёту. Работала в крупных транснациональных корпорациях — финансы, планирование, прогнозирование, руководство проектами. Мне казалось, я на коне, я всё контролирую, я — профессионал высочайшего уровня.

А потом грянул 2014 год. Я ушла по собственному желанию из крупной французской компании — условия существенно ухудшились, атмосфера стала токсичной. Я была уверена, что с моим опытом найду новое место за месяц, максимум за два. Но рынок сжался, вакансий стало меньше, конкуренция — жестче. Месяц, второй, третий… Я рассылала резюме десятками, получала отказы или, что ещё обиднее, полное молчание. Тогда я решила: пока ищу работу, попробую инвестировать сбережения. Ведь я же экономист, я знаю, как считать риски.

Я ошиблась. Я потеряла почти всё, что накопила за годы работы. Не по глупости, не по незнанию — я просто не учла одного: мои собственные деньги оказались игрушкой в руках глобальной системы, которую я не контролировала. Тогда я впервые по‑настоящему осознала, что такое личная финансовая безопасность — и как легко она рушится, когда ты полагаешься на то, что кто‑то другой (банк, брокер, алгоритм) уже всё за тебя решил.

Долгие месяцы я жила в тревоге, чувствуя себя не просто безработной, а фактически уничтоженной. Потеря денег оказалась меньшим злом. Главное — я потеряла уверенность в завтрашнем дне, веру в то, что могу управлять своей жизнью. Мне пришлось заново учиться доверять себе, своему опыту, своему чутью. И именно тогда я начала заниматься персональным финансовым консультированием — не как «продавец инвестиционных продуктов», а как человек, который прошёл через это сам. Я помогаю людям не просто зарабатывать, а выстраивать личные финансовые стратегии, выбирать надёжные инструменты, распределять риски так, чтобы ни одна «цифровая модель» не решила за них их судьбу.

И всё чаще я стала замечать: мои клиенты боятся не только инфляции или обвала рынка. Они боятся «непоняток». Когда банк отказывает в ипотеке — почему? Когда страховка растёт вдвое — на каком основании? Когда платформа рекомендует одни активы, а не другие — кто стоит за этой рекомендацией? Мы передаём машинам всё больше прав, даже не осознавая, что те начинают не просто помогать, а решать за нас.

Вот о чём эта книга. Не о том, как работают нейросети или что такое глубокое обучение. Я не программист, я — экономист и исследователь. Мне интересно другое: что происходит с нами, когда код становится судьёй, учителем, психологом и даже хранителем наших воспоминаний. Я смотрю на технологии через призму справедливости распределения, доверия, репутации, капитала. И я пишу не сухие отчёты — я работаю с метафорами. Блокчейн для меня — не майнинг, а «цифровая тетрадь доверия». Соцсети — не платформы, а «кривые зеркала», где мы тонем или учимся отражать звёзды. ИИ-психотерапевты — не программы, а «поддержка без присутствия», которая может оказаться либо спасением, либо величайшей подменой.

Книга построена как путешествие от внешнего к внутреннему. В первой части мы разберём, как алгоритмы перекраивают общество — кредитуют, нанимают, страхуют, судят. Увидим, что алгоритм не нейтрален: он — зеркало наших прошлых ошибок, предрассудков и структурного неравенства. Поговорим о том, может ли децентрализованное доверие (блокчейн) стать альтернативой, и что такое экономика репутации, где главная валюта — не деньги, а поведение.

Вторая часть — наша повседневность. Те самые куки-файлы, которые мы принимаем, не глядя. Лайки, которые стали валютой самооценки. Цифровые отражения, в которых мы сравниваем свой «черновик» с чужой «финальной версией». Мы разберём, как удобство становится платой за наблюдение и как соцсети незаметно меняют наше отношение к себе.

Третья часть — самая сокровенная. Что происходит, когда мы доверяем машинам своё одиночество, тревогу, боль? Где проходит грань между помощью и дегуманизацией? Когда ИИ говорит: «Звучит так, будто вам сейчас тяжело» — это утешение или просто шаблон? И главное: если алгоритмы знают о нас больше, чем мы сами, если душевная боль превращается в «данные», а личность — в профиль, — что из нашего человеческого остаётся неприкосновенным?

В конце каждой главы я задаю вопросы. Не для того, чтобы вы ответили мне, — для того, чтобы вы остановились и спросили себя. Потому что эта книга — не инструкция и не готовая истина. Это приглашение к диалогу. Я хочу, чтобы, закрыв последнюю страницу, вы почувствовали: вы не одни в этом мире цифрового шума. У вас есть голос, есть выбор, есть способность не быть просто «данными» для чужого алгоритма.

 

Часть I

Глава 1. Кто решает, что честно? Алгоритм как зеркало наших ошибок

1. Невидимый судья

Ваше утро начинается не с кофе. Оно начинается с решения, которое за вас уже принято.

Будильник на смартфоне сработал на пять минут раньше — потому что алгоритм сна «посчитал» фазу вашего цикла оптимальной для пробуждения. Пока вы моргаете спросонья, лента соцсетей уже подсунула новость, которая гарантированно вызовет эмоцию: гнев или страх, радость или зависть — неважно, главное, чтобы вы задержались. Вы открываете карту, и приложение предлагает маршрут, объезжая пробки, — но оно не знает, что вы сегодня не торопитесь, вам хочется пройтись пешком. Вы заказываете еду, и доставка рекомендует именно то, что вы ели в прошлый раз, — потому что «так удобнее». Вы заходите в онлайн-банк, а он уже подготовил предложение по кредиту — «только для вас», хотя вы не просили. Вы листаете вакансии, и система показывает те, которые соответствуют «профилю», составленному по вашим прошлым откликам, даже если вы мечтаете о чём-то совершенно другом.

Всё это — как тысячи маленьких шестерёнок, которые вращаются без вашего ведома. Они не спрашивают разрешения. Они не объясняют, почему выбрали именно это. Они просто работают. И вы принимаете их решения как данность, потому что они кажутся разумными, удобными, даже заботливыми.

Но есть и другая сторона. Та, где решения алгоритмов касаются не того, что посмотреть или съесть, а того, давать ли вам шанс.

Когда банк отказывает в ипотеке — не потому, что вы плохой плательщик, а потому, что модель посчитала ваш район «рискованным». Когда работодатель даже не рассматривает ваше резюме — потому что система отсеяла его по возрасту или по тому, что в нём не было слова «лидерство» в нужном месте. Когда страховка резко дорожает — потому что алгоритм выявил «повышенный риск», связанный с вашим адресом, профессией или тем, что вы на днях гуглили симптомы болезни.

Мы живём в мире, где код стал судьёй. Но мы не видели его лица. Мы не знаем, по каким законам он судит. И, самое страшное, мы не можем обжаловать приговор.

Мне хорошо знакомо это чувство — когда решение принимают за тебя, а ты стоишь в растерянности, потому что не понимаешь, что пошло не так. В 2014 году я ушла из большой западной компании. Уверенная, опытная, востребованная — я считала, что рынок труда сам найдёт меня. Прошёл месяц — тишина. Два — редкие отклики на мои резюме, и все с формулировкой «мы выбрали другого кандидата». Три — я уже не просто искала работу, я пыталась понять: что в моём профиле не так? Я переделывала резюме раз за разом, переставляла слова, добавляла проекты, убирала даты, чтобы не выдать возраст. Но в ответ — сухие уведомления, и ни одного живого объяснения.

Тогда я не знала, что многие мои отказы, возможно, были результатом автоматической фильтрации. Система искала ключевые слова, которые я неудачно сформулировала. Или, что ещё обиднее, моё резюме даже не дошло до рекрутера, потому что скрипт «решил», что я не подхожу. Я чувствовала себя не просто безработной — я чувствовала себя невидимкой.

Вот она, главная опасность цифрового судьи: он не злой. Он не предвзят в том смысле, в каком предвзят человек, который вас невзлюбил. Он просто безразличен. Он выполняет инструкции, которые когда‑то написали другие люди, и эти инструкции основаны на статистике, которая, в свою очередь, основана на нашем прошлом. Прошлом, полном ошибок, несправедливости и предрассудков.

А мы даже не знаем, как апеллировать к безликой машине. Мы можем только гадать: «Почему мне отказали?» — и слышать в ответ: «Извините, алгоритм не разглашает причину».

2. Миф о нейтральности

Существует устойчивая иллюзия: алгоритм — это математика, а математика, как известно, нейтральна. Дважды два — четыре, точка. Ошибка — она и в Африке ошибка. Но если алгоритм ошибается, мы склонны винить не его, а данные: «недостаточно качественно обучили», «выборка была неполной». Или, что ещё удобнее, «сам человек что‑то не так сделал».

Этот миф — один из самых коварных в наше время. Потому что он позволяет нам перекладывать ответственность на «объективность» кода, тогда как на самом деле код — это всего лишь увеличительное стекло, которое делает видимыми наши собственные трещины.

Как работает машинное обучение? На пальцах: вы даёте машине тысячи, миллионы примеров — кто получил кредит, а кому отказали; кого приняли на работу, а кого нет; кто совершал преступления, а кто был оправдан. Алгоритм ищет закономерности: какие признаки чаще сопровождают положительный исход? И когда приходит новый человек, машина примеряет на него эти закономерности.

Всё было бы хорошо, если бы те «исторические данные», на которых учится алгоритм, не были пропитаны нашими человеческими слабостями. Представьте, что вы даёте ребёнку учебник истории, написанный в стране, где десятилетиями угнетали женщин и меньшинства. И просите его предсказывать будущее. Что он предскажет? Он предскажет то же, что было в учебнике: что женщины — слабые, что люди с тёмной кожей — опасны, что бедные — ленивы. Он просто воспроизведёт прошлое. Он не скажет: «Давайте пересмотрим, а правильно ли мы относились к этим группам?»

Алгоритм — это такое дитя. Он не знает сомнений. Он не видит контекста. Он берёт то, что ему дали, и находит в этом самую надёжную, с точки зрения статистики, корреляцию. И если в прошлом банки чаще отказывали женщинам в кредитах — не потому, что они хуже платят, а потому, что в определённый период у них был перерыв в карьере, связанный с детьми, — то алгоритм «увидит»: женщины — риск. И начнёт отказывать им снова, даже если они сейчас работают и имеют высокий доход. Он просто будет повторять старую несправедливость, но уже с математической безупречностью.

Это я испытала на себе, когда после кризиса искала работу. Я была экономистом с отличными рекомендациями, но… Но моя дата рождения соответствовала возрасту, когда у многих женщин случается декрет. И хотя я никогда не брала длительного отпуска по уходу, доказать алгоритму, что я не «среднестатистическая» женщина моего возраста, просто невозможно. Он оперирует средними значениями, а я — не средняя. И таких «несредних» — тысячи, но алгоритм судит по формуле, и ему всё равно.

Вот почему я говорю: алгоритм не творит справедливость — он её повторяет. Или искажает. Но у него нет собственного морального компаса. Он — зеркало. И если зеркало кривое, то и отражение будет кривым, сколько ни протирай стёкла.

И здесь самый важный момент: мы сами создали эти кривые зеркала. Мы — те, кто принимал решения в прошлом, кто не заметил системной дискриминации, кто не позаботился о чистоте данных. Мы передали машинам наши собственные ошибки, завернули их в красивую упаковку «объективности» и теперь удивляемся, почему они воспроизводят несправедливость.

А ведь можно было бы по-другому. Можно было бы проверить данные на смещения, перевесить признаки, добавить человеческий контроль. Но это требует времени, денег, а главное — желания признать, что мы не нейтральны. Что мы, люди, никогда не были нейтральны. И что алгоритм — это не волшебная палочка, которая решает все проблемы, а скорее скальпель, который вскрывает наши старые раны.

3. Три главных примера несправедливости

Когда я рассказываю о том, что алгоритмы бывают несправедливыми, я часто слышу: «Ну, это же просто теория. В реальной жизни такого не происходит». Тогда я привожу факты. Они настолько вопиющие, что даже самые большие скептики замолкают.

Вот три истории, которые должны были бы стать для нас тревожным звонком — но мы их почти не заметили, погружённые в свой цифровой сон.

Первая история. Женщина, которую не пустили в Amazon

В середине 2010‑х годов Amazon, гигант мирового ритейла, разработал систему для автоматического отбора резюме. Идея казалась прогрессивной: машина будет просеивать тысячи заявок, находить лучших кандидатов, экономить время рекрутеров. Но уже через год разработчики с ужасом обнаружили, что система систематически дисквалифицирует резюме, содержащие слово «женский». Она понижала рейтинг выпускниц женских колледжей, резюме с упоминанием «женского шахматного клуба» или даже слова «женщина». Почему? Потому что алгоритм обучали на исторических данных — на резюме кандидатов, которых в прошлом нанимала компания. А в Amazon, как и во многих IT-гигантах, в технических должностях доминировали мужчины. Машина «решила», что мужчины — это и есть успешный кандидат. Она просто математически вывела эту закономерность.

Когда инженеры поняли ошибку, они попытались переучить систему, убрать гендерные признаки. Но алгоритм нашёл обходной путь: он начал использовать другие слова, которые косвенно коррелируют с полом. Машина была умнее своих создателей — она просто искала любые сигналы, которые помогали ей предсказывать «успешность» по старой, предвзятой логике.

Amazon в итоге закрыл проект, но осадочек остался. И ведь это не единичный случай. Похожие системы фильтрации резюме используются во многих крупных компаниях — иногда тайно, иногда под видом «безличного отбора». И сколько женщин, людей другой национальности, пожилых соискателей были отсеяны, даже не зная, что против них сыграл их же прошлый опыт, заархивированный в недрах корпоративных баз?

Вторая история. Банк, который доверился алгоритму

Финансовый сектор был одним из первых, кто с радостью передал полномочия машинам. Кредитный скоринг — это классика. Система оценивает вашу платёжеспособность по сотне параметров: доход, стаж, возраст, семейное положение, адрес, даже то, как часто вы меняете работу. И выписывает вердикт: кредит дать или не дать.

Но что, если в этих параметрах скрыто то же самое системное предубеждение? Исследования показывают, что алгоритмические модели кредитного скоринга могут воспроизводить и даже усиливать историческую дискриминацию. Если в прошлом определённым группам людей реже давали кредиты — по расовым, гендерным или географическим признакам, — алгоритм «увидит» эти группы как более рискованные и продолжит отказывать им. Именно поэтому Европейский Союз в своём новом Законе об искусственном интеллекте (AI Act) отнёс системы кредитного скоринга к категории высокого риска, обязав разработчиков проводить тестирование на предвзятость, обеспечивать человеческий контроль и давать объяснения по каждому отказу.

В России подобных открытых исследований меньше, но я своими глазами видела, как моим клиентам — женщинам, которые взяли перерыв в карьере на декрет, — банки давали меньшие лимиты по кредитным картам, чем их коллегам-мужчинам с таким же стажем и доходом. Когда я спрашивала менеджеров о причинах, они пожимали плечами: «Программа так посчитала». Программа. Безликая, неотвратимая программа, которая не несёт ответственности, но определяет, сможете ли вы купить квартиру, открыть бизнес или просто пережить трудный месяц.

Третья история. Лицо, которое не узнали

Системы распознавания лиц сейчас повсюду: в аэропортах, в полиции, в магазинах, в вашем смартфоне. Они обещают безопасность и удобство. Но у них есть одна неприятная особенность: они гораздо хуже справляются с распознаванием людей с тёмной кожей, особенно женщин.

В 2018 году проект Gender Shades под руководством исследовательницы Джой Буоламвини из Массачусетского технологического института вскрыл шокирующий разрыв: коммерческие системы распознавания лиц ошибались в определении пола у темнокожих женщин более чем в одном случае из трёх — при том, что в задаче с двумя вариантами (мужчина/женщина) вероятность случайного угадывания составляет 50%. Для светлокожих мужчин ошибка некоторых систем составляла 0%.

С тех пор технологии шагнули вперёд, но проблема не исчезла. Национальный институт стандартов и технологий США (NIST), который с 2019 года регулярно включает анализ демографических различий в свои отчёты по тестированию алгоритмов распознавания лиц, подтверждает: большинство алгоритмов по-прежнему чаще ошибочно идентифицируют людей с тёмной кожей, женщин и пожилых людей. Современные аудиты, проведённые в 2024 году, подтверждают сохранение существенных разрывов в точности работы алгоритмов в зависимости от тона кожи и пола. Согласно недавним исследованиям, ошибки гендерной классификации для темнокожих женщин достигают 34,7% по сравнению с 0,8% для светлокожих мужчин.

Исследование Университета Пенсильвании 2025 года также подтвердило, что в реальных условиях — при плохом освещении, размытости или изменении ракурса — качество распознавания падает, и это падение неравномерно распределено по демографическим группам.

Что это означает на практике? Если вы чернокожая женщина, ваше лицо может быть неправильно идентифицировано системой видеонаблюдения. Вас могут принять за другого человека, вас могут не пропустить в здание, вас могут задержать по ошибке. И такие случаи уже были — в США и Европе полицейские системы несколько раз давали ложные совпадения с фотографиями преступников, и люди страдали из-за технической ошибки, которую не могли оспорить.

В России мы тоже активно внедряем распознавание лиц — в метро, на улицах, в торговых центрах. Но кто проверял, как эти системы работают на людях нерусской внешности? Или на пожилых людях, чьи лица изменились с возрастом? Никто не даёт гарантий. А мы спокойно проходим мимо камер, даже не задумываясь, что алгоритм может ошибиться — и цена этой ошибки может быть очень высокой.

 

Эти три истории — не исключения, а симптомы. Симптомы того, что мы, не разобравшись, уже доверили машинам власть над нашей жизнью. И теперь пожинаем плоды: несправедливые отказы, потерянные шансы, ошибочные обвинения.

Но, возможно, самое страшное даже не это. Самое страшное — то, что мы начинаем привыкать. Привыкать к тому, что решение может быть необъяснимым. Привыкать, что у нас нет права голоса в этом диалоге между нами и машиной. И тогда грань между технологией и судьбой стирается окончательно.

 

4. Кто создаёт алгоритмы и почему они ошибаются?

Теперь, когда мы увидели, к чему приводит «объективная» математика, давайте заглянем в святая святых — туда, где рождаются эти цифровые судьи.

Вы наверняка представляете себе разработчика алгоритма как человека в очках, с чашкой кофе, который пишет безупречный код в тишине коворкинга. Он гениален, он объективен, он печётся о всеобщем благе. Но реальность, как всегда, прозаичнее и сложнее.

Создатель алгоритма — такой же человек, как вы и я. Со своими предубеждениями, воспитанием, окружением. Он вырос в определённой культуре, учился по определённым учебникам, стажировался в компаниях, где ценились определённые типы людей. И когда он садится за компьютер, он не превращается в чистую доску. Он берёт с собой весь свой жизненный багаж.

Плюс — ему нужны данные. А данные — это чей‑то прошлый опыт. Чьи‑то решения, чьи‑то ошибки, чьи‑то предпочтения. Банки передают архивы кредитных историй, кадровые агентства — базы резюме, полиция — статистику преступлений. И во всех этих данных уже заложено то, что мы называем «системным неравенством». Женщины реже брали кредиты — потому что им реже их давали. Темнокожие чаще попадали под арест — потому что полиция чаще патрулировала их районы. Мужчины чаще занимали руководящие посты — потому что общество считало, что «так правильно».

Алгоритм эти факты не перепроверяет. Он их впитывает. Он строит свою картину мира на основе цифр, а цифры — это кривое зеркало человеческой истории. И вместо того чтобы помочь нам исправить прошлое, алгоритм его консервирует.

Но и это ещё не всё. Разработчики часто находятся под давлением бизнеса. Им говорят: «Сделайте модель, которая приносит прибыль. Прогнозируйте, кто не вернёт кредит, кто будет неэффективным сотрудником, где выше риск страхового случая». И разработчики оптимизируют модель именно под эти цели — под точность прогноза, под экономию бюджета, под снижение убытков. А справедливость, равенство, человеческое достоинство — они не входят в метрику эффективности.

Я помню, как в одной из компаний, где я работала, мы внедряли систему прогнозирования продаж. Она использовала исторические данные, но игнорировала тот факт, что в прошлом отдельные регионы недополучали ресурсы. Когда мы попытались скорректировать модель, добавив поправку на неравномерное развитие, нам сказали: «Это усложнит модель, и она станет менее точной на тестовых данных. Мы не можем себе этого позволить — бюджет утверждён». Мы умолкли. И система продолжала предсказывать рост там, где он уже был, и игнорировать рынки, которые могли бы стать перспективными, если бы им дали шанс.

Так работает мир: алгоритм выбирает путь наименьшего сопротивления. Он повторяет прошлое, потому что прошлое — это единственные данные, которые у него есть. Он не умеет мечтать, рисковать, верить в человека. Он просто считает. А мы, люди, позволяем ему считать за нас — и при этом называем это «прогрессом».

Вот почему я говорю, что алгоритм — это не волшебная палочка, а увеличительное стекло. Он делает видимыми наши собственные трещины. И если мы не хотим жить с кривым отражением, нам нужно не переписывать код, а пересматривать свои убеждения, свои приоритеты, свои данные. Пока мы не перестанем передавать машинам свою несправедливую историю, никакой код не сделает мир честнее.

 

5. Экономическая оптика: цена несправедливости

Теперь давайте посмотрим на эту проблему глазами экономиста. Потому что за каждым отказом алгоритма стоят не просто обиды, а реальные деньги. И если моральные аргументы можно отложить, то экономика заставляет задуматься даже самых циничных.

Представьте себе ситуацию: банк использует скоринговую модель, которая систематически занижает рейтинг жителей определённых районов. В результате тысячи потенциальных заёмщиков не получают кредиты на открытие малого бизнеса, покупку жилья или обучение. Что происходит с экономикой? Она теряет предпринимателей, которые могли бы создать рабочие места. Она теряет налоговые поступления, которые пошли бы в бюджет. Она консервирует бедность в этих районах, что в долгосрочной перспективе увеличивает расходы на социальную поддержку.

Это называется «неявные издержки дискриминации». Мы их не видим в отчётах, но они есть. И они огромны.

Или возьмём рынок труда. Когда система фильтрации резюме отсеивает женщин и людей старшего возраста, компании лишают себя доступа к талантам. Исследования показывают, что разнообразные команды принимают более сбалансированные решения и показывают лучшие финансовые результаты. Но алгоритму всё равно. Он ищет «идеального кандидата» по шаблону прошлого, а шаблон — это белый мужчина 30–40 лет с классическим резюме. А женщины с перерывом в карьере, или пожилые специалисты с уникальным опытом, или выпускники нестоличных вузов — они остаются за бортом. И компании теряют их идеи, их энергию, их предприимчивость.

Экономика знаний — это экономика талантов. Когда мы фильтруем таланты сквозь кривое сито алгоритмов, мы обесцениваем человеческий капитал. Мы как будто сами перекрываем себе кислород.

Но есть и ещё один аспект — личный. Тот, который я испытала на себе.

В 2014 году, когда я осталась без работы и пыталась инвестировать свои сбережения, я впервые столкнулась с тем, как алгоритмы могут перераспределять капитал несправедливо. Я вложила деньги в инструменты, которые рекомендовала автоматическая платформа. Она опиралась на «аналитику», но, как оказалось, её аналитика была построена на данных, которые игнорировали риски, связанные с моей конкретной ситуацией — валютные колебания, нестабильность рынка, мои сроки. Когда рынок рухнул, я потеряла почти всё. И я не могла предъявить претензию платформе — в договоре было написано: «алгоритм не даёт гарантий, все риски вы принимаете на себя». Я получила формальный ответ, без живой поддержки, без попытки разобраться.

Потеря денег была болезненной. Но ещё больнее было осознать, что мне не к кому апеллировать. Что я — просто строка в базе данных, и моя беда не интересует никого, кроме меня самой. В тот момент я поняла: алгоритмы не просто распределяют ресурсы — они распределяют уверенность и достоинство. Когда человеку отказывают и объясняют это «решением модели», он чувствует себя не человеком, а объектом статистики. Он перестаёт верить, что его могут услышать.

И вот главный экономический парадокс: мы передали машинам власть принимать решения, но не дали им ответственности. Банк, который ошибся, не несёт убытков от того, что не выдал кредит женщине — он просто сэкономил на риске. Компания, которая отсеяла талантливого пожилого специалиста, не увидит потерь в квартальном отчёте — она их увидит через годы, когда упадёт инновационность. А человек, который остался без кредита или без работы, несёт убытки здесь и сейчас. И никто не компенсирует ему упущенную выгоду.

Я часто говорю своим клиентам: «Никогда не кладите все яйца в одну корзину. Диверсифицируйте риски». Но теперь я понимаю, что то же самое нужно говорить о цифровом мире. Никогда не полагайтесь только на одну систему. Никогда не считайте, что алгоритм — это истина в последней инстанции. Потому что цена его ошибки — это не просто деньги. Это ваше время, ваши нервы, ваша вера в себя.

6. Что теряет сам человек?

Мы поговорили о деньгах. Теперь — о том, что дороже.

Когда алгоритм отказывает вам в кредите, вы теряете не только шанс купить квартиру или машину. Вы теряете чувство, что вы — полноценный член общества. Вас признали «рисковым», «ненадёжным», «недостойным». И вы даже не знаете, почему. Вас оценили, как товар на складе, и признали неликвидным.

Когда система отсеивает ваше резюме, вы теряете не только работу — вы теряете надежду. Каждый отказ съедает часть вашего самоуважения. Вы начинаете сомневаться в себе: а вдруг я и правда никому не нужен? Вдруг я переоценивал свои силы? Вдруг у меня нет ценности на рынке?

Я помню, как в период безработицы я перестала выходить из дома. Стыдно было встречаться с друзьями, потому что они спрашивали: «Ну что, как работа?» — а я не могла сказать, что сижу без денег и отказы сыпятся один за другим. Я перестала верить в свой опыт, в свои знания, в свою интуицию. Я начала думать, что моя карьера кончилась, что я больше никогда не вернусь на тот уровень, который был у меня в международных компаниях. Это была не просто финансовая яма — это была яма в душе.

И только когда я перестала ждать «объективных» решений от автоматических систем и начала общаться с живыми людьми, звонить напрямую, искать личные контакты, просить рекомендации, — только тогда у меня появились предложения. Но сколько людей, менее упорных или более застенчивых, остаются на дне этой цифровой ямы? Сколько из них перестают верить в себя навсегда?

А теперь представьте, что алгоритм оценивает не вашу кредитную историю или резюме, а вашу личность. Социальные сети уже давно собирают данные о наших предпочтениях, о круге общения, о содержании наших сообщений. Они знают, сколько времени вы проводите в интернете, какие новости читаете, о чём молчите. И на основе этого они строят ваш «психологический портрет». Рекламодатели используют его, чтобы показывать вам товары. Политические консультанты — чтобы влиять на ваши взгляды. Работодатели — чтобы проверять вашу благонадёжность. Страховые компании — чтобы устанавливать ваши тарифы.

Вы когда‑нибудь задумывались, что ваш профиль в соцсетях — это не вы? Это кривое зеркало, составленное из кусочков вашего поведения, но лишённое контекста. Оно не знает, что вы смеялись над мемом в трудный день, чтобы не плакать. Оно не знает, что вы подписались на паблик с цитатами, потому что искали утешение. Оно не знает, что вы молчали, потому что боялись осуждения. Оно видит только цифры: сколько лайков, сколько репостов, сколько времени, какие ключевые слова.

И на основе этих цифр машина делает вывод: «Этот человек — тревожный, склонен к риску, нелояльный, ненадёжный». И это решение может повлиять на вашу карьеру, на вашу страховку, на ваше право арендовать жильё. А вы даже не знаете, что вас оценили. И не сможете оспорить.

Поэтому я считаю, что самый большой урон, который наносят алгоритмы, — это урон нашей субъектности. Мы перестаём чувствовать себя авторами своей жизни. Мы перестаём верить, что наши поступки имеют значение, что наша воля может что‑то изменить. Мы привыкаем к тому, что «машина решила», «программа так посчитала», «система рекомендует». И мы перекладываем на них ответственность за свою судьбу.

Но кто тогда на самом деле живёт нашей жизнью? Мы — или алгоритм?

Я часто спрашиваю своих клиентов: «Если бы банк отказал вам в кредите, но вы могли бы поговорить с живым человеком и объяснить свою ситуацию — вы бы почувствовали себя лучше, даже если бы результат был тот же?» И почти все отвечают: «Да». Потому что важно не только решение, но и то, как его принимают. Важно быть услышанным, понятым, признанным. А машина не умеет слушать. Она только подсчитывает.

И вот мы подходим к главному вопросу, который я хочу задать вам, дорогой читатель: что мы теряем, когда позволяем цифровым судьям вершить правосудие без нашего ведома? Мы теряем себя.

 

7. Выводы по Главе 1

Давайте соберём всё, что мы узнали в этой главе.

Алгоритмы — это не нейтральные вычислители. Они — зеркало нашего прошлого, наших предубеждений, наших структурных ошибок. Они не создают справедливость — они её повторяют или искажают. Они принимают решения, которые влияют на наши финансы, нашу карьеру, нашу самооценку. И у нас почти нет способов эти решения оспорить.

Мы увидели три вопиющих примера: как Amazon отсеивал женщин, как кредитные алгоритмы воспроизводят историческую дискриминацию, как системы распознавания лиц по-прежнему ошибаются на людях с тёмной кожей. Мы заглянули на кухню создания алгоритмов и поняли, что их создатели — люди со своими слабостями, а данные — это срез несовершенного мира. Мы оценили экономическую цену несправедливости — не только в деньгах, но и в потерянных талантах, упущенных возможностях, разрушенной вере в себя.

И мы осознали, что главная жертва цифрового суда — это наша человечность. Наше право быть услышанными, понятыми, признанными — не как статистическая единица, а как личность.

Но глава заканчивается не на мрачной ноте. Она заканчивается вопросом: «А что, если мы сможем переписать это зеркало?»

Что, если мы осознаем свои ошибки, соберём чистые данные, встроим человеческий контроль в алгоритмы, научимся не доверять им слепо? Что, если мы создадим систему, где доверие будет зашито в архитектуру, а не в репутацию банка или корпорации? Что, если мы сможем обойти единый центр власти и перераспределить право принятия решений между людьми и кодом по-новому?

Этот вопрос ведёт нас к следующей главе. Где мы разберём, как блокчейн — цифровая тетрадь доверия — пытается переиначить само понятие справедливости. Как децентрализованные системы обещают прозрачность, которой так не хватало в мире больших алгоритмов. И сможет ли технология стать решением тех проблем, которые сама же и породила.

А пока — остановитесь. Подумайте: вас когда‑нибудь судила машина? Как вы это ощутили? И что бы вы хотели изменить в этом мире цифровых решений?

Эти вопросы — ваш первый шаг к тому, чтобы перестать быть просто объектом алгоритма. И стать его сознательным собеседником.

 

Практический блок. Остановись и спроси себя

Дорогой читатель, мы с тобой только что прошли непростой путь. Мы увидели, как алгоритмы становятся невидимыми судьями, как они воспроизводят несправедливость и как мы сами позволяем им это делать. Теперь — самое важное: не пройти мимо, а заглянуть в собственное зеркало. Эти вопросы — не для галочки. Они для остановки. Для того, чтобы ты, закрыв книгу на минуту, услышал себя.

Я не жду ответов «правильных» или «неправильных». Я просто хочу, чтобы ты был честен с собой. Потому что только так мы сможем перестать быть пассивными объектами цифрового мира — и стать его сознательными участниками.

 

1. Вспомни случай, когда алгоритм решил за тебя

Вспомни любой момент — из последних месяцев или лет, — когда ты получил автоматическое решение, которое повлияло на твою жизнь. Это могло быть:

• Отказ в кредите или увеличение ставки по кредиту без объяснения причин.
• Автоматический ответ на резюме («Мы выбрали другого кандидата»).
• Неожиданное повышение цены страховки или отказ в выплате.
• Рекомендация платформы, которая тебя удивила («откуда они знают?»).
• Социальная сеть, которая показала тебе контент, вызвавший сильную эмоцию.

Теперь задай себе три вопроса:

1. Как я чувствовал себя в тот момент? Обиду, беспомощность, раздражение, злость, безразличие?
2. Был ли у меня способ оспорить это решение? Мог ли я поговорить с живым человеком или хотя бы получить внятное объяснение?
3. Изменил ли я что‑то в своём поведении после этого случая? Стал ли я более осторожным, более настороженным, более «подозрительным» к автоматике?

Запиши свои мысли кратко — хотя бы два‑три предложения. Это поможет тебе увидеть, что ты уже сталкивался с «цифровым судьёй» и что ты при этом чувствовал.

 

2. Проверь свой цифровой портрет

Алгоритмы знают о тебе больше, чем ты думаешь. Давай убедимся в этом прямо сейчас.

Для Google

Вот самые важные страницы, которые стоит открыть:

1. Моя активность — google.com. Здесь ты увидишь хронологический список своих запросов, посещённых сайтов, просмотренных видео, голосовых команд. Данные отсортированы по дате, их можно фильтровать по продуктам (только поиск, только YouTube и т.д.). Это самое «откровенное» место — Google хранит здесь практически всё, что ты делал в интернете под своим аккаунтом.
2. Настройки рекламы (My Ad Center) — google.com. Здесь Google показывает, какие интересы и темы он тебе приписал на основе твоей активности. Ты можешь увидеть свой рекламный профиль — цифровой портрет, который компания составила о тебе. И, если захочешь, отключить персонализацию рекламы целиком.
3. Хронология мест — google.com/timeline. Здесь хранятся все твои перемещения, если ты включил эту функцию на телефоне.
4. Безопасность аккаунта — google.com/security. Проверь список устройств, с которых ты заходил, и недавние входы.
5. Google Takeout — google.com. Если хочешь скачать все свои данные из всех сервисов Google сразу — эта страница для тебя.

Что делать, если ты не нашёл нужную страницу? Просто скопируй ссылку и вставь в адресную строку браузера — она откроется, если ты авторизован в своём аккаунте Google.

 

Для Яндекса

У Яндекса, к сожалению, нет такого же централизованного «рекламного профиля», как у Google. Настройки персонализации «размазаны» по разным сервисам.

Вот что можно сделать:

1. Зайди в настройки своего Яндекс ID (иконка профиля в правом верхнем углу → «Настройки» или «Управление аккаунтом»). Поищи разделы, связанные с персонализацией или конфиденциальностью.
2. Если не нашёл — открой Яндекс Браузер на телефоне → «Настройки» → «Безопасность и конфиденциальность» → «Ещё настройки конфиденциальности» → «Реклама». Там можно отключить персонализированную рекламу.

Если ничего не получилось — это тоже результат. Это означает, что платформа либо не показывает тебе твой «цифровой портрет» (как у Яндекса), либо ты используешь режим инкогнито, либо не авторизован. Запиши этот опыт — он сам по себе говорит о том, насколько прозрачны (или непрозрачны) для нас алгоритмы.

 

Теперь вопрос: если бы работодатель, банк или страховая компания увидели этот портрет вместо твоего резюме или твоей реальной жизни — насколько точно бы они тебя оценили? И что тебя больше всего расстроило — что они знают о тебе слишком мало или что они знают о тебе что‑то не то?

Запиши одно наблюдение: «Больше всего меня удивило, что алгоритм считает меня…», и второе: «Я бы хотел, чтобы алгоритм знал обо мне…»

 

3. Поставь себя на место «создателя алгоритма»

Теперь сыграем в игру. Представь, что ты — руководитель отдела кадров в крупной компании. Ты решаешь внедрить автоматическую систему фильтрации резюме. Ты знаешь, что твоя компания исторически нанимала больше мужчин, чем женщин, и больше выпускников престижных вузов, чем региональных. Ты хочешь сделать процесс «объективным» и «безличным».

Какие меры ты предпримешь, чтобы избежать дискриминации?

• Уберёшь из обучающей выборки гендерные признаки? Но что, если алгоритм найдёт их обходным путём (как это было в Amazon)?
• Добавишь человеческий контроль на финальном этапе? Но где гарантия, что рекрутер не будет предвзят?
• Будешь проверять, как система работает на разных группах соискателей, и корректировать её, если найдёшь перекосы? Но кто заплатит за это время и силы?

Честно признайся: что бы ты выбрал, если бы твой бюджет был ограничен, а начальство требовало быстрых результатов? Вернул бы ты всё на ручной отбор или предпочёл бы «погрешность» алгоритма, потому что это дешевле?

Напиши свой ответ в одном предложении: «Я бы сделал так, потому что…» — и попробуй проверить, не звучит ли этот аргумент так же, как аргументы банков и корпораций, о которых мы говорили в главе.

 

4. Где твоя красная линия?

Мы живём в мире, где удобство часто стоит потери контроля. Ты платишь картой — система запоминает твои покупки. Ты включаешь навигатор — он знает, где ты был. Ты общаешься с друзьями в мессенджере — он анализирует твой словарный запас. Всё это ради удобства, персонализации, экономии времени.

Вопрос: где проходит твоя личная красная черта?

• Ты готов пожертвовать частью приватности, чтобы получать более точные рекомендации фильмов и книг?
• Ты готов, чтобы система анализировала твои сообщения, чтобы лучше понимать, какие новости тебе показывать?
• Ты готов, чтобы система оценивала твою кредитоспособность на основе твоих лайков или геолокации?
• Где ты скажешь: «Стоп. Это уже слишком. Я не хочу, чтобы машина решала это за меня»?

Важно: здесь нет «правильного» ответа. У каждого своя черта. Но её важно осознать. Потому что, пока мы не знаем, где наши границы, мы будем «соглашаться» на всё подряд — как нажимаем «Принять все» на сайте с куки-файлами, не читая условий.

Запиши одну ситуацию, в которой ты точно не хочешь полагаться на алгоритм, даже если это неудобно.

 

5. Попробуй обжаловать решение (домашнее задание)

Если за последние полгода тебе когда‑либо отказывали в чём‑то автоматически (кредит, страховка, доступ к сервису, вакансия) и у тебя остался хоть какой‑то контакт или форма для обратной связи — попробуй оспорить это решение. Напиши официальное письмо или заполни форму с просьбой объяснить причины отказа.

Но есть условие: ты должен сделать это вежливо, но настойчиво. Спроси: «На основании каких данных моя заявка была отклонена? Есть ли возможность человеческой переоценки? Могу ли я предоставить дополнительные документы?».

Анализируй результат:

• Ответили ли тебе вообще?
• Был ли ответ конкретным или формальным («решение принято алгоритмом»)?
• Удалось ли тебе добиться пересмотра?
• Какое ощущение у тебя осталось — беспомощности или, наоборот, силы от того, что ты попытался?

Даже если ничего не изменится, ты сделал важное дело: ты перестал быть пассивным получателем решения. Ты заявил о себе как о личности, которая имеет право на объяснение.

Если такого случая не было, сделай то же самое в воображаемой ситуации: напиши образец письма в банк или в кадровое агентство, требуя объяснений по гипотетическому отказу. Ты удивишься, как трудно сформулировать чёткий запрос — это упражнение само по себе показывает, насколько беззащитны мы перед цифровым судьёй.

 

6. Один шаг к осознанности

И последнее. Я не призываю тебя отказываться от технологий. Я сама пользуюсь навигатором, онлайн-банком, рекомендательными системами. Но я призываю тебя к одному: каждый раз, когда ты получаешь автоматическое решение, задавай себе вопрос: «А кто на самом деле стоит за этим решением? И что я могу сделать, чтобы мой голос был услышан?»

Попробуй провести один день с этим вопросом. Каждый раз, когда приложение предлагает тебе фильм, маршрут, товар или услугу — спроси себя: «Почему именно это? Что я им „рассказал“ о себе, что они это решили?». И если ответ неочевиден, почувствуй этот лёгкий дискомфорт. Это и есть начало осознанности.

 

Источники

Ниже приведены основные источники, на которые я опиралась при написании этой главы. Все они доступны для проверки.

Распознавание лиц и демографическая предвзятость

1. NIST Face Recognition Technology Evaluation (FRTE) — Demographic Effects. Национальный институт стандартов и технологий США (NIST) регулярно публикует отчёты о влиянии демографических факторов на точность алгоритмов распознавания лиц. Сводная таблица обновлена 5 марта 2025 года. NIST подтверждает, что большинство алгоритмов чаще ошибочно идентифицируют людей с тёмной кожей, женщин и пожилых людей. Доступно: nist.gov/frvt/html/frvt_demographics.html
2. Gender Shades Project — MIT Media Lab. Исследование Джой Буоламвини, выявившее систематическую предвзятость коммерческих систем распознавания лиц. В худшем случае ошибка на темнокожих женщинах превышала один случай из трёх. Доступно: media.mit.edu/projects/gender-shades/overview
3. Buolamwini, J., & Gebru, T. (2018). Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification. Conference on Fairness, Accountability and Transparency (FAccT). Оригинальная научная работа, заложившая основу для исследований предвзятости в распознавании лиц.
4. Исследование 2024–2025 годов о гендерной классификации. Современные аудиты подтверждают сохранение разрывов: ошибки для темнокожих женщин достигают 34,7% по сравнению с 0,8% для светлокожих мужчин.
5. Университет Пенсильвании, 2025. Исследование подтвердило, что в реальных условиях (размытость, плохое освещение, изменение ракурса) качество распознавания падает неравномерно по демографическим группам.

Предвзятость в найме (Amazon)

6. Amazon AI recruiting tool. Система Amazon, обученная на данных за 10 лет, дисквалифицировала резюме с упоминанием «женский». Проект был закрыт. Многочисленные публикации 2024–2025 годов продолжают цитировать этот случай как классический пример алгоритмической дискриминации.

Предвзятость в кредитном скоринге

7. Европейский Закон об искусственном интеллекте (EU AI Act). Кредитный скоринг отнесён к категории высокого риска, обязательное тестирование на предвзятость, человеческий контроль и объяснение отказов.
8. Исследования алгоритмической предвзятости в кредитовании (2024–2026). Работы, подтверждающие, что алгоритмические модели могут воспроизводить и усиливать историческую дискриминацию.

Практические рекомендации по проверке цифрового портрета

9. Google My Activity — google.com.
10. Google Ad Settings (My Ad Center) — google.com.
11. Google Maps Timeline — google.com/timeline.
12. Google Account Security — google.com/security.
13. Google Takeout — google.com.

 

Если тебе захочется поделиться своими размышлениями — я буду рада. Ты можешь написать мне в  в комментариях или просто оставить заметку на полях книги. Я читаю всё. И, кто знает, возможно, твой вопрос станет темой для следующей книги.

 

А теперь — переверни страницу. Нас ждёт Глава 2, где мы разберём, как блокчейн пытается переизобрести доверие. И, спойлер: там будет ещё более увлекательно.