Поколение вторичности. Как алгоритмы убивают в нас индивидуальность

Робот-наблюдатель

Камера Echo Look от Amazon позволяет делать селфи без использования рук и оценивать выбор одежды. «Теперь благодаря Алексе вы можете выглядеть наилучшим образом», — обещается в описании продукта. Делаете при помощи Echo Look фото в двух разных нарядах, а затем выбираете лучшие снимки в приложении Echo на телефоне. В течение минуты Алекса сообщит, какой лук выглядит лучше, — при помощи анализирующих стиль алгоритмов и некоторого содействия со стороны человека.

С помощью функции Style Check™ я узнаю, что одеться во все черное — лучше, чем все серое. Закатанные рукава — лучше, чем застегнутые на запястье. Самые лучшие джинсы — голубые. Поднятый воротник — на самом деле здорово. Каждый наряд наделяется процентной долей: к примеру, черная одежда получает 73 %, а серая — 27 %. Однако комментарии к оценкам даются необъяснимые. «Тут вы лучше сочетаете предметы одежды. И размер более подходящий», — говорит мне приложение. Что именно лучше сочетается? Нужно мне в следующий раз выбирать оверсайз или, наоборот, Алексе нравится облегающий низ? Непонятно.

Echo Look не расскажет, почему он принимает такие решения. При этом устройство претендует на то, что продемонстрирует вам ваш идеальный стиль, — так же, как алгоритмы рекомендаций Netflix и ленты Facebook обещают идеальную версию культурного потребления, скроенную в соответствии с вашими предпочтениями.

Это обещание свойственно самой технологии. Алгоритмы — это наборы уравнений, которые работают при помощи машинного обучения. Они подстраивают поставку контента конкретным людям на основе того, что, как им кажется, человеку интересно, и со временем меняются на основе наших активностей и интересов.

Столкнувшись с мутными заявлениями Echo Look по поводу моего чувства моды, я осознаю, что все эти опыты с алгоритмами — сфера вкуса: того, что нам нравится и почему нам это нравится. И сегодня человеческий вкус все чаще диктуется роботами.

Теории вкуса

В вышедшей в 2017 году книге «Вкус» итальянский философ Джорджо Агамбен изучает происхождение термина.

Изначально вкус определялся как форма знания через удовольствие, от восприятия вкуса и аромата пищи до оценки качества предмета.

Вкус — человеческая способность, причем настолько человеческая, что она практически бессознательна: мы знаем, нравится нам что-то или нет, до того, как понимаем, почему. «Вкус наслаждается красотой, будучи неспособным объяснить ее», — пишет Агамбен. Он цитирует Монтескье: «Впечатление основано преимущественно на изумлении». Алгоритмы призваны обеспечивать изумление, демонстрируя нам, что мы не осознавали, чего всегда хотели, однако при этом мы никогда особо не удивлены, потому что ожидаем этого.

Философы XVIII века определяли вкус как нравственную ипостась, способность распознавать истину и красоту. «Прирожденный вкус — это не теоретическое знание; это мгновенное и тонкое применение правил, которых мы даже не знаем», — писал Монтескье в 1759 году. Это незнание — важная деталь. Мы не рассчитываем и не проводим измерений, когда нам что-то по вкусу; мы просто это чувствуем. Частичный перенос оценки вкуса на алгоритмы лишает нас какой-то части этой человечности.

Всякий культурный объект, который мы эстетизируем и потребляем, — «самый обыденный выбор в обыденной жизни, например, в готовке или одежде», как пишет Пьер Бурдьё в своей книге 1984 года «Отличие: общественная критика оценки вкуса», — представляет собой значительную часть нашей личности и отражает нашу сущность.

«Вкус классифицирует, и он классифицирует классифицирующего», — добавляет Бурдьё. Если вкус диктуется напичканными данными алгоритмами, которые контролируются крупными технологическими корпорациями, значит мы должны удовольствоваться причислением себя к рабским последователям роботов.

Однако мода и без того деспотична

Можно говорить, что «вкус» — это абстрактное, морализованное знание, а «стиль» — это его визуальное выражение. Мода являет вкус в форме стиля, частично по причине того, что ее отличия между цветами или кроем настолько конкретны и при этом так случайны («правила, которых мы даже не знаем»). В прошлом культуру моды диктовало причудливое взаимосогласие в рядах представителей элиты; королевский двор или эшелон издателей журналов навязывали обществу определенный вкус сверху вниз.

Ролан Барт обратил внимание на эту деспотичность в эссе 1960 года «В этом году в моде голубой». Он анализирует кусок текста из модного журнала, чтобы выяснить, откуда берет корни тезис о том, что тот или иной цвет сейчас особенно отражает хороший вкус. И заключает, что тезис берется ниоткуда: «Речи не идет о наличии смысла: эта связь ни обязательна, ни достаточным образом мотивирована».

Голубой в моде не потому, что он особенно практичен или связан с какими-то экономическими или политическими реалиями; у заявления нет семантической логики.

Барт утверждает, что стиль — это неизъяснимое уравнение (несовершенный алгоритм). Еще одно указание на искусственную и иерархическую природу стиля в прошлом можно найти в сцене из фильма «Дьявол носит Prada», где Мэрил Стрип говорит Энн Хэтэуэй, что ее синий свитер, по сути, ей был просто навязан.

«Этот синий олицетворяет миллионы долларов и бесконечное число рабочих мест. Смешно, что вы думаете, будто сделали выбор, который отделяет вас от индустрии моды, но при этом носите свитер, который для вас выбрали из груды вещей люди в этом самом кабинете».

Иными словами, голубой в этом году в моде, потому что какие-то люди так решили. Вы, не законодатель вкуса, права голоса по вопросу не имеете.

Мода на основе данных

Возможно, вместо этого искусственного языка моды алгоритмы (типа того, который стоит за Алексой) могли бы обеспечивать более систематическое, логическое построение модной эстетики на основе данных? Голубой в этом году в моде, потому 83,7 % пользователей приобрели (или лайкнули) голубые рубашки, заявляет алгоритм Amazon Echo Look; поэтому компании станут производить больше голубых рубашек, а вы, потребитель, будете их покупать и носить. Никаких редакторов с человеческим лицом не требуется.

«Крушение господства»

Когда представления о вкусе меняются, мы испытываем определенный страх: я в теме или нет? Шарю в новом или застрял в прошлом? В 1980 году журнал The New Yorker опубликовал эссе Джорджа Троу «В контексте отсутствия контекста», где он описывает эти ощущения. Троу использует выражение «крушение господства» для обозначения ситуации, в которой старый уклад культурного авторитета, или режим вкуса, угасает и заменяется новым. У этих режимов есть два элемента: субъекты вкуса и то, как вкус передается.

Сегодня мы наблюдаем крушение господствующего режима, возникновение которого наблюдал Троу: массового телевидения, которое ранее сменило собой моралистические романы WASP-ов (белых англо-саксонских протестантов) Новой Англии середины века. Теперь у нас ценности вкуса развиваются в контексте лайков в инстаграме, хештегов в твиттере и распространяемой Google рекламы.

Вместо максималистской, одержимой знаменитостями, навязываемой извне токсичной культуры телевидения 70-х — Никсон, «Звездные войны», кокаин, ядерные бомбы — теперь мы имеем спокойную, коллективную, полезную для здоровья эстетику тостов с авокадо, занятий йогой и суккулентов в керамических горшках.

Алгоритм предлагает ему доверять, но мы не совсем этого хотим. Мы жаждем более «самобытной», долгосрочной формы смысла.

Выбор человека против выбора машины

Я переживаю, что мы отходим от эпохи человеческого выбора к эпохе, где большую частью того, что мы потребляем, будут определять алгоритмы (лента фейсбука). Это влияет не только на то, что мы испытываем и воспринимаем, но и на то, как мы это делаем. Представьте, что друг рекомендует вам марку одежды или песню с одной стороны, с другой — ее рекомендует баннер таргетированной рекламы, который преследует вас по всему интернету. Вероятно, друг лучше понимает, чего вы хотите и что вам надо, и вы скорее поверите его рекомендации, даже если она будет казаться неоднозначной.

Это может быть бесформенная шмотка или громыхающая композиция в стиле панк. Если вы знаете источник предложения, вы можете дать совету шанс и узнать, придется ли он вам по вкусу. И напротив, мы знаем, что машине до нас нет дела, а также у нее нет своего хорошего вкуса; она просто хочет подсунуть нам что-то, что, по ее расчетам, нам может прийтись по нраву.

«Кажется, в глубине души мы зачарованы модой потому, что знаем: у истоков каждого тренда находится живой человек, — рассуждает дизайнер Бен Пьеррат, создатель шопинговой соцсети Svpply. — Так мы узнаем людей. Если убрать этот человеческий слой, не уйдет ли вместе с ним и весь интерес к вещам?»

Догмат алгоритмической культуры

Каждая платформа, оснащенная алгоритмом, который приоритезирует какой-то контент над другим контентом на основе спрогнозированной вовлеченности, разрабатывает дженерик-стиль, оптимизированный для структуры конкретной площадки. Этот усредненный набор правил меняется с течением времени по результатам обновлений площадки и алгоритмов.

Сталкиваясь с подобным усредненным стилем в жизни, мы испытываем опасения: мы вступили в царство не совсем людское, не совсем настоящее.

Принял я независимое решение или машины знают меня лучше, чем я себя сам? (Эта тревога может быть просто версией состязания между свободой воли и судьбой.)

Kонтент-луддизм

Что же нам делать по поводу перехода от человеческого вкуса к цифровому? Можно сознательно противиться алгоритму, как некоторые идут наперекор текущим тенденциям в моде — скажем, носят клеши вместо подвернутых джинсов. Можно читать только книги, которые вы нашли в магазине подержанных книг, смотреть только передачи на местных телеканалах, покупать только винил, письма писать от руки, отказаться от соцсетей в пользу печатных газет, носить только винтажную одежду.

Можно воздерживаться от алгоритмической культуры так, как луддиты противостояли автоматизации текстильных фабрик в XIX веке, ломая машины. Будет так органично. Классно! Загадочно! Аутентично!

Однако как только что-то «классное, загадочное и аутентичное» попадает в интернет, оно тут же принимается в расчет в уравнении или даже разлетается по всей сети — и вскоре оно уже повсюду, как с 2017 года цвет millennial pink. В этом смысле культура алгоритма не способствует разнообразию или сосуществованию множества ценных точек зрения и идентичностей. Если стилистический выкрутас оказался эффективным, он как можно быстрее интегрируется в дженерик-стиль; если нет — ему перекрывают доступ к аудитории. Так что лучше сохранить аналоговую версию своего открытия. Оставьте люфт между своей головой и интернетом.

Пиратство

Я рос в начале 2000-х годов во время зарождения социальных сетей, и тогда еще не было «умных» лент или адаптивных алгоритмов сортировки контента. Основным способом узнать что-то новое были форумы, где пользователи советовали, какую купить обувь или какие группы слушать, а также пиратство, которое предоставляло мне относительно нефильтрованный список культурной продукции, которую можно было потреблять в Kazaa или на торрентах, и список этот не сопровождался рекомендациями «также вам может быть интересно».

Эти сервисы представляли собой цифровой эквивалент магазинов б/у виниловых пластинок: берешь, что найдешь, это может понравиться или не понравиться, затем пробуешь еще и постоянно совершенствуешь образ того, что тебе по душе, и (следовательно) того, кто ты есть.

Поскольку это был подростковый возраст — период становления, изрядную часть своей идентичности как потребителя культуры я вынес из пиратства. Однако результаты не были ни исключительными, ни оригинальными. Я качал множество нелегальных записей концертов Dave Matthews Band и рыскал по торговому центру в поисках одежды марки American Apparel — после того, как увидел ее в интернете. Но мне хотя бы казалось, что эти вещи — мой выбор. Или как минимум подборка, сведенная в нечто, что я мог назвать своим личным вкусом.

Теперь YouTube говорит мне, какие ролики смотреть, Netflix поставляет телепередачи, Amazon советует одежду, а Spotify подсказывает музыку. Беда в том, что я не отождествляю себя с таким выбором в той же мере, как с теми вещами, которые я некогда воровал в Сети или сам отыскивал. Глядя на свои плейлисты в Spotify, я задаюсь вопросом, сколько человек имеют такие же плейлисты и какие музыканты заплатили за свое размещение. Я ощущаю ностальгию по временам, когда непонятные файлы формата .rar медленно закачивались в светящейся зеленой полосе загрузки.

Это что-то значило, все это имело смысл.

Не то чтобы мне не нравятся шоу Netflix или плейлисты Spotify. Подобно сигаретам или «Макдоналдсу», они были созданы для того, чтобы мне нравиться, и потому они мне, разумеется, нравятся. Просто мне не всегда нравится, что мне они нравятся.

Стильность отсутствия стиля

LOT2046 — небольшая независимая алгоритмическая модная платформа, на которую я подписался в прошлом году и не пожалел. Принцип прост: ваши вкусы в одежде можно свести к серии символов, которые сервис автоматизирует и подстраивает под вас. Поставки целиком черной одежды и аксессуаров приходят ежемесячно; единственная кастомизация — несколько стилистических деталей: короткие носки или длинные, вырез под горло или V-образный. Плюс предметы одежды поставляются помеченными вашим именем — недавно я получил черную спортивную сумку с вышитой надписью KYLE CHAYKA.

«Всякая технология должна знать, что вам надо и чего вы хотите, лучше, чем вы сами, — говорит основатель LOT, российский дизайнер Вадик Мармеладов. — Платформы будут сообщать вам, чего вы хотите, до того, как вы это захотите». Он считает, что машины должны не просто предлагать вещи, а принимать за нас решения: начиная от планирования поездки на выходные и заканчивая заказом утреннего кофе. Иными словами, они должны полностью вытеснить наш вкус.

Уступить LOT — своего рода свобода, которая дает возможность перестать думать о моде и освободить разум для более возвышенных вещей, типа размышлений о смерти, полагает Мармеладов. Площадка LOT обещает, что, резко ограничив количество переменных, алгоритм может суметь вам достичь индивидуальности, не только посредством одежды, но и благодаря вынужденному экзистенциализму.

Я не постоянно ношу вещи от LOT, но я вижу, как их идеология пронизывает мое общее восприятие потребления в эпоху алгоритмов. Если наши потребительские решения больше не имеют отношения к нам самим, почему бы просто не перестать их принимать?

Обет самопознания

Повторяйте за мной: «Я люблю то, что люблю, независимо от его потенциала к получению лайков».

Повторяйте за мной: «Я также не отрицаю, что неизбежно и непрестанно вовлечен в параметризированную реальность своей эпохи».

Со вкусом покончено! Если вы этого хотите

Я оставляю камеру Amazon Echo Look на полке в гостиной, откуда она пялится на меня всякий раз, когда я прохожу мимо, не переставая оценивать мой наряд. Она рвется давать необъяснимые оценки в процентах, а мне все же больше по нраву оценивать себя самому.

Устройство пытается подогнать меня к какому-то универсальному среднему образу, а не выстроить мой личный стиль, каков бы он ни был. Оно меня совсем не знает — оно не может знать, в какой одежде мне удобно, как моя одежда будет смотреться в качестве символа за пределами дома, дома, в контексте класса или гендера.

Все-таки полностью черный образ в Канзас-Сити и он же в Нью-Йорке — это две большие разницы. Этим алгоритмам (по крайней мере на настоящий момент) не хватает своего рода социального, эстетического интеллекта — собственно чувства вкуса.

Amazon утверждает, что камера создана для поиска лучшего для вас стиля, однако скрытые за этим мотивы заметить не так-то трудно. Когда я спросил машину про свою клетчатую рубашку, в ленте приложения тут же выскочила реклама других клетчатых рубашек похожих оттенков, которые можно приобрести на сайте, — не особенно стильных или чем-то отличающихся от той, что ношу я (кроме названия бренда).

Собственно, Amazon уже использует собранные данные для производства своих линеек одежды, и результаты именно такие, каких можно ожидать от робота: бледное подобие того, что бы ни пользовалось сейчас популярностью. Обучение на данных миллионов пользователей и фотографиях из Look, которые показывают, что мы реально носим, может сделать продукцию отечественных брендов чуть менее безвкусной. И все же вообразите себе возможный слив информации — не данных по кредитной карте, а обширного cклада ваших прикидов.

Нам решать, важны нам или нет отличительные нюансы между выбором человека и выбором машины и волнует ли нас мода в принципе. Возможно, вкус — это последнее, что отделяет нас от эпохи технологической сингулярности; возможно, вкус — это первое, от чего следует избавиться. «Я не думаю, что потребитель особенно парится, если его все устраивает», — говорит представитель руководства Stitch Fix о своей созданной при помощи алгоритмов одежде.

Однако если мы не хотим передать или перепоручить свои желания и творчество машинам, можно начать быть немного более аналоговыми.

Я представляю себе будущее, где одежда, музыка, кино, искусство и книги будут поставляться с этикеткой, как органические фермерские продукты питания — «БЕЗ АЛГОРИТМОВ».

Эхо, эхо, эхо

Хорошее название для амазоновского девайса — Echo, так как он создает алгоритмическую цепь обратной связи, в рамках которой не появляется ничего оригинального.

— Алекса, как я выгляжу?

— Выглядишь вторично, Кайл.