Джессика Ричли — подросток из Миннесоты, у нее широкая улыбка и волнистые волосы. Джессика любит читать и рэпера Post Malone. В фейсбуке и твиттере она пишет о том, что ей скучно, или обменивается шутками с друзьями. Время от времени, как и многие подростки, публикует дакфейс-селфи.
Однако в твиттере живет разновидность Джессики, которую не узнал бы никто из ее друзей и родных. У двух Джессик одинаковые имя, фото и вычурное био — «я проблемная», однако другая Джессика рекламировала аккаунты, предлагающие инвестировать в канадскую недвижимость, криптовалюту и радиостанцию в Гане. Фальшивая Джессика фолловила и ретвитила учетные записи на арабском и индонезийском языках, которыми реальная Джессика не владела. Пока девушка жила обычной жизнью старшеклассницы, ее двойник продвигал в твиттере жесткое порно.
Аккаунты типа фальшивой Джессики принадлежат клиентам мутной американской компании под названием Devumi, которая заработала миллионы долларов мошенничеством на мировом теневом рынке социальных сетей.
Devumi продает подписчиков и ретвиты знаменитостям, коммерческим структурам и любому, кто хочет казаться более популярным или иметь влияние в интернете. С помощью базы из как минимум 3,5 миллиона автоматизированных учетных записей, каждая из которых была много раз продана, компания предоставила своим клиентам более 200 миллионов подписчиков. Таковы результаты расследования New York Times.
Судя по аккаунтам, большинство из которых похожи на аккаунты реальных людей — типа мисс Ричли, речь идет о крупномасштабной краже личных данных. В как минимум 55 тысячах учетных записей используются имена, фото профиля, родной город и прочая личная информация настоящих пользователей твиттера, в том числе несовершеннолетних.
Эти «пользователи» — фальшивые монеты в растущей экономике сетевого влияния, и они проникают практически в любую отрасль, где массовая аудитория — или иллюзия ее наличия — может быть монетизирована.
Социальные сети сегодня кишат фейковыми аккаунтами, заведенными правительственными органами, преступниками и предпринимателями. По некоторым подсчетам, аж 48 миллионов активных пользователей твиттера, то есть почти 15 %, — это автоматизированные аккаунты, созданные с целью имитации реальных людей, — хотя компания утверждает, что цифра эта гораздо ниже.
В ноябре Facebook сообщил инвесторам, что на площадке сейчас как минимум в два раза больше фальшивых пользователей, чем считалось ранее. Это значит, что по крупнейшей в мире соцсети шарится до 60 миллионов автоматизированных пользователей. Эти фейковые аккаунты, так же известные как боты, могут влиять на рекламную аудиторию и изменять ход политических дебатов. Они могут обманывать коммерческие компании и рушить репутации. При этом их создание и продажа юридически находятся в серой зоне.
Хотя Twitter и другие площадки запрещают покупку фолловеров, Devumi и десятки других сайтов открыто их продают. Операторы социальных сетей, чья рыночная стоимость тесно связана с числом пользователей, устанавливают свои правила обнаружения и ликвидации фейковых аккаунтов.
Основатель Devumi Герман Калас отрицает, что его компания продает фальшивых подписчиков, и говорит, что ничего не знает об информации, украденной у реальных пользователей.
Журналисты New York Times изучили судебную и бизнес-историю Devumi и обнаружили, что у компании более 200 тысяч клиентов, среди которых звезды реалити-ТВ, профессиональные спортсмены, комики, спикеры TED, депутаты, модели и проповедники.
Большинство из них приобретали подписчиков лично. В прочих случаях покупка осуществлялась их сотрудниками, агентами, пиарщиками, членами семьи или друзьями. За копейки Devumi предлагает подписчиков в твиттере, просмотры на ютубе, проигрыши на SoundCloud и одобрение (endorsement) в LinkedIn. Фейковые фолловеры Devumi также служат призрачными пехотинцами в сетевых политических баталиях. Среди клиентов компании — как страстные поклонники, так и ярые противники президента Трампа, а также либеральные аналитики и журналист из бастиона альт-правых.
Пресс-секретарь компании Twitter Кристин Биннс заявила, что обычно соцсеть не замораживает аккаунты пользователей, которых подозревает в покупке ботов, отчасти потому, что это сложно — узнать, кто ответственен за то или иное приобретение. В отличие от других соцсетей, Twitter не требует, чтобы учетная запись была связана с реальным человеком. Он также дает больше возможностей автоматического доступа к своей площадке, чем другие компании, что облегчает создание и контролирование большого числа аккаунтов.
«Социальные сети — это виртуальный мир, населенный наполовину ботами, наполовину реальными людьми, — комментирует Рами Эссейд, основатель фирмы по кибербезопасности Distil Networks, которая специализируется на ликвидации сетей ботов. — Любой твит можно взять по номиналу. Не все является тем, чем кажется».
Экономика влияния
В прошлом году в соцсетях типа фейсбука, твиттера и вотсап залогинились 3 миллиарда человек.
Коллективная мировая страсть к общению создала новый маркер статуса — число людей, которые на тебя подписаны, тебя лайкают или добавили тебя в друзья. Для некоторых представителей индустрии развлечений и предпринимателей этот виртуальный статус служит реальной валютой.
Число подписчиков в соцсетях может определять, кто их примет на работу, сколько им будут платить и даже то, как потенциальные клиенты оценят их бизнес или продукцию.
Большое количество подписчиков играет ключевую роль и для «популярных блогеров» — расцветающего рынка дилетантских законодателей вкуса и звезд ютуба, где рекламодатели сегодня на спонсорские сделки тратят миллиарды долларов ежегодно. Чем больше подписчиков у блогера, тем больше он зарабатывает. По данным посредничающей между блогерами и брендами компании Captiv8, блогер со 100 тысячами подписчиков в среднем за рекламный твит может получить порядка двух тысяч долларов, а блогер с миллионом фолловеров — 20 тысяч.
На сайтах типа Social Envy and DIYLikes.com с помощью одного лишь номера кредитной карты можно купить гигантское число подписчиков практически на любой площадке. Большинство таких сайтов предлагают то, что они называют «активными» или «органическими» подписчиками, никогда прямо не говоря, стоят ли за этими аккаунтами реальные люди. Купленные подписчики могут быть влиятельным инструментом.
«Вы видите большую цифру подписчиков или ретвитов и думаете, что перед вами важный человек или что конкретный твит популярен, — поясняет Рэнд Фишкин, основатель Moz, компании, которая производит ПО для поисковой оптимизации. — В результате вы более охотно распространяете эту запись, делитесь ею или подписываетесь на этот аккаунт».
«Социальные сети рекомендуют контент пользователям — и задаются вопросом, популярно ли то, что мы рекомендуем? — комментирует Джулиан Темплсмэн, со-основатель фирмы Smyte, которая помогает компаниям бороться с оскорблениями в интернете, ботами и мошенничеством. — Число подписчиков — один из показателей, который учитывается социальными сетями при определении, какой контент рекомендовать».
Покупка ботов
Большинство самых известных клиентов Devumi продают товары, услуги или себя в социальных сетях. В интервью их объяснения разнятся. Они купили подписчиков, потому что им было любопытно, как это работает, или потому что ощущали необходимость иметь большое число фолловеров для себя или для своих клиентов. «Ой, все это делают», — отмахивается актриса Дирдри Лавджой, клиентка Devumi, известная по роли Ронды Перлман в сериале «Прослушка».
Некоторые признают, что думали, будто компания поставляет реальных потенциальных поклонников или клиентов. Другие не отрицают — они знали или подозревали, что получают в качестве подписчиков фейковые аккаунты. Мисс Лэйн Фокс, член парламента и совета директоров Twitter, винит в покупках своих фолловеров, которые продолжались год, «сотрудника-беспредельщика».
Более сотни «лидеров мнений», чья рыночная стоимость еще больше связана с числом подписчиков в соцсетях, приобрели у Devumi фолловеров в твиттере.
У Кэти Айрленд — некогда модели, а сегодня председателя империи по лицензированию стоимостью более половины миллиарда долларов, — больше миллиона подписчиков в твиттере, который она часто использует для рекламы компаний, с которыми у нее есть соглашения. Висконсинская компания American Family Insurance, к примеру, заявляла, что бывшая модель была одним из ее самых влиятельных бренд-амбассадоров — знаменитостей, которым платят за продвижение продукта.
В январе прошлого года у мисс Айрленд было лишь около 160 тысяч подписчиков. А в следующем месяце, судя по записям Devumi, сотрудник принадлежащего Кэти брендингового агентства потратил порядка двух тысяч долларов еще на 300 тысяч подписчиков.
Блогеры не обязаны быть мегаизвестными для того, чтобы лопатой грести деньги за продвижение какого-то товара.
Арабелла и Джаадин Дахо зарабатывают совместно 100 тысяч долларов в год, работая с такими брендами, как Amazon, Disney, Louis Vuitton и Nintendo. Арабелла, ей 14, пишет в твиттер под именем Amazing Arabella. По данным компании Devumi, аккаунт Арабеллы в твиттере — и аккаунт ее брата — набирают популярность благодаря тысячам ретвитов, купленных их матерью и менеджером Шадией Дахо.
Другие покупатели утверждают, что столкнулись с давлением со стороны работодателей, которые требовали роста числа подписчиков в социальных сетях. Когда международное модельное агентство Wilhelmina наняло юного журналиста Маркуса Холмлунда заниматься их СММ, он сначала был в восторге.
Но когда стало понятно, что число подписчиков агентства в твиттере растет недостаточно быстро, начальник велел Маркусу купить фолловеров — или идти искать другую работу.
В 2015 году Холмлунд начал ежемесячно приобретать подписчиков у Devumi на собственные деньги.
Несколько клиентов Devumi признали, что покупали ботов, потому что их карьера частично зависит от степени влияния в социальных сетях. «Если у тебя нет заметного веса в соцсетях, никто не станет принимать тебя всерьез», — говорит экономист Джейсон Шенкер. Он приобрел как минимум 260 тысяч подписчиков.
Вполне закономерно, что компания также продала миллионы фолловеров и ретвитов представителям голливудской индустрии развлечений низшего и среднего класса — например, актеру Райану Херсту, звезде сериала «Сыны анархии». В 2016 и 2017 годах он в совокупности приобрел 750 тысяч подписчиков, это примерно три четверти от общего количества его фолловеров. Стоило менее четырех тысяч долларов.
Кража и продажа
Созданный в 2014 году фальшивый аккаунт Ричли фигурирует в заказах на покупку у сотен клиентов Devumi. Фейковая Джессика также ретвитила как минимум пятерых пользователей, связанных с преуспевающим американским порнорежиссером и актером Дэном Леалем, который живет в Венгрии и пишет в твиттер под именем @PornoDan. Господин Леаль, который в течение нескольких лет приобрел у Devumi как минимум 150 тысяч подписчиков, — один из как минимум десятков клиентов компании, которые работают в индустрии фильмов для взрослых или эскорта.
В электронном письме господин Леаль сообщил нам, что покупка подписчиков для его бизнеса приносит более чем достаточный доход для того, чтобы оплачивать расходы. Санкции со стороны Twitter его не беспокоят.
«Фолловеров покупают многие общественные деятели, компании, группы и т. д. Если бы Twitter захотел очистить площадку от всех, кто так делает, там никого не осталось бы», — написал он.
Анализ авторов расследования продемонстрировал, что компания продала как минимум десятки тысяч схожих высококачественных ботов. В некоторых случаях один-единственный реальный пользователь твиттера превращался в сотни разных ботов, каждый из которых лишь незначительно отличался от оригинала.
Эти фейковые аккаунты заимствовали личность пользователей твиттера всех американских штатов и десятков стран, от взрослых до несовершеннолетних, от очень активных пользователей до тех, кто годами не заходил в свою учетную запись.
Студент колледжа Сэм Додд зарегистрировался в твиттере будучи старшеклассником. Еще до выпуска детали его учетной записи были скопированы на аккаунт бота. Фальшивый аккаунт не подавал признаков жизни до прошлого года — а потом внезапно стал ретвитить записи клиентов Devumi. Летом этого года фальшивый господин Додд рекламировал несколько порнографических аккаунтов, включая Immoral Productions господина Леаля, а также игорный сайт.
«Я не знаю, почему они увели мою информацию, — я 20-летний студент, я не звезда», — говорит Додд. Однако персональные данные Додда, даже если он неизвестен, имеют ценность в «экономике влияния».
По декабрьским расценкам, Devumi продавала высококачественных подписчиков по цене менее чем два цента каждый. Если продать примерно двум тысячам клиентов — примерное количество тех, на кого подписаны многие бот-аккаунты Devumi, его социальная идентичность принесет компании 30 долларов.
Некоторые из первоклассных ботов Devumi, в действительности, подменяют фальшивой неиспользуемую учетную запись в твиттере, принадлежащей человеку, который перестал пользоваться сервисом. Живущая во Флориде помощница руководителя компании Уитни Вольф зарегистрировалась в твиттере в 2008 году. В 2014 году она перестала пользоваться площадкой, и в социальной сети появился фальшивый аккаунт с ее личными данными. В течение последних нескольких месяцев он делился записями порноактрис, популярных блогеров и проститутки, которая переквалифицировалась в мемуаристку.
«Этот контент, фотографии женщин в стрингах или с голой грудью, — совсем не то, под чем я хотела бы видеть перечисление своих взглядов и интересов, свое имя, свое место жительства», — говорит мисс Вольф, активная прихожанка местной баптистской церкви в штате Колорадо.
Другие жертвы на момент, когда проданные Devumi боты начали выдавать себя за них, были все еще активны в твиттере. Салли Ингл, 40-летний инженер из Колорадо, опасается, что потенциальный работодатель наткнется на ее фальшивую версию в рамках изучения ее аккаунтов в соцсетях.
Журналист посетил адрес на Манхеттене, указанный на сайте компании Devumi. В здании обитают десятки арендаторов, но Devumi и ее головной компании Bytion среди них, судя по всему, нет. Представитель владельца здания сказал, что ни Devumi, ни Bytion там помещений никогда не снимали. Офис компании оказался такой же иллюзией, как и продаваемые ею подписчики.
Человек-загадка
Согласно записям компании, десятки сотрудников клиентской службы Devumi базируются на Филиппинах. В реальной жизни компания сидит в маленьком офисе над мексиканским рестораном в городке Уэст-Палм-Бич в штате Флорида. Окна помещения выходят на заполненную мусорными баками и припаркованными машинами улочку. Господин Калас проживает неподалеку, в пентхаусе.
В профиле на сайте LinkedIn Калас описывается как «серийный предприниматель» с богатым опытом ведения бизнеса в технологической отрасли и научной степенью Массачусетского технологического института. Но этот образ — тоже сочетание фактов и выдумки.
Калас, которому сейчас 27 лет, вырос во Флориде, где подростком обучился веб-дизайну и делал сайты для местных компаний. Так гласят ранние версии его личной страницы, которую можно найти в «архиве» интернета. В какой-то момент Калас освоил техники СЕО — поисковой оптимизации. В течение нескольких лет, по его заявлению, он создал десятки интернет-предприятий, которые обслуживали десять миллионов клиентов.
Амбиции Каласа росли — а вместе с ними и склонность к приукрашиванию деталей своей биографии.
В копии его резюме говорится, что в 2000 году он получил степень специалиста по физике в Принстонском университете, — тогда ему должно было быть 10 лет, — и степень доктора наук в области вычислительных систем в Массачусетском технологическом институте.
В обоих учебных заведениях утверждают, что у них нет данных о том, что Калас там учился. На текущей странице бизнесмена в LinkedIn заявлено, что он обладает магистерской степенью Массачусетского технологического института в области «международного бизнеса» (такой специальности среди курсов института вообще нет).
Сеть поставок
По Сети раскидана масса мутных сайтов, где анонимные создатели ботов связываются с операторами типа Devumi. Индивидуальные клиенты могут совершать покупки на некоторых из таких сайтов — Peakerr, CheapPanel и YTbot, однако они не очень ориентированы на пользователя. Где-то не принимают кредитные карты — только криптовалюту.
Все сайты продают подписчиков, лайки и шеры в ряде соцсетей на разных языках. Аккаунты постоянно переходят из рук в руки. К одной и той же учетной записи можно получить доступ от более чем одного продавца.
Devumi приобретала ботов от различных производителей в зависимости от цены, качества и надежности. На сайте Peakerr качественный англоговорящий бот с фотографиями стоит 1 доллар. Devumi берет 17 долларов.
Разница в цене позволила Каласу сколотить состояние. В течение всего нескольких лет компания продала порядка 200 миллионов подписчиков в твиттере как минимум 39 тысячам клиентов — это треть от более чем 6 миллионов долларов продаж за отчетный период.
В прошлом месяце господин Калас попросил журналистов предоставить примеры ботов, которые копируют данные реальных пользователей. Получив ссылки на более чем десяток учетных записей, Калас, который до этого согласился на интервью, попросил дать ему больше времени на анализ информации. Затем предприниматель перестал отвечать на письма.
Пресс-секретарь Twitter мисс Биннс сообщила, что компания не занимается активным мониторингом учетных записей с целью определить, не заимствуют ли они данные других пользователей. Вместо этого усилия направляются на идентификацию и заморозку аккаунтов, нарушающих политику в отношении спама.
Компания заморозила учетную запись Devumi после публикации статьи. Однако она не применила очевидных простых мер по безопасности, которые могли бы помешать производителям ботов, — типа требования к каждому желающему зарегистрировать новый аккаунт пройти антиспам-тест (это реализовано на множестве коммерческих сайтов). В результате твиттер кишит неиспользуемыми учетными записями — включая, вероятно временно, неактивные аккаунты, контролируемые создателями ботов.
Бывшие сотрудники Twitter говорят, что долгие годы отдел безопасности компании делал упор на нарушениях со стороны реальных пользователей — в том числе на расистском и сексистском контенте, а также организованных кампаниях травли.
***
В январе, после двух лет рекламирования сотен клиентов Devumi, фейковый аккаунт Джессики Ричли был наконец замечен алгоритмами системы безопасности твиттера и заморожен.
А вот настоящая мисс Ричли, вероятно, вскоре забросит твиттер навсегда. «Видимо, я просто удалю аккаунт», — говорит она.