Депривация близости и «мозгоправы» для ИИ: станет ли людям легче жить от прогресса технологий? Интервью-дебаты психолога и программиста

Технологии развиваются и делают нашу жизнь комфортнее, но каково место человека в этом мире, станет ли он счастливее и умнее? Об этом мы поговорили с участниками проекта «Ученый говорит» Российского общества «Знание»: Михаилом Тиличеевым, главным экспертом Республики Татарстан по машинному обучению и большим данным, и Григорием Спижевым, психологом, президентом региональной общественной организации «Самарское психолого-педагогическое общество».

— Ваше личное мнение: в ближайшие 50 лет развитие технологий принесет человечеству больше возможностей или больше проблем?

Михаил: Любая новая технология приносит как возможности, так и проблемы. Благодаря развитию банковской системы всем стало намного удобнее переводить деньги и оплачивать услуги — для этого нужен лишь телефон. Но в то же время появилось больше мошенников, которые, понимая устройство системы и поведение людей, воруют миллиарды рублей ежегодно.

Однако, на мой взгляд, глобально технологии принесут нам только пользу. Я живу в Иннополисе. У нас по улицам ездят роботы-курьеры, которые доставляют еду четко в нужное время и место, и беспилотные такси. Когда я перехожу дорогу, я уверен, что машина меня не собьет. Вскоре я буду уверен еще в одном: если рядом с беспилотным автомобилем кто-то совершит правонарушение, он получит штраф, потому что беспилотник будет всё это фиксировать и сразу отправлять в ГИБДД. Такая система уже разрабатывается. И это то, что появится во всем мире, то есть жизнь станет более упорядоченной и безопасной.

Михаил

Также будут развиваться голосовые помощники.

Полагаю, уже через 10 лет мы сможем управлять всем, что нас окружает, с помощью голоса. И это не только удобно, но и добавляет инклюзивности: люди, которым по состоянию здоровья трудно набирать текст, забудут об этой проблеме и станут более независимыми.

И еще я надеюсь, что в будущем человечество сможет перейти на более чистую энергию: солнечную, атомную, энергию приливов и отливов. Так как это в первую очередь технологический процесс, это вполне реализуемо.

Григорий: Я к будущему отношусь пессимистически, потому что я психолог, работаю с людьми и вижу, как они меняются вместе с внедрением технологий в нашу жизнь.

Давайте посмотрим, например, на такой интересный факт. За 2021 год из-за пандемии спрос на психологов, психиатров и психотерапевтов увеличился в восемь раз. А пандемия — это ускоренное внедрение в нашу жизнь IT: многие перешли на удаленку, начали пользоваться различными сервисами. Наша психика к этому оказалась не готова и никогда не будет готова. Она формировалась миллионы лет под конкретные задачи, и большинство этих задач было завязано на других людей, потому что всё это время мы находились в группе себе подобных. И люди нам нужны до сих пор. Мы должны видеть человека, должны его чувствовать и слышать.

Когда мы общаемся с кем-то онлайн, мы делаем это благодаря нашей интеллектуальной функции, благодаря тому, что мы это осознаем, но для психики всё выглядит так: я сижу и разговариваю с монитором.

Григорий

Мы можем сколько угодно говорить, что IT — это хорошо, что технологии делают нашу жизнь удобнее, но они удобны лишь тогда, когда мы об этом сознательно рассуждаем, приводим доводы в защиту такой позиции. Для психики это удобство иллюзорно. Сможет ли психика адаптироваться? Не за десятилетия и даже не за столетия. Так что в обозримом будущем нам всем будет непросто.

Михаил: Мне очень нравится одно высказывание про ложь: есть три вида лжи — ложь, наглая ложь и статистика. И по поводу статистики есть интересный факт, который как раз связан с развитием технологий.

Примерно в конце 2010-х годов резко выросло число хронических заболеваний среди детей. Но за два-три года до этого выросло число детей, которых удалось спасти в момент рождения, то есть у нас стали развиваться перинатальные центры  и даже дети, которые рождались раньше срока, стали выживать. Смертность стала ниже, но появилась другая проблема — хронические заболевания.

В пандемию произошел резкий скачок технологического прогресса — многие ушли в онлайн. До этого никто не проводил так много времени в сети, поэтому и появились эти «хронические заболевания». Но, возможно, мы бы всё равно пришли к дистанционной жизни, просто чуть плавнее. Думаю, со временем мы адаптируемся.

— Григорий, если всё больше людей уходят в онлайн, по своей воле или нет, появится ли у них зависимость от гаджетов? Если да, как это отразится на их ментальном здоровье?

Григорий: Зависимость от гаджетов есть у любого человека уже сейчас. Люди проверяют свои телефоны каждую минуту. И если этот телефон отнять хотя бы на день, то у них появится синдром отмены — как у людей с любой зависимостью. Человек, который находится с гаджетом три-шесть часов в сутки, имеет симптомы дефицита внимания и гиперактивности. Эта тенденция будет сохраняться и расти.

Михаил: Это происходит, я согласен. Но мы всё же можем на это повлиять. У меня двое детей, и у них как раз дефицит внимания. На их гаджеты я установил ограничение по времени. Каждый день они могут потратить только полчаса на развлекательный контент. И пока мой сын не отыграет все эти 30 минут, он телефон не уберет. Как-то я поставил неограниченное время — и он сидел с телефоном весь день. Когда я попросил телефон отложить, он очень обиделся. Но мы работаем с ним над этим. У старшей дочери такой зависимости нет, в основном она использует телефон по назначению — для связи. Так что, на мой взгляд, мы просто должны научить наших детей пользоваться гаджетами правильно и с умом.

— А ведь еще будут разработаны специальные гаджеты, который помогут отслеживать как физическое здоровье, так и ментальное, верно? Если да, как они будут функционировать?

Михаил: Физическое здоровье мы можем отслеживать уже сейчас с помощью умных часов. А вскоре появятся гаджеты, которые помогут считывать человеческие эмоции, отслеживать уровень стресса и радости, выявлять, какие факторы на это влияют, внешние или внутренние. Вполне возможно, эти данные каждый человек сможет анализировать самостоятельно или передавать в медицинские центры, например своему лечащему врачу.

— А что сейчас можно сказать про уровень интеллекта людей будущего? С одной стороны, вы оба указываете на зависимость от развлекательного контента, с другой, технологии усложняются, и кто-то должен их обслуживать и совершенствовать. К тому же уже сейчас многие говорят о lifelong learning как о необходимости. Не приведет ли всё это, наоборот, к интеллектуальному скачку человечества?

Григорий: Никакого толчка к развитию это не даст, потому что это никому не выгодно. Большие корпорации, которые скупают все стартапы и соцсети, заинтересованы в том, чтобы мы находились в цифровой среде как можно дольше. Они поняли правила игры и используют это.

Соцсети запускают не для того, чтобы вы развивались и решали свои проблемы, а для того, чтобы вы стали зависимы от них и чтобы на вас таким образом можно было зарабатывать. Мы все являемся новой современной валютой.

Над этой задачей работает огромное количество маркетологов и психологов. И вы как человек проиграете эту войну. Вы будете тянуться к своим гаджетам, будете пользоваться новыми сервисами, потому что они удобны. Человек, который находится в соцсетях, не говорит, что ему плохо, ему там обычно хорошо. Просто он тратит несколько часов своей жизни, расплачивается этой новой валютой.

И это неизбежно скажется на когнитивных функциях. Хорошо, если через 50 лет хотя бы кто-то сохранит критическое мышление и в принципе сможет мыслить. Ни о каком глобальном развитии нам уже говорить не приходится.

— Если мир таков и все играют в эту игру, у всех есть аккаунты, то, может, не стоит от этого бежать? А то будешь один против всех.

Григорий: Обычный человек, который не зарабатывает на интернете, а лишь потребляет контент, только вредит себе. Вместо отдыха за смартфоном он получает напряжение, вместо общения — иллюзию общения, вместо образования — информацию, которая сомнительно усваивается.

Насколько я знаю, владельцы соцсетей не пользуются своими сервисами и не разрешают это делать своим детям и близким. Они производят технологии, но для остальных, для масс, чтобы на них зарабатывать.

Так что в будущем общество еще сильнее разделится на тех, кто потребляет контент и за него платит, и тех, кто создает контент и на нем зарабатывает.

— А что вы думаете про уровень интеллекта у человека будущего?

Михаил: Если технологии будут упрощать жизнь человека, у него появится больше свободного времени. И вопрос в том, как он им воспользуется. У нас есть два варианта развития событий. Один из них — человек начнет самосовершенствоваться. Другой путь — деградация.

Всё зависит от того, какое общество мы сформируем согласно развитию технологий. Но сказать со стопроцентной уверенностью, что все будут деградировать, нельзя.

— Чтобы система давала грамотные ответы или подбирала контент, который человека больше заинтересует, ей нужно больше информации. В таком случае что станет с приватностью в мире будущего?

Михаил: Я думаю, что ее станет еще меньше. Всё машинное обучение строится на получении информации: чем больше информации у машины, тем более правильный вывод она сможет сделать.

Но для начала нейросети будут учиться на внутренних данных. Например, сейчас разрабатывается система, основная задача которой — помочь административному работнику принимать решения.

Машина будет получать информацию о событии, просматривать аналогичные события, устанавливать связи между ними, а после предлагать решение. Человеку останется лишь согласиться или не согласиться.

Затем это коснется населения. Уже давно разрабатывается проект цифрового паспорта. Его планировали внедрять в 2023 году, но сейчас запуск отложили. В этом паспорте будет храниться вся информация о человеке, необходимая государственным структурам.

Но на самом деле эта информация им доступна уже сейчас. Например, на Госуслугах. Система знает мои паспортные данные, СНИЛС, больницу, к которой я прикреплен, и т. д. У ГИБДД есть информация о моем транспортном средстве, страховках, о том, где я живу.

Слушателем батлов «Ученый говорит» Российского общества «Знание» может стать любой желающий. Для этого нужно определиться с темой, которая наиболее интересна, и зарегистрироваться на мероприятия проекта на сайте просветительской организации.

Просто вскоре всё это будет собрано в одном месте. Так что о приватности, связанной с персональными данными, буквально через пять лет говорить не придется, вся эта информация будет доступна [нейросетям, которые контролируются государством]. Появится вопрос, насколько хорошо эти данные будут охраняться.

А если говорить о личной информации, то большинство людей сами сливают свою личную жизнь в соцсети. Многие фотографируют себя рядом с машиной, забывая, что ее номер лучше спрятать, или рядом с домом.

— Люди действительно активно рассказывают о своей жизни в соцсетях. И некоторые ощущают, что не живут, если не выкладывают фотографии или видео. Почему возникает такая потребность и как всё это трансформируется в будущем?

Григорий: Как мы можем наблюдать, человеку приватность не особо нужна и не особо интересна. Люди готовы практически всю свою жизнь транслировать в соцсети под определенным углом. Почему возникает такая потребность? Потребности у человека на самом деле не меняются, меняется лишь их реализация.

Раньше, чтобы получить какое-то признание, вам нужно было выиграть конкурс или чемпионат, чтобы о вас напечатали в газете. Сейчас вы можете опубликовать пост с вашим мнением, собрать лайки и получить подтверждение собственной значимости.

Раньше люди встречались и показывали друг другу фотографии в альбоме, вживую рассказывали, что у них произошло в жизни, — сегодня они показывают те же фотографии у себя в профиле, и, когда они встречаются в офлайне, им вроде бы и поговорить не о чем. Все про всё знают, а какого-то глубокого общения не происходит, потому что для того, чтобы спуститься на эту глубину, нужно потратить большое количество времени и уметь выстраивать эмоционально близкие отношения, а это не то же самое, что вести поверхностные светские беседы.

— В то же время иногда это удобно: твои даже дальние знакомые в курсе твоей жизни, ты как будто находишься с ними на связи.

Григорий: Это именно «как будто». Мы как будто пообщались. Но для нас важны глубокие эмоции, а их мы можем получить только в офлайне. При этом я замечаю, что люди не ощущают потерю приватности как потерю. По крайней мере, более молодые. Они выкладывают свои фотографии на фоне квартиры или машины, потому что каждый понимает, что при желании любой человек сможет все эти данные без труда найти.

— То есть новое поколение смотрит на всё это проще?

Григорий: В психическом плане люди из разных поколений друг от друга не отличаются, а в поведенческом можно наблюдать определенную динамику.

— А как быть с тем, что у владельца соцсети есть власть по жалобе кого-то или просто по ошибке заблокировать человека? У него там была вся жизнь, много рабочих контактов и милых моментов, а потом раз — его буквально выкидывают за дверь. Или некоторые соцсети при регистрации просят вводить паспортные данные. И если ты их не введешь, тебя по умолчанию будут считать несовершеннолетним и показывать тебе не весь контент.

Михаил: Если соцсеть вас заблокировала, то вы ничего с этим не поделаете. Это решение администрации соцсети, и оспорить его нельзя. Всё это прописано в пользовательском соглашении. Если вы его прочитаете, то узнаете, что аккаунт вам не принадлежит. У вас есть авторское право на материал, который вы публикуете, но вашим аккаунтом владеет соцсеть. Другими словами, данные, которые вы публикуете, а иногда и не публикуете, принадлежат не только вам.

К примеру, в пользовательском соглашении Apple в 2014 году было прямо так и написано, что они имеют право передавать ваши данные третьим лицам. Если вы не хотели с этим соглашаться, то могли вернуть устройство обратно в магазин.

А то, что касается паспортных данных, сейчас это единственный способ подтвердить, что вы — тот человек, за которого себя выдаете. Иногда еще просят сфотографироваться с паспортом. К сожалению, другой идентификации пока не существует. И с этим придется смириться как с данностью.

Григорий: Да, мы все живем в иллюзиях. С развитием технологий мы думаем, что это всё наше: взяли в аренду машину — это наша машина, взяли в аренду квартиру — это наша квартира. Но это не так, даже, как вы правильно заметили, аккаунт не принадлежит нам, мы лишь временно арендуем пространство у соцсети, не более того.

Мы создаем картинку, что всё это наше, что мы это контролируем. Но это не так. И нам остается лишь играть по тем правилам, которые устанавливают владельцы. В будущем это не изменится.

— Что специалисты или ученые говорят про развитие коммуникаций в мире будущего, что с ними произойдет?

Григорий: Современный человек утратил навыки формирования долгосрочных и эмоционально близких отношений. У современного человека падает уровень социального и эмоционального интеллекта, потому что нет практики. Выступать перед экраном монитора — не то же самое, что выступать перед живой аудиторией, проводить консультацию перед экраном — не то же самое, что проводить консультацию в кабинете.

Если наша психика может променять живое общение на виртуальное, то давайте попробуем строить отношения и семьи дистанционно. Это не получится. Общение в мессенджерах не является для нашей психики общением.

Второй момент — когда человек говорит, что ему не хочется общаться с кем-то в офлайне, что он интроверт, что у него нет потребности в других людях. Здесь стоит сказать следующее: свою потребность человек часто может не осознавать, но это не значит, что ее нет. Фрустрация потребности приводит к тому, что человеку в какой-то момент просто становится плохо: появляются раздражительность, тревожность, дискомфорт.

И он не понимает, откуда это, потому что вроде бы все потребности закрыты: деньги есть, жилье есть, друзья пишут, а всё равно плохо. Часто это возникает потому, что фрустрированы потребности в общении и выстраивании близких отношений.

Даже если человек флиртует с кем-то в мессенджерах, проблема не решится. Наша психика всегда понимает: вы сами себя трогаете или вас кто-то трогает.

Тяжело от этого всем: и тем, кто застал живое общение, и тем, кто большую часть жизни провел в сети. Но первые могут отследить, чего им не хватает, например близости или общения. А более молодые люди, у которых нет этих навыков, часто испытывают панические атаки, у них появляются такие мысли, как «я ничего не хочу», «мне ничего не интересно», «я ничего не стою», «хочу, чтобы от меня все отстали».

— Согласно одной точке зрения, живое общение станет роскошью, привилегией, большинство людей превратятся в хикки, только, к сожалению, не по своей воле. Что вы оба об этом думаете?

Григорий: Думаю, реальное общение действительно станет роскошью, потому что любое занятие, например даже образование, дешевле в онлайне. Оно выгоднее и для вуза, и для студента: ему не нужно никуда ехать, не нужно снимать квартиру в большом городе, тратить много денег. Люди начнут массово переходить на онлайн-образование, но элитные учебные заведения во всем мире продолжат работать в классическом формате.

Михаил: Я соглашусь с Григорием. И можно обратить внимание на рост популярности частных школ. Но в то же время нельзя не заметить, что онлайн-образование позволяет приобщиться хотя бы к каким-то знаниям большему количеству людей, тем, кто не может себе позволить очное обучение.

— Перейдем к вопросам из трудовой сферы. Какую работу смогут взять на себя роботы?

Михаил: Когда технологии только начали появляться, все думали, что роботы в первую очередь возьмут на себя физическую работу. Но, как выяснилось, для этих целей гораздо дешевле нанять человека. И это мы наблюдаем сейчас. Квартиры убирают всё еще люди, в шахтах работают всё еще люди. Но через 50 лет, думаю, это изменится, потому что уже сейчас появляются манипуляторы, которые могут переносить или передвигать тяжелые предметы, появляются те же беспилотные автомобили, а вождение — это скорее физический труд.

Интеллектуальный труд заменяется проще. Один крупный российский банк заменил большой штат бухгалтеров парой программ. Потому что это во многом механическая работа: отследить прибыль, вычислить проценты, перевести с одного счета на другой. И чем больше такого рутинного труда мы будем выявлять, тем успешнее сможем заменять его исполнителей. Но это должно быть, конечно, в первую очередь выгодно. Где будет дешевле робот, там будет робот, где будет дешевле человек, там будет человек.

— Закономерный вопрос: чем будут заниматься люди?

Михаил: Определенно появятся новые профессии. Скорее всего, при развитии ИИ будут востребованы специальные «психологи», которые станут анализировать и корректировать поведение искусственного интеллекта; бум в робототехнике приведет к появлению нового поколения инженеров, обслуживающего персонала и юристов. Не стоит забывать и про умные дома, которые проектируются уже сейчас, — это направление тоже будет развиваться. Люди без работы не останутся, просто работа станет немножко другой.

Григорий: У нас станет меньше кассиров, операторов колл-центров, таксистов, тех же бухгалтеров, и это приведет к колоссальной безработице. И лишь небольшое количество людей станет заниматься интеллектуальной деятельностью, еще меньше — интересной деятельностью. Но самое неприятное, что нам придется конкурировать как с людьми, так и с машинами. А человек любую конкуренцию воспринимает достаточно болезненно.

Но в то же время многие люди с этим согласятся. Согласятся с тем, что не нужно получать высшее образование, профессию, развиваться в этой профессии. В мире будущего никого не испугать историей про дворника или курьера. Это будет обычная работа.

— Поговорим про творчество. Нейросети уже мало-мальски умеют писать музыку, картины, создавать юмористические тексты. Что вы об этом думаете?

Михаил: Я рассматриваю такие нейросети как персональных помощников, потому что любая нейросеть учится на том, что сделал человек, так она запрограммирована. Например, художнику или дизайнеру она будет выдавать информацию о сочетании цветов, скажет, что такое сочетание было бы более выигрышным — его лучше воспринимают люди, или может сказать, что в 90% случаев люди принимают такое решение, а в 10% — такое. А дальше думай сам.

И это может привести к развитию того же искусства, мы будем создавать художественные произведения на новых скоростях. А бояться того, что машина заменит человека как творца, я бы не стал. На мой взгляд, этого не произойдет. Машина лишь предлагает свои варианты, финальное слово и финальная редактура всегда остаются за человеком.

— А кому будет принадлежать авторское право?

Михаил: В идеале — человеку. Но мы пока не знаем, как себя поведут компании, которые разрабатывают такие нейросети. Опять же — пользовательское соглашение. Кто-то может написать, что половина авторских прав принадлежит компании, которая разработала этот ИИ. Тогда появится другая проблема: крупные корпорации будут обладать не только нашими данными, но и правами на нашу интеллектуальную собственность. Но об этом пока еще никто даже не думает.

Григорий: Человечество теряет свой творческий потенциал, потому что для творчества нужна сложность человека, для творчества нужен высокий уровень интеллекта.

Погруженность человека в соцсети убивает интеллект и эту самую сложность. Возьмите детей, которые смотрят условный тикток, и детей, которые читают «Войну и мир», — вы увидите колоссальную разницу. Они по-разному воспринимают информацию, по-разному ее анализируют, они задаются разными вопросами.

Что произведет человек, который вырос на соцсетях и современном искусстве, я думаю, понятно. Это будет простой контент, а творчество — процесс сложный. И мы как зрители ценим именно сложность. Если мы зайдем в Третьяковскую галерею, мы увидим сложные и многоуровневые работы, это не просто картинки, это целая история. Новый человек не сможет справиться с такой задачей.

Заменят ли его нейросети? Конечно, заменят. Уже сейчас некоторые программы могут заменить дизайнеров. Казалось бы, творческая профессия, но факт остается фактом.

— То есть если мы возьмемся за голову, то сможем противостоять этому страшному миру?

Григорий: Если наше волевое решение будет подтверждаться нашими действиями, выходом из онлайна и переходом в сложную офлайновую среду, где мы будем соприкасаться со сложными задачами, со сложными людьми, где мы не будем использовать когнитивные костыли, а любая программа — это когнитивный костыль, то, вероятно, шанс есть.

Но посмотрите. Сейчас вы не умножаете 11 на 11, вы достаете калькулятор. Вы не идете по городу по памяти, а используете навигатор. Раньше, чтобы вас довезли до аэропорта, нужно было договориться с человеком, вашим, к примеру, соседом, и выстроить с ним отношения. Сейчас вы просто нажали на кнопку и уехали.

Если несколько лет назад любой дизайнер мог посмотреть на цвета и сказать, сочетаются они или нет, то сейчас это и не нужно: все могут зайти на сайт и увидеть, какую палитру лучше выбрать. Если мы начнем активно пользоваться такими костылями, то, естественно, мы будем тупеть и терять свой творческий потенциал.

— Михаил, на ваш взгляд, надо ли людям покидать уютный онлайн, чтобы сделать что-то прекрасное и сложное?

Михаил: Я соглашусь, что надо покидать онлайн, нужно как минимум смотреть на мир и видеть, что происходит вокруг. Хоть я и считаю, что технологии принесут нам пользу, я не говорю, что мы должны забыть про свою реальную жизнь.

А про цвета я говорил немного о другом. Программа сможет дать новую информацию о них, может быть, подтянуть статьи, где об этом написано. Автор же по-прежнему должен представлять, как ему лучше написать картину. Иначе ничего не произойдет.

Пример из жизни. Я до 7-го класса не понимал математику от слова «совсем». И как-то два дня не мог решить задачку. Утром третьего дня меня осенило, я ее решил, и сейчас математика — мой основной профиль. Без собственных нейронных связей, боюсь, мы и с технологиями далеко не уедем, поэтому нам нужно осознавать, с чем машины нам должны помогать, а с чем — нет. Вы говорили про калькулятор. Ученый может понять, как решить сложную математическую задачу, но на решение у него уйдет много лет, тогда он загружает данные — они обрабатываются, и становится ясно: правильно он мыслил или нет. Если нет — экономит время и думает дальше.

— А что станет с самим человеком, захочет ли кто-то познавать его как личность, а не как вещь в мире вещей?

Григорий: Чтобы познавать что-то сложное, будь то художественный объект или человек, мы сами должны быть сложно устроенными. А тенденция у нас на упрощение. Соответственно, общение будет становиться поверхностным, люди будут считать друг друга скучными, потому что не смогут обнаружить в собеседнике чего-то особенного.

Михаил: Я думаю, желание познавать человека сильно упадет лишь в том случае, если мы поймем, как он устроен, как работает его мозг. Мы будем понимать, почему наш собеседник так себя ведет, и будем знать, как на его поведение повлиять. Так что всё зависит от того, насколько далеко уйдут технологии в изучении человека.

— Как нам войти в это непростое будущее, чтобы не потерять себя?

Григорий: Нам нужно максимально не пользоваться никакими технологиями, максимально выходить в офлайн, убирать всевозможные когнитивные костыли, то, что, как нам кажется, упрощает нашу жизнь, чтобы мы сталкивались с определенными сложностями, со сложными контентом, со сложными людьми. Пусть технологии остаются лишь в нашем рабочем пространстве и в тех аспектах, где это не заменяет наш интеллект, где это не заменяет наше мышление и наше общение.


Проект Российского общества «Знание» «Ученый говорит» — это короткие выступления молодых ученых России в формате интерактивных лекций, научных батлов, экскурсий, выступлений с VR-сопровождением. Ключевая миссия организации — сделать достоверный и познавательный контент доступным для жителей даже самых удаленных и труднодоступных уголков нашей страны.

Больше информации о деятельности Российского общества «Знание» — на сайте и в социальных сетях проекта: «ВКонтакте», Telegram.

Специальный проект общества «Знание» и Журнала «Нож»