Онлайн-алгоритмы – королевство наших зеркал. Кривых зеркал? ( 5 фото )

Владислав Сурков, рассуждая о возможном будущем кризисе парламентаризма на фоне развития IT-технологий, сказал, что, конечно, политический класс полностью не исчезнет, ведь у алгоритмов есть владельцы. По Марксу, кто владеет средствами производства, тот обладает и решающим влиянием. В цифровую эпоху это IT-гиганты, которые поворачиваются передом (дружественным интерфейсом) к народным массам, а задом (гостеприимно распахнутым бэкдором) — к спецслужбам. Но что есть дружественный интерфейс?

Ряд последних событий, в частности технические проблемы, возникшие в работе транснациональной соцсети Facebook, а также свершившийся расстрел на этот раз студентов в одном из пермских университетов, не то чтобы звенья одной цепи. Где Facebook, а где Пермский университет? Вообще не связанные между собой события. Однако эти события заставляют вновь и вновь обратить внимание на алгоритмы цифрового пространства. Тем более в России, помимо соцсетей, в том числе помимо работающего Facebook, есть и свои как бы российские онлайн-платформы со своими применяемыми алгоритмами. И к ним возникает не меньше вопросов, чем к соцсетям. Детей надо вытаскивать из интернета, а не погружать их туда за бюджетные деньги, заявлял в интервью ТАСС председатель Следственного комитета РФ Александр Бастрыкин после трагедии в Перми, где в национальном исследовательском университете 20 сентября 18-летний студент-первокурсник устроил стрельбу, жертвами которой стали шесть человек и около 40 пострадали. Вряд ли, конечно, уже можно вытащить детей из атмосферы, порожденной новыми технологиями, которые в принципе являются нашей новой реальностью, которая, простите за тавтологию, и есть наша жизнь. Это все равно, что вернуться к топору при использовании на всем мировом пространстве электропилы и, следовательно, отстать от цивилизации. Понятно, что Александр Бастрыкин выразился, так сказать, фигурально. Он, конечно, имел в виду необходимость более тщательно заниматься воспитанием детей, не оставляя их один на один с интернетом — пространством, где все еще не сформированы правила. По сути, пространством полнейшей анархии, где каждый делает всё, что хочет, что в итоге ведет к самоуничтожению, и далеко не все, более того, скорее, большинство — не способны отделить в нем зерна от плевел. Распознать в этом пространстве зло и добро. Тем более алгоритмы этого пространства особо-то и не озадачены этой проблемой. Как говорится, деньги решают всё, а всё остальное — ничто. Тем более правил-то единых никаких и нет, чтобы государство могло в полной мере повлиять на тот или иной контент той или иной соцсети либо онлайн-платформы или её представителя и пользователя.

Да, банки, например, занимаются кибербезопасностью и уже могут выявлять мошенников и возвращать украденные средства. Но мошеннические схемы-то становятся всё более изощренными. И становятся таковыми не на пустом же месте. Роскомнадзор может блокировать определенные ресурсы. ФАС уже который год пытается взыскать штрафы с ряда транснациональных IT-гигантов. Но работают эти самые гиганты все равно же по своим правилам, по своим алгоритмам. А как насчет, в принципе, контента, который, возможно, сумасшедший, а возможно, вполне вменяемый человек или пусть даже бот (да тот же самый алгоритм какой-нибудь онлайн-платформы), преследующий своей целью разрушение личности одного человека или в принципе народа той или иной страны, распространяет в соцсетях?! Кровавый контент, с кадрами насилия или без всей этой непотребности, но с психологическим подтекстом. И такой контент «капает» на неокрепший или расслабленный по жизни мозг. Капает ежедневно, точит его, как вода камень. А потом до нас доносятся новости, как, например, из окон выпрыгивают рядом живущие с нами люди — плохие или хорошие, а может, недопонятые, недоуслышанные нами люди. Выбрасываются сами или с детьми. Да, можно допустить мысль о том, что и раньше, возможно, такие события случались, мол, просто сейчас информационной открытости стало больше, как и скорости обращения информации. Но теперь-то мы знаем об этих проблемах, и, следовательно, возникает соответствующий вопрос: можно ли, зная о проблеме, оставаться безучастными, как решить ее? Ведь так и до вымирания всех нас рукой подать. Сегодня нет дела до одного, завтра до другого человека, а дальше — принцип домино? Бастрыкин, говоря о необходимости вытаскивать детей из интернета, заявлял, что интернет, телевидение, социальные сети стали таким источником воспитания, который культивирует насилие, равнодушие к проблемам сверстников, безнравственность. Много чего еще правильного говорил председатель Следственного комитета России, что можно прочитать самостоятельно. Но если задуматься о практической реализации, то как может государство повлиять на воспитание детей? Понятно, что можно распространением позитивного контента или вводя определенные временные ограничения на использование детьми тех или иных ресурсов. Возрастные ограничения, к слову, существуют. Можно и нужно занять детей спортом. Платно? Не у всех семей есть средства. Бесплатно? Хорошо! Но кто обяжет детей заниматься спортом вместо посиделок в гаджетах? Родители? Они целыми днями на работе. А кто-то из них сам просиживает в гаджетах — их самих уже впору спасать. В советские годы детей было не загнать с улицы домой, боялись зайти попить водички. Было не загнать потому, как не было гаджетов. Мультфильмы с детскими фильмами показывали только по выходным, за исключением ежедневных вечерних показов «Спокойной ночи, малыши». А занятия в кружках были бесплатными! Да и школа со всеми ее дополнительными занятиями постоянно присутствовала в жизни детей.


Цветы и игрушки у здания ПГНИУ, где студент устроил стрельбу

Permkrai.ru

Сейчас другая реальность. Такая, какая есть. Продиктованная временем, в котором появились технологии. Гаджеты — часть нашей жизни, как и соцсети, и в принципе — интернет. Отменить и исключить всё это? Опять же вряд ли. Не для того их создавали, чтобы оставить их на обочине. Но вместе с тем нужно избежать рисков вытеснения технологиями нас самих на обочину. Тем более что алгоритмы технологиям задают не технологии, а люди. А потому, с одной стороны, задача простая — создать правила, по которым задаются алгоритмы, и регулировать их. Но, с другой стороны… Можно, допустим, создать спецподразделение в силовых или иных структурах, или вовсе отдельный институт по выявлению непотребного контента с передачей данных о нем органам, уполномоченным применять санкции в отношении людей, размещающих, распространяющих этот контент, как и данные (при их наличии) прямых участников действа, которое легло в основу контента. Собственно, такие случаи, как, например, условно — демонстрация насилия, как и совершение насилия над ребенком, получают огласку и привлекают внимание соответствующих ведомств. Но ведь эта работа несистемная. А в случаях распространения негативного контента из-за рубежа российские ведомства к тому же, как известно, не могут в полной мере принять меры. Потребуется ли создание международной организации? К слову, на Первом канале в программе «Док-Ток» на тему «Цифровая ломка», развернувшейся вокруг временного сбоя в работе Facebook и ее «дочек», затронувшего 3,5 миллиарда человек, один из собеседников Александра Гордона обмолвился о такой возможности, как появление международной организации. Что-то вроде Всемирной организации здравоохранения (ВОЗ) в медицине.

Ток-шоу ставило перед его участниками множество вопросов. В том числе может ли повториться сбой в работе такой огромной соцсети, которая объединила в себе другие месенджеры, тем самым ставя под угрозу и их работоспособность. Но главным всё-таки был поиск ответов на вопрос: как так вышло, что мы стали зависимыми от работы соцсетей, и как избавиться от этой зависимости. Сам телеведущий пришел к выводу, что аккаунты необходимо привязывать к паспортным данным, мол, тогда конкретный человек будет нести ответственность за свои собственные слова и контент. Заметим, затея — небесспорная. Мало того, что соцсети и так получили огромный массив информации о своих пользователях, с введением же обязанности предоставления паспортных данных в их распоряжении появятся еще и персональные данные россиян. При том, что банки имеют или могут иметь еще и биометрические данные клиентов. Останется только сопоставить эти данные. А, как известно, есть вероятность того, что технологические гиганты могут, так или иначе, заниматься финансовой деятельностью. Между тем сегодня специалисты способны и без паспортных данных найти людей, совершающих противоправные действия в онлайн-пространстве. Понятно, что анонимность в соцсетях развязывает руки пользователям. Но не слишком ли большая роскошь, помимо номеров телефонов, предоставлять паспортные данные соцсетям? Да еще тогда, когда они работают по своим собственным правилам?! Тогда, когда в принципе есть проблема двойных стандартов: что такое хорошо, а что плохо, что есть насилие, а что не считать таковым, что есть цензура, а что не есть таковая, что есть вмешательство в жизнь или в выборы глав государств?


Социальные сети

Ну, вот еще на днях, например, Владислав Сурков, рассуждая в том числе о возможном будущем кризисе парламентаризма на фоне развития IT-технологий, сказал, что, «конечно, политический класс полностью не исчезнет, ведь у алгоритмов есть владельцы».

«По К. Марксу, кто владеет средствами производства, тот обладает и решающим влиянием. В цифровую эпоху это IT-гиганты, которые поворачиваются передом (дружественным интерфейсом) к народным массам, а задом (гостеприимно распахнутым бэкдором) — к спецслужбам. Цифровики и силовики, таким образом, останутся в игре», — пишет Сурков в своей статье, размещенной на портале «Актуальные комментарии».

Но возникает вопрос: а что, есть дружественный интерфейс, который называется «передом», повернувшимся к народным массам? Есть ли признаки, которые определяют дружественность интерфейса. Как известно, стоит пользователю интернета в поисковике задать тот или иной запрос, и этого пользователя просто заваливают рекламными предложениями даже по прошествии большого периода времени. И не только рекламными. Пользователю могут навязываться статьи, в которых могут содержаться ключевые слова когда-то сделанного поиска. Более того, можно не прибегать к поисковикам, а просто вести разговоры, а включив компьютер, обнаружить предлагаемый контент, содержащий опять же слова, выдернутые из разговора. Из открытых источников следует: «Дружественность программного обеспечения — многоплановое понятие, включающее в себя по крайней мере два компонента. Первый — «дружественность» к пользователю и второй — «дружественность» к программисту, работающему с программой в течение всего ее жизненного цикла. Оба эти компонента в конечном итоге влияют на качество программного обеспечения. «Дружественность» к пользователю определяется интерфейсом пользователя. Этот интерфейс — внешнее проявление программы. Немаловажное значение имеет эффективное использование интерфейса, которое опреде­ляется как практическими навыками и документацией пользователя, так и внешним представлением информации, выводимой на дисплей. Термин «дружественность» в настоящее время встречается во многих книгах и статьях, однако практически никто не дал этому понятию удовлетво­рительного определения. Причина — в его многогранности».


Пользователь

В июне 2021 года издание «Газета.ру» сообщало о том, что британские эксперты призвали раскрыть секреты рекомендательных алгоритмов Сети. Так, профессор Королевского колледжа Лондона Фредерик Мостерт говорил, что рекомендательные системы нарочно ограничивают информационное поле пользователя, погружая его в информационный пузырь, максимально схожий с его убеждениями. Но и тут снова возникает вопрос: а точно «схожий с убеждениями» пользователей? Или убеждения навязываются? Подчеркнем, необязательно навязываются, имея целью некий заговор. Навязываются, например, просто потому, что машина — на самом деле глупа просто потому, что нацелена на извлечение дохода, и таким образом всё, что, например, так сказать, подслушала и подсмотрела, начинает выдавать за убеждения, при этом действительно всё больше погружая человека в какие-то определенные темы, не расширяя его кругозора. Допустим, увидела машина запрос на тему оружия или игры в войнушку, и всё, начинает подсовывать ему материалы на эту тему, раскручивая тем самым маховик. И вот в этой связи было бы интересным узнать, проводились ли исследования или анализ потребляемого теми же «стрелками» контента при расследовании случившихся трагедий. Стрелок в Перми, как писали СМИ, частенько сидел за играми. Игры — это вообще отдельная тема. Причем игорная электронная индустрия сейчас только набирает обороты. И, к слову, Александр Бастрыкин говорил в вышеупомянутом интервью ТАСС о том, что «подростки ориентируются на героев компьютерных игр, которые решают проблемы «просто» — ликвидируя оппонента». А сейчас, по его словам, к этому добавилась масса различного негативного контента в сети интернет». Так вот, говоря об исследованиях потребляемого контента, хотелось бы понять, какой контент запрашивали или искали сами виновники трагедий, а какой контент «зашел» в их информационное пространство случайно? Ну, скажем так, попался под руку, показался интересным и был прочитан, просмотрен, прослушан? Иными словами, контент, не запрошенный пользователем самостоятельно, а по сути навязанный! Может быть, этот анализ позволит понять, насколько задаваемые теми или иными онлайн-платформами алгоритмы влияют на мировоззрение людей, замыкают их в себе.

В предисловии одного из так называемых исследований о влиянии рекомендательных онлайн-алгоритмов на психику человека, опубликованном изданием «Лента.ру», говорится следующее: «Он всегда следит за вами. Он слушает ваши разговоры и читает ваши переписки. Он видел все фотографии в вашем телефоне. Он знает ваши страхи и ваши тайные желания. Он заставит вас купить любую вещь и поверить в самую дикую ложь. Он предложит вам выбрать любого партнера, но лишит вас желания встретиться с ним. Он даст вам шанс найти любовь, но затянет вас в мир извращенного порно. Он должен был сделать вас и миллиарды других людей умнее и счастливее, но заставил страдать от депрессии, тревоги и собственной глупости. Он — это алгоритм любой популярной социальной сети. Как же получилось, что он управляет нашей жизнью?» В исследовании также приводятся и такие тезисы: «Как именно алгоритмы решают, что попадет в нашу ленту соцсетей, до конца не знает никто. Но что они знают о нас? Очень много. Они точно определяют, как мы себя чувствуем, чего мы боимся и чего хотим. Они знают даже то, о чем мы сами и не подозреваем».


Поисковая система

Отметим, область подобных исследований не должна ограничиваться лишь соцсетями. Очевидно, что необходимо изучать алгоритмы всех крупных онлайн-платформ, например, того же «Яндекса». Очень спорно и утверждение о том, что алгоритмы знают о нас то, о чем мы сами не подозреваем. Вызывает сомнение и то, что алгоритмы — это своего рода наше зеркало. А если и зеркало, то, очевидно, кривое! А интернет-пространство — «королевство» кривых зеркал: если алгоритм что-то там подслушал, подсмотрел — это вовсе не означает, что пользователь всецело погружен в ту тему, скорее алгоритмы могут навязать ее. И, вероятно, только человек, способный зайти в это пространство, исключительно исходя из своих надобностей, а достигнув цели — сразу же покинуть его, способен устоять перед собственной трансформацией, навязываемой алгоритмами. Собственно, как говорят специалисты, зависание в гаджетах, интернете и т.п. — это тоже своего рода зависимость, с которой предстоит еще разбираться психологам, если изменить алгоритмы невозможно. Китай в случае с играми пошел, как мы помним, более коротким путем — введением для школьников запрета играть в них в будние дни, то есть определив максимально возможное количество времени, которое школьники могут проводить за сетевыми играми. Это только маленький пример лишь одной части проблемы. В России работают над цифровым кодексом. Другие страны, не вдаваясь в подробности (т.к. информацию об этом можно найти самостоятельно, в том числе и мы писали об этом раньше), скажем так, тоже реализуют какие-то меры. Но, очевидно, что из России справиться с компанией, зарегистрированной в другой юрисдикции, сложно. Видимо, нужны какие-то общие принципы международного взаимодействия или же просто локальные жесткие и непримиримые меры, вроде запрета работы в России. Если, конечно, IT-компании не готовы следовать требованиям стран, в которых они работают.

Галина Смирнова

Материал взят: Тут