
Примечание. Это довольно большой текст, который я написал искренне. И был бы благодарен, если бы его прочитали внимательно. Или же не читали вовсе.
Отчего-то считается, что апелляция к детям, является абсолютно исчерпывающим аргументом в обоснование всего. Даже спорить не буду, что дети - это святое. Все для них. Но когда задается вопрос о морали и ответом служит: «Я делаю это, чтобы этим пользовались мои дети»... Это, скажем так , не исчерпывающий ответ на вопрос. Итак о чем я?
Сегодня происходило интересное мероприятие, которое провёл Яндекс в конференц-зале «Экстрополис». Яндекс презентовал технологии безопасности для сервиса Я.Такси. Это хорошо, что в ответ на общественный запрос и в связи с ростом аварийности такси, вследствие ошибочных или безответственных действий водителя, Яндекс так всерьёз этим озаботился. Были приглашены депутаты Госдумы Старовойтов, Васильев, начальник ГУ ОБДД МВД России Черников, а также другие представители транспортной отрасли. В том числе и ЦОДД Москвы. Ну т.е. достаточно высокий уровень приглашённых гостей.
На презентации было рассказано о том, как Яндекс будет контролировать водителей. Специальная камера, отслеживающая мимику лица, чтобы заметить усталость или неадекватное состояние, телемедицина, контроль с помощью приложения Я.Такси скорости движения, манеры вождения, вычисления опасной езды и пр. и пр. Темы скажем так, не особенно новые в концептуальном плане, об этом давно говорили и кое-где частично такие технологии уже внедрены. Но вот Яндекс довёл весь комплекс технологий до уровня комплексного внедрения в свой сервис. Как это все работает, скоро познакомятся в первую очередь водители такси, а потом и клиенты. Неплохое на самом деле событие, однако, не все так однозначно.
Я задал один вопрос про верификацию технологий Яндекс, а второй про проблему морали.
1. Верификация. Яндекс давно достиг уровня компании, которая подразумевает высокую ответственность перед обществом. Сравнимую, а в ряде областей даже более высокую степень отвественности, чем ряд институтов государственного управления. А планирует ли Яндекс предоставить для проверки свои технологии? Выложить исходный код или функциональные тесты, например, а также средства проверки на клиентских устройствах, что приложение скомпилировано именно из этого кода? Что нет закладок, нет ошибок и прочего? Ведь цена ошибок или злоупотреблений становится очень высока, да и просто это вопрос уверенности общества, что алгоритмы делают то для чего предназначены, а не нечто иное... Сегодня они не пускают водителя с уставшими глазами, а завтра, например с узкими глазами...
Отвечал Тигран Худавердян. Если коротко, то он сказал - да. Если не коротко, то сказал, что пока ситуация сравнима с ситуацией сборки самолета в полёте (!) и пока рано, но потом конечно Яндекс намеревается это сделать, вплоть до исходного кода.
2. Мораль. Мне беспокоит, что информационные технологии и шире, средства регулирования жизни общества - в России упрямо мигрируют лишь к средствам тотального контроля и наказания, а не создания условий развития и ВЗАИМНОГО контроля людей, так чтобы люди контролировали людей, а не алгоритмы.... Проблема с переработками водителей возникает ведь не оттого, что водителю нравится крутить руль и нажимать на педали и он занимается этим до полного беспамятства. Нет, он лишь стремится заработать денег, которых при нормальном рабочем дне часто заработать не удаётся. Я.Такси может отключать водителей через 8 часов, но пока есть лазейка в другие агрегаторы. Ок, это дело техники, сделают Единый центр авторизации и все - переработать за рулем такси не удастся. Но - это не значит, что за руль не будут садиться уставшие люди.
Потому что если зарплата в такси мала, то кто мешает перед сменой в такси разгрузить вагон песка? Поработать на стройке, дворником и т.д. Проблему переработки водителей только лишь контролем времени за рулем не решить... Ну будут они перерабатывать не за рулем. Итог один будет.
Весь потенциал технологий начинает работать на сдерживание человеческого общества, а не на развитие. Ну скажите, кто может контролировать состояние водителя лучше, чем сам водитель? Почему он работает на грани нервного истощения или чувствуя себя откровенно плохо? Потому что ему нужны деньги, чтобы кормить своих детей, например... Была бы возможность без потери зарплаты отдохнуть, то он бы отдыхал. А так будет искать способы обманывать систему, и уверяю - в итоге найдёт! Либо станет бороться с этой системой, если ему не оставят иного выбора...
Это реально тоталитарное общество получается причём с невиданной степенью концентрации власти в одних руках и крайне малой степенью контроля. Раньше тоталитаризм обеспечивался надсмотрщиками во плоти, а теперь электронные надсмотрщики. Но суть-то та же! А опыт показывает, что тоталитарные общества на долгом периоде всегда уступали и проигрывали цивилизационную гонку свободным. Поэтому избыток такого рода контроля в ущерб развитию нравственных законов и создания условий для самореализации людей - в конечном итоге опасен и для конкретного человека, и для общества в целом.
Я спросил вот что. Иммануил Кант когда-то сказал: «Две вещи наполняют мою душу благоговением — это звездное небо над головой и нравственный закон внутри нас». А Григорий Бакунов из Яндекса сообщил в марте этого года: «Человечество с приходом алгоритмов откажется от морали». Вопрос: Яндекс совершенно отрицает любые другие меры улучшения мира, кроме технического контроля? Как Яндекс относится к морали?
Отвечал снова Тигран Худавердян. Сначала сказал, что не очень понял вопрос. Потом сказал, что Яндекс делает все правильно, потому что этими сервисами сотрудники Яндекса пользуются сами. Затем сказал, что он доверяет пользоваться сервисами Яндекс своим детям. Далее Тигран сказал вот что. Я делаю это для своих детей. И это есть наилучшее обоснование того, что все делается правильно.
В общем, Тигран конечно узковато понял мой вопрос... Слишком узко. Я ведь спросил это не из нелюбви к Яндексу (и это конечно не так, я уважаю эту компанию). Это крупнейшая IT-компания добилась огромных успехов. Это компания мирового значения и оказывающая огромное влияние на жизнь нашей страны. Поэтому и вопрос серьёзный. Потому что степень тотального контроля становится очень высок, а учитывая полчища восторженных неофитов во власти и обществе, пошёл резкий уклон в тоталитарный контроль. Первыми на себе ощутили водители. Притормозили на 10 сек. - получите штраф. Штрафы иннновационные из XXI века, а система обжалования аналоговая, корнями из ХIХ. Это вот и есть дивный мир будущего?
Так вот что хочу сказать Тиграну. При всём уважении к нему и его компании (без всякого сарказма). Йозеф Гёббельс когда строил III Рейх тоже заботился о своих детях. У него их было 6. И уверен, ЕГО детям в том, обществе, которое было бы построено, было бы очень хорошо. Было бы хорошо всем, кроме тех кому не повезло быть нацией господ. Аргумент про детей - не особо честный в дискуссии, поэтому и я беру аргумент про нацистов. Но это правда. Интересы одних детей, вовсе не эквивалентны интересам других детей. Что хорошо для детей Тиграна, может быть плохо для интересов других детей. Для детей таксиста, например... Да, в перспективе при таком контроле, скорее всего у него и детей может не появиться. Некогда будет.
Мне правда очень странно, что весь потенциал технологии направляется на тотальный контроль и построение грандиозного цифрового концлагеря, в котором людей бьют штрафами за любой шаг вправо/влево. Хотя проблема-то находится глубже. В мотивации людей, в возможностях их самореализации, в концепте справедливого общества свободных людей. Мы же строим нечто другое. Поймать, наказать, запретить. Далеко ли мы уйдём и насколько в итоге деформируется человеческая мораль, которая будет трансформироваться под прессом электронных надсмотрщиков, которые по далеко несовершенным на сегодняшний момент алгоритмам будут решать - прав человек или нет.
Это серьёзные вопросы. Которые заданы Яндексу, именно ввиду моего уважения к тем успехов, которых они добились. Ввиду понимания того колоссального потенциала, который хранят в себе информационные технологии. Ввиду понимания тех опасностей, которые возникают при их неправильном применении. А неправильное применение - это просто. Это когда технологии закабаляют, а не делают свободным. Так вот обвешанный датчиками водитель - это немного не то, что я хотел бы видеть. Понимаю, что это вопрос выходит за рамки прямой отвественности Яндекса, но если бы такая компания немного охлаждала бы пыл неофитов из власти, похоже готовых вставить чип в голову каждому гражданину, то это было бы лучше, чем если бы она с готовностью реализовывала все новые и новые системы контролирующие каждый шаг людей и решающая за них то, что должны решать сами люди.
Я сомневаюсь, что Яндекс например относится к своим сотрудникам так, как к таксистам. Я знаю, что программистам Яндекса и менеджерам обеспечиваются условия развития, а не лупят их со всей силы дубинкой за любые отклонения от алгоритма, именно поэтому Яндекс добился того, чего добился. Почему же они отрицают это право в других отраслях?
С уважением к Яндексу в целом и Тиграну Худавердяну в частности, и с обеспокоенностью за судьбы человечества:) Всего вам доброго...
