[Машинное обучение, Социальные сети и сообщества, Научная фантастика] Отсортировать по противоречивости
Автор
Сообщение
news_bot ®
Стаж: 6 лет 9 месяцев
Сообщений: 27286
Привет, Хабр! Представляю вашему вниманию перевод рассказа «Sort by Controversial».
От переводчика: 22 июля автор Slate Star Codex, известный рационалист Scott Alexander в попытке избежать деанонимизации журналистом NYT удалил свой блог (11 сентября блог был восстановлен). Это послужило поводом для меня прочитать его тексты, один из которых понравился настолько, что я решил его перевести. Оригинал текста был опубликован в Хэллоуин 2018 года. В квадратных скобках — ссылки, которые добавляют контекста для неамериканского читателя.
Скотт Александер
Отсортировать по противоречивости
Спасибо, что разрешили опубликовать мой рассказ в вашем блоге. Mainstream media — полный отстой, да мне бы там никто и не поверил.
Все началось в сентябре 2017-го. Работал я тогда в небольшом стартапе по интернет-рекламе. Ну знаете, типа как в Фейсбуке или Твиттере. Мы учим рекламодателей, как получать больше кликов. Наш стартап, название которого я вам не скажу, пытался добавить туда deep learning. Как только инвесторы увидят «deep learning» — они тут же начнуть сорить деньгами. Мы учим нейросеть предсказывать, сколько лайков топик получит на Reddit. Затем мы спрашиваем у неё, сколько лайков получат какие-то из наших рекламных постов, и постили что-то из наиболее востребованного. Здесь кое-кто (не я) объясняет все лучше. Почему именно Reddit? Лайки и дизлайки проще обрабатывать, чем кучу реакций фейсбука, плюс демографический таргетинг по сабреддитам, плюс есть архив почти на два миллиарда сообщений, которые можно скачать для обучающего сета. Мы натренировали сеть предсказывать лайки по заголовку поста.
Любая предикативная нейросеть может также работать в качестве генеративной. Научил сеть распознавать собак — прогони её наоборот, чтобы получить картинку собаки. Научил сеть предсказывать лайки по тексту — прогони её наоборот чтобы получить текст, который получит лайки. Мы пробовали так делать, было очень забавно. Точного текста я не помню, но для /r/politics сгенерированный топик был «Трамп больше не наш президент. Трансгендеры — вот наш новый президент.» Для /r/technology это было что-то про Илона Маска, спасающего сетевой нейтралитет. Можно было также генерировать заголовки для максимума дизлайков, но это было бы скучно и похоже на спам про увеличение пениса.
На реддите есть возможность сортировать посты по степени спорности. Точный алгоритм вот здесь, но если коротко, то алгоритм умножает количество голосов (лайки+дизлайки) на их баланс (отношение лайков к дизлайкам) чтобы всплывали посты, по которым люди максимально не согласны друг с другом. Спорные темы привлекают людей, поэтому мы научили нашу сетку предсказывать и их тоже. Проектом занималась новенькая индианка с длинным именем, которую все называли Шири, и выходило у неё не очень хорошо, поэтому Брэд, наш босс, попросил меня ей помочь. Шири гоняла сетку на двухмиллиардном архиве комментариев, и на выходе получались весьма спорные гипотетические сценарии вокруг политики США. Все шло по плану.
Японцы при разработке биологического оружия тестировали его на пленных китайцах. Институт Таскиги проверял выделенные штаммы сифилиса на афроамериканцах. Мы были то ли этичнее, то ли просто глупее, и проверили работу Ножниц Шири прямо на себе. У нас был закрытый внутренний сабреддит для обсуждения наших дел: Брэд хотел, чтобы мы лучше ознакомились с самой платформой. Проблема была в том, что когда Шири тестировала нейросеть на спорность в нашем сабреддите, на выходе получался либо набор банальностей, либо очевидная чушь. Никакого даже намека на спорную тему либо пространство для несогласия. Тема, которую мы тогда рассматривали, касалась архитектуры нашего кода. Не буду рассказывать подробно, просто представьте, что вы взяли все худшие архитектурные решения мира, захардкодили их максимально убогим способом и выкатили пользователям с жирной фигой в кармане. Ножницы Шири выдали в качестве самой спорной темы предложение об организации нашего кода с этой архитектурой. И вот, когда мы уже минут десять обсуждали, где мог находиться баг, Шири сказала, что она не понимает, как программа генерирует столь очевидные вещи.
Шири не очень хорошо владела английским, и сперва я подумал, что мы друг друга не поняли. Я поправил её. Программа генерировала очевидную чушь. Она стояла на своём. Я всё ещё думал, что она что-то перепутала, и объяснил ей разницу между словами «правда» и «ложь». Похоже, она обиделась. Я попытался уточнить, действительно ли она думает, что это кошмарнейшее архитектурное решение, этот план использовать все самые убогие паттерны вместе так, чтобы их нельзя было когда-либо исправить, будет правильным для нашего продукта? Она была в этом уверена. Более того, она удивилась, что я думаю иначе. Она думала, что мы уже работаем в этом направлении (конечно же, это было не так), и отказ от этой архитектуры приведёт к полному переписыванию всего и сделает наш код намного хуже.
Я уже было засомневался в собственной адекватности, и мы зашли к Блейку и Дэвиду, нашим старшим разработчикам и «голосам разума». Они обсуждали какие-то свои дела, но я их перебил и выдал им тезис Ножниц. Блейк, естественно, спросил, зачем мы отвлекаем их этим тупым шлаком. Однако Дэвид запутался вслед за и Шири и начал говорить, что это правильное решение. Все четверо начали спорить. Я всё ещё был уверен, что и Шири и Дэвид недопоняли вопрос (хотя у Дэвида английский был родным языком, да и тема была кристально ясной). Дэвид, тем временем, чувствовал, что его всё больше и больше дискредитируют, говорил, что ничего не понимает, а мы с Блейком — просто два дерьмовых программиста, которые ни хрена не понимают в простейшей архитектуре. Он продолжал настаивать на том же, что и Шири: мол, предложение Ножниц — часть нашей архитектуры и любые поптыки пойти в другом направлении в развитии всё похерят. Мы доспорились до того, что решили пойти к Брэду.
Брэд был основателем нашей фирмы. Не верьте газетам: не все основатели айтишных стартапов — жадные обыватели и социопаты. Впрочем, в рекламном бизнесе все как раз такие, и Брэд не был исключением. Он был неприятным и беспринципным сукиным сыном. Зато он производил хорошее впечатление на инвесторов и умел программировать, что выделяло его на фоне многих начальников. Он слегка подохренел, когда вся команда разработки ворвалась к нему в офис, но выслушал нас.
Дэвид начал объяснять, в чём дело, но переврал буквально всё. Я не мог поверить, что он лжёт, чтобы сохранить хорошую мину перед Брэдом, и вмешался. Тот попросил не перебивать, Блейк же сказал, что если бы он не перевирал ситуацию, то его бы никто не заткнул. Дальше всё пошло по наклонной. Где-то посреди всего Брэд наконец выяснил, о чём мы спорим, и прервал нас: «Это самое глупое решение, о котором я когда-либо слышал». Он добавил, что решение противоречит планам, практикам программирования и ведения бизнеса. Жалкие неудачники Дэвид и Шири начали обвинять меня и Блейка в дурном влиянии на Брэда, потому что мы были его любимчиками с самого начала. По мнению Дэвида, мы получали хорошие проекты один за другим, в то время как они с Шири вкалывали, как рабы на галерах. Брэд на это назвал его придурком и призвал идти работать. Но тот не пошел.
Эта часть истории закончилась в 8 вечера: Брэд уволил Дэвида и Шири за сочетание потрясающей некомпетентности, столь же потрясающего отсутствия субординации и общего неадеквата. Он говорил о том, что зря дал шанс Дэвиду и Шири: мол, с самого начала было ясно, что им не хватает квалификации, и при каждом удобном случае они отплачивали ему за доброту ленью и саботажем. Кроме того, по его мнению, они вредили компании и, возможно, работали на конкурентов. А еще Дэвид и Шири называли его самодуром, а всю компанию — мутной конторой, которая использует уязвимых работников для личного обогащения Брэда. Они также обвиняли нас с Блэйком обоих в том, что мы с Брэдом заодно.
Было уже восемь вечера. Пять часов мы ругались друг с другом в офисе Брэда. В 8:01, после того как Дэвид и Шири вылетели из кабинета, мы втроём посмотрели друг на друга и подумали: мать вашу, генератор спорных тем реально работает.
Я бы хотел повторить это ещё раз: за эти пять часов никому из нас это и в голову не пришло. Мы были слишком заняты спором об утверждении Ножниц. У нас не было возможности взглянуть со стороны и осознать что весь спор происходил из-за утверждения, которое было сгенерировано как максимально спорное. Но в 8:01, когда мы выиграли спор, мы остановились и подумали: ну твою ж мать.
Тем вечером мы уже слишком устали и пошли по домам, но на следующий день все трое (Брэд и оставшиеся двое программистов) собрались поговорить. Обсудили то, что у нас получилось. Блейк дал этому название: Ножницы Шири. В одном из древних языков слово «ножницы» (scissors) — однокоренное со словом «схизма» (раскол, schism). Ножницы создают схизму, делают раскол в ткани. И именно это у нас получилось. Настала пора менять бизнес: уходить от рекламы и начинать производить супероружие. Хоть в Пентагон звони и рассказывай им, что у нас есть программа, которая заставляет людей ненавидеть друг друга. Какая ещё этика? Мы работали в интернет-рекламе; мы бы продали родных бабушек сомалийским пиратам, если бы это добавило нам кликов. Поезд давно уже ушёл.
Не так-то просто позвонить в Пентагон и рассказать им о своём супероружии. Даже в Кремниевой долине тебе так просто не поверят на слово. Но Брэд попросил своих друзей о кое-какой услуге, и примерно через неделю после увольнения Дэвида и Шири у нас в переговорной был полковник DARPA, который интересовался, что за кипиш мы тут развели.
Внезапно у нас возникла проблема! Мы не могли показать полковнику Ножницы, которые привели к увольнению Дэвида и Шири. Он не из нашей компании, не из рекламного бизнеса, ему это будет скучно. Мы не хотели генерировать новый спорный тезис для Пентагона. Даже Брэд мог бы догадаться, что втягивать армию США в гражданскую войну — не лучшее решение для числа кликов. В конце концов, мы придумали следующее. Мы решили объяснить полковнику, что такое реддит, и спросить у него, какое сообщество нам стоит развалить для примера.
Он на мгновение задумался и ответил: «Мозамбик».
Мы явно недооценили культурную пропасть. Когда мы спрашивали полковника о цели для Ножниц, мы ожидали услышать нечто вроде «любители настолок” или „фанаты My Little Pony“. Но полковники DARPA думают о мире иначе, поэтому он выбрал „Мозамбик“. Я начал объяснять что Reddit так не работает, что нужен сабреддит с этой темой, но Брэд меня прервал. „У Мозамбика есть сабреддит“ — сказал он.
Казалось, что в глазах Брэда вращаются шестерёнки. На одной из них было написано „этот чувак уже скептически настроен, если мы дадим слабину, он просто уйдёт“. Другая шестерёнка вычисляла, сколько хитов приносил Мозамбик. Как в Библии: мене, текел, упарсин. „Пожалуй, — сказал он, — этот сабреддит подходит. Мы берём Мозамбик“.
Полковник оставил нам визитку и ушёл. Мы с Блейком запустили Ножницы Шири на сабреддите Мозамбика. Да, этика, все дела, но как я уже сказал: бизнес в интернет-рекламе, поехали. Единственное снисхождение, которое мы себе позволили, заключалось в том, что мы взяли десятый по силе топик — мы же не хотели уничтожать всё на корню, просто продемонстрировать. В основе нашей темы лежало обвинение премьер-министра в неуважении к исламу, выраженном особым способом — я не буду, опять же, указывать подробности. В отсутствие чего-то получше мы послали это в личку админам сабреддита Мозамбика с вопросом, что они думают об этом. Я не помню, какую историю мы придумали, что-то про студента-политолога из США, исследующего культуру Мозамбика. Мол, будем благодарны, если спросите у друзей, что было бы если бы премьер-министр это сделал, спасибо, ждём ответа.
Мы потратили на проект по Мозамбику большую часть недели. И тут опять новости. Дэвид и Шири подали на нас в суд за незаконное увольнение и расовую дискриминацию. Брэд, Блейк и я были белыми. Шири была индианкой, а Дэвид — евреем. В суде бы над этим, конечно, поржали — откуда в стартапах Кремниевой долины антисемиты — но на бумаге не было никаких причин увольнять ни Дэвида, ни Шири. Они хорошо работали, получали позитивные оценки на аттестациях, да и у компании не было финансовых проблем – за пару недель до инцидента мы даже вывешивали объявление о поиске новых разработчиков.
Дэвид и Шири знали, почему их уволили, но им это было не так важно. Ненависть к компании, вызванная конфликтом вокруг утверждения Ножниц, так застила глаза, что они бы сказали любую ложь, лишь бы уничтожить всю фирму. Мы попали в западню. Нельзя было рассказать о Ножницах Шири суду, потому что мы пытались продать их как секретное оружие в Пентагон, кроме того признание диверсии в адрес Мозамбика стало бы для нас чёрным пиаром. В суде требовали документы о том, что происходило в нашей компании до и после увольнения. Те, кто непосредственно работал на Пентагон, возможно, могли бы попросить у них письмо, что наша работа засекречена, но нам Пентагон пока ещё не верил. Полковник отшучивался от нас, не более. Мы ничего не могли сделать.
Я до сих пор не знаю, как бы мы справились с этим, потому что Брэд отправился к дому Дэвида, чтобы набить ему морду. Может быть, это покажется кому-то диким, но надо понимать, что Дэвид всегда раздражал коллег, а во время спора в офисе Брэда он наговорил такого, что если кто и заслуживал физического насилия, то он. Судебный иск стал последней каплей. Я не буду судить Брэда, который расчищал авгиевы конюшни за Дэвидом, платя ему при этом достойные деньги, особенно когда это закончилось предательством Дэвида. Тем не менее, для нашей компании всё было кончено. Брэда арестовали, платить за офис больше было некому. Ни я, ни Блейк не знали, как работать с бизнесом, мы были простыми разработчиками. Мы уволились, Брэд сел в тюрьму, и так закончила своё существование Имя Скрыто Online Ad Company, Inc.
Я хотел бы отметить, что это мы ещё легко отделались. Нам просто необыкновенно повезло без особых на то причин. Если бы мы с Шири начали спорить о каком-нибудь заявлении вокруг политики США, то мы бы разрушили всю страну. Если бы Ножницы Шири разработал Google, то это бы развалило Google. Если бы тезис Ножниц касался не кусочка нашего ПО, а айти-индустрии или бизнеса в целом, то вся экономика могла бы быть уничтожена.
А так, мы уничтожили только свою компанию и, возможно, парочку ближайшких конкурентов. Если вы посмотрите публикации об интернет-рекламе примерно за осень 2017-го, вы найдете там кучу странных вещей. История о CEO [ www.latimes.com/local/lanow/la-jaffer-arrest-20171022-story.html ] рекламной компании, арестованном за убийство, совращение несовершеннолетних, драку с полицейским плюс еще 3-4 пункта, которые потом окажутся ложными обвинениями, связанными с психическим расстройством [ www.thewrap.com/tech-child-rape-vungle-zain-jaffer ] – это лишь верхушка айсберга. Я не могу ясно объяснить, как именно тезис Ножниц вышел за пределы нашей компании и почему он не распространился дальше, но я уверен, что если буду копать слишком глубоко, то чёрные вертолёты начнут кружить над моим домом. И это всё, что я хочу сказать по этому поводу.
Лично я ушёл из рекламной индустрии. Я стал работать в компании посолиднее, использовавшей машинное обучение для распознавания голоса, и попытался забыть об этой истории. Хотя я до сих пор злюсь, когда вспоминаю о той архитектуре, которую предлагал тезис Ножниц. Как-то я увидел женщину, похожую на Шири, в кафе и подошёл к ней, чтобы высказать всё, что я думаю. Но это была не она, поэтому я не оказался в тюрьме с Брэдом. Я проверял новости из Мозамбика каждый день, и несколько месяцев там было тихо, а потом перестало. Я так точно и не знаю, наша ли это вина. В Африке происходит немало конфликтов, и если наблюдать, то что-нибудь обязательно произойдёт. Полковник ни разу не пытался связаться со мной, и я не думаю, что он воспринял нас серьёзно. Может быть, он даже не проверял новости из Мозамбика, а, может, и проверил, решив что это совпадение. Может быть, он даже звонил нам на работу, но после того как услышал, что телефон больше не обслуживается — решил что овчинка не стоит выделки. Время шло, конфликт не разгорался, и я надеялся что тема с Ножницами Шири в моей жизни закрыта.
Затем Бретт Кавано попытался пройти в Верховный суд [ www.axios.com/brett-kavanaugh-timeline-allegations-vote-412d33d6-e5dd-43eb-9322-fd2a3867be9b.html ]. Ситуация вызвала у меня приступ дежа вю. На неделе, когда он представал перед судом, я понял почему именно.
Шири говорила мне, что когда она запускала Ножницы на всём архиве, то получила несколько противоречивых сценариев политики США. Два или три из них она мне показала для примера. Один из них чрезвычайно точно описывал ситуацию: „Республиканец, пытающийся пройти в Верховный суд, обвинён в сексуальном преступлении, которое он совершил подростком“.
Это напугало меня до холодного пота. Неужели кто-то заполучил Ножницы и начал их использовать против США? Возможно, полковник Пентагона уделил проекту больше внимания, чем собирался? Но зачем Пентагону раздор в Америке? Может быть, технологию заполучили какие-нибудь враги? Я выписываю “Нью Йорк Таймс”: первым в голову, очевидно, пришёл Путин. Но откуда у Путина Ножницы Шири? Мог ли я что-то перепутать? Я никак не мог отделаться от этих мыслей. Списка тезисов от Шири у меня не сохранилось, но у меня была большая часть исходного кода Ножниц, чтобы сделать билд за несколько бессонных ночей. Затем я выкупил часть алгоритмов на AWS и натравил их на архив комментариев реддита. Это отняло три дня и пятизначную сумму денег, но я восстановил список, который должен был быть у Шири. Я правильно помнил — в нём был Кавано.
А ещё в нём был Колин Каперник.
Вы наверняка слышали о нём. Американский футболист, который отказался встать во время гимна [ https://en.wikipedia.org/wiki/U.S._national_anthem_...%E2%80%93present) ]. Почему же я удивился, ведь я уже знал, что Ножницы предсказали ещё один раскол? Потому что Каперник начал протестовать в 2016. А первый билд Ножниц мы сделали только в 2017. Путин не мог получить их от нас. Кто-то нас опередил.
Из сотни самых спорных тезисов Ножниц Кавано был на 58-м месте, а Каперник — на 42-м. 86-е место занимала мечеть на Ground Zero [ www.theawl.com/2015/10/the-sad-true-story-of-the-ground-zero-mosque ]. На 89-м был кондитер, отказавшийся печь торт на свадьбу однополой пары [ en.wikipedia.org/wiki/Masterpiece_Cakeshop_v._Colorado_Civil_Rights_Commission ]. Совпадение не идеальное, но 99-й номер очень напоминает дело Элиана Гонзалеса 2000 года [ adst.org/2015/09/little-boy-lost-the-case-of-elian-gonzalez ]. Пять случаев из ста. Может ли это быть случайностью? В конце концов, страна большая, происходит много всего, и если появляется что-то похожее на тезис Ножниц, то, разумеется, оно раздувается до национального уровня. Но некоторые из событий были слишком точными. Если бы это было совпадением, то я ожидал бы, что приблизительно подходящих тем будет намного больше, чем точных. Но такиз примерных тем было только две. Больше было похоже на то, что тезисы Ножниц были подогнаны под идеальный результат.
Первым идеальным совпадением была мечеть на Ground Zero в 2009 году. Мог ли у Путина быть аналог Ножниц в 2009-м? Уверен, что нет. Это может звучать странно для человека со стороны: почему бы какому-нибудь правительству не быть на восемь лет впереди маленькой компании, занимающейся рекламой? Ответ прост: машинное обучение развивается гораздо быстрее. Россия никогда не смогла бы сохранить в тайне восьмилетнее преимущество в машинном обучении. Даже Пентагон не смог спрятать программу которая „убежала“ на восемь лет вперед. АНБ опережает индустрию криптографии на тридцать лет, и это знает каждый.
Но кто же тогда генерировал тезисы Ножниц в 2009 году? Понятия не имею. И знаете что? Мне наплевать.
Если вы просто прочитаете любой из тезисов Ножниц вне контекста, то он будет абсолютно безвреден. Он просто выглядит как банальная истина или очевидная чушь. Он не активируется, пока вы не попытаетесь обсудить его с кем-либо. Сперва вы подумаете что ваши собеседники — идиоты. Затем они назовут идиотом вас, и вы начнёте защищаться. Crescit eundo [лат. „Растёт на ходу“]. Вы начнете замечать все маленькие нестыковки, когда люди врут вам, себе, своей аудитории каждый раз, когда они открывает свой рот, чтобы защитить свою идиотскую точку зрения. Затем вы заметите, что вся их ложь цепляется одна за другую, что они подтягивают все свои убеждения, чтобы защитить тезис Ножниц. Со временем, когда даже это не работает, они начнут подбивать окружающих ненавидеть вас, чтобы никто и никогда не услышал ваши аргументы, какими бы верными они ни были. Наконец, им становится уже совершенно не важен тезис Ножниц. Они слишком глубоко заходят в своей ненависти к вам, строя само своё существование на ненависти и желании одержать над вами верх. Вам же приходится доказывать, что они неправы: уже не потому, что вы заботитесь о тезисе Ножниц, а потому, что иначе они сделают всё, чтобы отравить людей вокруг вас, и сделают невозможным сам разговор о праве вас и вашей точки зрения на существование. Вы знаете, что это так. Ваш мозг постоянно подбирает аргументы для вашей защиты, повторяет доводы. почему их нападки жестоки и несправедливы, и в голове вертится один вопрос: как же их раздавить? Как вы можете убедить окружающих не слушать их, чтобы они не привлекали этих людей и не использовали их слабости против вас? Как вы сможете сопротивляться их надуманным аргументам, прежде чем они запудрят мозги хорошим людям настолько, что их никогда будет не разубедить? Как вы сможете обеспечить свою безопасность?
Шири в своё время прочитала мне два или три тезиса Ножниц. Она не говорила, согласна она с ними или нет, и я не говорил, согласен я с ними или нет. И в этом случае они не причиняли вреда.
Я никогда не слышу голосов в своей голове, как это бывает с сумасшедшими. Но иногда я разговариваю сам с собой. Иногда я проговариваю обе роли в беседе. Иногда я воображаю что одна из них — это другой человек. Несколько лет назад я тяжело расходился с девушкой, и иногда голос в моей голове — это голос моей бывшей. Я знаю, что происходит в её голове, и я всегда догадываюсь, что бы она сказала по тому или иному поводу Поэтому иногда я веду с ней беседу, несмотря на то, что её нет рядом и мы почти не общались с момента расставания. Может, это и странно, но если так, то хорошо, считайте меня странным.
Этого оказалось достаточно. По каким-то причинам тезис Ножниц под номером три сработал. Никакой другой, только этот. Чисто гипотетический разговор с воображаемой версией моей бывшей в моей голове о третьем тезисе Ножниц захватил меня. Ножницы Шири работают только с другими людьми. Другие люди работают триггером (и я использую это слово намеренно как в выражении trigger warning). После того как триггер сработал, другие люди вам уже не нужны. Вам достаточно знания о том, что они существуют.
Я был уверен, что запишу эту историю за одну ночь. Но она заняла у меня две недели перед Хэллоуином – прекрасный вечер для истории с призраками, не так ли? Я то бухал, то курил траву, чтобы хоть как-то успокоиться и подумать о чём угодно, кроме третьего тезиса Ножниц. Хотя нет, не совсем так, я ещё определённо пытался не думать о первых двух тезисах, потому что если я задумаюсь, то я могу задуматься о чужих возражениях, и тогда мне конец. Я трижды собирался звонить своей бывшей, чтобы узнать, где она, и если бы я дозвонился, и она бы мне ответила, то я не знаю, что сделал бы с ней. Но дело не только в ней. Половина людей не согласится со мной про тезис №3. Я не знаю, кто они. И никогда об этом не задумывался. Я почти уверен в этом. Не могу представить, что я знаю этих людей. Мои знакомые — слишком приличные люди. Но я не могу быть уверен в том, что это не так. Поэтому я пью.
Наверное, мне надо бы поговорить о союзе против таинственных манипуляторов, запускающих тезисы Ножниц в нас. Я хочу поговорить о воспитании радикального сочувствия и доброты как единственной защиты от таких атак. Я бы хотел прочитать вам вдохновляющую речь в духе Обамы про скрепы, связывающие нас, которые сильнее сил, сеющих рознь. Но я не могу.
Помните, что мы делали с Мозамбиком? Как из-за каких-то остатков этики мы выпустили на них очень слабый тезис Ножниц? Так, чтобы просто сделать им плохо, но не разрушать всю их страну одним щелчком? Именно это делают те, кто выпускают их на нас. Слабенькие тезисы. Достаточные для ярости. Недостаточно для конца света.
Но я прочитал весь список. И затем, как идиот, обдумал каждый. Я достаточно задумался по поводу тезиса №3, чтобы триггер сработал. Даже начинать обсуждать его — само по себе так отвратительно, так ненавистно и мерзко, что Иди Амин [ en.wikipedia.org/wiki/Idi_Amin ] покраснел бы от стыда при одной только мысли. А если Ножницы правы, то половина из вас с радостью поддержит этот тезис.
Тем, кто не слышал ни одного сильного тезиса Ножниц и не подпадал под него, легко говорить „не поддавайтесь манипуляции“ или даже „нам нужно выработать план противодействия и поддержания мира, несмотря на тезисы Ножниц“. Но откуда вы знаете, что вы правы? Откуда вы знаете, что не существует какого-то неизвестного вам факта, зная о котором, вы бы согласились, что проще уничтожить весь мир и начать всё с нуля, как канализационные мутанты, чем разрешить людям, поддерживающим такой ужас, продолжать коптить небо своим присутствием? Откуда вы знаете что вы не ведёте себя как школьница, утверждающая, что нехорошо ругаться матом, хотя в ее жизни не было ничего страшнее леденца, упавшего в грязь? Если бы её похитили и пытали, изменила бы она своё мнение? А если она не может описать пытку своим подругам, а может лишь сказать „со мной случилось страшное“, а они по прежнему будут говорить про недопустимость плохих слов, то на чьей стороне вы окажетесь? И почему вы думаете что я “испорченный», когда я говорю вам, что после тезиса Ножниц сочувствие, доброта и единство могут идти в жопу семимильными шагами? Жалкие остатки старой морали мешают мне огласить весь список и дать вам друг друга поубивать. Меня сдерживают следы моего прошлого отношения к жизни и моих мыслей месячной давности. Поэтому услышьте:
Удалите Фэйсбук. Удалите Твиттер. Выкиньте телефон, отпишитесь от газет. Скажите родным и близким, чтобы не обсуждали с вами политику и проблемы общества. А если они дадут слабину — прекратите общение.
Затем закупитесь консервами. Запаситесь водой. Научитесь метко стрелять. Если можете построить бункер — сделайте это.
Потому что однажды те, кто сует нам тезисы Ножниц, скормят нам один из тех, что похуже.
===========
Источник:
habr.com
===========
Похожие новости:
- [Игры и игровые приставки, Социальные сети и сообщества, Транспорт] Пользователи чата Twitch подняли самолёт и совершили трюки на нем в Microsoft Flight Simulator текстовыми командами
- [Машинное обучение, Искусственный интеллект] Военные США планируют провести реальный воздушный бой человека против ИИ уже в 2024 году
- [Веб-дизайн, Машинное обучение, Графический дизайн, Дизайн] Как мы создали логотип для компании Aqua Lung
- [Социальные сети и сообщества, IT-компании, Работа с видео] YouTube запускает проект-клон TikTok в Индии — там сервис заблокирован с июня
- [Бизнес-модели, Законодательство в IT, Социальные сети и сообщества, Финансы в IT] Oracle подтвердила, что TikTok переедет на облако компании
- [Машинное обучение, Искусственный интеллект, Будущее здесь] В Сколтехе предсказали сверхтвердые материалы с помощью ИИ
- [Ненормальное программирование, Машинное обучение] Могут ли нейросети читать чеки?
- [Управление сообществом, Социальные сети и сообщества, Будущее здесь] Система научных коммуникаций
- [GPGPU, Высокая производительность, Машинное обучение] Microsoft выпустила новую версию DeepSpeed+ZeRO для тренировки нейросетей
- [IT-компании, Социальные сети и сообщества] Microsoft выходит из гонки. Oracle выкупит часть активов TikTok в США
Теги для поиска: #_mashinnoe_obuchenie (Машинное обучение), #_sotsialnye_seti_i_soobschestva (Социальные сети и сообщества), #_nauchnaja_fantastika (Научная фантастика), #_ratsionalizm (рационализм), #_spory (споры), #_fantastika (фантастика), #_mashinnoe_obuchenie (
Машинное обучение
), #_sotsialnye_seti_i_soobschestva (
Социальные сети и сообщества
), #_nauchnaja_fantastika (
Научная фантастика
)
Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах
Вы не можете прикреплять файлы к сообщениям
Вы не можете скачивать файлы
Текущее время: 22-Ноя 13:00
Часовой пояс: UTC + 5
| Автор | Сообщение |
|---|---|
|
news_bot ®
Стаж: 6 лет 9 месяцев |
|
|
Привет, Хабр! Представляю вашему вниманию перевод рассказа «Sort by Controversial». От переводчика: 22 июля автор Slate Star Codex, известный рационалист Scott Alexander в попытке избежать деанонимизации журналистом NYT удалил свой блог (11 сентября блог был восстановлен). Это послужило поводом для меня прочитать его тексты, один из которых понравился настолько, что я решил его перевести. Оригинал текста был опубликован в Хэллоуин 2018 года. В квадратных скобках — ссылки, которые добавляют контекста для неамериканского читателя. Скотт Александер Отсортировать по противоречивости Спасибо, что разрешили опубликовать мой рассказ в вашем блоге. Mainstream media — полный отстой, да мне бы там никто и не поверил. Все началось в сентябре 2017-го. Работал я тогда в небольшом стартапе по интернет-рекламе. Ну знаете, типа как в Фейсбуке или Твиттере. Мы учим рекламодателей, как получать больше кликов. Наш стартап, название которого я вам не скажу, пытался добавить туда deep learning. Как только инвесторы увидят «deep learning» — они тут же начнуть сорить деньгами. Мы учим нейросеть предсказывать, сколько лайков топик получит на Reddit. Затем мы спрашиваем у неё, сколько лайков получат какие-то из наших рекламных постов, и постили что-то из наиболее востребованного. Здесь кое-кто (не я) объясняет все лучше. Почему именно Reddit? Лайки и дизлайки проще обрабатывать, чем кучу реакций фейсбука, плюс демографический таргетинг по сабреддитам, плюс есть архив почти на два миллиарда сообщений, которые можно скачать для обучающего сета. Мы натренировали сеть предсказывать лайки по заголовку поста. Любая предикативная нейросеть может также работать в качестве генеративной. Научил сеть распознавать собак — прогони её наоборот, чтобы получить картинку собаки. Научил сеть предсказывать лайки по тексту — прогони её наоборот чтобы получить текст, который получит лайки. Мы пробовали так делать, было очень забавно. Точного текста я не помню, но для /r/politics сгенерированный топик был «Трамп больше не наш президент. Трансгендеры — вот наш новый президент.» Для /r/technology это было что-то про Илона Маска, спасающего сетевой нейтралитет. Можно было также генерировать заголовки для максимума дизлайков, но это было бы скучно и похоже на спам про увеличение пениса. На реддите есть возможность сортировать посты по степени спорности. Точный алгоритм вот здесь, но если коротко, то алгоритм умножает количество голосов (лайки+дизлайки) на их баланс (отношение лайков к дизлайкам) чтобы всплывали посты, по которым люди максимально не согласны друг с другом. Спорные темы привлекают людей, поэтому мы научили нашу сетку предсказывать и их тоже. Проектом занималась новенькая индианка с длинным именем, которую все называли Шири, и выходило у неё не очень хорошо, поэтому Брэд, наш босс, попросил меня ей помочь. Шири гоняла сетку на двухмиллиардном архиве комментариев, и на выходе получались весьма спорные гипотетические сценарии вокруг политики США. Все шло по плану. Японцы при разработке биологического оружия тестировали его на пленных китайцах. Институт Таскиги проверял выделенные штаммы сифилиса на афроамериканцах. Мы были то ли этичнее, то ли просто глупее, и проверили работу Ножниц Шири прямо на себе. У нас был закрытый внутренний сабреддит для обсуждения наших дел: Брэд хотел, чтобы мы лучше ознакомились с самой платформой. Проблема была в том, что когда Шири тестировала нейросеть на спорность в нашем сабреддите, на выходе получался либо набор банальностей, либо очевидная чушь. Никакого даже намека на спорную тему либо пространство для несогласия. Тема, которую мы тогда рассматривали, касалась архитектуры нашего кода. Не буду рассказывать подробно, просто представьте, что вы взяли все худшие архитектурные решения мира, захардкодили их максимально убогим способом и выкатили пользователям с жирной фигой в кармане. Ножницы Шири выдали в качестве самой спорной темы предложение об организации нашего кода с этой архитектурой. И вот, когда мы уже минут десять обсуждали, где мог находиться баг, Шири сказала, что она не понимает, как программа генерирует столь очевидные вещи. Шири не очень хорошо владела английским, и сперва я подумал, что мы друг друга не поняли. Я поправил её. Программа генерировала очевидную чушь. Она стояла на своём. Я всё ещё думал, что она что-то перепутала, и объяснил ей разницу между словами «правда» и «ложь». Похоже, она обиделась. Я попытался уточнить, действительно ли она думает, что это кошмарнейшее архитектурное решение, этот план использовать все самые убогие паттерны вместе так, чтобы их нельзя было когда-либо исправить, будет правильным для нашего продукта? Она была в этом уверена. Более того, она удивилась, что я думаю иначе. Она думала, что мы уже работаем в этом направлении (конечно же, это было не так), и отказ от этой архитектуры приведёт к полному переписыванию всего и сделает наш код намного хуже. Я уже было засомневался в собственной адекватности, и мы зашли к Блейку и Дэвиду, нашим старшим разработчикам и «голосам разума». Они обсуждали какие-то свои дела, но я их перебил и выдал им тезис Ножниц. Блейк, естественно, спросил, зачем мы отвлекаем их этим тупым шлаком. Однако Дэвид запутался вслед за и Шири и начал говорить, что это правильное решение. Все четверо начали спорить. Я всё ещё был уверен, что и Шири и Дэвид недопоняли вопрос (хотя у Дэвида английский был родным языком, да и тема была кристально ясной). Дэвид, тем временем, чувствовал, что его всё больше и больше дискредитируют, говорил, что ничего не понимает, а мы с Блейком — просто два дерьмовых программиста, которые ни хрена не понимают в простейшей архитектуре. Он продолжал настаивать на том же, что и Шири: мол, предложение Ножниц — часть нашей архитектуры и любые поптыки пойти в другом направлении в развитии всё похерят. Мы доспорились до того, что решили пойти к Брэду. Брэд был основателем нашей фирмы. Не верьте газетам: не все основатели айтишных стартапов — жадные обыватели и социопаты. Впрочем, в рекламном бизнесе все как раз такие, и Брэд не был исключением. Он был неприятным и беспринципным сукиным сыном. Зато он производил хорошее впечатление на инвесторов и умел программировать, что выделяло его на фоне многих начальников. Он слегка подохренел, когда вся команда разработки ворвалась к нему в офис, но выслушал нас. Дэвид начал объяснять, в чём дело, но переврал буквально всё. Я не мог поверить, что он лжёт, чтобы сохранить хорошую мину перед Брэдом, и вмешался. Тот попросил не перебивать, Блейк же сказал, что если бы он не перевирал ситуацию, то его бы никто не заткнул. Дальше всё пошло по наклонной. Где-то посреди всего Брэд наконец выяснил, о чём мы спорим, и прервал нас: «Это самое глупое решение, о котором я когда-либо слышал». Он добавил, что решение противоречит планам, практикам программирования и ведения бизнеса. Жалкие неудачники Дэвид и Шири начали обвинять меня и Блейка в дурном влиянии на Брэда, потому что мы были его любимчиками с самого начала. По мнению Дэвида, мы получали хорошие проекты один за другим, в то время как они с Шири вкалывали, как рабы на галерах. Брэд на это назвал его придурком и призвал идти работать. Но тот не пошел. Эта часть истории закончилась в 8 вечера: Брэд уволил Дэвида и Шири за сочетание потрясающей некомпетентности, столь же потрясающего отсутствия субординации и общего неадеквата. Он говорил о том, что зря дал шанс Дэвиду и Шири: мол, с самого начала было ясно, что им не хватает квалификации, и при каждом удобном случае они отплачивали ему за доброту ленью и саботажем. Кроме того, по его мнению, они вредили компании и, возможно, работали на конкурентов. А еще Дэвид и Шири называли его самодуром, а всю компанию — мутной конторой, которая использует уязвимых работников для личного обогащения Брэда. Они также обвиняли нас с Блэйком обоих в том, что мы с Брэдом заодно. Было уже восемь вечера. Пять часов мы ругались друг с другом в офисе Брэда. В 8:01, после того как Дэвид и Шири вылетели из кабинета, мы втроём посмотрели друг на друга и подумали: мать вашу, генератор спорных тем реально работает. Я бы хотел повторить это ещё раз: за эти пять часов никому из нас это и в голову не пришло. Мы были слишком заняты спором об утверждении Ножниц. У нас не было возможности взглянуть со стороны и осознать что весь спор происходил из-за утверждения, которое было сгенерировано как максимально спорное. Но в 8:01, когда мы выиграли спор, мы остановились и подумали: ну твою ж мать. Тем вечером мы уже слишком устали и пошли по домам, но на следующий день все трое (Брэд и оставшиеся двое программистов) собрались поговорить. Обсудили то, что у нас получилось. Блейк дал этому название: Ножницы Шири. В одном из древних языков слово «ножницы» (scissors) — однокоренное со словом «схизма» (раскол, schism). Ножницы создают схизму, делают раскол в ткани. И именно это у нас получилось. Настала пора менять бизнес: уходить от рекламы и начинать производить супероружие. Хоть в Пентагон звони и рассказывай им, что у нас есть программа, которая заставляет людей ненавидеть друг друга. Какая ещё этика? Мы работали в интернет-рекламе; мы бы продали родных бабушек сомалийским пиратам, если бы это добавило нам кликов. Поезд давно уже ушёл. Не так-то просто позвонить в Пентагон и рассказать им о своём супероружии. Даже в Кремниевой долине тебе так просто не поверят на слово. Но Брэд попросил своих друзей о кое-какой услуге, и примерно через неделю после увольнения Дэвида и Шири у нас в переговорной был полковник DARPA, который интересовался, что за кипиш мы тут развели. Внезапно у нас возникла проблема! Мы не могли показать полковнику Ножницы, которые привели к увольнению Дэвида и Шири. Он не из нашей компании, не из рекламного бизнеса, ему это будет скучно. Мы не хотели генерировать новый спорный тезис для Пентагона. Даже Брэд мог бы догадаться, что втягивать армию США в гражданскую войну — не лучшее решение для числа кликов. В конце концов, мы придумали следующее. Мы решили объяснить полковнику, что такое реддит, и спросить у него, какое сообщество нам стоит развалить для примера. Он на мгновение задумался и ответил: «Мозамбик». Мы явно недооценили культурную пропасть. Когда мы спрашивали полковника о цели для Ножниц, мы ожидали услышать нечто вроде «любители настолок” или „фанаты My Little Pony“. Но полковники DARPA думают о мире иначе, поэтому он выбрал „Мозамбик“. Я начал объяснять что Reddit так не работает, что нужен сабреддит с этой темой, но Брэд меня прервал. „У Мозамбика есть сабреддит“ — сказал он. Казалось, что в глазах Брэда вращаются шестерёнки. На одной из них было написано „этот чувак уже скептически настроен, если мы дадим слабину, он просто уйдёт“. Другая шестерёнка вычисляла, сколько хитов приносил Мозамбик. Как в Библии: мене, текел, упарсин. „Пожалуй, — сказал он, — этот сабреддит подходит. Мы берём Мозамбик“. Полковник оставил нам визитку и ушёл. Мы с Блейком запустили Ножницы Шири на сабреддите Мозамбика. Да, этика, все дела, но как я уже сказал: бизнес в интернет-рекламе, поехали. Единственное снисхождение, которое мы себе позволили, заключалось в том, что мы взяли десятый по силе топик — мы же не хотели уничтожать всё на корню, просто продемонстрировать. В основе нашей темы лежало обвинение премьер-министра в неуважении к исламу, выраженном особым способом — я не буду, опять же, указывать подробности. В отсутствие чего-то получше мы послали это в личку админам сабреддита Мозамбика с вопросом, что они думают об этом. Я не помню, какую историю мы придумали, что-то про студента-политолога из США, исследующего культуру Мозамбика. Мол, будем благодарны, если спросите у друзей, что было бы если бы премьер-министр это сделал, спасибо, ждём ответа. Мы потратили на проект по Мозамбику большую часть недели. И тут опять новости. Дэвид и Шири подали на нас в суд за незаконное увольнение и расовую дискриминацию. Брэд, Блейк и я были белыми. Шири была индианкой, а Дэвид — евреем. В суде бы над этим, конечно, поржали — откуда в стартапах Кремниевой долины антисемиты — но на бумаге не было никаких причин увольнять ни Дэвида, ни Шири. Они хорошо работали, получали позитивные оценки на аттестациях, да и у компании не было финансовых проблем – за пару недель до инцидента мы даже вывешивали объявление о поиске новых разработчиков. Дэвид и Шири знали, почему их уволили, но им это было не так важно. Ненависть к компании, вызванная конфликтом вокруг утверждения Ножниц, так застила глаза, что они бы сказали любую ложь, лишь бы уничтожить всю фирму. Мы попали в западню. Нельзя было рассказать о Ножницах Шири суду, потому что мы пытались продать их как секретное оружие в Пентагон, кроме того признание диверсии в адрес Мозамбика стало бы для нас чёрным пиаром. В суде требовали документы о том, что происходило в нашей компании до и после увольнения. Те, кто непосредственно работал на Пентагон, возможно, могли бы попросить у них письмо, что наша работа засекречена, но нам Пентагон пока ещё не верил. Полковник отшучивался от нас, не более. Мы ничего не могли сделать. Я до сих пор не знаю, как бы мы справились с этим, потому что Брэд отправился к дому Дэвида, чтобы набить ему морду. Может быть, это покажется кому-то диким, но надо понимать, что Дэвид всегда раздражал коллег, а во время спора в офисе Брэда он наговорил такого, что если кто и заслуживал физического насилия, то он. Судебный иск стал последней каплей. Я не буду судить Брэда, который расчищал авгиевы конюшни за Дэвидом, платя ему при этом достойные деньги, особенно когда это закончилось предательством Дэвида. Тем не менее, для нашей компании всё было кончено. Брэда арестовали, платить за офис больше было некому. Ни я, ни Блейк не знали, как работать с бизнесом, мы были простыми разработчиками. Мы уволились, Брэд сел в тюрьму, и так закончила своё существование Имя Скрыто Online Ad Company, Inc. Я хотел бы отметить, что это мы ещё легко отделались. Нам просто необыкновенно повезло без особых на то причин. Если бы мы с Шири начали спорить о каком-нибудь заявлении вокруг политики США, то мы бы разрушили всю страну. Если бы Ножницы Шири разработал Google, то это бы развалило Google. Если бы тезис Ножниц касался не кусочка нашего ПО, а айти-индустрии или бизнеса в целом, то вся экономика могла бы быть уничтожена. А так, мы уничтожили только свою компанию и, возможно, парочку ближайшких конкурентов. Если вы посмотрите публикации об интернет-рекламе примерно за осень 2017-го, вы найдете там кучу странных вещей. История о CEO [ www.latimes.com/local/lanow/la-jaffer-arrest-20171022-story.html ] рекламной компании, арестованном за убийство, совращение несовершеннолетних, драку с полицейским плюс еще 3-4 пункта, которые потом окажутся ложными обвинениями, связанными с психическим расстройством [ www.thewrap.com/tech-child-rape-vungle-zain-jaffer ] – это лишь верхушка айсберга. Я не могу ясно объяснить, как именно тезис Ножниц вышел за пределы нашей компании и почему он не распространился дальше, но я уверен, что если буду копать слишком глубоко, то чёрные вертолёты начнут кружить над моим домом. И это всё, что я хочу сказать по этому поводу. Лично я ушёл из рекламной индустрии. Я стал работать в компании посолиднее, использовавшей машинное обучение для распознавания голоса, и попытался забыть об этой истории. Хотя я до сих пор злюсь, когда вспоминаю о той архитектуре, которую предлагал тезис Ножниц. Как-то я увидел женщину, похожую на Шири, в кафе и подошёл к ней, чтобы высказать всё, что я думаю. Но это была не она, поэтому я не оказался в тюрьме с Брэдом. Я проверял новости из Мозамбика каждый день, и несколько месяцев там было тихо, а потом перестало. Я так точно и не знаю, наша ли это вина. В Африке происходит немало конфликтов, и если наблюдать, то что-нибудь обязательно произойдёт. Полковник ни разу не пытался связаться со мной, и я не думаю, что он воспринял нас серьёзно. Может быть, он даже не проверял новости из Мозамбика, а, может, и проверил, решив что это совпадение. Может быть, он даже звонил нам на работу, но после того как услышал, что телефон больше не обслуживается — решил что овчинка не стоит выделки. Время шло, конфликт не разгорался, и я надеялся что тема с Ножницами Шири в моей жизни закрыта. Затем Бретт Кавано попытался пройти в Верховный суд [ www.axios.com/brett-kavanaugh-timeline-allegations-vote-412d33d6-e5dd-43eb-9322-fd2a3867be9b.html ]. Ситуация вызвала у меня приступ дежа вю. На неделе, когда он представал перед судом, я понял почему именно. Шири говорила мне, что когда она запускала Ножницы на всём архиве, то получила несколько противоречивых сценариев политики США. Два или три из них она мне показала для примера. Один из них чрезвычайно точно описывал ситуацию: „Республиканец, пытающийся пройти в Верховный суд, обвинён в сексуальном преступлении, которое он совершил подростком“. Это напугало меня до холодного пота. Неужели кто-то заполучил Ножницы и начал их использовать против США? Возможно, полковник Пентагона уделил проекту больше внимания, чем собирался? Но зачем Пентагону раздор в Америке? Может быть, технологию заполучили какие-нибудь враги? Я выписываю “Нью Йорк Таймс”: первым в голову, очевидно, пришёл Путин. Но откуда у Путина Ножницы Шири? Мог ли я что-то перепутать? Я никак не мог отделаться от этих мыслей. Списка тезисов от Шири у меня не сохранилось, но у меня была большая часть исходного кода Ножниц, чтобы сделать билд за несколько бессонных ночей. Затем я выкупил часть алгоритмов на AWS и натравил их на архив комментариев реддита. Это отняло три дня и пятизначную сумму денег, но я восстановил список, который должен был быть у Шири. Я правильно помнил — в нём был Кавано. А ещё в нём был Колин Каперник. Вы наверняка слышали о нём. Американский футболист, который отказался встать во время гимна [ https://en.wikipedia.org/wiki/U.S._national_anthem_...%E2%80%93present) ]. Почему же я удивился, ведь я уже знал, что Ножницы предсказали ещё один раскол? Потому что Каперник начал протестовать в 2016. А первый билд Ножниц мы сделали только в 2017. Путин не мог получить их от нас. Кто-то нас опередил. Из сотни самых спорных тезисов Ножниц Кавано был на 58-м месте, а Каперник — на 42-м. 86-е место занимала мечеть на Ground Zero [ www.theawl.com/2015/10/the-sad-true-story-of-the-ground-zero-mosque ]. На 89-м был кондитер, отказавшийся печь торт на свадьбу однополой пары [ en.wikipedia.org/wiki/Masterpiece_Cakeshop_v._Colorado_Civil_Rights_Commission ]. Совпадение не идеальное, но 99-й номер очень напоминает дело Элиана Гонзалеса 2000 года [ adst.org/2015/09/little-boy-lost-the-case-of-elian-gonzalez ]. Пять случаев из ста. Может ли это быть случайностью? В конце концов, страна большая, происходит много всего, и если появляется что-то похожее на тезис Ножниц, то, разумеется, оно раздувается до национального уровня. Но некоторые из событий были слишком точными. Если бы это было совпадением, то я ожидал бы, что приблизительно подходящих тем будет намного больше, чем точных. Но такиз примерных тем было только две. Больше было похоже на то, что тезисы Ножниц были подогнаны под идеальный результат. Первым идеальным совпадением была мечеть на Ground Zero в 2009 году. Мог ли у Путина быть аналог Ножниц в 2009-м? Уверен, что нет. Это может звучать странно для человека со стороны: почему бы какому-нибудь правительству не быть на восемь лет впереди маленькой компании, занимающейся рекламой? Ответ прост: машинное обучение развивается гораздо быстрее. Россия никогда не смогла бы сохранить в тайне восьмилетнее преимущество в машинном обучении. Даже Пентагон не смог спрятать программу которая „убежала“ на восемь лет вперед. АНБ опережает индустрию криптографии на тридцать лет, и это знает каждый. Но кто же тогда генерировал тезисы Ножниц в 2009 году? Понятия не имею. И знаете что? Мне наплевать. Если вы просто прочитаете любой из тезисов Ножниц вне контекста, то он будет абсолютно безвреден. Он просто выглядит как банальная истина или очевидная чушь. Он не активируется, пока вы не попытаетесь обсудить его с кем-либо. Сперва вы подумаете что ваши собеседники — идиоты. Затем они назовут идиотом вас, и вы начнёте защищаться. Crescit eundo [лат. „Растёт на ходу“]. Вы начнете замечать все маленькие нестыковки, когда люди врут вам, себе, своей аудитории каждый раз, когда они открывает свой рот, чтобы защитить свою идиотскую точку зрения. Затем вы заметите, что вся их ложь цепляется одна за другую, что они подтягивают все свои убеждения, чтобы защитить тезис Ножниц. Со временем, когда даже это не работает, они начнут подбивать окружающих ненавидеть вас, чтобы никто и никогда не услышал ваши аргументы, какими бы верными они ни были. Наконец, им становится уже совершенно не важен тезис Ножниц. Они слишком глубоко заходят в своей ненависти к вам, строя само своё существование на ненависти и желании одержать над вами верх. Вам же приходится доказывать, что они неправы: уже не потому, что вы заботитесь о тезисе Ножниц, а потому, что иначе они сделают всё, чтобы отравить людей вокруг вас, и сделают невозможным сам разговор о праве вас и вашей точки зрения на существование. Вы знаете, что это так. Ваш мозг постоянно подбирает аргументы для вашей защиты, повторяет доводы. почему их нападки жестоки и несправедливы, и в голове вертится один вопрос: как же их раздавить? Как вы можете убедить окружающих не слушать их, чтобы они не привлекали этих людей и не использовали их слабости против вас? Как вы сможете сопротивляться их надуманным аргументам, прежде чем они запудрят мозги хорошим людям настолько, что их никогда будет не разубедить? Как вы сможете обеспечить свою безопасность? Шири в своё время прочитала мне два или три тезиса Ножниц. Она не говорила, согласна она с ними или нет, и я не говорил, согласен я с ними или нет. И в этом случае они не причиняли вреда. Я никогда не слышу голосов в своей голове, как это бывает с сумасшедшими. Но иногда я разговариваю сам с собой. Иногда я проговариваю обе роли в беседе. Иногда я воображаю что одна из них — это другой человек. Несколько лет назад я тяжело расходился с девушкой, и иногда голос в моей голове — это голос моей бывшей. Я знаю, что происходит в её голове, и я всегда догадываюсь, что бы она сказала по тому или иному поводу Поэтому иногда я веду с ней беседу, несмотря на то, что её нет рядом и мы почти не общались с момента расставания. Может, это и странно, но если так, то хорошо, считайте меня странным. Этого оказалось достаточно. По каким-то причинам тезис Ножниц под номером три сработал. Никакой другой, только этот. Чисто гипотетический разговор с воображаемой версией моей бывшей в моей голове о третьем тезисе Ножниц захватил меня. Ножницы Шири работают только с другими людьми. Другие люди работают триггером (и я использую это слово намеренно как в выражении trigger warning). После того как триггер сработал, другие люди вам уже не нужны. Вам достаточно знания о том, что они существуют. Я был уверен, что запишу эту историю за одну ночь. Но она заняла у меня две недели перед Хэллоуином – прекрасный вечер для истории с призраками, не так ли? Я то бухал, то курил траву, чтобы хоть как-то успокоиться и подумать о чём угодно, кроме третьего тезиса Ножниц. Хотя нет, не совсем так, я ещё определённо пытался не думать о первых двух тезисах, потому что если я задумаюсь, то я могу задуматься о чужих возражениях, и тогда мне конец. Я трижды собирался звонить своей бывшей, чтобы узнать, где она, и если бы я дозвонился, и она бы мне ответила, то я не знаю, что сделал бы с ней. Но дело не только в ней. Половина людей не согласится со мной про тезис №3. Я не знаю, кто они. И никогда об этом не задумывался. Я почти уверен в этом. Не могу представить, что я знаю этих людей. Мои знакомые — слишком приличные люди. Но я не могу быть уверен в том, что это не так. Поэтому я пью. Наверное, мне надо бы поговорить о союзе против таинственных манипуляторов, запускающих тезисы Ножниц в нас. Я хочу поговорить о воспитании радикального сочувствия и доброты как единственной защиты от таких атак. Я бы хотел прочитать вам вдохновляющую речь в духе Обамы про скрепы, связывающие нас, которые сильнее сил, сеющих рознь. Но я не могу. Помните, что мы делали с Мозамбиком? Как из-за каких-то остатков этики мы выпустили на них очень слабый тезис Ножниц? Так, чтобы просто сделать им плохо, но не разрушать всю их страну одним щелчком? Именно это делают те, кто выпускают их на нас. Слабенькие тезисы. Достаточные для ярости. Недостаточно для конца света. Но я прочитал весь список. И затем, как идиот, обдумал каждый. Я достаточно задумался по поводу тезиса №3, чтобы триггер сработал. Даже начинать обсуждать его — само по себе так отвратительно, так ненавистно и мерзко, что Иди Амин [ en.wikipedia.org/wiki/Idi_Amin ] покраснел бы от стыда при одной только мысли. А если Ножницы правы, то половина из вас с радостью поддержит этот тезис. Тем, кто не слышал ни одного сильного тезиса Ножниц и не подпадал под него, легко говорить „не поддавайтесь манипуляции“ или даже „нам нужно выработать план противодействия и поддержания мира, несмотря на тезисы Ножниц“. Но откуда вы знаете, что вы правы? Откуда вы знаете, что не существует какого-то неизвестного вам факта, зная о котором, вы бы согласились, что проще уничтожить весь мир и начать всё с нуля, как канализационные мутанты, чем разрешить людям, поддерживающим такой ужас, продолжать коптить небо своим присутствием? Откуда вы знаете что вы не ведёте себя как школьница, утверждающая, что нехорошо ругаться матом, хотя в ее жизни не было ничего страшнее леденца, упавшего в грязь? Если бы её похитили и пытали, изменила бы она своё мнение? А если она не может описать пытку своим подругам, а может лишь сказать „со мной случилось страшное“, а они по прежнему будут говорить про недопустимость плохих слов, то на чьей стороне вы окажетесь? И почему вы думаете что я “испорченный», когда я говорю вам, что после тезиса Ножниц сочувствие, доброта и единство могут идти в жопу семимильными шагами? Жалкие остатки старой морали мешают мне огласить весь список и дать вам друг друга поубивать. Меня сдерживают следы моего прошлого отношения к жизни и моих мыслей месячной давности. Поэтому услышьте: Удалите Фэйсбук. Удалите Твиттер. Выкиньте телефон, отпишитесь от газет. Скажите родным и близким, чтобы не обсуждали с вами политику и проблемы общества. А если они дадут слабину — прекратите общение. Затем закупитесь консервами. Запаситесь водой. Научитесь метко стрелять. Если можете построить бункер — сделайте это. Потому что однажды те, кто сует нам тезисы Ножниц, скормят нам один из тех, что похуже. =========== Источник: habr.com =========== Похожие новости:
Машинное обучение ), #_sotsialnye_seti_i_soobschestva ( Социальные сети и сообщества ), #_nauchnaja_fantastika ( Научная фантастика ) |
|
Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах
Вы не можете прикреплять файлы к сообщениям
Вы не можете скачивать файлы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете голосовать в опросах
Вы не можете прикреплять файлы к сообщениям
Вы не можете скачивать файлы
Текущее время: 22-Ноя 13:00
Часовой пояс: UTC + 5