Text
                    
Annotation НЕЗАКОННОЕ ПОТРЕБЛЕНИЕ НАРКОТИЧЕСКИХ СРЕДСТВ, ПСИХОТРОПНЫХ ВЕЩЕСТВ, ИХ АНАЛОГОВ ПРИЧИНЯЕТ ВРЕД ЗДОРОВЬЮ, ИХ НЕЗАКОННЫЙ ОБОРОТ ЗАПРЕЩЕН И ВЛЕЧЕТ УСТАНОВЛЕННУЮ ЗАКОНОДАТЕЛЬСТВОМ ОТВЕТСТВЕННОСТЬ В XVIII веке пресвитерианский священник Томас Байес вывел формулу, значительно опередившую свое время: теорема Байеса позволяет оценивать, как изменяется вероятность события по мере поступления новой информации. Сегодня байесовская логика – один из краеугольных камней рационального мышления, на нее опирается как человеческий мозг (бессознательно), так и искусственный интеллект. Британский писатель и популяризатор науки Том Чиверс захватывающе рассказывает о самом Байесе, его теореме и спорах вокруг нее, а также о том, как ее применение помогает нам сделать свою жизнь лучше и в хорошем смысле предсказуемее. Предсказать всё. Как теорема Байеса объясняет наш мир Том Чиверс. Предсказать все. Как теорема Байеса объясняет наш мир Введение Глава первая Байес-человек Паскаль и Ферма Закон больших чисел Де Муавр о нормальном распределении Симпсон и Байес Не совсем бильярдный стол Байеса Первый байесианец Прайс хочет спасти Бога от Юма От Байеса до Гальтона Гальтон, Пирсон, Фишер и взлет фреквентизма Расисты ли фреквентисты? Крах баейсианства Статистическая значимость
Байес далеко и близко Я увидел, как во славе[29] Глава вторая Кризис воспроизводимости в науке и некоторые способы его преодоления Луна из сыра, экстрасенсорные способности и частицы быстрее света Поппер и его лебеди Байес и кризис воспроизводимости Парадокс Денниса Линдли Где брать априорные вероятности Если лошадь побеждает на скачках, не такая уж она и мертвая Глава третья Аристотель и Джордж Буль Байесовские принципы — основа принятия решений Правило Кромвеля Сохранение ожидаемых доказательств Полезность, теория игр и голландская книга Априорные вероятности Оккама Гиперприоры Несколько гипотез Байес и искусственный интеллект Глава четвертая Иррациональны ли люди? Монти предлагает сделку Суперпрогнозирование, часть 1 Суперпрогнозирование, часть 2 Байесовская эпистемология Глава пятая От Платона до Грегори Оптические иллюзии Реальность как контролируемая галлюцинация Дофамин и необыкновенные компьютеризированные роботы Теннис, Wordle, саккады Почему шизофреники могут сами себя щекотать?
Чувак, ты когда-нибудь реально типа смотрел на свою руку? Боже, помоги нам Заключение. Байесовская жизнь Благодарности Примечания Примечания
Предсказать всё. Как теорема Байеса объясняет наш мир
Том Чиверс. Предсказать все. Как теорема Байеса объясняет наш мир Посвящается столь рано ушедшему Луису Макгилликадди и недавно появившейся на свет Мэй Элисон Дэвидсон Tom Chivers Everything Is Predictable How Bayes' Remarkable Theorem Explains the World © Tom Chivers, 2024 All rights reserved including the rights of reproduction in whole or in part in any form © М. Шер, перевод, 2026© ООО «Издательство 'Эксмо», 2026 Individuum®
Введение Теория почти всего Общее правило в психиатрии — если вы думаете, что открыли теорию, объясняющую всё, диагностируйте себе манию и ложитесь в больницу. Скотт Александер Можно ли предсказать будущее? Конечно, можно. Почти с полной уверенностью можно предсказать, что в ближайшие несколько секунд вы сделаете вдох и выдох. Ваше сердце будет биться со скоростью от одного до трех ударов в секунду. Завтра утром взойдет солнце — в конкретное время, зависящее от географической широты и времени года, но которое можно узнать с высокой долей точности. Все эти события можно уверенно предсказать. Можно также предсказать, что поезд прибудет на станцию назначения в определенное время, или что ваша подруга вовремя приедет в ресторан, где вы договорились встретиться. В этом, правда, нельзя быть так уж сильно уверенным — все будет зависеть от железнодорожной компании или от подруги. Можно также предсказать, что население планеты продолжит расти примерно до середины столетия, после чего снова начнет сокращаться. Можно предсказать, что общемировые средние температуры воздуха у поверхности Земли в 2030 году будут выше, чем были в 1930‐м. Будущее не столь уж туманно. В него можно заглянуть. Что-то в нем легче предсказать, что-то — сложнее: танец планет по Ньютону можно предсказать на тысячи лет вперед, хаос в погоде по Лоренцу — лишь на несколько дней. Сложно, с натяжкой, но можно.
Однако когда люди говорят: «Я могу предсказать будущее», они имеют в виду нечто мистическое, какую-то сверхъестественную или волшебную способность заглянуть за горизонт. На такое мы все-таки не способны. (В этой книжке вы прочтете об ученом, который считает, что способны, а еще — о том, что он, скорее всего, не прав). Да нам это и не нужно. Мы так или иначе всё время предсказываем будущее. Иначе мы не смогли бы существовать. С каждым вдохом мы безотчетно делаем базовый прогноз в духе «воздухом и дальше можно будет дышать». Всякий раз, принимая решение, мы делаем более сложные прогнозы, например, «в магазине на углу, когда я туда зайду, будет альпийский сыр». В основе таких прогнозов нет никакой мистики — только информация, которую мы собрали в прошлом. Суть всех прогнозов в том, что они неточны. Вселенная может быть детерминирована, а может и не быть; если бы мы обладали совершенным, божественным знанием о положении, движении и качествах всех частиц во Вселенной, мы, наверное, могли бы идеально предсказать всё, вплоть до того, когда на землю упадет всякая малая птица [1]. Однако у нас такого знания нет, есть только неполная информация. Мы можем кое-как увидеть какие-то частицы Вселенной с помощью несовершенных органов чувств. Мы можем с максимальной долей вероятности выдвигать предположения о том, как эти частицы движутся: мы знаем, что человекообразные частицы чаще находятся в поисках пропитания и компании; мы знаем, что камнеобразные частицы чаще стремятся к неподвижности. На основе этих сведений мы можем делать путаные, неполноценные прогнозы. Жизнь — не шахматы, в ней нет полной информации, и поэтому ее нельзя «решить», как какую-то задачу. Она больше похожа на покер: игру, в которой человек пытается принимать оптимальные решения, обладая небольшим объемом данных. Эта книга — об уравнении, которое позволяет это делать. «Кто-то мне говорил, — заметил Стивен Хокинг после выхода своей „Краткой истории времени“, — что одно математическое уравнение в книге снижает ее продажи вдвое». Поскольку моя книга, собственно, об уравнении, сложно будет обойтись без хотя бы одного [2]. Это уравнение — теорема Байеса, или правило Байеса. Для уравнений оно в принципе простое и выглядит так:
Открою маленький секрет: я терпеть не могу читать уравнения. То есть я вроде и умею их читать, но для меня это всегда мука. Неудобно выходит: я написал три книги, полностью или частично посвященных математике. Но когда я вижу знак Σ, мозг мой «закипает» и останавливается. Подозреваю, что у многих читателей происходит то же самое, и, наверное, поэтому Хокингу советовали обойтись в книге без уравнений. Однако уравнения — не тайнопись и не колдовские формулы. Каждый символ (это я сам себе напоминаю) обозначает простое действие, то есть выступает как сокращение. Итак, теорема Байеса: она позволяет определить вероятность — насколько вероятно то или иное событие с учетом имеющихся у нас данных. Если точнее, она описывает специфическую форму условной вероятности. Вертикальная черта — — сокращенное обозначение «в случае, если», или «при условии, что». То есть, P(A|B) — это вероятность наступления события A при условии, что событие B уже произошло. Вот простой пример условной вероятности: допустим, вы хотите узнать вероятность вытащить из колоды карту червей. Вы знаете, что в стандартной колоде из пятидесяти двух карт тринадцать червей, поэтому вероятность P( ♡ ), если угодно, равна 13/52, или ¼. Или, если воспользоваться обозначением, принятым в теории вероятностей, p=0,25. И вот вы вытаскиваете карту из колоды, но она оказывается трефовой. Какова вероятность теперь? Червей же в колоде по-прежнему тринадцать, но карт осталось пятьдесят одна. Поэтому вероятность получается 13/51, или p≈0,255 (волнистый знак равенства означает «приблизительно равно»). Такова вероятность, что вы вытащите из колоды черви, если до этого вытянули трефы, P(♡|♣). Или так: какова вероятность, что в определенный день в Лондоне будет идти дождь? Вероятно, около 0,4: в Лондоне примерно 150 дождливых дней в году. Но ты смотришь в окно и видишь темные тяжелые тучи. Какова вероятность теперь? Точно не знаю, но с учетом облачной погоды выше. Теорема Байеса как раз об этом, только немного шире. В переводе на обычный человеческий язык она будет звучать так: вероятность события A с
учетом события B равна вероятности B с учетом A, умноженной на вероятность A саму по себе и деленной на вероятность B саму по себе. Представим, что в обществе распространяется некая болезнь. Учитывая недавние события, вообразить такое несложно. Ты хочешь узнать, не подцепил ли ее, поэтому делаешь тест. В инструкции к тесту видишь примечание: «Чувствительность теста равна 99 %, специфичность — 99 %». Это означает, что если ты болеешь, то с вероятностью 99 % тест правильно это покажет, а если нет, то с вероятностью 99 % он правильно покажет, что ты не болеешь. Иными словами, доли «ложноотрицательных» и «ложноположительных» результатов теста составляют по 1 %. То есть ты делаешь тест и получаешь положительный результат — две полоски. Что это значит? Можно разумно предположить, это значит, что с 99-процентной вероятностью ты болен. Однако это не так. И причина кроется в теореме Байеса. Теорема Байеса странная. Это простое уравнение, которое можно записать на одной строке, и состоит оно только из математических действий, посильных для большинства восьмилетних детей — умножения и деления. Вывел теорему один священник-нонконформист [3] из города Танбридж-Уэллс, занимавшийся математикой в свободное от служб время. Однако несмотря на простоту, она серьезно влияет на нашу жизнь. Именно она объясняет, почему тест на рак может быть точным на 99 %, даже если у 99 % людей, которым этот тест ставит диагноз «рак», на самом деле рака нет. Именно она объясняет, почему вероятность, что ДНК-экспертиза ошибочно укажет на невиновного подозреваемого, составляет лишь один шанс на 20 миллионов, но при этом вероятность, что осудят не того, все равно немаленькая. Теорема Байеса объясняет, почему научные результаты могут быть «статистически значимыми» и при этом с большой вероятностью быть ошибочными. Ей также посвящены интереснейшие философские споры. Является ли «вероятность» объективной реальностью? Когда мы говорим, что вероятность того, что на кубике выпадет единица, составляет один к шести, что мы имеем в виду? Является ли вероятность неким фактом о Вселенной, или же она описывает только наши собственные ожидания о поведении мира? И можно ли разовые события описывать в категориях вероятности? Если сказать, что «Манчестер Сити» с вероятностью 90 % выиграет чемпионат в 2025 году, то что это будет значить? Когда мы принимаем решения о чем-то неопределенном, изменчивом, — а мы делаем это постоянно, — степень удачности таких решений описывает теорема Байеса. Все, кто в меру несовершенных сил пытается
манипулировать миром для достижения какой-то цели, например бактерии, ищущие более высоких концентраций глюкозы, гены, пытающиеся передать копии самих себя следующим поколениям, или правительство, стремящееся добиться экономического роста, — если они справляются со своей задачей, значит, они действуют по Байесу. По сути, прикладная логика Байеса лежит в основе искусственного интеллекта. Он на самом своем базовом уровне пытается делать прогнозы. Простой классификатор изображений, который смотрит на картинки и говорит, что на них изображены кошки или собаки, просто «предсказывает», что сказал бы человек, основываясь на своих обучающих данных и информации, содержащейся на картинке. DALL-E 2, GPT-4, Midjourney и остальные замечательные ИИ-технологии, уже сейчас будоражащие воображение людей, способные вести с тобой беседы и создавать удивительные изображения по простым текстовым описаниям, просто предсказывают, что по промпту сделали бы писатели или художники-люди, основываясь на своих обучающих данных. Работают они на байесовских принципах. Наши мозги тоже работают на байесовских принципах. Ими можно объяснить, почему человек подвержен оптическим иллюзиям, почему психоделические вещества вызывают галлюцинации, как работают разум и сознание. Теорема Байеса помогает понять, почему теории заговора так трудно развенчать и почему два человека могут смотреть на одни и те же доказательства, но видеть в них совершенно разное. Почему научные данные меня убеждают в том, что вакцины безопасны и эффективны, а скептиков — нет? Потому что, как следует из теоремы Байеса, реакция людей на новую информацию зависит от убеждений, которых они уже придерживаются. Дело не в том, что антиваксеры или конспирологи — какие-то странные инопланетяне, чей мозг устроен иначе, а в том, что они ведут себя совершенно рационально, просто с учетом своих убеждений, которые у них уже есть. Теорема Байеса объясняет, как это работает. Видимо, мы имеем дело с теорией почти всего. Практически всего. Как только ты начинаешь смотреть на мир сквозь призму теоремы Байеса, то видишь ее везде. Я намерен сделать так, чтобы и ты, читатель, увидел ее повсюду. Обычный способ объяснить теорему Байеса — привести пример медицинских анализов, реалистичный пример с правдоподобными цифрами: вы проходите скрининг на рак груди. Вы знаете, что если у женщины рак, то маммограмма правильно выявит его в 80 % случаев (то есть чувствительность теста равна 80 %), а в остальных 20 % — пропустит.
Если же рака у нее нет, то маммограмма даст результат «все чисто» в 90 % случаев (ее специфичность равна 90 %), а в 10 % случаев даст результат ложноположительный. Вы получаете тест. Он положительный. Значит ли это, что с 90процентной вероятностью у вас рак? Нет. Информации, которую я вам дал, просто недостаточно, чтобы оценить ваши шансы. Вам нужно знать, насколько вероятным вы считали наличие у вас рака груди до скрининга. Один простой способ это понять — выяснить, какой процент женщин вашего возраста страдает раком груди в определенный момент времени. Допустим, эта доля составляет один процент. Чтобы разобраться на конкретном примере, представим, что скрининг прошли сто тысяч женщин. Из этих ста тысяч у одного процента, то есть у тысячи женщин действительно выявлен рак. Из этой тысячи скрининг поставит правильный диагноз восьмистам женщинам — 80 % — и даст ложноотрицательный результат двумстам. Из 99 тысяч женщин, у которых рака нет, 89 100 женщин получат правильный отрицательный результат, а 9900 — ложноположительный. Если сделать из этих цифр таблицу, получим такую картинку: То есть теперь ясно. Вы приходите к онкологу и получаете положительную маммограмму. Из 10 700 женщин, получивших положительный результат, у 800 действительно выявлен рак. То есть вероятность того, что у вас действительно рак, если вы получили
положительный результат, в этом случае составляет 800/10 700 ≈ 0,07, или около 7 %. Но это полностью зависит от того, насколько велика вероятность, что у вас изначально мог быть рак. Если бы скрининг проходили пациентки из группы риска, скажем, пожилые женщины со случаями рака в семейном анамнезе, то, возможно, рак был бы выявлен у 10 % этих женщин. Но дальше расчеты меняются кардинально: Теперь вместо 800 истинно положительных результатов у вас их 8000, а число ложноположительных результатов снизилось до 9000. Таким образом, вероятность того, что у вас рак, равна 8000/17 000 или около 47 %, — гораздо более тревожная оценка. Тест не изменился, изменилась лишь априорная вероятность. Теорема Байеса подсказывает, до какой степени вам следует изменить свои изначальные представления. Но для этого нужно, чтобы они у вас уже были. Вернемся к уравнению — если я его чуть выше уже вставил, еще в два раза продажи не уменьшатся:
По результатам расчетов получаем P(A|B): вероятность события A с учетом имеющихся данных B, то есть вероятность, что у вас рак, в случае положительного теста. Только это вас, в сущности, и волнует: «Результат получен, насколько вероятно, что у меня рак?» Однако показатель чувствительности 80 % дает результат ровно противоположный, а именно P(B|A), то есть вероятность B при условии A; насколько вероятно, что я увижу такой результат, учитывая, что у меня рак груди? Это может показаться несущественным, но это такая же разница, как между следующими утверждениями: «Есть только один из восьми миллиардов шансов, что отдельно взятый человек — папа Римский» и «Есть только один из восьми миллиардов шансов, что папа Римский — человек». Чтобы разобраться в том, что мы действительно хотим узнать, нам нужно больше информации. В примере с тестом на рак нам нужно знать, насколько распространен рак груди среди населения. В медицинской терминологии такой показатель называют заболеваемостью или распространенностью заболевания (англ. prevalence), или фоновым уровнем (background rate), а в теореме Байеса — априорной вероятностью(prior probability) или априорным представлением (prior). Для медицинских обследований априорную вероятность часто относительно легко вычислить или, по крайней мере, просто определить. Если нужно определить риск развития болезни Хантингтона, можно просмотреть диагнозы, зарегистрированные в журналах общей практики, и подсчитать, что этим заболеванием страдают примерно 12,3 человека на сто тысяч. В других ситуациях это намного сложнее. Если вы хотите узнать, насколько вероятно, что Россия введет войска в Украину, какова априорная вероятность такого события? Сколько раз в год Россия вводила войска в Украину? Как часто одна страна вводит войска в другую страну? Как часто
одна страна вводит войска на территорию другой страны, если первая сосредоточила у границы второй танки? Возьмем другой пример. Насколько вероятно, что моя научная гипотеза верна, учитывая, что я только что провел эксперимент и увидел определенные данные? Допустим, если моя гипотеза ошибочна, я бы ожидал увидеть подобные данные только в одном случае из двадцати. Значит ли это, что я могу сказать, что гипотеза, скорее всего, верна? Нет. Зависит от того, насколько вероятной была моя гипотеза до того, как я начал эксперимент, то есть от того, какова априорная вероятность. Но как же ее определить? И еще один пример. Какова вероятность, что тот или иной человек виновен в преступлении с учетом данных криминалистической экспертизы? Если у меня есть образцы ДНК, шанс получить которые — один на миллион, значит ли это, что вероятность того, что я ошибся в подозреваемом, составляет один на миллион? Нет. Это зависит от того, насколько вероятно, что ваш подозреваемый изначально был «правильным». Но опять же, как вообще все это можно просчитать? До этого мы дойдем. (Есть люди, которые на этом зарабатывают.) Главное — начинать с априорной вероятности и пользоваться теоремой Байеса. В противном случае можно забрести бог знает куда. С теоремой Байеса люди чаще всего впервые сталкиваются в медицине, так что начнем с нее. Я уже много лет слегка одержим теоремой Байеса. Впервые я прочитал о ней в начале двухтысячных в колонке Бена Голдакра под заголовком «Псевдонаука» («Bad Science») в газете The Guardian. С тех пор теорема увлекала меня всё больше и больше. Я написал три книги, включая эту, и во всех трех она фигурирует. Есть что-то удивительное в том, насколько теорема Байеса контринтуитивна. Что значит, когда 99-процентная точность анализа — не то же самое, что 99-процентная вероятность того, что он окажется верным? Что за бред вообще? Если вникнуть в аргументацию — не очень-то сложную, — все становится понятно, но по крайней мере для меня теорема Байеса и сейчас не теряет определенного жутковатого, потустороннего флера. За последние четыре года, с начала 2020‐го, когда ковид-19 начал свое «триумфальное шествие» по планете, она стала намного актуальнее. Еще в апреле 2020 года, когда мы сидели на первом карантине, разные люди, например Тони Блэр, призывали ввести «иммунные паспорта» — тесты на антитела, которые позволят определить, переболел человек ковидом или нет. Если переболел, ему можно было бы выходить на улицу. (Это было еще до того, как мы поняли, что можно легко заразиться несколько раз).
В то время тесты на антитела только появились. Один такой тест, только что получивший экстренную регистрацию в США, показал чувствительность и специфичность на уровне примерно 95 %. Неплохой показатель. Но на апрель 2020 года переболели вирусом, видимо, около 3 % британцев. Это ваша априорная вероятность. Если бы с помощью этого теста вы протестировали миллион человек, можно было бы предположить, что ковидом переболели около 30 тысяч человек. Ваш тест правильно бы выявил 28 500 из них. Но в тестах 970 тысяч человек, не болевших ковидом, он бы дал ложноположительный результат у 48 500 из них. То есть из 77 тысяч человек, которые получили бы положительный результат, в реальности переболели чуть больше трети. Это ваша апостериорная вероятность. Если бы вы протестировали все 65 миллионов британцев и выдали «иммунные паспорта» всем, кто получил положительный результат, это означало бы, что около трех миллионов человек сказали бы, что им можно идти обниматься с бабушками, чей иммунитет ослаблен, хотя это совсем не так. Вы просто не разобрались бы во всем этом, не имея хоть какого-то представления о байесовских принципах. В Британии возник еще один скандал, связанный с этими принципами: несколько комментаторов из числа настроенных скептически в отношении самоизоляции людей какое-то смутное представление о теореме Байеса получили. Бывший министр Джон Редвуд прославился, наверное, больше остальных: «Советники правительства должны нам сегодня сказать, как они собираются бороться с ложными результатами тестов, искажающими цифры», — потребовал он. Дело в том, что один из скептиков неверно истолковал интервью с профессором сэром Дэвидом Шпигелхалтером — жизнерадостным статистиком, который во время пандемии не вылезал из телевизора и радио, терпеливо объясняя точность тестирования или эффективность прививок. Из его слов эти комментаторы извлекли, что когда тестирование дает 1 % ложноположительных результатов, то это не означает, что лишь 1 % всех положительных результатов ложны!.. Все это происходило между первой и второй волнами, когда при малейшем насморке мы делали тестирование при помощи полимеразной цепной реакции — ПЦР-тесты. В то время заболеваемость ковидом среди британцев была довольно низкой — локдаун же снижает число заражений! — но, похоже, она снова начала расти. Однако ковид-диссиденты посчитали, что явный рост заболеваемости — иллюзия, которую можно объяснить с помощью теоремы Байеса. Примерно 0,1 % людей на тот момент болели ковидом. Если бы вы
тестировали людей случайным образом, и ваш тест в 99 % случаев правильно определял бы людей, у которых нет ковида, а людей, у которых ковид есть, — в 90 % случаев, то более 90 % ваших положительных результатов были бы ложными [4]. Все это абсолютно верно. Однако они не зашли в своих байесовских рассуждениях достаточно далеко. Во-первых, действительно ли априорная вероятность составляла 0,1 %? Конечно, если тестировать население полностью случайным образом. Но мы-то не тестировали их так — мы тестировали людей, у которых были симптомы, или же контактировавших с человеком, заболевание которого было подтверждено. Вероятность, что эти люди больны, была гораздо выше. Насколько выше? Мы не знаем, но даже если только у одного процента из них в действительности был ковид, общая доля ложноположительных результатов упала бы до 50 %. Если 10 % из них действительно болели бы, примерно 90 % положительных результатов были бы правильными. И, конечно, мы исходим из того, что доля ложноположительных результатов составляет 1 %. Такой показатель кажется совершенно невероятным. В один момент летом 2020 года, когда ковид, казалось, пошел на убыль, общая доля положительных тестов — и ложных, и правильных — составила 0,05 %, то есть доля ложноположительных результатов не могла объективно превышать этот показатель. Если взять это за основу, то при заболеваемости ковидом на уровне 0,1 % доля неверных положительных результатов упадет примерно до 35 %. Если учесть, что заболеваемость подвергнутой тестированию части населения была выше, как мы аргументировали ранее, получим, что доля неверных положительных результатов среди положительных была еще меньше. Речь, впрочем, может идти не только о ковиде. Невозможно разобраться ни в одной из форм медицинских анализов, не призвав на помощь Байеса. Система медицинского обслуживания (NHS) в Англии делает плановый онкоскрининг трех видов — груди, мозга и толстой кишки. Обследование предстательной железы могут пройти мужчины старше пятидесяти лет, если они обратятся самостоятельно, но в плановом порядке оно не проводится. Почему? Обследование на рак — это же здорово. Все мы знаем, что чем раньше болезнь выявят, тем выше шансы ее победить. Почему тогда не пройти обследование, которое выявит, больны вы раком или нет? Ответ на этот и другие вопросы, заданные в этой книге, — в теореме Байеса.
Скрининг рака предстательной железы проводят с помощью так называемого теста на простатический специфический антиген (ПСА). Он довольно простой. Ты делаешь анализ крови, и если уровень ПСА в крови превышает определенный показатель, — обычно 3 или 4 нанограмма на миллилитр, — тебя направляют на дальнейшее обследование, например, на сканирование или биопсию. Высокий уровень ПСА может быть признаком рака предстательной железы, хотя он же может указывать и на наличие инфекции, воспаления или просто на возраст. ПСА-скрининг не настолько точен, как тесты, о которых шла речь выше. По данным Национального института здоровья и медицинской помощи (NICE) — консультативного медицинского органа Великобритании, — если проводить скрининг на ПСА с отсечкой 3 нанограмма на миллилитр, это позволит правильно выявить около 32 % пациентов, больных раком (чувствительность) и около 85 % пациентов, у которых нет рака (специфичность). Примерно 2 % мужчин за пятьдесят страдают раком предстательной железы. Если еще раз протестировать миллион пациентов, примерно 20 тысяч из них действительно окажутся больны. Правильный диагноз будет поставлен примерно 6 400 из них. А из оставшихся 980 тысяч примерно 147 тысячам вы скажете, что им нужно будет пройти дополнительное обследование. Если вы получите положительный результат по этому тесту, и вы мужчина за пятьдесят, вероятность, что у вас действительно рак, составит примерно 4 %. Стоит ли знать о такой вероятности? Наверное. Но нужно иметь в виду, что надо будет пройти дополнительные обследования, в том числе инвазивные, неприятные, иногда в чем-то рискованные. Плюс, конечно, NHS пришлось бы оплачивать десятки тысяч МРТ-сканирований и биопсий, а это миллионы фунтов. Такие деньги лучше было бы потратить на статины, пересадку почек или зарплату медсестер. Особенность рака предстательной железы заключается в том, что во многих случаях он растет настолько медленно, что мужчины даже не подозревают о том, что он у них может быть; очень часто рак простаты обнаруживают при вскрытии, когда мужчина умер от чего-то другого. Так что возникает еще одна важная тема. Показатели «чувствительность 32 %, специфичность 85 %» вы получите, если примените отсечку в 3 нанограмма на миллилитр. Но можно увеличить этот показатель до 4 нанограмм. Что тогда? Тогда показатель специфичности будет выше. Процент пациентов, которым правильно диагностировано отсутствие рака, увеличится с 85 до 91 %. Но тогда пострадает чувствительность. Доля мужчин, у которых есть
рак, и при этом правильно диагностированный, снизится с 32 до 21 %. Если еще раз протестировать миллион мужчин, то теперь вы получите меньше ложноположительных результатов — 88 200, но меньше и истинно положительных: всего 4 200 из 20 тысяч. В такой ситуации, если вы получили положительный результат, вероятность, что у вас действительно рак, все равно составит всего лишь около 4,5 %. Обойти это невозможно. Можно поднять порог, скажем, до 5 нанограмм на миллилитр, и уменьшить число ложноположительных результатов, но только за счет увеличения числа ложноотрицательных. Или можно снизить порог и уменьшить количество ложноотрицательных результатов, но только ценой увеличения количества ложноположительных. Это неизбежная дилемма, высеченная в камне. Единственный возможный обходной маневр здесь — пройти другое, более эффективное обследование. Ситуация аналогична проблеме «статистической значимости» в науке. Об этой проблеме мы еще поговорим. При раке груди и толстой кишки скрининг довольно точен. Но даже в этом случае он сильно зависит от показателя заболеваемости в популяции. В одном крупном исследовании было показано, что 60 % женщин, которые в течение десяти лет ежегодно делают маммографию, хотя бы один раз получают ложноположительный результат. Их направляют на дополнительные исследования, например на биопсию. Всё это вызывает «тревогу, душевное смятение и беспокойство, связанные с раком молочной железы». Стоит ли оно того? Будет целиком зависеть от фонового уровня заболеваемости в популяции, то есть от априорной вероятности. Рак груди редко встречается у молодых женщин. Если протестировать женщин моложе сорока, то даже довольно чувствительные и специфические тесты дадут очень много ложноположительных результатов. Среди женщин старшего возраста этот метод ценят больше, и в NICE утверждают, что он экономически эффективен, если его делать у женщин старше пятидесяти. Но вы не можете принимать решения, не прибегнув к помощи Байеса. Будущим родителям тоже не помешает почитать о Байесе. Существует вид дородового скрининга, известный как «неинвазивное пренатальное тестирование» (NIPT), при котором у беременной женщины берут на анализ кровь, которую проверяют на наличие различных хромосомных заболеваний у плода. В Великобритании NHS предлагает его пройти женщинам из категорий высокого риска. Еще его делают в частных клиниках, примерно за 500 фунтов. Продают тест, рекламируя его 99процентную точность. Но, опять же, точность теста сама по себе ничего вам не скажет о том, насколько вероятна правильность вашего результата. Заболевания, ради выявления которых его проходят, редки; это синдром
Дауна, синдром Патау и синдром Эдвардса. Но они при этом крайне серьезны. Ребенок с синдромом Дауна может прожить долгую и счастливую жизнь, но ему скорее всего будет необходим пожизненный уход, в то время как дети с синдромами Патау и Эдвардса обычно умирают в первые месяцы или годы жизни. Очевидно, что для родителей очень важно, точны результаты тестов или нет. Анализ данных показал, что НИПТ-тестирование населения в целом, а не только беременных из группы высокого риска, часто дает ложноположительные результаты. «Прогностическая ценность положительного результата» (positive predictive value), то есть процентная вероятность того, что данный положительный результат окажется истинно положительным, для синдрома Дауна составила 82 %, для синдрома Патау — 49 %, для синдрома Эдвардса — всего 37 %. Если ограничиться только группами высокого риска, то эти показатели значительно возрастают: для синдрома Эдвардса прогностическая ценность положительного результата теста достигает 84 %. Иными словами, если проводить тест на будущих матерях методом случайной выборки, то почти два из трех полученных положительных результатов будут ложными. Но если ограничиться только группами повышенного риска, то ложным окажется менее чем один результат из шести. Это «чистый Байес». Новые данные сами по себе не могут описать всю картину. Нужно знать априорную вероятность. Это не гипотетическая и не научная задача. Если вы ждете ребенка, делаете один из таких тестов и получаете положительный результат, теорема Байеса станет центральным фактором в принятии решения о том, что делать дальше. И, как мы увидим ниже, нельзя рассчитывать, что врачи вам помогут. Они, как и все мы, склонны считать, что тест, точность которого составляет 99 %, верен в 99 % случаев. Все это касается не только медицины. В юридической сфере есть понятие «заблуждение прокурора», которое буквально означает, что человек в своем мышлении просто не следует заветам Байеса. Представьте, что вы делаете экспертизу ДНК на месте преступления. Вы находите образец на рукоятке орудия убийства, который совпадает с ДНК человека из вашей базы данных. Совпадение ДНК довольно точное: такая точность встречается примерно один раз на три миллиона. Значит ли это, что вероятность того, что ваш подозреваемый невиновен, составляет всего один на три миллиона? Надеюсь, сейчас вы уже понимаете, что это не так. Вам нужно знать априорную вероятность. Есть ли какие-то особые причины считать, что этот человек — именно тот, кто вам нужен, или ваша
база данных представляет собой просто случайную выборку жителей Великобритании? Если это так, то априорная вероятность того, что подозреваемый вами человек — преступник, равна одному к 65 миллионам: есть 65 миллионов британцев и только один человек, совершивший это конкретное преступление. Если бы вы сделали анализ ДНК каждого британца, то по чистой случайности получили бы около двадцати совпадений ДНК, плюс преступник. Таким образом, вероятность того, что вы вышли на правильного подозреваемого, составляет плюс-минус 5 %. Но если бы вы заранее сузили круг подозреваемых до десяти человек — скажем, вы Эркюль Пуаро и знаете, что это один из десяти человек, запертых в загородном особняке снежной бурей, — то это было бы совсем другое дело. Ваша априорная вероятность в таком случае — 10 %. Если ДНК одного из этих десяти человек совпадет с найденным образцом, то вероятность ложноположи-тельного результата составит примерно один к 300 000 [5]. И, опять же, это не какое-то крючкотворство и не копание в малозначимых мелочах. На этих цифрах строятся реальные судебные дела. В 1990 году суд признал некоего Эндрю Дина виновным в изнасиловании — частично на основании данных ДНК. Свидетель-эксперт заявил суду, что вероятность того, что ДНК принадлежит кому-то другому, составляет один к трем миллионам. Однако приговор Дину отменили (хотя на повторном процессе он был все равно признан виновным), потому что, как объяснил один статистик, два вопроса — «Насколько вероятно совпадение ДНК человека с [найденным] образцом ДНК, если он невиновен?» и «Насколько вероятно, что человек невиновен, если его ДНК совпадает с образцом?» — не одно и то же, так же как вопрос «Насколько вероятно, что некий человек является Папой Римским?» не то же самое, что и вопрос «Насколько вероятно, что Папа Римский — человек?». Иногда ошибки возникают и в обратную сторону. На суде по делу бывшей звезды американского футбола О. Дж. Симпсона, обвиненного в убийстве своей жены Николь Браун Симпсон, обвинение утверждало, что Симпсон был склонен к физическому насилию. Защита возражала, что за условный год «бесконечно малый процент мужчин, которые бьют своих жен», потом их убивают. Но это была ошибка, противоположная заблуждению прокурора. Годовая вероятность того, что мужчина, избивающий свою жену, убьет ее, может составлять «всего» один к 2500. Но мы спрашиваем не об этом. Мы спрашиваем, если мужчина избивает жену, и, учитывая, что жена была убита, какова вероятность, что убил ее муж?
Немецкий психолог и исследователь риска Герд Гигеренцер указал на то, что если цифра один к 2500 верна, то на каждые сто тысяч женщин, страдающих от домашнего насилия, приходится около сорока убитых. Базовый показатель убийств среди американских женщин составляет примерно пять на 100 000. То есть априорная вероятность того, что американка, ставшая жертвой домашнего насилия, будет убита своим мужем, составляет примерно один к 2500 в год. Но нам нужно рассмотреть эту вероятность с учетом новой информации: теперь мы знаем, что именно эта женщина была убита. Именно здесь вступает в дело байесовская математика. Если мы возьмем сто тысяч жертв домашнего насилия, то можем предположить, что за условный год 99 955 женщин убиты не будут. Но из оставшихся сорока пяти сорок убьют их мужья. Защита совершила ошибку, обратную заблуждению прокурора: она привела только априорную вероятность и проигнорировала уже имеющуюся новую информацию. Теорема Байеса, хотя и помогает нам понять эти ошибки в рассуждениях, может рассказать и о более глубоких вещах. Слово «обратная» в предыдущем абзаце — ключевое. Часто статистика и теория вероятности говорят, насколько вероятно, что вы получите какой-то результат случайно. Если мои игральные кости — геометрически правильные по форме, три шестерки одновременно мне выпадут один раз из 216. Если меня не было на месте преступления, моя ДНК должна совпасть с найденным образцом с вероятностью один на 3 миллиона. Зачастую, впрочем, это не то, что мы хотим знать. Если мы опасаемся, что человек, с которым мы играем в кости, — шулер, мы, наверное, захотим узнать, «если ему выпадет три шестерки, какова вероятность того, что его кубики правильные по форме?» Если чья-то ДНК совпадает с образцом, найденным на месте преступления, мы, наверное, захотим узнать, какова вероятность того, что это случайность. А это ровно противоположный вопрос. Долгое время история вероятности сводилась к постановке первого вопроса. Но после того как в XVIII веке преподобный Томас Байес, о котором мы расскажем чуть позже, начал задавать второй вопрос, его стали называть обратной вероятностью. В этой книге вы увидите, что теорема Байеса на удивление спорна. У нее есть сторонники и враги, причем и тех, и тех гораздо больше, чем у любого сопоставимого однострочного уравнения. Вы не встретите людей, которые бы ругались в интернете из-за выражения для вычисления площади поверхности сферы или из-за формулы Эйлера. Причина, по-моему, кроется в том, что теорема Байеса влияет на всё. Насколько вероятно, что та или иная научная гипотеза верна с учетом
результатов того или иного исследования? Я могу сказать, какова вероятность, что вы увидите результаты, которые увидели бы, если бы она не была верна, но это не одно и то же. Чтобы оценить, насколько это вероятно, — а все больше ученых утверждают, что именно этим и должна заниматься статистика, — нам нужна теорема Байеса и априорные вероятности. Более того, все решения, принимаемые в условиях неопределенности, являются байесовскими; или вернее так: теорема Байеса обеспечивает принятие идеальных решений, и степень, в которой агент подчиняется Байесу, есть мера правильности его решений. Сама логика — «Все люди смертны, Сократ — человек, следовательно, Сократ смертен», помните, наверное? — это лишь частный случай байесовских рассуждений, в которых можно использовать только вероятности, равные единице и нулю. Похоже, мы, люди, — байесовские машины. Это верно на довольно высоком уровне: формально людям сложно разобраться в теореме Байеса, но решения, которые мы принимаем в повседневной жизни, вполне сопоставимы с теми, которые принимал бы идеальный сторонник байесовского подхода. К сожалению, это не значит, что мы в итоге во всем согласимся друг с другом: если мои представления сильно отличаются от ваших, то одни и те же данные или доказательства могут привести нас к совершенно разным выводам. Именно так мы можем прийти к глубоким, но искренним разногласиям по вопросам о климате, прививках или по любым другим вопросам, которые, казалось бы, снабжены убедительными доказательствами или данными. На более глубоком уровне мы тоже байесианцы. Наш мозг, наше восприятие, похоже, работают, давая предсказания о поведении мира — априорные вероятности — и исправляя эти предсказания информацией от наших органов чувств: новыми данными. Наше осознанное восприятие мира — вот наша априорная информация. Я предсказываю, следовательно, существую.
Глава первая От «Книги общих молитв» до Full Monty Carlo
Байес-человек Недалеко от станции метро «Олд Стрит» в районе Шордич в восточной части Лондона есть кладбище Банхилл-Филдс. Здесь похоронено довольно много известных людей. Самый, пожалуй, знаменитый из них — Уильям Блейк. Здесь также лежит автор «Робинзона Крузо» и «Дневника чумного года» Даниэль Дефо и Джон Беньян, написавший «Путешествия Пилигрима». Но тем, кто, как я, много раз ходил от метро до расположенного неподалеку Королевского статистического общества, кладбище БанхиллФилдс известно как последнее пристанище преподобного Томаса Байеса. Байес жил в XVIII веке, служил пресвитерианским священником и был математиком-любителем. При жизни он опубликовал один богословский труд и один текст о ньютоновском исчислении. Но больше всего его помнят по короткой работе «Очерк к решению проблемы доктрины шансов». Она была опубликована после его смерти в журнале Philosophical Transactions: несколько незаконченных заметок, оставленных Байесом, нашел и отредактировал его друг Ричард Прайс. Книга, которую вы держите в руках, посвящена обманчиво простой идее, которую разработал Байес, — его теореме. Она, без преувеличения, является, возможно, самым важным уравнением в истории. Однако о ее авторе как человеке известно очень мало. Тот факт, что мы можем сказать лишь то, что он вероятно родился в 1701 году, дает представление о том, насколько скудны сведения о нем. В 2004 году почетный профессор статистики в канадском Университете Уотерлу Дэвид Беллхаус написал биографию Байеса для журнала Statistical Science. Проблема, по его словам, заключалась в том, что Байес был нонконформистом — членом общины, отколовшейся от Церкви Англии изза определенных разногласий с ней. Чтобы понять, в чем здесь загвоздка, придется вернуться на пару столетий назад. Поклонники сериала «Волчий зал» помнят, что Генрих VIII отделил Англию от Католической церкви в 1533 году, чтобы жениться на Анне Болейн. Он был несколько раз женат и умер в 1547 году. После его смерти архиепископ Кранмер двумя годами позже ввел в обиход «Книгу общих молитв», сделав ее обязательной для богослужений во всех церквях Англии.
В 1553‐м дочь Генриха Мария отменила его решение, а самого Кранмера велела сжечь на костре как еретика, чтобы максимально доходчиво довести свою точку зрения до всех. Елизавета I через несколько лет снова ввела в обращение «Книгу», и все продолжали пользоваться ею еще почти столетие, вплоть до Гражданской войны в Англии. В период Английской республики, то есть с момента казни Карла I в 1649 году до восстановления монархии в 1660‐м, религиозные ограничения были ослаблены, но в 1662 году парламент принял Закон о единоверии, по которому «Книгу» снова нужно было использовать во всех церквях Англии. К тому времени некоторые священники уже привыкли к свободе, которой пользовались во времена республики Оливера Кромвеля. Примерно две тысячи из них — в основном сторонники пуританской традиции — отказались пользоваться «Книгой», были извергнуты из сана и лишились своих должностей в Англиканской церкви. Тем не менее многие из них продолжали проповедовать, часто пользуясь защитой мелкопоместного дворянства. Этих священников стали называть «несогласными» или «нонконформистами». Принятый в 1688 году Акт о веротерпимости гарантировал нонконформистам, пресвитерианам и квакерам свободу вероисповедания, и им — в отличие от католиков того времени, — больше не нужно было совершать богослужения в тайне. При этом они должны были получать лицензии на свои храмы, им запрещалось занимать государственные должности и — что важно для нашей истории — учиться в английских университетах. Вместо них ученые из числа нонконформистов и будущие священники поступали в шотландские университеты, в частности в Эдинбургский, или в голландские, в том числе в Лейденский. Члены семьи Байесов были нонконформистами. При этом они были состоятельными людьми: прадед Томаса Ричард Байес разбогател на металлургии в Шеффилде: он выпускал столовые приборы. У Ричарда и его жены Элис, урожденной Чапман, было двое сыновей. Один из них — Сэмюэл — стал священником: таким путем шли многие отпрыски богатых семей из числа как нонконформистов, так и англикан. Сэмюэлу повезло: возраста, когда нужно было поступать в университет, он достиг во времена Английской республики, поэтому ему разрешили учиться в кембриджском Тринити-колледже, который он окончил в 1656‐м. Несмотря на свои нонконформистские убеждения, Сэмюэл стал викарием в Нортхэмптоншире, хотя оказался среди тех двух тысяч священников, отказавшихся в 1662 году подчиняться Акту о единоверии. Поэтому и прихода своего он лишился. Другой сын Ричарда и Элис Байесов —
Джошуа — дед Томаса, пошел по стопам отца и занимался семейным делом. На тот момент Байесы вполне серьезно относились к нонконформистской миссии. Джошуа дал деньги на строительство часовни в Шеффилде. У него было четверо дочерей и три сына, но две дочери и один сын умерли в младенчестве. Один из его зятьев основал еще один нонконформистский приход, второй зять служил священником в другом. Второй сын Джошуа, тоже Джошуа, родился в 1671 году. Он изучал философию и богословие в одной из Школ для несогласных [6] на севере Англии, которая вынуждена была несколько раз переезжать с места на место из-за притеснений со стороны государства и преследования ученыхнонконформистов. Затем он стал священником и служил в нескольких лондонских церквях, сначала в районе Саутуарк, потом — недалеко от Фаррингдона. Если верить Беллхаусу, паства его уважала «и как проповедника, и как человека ученого». Он также был классическим пуританином-семьянином с целым выводком детей. Джошуа вступил в брак с Анной Карпентер в октябре 1700 года, хотя точная дата свадьбы неизвестна, вероятно из-за того, что церемония прошла в нонконформистской церкви. Реестры рождений, смертей и браков вела Церковь Англии. Нонконформистские общины часто хранили свои записи в тайне или не вели их вовсе, опасаясь дискриминации. По той же причине даты рождения семерых детей Джошуа и Анны неизвестны. Все семеро дожили до совершеннолетия, что было довольно необычно для того времени — около трети английских детей, рождавшихся в начале XVIII века, умирали, не дожив до пяти лет. Мы знаем, что Томас — старший из детей — умер в апреле 1761 года в возрасте пятидесяти девяти лет, поэтому он «с вероятностью 0,8» родился в 1701 году (или в самом начале 1702 года). Его братьями и сестрами были, в порядке рождения, Мэри, Джон, Анна, Сэмюэл, Ребекка и Натаниэль; нам известны годы их смерти и возраст (Джон умер самым молодым, в возрасте тридцати восьми лет в 1743 году, а Ребекка дожила до восьмидесяти двух), но не точные даты их рождения. Семья жила в полном соответствии с нашими представлениями о жизни богатых образованных семейств того времени. Один из сыновей — Джон — поступил в училище правоведения «Линкольнс-Инн», в 1739‐м стал адвокатом. Сэмюэл и Натаниэль занимались торговлей, как их дед и прадед: Сэмюэл продавал белье, Натаниэль был бакалейщиком. Анна и Ребекка вышли замуж за обеспеченных людей своего круга — торговца
текстилем и адвоката соответственно. А Томас, конечно же, пошел по стопам отца и стал нонконформистским священником. Обучением мальчика занимался, вероятно, друг семьи Джон Уорд, который позднее стал профессором риторики в кембриджском Грешемколледже и членом Королевского общества [7]. Отец Томаса оплатил тираж безусловно увлекательной книги Уорда «Жизнь профессоров Грешемколледжа», и биограф Уорда говорит, что последнего «побудили взять на себя обучение нескольких детей его друзей». В итоге он открыл школу в Мурфилдсе. Существует также предположение, что Томаса обучал Абрахам де Муавр — один из великих первопроходцев теории вероятностей, вынужденный бежать из Франции в Лондон и зарабатывать там на жизнь репетиторством; впрочем, кажется, что это всего лишь предположение. Томас вырос умным молодым человеком: из письма ему от Уорда, написанного в 1720 году, когда Томасу было восемнадцать или девятнадцать лет, ясно следует, что Байес свободно читал по-гречески и по-латыни, — само письмо, кстати, было написано на латыни. В письме Уорд дает Томасу советы, как лучше составлять тексты на латыни. Несмотря на богатство и связи семьи, а также собственные умственные способности, выходцу из среды нонконформистов Томасу Байесу путь в английские университеты был закрыт. В 1719 году он отправился в Эдинбург, где, судя по всему, начал учиться у Колина Драммонда — профессора логики и метафизики. Письмо Уорда от 1720 года также сообщает нам, что Байес изучал математику, к удовлетворению Уорда: «Порядок, которого вы придерживаетесь в остальных ваших занятиях, я не могу не одобрить. Занимаясь одновременно и математикой, и логикой, вы будете яснее и четче замечать, какой вклад вносит каждый из этих прекрасных инструментов в управление мыслью и чувством». Однако в Эдинбург Байеса поехал все же не за этим, а чтобы изучать богословие и готовиться к жизни священника. В 1720‐м он поступил на богословский факультет (Divinity Hall), документы которого свидетельствуют о том, что он занимался там, в частности, анализом стихов Евангелия от Матфея. Последний документ датируется январем 1722 года, то есть в Эдинбурге он прожил как минимум до этого момента. Еще один факт, известный о жизни Байеса — он приехал в Лондон примерно в 1728 году; именно тогда его имя появилось в списке священнослужителей, представленном комитету пресвитериан, индепендентов и баптистов, в котором Джошуа — отец Томаса — часто заседал и иногда председательствовал. На тот момент Томас уже официально считался священником — сдал все необходимые экзамены — но прихода своего еще не имел. К 1732 году, согласно тому же списку за
этот год, он уже служил вместе с отцом в церкви на Лезер-Лейн недалеко от Фаррингдона. К началу 1734‐го он переехал в городок Танбридж-Уэллс в графстве Кент, где возглавил приход уже сам. О сути убеждений Байеса нам точно неизвестно. Мы знаем, что он был нонконформистом, но и только. Тем не менее и этого достаточно, чтобы понять, что у него были довольно необычные, даже откровенно еретические для своего времени взгляды. Он не был ни англиканином, ни католиком. Между этими учениями есть разница, но она не столь велика. Для постороннего они расходятся по весьма малозначимым вопросам. Католики верят, что спасение возможно только в рамках Церкви, тогда как англикане убеждены, что если верить в Иисуса Христа и следовать Его заветам, то попадешь в рай, даже если ни разу в жизни не видел священника. Католики верят, что облатка и вино буквально пресуществляются в Тело и Кровь Христовы во время таинства Евхаристии, в то время как большинство англикан считает, что они просто пропитаны Его Духом. При этом и те, и другие верят в Святую Троицу — Бога Отца, Бога Сына и Бога Духа Святого, — и что Бог одновременно единосущен и триипостасен. Некоторые нонконформисты имели совершенно другие взгляды. В частности, ариане и социниане отрицали догмат о Троице (и, как следствие, «мейнстримные» христиане считали их еретиками). Ариане считали, что Бог Отец есть верховный Бог, а Иисус, его сын — Бог малый, существовавший всегда, даже до того, как физически появился на Земле. Социниане же соглашались с тем, что Иисус — малый Бог, но считали, что он появился на свет только в момент собственно Рождества Христова. Позднее из двух этих ересей выросло унитарианство. Его сторонники так же отрицали догмат о Троице, но пошли в этом отрицании еще дальше: они утверждают, что Бог один и что Иисус — человек. Эти убеждения получили довольно широкое распространение среди пресвитерианских общин в XVIII веке. «Пресвитериане были действительно свободными мыслителями», — пишет Беллхаус, хотя и не настолько свободными, чтобы эти еретические убеждения не приводили к конфликтам: в 1719 году проповедники Джеймс Пирс и Джозеф Халлетт были изгнаны из пресвитерианских церквей в Эксетере из-за обвинений в ереси арианства. Первой публикацией Байеса стала богословская работа 1731 года «Божественная милость, или попытка доказать, что главная цель Божественного провидения и правления есть счастье его созданий: ответ на памфлет под названием „Божественная прямота, или Исследование о нравственных совершенствах Божества“, с опровержением выдвинутых в
нем понятий о красоте и порядке, причине наказания и необходимости состояния испытания, предшествующего совершенному счастью». Его имя не было указано на авторской странице (хотя, если честно, там вряд ли нашлось бы для него место), но считается, что работа именно его. Друг Байеса Ричард Прайс ссылается на нее в собственных текстах и называет автором Байеса. «Божественная милость» — работа о теодицее, попытка объяснить, почему Бог, если он всемогущ и всемилостив, допускает зло в мире. Как писал Дэвид Юм, очевидно цитируя Эпикура: «Хочет ли он предотвратить зло, но не может? Тогда он беспомощен. Может, но не хочет? Тогда он злонамерен. Может и хочет? Тогда откуда берется зло?» Своей работой Байес отвечал на трактат Джона Болги — англиканского богослова, утверждавшего: страдания в мире вызваны тем, что доброта Бога заключается в совершении «правильного и уместного», а это не обязательно должно нравиться нам, людям. Байес, напротив, верил, что Бог действительно милостив и хочет, чтобы мы были счастливы. Поскольку многие из нас несчастны, большая часть аргументации Байеса была посвящена объяснению причин, по которым Бог не пытается сделать нас счастливыми, хотя Он может и хочет этого. Работа была, очевидно, весьма спорной и широко разошлась. Однако «Божественная милость» не укладывалась в собственные религиозные представления Байеса. Его отец Джошуа Байес был «умеренным кальвинистом, терпимым к разным взглядам», но Беллхаус утверждает, что Томас, вероятно, был последователем арианства или социнианства и «отчасти унитарианства». «Он не был среднестатистическим ортодоксальным христианином», — пишет Беллхаус. «Он учился на пресвитерианского священника, но сам скорее всего был сторонником социнианства». Разгадка кроется в круге его общения. Среди друзей Байеса был некто Джеймс Фостер — тоже диссидентствующий проповедник, который сам был дружен с двумя эксетерскими священниками, отлученными от церкви за арианство. Фостер также написал памфлет «Очерк об основах религии», в котором утверждал, что Троица не особо важна для христианства, что, на мой взгляд, звучит как опасная ересь. Еще одним соратником Байеса был Уильям Уистон — преемник Исаака Ньютона на посту лукасовского профессора математики в Кембридже. Однажды за завтраком Фостер и Уистон спросили Байеса, будет ли на проповеди в местной англиканской церкви в приближающийся выходной упомянут Афанасьевский Символ веры, который содержит догмат о Троице.
Уистон сказал, что если будет, он покинет службу, на что Байес заверил его, что вряд ли. После смерти Байес оставит 200 фунтов Джону Хойлу и Ричарду Прайсу — двум лондонским нонконформистским священникам. Оба они были арианами по вероисповеданию, и обе их церкви позже стали унитарианскими. Прайс был близким другом Байеса. Когда Байес умер, именно он переработал и опубликовал знаменитое сочинение, содержавшее теорему Байеса. Томас Байес жил в мире высшего общества. Его коллеги, как правило, имели университетское образование, многие — степень доктора богословия и дворянские титулы. Это видно по его общению с такими уважаемыми людьми, как Уорд и Уистон. В Танбридж-Уэллсе Байес продолжал общаться с известными людьми, обладавшими большими связями. Самым важным из них был, по-видимому, Филип Стенхоуп — второй граф Стенхоуп. Танбридж-Уэллс в те годы был «в основном туристическим городком». Добраться до него из Лондона можно было за день конным экипажем, а самой известной его достопримечательностью был крупный и очень популярный курорт, «питаемый» местным источником. Стенхоуп, ставший графом в возрасте семи лет после смерти отца, семейное имение которого в Чивнинге располагалось всего в нескольких милях от Танбриджа, начал постоянно ездить туда с двадцатилетнего возраста. Он был младше Байеса — родился в 1713 году. Молодой граф был увлеченным математиком-любителем. В детстве дядя и опекун пытались отбить у него интерес к математике и подтолкнуть к литературным занятиям, но по достижении совершеннолетия он взялся за нее с удвоенной энергией. «Он прочел много книг по богословию, метафизике и математике», — писал один из его современников. «Он постоянно делал какие-то математические заметки в записной книжке, поэтому кто-то считал его фокусником, кто-то — дураком», — писал другой. Стенхоуп, судя по всему, создал целую сеть из коллег-ученых и математиков. В нее, помимо Байеса, входили математик из Университета Глазго Роберт Смит, чьи работы Стенхоуп опубликовал посмертно, химик и первооткрыватель кислорода Джозеф Пристли, а также Джон Имс — ученый-богослов, друг Исаака Ньютона. Все они, как и многие другие люди из окружения Стенхоупа, были нонконформистами того или иного толка, и большинство из них были учеными джентльменами — любителями, занимавшимися наукой как хобби. «Он не был похож на современного ученого», — пишет Беллхаус о Байесе. «Он был скорее любитель, знаток. Он занимался наукой ради
собственного удовольствия, а не по какой-то исследовательской программе». То есть Стенхоуп и Байес — умные люди, располагавшие свободным временем и занятые несложной работой, — проводили за математическими штудиями свой досуг. По словам того же Беллхауса, «занятия наукой давали богатым людям XVIII века возможность приятно провести время, примерно как спорт в наши дни». Друзья постоянно писали друг другу; их переписку нашли относительно недавно среди вещей Стенхоупа. Судя по всему, Стенхоуп познакомился с Байесом в 1730‐е годы, раздобыв незадолго до того или получив вскоре после знакомства экземпляр байесовской работы «Введение в теорию флюксий». В ней Байес защищал ньютоновские исчисления от нападок философа Джорджа Беркли. Байес был верным сторонником Ньютона. «Некоторые [нонконформисты] не решались преподавать математику, — пишет Беллхаус, — вдруг она приведет к ньютоновской науке, а от нее — к атеизму. Но представители гораздо более значимой группы среди нонконформистов утверждали, что изучать математику важно, чтобы понимать мир Божий». Беркли утверждал, что Ньютон, по сути, совершил ошибку деления на ноль: один из членов в ключевом уравнении был одновременно нулевым и ненулевым, и поэтому его «теория флюксий» заведомо противоречива. Байес в своем ответе попытался более строго закрепить определения Ньютона, точно установив, что означают те или иные термины. После этого Байес проделал некоторую работу по изучению бесконечных рядов и их связи с производными. Производная — это скорость изменения величины, или же наклон графика. Если у нас есть график по осям времени (в секундах) и координаты (в метрах), то форма линии даст нам представление о скорости (в метрах в секунду). Если линия прямая, то скорость постоянна. Если она кривая, скорость меняется. Производная измеряет наклон кривой в конкретной точке, поэтому можно определить скорость для любого значения координаты или времени. Можно подняться еще на один уровень: разделите изменение скорости на изменение времени и получите ускорение, которое является второй производной от расстояния по времени.
Бесконечный ряд — это вид суммы, но суммы, продолжающейся бесконечно. Если я скажу «x равно один плюс два плюс три плюс четыре и так далее» [8], то это бесконечный ряд, и x равно бесконечности [9]. Однако суммы некоторых бесконечных рядов вовсе не бесконечны. Например, если я скажу «x равно половина плюс четверть плюс одна восьмая плюс одна шестнадцатая плюс 1/32 и так далее», [10] то это тоже бесконечный ряд, и x равен единице. Байес показал, что производная функции y равна бесконечному ряду: приращение y при изменении аргумента на единицу минус половина от «двойного приращения» (приращения приращения) y плюс треть от тройного приращения y и так далее [11]. Это маленькая аккуратная теорема, найденная в бумагах Стэнхоупа уже после смерти обоих («Теорема, о которой мне в Танбридж-Уэллсе сказал мистер Байес 12 августа 1747 года», — гласит лаконичная запись на клочке бумаги), и которую, как считает Беллхаус, самостоятельно открыл четверть века спустя французский математик Жозеф-Луи Лагранж. Примерно тогда Байес и заинтересовался теорией вероятности. Но прежде чем перейти к ней, нужно сказать пару слов о математике случайности и о том, над чем тогда вообще люди работали.
Паскаль и Ферма Принято считать, что история изучения вероятности начинается во французских игорных домах в середине XVII века. Но мы можем заглянуть и в более давнее время. В XVI веке итальянский эрудит Джероламо Кардано попытался дать количественную оценку математике игры в кости. Например, какова вероятность, что выпадет шестерка за четыре броска кубика или две шестерки за 24 броска пары кубиков? Ход его рассуждений выглядел следующим образом. Вероятность, что выпадет шестерка, составляет один к шести, или ⅙ , или около 17 %. Обычно в теории вероятностей мы даем цифру не в процентах, а в виде числа от нуля до единицы, которое мы называем P. Таким образом, вероятность выпадения шестерки равна p=0,17. (На самом деле 0,1666666… но я округлил). Кардано разумно предположил, что если бросить кубик четыре раза, вероятность возрастет в четыре раза — до 4/6 или 0,67. Но если задуматься, такой расчет не может быть правильным, потому что будет значить, что если бросить кубик шесть раз, шанс, что выпадет шестерка, будет равен одной шестой, умноженной на шесть, или единице, то есть будет означать стопроцентную уверенность, что это произойдет. Но очевидно, что можно бросить кубики шесть раз, и ни в один из них шестерка не выпадет. Кардано сбил с толку тот факт, что среднее количество выпавших на четырех кубиках шестерок составляет 0,67. Но иногда их может выпасть три, иногда — ни одной. Шансы, что выпадет шестерка (или, говоря строже, хотя бы одна шестерка) — это нечто другое. Если один кубик бросить четыре раза, мы сильно ошибемся: реальный ответ будет примерно 0,52, а не 0,67, но все равно будем правы, если поставим на то, что шестерка скорее выпадет, чем нет. Однако если воспользоваться рассуждением Кардано для второго вопроса — о том, каков шанс, что шестерка выпадет на двух кубиках, если бросить их 24 раза, в игре оно собьет вас с толку. Его расчеты показали бы, что, поскольку две шестерки выпадают один раз из тридцати шести (p≈0,03), то, бросив кости 24 раза, соответствующий шанс увеличится в 24 раза — двадцать четыре из тридцати шести или две трети (p≈0,67, опять же).
Теперь, однако, его разумная, но ошибочная мысль заставит нас сделать неверную ставку. Шанс, что шестерка выпадет два раза, если кости бросить 24 раза, равен 0,49 — чуть меньше половины. Если делать такую ставку, мы потеряем деньги. Что же тут не так? Столетие спустя — в 1654 году — теми же вопросами по понятным профессиональным причинам заинтересовался Антуан Гомбо, азартный игрок и философ-любитель, называвший себя Шевалье де Мере. Он заметил именно то, о чем мы только что говорили: ставка на то, что нам выпадет хотя бы одна шестерка за четыре броска одного кубика, принесет деньги, а ставка на то, что две шестерки выпадут хотя бы раз за 24 броска двух кубиков, не принесет. Гомбо путем простых эмпирических наблюдений пришел к гораздо более реалистичной позиции, чем Кардано. Но он чувствовал, что запутался. Почему эти два результата оказались разными? Ведь шесть к четырем — то же, что тридцать шесть к двадцати четырем. Он привлек друга, математика Пьера де Каркави, но и вместе они так и не смогли разобраться. Тогда они обратились к общему другу, великому математику Блезу Паскалю. Решение этой задачи на самом деле не такое уж сложное. Кардано зашел не с той стороны: идея в том, чтобы по числу ходов оценивать шанс не того, что некое событие произойдет, а того, что оно не произойдет. Если бросить игральный кубик один раз, шанс, что не выпадет шестерка, равен ⅚, или p≈0,83. Если его бросить снова, шанс, что шестерка не выпадет ни в одном из бросков, составит 0,83, умноженное на 0,83, то есть чуть меньше 0,7. С каждым броском кубика вы уменьшаете шанс, что шестерка не выпадет, на 17 %. Если бросить кубик четыре раза, шанс, что шестерка не выпадет, составляет 0,83 × 0,83 × 0,83 × 0,83 ≈ 0,48. (Для экономии времени можно сказать «0,83 в четвертой степени», или '0,83 4 »). То есть шанс, что выпадет шестерка, равен 1 минус 0,48, то есть 0,52, или 52 %. Если поставить на выпадение шестерки 100 раз с равными ставками, вы ожидаете, что выиграете 52 раза и в среднем будете в прибыли. Но посмотрите, что произойдет, если проделать то же самое с двумя кубиками в попытке добиться, чтобы выпали две шестерки. Шанс, что выпадут две шестерки при одном броске двух кубиков, равен 1/36, или p≈0,03, — мы об этом уже говорили выше. Значит, ваш шанс, что две шестерки не выпадут, равен 35/36, или около 0,97.
Если бросить кости 24 раза, шанс, что две шестерки не выпадут, равен 0,97, умноженным на себя 24 раза (0,97 24 ). Если проделать вычисления, результат будет 0,51. То есть шанс, что выпадет двойная шестерка, равен 0,49. Если побиться об заклад при равных ставках можно рассчитывать, что нужная комбинация выпадет в сорока девяти случаях из ста, и вы потеряете деньги. Здесь надо заметить, что Гомбо, видимо, потратил совершенно героические количество сил и времени на азартные игры, чтобы определить, что ставка в 52 % сработает, а в 49 % — нет [12]. Очевидно, он сделал правильный вывод, что для удачной ставки нужно не 24, а 25 бросков костей. Гомбо явно нравилось играть в кости. Благодаря этим играм он задал Паскалю еще один вопрос. Представим, что два человека играют в азартную игру — в карты или в кости. Игра прерывается на середине, причем один из игроков лидирует. Как справедливо разделить банк? Неправильно ведь просто разделить его пополам, поскольку один из игроков все же лидирует; но так же несправедливо отдать все этому игроку, ведь хотя он и лидирует, но еще не выиграл. Паскаль счел эту задачу увлекательной и обменялся серией писем о ней со своим современником Пьером де Ферма, известным по своей Великой теореме [13]. Опять же, этой задаче несколько веков. Итальянский монах Пачоли попытался решить нечто подобное в 1494 году в работе «Сумма арифметики, геометрии, отношений и пропорций» (Summa de arithmetica, geometrica, proportioni et proportionalità). Он представляет, что два игрока играют в мяч и за каждый гол получают десять очков; побеждает тот, кто первым наберет шестьдесят очков [14]. Один из игроков заработал 50 очков, другой — 20, после чего игра останавливается. Как разделить выигрыш? Пачоли считал, что раз один игрок набрал пять седьмых всех очков, то он и должен заполучить пять седьмых банка. Сорок пять лет спустя уже упоминавшийся Кардано — тот самый, кто в задаче про кости ошибся в расчетах и, возможно, мог бы проявить чуть больше скромности, — назвал решение Пачоли «абсурдным». Он вообразил несколько иной сценарий, в котором два игрока играют в игру до десяти очков. У одного семь очков, у второго девять. В такой ситуации, если взять за основу систему Пачоли, первый игрок должен получить почти половину банка — семь шестнадцатых, а второй — лишь немного больше: девять
шестнадцатых. Но такой расклад кажется явно несправедливым, ведь одному игроку для победы нужно всего одно очко, а другому — три. Кардано предложил более справедливый подход. «Его главная мысль, — пишет Пракаш Горручурн, — заключалась в том, что разделение ставок должно зависеть от того, сколько раундов каждому игроку еще предстоит выиграть, а не от того, сколько раундов он уже выиграл». Но Кардано не дошел до конца. Он предлагает взять за основу соотношение «прогрессий» очков двух игроков, которые им еще нужно получить. Прогрессия числа, выражаясь его языком, — это само это число, плюс это число минус один, плюс это число минус два, и так далее до единицы. То есть прогрессия пяти будет 5+4+3+2+1=15. В примере, данном Кардано, первому игроку не хватает трех очков до победы. Прогрессия трех — это шесть (3+2+1=6). Второму игроку остается получить одно очко, чтобы победить, а прогрессия одного — один (1=1). То есть, по мысли Кардано, банк следует разделить в пропорции шесть к одному в пользу второго игрока. Так будет лучше, чем по системе Пачоли, или по крайней мере приблизит нас к истинному ответу. И все же это неверно. Здесь на арену выходят Паскаль и Ферма. Они осознали ключевой момент: значение имеет не то, насколько близко игрок подошел к финишу или насколько далеко ушел от старта. Имеет значение число остающихся возможных результатов и сколько из этих результатов отдают преимущество одному игроку над другим. В письме к Ферма Паскаль вообразил простую ситуацию: два игрока играют в азартную игру, в которой надо набрать три очка. Каждый поставил 32 пистоля — золотую монету, имевшую хождение в то время, то есть общий банк составил 64 пистоля. Допустим, счет равный, и каждый набрал по два очка, когда игру нужно внезапно остановить. В этом случае, рассуждает Паскаль, разделить банк несложно. Просто делим пополам: каждому по 32 пистоля. Но если бы им пришлось завершить игру на один ход раньше, когда у одного игрока было два очка, а у второго — один? Паскаль продолжает рассуждения. Они бы разделили банк поровну, если бы дело дошло до счета 2:2, поэтому первый игрок гарантированно получит как минимум половину суммы: даже если он проиграет следующий ход, то все равно эта половина ему достанется. Но остается вторая половина. «Возможно, она достанется мне, а возможно, и вам», — воображает Паскаль слова первого игрока. «Риск равный. Поэтому давайте разделим 32 пистоля пополам, и еще вы отдаете мне 32, в которых я уверен». То есть первый игрок заберет 32+16=48, или три четвертых банка.
Если посмотреть с другого ракурса, то можно сказать, что если бы игра продолжилась, она могла бы пойти четырьмя возможными путями. Первый игрок мог выиграть в первом броске и во втором, мог выиграть в первом, но проиграть во втором, проиграть в первом, но выиграть во втором, или проиграть и в первом, и во втором. Только при четвертом сценарии второй игрок заберет банк. Если первый игрок выиграет в первом броске, второй бросок не будет иметь значения: три очка все равно будут получены. То есть половина результатов — победа первого игрока, дело даже доходит до последнего броска. Но даже если бы он проиграл в первом броске, то все равно шанс на победу остался бы на уровне пятьдесят на пятьдесят. То есть справедливое распределение банка, если оба игрока должны прекратить игру в ситуации, когда один из них ведет со счетом два — один,
получается в виде трех к одному, как и говорил Паскаль. Можно развернуть этот пример дальше, как и сделал Паскаль. Допустим, первый игрок вел со счетом два — ноль, а не два — один. Если он выиграет в следующем броске, он победит. Но если он проиграет, второй игрок снова оказывается в ситуации два — один. А мы только что увидели, что начиная с этого момента его шанс забрать весь банк составит 75 %. В примере Паскаля первый игрок говорит: 'Если я выиграю, я забираю все, то есть 64. Если проиграю, то мне законно будет принадлежать 48. Поэтому дай мне 48, которые точно мои, даже если я проиграю, и давай разделим оставшиеся 16 пополам, потому что шансы, что каждый из нас их бы получил, равны. И теперь вероятность победить у первого игрока составляет семь из восьми или 87,5 %, поэтому чтобы раздел банка был справедливым, первый игрок должен забрать 56 пистолей из 64. Опять же, можно зарисовать это схематично:
Но что будет, если у первого игрока будет одно очко, а у второго ноль? Тогда вы делаете один шаг назад, говорил Паскаль. Если второй игрок выиграет в первом броске, то счет будет один — один, и шансы на победу — равные. Но если первый игрок выиграет в первом броске, то счет станет два — ноль, и исход мы уже знаем: шанс победить — 7 из 8. Из шестнадцати возможных вариантов результата первый игрок должен получить 11/16 из 64 пистолей, то есть 44. В этом и заключается великий смысл теории вероятностей: мы должны рассматривать возможные исходы из конкретной ситуации, а не то, что было раньше. Но трудоемкий подсчет количества возможных исходов, как мы видели выше, занимает довольно много времени, поэтому Паскаль и Ферма поработали над тем, как сделать это быстрее.
Можно вычислить сумму, но это сложно, если вам осталось сыграть еще много раундов. Придется вычислять максимально возможное число оставшихся бросков, то есть число, которое необходимо первому игроку для победы, плюс число, которое необходимо второму игроку для победы, минус один. Если в игре до трех очков кто-то выигрывает со счетом один — ноль, то это четыре. (Максимальный счет, которого может достичь игра — 3–2, то есть всего пять очков). Четыре оставшихся раунда дают шестнадцать оставшихся возможных исходов, то есть четыре в квадрате. Теперь нужно определить, какие из этих исходов соответствуют победе первого игрока: для этого нужно будет написать множество надстрочных знаков и греческих букв, что может утомить любого. К счастью, Паскаль придумал хитрый ход. Он не был первым, кто использовал то, что мы сегодня называем треугольником Паскаля: такой треугольник был известен ещё в древнем Китае, где носил имя математика Ян Хуэя, и в Индии II века. Но Паскаль первым использовал его при расчете вероятностей. Выглядит он так: Треугольник начинается с единицы вверху; каждый ряд ниже заполняется по простому правилу: в каждом ряду прибавляем число,
расположенное выше и левее, к числу, расположенному выше и правее. Если в одном из этих мест числа нет, оно считается нулем. Паскаль понял, что с его помощью можно решить проблему. Возьмем наш пример. Игрокам осталось сыграть не более четырех раундов, поэтому вы отсчитываете четыре ряда сверху вниз (считая самый верхний ряд с одинокой единицей нулевым рядом). Первому игроку для победы нужно получить еще два очка, так что убираем первые два числа слева. Складываем оставшиеся числа, делим их на общую сумму данного ряда и получаем шанс на победу. В данном случае отсчитываем четыре ряда от единицы и оказываемся в следующем ряду: 1 4 6 4 1. Убираем первые два числа: остаются 6 4 1, сумма которых составляет 11. Сумма же всего ряда составляет 16, тогда шанс на побелу составит 11/16, или вероятность 68,75 %: p=0,6875. Попробуйте применить треугольник к другим примерам, которые мы обсуждали. Если у первого игрока два очка, у второго — одно, то осталось только два возможных хода, и первому игроку для победы нужен только один. То есть отсчитываем два ряда до ряда 1 2 1, убираем 1, остается ¾ или p=0,75. Исчерпывающе точный способ, который экономит уйму времени. Он подходит для любого события, имеющего два равновероятных исхода, например для подбрасывания монеты или игры равных соперников. Для данного числа ходов X смотрим на ряд X (опять же, считаем самый верхний ряд нулевым). Это дает вам общее число возможных исходов. Так, если вы подбросите монетку семь раз, то отсчет нужно будет вести до седьмого ряда, начинающегося с 1 7 21: складываем эти исходы и обнаруживаем, что они равны 128. То есть число возможных исходов 128. Теперь давайте оценим, какова вероятность того, что вам выпадет ровно Y исходов, скажем, орлов, при этих семи бросках: Возможно, орлы вообще вам не выпадут. Но для этого нужно, чтобы каждая монета выпала решкой. Из всех возможных сочетаний орла и решки, которые могут выпасть, только одно — когда решка выпадет во всех случаях — дает ноль орлов и семь решек. Есть семь комбинаций, которые дают одного орла и шесть решек. Из семи бросков в одном монетка должна упасть орлом, и не важно, в какой именно бросок. Есть 21 способ «получить» двух орлов. (Перечислять не буду, боюсь, вам придется просто поверить мне на слово или проверить самим). И 35 способов — получить трех. Видите закономерность? 1 7 21 35 — это седьмой ряд треугольника Паскаля. То есть если хотите узнать шанс, что выпадет ровно Y орлов при условии X бросков, отсчитайте X рядов от нулевого и посмотрите на число
Y слева (опять же, считая 1 слева за ноль). Затем поделите это второе число на общую сумму ряда. Скажем, если вы хотите узнать, какова вероятность, что выпадет ровно пять орлов, смотрите на седьмой ряд — 1 7 21 35 35 21 7 1 — и, начиная с нулевого, отсчитайте пять чисел. Получается второе число 21. То есть 21/128 ≈ 0.164, или примерно один к шести: именно такая вероятность. Чтобы узнать вероятность, что вам выпадет не менее пяти орлов, нужно просто прибавить количество возможных вариантов выпадения шести орлов или семи орлов к количеству вариантов выпадения пяти орлов: 21+7+1=29. Потом разделить это число на 128, как и в предыдущем примере. Именно такой способ вычисления справедливого раздела банка и разрабатывал Паскаль. Треугольник Паскаля — только один из способов вычислить вероятность получения определенного числа исходов, хотя и очень изящный. В ситуациях, когда возможны два исхода, например, при подбрасывании монеты, такой способ называют «биномиальным распределением». Суть, однако, в том, что, когда мы пытаемся определить вероятность чего бы то ни было, нам нужно рассуждать о числе исходов: числе исходов, которые приведут к тому, что вы имеете в виду, и об общем числе возможных исходов. Думаю, справедливо сказать, что это была первая реальная формализация идеи «вероятности».
Закон больших чисел Письма, которые писали друг другу Паскаль и Ферма, положили начало современной идее теории вероятностей, хотя изначально она была известна как учение о шансах. В ее основе лежит идея о том, что вероятность какого-либо события равна числу вариантов этого события, поделенному на общее число возможных событий. Следующий шаг сделал швейцарский математик Якоб Бернулли. Если в том примере, о котором мы говорили, на самом деле подбрасывать по семь монет 128 раз, вряд ли ноль орлов выпадет ровно один раз, один орел выпадет ровно семь раз, два орла — ровно двадцать один раз и так далее. Но если подбросить монеты 128 миллионов раз, то скорее всего примерно миллион раз выпадет ноль орлов, примерно семь миллионов раз выпадет по одному орлу, примерно 21 миллион раз — по два орла и так далее. Упростим пример: если подбросить монету правильной геометрической формы дважды, вполне могут не выпасть ровно один орел и одна решка: на самом деле, в 50 % случаев так и будет, и выпадут или два орла, или две решки. Но если подбросить монету миллион раз, то, вероятно, вы увидите примерно половину орлов и половину — решек. Бернулли утверждал, что чем больше раз подбрасывать монету, тем ближе, в среднем, к «истинной» вероятности будет результат. Вы можете резонно возразить, что это и так вполне очевидно. Да и вообще, и что с того? Вы знаете, что примерно в половине случаев при подбрасывании монеты выпадет орел. Поэтому не надо подбрасывать ее миллион раз, чтобы это доказать. Но до сих пор мы рассматривали только вероятности известных событий в играх на удачу бросанием костей или подбрасыванием монет. В этих случаях мы заранее знаем (как минимум, теоретически) вероятности основных событий в игре. То, что при подбрасывании монеты шансы составляют пятьдесят на пятьдесят, и что при бросании кубиков в одном случае из шести выпадает единица — это аксиомы.
Иногда, однако, мы можем задаться вопросом: а правильной ли формы монета? И не утяжелены ли игральные кости чем-нибудь? Как мы можем это знать? А может, мы вовсе не играем в кости; может, мы пытаемся понять, как устроен мир на самом деле, как часто происходят события. Нам нужно отложить в сторону игры, где всё определяют правила, и отправиться в реальный мир беспорядочных случайностей и неопределенности. *** Бернулли жил в XVI веке в Швейцарии и был одним из представителей семьи гениальных математиков. (Важно не путать теорему Бернулли, которую мы сейчас обсудим и которую назвали в честь Якоба, и принцип Бернулли — нечто совершенно иное, названное в честь его племянника Даниэля. В семействе Бернулли в XVII–XVIII веках было также три Иоганна, два Николая и второй Якоб, чьи имена выделены синим цветом в Википедии). Бернулли вообще-то интересовали не только игры на удачу. Еще его интересовали шары в урнах. Представим себе следующую ситуацию. Вам дают большую урну. В урне имеется несколько черных и белых шаров. Но сколько именно в ней шаров каждого цвета, вы не знаете. Вы извлекаете несколько шаров, некоторые из них оказываются черными, некоторые — белыми. Скажем, вы извлекли пять шаров, и это оказалось три черных шара и два белых. Используя эти сведения, что можно сказать о содержимом урны в целом? Теперь мы уже не говорим о том, чтобы определить вероятность получения какого-то результата, учитывая определенные факты о мире. Мы говорим ровно об обратном: какова вероятность, что мир устроен определенным образом, учитывая результаты, которые мы видим? Эти две идеи связаны с вероятностями выборочных характеристик — что мы можем предсказать о выборке чего-либо, учитывая то, что мы знаем о целом? — и выведенными вероятностями [15] для генеральной совокупности [16] – что мы можем знать о целом с учетом взятой нами выборки?
Здесь нужно сделать паузу и вникнуть поглубже. Такое различение принципиально важно. Возможно, оно не выглядит таким уж серьезным, но в нем скрыта вся суть вопроса. Им и занимаются с утра до вечера современные статистики и ученые. Они не вычисляют вероятности выпадения стрит-флеша в техасском холдеме. Если вы знаете, сколько карт в колоде, это несложно вычислить; это может сделать любой студент математического факультета. Их не волнует, насколько вероятно, что на двадцати игральных костях выпадет пять или более шестерок. Эту вероятность можно за несколько секунд вычислить с помощью треугольника Паскаля. Они пытаются установить, что определенные данные говорят нам о той или иной гипотезе. Если я поставлю пятистам людям прививку от ковида, а пятистам — плацебо, а потом десять человек заразятся ковидом в группе плацебо и только один — в привитой группе, о чем это нам скажет? Насколько можно быть уверенным, что прививка сработает? Это пытался понять Бернулли. И его решение было блестящим и проницательным, но ошибочным: по крайней мере, так считает Обри Клейтон, автор книги «Bernoulli’s Fallacy: Statistical Illogic and the Crisis of Modern Science» («Заблуждение Бернулли: статическая нелогичность и кризис современной науки»). С точки зрения Клейтона и школы статистического мышления, которую он представляет, Бернулли на целых пять веков непреднамеренно направил статистическую мысль по ложному пути. Прав Клейтон или нет — предмет ожесточенного академического спора длиной более века, и о нем мы поговорим в других частях этой книги. Сначала давайте посмотрим, что сделал Бернулли и почему. Бернулли хотел узнать, насколько уверенными можно быть в содержимом урны после того, как мы извлекли из нее некоторое количество шаров. Допустим, у нас есть урна с шарами [17]. Каждый раз, когда мы извлекаем из нее шар, мы кладем его обратно и перемешиваем все шары в ней. (Это важно, чтобы вероятность вытащить черный или белый шар оставалась все время одной и той же). Шары хорошо перемешаны и одинаковы по размеру и весу: вы не сможете определить, шар белый или черный, прежде чем достанете его, и нет никаких причин для того, чтобы черные или белые шары находились выше или ниже в урне. Если вы вытащите из урны X
шаров, и Y из них окажутся белыми, что вы можете сказать о соотношении белых и черных шаров в урне? Чем больше выборка шаров, тем вероятнее, что она будет ближе к реальному соотношению [белых и черных шаров]. Если реальное соотношение шаров в урне составляет три белых на каждые пять шаров, и вы извлекли как раз пять шаров, не так уж вероятно, что вам попадутся ровно три белых и два черных шара. Но если вы вытащите пятьдесят шаров, вам, возможно, не попадутся ровно тридцать и двадцать, но гораздо более вероятно, что соотношение будет примерно таким. Сам Бернулли признавал, что это «знает даже самый глупый человек в силу определенного природного инстинкта как такового и без какого-то предыдущего образования». (И действительно, в 1951 году было показано, что даже самые маленькие дети улавливают этот концепт интуитивно). Но Бернулли хотел пойти дальше. Он понял, что в этом вопросе есть три составляющие: насколько большую выборку вы берете, насколько близко к истинному ответу вы должны быть и насколько вы должны быть уверены в своем ответе. Он осознал, что в реальном соотношении нельзя быть по-настоящему уверенным никогда. Можно лишь добиться, по его словам, «внутренней убежденности», то есть определенной степени уверенности в определенном распределении результатов. То есть можно пожелать, чтобы ваша выборка дала результат, который с вероятностью 99 % будет находиться в пределах отклонения на 1 % от истинного значения. Или же вы хотите, чтобы вероятность того, что результат будет отклоняться не более чем на 10 % от истинного значения, составляла 70 %. Бернулли доказал, что для любой из этих или любых других комбинаций существует определенное количество шаров, которые вы можете вытащить из урны и которые дадут вам нужный уровень уверенности. Он также показал, что не существует точки, в которой либо вы достигаете уверенности, либо увеличение выборки перестает давать вам более высокий уровень уверенности. Выразим это в виде математической теоремы (это не собственные слова Бернулли, а современная формулировка): «[Мы] всегда можем выбрать число наблюдений n таким образом, чтобы с любой желаемой вероятностью абсолютная разность между выборочной пропорцией
m/n(где m — число положительных случаев) и истинной пропорцией p [18] была меньше или равна некоторому числу по нашему выбору». Обратите внимание, что здесь три подвижные части, и корректировка любой из них означает изменение хотя бы одной из остальных. То есть если вы взяли достаточно большую выборку, чтобы быть уверенным на 90 %, что измеряемая величина находится в пределах отклонения на 10 % от истинного ответа, но хотите быть уверенным не на 90, а на целых 99 %, вам нужно либо скорректировать допустимый разброс — сделать его шире 10 %, либо взять более объемную выборку. (Как отмечает Обри Клейтон, это похоже на мантру управления проектами: «Быстро, хорошо или дешево: из трех этих характеристик можно выбрать только две». В нашем случае эта формула примет такой вид: «Точные оценки, высокая степень определенности или малые выборки. Выбрать можно только две вещи из трех».) Доказав, что это так, Бернулли захотел выразить это в цифрах. Какого именно уровня уверенности — какой степени «внутренней убежденности», по его словам, — можно добиться при заданном размере выборки? И ему это удалось: если истинное число шаров в урне — 3000 белых и 2000 черных, Бернулли показал, что при объеме выборки в 25500 [19] вы получите результат, лежащий в пределах 2 % от ответа 999 раз из тысячи. (Такой большой размер выборки был неудобен для человека, работавшего в Европе раннего Нового времени, у которого не было компьютера и не было возможности привлечь студентов-психологов, готовых участвовать в социологических исследованиях за деньги на пиво. Как пишет Стивен Стиплер в книге «The History of Statistics» («История статистики»), такая выборка была больше, чем современное для Бернулли население швейцарского Базеля, где он жил, и «более чем астрономической: по существу, она была бесконечной». Внезапное окончание «Искусства предположений» после этой строки, по словам Стиглера, наводит на мысль, что «Бернулли буквально бросил свою работу, когда увидел число 25 500, и, все-таки собравшись с силами, только и смог добавить лишь еще одно предложение»). С помощью более современных методов можно было бы достичь искомой для Бернулли степени уверенности при меньшем размере выборки, но тем не менее по сегодняшним стандартам он был
чрезвычайно требователен к себе. Мы поговорим подробнее о pзначениях и доверительных интервалах чуть позже, но предпочтительный уровень внутренней убежденности Бернулли — приземление на заданном расстоянии от цели 999 раз из каждых 1000 — эквивалентен доле статистических ошибок первого рода на уровне 0,001. В большинстве социальных наук по крайней мере доля статистических ошибок первого рода составляет 0,05, то есть в пятьдесят раз больше, хотя в некоторых других науках, в частности, в физике, используется более высокий стандарт. Однако Бернулли понимал, что эти цифры актуальны не только для игр и игорных домов. По мнению Бернулли, мы имеем дело с вероятностями постоянно. Среди примеров, которые он приводит — поиски виновного в убийстве или попытка установить, является ли документ поддельным. Сам Бернулли, однако, ставил перед собой более амбициозную цель: создать философски надежный способ использования эмпирических данных. Две тысячи лет философы спорили о том, каким путем следует идти к пониманию — с помощью разума или с помощью чувств. Платон утверждал, что во Вселенной существует истинная исходная реальность, то, что он называл формами, но наши органы чувств не заслуживают доверия и никогда не смогут дать нам достоверного знания. Поэтому Платон говорил, что путь к пониманию лежит через рассуждение, а не через эксперимент. Бернулли был физиком и экспериментатором. Он признавал, что мы ничего не можем знать с абсолютной уверенностью. Но для него это не означало, что все вещи одинаково вероятны. Если мы бросаем кубик сто раз и каждый раз на нем выпадает шесть, мы не можем с абсолютной уверенностью сказать, что он чем-то утяжелен. Но мы можем утверждать, что скорее всего так и есть. Предвосхищая тему, о которой пойдет речь чуть позже — идею вероятности и, в частности, теорему Байеса как расширение формальной логики, — Бернулли решил, что мы можем говорить об уверенности как о числе: 1 — полная уверенность, 0 — полная невозможность. И это значит, что должны быть некие степени уверенности, и эту уверенность можно повышать экспериментальным путем. Проблема, по крайней мере для Клейтона, заключалась в том, что Бернулли говорил о вероятностях выборочных характеристик, а не о
выведенных вероятностях для генеральной совокупности. Или, скорее, он не проводил между ними различия. Бернулли успешно показал, что соотношение белых и черных шаров в выборке вероятно будет близко к истинному соотношению в урне в целом (насколько близко и насколько вероятно — зависит от размера выборки). По его предположению, это означает, что столь же вероятно, что истинное соотношение белых и черных шаров в урне будет близко к соотношению в выборке. Но в этом он ошибался; вероятности могут быть очень разными. И только преподобный Томас Байес понял, в чем именно заключалась ошибка Бернулли.
Де Муавр о нормальном распределении Француз-протестант Абрахам де Муавр, отсидев два года в тюрьме, бежал от преследований католических властей своего родного города Витри. В 1688 году, двадцати одного года от роду, он приехал в Лондон, где занялся чтением Ньютона. На жизнь он зарабатывал частными уроками математики и одновременно сам ее тоже осваивал. Де Муавр развил идеи Бернулли. Помните, как Ферма и Паскаль выясняли, как делить банк, если игра закончилась досрочно? Они решали эту задачу с учетом вероятности победы каждого из игроков и стадии игры на момент ее окончания. Решение сводилось к тому, сколько из оставшихся исходов приводило к победе игрока A, а сколько — игрока B. А обсуждали они то, что теперь известно под названием биномиальное распределение. Если подбросить монетку, она упадет либо орлом, либо решкой вверх. Если подбросить монетку дважды, она упадет либо орлом, потом еще раз орлом, либо орлом, затем решкой, либо решкой, затем орлом, либо решкой и затем еще раз решкой. То есть существует лишь один вариант, что два раза выпадет орел или решка, но два варианта, что выпадут орел и решка. Записать эту вероятность можно так:
Или можно изобразить ее в виде графика: Это распределение исходов в случае двух бросков монеты. (Или любого другого события с двумя одинаково вероятными исходами.) Для четырех монет:
(Снова можно заметить здесь треугольник Паскаля!) И в виде графика:
Мы можем рассчитать вероятность выпадения любого заданного числа орлов (x) в результате заданного числа бросков монеты (N) с помощью уравнения, которое я не буду здесь приводить (воспользуйтесь онлайнкалькулятором, их полно), но которое начинается с нахождения факториалов числа бросков, числа орлов, которое вы хотите, чтобы выпало, и числа бросков минус число орлов. Если вы не сталкивались раньше с этим термином, факториал числа равен этому числу, умноженному на это же число минус один, умноженному на это же число минус два и так далее, вплоть до единицы. То есть факториал пяти — это 5×4×3×2×1=120. В техническом плане вычисление больших чисел — дико трудоемкая задача. (Они увеличиваются очень быстро: факториал шести равен 720. Факториал десяти — 3 628 800.) К тому же часто вас интересует не только шанс выпадения ровно x орлов. Если снова представить себе азартную игру, и кто-то скажет: «Я ставлю 50 фунтов против 10 фунтов, что в результате ста бросков монет шестьдесят или более орлов не выпадут», это будет хорошая ставка? Путем расчета биномиального распределения мы должны будем вычислить факториалы шестидесяти, ста и сорока, а затем подставить их в уравнение. Затем придется повторить, только уже с числами 61 и 39. И еще раз — с
числами 62 и 38. И так далее. До бесконечности [20]. Бернулли именно такими расчетами и занимался. Именно поэтому, видимо, на написание своей книги он потратил двадцать лет, но так ее и не закончил [21]. Конечно, если кто-то вычислил факториал, скажем, числа 253, который состоит из 507 цифр и заканчивается на 62, он может записать его, и все остальные смогут его использовать, не прибегая к повторному вычислению. Но даже если так получится, процесс все равно выйдет долгим и скучным. Что заметил де Муавр, так это форму кривой. Посмотрите на два графика выше: оба как бы вдаются вверх в середине, а по краям как бы сплюснуты. Но на графике N=4 она более плавная и заметная. Если сделать больше бросков монет, кривая станет еще четче. Для N=12:
Де Муавр подумал, что вместо того, чтобы мучительно выводить уравнения для расчета вероятности выпадения шестидесяти орлов при подбрасывании ста монеток, можно вывести математическое выражение для кривой, а затем использовать форму кривой для получения вероятности того или иного исхода. Такая кривая обозначает то, что мы сейчас называем «нормальным распределением» или «колоколообразной кривой» (хотя статистикам, с которыми я общался, этот термин не нравится, потому что на самом деле она не очень похожа на колокол). Если вам нужно освежить в памяти, что такое стандартные отклонения Теперь поговорим о том, о чем писал Муавр, в терминах «средние» и «стандартные отклонения», хотя такая терминология возникла только через полтора столетия. Полагаю, что большинство читателей знают, что такое среднее значение (ваше это средней паршивости средненькое нечто), но стандартные отклонения — один из терминов, которыми часто разбрасываются настоящие математики, как будто мы все должны знать, что они значат. Я подозреваю, что большинство из нас не знает, что это. Стандартное отклонение — мера того, насколько разбросаны ваши данные вокруг среднего значения. Представим, что у вас трое детей, и вы хотите узнать их средний рост. Вы измеряете рост всех троих, складываете значения, делите на три и получаете 160 см. Это и есть среднее значение роста ваших детей. Класс, да? Штука, однако, в том, что получить 160 см можно множеством разных способов. Например в случае, если рост каждого из детей составляет 160 см. Или когда рост одного 157 см, другого 160 см, третьего 163 см. Или когда двое из ваших детей — восьмилетки ростом по 130 см, а рост третьего — 2,2 метра, и он играет в баскетбол за университетскую команду. Число сочетаний может быть бесконечным. Ключевое различие заключается в том, насколько сильно они отклоняются от среднего значения: об этом говорит так называемая дисперсия. Получив значение дисперсии, можно легко вычислить стандартное отклонение, определив квадратный корень дисперсии. Вы можете вычислить дисперсию, взяв рост каждого ребенка и вычтя из него среднее значение (в данном случае 160 см). Затем
возводим это число в квадрат, то есть умножаем его на себя. (Если этого не сделать, некоторые числа будут отрицательными). Затем берем среднее значение полученных чисел. Рассмотрим пример, в котором рост одного ребенка 157 см, второго — 160 см, третьего — 163 см. Вычтя среднее значение из роста каждого из них, получим −3 см, 0 см и 3 см. Возводим их в квадрат и получаем 9 см, 0 см и 9 см. Среднее значение — 6 см, то есть дисперсия — 6. Квадратный корень из шести равен примерно 2,4, так что это и есть наше стандартное отклонение. В случае с баскетболистом и восьмилетками вычитание среднего значения из их роста дает –30 см, –30 см и 60 см. Квадраты этих значений равны 900, 900 и 3600; среднее значение 1800: это и есть ваша дисперсия. Квадратный корень 1800 — 42,4. Получив стандартное отклонение, можно говорить о том, как далеко каждое значение находится от среднего в терминах стандартных отклонений (которые обычно записываются как SD, СО или с помощью греческой буквы сигма — σ). Возьмем пример с восьмилетками и баскетболистом. СО в этом примере 42,4. Рост двух восьмилеток отклоняется на 30 см от среднего значения, то есть их рост на 30/42,4=0,7 СО ниже среднего. Рост баскетболиста — 60 см от среднего значения, то есть его рост на 1,4 СО выше среднего. Интересно, что при нормально распределенных данных [22] и достаточно большой выборке можно надежно предсказать, какой процент результатов находится на заданном расстоянии от среднего. В общем случае 68 % всех значений будут находиться в пределах одного СО от среднего, так что если ваш рост на одно значение СО выше среднего, то вы выше примерно 84 % населения. При этом 95 % населения будут находиться в пределах двух СО, в 99,7 % — в пределах трех.
Де Муавру удалось показать, что если определить форму кривой нормального распределения (хотя в то время его еще не называли нормальным), можно быстро вычислить приближенное значение шанса получить любой заданный результат. Согласно его методике, 68,2688 % результатов находятся в пределах 1 СО от среднего значения; истинный ответ — 68,2689 %. Для 2 СО его ответ был 95,428 % шансов; реальный ответ — 95,45 %. Для 3 СО — 99,874 % и 99,73 %. (Их тоже он не называл стандартными отклонениями, но использовал эту идею и понял, что по этой шкале следует оценивать отклонения от среднего). То есть если вы хотите узнать, насколько вероятно, что вы увидите какой-то результат на определенном расстоянии от среднего значения, вам нужно вычислить стандартное отклонение ваших данных и подставить его в уравнение де Муавра для построения кривой. Вам не придется тратить несколько дней на вычисление факториала числа 3600. Де Муавр также понял, что это продолжение мыслей Бернулли: точность ваших данных — размер стандартного отклонения — зависит от того, насколько большую выборку вы берете. Бернулли потратил двадцать лет на утомительное вычисление необходимого размера выборки для одного примера — когда на 999 из 1000 уверен, что результаты будут в пределах 2 % от истинного. Де Муавр показал, как добиться этого для любого результата, с впечатляющей, если не идеальной точностью, и если Бернулли просто показал, что большие выборки действительно дают более точные
результаты, то де Муавр сделал еще один шаг вперед и определил это количественно. Он показал, что точность оценки растет пропорционально квадратному корню размера выборки. И тем не менее де Муавр отвечал на тот же вопрос, что и Бернулли. То есть: насколько вероятно, что я получу эти данные с учетом определенной гипотезы? Вернемся к воображаемой ставке, о которой мы чуть выше говорили: насколько вероятно, что по результатам ста подбрасываний монет выпадет шестьдесят или больше орлов? (Ответ: не очень. Только в 2,8 % случаев на самом деле. Ставка в 50 фунтов на 10 фунтов будет ужасной, и вам не стоит ее делать.) Тем не менее, ни Бернулли, ни де Муавр не смогли разобраться в обратной вероятности, как ее называют сегодня, хотя на самом деле она и есть суть всей идеи вероятности. Мы хотим, или по крайней мере наука хочет получить от статистики ответ: учитывая виденные мною результаты, что я могу сказать о своей гипотезе?
Симпсон и Байес Бернулли, де Муавр и другие были прекрасно известны Байесу и его кругу обеспеченных математиков-любителей. Биограф Байеса Дэвид Беллхаус рассказал мне, что «Байес и [лорд] Стенхоуп изучали издание 1733 года „Доктрины случайностей“ де Муавра». «Мне кажется, именно чтение этой книги и вызвало у Байеса интерес к теории вероятностей». Это произошло, вероятно, около 1735 года, когда Байесу было примерно тридцать. В это же время над задачами, схожими с задачами де Муавра, работал и другой англичанин. Звали его Томас Симпсон. Он был сыном ткача из Лестершира и сам работал ткачом. Математику освоил самостоятельно, что, по-видимому, было довольно распространенным явлением; около половины членов Спиталфилдского математического общества, в которое Симпсон позже вступит, были ткачами. Похоже, у него была интересная жизнь: согласно Стиглеру, в возрасте девятнадцати лет он женился на пятидесятилетней овдовевшей матери двоих детей (хотя в других биографиях говорится, что он женился на своей квартирной хозяйке и у них было двое собственных детей); семье пришлось бежать из Нунитона в Дерби после того, как «он или его помощник напугал девушку, нарядившись дьяволом во время сеанса астрологии», очевидно, после солнечного затмения. К 1736 году они уже жили в Лондоне. Самая релевантная для нас работа Симпсона вышла в 1755 году. Это был трактат об ошибках измерений в астрономии: если шесть астрономов фиксируют прохождение планеты мимо определенной точки и все получают немного разные результаты, что мы должны записать в качестве ее истинного положения? Ответ Симпсона заключался в том, что мы должны использовать среднее значение наблюдений, а не «аристотелевское среднее», как предлагали некоторые в то время, — наибольший результат плюс наименьший, деленный на два. По сути, он это показал, продемонстрировав частный случай закона больших чисел.
Я не буду вдаваться в подробности, отчасти потому, что он охватывает ту же самую область, что и стандартное отклонение и так далее, но он примечателен двумя ключевыми моментами. Первый заключается в том, что Симпсон явно говорит о выводе (inference), а не о выборке. То есть «Что мы можем сказать о гипотезе с учетом имеющихся данных?», а не «Насколько вероятно, что мы получим эти данные с учетом той или иной гипотезы?». Симпсон пытается оценить реальное положение планеты, а не сказать, насколько вероятно, что мы увидим ошибки, учитывая определенное ее положение. Ему это удалось, только когда он выдвинул несколько весьма упрощенных предположений об ошибках, но тем не менее это настоящая попытка превратить статистику в полезный инструмент логических выводов, а не в диковинку (или способ выигрывать в казино). Он даже дает, по словам Стиглера, «первый из известных [ему] статистический совет математика ученому-экспериментатору»: следует использовать среднее значение от максимально возможного числа наблюдений. Второй ключевой момент заключается в том, что одним из рецензентов статьи Симпсона был преподобный Томас Байес из Танбридж-Уэллса. «К тому времени он уже был достаточно зрелым в использовании теории вероятностей», — пишет Беллхаус, — «и дал по этой теме несколько весьма глубокомысленных комментариев». Ключевой из них — о так называемой ошибке измерения. «Основная мысль Байеса сводилась к тому, что да, математические расчеты верны, но что если неисправен измерительный прибор?» — пишет Беллхаус. «Тогда среднее значение вам не поможет». Вот слова Байеса из письма физику Джону Кантону — еще одному сыну ткача: Теперь мне кажется чрезвычайно невероятным, что ошибки, возникающие из-за несовершенства приборов и органов чувств, могут быть сведены к нулю или почти к нулю только путем умножения числа наблюдений. Напротив, чем больше наблюдений вы проводите с помощью несовершенного инструмента, тем увереннее кажется, что ошибка в вашем заключении будет пропорциональна несовершенству используемого инструмента. Ибо если бы
было иначе, то не было бы никакого преимущества в проведении наблюдений с помощью очень точного прибора, а не более обычного, в тех случаях, когда наблюдения будут очень часто повторяться: и все же я думаю, что никто не будет претендовать на то, чтобы об этом говорить. Допустим, вы пытаетесь засечь время, необходимое, чтобы пробежать милю, но все часы, которые вы используете, немного спешат, и секундная стрелка описывает круг за пятьдесят девять секунд, а не за шестьдесят. Тогда среднее значение здесь не поможет, сколько бы часов вы ни использовали: вы просто будете становиться всё более уверены в полученном неправильном ответе. Симпсон, похоже, упомянул эту мысль в более позднем варианте своей работы: он писал, что его метод работает только в том случае, если «в конструкции или положении прибора нет ничего такого, из-за чего ошибки постоянно стремились бы в одну и ту же сторону, а соответствующие шансы на то, что они произойдут в избытке или в недостатке, либо точно, либо почти одинаковы». Таким образом, мы знаем, что Байес думал о вероятностях, и в частности о выведенной(inferential) или обратной(inverse) вероятности — помните, которая как бы спрашивает, насколько вероятно, что гипотеза верна с учетом имеющихся данных, — и вероятности характеристик выборки(probability for sample) с вопросом «насколько вероятно, что я получу эти данные с учетом этой гипотезы?» — по крайней мере, к 1755 году, и если Беллхаус прав, он вроде бы заинтересовался этой темой после прочтения книги де Муавра в середине 1730‐х годов.
Не совсем бильярдный стол Байеса Один из величайших вкладов Байеса в теорию вероятностей был не математическим, а философским. До сих пор мы говорили о вероятности так, будто это реальная вещь, существующая в мире. Вероятность того, что монета выпадет орлом, составляет 0,5. Вероятность, что выпадут шестьдесят или более орлов по результатам ста бросков монет, составляет около 2,8 %. Мы говорим об этих вещах так, как будто это факты о мире. Байес перевернул это представление. Для Байеса, по выражению профессора сэра Дэвида Шпигелхалтера, бывшего президента Королевского статистического общества, бывшего Винтонского профессора общественного понимания риска в Кембриджском университете и тем самым обладателя единственного наиболее авторитетно звучащего набора регалий во всей статистической науке, теория вероятностей «является выражением нашего недостатка знаний о мире». То есть для Байеса вероятность субъективна. Это утверждение о нашем невежестве и наших самых лучших предположениях об истине. Это свойство не окружающего нас мира, а нашего понимания мира. Если вы подбросите монету, скроете от меня результат и спросите: «Какова вероятность того, что выпадет орел?», я, возможно, отвечу «пятьдесят на пятьдесят», если буду уверен, что вы делаете это честно. Но если я буду знать, что вы фокусник или владелец самой большой в мире коллекции монет с двумя орлами, я бы дал другую оценку. В своей работе «Очерк к решению проблемы доктрины шансов» Байес показал, что для того, чтобы заставить работать индуктивную вероятность — а это значит, напомним, задавать вопрос «какова вероятность того, что моя гипотеза верна с учетом имеющихся данных?», а не «какова вероятность того, что я получу эти данные с учетом моей гипотезы?», — необходимо учитывать, насколько вероятной вы изначально считали свою гипотезу. Необходимо принимать во внимание свои субъективные представления. Чтобы донести свою мысль, Байес использовал метафору стола, по которому катают шары. (Обратите внимание, что это не бильярдный стол. «Писатели позднее.. „повысили“ его до бильярдного стола, — ворчит Стиглер, — но преподобный Байес не был ни столь конкретным, ни столь легкомысленным». Шпигелхалтер называет стол бильярдным, но добавляет:
«Будучи пресвитерианским священником, Байес называл его просто столом».) Стол скрыт от вашего взгляда; на него бросают белый шар, который катится по нему таким образом, что его конечное положение совершенно случайно: «Вероятность того, что он остановится на любой равной части плоскости, будет одинаковой». Когда белый шар остановится, его убирают и проводят линию по столу там, где это произошло. Где именно, вам не говорят. Далее на стол бросают ряд красных шаров. Вам говорят лишь, сколько шаров окажутся слева от прочерченной линии и сколько — справа. Вы должны определить, где проходит линия. Допустим, было брошено пять шаров, и вам говорят, что два из них приземлились слева от линии, а три — справа. Где, по-вашему, должна проходить линия? Байес говорил, что наиболее вероятная прямая отделяет слева три седьмых от полного размера стола. Интуитивно может показаться, что значение должно быть две пятых. Вы же только что бросили пять шаров, и два из них оказались на одной стороне, а три на другой. Но Байес говорил, что нужно учитывать априорную вероятность — ваше идеальное представление (best guess) о
том, какой была ситуация до того, как вы получили какую-либо информацию. Но есть ли у вас такое идеальное представление? Вы же ничего не знаете, так ведь? Линия может проходить где угодно. Но это само по себе уже есть некая форма априрорной информации: одинаково вероятно (с вашей субъективной точки зрения), что линия находится прямо напротив левого бортика, или прямо против правого бортика, или где-то между ними. Можно построить график распределения вероятности: насколько вероятно, что линия окажется в данном месте стола до того, как вы бросите еще один шар. Выглядеть график может так: Если вы не имеете ни малейшего представления о том, где проходит линия, вероятность того, что следующий шар окажется слева от нее, составляет 0,5, то есть 50 %. Линия же может проходить далеко справа, тогда шар точно приземлится слева; она может быть далеко слева, тогда шар точно окажется справа; она может проходить посередине, тогда вероятность будет пятьдесят на пятьдесят; или она может проходить где угодно еще, с
соответствующими вероятностями. Среднее положение — точно в середине. По сути, главная мысль Байеса заключалась в том, что любую новую информацию нужно добавлять к уже имеющейся. В этом случае у нас не так много информации. Но какая-то все-таки есть. Это значит, что вместо того, чтобы просто сказать: «Наиболее вероятное положение линии — две пятых области вдоль стола», нужно принять во внимание априорные данные. Поэтому Байес утверждал, что уравнение для определения вероятности здесь — это не «количество красных шаров слева, деленное на общее количество красных шаров» — ⅖ , а количество красных шаров слева от линии ПЛЮС ОДИН, деленное на общее количество красных шаров ПЛЮС ДВА. Это, по словам Шпигелхалтера, «эквивалентно тому, что вы уже бросили два „воображаемых“ красных шара, и по одному шару приземлилось по обе стороны от пунктирной линии». Это может показаться странным, но в этом есть смысл, если подумать, как бы это все выглядело, если бы все шары приземлились по одну или другую сторону [от линии]. Если бы все пять шаров приземлились слева, и мы не учитывали бы эти дополнительные воображаемые шары, и, соответственно, вероятность того, что следующий шар приземлится слева, была бы 5/5, или 1, то в этом была бы полная достоверность. Но это же глупо: очевидно, что вы не можете знать наверняка, что следующий шар не окажется справа. С дополнительными шарами Байеса ваша оценка была бы 6/7. И неважно, сколько шаров приземлится с одной стороны, вы никогда не получите абсолютной уверенности: если миллион шаров приземлится слева, то ваша оценка вероятности того, что следующий шар приземлится справа, будет равна 1/1 000 002. Каждый элемент новой информации приближает вас к достоверности, но вы все равно ее не добьетесь [23]. Байес также говорил о распределениях вероятностей. Мы знаем наиболее вероятное место, где будет проходить линия, но почти так же вероятно, что она будет немного в стороне от нее, и немного менее вероятно, что она будет дальше. И вполне возможно (но очень маловероятно), что она окажется далеко справа, но три шара случайно поместятся в пространство рядом с бортиком. Зарисуем это распределение вероятностей в виде графика. Чуть выше мы увидели, как выглядит равномерная вероятность — ровная линия по всему графику. После того как пять шаров будут брошены, вы сможете перерисовать график с помощью довольно сложных математических расчетов, и он будет выглядеть следующим образом:
Это апостериорное распределение вероятности — то, как выглядит оценка вероятного положения линии после того, как к априорному распределению была добавлена новая информация. Но если вы начнете искать дополнительную информацию, ваша апостериорная информация [24] станет новой априорной информацией. Если бы вы бросили еще пять шаров, процесс был бы таким же. И, скорее всего, новое распределение оказалось бы еще уже и точнее сконцентрированным вокруг истинного значения. Именно в рамках такой системы мы поступаем в ситуациях, аналогичных всем рассмотренным выше примерам, — когда с помощью медицинского скрининг-теста пытаемся диагностировать рак, делаем тест на ковид, чтобы выявить ковид, или с помощью улик пытаемся посадить подозреваемого. Мы берем априорную информацию (насколько распространен рак?) и добавляем к ней новую информацию (положительный тест с определенным уровнем чувствительности и специфичности), тем самым создавая новое апостериорное распределение. И, что очень важно, все это субъективно. Это не значит, что все абсолютно случайно, или что любая априорная вероятность одинаково
валидна — если ваша априорная вероятность заключается в том, что шестерка на шестигранном кубике выпадет у вас примерно один раз из шести, а моя — что в пяти из шести, вы, вероятно, будете ближе к истине, чем я, поскольку большинство кубиков имеют правильную форму. Можно найти как хорошие, так и плохие причины иметь те или иные представления. Но эти представления субъективны. (Конечно, если кубик правильной формы, и мы бросим его несколько сотен раз, и если я, как верный байесианец, буду соответствующим образом менять свои представления с учетом новых данных, мы увидим, что шестерка выпадает примерно один раз из шести, и я быстро скорректирую «мою» вероятность до значения, очень близкого к вашей). Байес написал свой «Очерк…», скорее всего, после выхода статьи Симпсона в 1755 году. Судя по всему, эта работа канула в Лету почти бесследно: она была опубликована после смерти Байеса, но, по-видимому, осталась неизвестной Пьеру-Симону Лапласу — французскому математику, который в 1774 году самостоятельно пришел к аналогичным выводам. Стиглер утверждает, что сам Байес был о ней не очень высокого мнения. В 1760 году, за четыре месяца до смерти, он составил завещание, предполагая, что жить ему осталось недолго, и что «мог бы сообщить о своей работе Королевскому обществу, если бы захотел», поскольку к тому времени он был его членом. Но не стал. В итоге она оказалась у его друга Ричарда Прайса, которому Байес завещал 100 фунтов и свои бумаги, в том числе и «Очерк…» (Байес, похоже, не знал, где жил Прайс: в завещании указано, что деньги и бумаги переходят к «Ричарду Прайсу, который, как я предполагаю, служит сейчас проповедником в Ньюингтон-Грин».) Прайс, судя по всему, осознавал важность работы лучше ее автора.
Первый байесианец Прайс хочет спасти Бога от Юма Ричард Прайс (1723–1791) тоже был священникомнонконформистом, который, как Байес верно предположил, служил в одной из церквей Ньюингтон-Грина в северо-восточной части Лондона. Церковь эта сегодня даже в чем-то знаменита — это старейший из ныне действующих нонконформистских храмов Лондона. Среди ее прихожан была Мэри Уоллстоункрафт, из-под пера которой вышло эссе «В защиту прав женщин». Ее дочь Мэри Шелли написала роман «Франкенштейн». Прайс в то время был гораздо известнее своего старшего друга Байеса. Он поддерживал прочные связи с радикальными мыслителями, в частности, дружил с несколькими отцами Американской революции. Прайс вел переписку с Томасом Джефферсоном и Бенджамином Франклином, которые навещали его в Ньюингтон-Грине, а также с Джоном Адамсом — вторым президентом Соединенных Штатов. Особенно близкие дружеские отношения у Прайса, судя по всему, сложились с Франклином. Прайс был известным сторонником революции: его памфлет « Observations on the Nature of Civil Liberty, the Principles of Government, and the Justice and Policy of the War with America»(«Заметки о природе гражданской свободы, принципах правления, а также о справедливости и политике в отношении войны с Америкой») вышел из печати в феврале 1776 года — за несколько месяцев до принятия Декларации независимости США. Он разошелся за три дня и к маю того же года был переиздан одиннадцать раз. Согласно биографии Прайса, «воодушевление, полученное от этой книги, сыграло немаловажную роль в том, что американцы провозгласили независимость». Прайс также дружил с философами Дэвидом Юмом (о нем подробнее ниже) и Адамом Смитом, а еще с политиком Уильямом Питтом Старшим. Одним словом, яркий, думающий человек,
друживший с другими яркими, думающими людьми, известными во всей Англии и Америке, и странно, что сегодня о нем мало кто помнит. Прайс важен для нашей истории, так как именно он распространил статью Байеса на широкую аудиторию: он показал ее физику Джону Кантону в 1761 году, после смерти Байеса, и два года спустя опубликовал в журнале Philosophical Transactions of the Royal Society («Философские труды Королевского общества»). Отчасти публикация заняла так много времени потому, что Прайс не просто проверял ее на наличие опечаток и неправильно расставленных запятых; по словам историка статистики Стивена Стиглера, он взял на себя более важную задачу, чем роль «верного душеприказчика». У Прайса было собственное видение этой работы: Байес написал первую ее часть, а вторую, содержавшую все возможные практические применения теоремы, полностью написал Прайс. Байеса не интересовала прикладная статистика: в этом и во всех других текстах его занимала «только теория без малейшего намека на применение». Но Прайс стал — снова процитирую Стиглера — «первым байесианцем». Прайс воображал человека, «только что появившегося на свет», впервые увидевшего солнце: «потеряв его [из вида] в первую ночь, он не будет иметь ни малейшего представления, увидит ли он его когданибудь снова или нет», — писал Прайс в своем приложении к работе Байеса. На следующее утро солнце снова встает, потом через день снова и так далее. После n смен ночи и утра насколько можно быть уверенными, что на следующее, n+1 утро солнце снова выйдет из-за горизонта? Он утверждает, что для решения этой задачи применима теорема Байеса. Увидев солнце один раз, вы же не знаете точно, разовое это событие или повторяющееся: появление солнца лишь означает, что оно возможно, но может происходить в одно утро из квадриллиона, или каждое утро, или с любой другой частотой. У вас должно быть, как мы бы сейчас сказали, равномерное распределение вероятностей по всем возможностям. Увидев один раз, как солнце снова встает один раз, рассуждал Прайс, вы должны быть уверены, что «вероятность повторного восхода солнца составляет три к одному в пользу некоторой вероятности этого события». Похоже на байесовский пример со столом
и шарами, только вместо того, чтобы определять вероятность попадания шара с той или иной стороны от линии, вы определяете вероятность восхода солнца. После того как вы увидите миллион раз, что солнце встает, «вероятность, что оно снова встанет через обычный промежуток времени, будет равна двум в миллионной степени к одному». Однако никакой объем данных «не будет достаточен, чтобы дать абсолютную или физическую достоверность этого». Все это очень весело, конечно, и соответствует тому неуклонному прогрессу, который мы наблюдаем: Бернулли пытался выяснить, какой степени «внутренней убежденности» можно достичь при заданном размере выборки, а Симпсон и де Муавр старались превратить идею вероятности характеристик выборки(probability for sample) — вероятность получить данные, которые мы уже видели, если мы предполагаем, что гипотеза верна, — в выведенную(inferential) вероятность для генеральной совокупности — вероятность того, что гипотеза верна c учетом всех виденных нами данных. Интересно, что именно мотивировало Прайса в этом деле. В то время в среде нонконформистов произошел раскол между теми, кто считал, что математика приведет к безбожию, и теми, кто считал, что она поможет нам понять Божью Вселенную. Прайс придерживался второго мнения, и поэтому, как считают Стиглер и Беллхаус, хотел с помощью теоремы Байеса спасти Бога от Дэвида Юма. Юм в своем эссе «О чудесах», написанном в 1748 году, утверждал, что никакие свидетельства не должны убедить человека в том, что произошло чудо, нарушение закона природы: он никогда вообще-то не говорил, что «экстраординарные утверждения требуют экстраординарных доказательств», но суть была именно такой. «Ни одно свидетельство не является достаточным для установления чуда», — писал Юм, — «если только свидетельство не будет такого рода, что его ложность была бы более чудесной, чем факт, который оно стремится установить». «Если кто-то говорит, что видел мертвых, воскрешенных к жизни, — продолжает Юм, — я сразу же решаю для себя, что более вероятно: то, что этот человек обманывает или его обманывают, или то, что факт, о котором он рассказывает, действительно имел место». Такие высказывания звучали довольно шокирующе для христианской страны, которая твердо верила в то, что в Новом Завете
по крайней мере один человек воскрес из мертвых, поэтому эссе Юма вызвало враждебную реакцию. Но вопрос здесь именно в вероятности: у всех нас есть жизненный опыт, согласно которому законы природы не могут быть нарушены, и у нас также есть опыт, по которому люди могут говорить неправду. Если кто-то скажет: «Я видел, как мертвец воскрес», большинство из нас сочтет более вероятным, что этот человек ошибается или лжет, чем то, что он действительно видел, как мертвец воскрес. Поэтому, утверждал Юм, на такие рассказы не следует обращать внимания, так как они бессмысленны. Но Прайс, вооружившись теоремой Байеса, хотел сказать, что редкие события все-таки случаются, и что даже если вы видели восход солнца или прилив миллион раз, вы никогда не можете быть «физически уверены», по его выражению, что так будет и в следующий раз. В дополнении к работе Байеса Прайс изложил свой пространный аргумент о кубике с неизвестным, но очень большим числом сторон, который выпадает определенным образом за миллион бросков определенное число раз, и написал, какой вывод можно из этого сделать. Точно такие же цифры он упомянул в более позднем сочинении, явно критикуя в нем текст Юма «О чудесах». В более поздней работе, как бы «производной» от идей Байеса, Прайс предложил вообразить, что у этого кубика огромное, но неизвестное число граней, возможно, миллион или более. Некоторые грани помечены, скажем, буквой X, а некоторые нет, но вы понятия не имеете, каково соотношение [пустых граней и помеченных], и пытаетесь его вычислить. Вы бросаете кубик миллион раз. И миллион раз вам выпадает грань с буквой Х. Этот пример в точности аналогичен не совсем бильярдному столу Байеса, о котором шла речь в предыдущем разделе. Вместо вопроса «оказался ли шар слева или справа от линии?», задается вопрос «выпал ли кубик гранью с буквой X или нет?», но математический расчет здесь можно сделать точно такой же. Если вам выпала грань с буквой X миллион раз подряд и, что важно, вы заранее не знали, какова вероятность того, выпадет именно грань с буквой X, а не другие грани, без нее, то оценка вероятности того, что в следующем броске выпадет грань без буквы X, будет равна 1 / 1 000 002. И распределение вероятности — кривая на графике — сосредоточено вокруг этой цифры. То есть по расчетам Прайса существует 50-процентный шанс,
что вероятность выпадения грани кубика без буквы X составляет от 1 к 600 000 до 1 к трем миллионам. Прайс далее предлагает взять другой пример. Допустим, вы наблюдаете за приливом, который происходит дважды в день. Вы видели это явление миллион раз (вам 1400 лет). И все равно есть маленькая, но реальная вероятность, что в миллион первый раз прилива не будет. Редкие события иногда случаются, и никакой опыт их отсутствия никогда полностью не исключит их. Точно так же, сказал бы Прайс, вы, наверное, множество раз видели, что люди не воскресают из мертвых, но вы никогда не сможете с уверенностью сказать, что этого никогда не произойдет. Юм видел работу Прайса. На самом деле между этими двумя людьми произошел довольно милый обмен мнениями, о котором я расскажу вам только потому, что так приятно видеть, как два человека, которые так глубоко расходятся во мнениях по такому важному вопросу — есть Бог или Бога нет, — ведут себя столь любезно. В свой ответ на работу Юма «О чудесах» Прайс включил несколько грубоватых строк, в частности, предположив, что человек, выдвигающий такие аргументы, как Юм, «заслуживает скорее насмешки, чем спора». Затем Юм и Прайс встретились, и Юм — по общему мнению, очень приятный и разумный человек, — оставил Прайса одновременно очарованным и пристыженным. Во втором издании своей работы он убрал все нелицеприятные комментарии (например, фразу «это действительно не что иное, как плохой, хотя и хитроумный софизм» заменил на такую: «я без колебаний утверждаю, что он основан на ложных принципах») и добавил в целом примирительное введение, в котором сказал, что не следует обвинять оппонента в недобросовестности или изворотливости. Юм же после извинений Прайса написал ему милое письмо, в котором сказал, что тому не за что извиняться, что он «настоящий философ» и отнесся к Юму «с необыкновенной любезностью… как к человеку ошибающемуся, но способному рассуждать и иметь твердые убеждения», и что аргументы Прайса звучали как «новые, оправданные и оригинальные», хотя Юм больше не возвращался к тому эссе. В предисловии к работе Байеса Прайс пошел даже дальше. Он ничего не стал утверждать о чудесах, но предположил: теорема Байеса
может показать, что мир развивается по неизменным законам, и таким образом «подтвердить аргумент о существовании Божества, взятый из конечных причин». Я не знаю, сколько найдется современных статистиков, которые с этим согласятся, но теорема Байеса с самого начала имела несколько возвышенных применений.
От Байеса до Гальтона Бернулли, де Муавр и Симпсон показали, что если что-то много раз измерить, и (как отметил Байес) если ошибки в этих измерениях случайны, а не системны, то эти измерения будут стремиться к центру вокруг истинного значения. Байес показал, что если учитывать априорную оценку того, каким, скорее всего, будет это истинное значение, то можно с помощью этих измерений делать те или иные умозаключения или утверждения о том, что вероятно в мире. Через несколько лет после смерти Байеса великий французский математик и физик Пьер-Симон Лаплас независимо пришел к тем же выводам, что и Байес, и изложил их более подробно. Ричард Прайс приезжал в 1781 году в Париж и обсуждал правило Байеса с Николя де Карита, маркизом де Кондорсе, который был ментором Лапласа. Кондорсе, а затем и сам Лаплас признали, что Байес пришел к выводу первым, и поэтому мы имеем теорему Байеса, а не Лапласа, хотя подход Лапласа к решению этой задачи был, вероятно, более впечатляющим. Теория вероятностей выросла из азартных игр и из физики; основное ее применение нашли астрономы, пытавшиеся использовать среднее значение нескольких наблюдений для минимизации общей ошибки. Однако возможность использования теории и в социальных науках была очевидной: еще Якоб Бернулли говорил о задаче актуария, который должен был определить, насколько вероятно, что человек проживет еще десять лет, если учесть данные других людей такого же возраста и статуса: Если из трехсот наблюдаемых мужчин того же возраста и комплекции, что и Тициус, двести через десять лет умерли, а остальные оставались живы, мы можем с достаточной уверенностью заключить, что у Тициуса в два раза больше
шансов уйти из жизни в течение ближайших десяти лет, чем пересечь эту границу. Лет через шестьдесят Лаплас изучал рождаемость в Париже и обнаружил, что существует небольшой, но реальный перекос в сторону рождения мальчиков: с 1745 по 1770 год в городе родилось 251 527 мальчиков и 241 945 девочек (соотношение примерно 51:49). На основе этих данных он заявил, что существует лишь один шанс из 10^42, что вы увидите такой экстремальный результат, если каждый родившийся с равной вероятностью будет мальчиком или девочкой. Он также заметил, что в Лондоне наблюдался еще более экстремальный половой перекос среди новорожденных. По-настоящему, однако, продвинул теорию вероятностей и статистику в социальные науки бельгийский математик-вундеркинд Адольф Кетле (1796–1874). Он работал астрономом и метеорологом в Брюссельской королевской обсерватории, но его лично больше интересовала статистика. К двадцати шести годам он стал старшим научным сотрудником национального статистического управления, анализировал данные о населении и организовал перепись. Он так же близко подошел к идее случайной выборки населения для получения представления о целом, как это сегодня делают, когда проводят опросы общественного мнения, и использования ее вместо переписи по модели Лапласа. Его разубедил барон де Кеверберг, утверждавший, что невозможно быть уверенным в том, что выборка действительно репрезентативна для всего населения; слишком велики различия между подгруппами. Главный вклад Кетле в науку — идея «среднего человека». Он собирал данные о людях — и не только о мужчинах — по разным параметрам: физические характеристики — рост, вес, сила; моральные и психологические качества — склонность к пьянству, преступлениям, безумию. Кетле хотел найти средние значения по каждой из этих «осей» — фундаментальные единицы для того, что он назвал «социальной физикой». По этим осям можно анализировать общество: как уровень образования коррелирует с вероятностью совершения преступлений? А грамотность? А возраст?
Кетле заметил, что многие из этих показателей распределены нормально [25]. Например, он изучил окружность груди шотландских солдат и обнаружил нормальную кривую, подобно тому, как если бы вы несколько раз измерили грудь одного и того же солдата, результаты были бы распределены (из-за ошибки измерения) вокруг среднего значения. Он предположил: это значит, что рост, вес, сила и даже поведенческие характеристики — склонность к суициду, например, — являются результатом действия множества мелких факторов, и редко все эти влияния направлены в одну или другую сторону. Обычно одни направлены в одну сторону, другие — в другую, и поэтому рост, вес и пристрастие к алкоголю людей чаще группируются вокруг среднего значения в популяции, что соответствует нормальному распределению. «Похоже на то, как если бы рост каждого человека определялся путем извлечения большого количества камешков из одной и той же урны с заданной фиксированной пропорцией, — пишет Клейтон, — причем каждый белый камешек делал его выше, а каждый черный — ниже». Кетле хотел найти законы человеческого общества, аналогичные законам физики, но он также начал думать, что средний человек в некотором роде является идеальным человеком — «эталоном красоты, к которому стремится природа», по выражению Стиглера, хотя другие предполагали, что средний человек будет посредственным или даже в чем-то чудовищным. Кетле наделал разных ошибок. Например, он не понимал, что есть различные нюансы даже для нормального распределения величин [26], а также с радостью применял нормальную кривую ко всему, что видел. Один статистик, работавший после Кетле, предложил ставить диагноз «кетлизм» всем, кому везде мерещится нормальное распределение. Но одержимость Кетле нормальным распределением в некоторой степени закрепилась. Благодаря его работам возникла идея, что можно делать вероятностные прогнозы о поведении и жизненных итогах того или иного индивида за счет анализа более широких групп населения. Например, в знаменитой работе о судах присяжных Кетле показал, что существуют различия в вероятности вынесения обвинительного приговора в зависимости от того, кого судят — мужчину или женщину, старше подсудимые или моложе тридцати лет, хорошее у них образование или нет, грамотны они или нет. (Максимальные шансы на
оправдательный приговор имела бы образованная женщина старше тридцати — по крайней мере, во Франции начала XIX века). Такие выводы вызвали огромные споры: казалось, что они противоречат идее свободы воли, согласно которой наше поведение и выбор являются результатом наших качеств. Они также подготовили почву для идей, которые позднее назовут «научным расизмом»: один из последователей Кетле Луи-Адольф Бертильон обнаружил, что среди молодого мужского населения города Ду (Doubs), похоже, есть два пика на кривой, как было бы, если бы измеряли рост мужчин и женщин; в Ду выявили двух«средних людей». Бертильон предположил, что объяснение следует искать в двух «расах», к которым принадлежали жители Ду — кельтской и бургундской. Предположение оказалось ошибочным: спустя несколько лет выяснилось, что Бертильон напутал, переводя дюймы в сантиметры, и данные выглядели так, будто говорили о том, чего не было. Но тропинка для последователей уже возникла. И, по крайней мере, по мнению Клейтона, споры об измерении людей отпугнули статистиков от модели Байеса/Лапласа, признающей субъективный характер теории вероятности, и заставили их спрятаться за статистикой, которая казалась такой объективной и надежной. Вскоре на сцену вышел Фрэнсис Гальтон.
Гальтон, Пирсон, Фишер и взлет фреквентизма Несмотря на работы Байеса и Лапласа, статистики и ученые в массе своей не используют теорему Байеса в повседневной работе. Большинство из них считаются сторонниками частотного анализа или фреквентистами. Частотная (фреквентистская) статистика противоположна теме нашего обсуждения. Если теорема Байеса ведет вас от данным к гипотезе — насколько вероятно, что гипотеза верна, с учетом виденных мною данных? — частотная статистика ведет от гипотезы к данным: каков шанс, что я получу такие данные, если считать некую гипотезу верной? Именно этим, конечно, занимался Бернулли более чем столетием ранее, и за границы этих представлений другие люди уже пытались выйти. Почему же тогда произошел этот возврат? Прежде чем я продолжу, если вдруг вы еще не сообразили: всё, о чем мы здесь рассуждаем, суть феноменальным образом спорные, противоречивые вещи. Я пишу о научных спорах уже много лет, и они иногда становятся по-настоящему острыми, но «статистические войны» байесианцев и фреквентистов, пожалуй, можно назвать самыми ожесточенными из всех. Поэтому всё изложенное мной далее вызовет раздражение у многих людей, даже если я правильно изложу суть. Мое базовое понимание таково: априорные вероятности представляют собой проблему по техническим и прагматическим причинам — как их выбирать? В примере с воображаемым не совсем бильярдным столом Байес предполагал, что белый шар с равной вероятностью может оказаться в любом месте стола. Такую априорную вероятность называют равномерной (uniform prior). Это вполне оправдано: можно себе представить, что если бросить шар с достаточной силой, то он окажется в совершенно случайном месте. Но
как быть с ситуациями, когда вы совершенно ничего не знаете, и у вас нет веских причин предполагать априорную вероятность чего-либо? Более техническое возражение выдвинул математик и логик Джордж Буль, согласно которому существуют разные виды незнания. Упрощенный пример, взятый у Клейтона: допустим, у вас есть урна с двумя шарами. Вы знаете, что шары либо черные, либо белые. Предположите ли вы, что два черных шара, один черный шар и ноль черных шаров — всё это равновероятные исходы? Или вы бы предположили, что каждый шар с одинаковой вероятностью будет черным или белым? Это по-настоящему важно. В первом примере априорные вероятности равны ⅓ для каждого исхода. Во втором получается биномиальное распределение: есть только один способ «получить» два черных шара или ноль черных шаров, но два способа получить по одному шару каждого из цветов. Поэтому априорные вероятности равны ¼ для двух черных, ½ для одного из них, ¼ для двух белых шаров. Ваши два разных вида незнания полностью противоречат друг другу. Если представить, что в урне не четыре, а 10 000 шаров, то при первом типе незнания вероятность того, что в урне окажется один черный и 9999 белых шаров, будет равна вероятности, что их там будет по 5000 каждого цвета. Но при втором типе незнания это было бы все равно что сказать, что по результатам десяти тысяч подбрасываний монеты последняя с одинаковой вероятностью может выпасть орлом 9999 раз или 5000 раз, что, конечно, не так. При таком втором типе неведения вы знаете, что в большой урне с сотнями или тысячами шаров соотношение с гораздо большей вероятностью окажется примерно равным 50 на 50, чем 90 на 10 или 100 на 0, даже если предполагается, что вы находитесь в неведении. Так какую же априорную вероятность мы возьмем за основу? Считаем ли мы цвет шаров самостоятельным или связанным фактором? Вы можете сказать, что предполагаете полное незнание, но есть разные виды «незнания», и вам придется выбрать из них один. Но основная проблема байесовских априорных вероятностей — философская: они субъективны. Как мы уже говорили, они свидетельствуют не о мире, а о нашем собственном знании и незнании [27]. А это… неприятно. Наука и цифры обещают нам объективность
— это по-прежнему верно сегодня, и, я думаю, особенно было верно в XVIII и XIX веках, когда Кетле и ему подобные спокойно упоминали термины вроде «социальная физика», не опасаясь, что настоящие физики будут хихикать у них за спиной. Мы должны иметь возможность, оценив выводы любого эксперимента или наблюдательного исследования, — да пусть хоть размеров груди шотландских солдат, — согласиться с тем, что они резонны. Байесовская модель, как мне представляется, провозглашает, что степень истинности или ложности чего-либо зависит от того, насколько сильно я был в этом убежден раньше. Так что если мы проводим исследование гомеопатии или бозона Хиггса и делаем какоето позитивное открытие, то вы можете считать этот результат весьма вероятным, а я — нет, и мы оба можем быть правы, если наши априорные вероятности достаточно сильно различаются. Есть что-то мягкое и вязкое в идее, что вероятность в конечном счете субъективна и персонализирована и не является чем-то реальным, существующим в мире. Если я скажу: «Вероятность того, что монета выпадет орлом, составляет 50 %», может показаться, что я делаю некое заявление о монете, а не о собственных представлениях о ней. Конечно, и мы к этому еще вернемся, «субъективное» не значит «случайное» или «необоснованное». Скажем, у меня есть два представления: первое, что монета правильной формы, подброшенная правильным образом, выпадет орлом в 50 % случаев; и второе, что есть 90-процентный шанс, что завтра меня похитят инопланетяне. И то, и другое — субъективные утверждения о моих внутренних убеждениях, но большинство людей согласятся, что первое убеждение разумно, а второе — нет. Тем не менее, идея о том, что вероятность «спрятана» у нас в голове, что когда мы говорим «шанс, что на кубике выпадет шестерка, составляет один к шести», мы как бы сообщаем о своих представлениях, а не о кубиках, не была и не является общепринятой среди тех, кто думает о статистике. Именно это неприятие субъективности, по-видимому, и послужило толчком к появлению фреквентизма.
Расисты ли фреквентисты? Именно здесь мы впадаем в серьезное противоречие. Во-первых, необходимо признать, что по меркам XXI века и, возможно, по меркам своего времени некоторые из тех, кого можно назвать деятелями золотого века статистической мысли, придерживались довольно страшных взглядов. Вопрос в том, можем ли мы отделить эти взгляды от разрабатывавшихся ими статистических теорий. Фрэнсис Гальтон (1822–1911), например, был во многих отношениях выдающимся человеком: «возможно, последний из ученых-джентльменов», двоюродный брат Чарльза Дарвина, дипломированный врач, который унаследовал состояние, бросил медицину и занялся тем, что ему нравилось. Он исследовал Африку и был награжден за это медалью Королевского географического общества; он заставлял метеорологические станции заполнять анкеты о погоде и благодаря полученным данным первым заметил антициклоны — вихревое движение воздушных масс, знакомое нам по спутниковым снимкам. Что особенно важно, он внедрил статистику в науку о человеке, например, в изучение процессов наследования таланта в семье. Основная часть карьеры Гальтона прошла в Университетском колледже Лондона, где он совершил ряд значительных открытий. Например, была такая запутанная проблема с «нормальным распределением». Представьте, что вы смотрите на размер виноградин. Вам кажется, что они распределены нормально: чаще всего встречаются виноградины среднего размера, а очень крупные и очень мелкие — реже. Но теперь представьте, что виноград выращивается на трех участках на одном и том же холме: на северной стороне, на восточной и западной сторонах и на южной стороне. Северная сторона получает меньше всего солнца, поэтому виноград на ней самый мелкий (в среднем). Восточная и западная стороны получают больше солнца, поэтому виноград там крупнее. Южная сторона получает больше всего солнца, поэтому виноград, растущий там, самый крупный. Каждая из этих групп винограда, как вам кажется, должна быть нормально распределена. Но тогда… значит ли это, что общая группа виноградин не распределена нормально? Должны ли мы увидеть на графике три пика? А что, если групп будет больше трех или если будет скользящая шкала исходных данных? Или если бы различалось количество осадков и
солнечного света? Почему, несмотря на все эти разные исходные данные, мы видим в целом нормальное распределение? Гальтон не был особенно талантливым математиком, поэтому для решения задачи он использовал умную альтернативу — так называемый квинкункс, немного напоминающий ярмарочную игру. Это большая доска со вбитыми с задней стороны штырьками и рядом отсеков в нижней части. В верхней части есть воронка, в которую засыпают маленькие шарики. Шарики скачут вниз по доске и, отскакивая (теоретически) от штырьков влево или вправо, падают вниз. Шарики (как и следовало ожидать) приземляются примерно по нормальной кривой: случайные отскоки имеют тенденцию выравниваться, как признал бы де Муавр, но иногда получается «перекос», скажем, вправо. Гальтон решил добавить второй ряд отсеков над первым, которые «улавливают» шарики выше, и которые можно открывать по отдельности. На более высоком уровне шарики «улягутся» в нормальном распределении, но когда вы откроете один отсек, шарики из этого отсека образуют кривую с
нормальным распределением под ним. То есть Гальтон показал, что если открыть все отсеки, то несмотря на то, что каждый из них сам по себе формирует нормальную кривую, они складываются в большую нормальную кривую. По его словам, это свидетельствовало о том, что в ситуациях, подобных примеру с виноградом, множество мелких нормальных распределений может складываться в одно большое, если только средние распределения встречаются чаще (как в нашем примере, где есть два склона холма со средним значением солнечного света — восточный и западный, и лишь по одному склону с крайними значениями — северный и южный). Благодаря этим выводам Гальтон и статистики после него стали думать о множестве различных популяций, составляющих часть одной большой популяции. Гальтон также первым объяснил феномен, известный сегодня как регрессия к среднему, который он сам называл регрессией к посредственности. Изучая душистый горошек, но думая о людях, он
заметил, что потомство очень высоких родителей, как правило, не такое высокое, как их родители, если сравнивать средний рост двух родителей; а потомство очень низких родителей, как правило, довольно высокое. Это обстоятельство смущало ученого, поскольку можно было рассчитывать, что рост потомства будет нормально распределен вокруг роста родителей. Гальтон показал, что это общий вывод: любые две переменные, которые в некоторой степени, но несовершенно коррелируют между собой (например рост родителей и рост их потомства, рост человека и его вес, население страны и ее ВВП), будут демонстрировать то же самое явление. Если вы найдете экстремальное значение одной переменной, скажем, очень тяжелого человека или страну с очень большим ВВП, то, скорее всего, оно будет менее экстремальным по другой переменной просто потому, что экстремальные значения маловероятны. Гальтона также очень интересовал вопрос наследования таланта. Он написал книгу под названием «Наследственный гений», в которой рассматривал, как блестящие мыслители часто «группируются» по семьям (эту мысль ему могло внушить собственное семейство, члены которого Эразм Дарвин и Чарльз Дарвин были ему близкими родственниками). Он предложил выражение «nature and nurture» («природа и воспитание») для обозначения двойного влияния наследственности (сейчас мы называем это генетикой) и среды. Однако на самом деле он хотел создать науку о селекции людей — евгенику; слово, кстати, тоже ввел он. Здесь надо быть осторожным, потому что некоторые комментаторы склонны связывать все исследования человеческого интеллекта и его наследственной природы с евгеникой или «научным расизмом». Мы действительно можем довольно хорошо измерить человеческий интеллект с помощью несовершенного, но в целом полезного показателя IQ, и он действительно передается по наследству. Передовые исследования, направленные на разделение влияния генов и среды, показывают, что примерно половина разброса в IQ обусловлена генами, которые мы наследуем от наших родителей. Это хорошо установленный, многократно повторенный вывод, и исследования интеллекта — хорошая, важная наука. Но Гальтон хотел не просто наблюдать и документировать факты о том, как распределяется интеллект. Он хотел заниматься разведением, селекцией людей. «Если бы на меры по улучшению человеческой расы была потрачена двадцатая часть тех затрат и трудов, которые я потратил на улучшение породы лошадей и скота, не создали бы мы настоящую плеяду гениев!» — писал он. «Мы могли бы привести в мир пророков и первосвященников цивилизации». Поэтому он выступал за то, чтобы поощрять размножение в успешных семьях и не поощрять его в менее успешных. И он был
совершенным расистом. Он написал письмо в «Таймс», в котором назвал африканцев «неполноценными» и «ленивыми, болтливыми дикарями», арабов — «лишь пожирателями продуктов чужого труда, скорее разрушителями, чем созидателями». Он призвал отдать Восточную Африку китайцам, потому что они, хоть и склонны ко «лжи и раболепию», и это есть результат их воспитания, но по природе своей «трудолюбивы [и] любят порядок». Англосаксы были для Гальтона лучшей из существующих рас, хотя самой лучшей во все времена были древние афиняне: «средние способности афинской расы, по самой низкой оценке из возможных, почти на два класса [стандартных отклонений] выше, чем у нас», — разница, по его словам, сопоставимая с разницей между англосаксами и африканцами. Гальтон был одержим каталогизацией и сравнением рас с помощью научных инструментов, которые он сам же и придумывал. Работы Гальтона вдохновили последующие поколения статистиков, в частности, Карла Пирсона (1857–1936) и Рональда Фишера (1890–1962). Как и Гальтон, Фишер и Пирсон были выдающимися учеными и, подобно Гальтону же, были неприлично одержимы расовыми вопросами — по меркам нашего времени и, возможно, по меркам своего собственного времени. Кроме того, оба они ненавидели друг друга. Пирсон был эрудитом, историком, философом, физиком, юристом и политиком еще до того, как занялся математикой. В 1885 году он стал профессором прикладной математики в Университетском колледже Лондона (UCL), пойдя по стопам Гальтона. Гальтон завещал Колледжу деньги на создание кафедры евгеники, и Пирсон стал ее первым сотрудником. Вместе с Гальтоном и Рафаэлем Уэлдоном Пирсон основал статистический журнал Biometrika. Он придумал «критерий хи-квадрат», позволяющий математикам проверять, действительно ли выборка данных распределена нормально, или же она лучше соответствует какой-то другой кривой. Он также ввел термин «стандартное отклонение». Фишер был младше Пирсона; его назначили профессором евгеники UCL после того, как Пирсон вышел на пенсию; точнее, должность тогда как бы разделили на две, и вторую «половину» занял сын Пирсона Эгон. Если вы удивленно вскинули брови при упоминании о том, что в UCL есть «профессор евгеники», не волнуйтесь, мы к этому еще вернемся. Фишер — титан статистической теории, «влиятельнейшая фигура» статистики XX века, как называл его американский статистик Брэдли Эфрон. Набор современных статистических методов, которые он изобрел или усовершенствовал, поражает воображение. Он придумал различные модели, используемые в «дисперсионном анализе» (ANOVA), концепцию «статистической значимости», метод «оценки максимального
правдоподобия» (MLE) для определения того, какая гипотеза о распределении данных лучше объясняет те или иные данные, и множество других вещей. Фишер также был новатором в области генетики: когда статистики общаются с учеными-биологами, то удивляются, когда те называют Фишера великим генетиком, ибо сами считают его великим статистиком, и наоборот. И Пирсон, и Фишер пытались развивать статистику с того места, где «остановились» Лаплас и Байес, опираясь на субъективные априорные вероятности. По иронии судьбы причиной их размолвки стал Байес, а точнее метод максимального правдоподобия. Словом «правдоподобие» (likelihood) Фишер, по сути, предложил называть степень вероятности одной конкретной гипотезы по сравнению с другой с учетом определенных данных. Например, представим, что из десяти бросков монеты в восьми случаях вам выпадает орел. Такой исход довольно маловероятен, если монета имеет правильную форму: такое случается примерно в одном случае из двадцати. Но если монета по какому-то признаку «левая», которая выпадает орлом в 80 % случаев, то вероятность, что орел выпадет ровно восемь раз, примерно один к трем. Вероятность получить такие данные при гипотезе «эта монета имеет неправильную форму и выпадает орлом восемь раз из десяти» примерно в семь раз выше, чем при гипотезе «эта монета имеет правильную форму». Таким образом, отношение правдоподобия между этими двумя гипотезами равно примерно семи. Фишер опубликовал работу, в которой использовал этот инструмент (MLE), в журнале Пирсона Biometrika. Но прочитав ее, Пирсон решил, что Фишер через черный ход протаскивает Байеса. Теперь понятно, почему: выглядит так, будто MLE Фишера — обратная вероятность. Он как бы говорит: «Эта гипотеза более вероятна, чем та». Но вообще-то это не так: все равно больше шансов, что орлом восемь раз выпадет монета правильной формы, чем неправильной, если монет правильной формы в принципе гораздо больше, чем монет неправильной формы. Метод MLE лишь позволяет сравнить, каков шанс получить эти результаты, если принять ту или иную гипотезу, но сам по себе он не сообщает, какая гипотеза более вероятна. Пирсон, однако, считал, что именно это он и сообщает, и добавил к работе Фишера приложение коллективного авторства, в котором они с коллегами, по сути, назвали метод Фишера байесовским, то есть предполагающим, что априорная вероятность каждой гипотезы считается равной, и показал, что в ряде случаев (в частности, в задаче, которую решал Фишер в обсуждаемой статье) такое предположение очевидным образом неверно. Та публикация полностью разрушила их дружбу (Фишеру очень не
понравилось, что его назвали байесианцем), и до самой своей смерти Фишер продолжал враждовать с (давно уже на тот момент умершим) Карлом Пирсоном, его сыном Эгоном и Ежи Нейманом — преемником Пирсона. Как и Гальтон, Пирсон и Фишер придерживались взглядов, которые сегодня мы бы сочли весьма неприятными. В частности, оба были большими поклонниками евгеники. Но опять же, к таким фактам надо подходить с оговоркой. Многие люди того времени, принадлежавшие к прогрессивной, либеральной части общества, тоже были сторонниками евгеники. Мэри Стоупс, выступавшая за контроль над рождаемостью, аборты и права женщин, также была большой сторонницей евгеники. Среди других ее поборников — Джон Мейнард Кейнс, великий экономист, либерал и мой двоюродный дед, так что я должен заявить тут о своей заинтересованности, когда пытаюсь преуменьшить чудовищность тех идей. Герои социалистического и либерального движения Сидни и Беатрис Уэбб, Джордж Бернард Шоу, Бертран Рассел выступали за селекцию человечества ради формирования более совершенного общества. Тогда этот термин не ассоциировался, как сейчас, с правыми. (Хотя когда в конце 2000‐х и начале 2010‐х я писал статьи о скрининге эмбрионов на инвалидность, экстракорпоральном оплодотворении и донорстве митохондрий, «плоды» которого ошибочно стали называть «детьми от трех родителей», именно правые, в основном религиозные, критиковали эти методики как «евгенику»). Когда Фишер писал в журнале Гальтона Eugenics Review, например, что «нации, чьи институты, законы, традиции и идеалы направлены на производство более совершенных и здоровых мужчин и женщин, вытеснят» те, «чья организация направлена на порождение упадка», такие слова явно не вызывали ни у кого такой оторопи, как сегодня. Пирсон — социалист и либерал прогрессивных для своего времени взглядов на эмансипацию женщин — писал еще, что «чужеродное еврейское население несколько уступает физически и умственно коренному населению». Антисемитизм был повсеместен и среди либеральной интеллигенции, и в других стратах британского общества, несмотря даже на всеобщее восхищение еврейскими мыслителями Теодором фон Карманом или Барухом Спинозой. В прошлом люди придерживались мнений, которые мы сегодня с полным правом отвергаем. Даже Дарвин — очень либеральный человек по меркам своего времени — придерживался взглядов, которые сейчас мы бы сочли крайне расистскими. Однако гораздо интереснее, повлияло ли отношение Гальтона, Пирсона и Фишера к евгенике на их взгляды на науку. Клейтон убедительно
доказывает, что повлияло. «История статистики и евгеники показывает, что они тесно переплетены», — рассказал он мне. «Они неотделимы друг от друга». По его словам, в глубине души Фишер и в какой-то степени Пирсон ненавидели идею байесианства, потому что хотели придать объективности своим евгеническим взглядам. Если наука показывает, что одни расы низшие, другие высшие, если необходимость препятствовать размножению бедных есть объективная истина, с этим же не поспоришь. Байесианство и присущая ему субъективность, его мягкотелость в духе «что я думаю?» подрывали, по словам Клейтона, такое отношение. «Они пытались обложиться авторитетом науки, потому что знали, что столкнутся с сопротивлением таким довольно-таки радикальным идеям. Им нужен был самый неоспоримый авторитет из возможных». Клейтон далее процитировал слова самого Пирсона. В предисловии к своей работе о неполноценности еврейских детей тот писал: «Мы считаем, что нет учреждения, более способного к беспристрастному статистическому исследованию, чем лаборатория Гальтона. Мы твердо убеждены, что у нас нет ни политических, ни религиозных, ни социальных предрассудков… Мы радуемся цифрам и числам как таковым и, подверженные человеческим заблуждениям, собираем наши данные, как это должны делать все ученые, чтобы установить истину, которая в них заключена». О евгенике и о том, как она переплеталась с ранней наукой, можно написать целые тома. Многие, собственно, и написали. В книге « Bernoulli’s Fallacy»(«Ошибка Бернулли») Клейтон подробно рассказывает о связи евгеники и науки. Адам Резерфорд в книге « Control»(«Контроль») утверждает, что бóльшая часть современной культуры, начиная в основном с Гальтона, уходит корнями в евгенические идеи. Но Клейтон утверждает, что вся история фреквентистской статистики развивалась так, как развивалась, из-за необходимости двигать вперед евгенику. Я с этим не согласен, и стоит отметить, что Клейтон восхитительно честен в отношении собственной мотивации — он признает, что между фреквентистами и байесианцами идет война, и говорит в своей книге: «Считайте эту книгу военной пропагандой, которую надо печатать на листовках и разбрасывать с самолетов над вражеской территорией, чтобы завоевать сердца и умы тех, кто пока не стал на ту или иную сторону. Цель моей книги — не мирный договор, а победа в войне». Конечно, если выяснится, что фреквентисты — расисты, это точно поможет победить в войне. Биограф Байеса Дэвид Беллхаус, сам занимающийся статистикой, настроен скептически. «Меня такая линия совершенно не привлекает», — говорил он. Это не значит, что с евгеникой все хорошо, и это никак не
помогает отделить историю науки начала XX века от ее неприглядной связи с белым шовинизмом; некоторые расовые установки немецких нацистов можно без труда проследить до Гальтона, например. В этом, однако, пусть разбираются авторы других книг. Меня же интересует вопрос «какая из теорий правильнее?», а если точнее — «какая полезнее?», а не «у какой из них было больше гнусных сторонников?».
Крах баейсианства Гальтон, Фишер и Пирсон — не единственные критики байесовского подхода. Проблема заключалась в самой идее, что если вы не знаете, какой исход наиболее вероятен, то должны рассматривать их как равновероятные. Джон Стюарт Милль, который недолго критиковал модель Лапласа/Байеса, писал в 1843 году: «Чтобы объявить два события равновероятными, недостаточно знать, что одно или другое должно произойти, и не иметь оснований для предположений, какое именно. Опыт должен показывать, что оба события происходят одинаково часто». Идею о том, что вероятность есть просто выражение нашего невежества, Милль считал глупостью. Вероятность, считал он, выражает нечто реальное о мире: частоту, с которой происходят события. Почему, подбрасывая полпенни, мы считаем одинаково вероятным, что выпадет орел или решка?' — писал он. «Потому что опыт показывает, что при любом большом количестве бросков орел и решка выпадают примерно одинаково часто, и чем больше мы подбрасываем монетку, тем больше это равенство становится совершенным». По его словам, обратная вероятность Лапласа и Байеса подразумевает, что, ловко управляясь с числами, «наше невежество можно превратить в науку». Как по мне, это максимально точное описание разногласий между байесианцами и фреквентистами. Байесианство рассматривает вероятность как нечто субъективное: утверждение о незнании нами мира. Фреквентисты считают ее объективной, как утверждение о том, как часто некий исход будет иметь место, если вы будете совершать некое действие огромное число раз. Как мы уже говорили, критика была и вполне конкретной. Джордж Буль обратил внимание на проблему, связанную с тем, что разные виды незнания приводят к разным априорным вероятностям: мы же не знаем общего распределения шаров в мешке или цвет каждого отдельного шара? Связанная с этим проблема была названа в честь французского математика Жозефа Бертрана (хотя я взял эту
адаптированную версию у Клейтона). Представим, что кто-то нарисовал квадрат и просит вас угадать его размер. Размер может быть любым — от нуля до десяти сантиметров по каждой стороне. Если предположить, что все варианты длины одинаково вероятны, то мы также должны сказать, что размер квадрата 1 см × 1 см так же вероятен, как и размер 9 см × 9 см. Но с другой стороны, мы также, конечно же, должны сказать, что мы одинаково не осведомлены о площади квадрата. Максимально возможная его площадь — 100 квадратных сантиметров (10 см × 10 см). Если мы предполагаем одинаковую неосведомленность, то кусок бумаги площадью менее 50 квадратных сантиметров должен быть столь же вероятен, как и кусок бумаги площадью более 50 квадратных сантиметров. Проблема в том, что оба эти утверждения не могут быть верны. Если мы одинаково не знаем длины сторон, то вероятность того, что площадь квадрата будет меньше 50 квадратных сантиметров, составляет более 70 % (площадь квадрата 7 см × 7 см составит 49 квадратных сантиметров, потому что 7×7=49). В то же время, если мы одинаково не знаем площадь квадрата, то с 75-процентной вероятностью можно утверждать, что длина сторон будет не менее 5 см (5×5=25). Опять же, как и в случае с критикой Буля, есть разные виды незнания, и мы не знаем, какой из них использовать. (Позже мыслители-байесианцы предложили идею «априорных вероятностей более высокого уровня» (higher-level priors), описывающую незнание о том, какую априорную вероятность использовать). Английский философ и создатель знаменитых диаграмм Джон Венн, преподававший Фишеру в Кембридже, оттолкнулся от идеи Милля, что вероятность есть то, как часто нечто происходит в реальном мире, а не наши оценки того, насколько это нечто вероятно, и расширил ее. По его мнению, когда мы говорим «монета правильной формы выпадает орлом в 50 % случаев», мы имеем в виду «если бы мы подбрасывали монету бесконечное число раз, она бы выпала орлом в половине этого бесконечного числа раз». Конечно, в реальности мы не можем подбросить монету бесконечное число раз. Но, как говорил Венн, мы должны представить себе это. Фишер вслед за Венном высказывался определенно. «[Когда] мы говорим, что вероятность выпадения пятерки на кубике равна одной
шестой, не надо это понимать так, что из шести бросков этого кубика один и только один обязательно выпадет пятеркой, или что из шести миллионов бросков ровно один миллион выпадет пятеркой. Понимать это следует так, что из гипотетической совокупности бесконечного числа бросков кубика, взятого в своем исходном состоянии, ровно одна шестая [этого числа] выпадет пятеркой». К этому высказыванию есть небольшое забавное дополнение. Фишер ставил Венну, Булю и математику Джорджу Кристалу в заслугу то, что они подорвали байесианство. «Первую серьезную критику [байесианства] разработал Буль», — писал он. «Во второй половине XIX века Венн и Кристал более решительно отвергли теорию обратной вероятности». Но на самом деле ни тот, ни другой ничего такого не делали. Буль действительно указал на проблемы с концепцией равномерной априорной вероятности (uniform prior), но не предлагал отказываться от всей концепции, а лишь указал на то, что она представляет определенную трудность. Сам он писал в очень байесовской, субъективной манере, что «вся процедура теории вероятностей основана на мысленном построении задачи из некоторой гипотезы», и признавал, что принцип незнания — хорошая отправная точка. Венн, в свою очередь, тоже был настроен критически, но только к части байесовских принципов — правилу последовательности, идее о том, что (как мы уже говорили, обсуждая не совсем бильярдный стол Байеса) вероятность того, что событие, произошедшее n раз за x попыток, произойдет в следующий раз с вероятностью (n+1)/(x+2). Помните: если вы пять раз бросите шар на стол, и он дважды окажется слева от линии, то вероятность того, что так же будет и в шестой раз, равна не ⅖ , а 3/7. Сам Фишер весьма критически отнесся к рассуждениям Венна по этому поводу, хотя эта критика была бы столь же разрушительна и для позиции самого Фишера. Кристал же, как это ни смешно, просто допустил ошибку. Он применил теорему Байеса к одной из версий парадокса коробок Бертрана [28] и заметил, что из нее следует, что шанс вытащить белый шар из мешка при определенных обстоятельствах равен три к одному. Но, по его словам, было очевидно, что реальный ответ — пятьдесят на пятьдесят. То есть теорема Байеса неверна. Но это не так: три к одному
на самом деле правильный ответ, и Кристала сбила с толку его собственная интуиция. Из трех мыслителей, к которым обратился Фишер за поддержкой атаки на байесианство, ни один ее не осилил, но осилили сам Фишер, а также Нейман и в некоторой степени Пирсон. Как бы то ни было, байесианство надолго вышло из моды, и сегодня фреквентистская, фишеровско-пирсоновская статистика — стандарт среди профессиональных статистиков и ученых. Победил Фишер, назвавший теорему Байеса «умопомрачительной фальшивкой» — «возможно, единственной ошибкой, которой так глубоко проникся математический мир», и которую «необходимо полностью отвергнуть».
Статистическая значимость Наверное, я должен рассказать вам, что на самом деле представляет собой фреквентистская статистика. В ней много всякого, но в основе лежит обычная, не обратная вероятность (not-inverse probability): это вероятность характеристик выборки (probability for sample) — вероятность, которую признал бы Бернулли, а может даже Ферма с Паскалем. Ее смысл: какова вероятность получить этот результат с учетом определенной гипотезы? Если вы когда-нибудь читали статьи о науке в прессе, то наверняка узнали фразу «статистическая значимость». Возможно, вы также сталкивались с «p‐ значениями». P-значение — это вероятность получить результаты не менее экстремальные, чем те, которые вы видели, с учетом нулевой гипотезы, то есть гипотезы о том, что эффект, который вы ищете, не реален. Представьте, что вы изучаете собранные вами данные. Скажем, у вас есть данные об IQ людей, а также о размере их обуви, и вы хотите выяснить, есть ли среди людей с большим размером ноги склонность к большому уму. По определению средний IQ равен 100. У вас есть пятьдесят человек с размером ноги выше среднего — скажем, люди с британским размером ноги 11 и более. Вы проводите тест на IQ и видите, что средний показатель составляет 103. Но, конечно, это относительно небольшая группа людей, и, как замечал Бернулли, любой идиот может сказать вам, что малые размеры выборки менее надежны, чем большие, а пятьдесят человек — это не самая большая выборка на свете. Что вы можете сказать о своей гипотезе, учитывая полученные результаты? Статистики-фреквентисты фишеровской традиции представили бы, что вы знали, что никакого эффекта нет — что люди с большим размером ноги не более склонны к высокому IQ, чем остальное население. Это ваша нулевая гипотеза. Затем вы вычисляете, насколько вероятно было бы увидеть данные, подобные тем, что вы видите, в точности по методу Бернулли, в соответствии с нулевой гипотезой, и называете это pзначением. Если, скажем, вы получите результаты по крайней мере столь же экстремальные, как те, что получали один раз из каждых десяти, то ваше pзначение будет один к десяти, или 0,1. Я просто вставил пример с IQ и размером ног в онлайн-калькулятор, сделал несколько предположений о выборке и получил p-значение около
0,16. В сущности, это означает, что если вероятность высокого IQ у гражданина с большим размером не выше, чем у любого другого, и вы выбрали группы из пятидесяти человек случайным образом из популяции, то примерно в одном случае из каждых шести вы обнаружите, что ваша группа отличается от средней по популяции как минимум на столько же, выше или ниже. Но что это значит? Можно все-таки сказать, что люди с большим размером ноги умнее или нет? Фишер предположил, что нужно выбрать некий произвольный уровень, на котором можно сказать: «Хорошо, довольно маловероятно, что мы получим настолько экстремальные результаты с учетом нулевой гипотезы, поэтому я буду вести себя так, как будто это реальный эффект». Сам Фишер говорил, что p-значение в 0,05 — результат настолько экстремальный, что вы получите его только один раз из каждых двадцати — было бы хорошей границей, хотя это было всего лишь эмпирическое правило: « Удобно провести черту примерно на том уровне, на котором можно сказать: 'Либо в лечении что-то есть, либо произошло такое совпадение, которое не встречается чаще, чем раз в двадцать испытаний»«, — писал он: то есть p=0,05. Но это совершенно произвольно — вы можете и должны выбрать любой уровень, наиболее подходящий для решения поставленной задачи: 'Если вероятность один к двадцати не кажется достаточно высокой, мы можем, если нам так больше нравится, провести черту на уровне одного к пятидесяти (точка 2 %) или одного из ста (точка 1 %)». Лично автор предпочитает установить низкий стандарт значимости на уровне 5 % и полностью игнорировать все результаты, которые не достигают этого уровня. Какой бы уровень вы ни выбрали, он будет вашей альфой. Если pзначение меньше этой альфы, то вы можете «отвергнуть нулевую гипотезу» и рассматривать эффект, как будто он реален. Мы называем это достижением статистической значимости. Если p-значение выше вашей альфы, то мы не можем отвергнуть нулевую гипотезу и рассматриваем эффект как нереальный. Решка, которая выпала мне Я опустил довольно много информации в этом примере с IQ и размером ног. То, что я сделал, называется «одновыборочным tкритерием», который сравнивает среднее значение выборки с известным средним значением популяции (в данном случае IQ). Помимо размера выборки, нужно еще знать стандартное
отклонение: в случае с IQ это пятнадцать. Необходимо также решить, будет ли это односторонний или двухсторонний критерий. Вот что это значит. Представьте, что вы подбрасываете монету и хотите узнать, правильной она формы или нет. Вы подбрасываете монету пятьдесят раз, и тридцать два раза она выпадает орлом. Какова вероятность, что нечто такое произойдет? Вычисления можно произвести с помощью треугольника Паскаля (или онлайн-калькулятора, что еще проще). Результат: вероятность, что орел выпадет хотя бы в тридцати двух из пятидесяти раз, когда вы подбросите монету, равна 0,03 или 3 %. Это меньше магического числа Фишера 0,05, поэтому можно заявить, что [полученная] величина статистически значима, и опубликовать свою работу «Подбрасывание монет: статистическое исследование» в журнале Nature.
Но подождите. Была ли какая-то конкретная причина, по которой вы решили, что результаты бросков монеты как-то смещены в сторону орла? Нет? Вы бы не меньше удивились, если бы тридцать два раза выпали решки, не так ли? Так что на самом деле вы должны рассматривать вероятность неожиданного результата на любом конце спектра. Вероятность, что решка выпадет тридцать два и более раз, также равна 0,03, поэтому вы можете две эти цифры сложить: 0,03+0,03=0,06. Смысл в том, что если у вас нет причин рассматривать только один конец распределения, вы будете одинаково удивлены, увидев экстремальные результаты на любом из них. Поэтому нужно смотреть на обе «решки». А это значит, что для признания результата статистически значимым он должен быть в два раза более экстремальным, чем если бы вы рассматривали только одну решку.
Конечно, этим тема не исчерпывается. Но, по-моему, вполне можно сказать, что это самое главное. У вас есть нулевая гипотеза: эффекта нет. У вас есть альтернативная гипотеза: эффект есть. Если вы получаете данные, и они достаточно экстремальны, чтобы при нулевой гипотезе они выпали только один раз из двадцати или менее, то, согласно явно произвольному «постановлению» Фишера, вы можете отвергнуть нулевую гипотезу и действовать так, будто верна альтернативная гипотеза. В долгосрочной перспективе в идеальных обстоятельствах это должно сработать. Если продолжить тестирование IQ множества групп людей с большим размером ноги и если верна нулевая гипотеза, что размер ноги и IQ не коррелируют между собой, то вы увидите странные выбросы только один раз из каждых двадцати. А если вы будете видеть результаты p0,05 чаще, то это будет свидетельствовать о наличии некоторой корреляции. Проблема в том, и мы к этому вернемся позже, что обстоятельства не идеальны, и очень легко убедить себя (и других), что p-значение в 0,05 или меньше означает, что вероятность того, что ваша гипотеза ложна, составляет всего один к двадцати. На самом деле вероятность этого может быть намного, намного больше.
Байес далеко и близко Байесовская модель стала непопулярной, но не исчезла полностью. В некоторых сферах — и сам Фишер это признавал, — только с ее помощью и можно было вести статистику. Если вы знаете фоновый уровень заболеваемости в популяции, это знание даст вам правильную вероятность того, что человек болен, если его тест окажется положительным. Если же вы будете ориентироваться только на точность самого теста, то ошибетесь очень сильно. И, несмотря на яростное неприятие байесианства Фишером (а также Нейманом и Пирсоном), люди продолжали открывать или изобретать его заново, потому что оно продолжало работать. Кембриджский геолог Гарольд Джеффрис сыграл ключевую роль в раннем научном байесианстве: он писал, что теорема Байеса «является для теории вероятности тем же, чем теорема Пифагора для геометрии». Пока Фишер работал с горохом и мышами — проводил эксперименты, которые давали точные ответы и могли быть повторены столько раз, сколько потребуется, — Джеффрис изучал распространение сейсмических волн в Земле. Именно Джеффрис в 1926 году первым показал, что ядро Земли жидкое и что внешняя мантия состоит в основном из кремния, а внутреннее ядро — из железа и никеля. Данные, которые он использовал, были гораздо более запутанными, чем те, что удалось получить Фишеру. Точно определять эпицентр землетрясений он хотел с помощью времени обнаружения волн на различных сейсмологических станциях, а также природы материала, через который волны прошли. Но землетрясения случались относительно редко, а данные были зашумлены, поэтому существовала большая неопределенность. «Эти выводы неизбежно были предварительными, — пишет историк статистики Дэвид Хоуи, — [и] делались они не с уверенностью, а с некоторыми степенями уверенности, которые менялись с учетом новой информации». Иными словами, в основе лежал байесовский подход.
Получая новые данные, Джеффрис менял предварительную уверенность в своих гипотезах. Он сам писал: «…любое научное достижение предполагает переход от полного незнания через стадию частичного знания, основанного на доказательствах, которые постепенно становятся все более убедительными, к стадии практической уверенности». По его словам, неясные сферы науки — «самая интересная ее часть». Он признавал неопределенность во всем, даже — что особенно важно — в правильности или неправильности любого научного закона. Деннис Линдли — еще один великий байесианец — написал в своей книге после смерти Джеффриса, что «Джеффрис считал вероятность подходящим описанием любых неопределенностей, тогда как статистики обычно ограничивают ее использование неопределенностью, связанной с данными». То есть если вы не уверены, является ли Женева столицей Швейцарии, или что Вселенной 13,8 миллиарда лет, или что ваш муж вам изменяет, все эти вещи либо истинны, либо ложны, независимо от того, знает ли ктонибудь истинный ответ; Джеффрис с удовольствием бы использовал вероятность для выражения вашей уверенности в этом предположении. (Хоуи также замечает, что Джеффрис был «страстным поклонником детективов». В детективах, написанных в жанре «честной игры», читателю должна быть предоставлена вся информация, которую вымышленный детектив использует для раскрытия тайны. Приверженцы этого жанра относятся к криминальным романам скорее как к кроссвордам, чем как к литературным произведениям. По ходу чтения Джеффрис делал заметки о каждом персонаже, отмечая их алиби и мотивы: «Еще один пример того, как можно делать выводы на основе неполных и ненадежных данных!» — говорит Хоуи). По словам Линдли, добродушный Джеффрис — «настолько тихий и мягкий человек, что трудно представить, чтобы он с кем-то спорил», — после школы, которую он закончил в графстве Дарем, поступил в кембриджский Колледж Святого Иоанна, где и проработал семьдесят пять лет вплоть до своей смерти. Он выглядел странной противоположностью своему пламенному современнику Фишеру, хотя они даже умудрялись дружить, несмотря на глубокие философские разногласия. Джеффрис считал, что вся основа фреквентистской
статистики — p-значение и статистическая значимость, подход в духе «насколько вероятны эти данные при нулевой гипотезе?», — перевернута вверх ногами. Они с Фишером вели двухлетнюю дискуссию на страницах журнала Proceedings of the Royal Society of London («Труды Лондонского Королевского общества»), и каждый отстаивал свою точку зрения. По существу дебаты не дали никаких результатов, но с практической точки зрения Джеффрис проиграл: стандартом остался фреквентизм. Примерно в то же время другие ученые пытались справиться с проблемой субъективных априорных вероятностей. Трое ученых пришли к этой идее примерно тогда же, когда шла дискуссия Джеффриса и Фишера: Эмиль Борель, Фрэнк Рамсей и Бруно де Финетти. Все трое согласились с тем, что априорные вероятности субъективны. Но это не значит, что они вымышлены. Каждый из них независимо друг от друга предложил для количественной оценки априорных вероятностей способ: делать ставки. Мы возьмем на вооружение вариант Рамсея. Фрэнк Рамсей — английский гений, успевший к моменту своей смерти в возрасте всего двадцати шести лет внести важнейший вклад в развитие логики, математики, философии и экономики. Его открытие в теории вероятностей заключалось в том, что вероятности — это представления, убеждения. Наши представления, если мы действуем в соответствии с ними, сами по себе — своего рода ставки. Как сформулировал сам Рамсей, «[в]сю свою жизнь мы в некотором смысле делаем ставки. Всякий раз, когда мы идем на вокзал, мы делаем ставку на то, что поезд действительно придет, и если бы у нас не было достаточной степени уверенности в этом, мы должны были бы отказаться от такой ставки и остаться дома». Такой подход означает, что вероятности можно оценить количественно: «вероятность ⅓, очевидно, связана с верой в то, что ставить надо именно 2 к 1». Так было положено начало идее байесианства как теории принятия решений, к которой мы еще вернемся. Идея Рамсея заложила основу для последующих работ по экономической рациональности и принятию решений в условиях неопределенности. «[Он] создал рамку, которая как бы говорит нам, чтó рационально с учетом представлений и желаний агента», — пишет биограф Рамсея Шерил Мисак.
Допустим, вы стоите на перекрестке и не знаете, каким путем дойти до парковки быстрее. Скажем, если вы выберете более короткий путь, то получите 30 единиц счастья или благополучия, а если более длинный, то 18 единиц. Степень вашей убежденности в том, что короче дорога, идущая вправо, составляет ⅔, а в том, что ведущая влево — ⅓. Модель Рамсея позволяет рассчитать ожидаемую субъективную полезность для каждого варианта и говорит, что с учетом ваших представлений и желаний рационально выбрать дорогу, идущую вправо. То есть ваши априорные вероятности субъективны — это правда, но они все равно могут быть «хорошими» или «плохими», и их можно проверить. Более того, они могут быть непоследовательными. Если ваши вероятности не стыкуются, то любой, кто предлагает вам ставки, может вас обыграть. Допустим, в букмекерской конторе предлагают [британские] коэффициенты ставок на трех лошадей: первый — 1 к 1 (evens; в случае выигрыша ставка удваивается), второй — 3 к 1 на аутсайдера (against; сумма ставки вырастет вчетверо) и третий — 4 к 1 на другого аутсайдера. Если вы принимаете предложение по всем трем ставкам, то могли бы поставить 100 фунтов на первую лошадь, 50 на вторую и 40 на третью. Вы заплатили бы 190 фунтов, но гарантированно получили бы за них 200 фунтов выигрыша. Если вероятности — это представления, а представления — предполагаемые ставки, то ваши представления — пусть и субъективные — могут быть непоследовательными таким же образом. В сферах, далеких от науки и профессиональной статистики, теорема Байеса продолжала просачиваться в жизнь. Во время Второй мировой войны, когда среди ученых доминировал фишеровский фреквентистский подход к статистике, люди, которых волновали более насущные, практические вопросы о том, как делать правильные выводы из ограниченных данных, либо использовали теорему Байеса, либо разрабатывали ее сами. Великий кембриджский математик Алан Тьюринг во время войны помогал британской армии взламывать немецкие шифры и коды и
предотвращать атаки немецких подлодок на грузовые суда, ходившие через Атлантику. Подводные лодки держали со своими базами связь по радио, но сообщения были зашифрованы с помощью механического устройства — шифровальной машины «Энигма», которая постоянно создавала новые шифры. Чтобы расшифровать их, Тьюринг сконструировал один из самых первых компьютеров, который должен был определить, что какая буква означает. Проблема заключалась в том, что вариантов было огромное множество. Если бы мы рассматривали каждую из комбинаций как одинаково правдоподобную и если бы машина проверяла 100 возможных комбинаций в секунду, на проверку всех потребовалось бы время, в триллионы раз превышающее время существования Вселенной. Поэтому Тьюрингу и его коллегам пришлось задействовать априорные вероятности, то есть предполагать, что некоторые комбинации букв вероятнее других. То есть трехбуквенная последовательность E-I-N, ein — немецкий неопределенный артикль или «один», — вероятнее, как он рассуждал, чем последовательность J-X-Q. Слова вроде «ВЕТЕР» или «КОНВОЙ» вероятнее слов «ЖАЖДА» или «БУМАГА». Тьюринг формализовал эту догадку в байесовской рамке и построил на ней основы современной теории информации. Он ввел в оборот термин «бан», который обозначал единицу информации, сравнимую с современным битом или байтом. В то же самое время байесовские методы использовали страховщики для определения страховых взносов по обязательствам на рабочем месте. Эксперты по контролю качества в военном производстве применяли байесовские идеи, чтобы свести к минимуму количество снарядов, которые нужно было проверить, чтобы быть уверенными в их качестве. Артиллерийские командиры использовали правило Байеса для расчетов оптимальных вариантов стрельбы. Но в науке фреквентизм все равно правил бал вплоть до 1970‐х.
Я увидел, как во славе[29] «Я за всю жизнь участвовал только в одной», — говорит Энди Грив. «После того случая меня больше не отпускала жена, потому что я опоздал на обратный самолет и не попал на свадьбу, куда нас пригласили на следующие выходные. Но там было очень здорово». Грив — статистик, бывший президент Королевского статистического общества, ныне отчасти пенсионер, почти пять десятилетий отдавший фармацевтической отрасли. А еще он байесианец. А рассказывает он о легендарных конференциях в Валенсии, где байесианство приняло ту форму, которую имеет сегодня. В 1970‐е годы великий статистик Деннис Линдли, в то время возглавлявший кафедру статистики в Университетском колледже Лондона, превратил ее, по словам испанского математика Хосе-Мигеля Бернардо, только что защитившего там докторскую диссертацию, в главную «Европейскую байесовскую школу» той эпохи. Возможно, это не такая уж большая похвала, как кажется: за стенами UCL к байесианству относились крайне несерьезно. «В Университетском колледже мы смотрели на мир глазами Байеса; поэтому я испытал в некотором роде шок, когда обнаружил, что на большинстве статистических конференций нужно было еще побороться с не очень симпатичной аудиторией за само право представить свою работу в рамках байесовского подхода к статистике, и времени на подробности после этого уже не оставалось», — продолжает Бернардо. Грив вспоминал нечто похожее: «Когда мы только начинали читать публичные лекции по Байесу, — говорит он, — довольно часто нам давали время до или после обеда. То есть предназначенное для комиков. „Сейчас Энди вам расскажет про Байеса“». В 1976 году Линдли, Бернардо и уже несколько постаревший Бруно де Финетти посетили первую, как они считали, международную байесовскую конференцию во французском Фонтенбло. За приятным обедом, после нескольких дней, которые прошли без необходимости начинать каждый разговор со спора о байесианстве и фреквентизме и без того, чтобы вас воспринимали как блок «…и в завершение…» в
конце шестичасовых новостей, троица решила, что такое начинание надо продолжить. Через год они провели похожее мероприятие во Флоренции, затем Бернардо получил должность в Йеле и провел некоторое время в поездках по Соединенным Штатам — вел семинары, на которых познакомился с целой плеядой блестящих мыслителей, в том числе с Джорджем Боксом — зятем Рональда Фишера, — и Ирвингом Джоном Гудом — ветераном Блетчли-Парка [30] и одним из первых теоретиков искусственного интеллекта. После одного из таких семинаров он разговорился со статистиком Моррисом ДеГрутом. «Тот вечер сильно затянулся; поглощая большие объемы виски, мы говорили о разных аспектах жизни и к рассвету пришли к разговору о статистике; в итоге договорились постараться при первой же возможности организовать международную байесовскую встречу». Затем Бернардо занял должность профессора биостатистики в Университете Валенсии — как раз когда Испания выходила из десятилетий фашистской диктатуры и начинала открываться. Он предложил министру образования страны провести в Валенсии «первую всемирную встречу байесианцев». Эта первая встреча состоялась в 1979 году. Я рассказываю об этом осторожно, потому что люди, вероятно, не поверят, что речь идет о конференции по академической статистике, но звучит это довольно дико. «Весело было и интересно», — говорит Грив с тоской в голосе. «Много тяжелой работы, но много и веселья. В первой половине дня мы работали, потом устраивали сиесту — с двух дня до шести вечера статистикой не занимались; потом с шести до десяти вечера снова работали, потом ужинали. Вечеринки с пением и прочим начинались не раньше десяти вечера». Да, они там еще и пели. После ужина на первой конференции, вспоминает Бернардо, «Джордж Бокс пел „There is No Theorem Like Bayes“ Theorem» («Нет другой такой теоремы, как теорема Байеса») — пародию на песню Ирвинга Берлина «There’s No Business Like Show Business»«. Так появилась традиция, получившая название байесовского кабаре. Несколько минут поиска в интернете, и вы найдете больше примеров, чем вам, возможно, даже нужно. На серверах Университета Миннесоты по непонятным мне причинам хранится, например, 'Байесовский сборник песен» (Bayesian songbook), содержащий такие шедевры:
Thomas Bayes’s Army [The Battle Hymn of Las Fuentes] («Армия Томаса Байеса» [Боевой гимн отеля «ЛасФуэнтес»] Слова: П. Р. Фриман и А. О’Хейген Музыка: Народная [ «Боевой гимн Республики»] Я увидел, как во славе отец Байес вышел к нам, Как он мощною стопою фреквентистов прочь погнал, Как он армию свою у «Лас-Фуэнтес» собирал. Воины Байеса держат шаг. Славься, славься, вероятность, славься, славься, субъективность, вперед в бесконечность, воины Байеса держат шаг! Там еще довольно много в том же духе. С тех пор появилась песня «Хосе Бернардо», которую пели на мотив «Макарены»; Энди Грив спел переделанную средневековую студенческую застольную песню «Gaudeamus Igitur» вместе с еще одним будущим президентом Королевского статистического общества, профессором сэром Дэвидом Шпигелхалтером; была песня «Bayesians in the Night» на мотив «Strangers in the Night»; «Like a Bayesian» («Like a Virgin»). И так далее. Я упомянул об этом в твиттере, и сэр Дэвид сам мне написал, что, мол, увы, «наше исполнение „The Full Monty Carlo“ состоялось до эпохи смартфонов, поэтому записей не сохранилось». (И дальше: «[Да и] кто захочет смотреть видео, где шесть мужчин-профессоров байесовской статистики раздеваются перед орущей толпой в испанском ночном клубе?». Тут, на мой взгляд, он совершенно неправильно оценил природу современного интернета). Конечно же, есть видео с последующих конференций: «Bayesian Believer», переделанная песня Monkees («Then I saw Tom Bayes, now I’m a believer» — «Потом я увидел Байеса, теперь я в него верю») и «What a Bayesian World» а-ля Луи Армстронг. Другой участник второй конференции в Валенсии рассказал мне, что когда он, Хосе Бернардо и группа выдающихся статистиков-байесианцев мира отправились
купаться с лодки у морского побережья, ветер чуть не вынес их на скалы: ситуация приняла неприятный оборот, и пришлось бросать спасательные круги. «Если бы мы все утонули, — сказал он, — на байесовской статистике можно было бы ставить крест». «У меня сохранилась толстовка с третьей конференции в Валенсии, — смеясь, вспоминал Грив, — с надписью „Bayesians have more fun“ („Байесианцам веселее“)». За десятилетия, прошедшие с тех пор, как Фишер и Джеффрис выясняли отношения и байесовские методы оказались практически вытеснены из научной работы, хотя они спокойно использовались почти по умолчанию в других областях, байесианство, можно сказать, вернулось. Отчасти мы этим обязаны тому факту, что книгу Джеффриса передавали из рук в руки почти как самиздат («Хотите вычислить вероятность того, что некая гипотеза верна, а не просто вероятность того, что вы увидите эти данные, если она верна? Вот, почитайте»). С другой стороны, это связано с тем, что во многих сферах — в частности, в программной инженерии, — некая форма байесианства просто сама собой сформировалась на базе того, что люди занимались расчетами, как в свое время Тьюринг. «Наблюдается интересная динамика», — говорит Обри Клейтон. «Люди, выходящие из новых школ науки о данных, — те, кто занимается машинным обучением, технари из Кремниевой долины, — считают спор более или менее решенным по тем же причинам, что и Тьюринг. Вы решаете такие-то задачи и, конечно, используете байесовские методы. За пределами академической науки у вас может сложиться представление, что байесовские методы используют все». Грив говорил то же самое. «На рубеже тысячелетий, — рассказывал он, — я работал в Коннектикуте в компании Pfizer. Как-то на выходные я приехал в гости к старому приятелю — инженеруэлектронщику, который раньше работал в Hewlett Packard. Он открыл собственный бизнес — разрабатывал методы быстрого поиска данных на больших компьютерных дисках. Алгоритмы, которые он разработал, были, по сути, байесовскими. Сам он совершенно не понимал, что делает. Есть множество сфер, где люди разрабатывают байесовские алгоритмы, сами об этом не догадываясь». По мере того как байесовские методы получали все более широкое распространение, напряжение стало нарастать. Байесианцы
были аутсайдерами и новичками; фреквентисты — истеблишментом. (Сам Байес — нонконформист, не принадлежавший к официальной церкви, — оценил бы эту иронию). По крайней мере в публичных дебатах противоречия становились все острее. «Был такой знаменитый статистик Морис Кендалл, — рассказывал Грив, — мы учились по его учебнику. В 1968 году он написал статью, в которой заявил, что если бы байесианцы так же, как Байес, публиковались посмертно, мы все были бы избавлены от множества проблем». Деннис Линдли, не очень-то со своей стороны способствуя сглаживанию противоречий, возьми и заяви на конференции в 1975 году: «Единственная правильная статистика — статистика байесовская. [Она] — не просто какая-то очередная методика, которую можно включить в наш арсенал, наряду, например, с многомерным анализом: это единственный метод, который позволяет делать обоснованные выводы и принимать решения». Байесианцам присущ определенный «евангелический», фундаменталистскомиссионерский настрой, как это часто бывает, когда небольшая группа, находящаяся вне мейнстрима, считает, что именно она обладает истиной; к таковым можно, например, отнести движение защитников окружающей среды, велосипедистов, евангелистов в буквальном смысле. Это не значит само по себе, что они ошибаются, — нельзя определить, верно нечто или нет, только посредством психоанализа людей, в это нечто верящих. Но это означает, что байесианцы могут вести себя довольно назойливо, чем в результате и раздражают фреквентистский истеблишмент. Из-за этого, кстати, их часто называли «сектой» (исполнение хором песни «Я видел, как во славе» вряд ли помогало опровергнуть такие обвинения). В 2013 году статистик Ларри Вассерман опубликовал в своем блоге пост под названием «Является ли байесовский вывод религией?» (его ответ на этот вопрос: для некоторой части байесианцев — да), и один бывший статистикбайесианец анонимно отреагировал: «раньше я был одним из этих верующих в байесовскую истину», но теперь, мол, «веру в нее потерял». Не стоит сильно преувеличивать степень взаимной неприязни между байесианцами и фреквентистами, особенно в наши дни, но даже и в эпоху, когда проходили конференции в Валенсии и
уверенность байесианцев в собственных силах крепла. Грив вспоминал бурные дебаты в Королевском статистическом обществе: «Сначала люди публично поносили друг друга, а потом вместе ехали ужинать на такси. Прозвучит странно, но многие из них были не разлей вода». Еще Грив вспоминал, как в 1990‐е читал статью Шпигелхалтера — такого же байесианца — и подумал, что «они следуют новомодной традиции избегать споров и стремиться к практической пользе, хотя прежняя была куда забавнее. Я думаю, во всем этом был свой развлекательный момент». В профессиональном рестлинге есть термин «кейфеб», который означает сохранение иллюзии реальности: так, Гробовщик [31] продолжает говорить, как сильно ненавидит Халка Хогана, даже когда бой уже закончился и он просто дает интервью или идет в магазин. Похоже, что в войнах байесианцев с фреквентистами присутствовал элемент кейфеба. Грив говорил, что Джордж Бокс — первый из кабареартистов Валенсии — в 1985 году написал статью «Апология экуменизма в статистике», в которой утверждал: «Я считаю, что научный метод использует и требует не одного, а двух видов выводов — байесовского и фреквентистского». Похоже, так оно и есть. Когнитивный психолог из Лондонской школы экономики Йенс Коед Мадсен рассказывал мне, что использует и фреквентистскую, и байесовскую статистику в зависимости от того, на какой вопрос пытается ответить. Специалистка по статистике и байесианка Софи Карр, основавшая консалтинговую фирму с говорящим названием Bays, говорила, что большая часть работы, которую она делает, вовсе не байесовская. Статистически мыслящий психолог Даниель Лакенс, имеющий репутацию архи-фреквентиста и ярого критика байесианства, в своем онлайн-курсе радостно признает, что байесовский подход нужен, если вы собираетесь выступать с заявлениями о степени правдоподобности той или иной гипотезы, и сказал мне, когда мы общались, что Байес действительно необходим для теории принятия решений. Возможно, теперь нам стоит посмотреть на состояние статистики в науке сегодня.
Глава вторая Байес в науке
Кризис воспроизводимости в науке и некоторые способы его преодоления В 2011 году произошло несколько малоприятных событий, которые сотрясли науку до самого основания. Не всех их заметили. «Кризис воспроизводимости», как его назвали, вероятно, не повлиял на вашу повседневную жизнь; на мою он не влиял еще несколько лет, и я зарабатывал на жизнь написанием текстов о науке. Большинство ученых, даже большинство психологов, чья дисциплина пострадала больше других, могли продолжать жить как ни в чем не бывало еще довольно долго. Но 2011 год оказался очень важен и для науки, и для ученых, которые хотя бы смутно разбираются в статистике, и которых волнует выяснение истины, а не просто индексы цитирования и бессрочный контракт в университете: для них он стал чуть ли не «нулевым годом» — годом, когда все «обнулилось». Во-первых, одного из ведущих ученых уличили в подтасовке данных. Восходящая звезда социальной психологии и профессор Тилбургского университета в Нидерландах Дидерик Стапель произвел фурор, выпустив ряд статей с громкими заголовками: в одной он утверждал, что употребление мяса делает людей более склонными к антисоциальному поведению, в другой — что вероятность наличия расистских убеждений у людей выше, если они живут в замусоренной среде. Но оказалось, что для этих двух и нескольких других исследований он не проводил экспериментов и не собирал данных. Он их просто выдумал. Нехорошо вышло; увы, мы не застрахованы от мошенничества, хотя в этом случае мошенника все-таки вывели на чистую воду. Стапеля уволили, а десятки его работ были вычеркнуты из научного обихода. Вдумчивых ученых больше взволновал тот факт, что наука может пойти вразнос, даже когда ученые не занимаются мошенничеством. В марте того же года социальный психолог Дэрил Бем, работавший в Корнельском университете в штате Нью-Йорк,
опубликовал исследование под названием «Feeling the Future» («Ощущение будущего»). Это было классическое во многом исследование в области социальной психологии, известное как исследование «прайминга». Изучая прайминг, экспериментаторы берут группу испытуемых, обычно студентов университета, которым платят несколько фунтов или дают зачет по курсу, «навязывают» им некую концепцию и смотрят, как она влияет на их поведение. Например, вы даете испытуемым для разгадывания несколько слов с перемешанными буквами, а затем заставляете испытуемых выполнить задание и смотрите, влияют ли слова, которые вы им дали, на то, как они выполняют это задание. Изучение прайминга началось с относительно непримечательных вещей: например, если вы дадите кому-то слово «доктор», чтобы он его разгадал, то после этого человек будет быстрее распознавать слово «медсестра», чем несвязанные слова. Но дальше ученые занялись более странными вещами, в частности, идеей о том, что прайминг оказывает таким изощренным образом серьезное, даже драматическое влияние на наше поведение. Один из самых известных примеров — исследование Джона Барга, проведенное в 1996 году, в ходе которого было обнаружено, что если предъявить людям слова «морщина», «бинго» и «Флорида», ассоциирующиеся с возрастом, особенно в США, то они будут медленнее двигаться, например, выходя из лаборатории, как будто они постарели. Авторы другого исследования, проведенного в 2006 году, выяснили, что если предъявить людям понятия, связанные с деньгами, то они будут менее охотно обращаться за помощью или предлагать ее, в общем, будут более эгоистичны. Еще одно исследование показало, что если подвергнуть людей воздействию запаха рыбы, то они станут более подозрительными, потому что — серьезно — дело «пахнет рыбой» [32]. Такими исследованиями кормилась вся социальная психология в 1990‐е и 2000‐е годы. Появились они еще в конце 1970‐х годов, но расцвет начался несколькими десятилетиями позже. Казалось, они демонстрируют необычайную восприимчивость человеческого разума: неявные, неосознаваемые сигналы или стимулы могут манипулятивным образом подтолкнуть нас к разным видам странного поведения. Люди, медленно выходившие из лаборатории Джона Барга,
даже не подозревали, что слово «Флорида» заставляет их думать о пенсионерах, играющих в шаффлборд, но каким-то образом оно заставляло их вести себя именно так. Казалось, это свидетельствует о том, что наше сознание просто разлетается, как листья на ветру, под воздействием почти незаметных сигналов из окружающей среды. Возможно, вы не слышали об этом методе, но наверняка слышали о его интеллектуальных отпрысках — теории подталкивания (наджинге) и 25‐м кадре, также известном как сублиминальная реклама. В основе образа Тайлера Дёрдена в «Бойцовском клубе», вставляющего кадры порнографии в детские фильмы, но быстро — так, чтобы сознание людей их не увидело, лежат идеи, почерпнутые из исследований прайминга. В своей книге Thinking, Fast and Slow(в русском переводе — «Думай медленно… решай быстро»), также опубликованной в 2011 году, лауреат Нобелевской премии, психолог Дэниел Канеман пишет о прайминге: «Неверие — не вариант. Результаты не выдуманы и не являются статистической ошибкой. У вас нет другого выбора, кроме как признать, что основные выводы этих исследований верны». Но затем появился Бем. Исследование Бема состояло из нескольких экспериментов, но мы остановимся только на одном из них — совершенно непримечательном примере прайминга во всех отношениях, кроме одного. В этом эксперименте, как и во всех остальных, людям предъявляли некие слова («праймили» их) и смотрели, как они влияют на поведение. В данном случае испытуемым давали прайминг в виде положительного или отрицательного слова («красивый», скажем, или «уродливый»), а затем показывали изображения и просили как можно быстрее нажать на кнопку, чтобы сообщить, приятным или неприятным было показанное изображение. Согласно традиционной литературе о прайминге, люди, получившие положительный стимул, быстрее скажут, что приятные изображения приятны, и медленнее — что неприятные неприятны, и наоборот. Однако изюминка заключалась в том, что в половине испытаний испытуемым предъявляли стимул после показа изображения. И — что важно — прайминг работал. Люди быстрее соглашались с тем, что приятные изображения приятны, когда им давали позитивное слово,
даже если это слово появлялось только после того, как они делали свой выбор. Результат оказался статистически значимым — p-значение составило 0,01; по современным меркам этого достаточно, чтобы отвергнуть нулевую гипотезу. И Бем предположил, что это свидетельство «пси» — экстрасенсорных способностей, ясновидения. Другие восемь экспериментов в этом исследовании, в которых были применены немного отличавшиеся методы (но все они были по сути социально-психологической классикой), только использовались в обратном временнóм порядке, также достигли значимости. Большинство из нас, вероятно, согласится с тем, что экстрасенсорных способностей не существует. Но вот вам очевидно качественное исследование, авторы которого, как оказалось, обнаружили — девять раз! — что экстрасенсорные способности существуют. В нем использовались те же методологические и статистические приемы, что и в других психологических исследованиях; применялся тот же критерий значимости p=0,05. Выходило, что либо ясновидение реально, либо со статистикой что-то не так. (Дэрил Бем, к слову, до сих пор считает, что ответ на эту дилемму есть: ясновидение реально, и его исследования это четко показали). Третий большой удар по науке в 2011 году нанесла статья под названием «False Positive Psychology» («Ложноположительная психология») психологов Джозефа Симмонса, Лейфа Нельсона и Ури Симонсона. Речь в ней шла о том же, что и в работе Бема: с помощью стандартных, самых обычных статистических методов доказывался невозможный результат. Но в отличие от Бема, Симмонс, Нельсон и Симонсон сделали это специально, чтобы показать, что эти стандартные статистические методы, используемые во всей науке, имеют серьезные недостатки. Опять же, в рамках исследования авторы провели несколько экспериментов, но мы остановимся на самом известном. В ходе исследования двадцати студентам было предложено прослушать одну песню — либо битловскую «When I’m Sixty-Four», либо «Kalimba» Мистера Скраффа. Затем авторы сравнили возраст двух групп. Оказалось, что люди, прослушавшие «When I’m Sixty-Four», стали
моложе почти на полтора года. И снова результат оказался статистически значимым: p=0,04. И снова я думаю, что большинство людей согласится: вряд ли прослушивание The Beatles активно омолаживает людей — не заставляет их чувствовать себя моложе, а именно сдвигает дни рождения во времени. Такой результат не может быть реальным. И все же, в очередной раз, статья «Ложноположительная психология» доказала, что он реален по стандартам современной социальной науки, и использованы в ней были только те же статистические методы, которые другие ученые применяют каждый день. Некоторые ученые о чем-то таком предупреждали. В 2005 году Джон Иоаннидис из Стэнфорда написал работу под названием «Why Most Published Research Findings Are False» («Почему большинство опубликованных результатов исследований ошибочны»). В ней автор утверждал, что статистические методы, используемые в науке, делают ее беззащитной перед такими проблемами. Проблемы в науке многочисленны и разнообразны, но главная из них состоит в том, что ученые не задаются вопросом, насколько вероятно, что их гипотеза верна с учетом собранных ими данных; вслед за Бернулли и Фишером они ставили вопрос так: насколько вероятно, что они увидят собранные ими данные, если гипотеза ложна. Забавно, что «апостол» современного байесианства Деннис Линдли предвидел нечто похожее еще в 1991 году; тогда он опубликовал в журнале Chance статью, посвященную Гарольду Джеффрису. «…Многие экспериментаторы, когда их спрашивают, что значит 5-процентная значимость, часто отвечают, что вероятность нулевой гипотезы равна 0,05», — писал он. Но ясно же, что это не так: это значит лишь, насколько вероятно, что вы увидите данные, по крайней мере настолько экстремальные, если бы нулевая гипотеза была верна. На самом деле, как писал Линдли, если бы вы использовали байесовские методы Джеффриса и согласились публиковать только те работы, в которых вероятность нулевой гипотезы составляет 5 %, то вы бы отклонили множество опубликованных работ: вероятность получить значимость на уровне 5 % процентов выше, чем вероятность нулевой гипотезы на уровне 5 %. Таким образом, на этой шкале тест на значимость с большей вероятностью покажет наличие различий, чем метод Джеффриса.
Здесь он уловил суть проблемы. «Это может отчасти объяснить популярность тестов среди ученых, поскольку они часто хотят продемонстрировать различия», — пишет он. «Было бы интересно узнать, сколько значимых результатов соответствует реальным различиям». Ответ, который научный мир, к своему ужасу, узнает двадцать лет спустя, был таков: «Их далеко не так много, как вам хотелось бы». Но как такое вообще может быть? Если в исследовании получено р-значение 0,05 или меньше, это означает, что такие результаты (или более экстремальные) можно случайно увидеть не чаще одного раза из двадцати, не так ли? Поэтому, конечно, если в каждом исследовании используется этот критерий, нет смысла ждать большого количества ложноположительных результатов? Идея, конечно, такова. Но всё не так однозначно. Самый простой способ получить результат p0,05, то есть нечто, что можно увидеть только по случайному совпадению один раз из двадцати, — провести двадцать экспериментов, а затем опубликовать тот, который получился. Именно так и поступили авторы статьи «Ложноположительная психология»: они измерили много-много разных параметров своих студентов — дни рождения их родителей, сколько им по ощущениям лет, их политические пристрастия, называли ли они прошлое «старыми добрыми временами» — кучу показателей. Они также поставили им еще одну песню — «Hot Potato» группы Wiggles. Затем они разделили данные разными способами. Придерживаются ли люди, слушавшие «Hot Potato», более правых взглядов, чем те, кто слушал «Kalimba»? Вызвала ли «Kalimba» у людей больше ностальгии, чем «When I’m Sixty-Four»? Если разделить всё это разным образом, то при небольшом размере выборки, например, в двадцать человек, можно легко получить ложноположительные результаты. Они прибегали и к другим приемам, например, прекращали сбор данных, если p-значение опускалось ниже 0,05, пусть даже на короткое время. Симмонс, Нельсон и Симонсон подсчитали, что, применив несколько подобных простых трюков, можно повысить вероятность обнаружения значимого результата более чем на 60 %. Такой «подход» известен как HARKing — «hypothesising after results are known», то есть «выдвижение гипотез, когда результаты
известны», — или «p-хакинг». Его применяют постоянно, а не только в иронических статьях, призванных продемонстрировать, что это возможно. Один пример: существует метод измерения агрессии, особенно в исследованиях психологических эффектов видеоигр, который называется «определение времени реакции на соперника» (competitive reaction time task, CRTT). Игрок играет в видеоигру — с элементами насилия или без них. Затем он играет уже с соперником: побеждает тот, кто первым отреагирует на какой-то стимул. А победитель получает возможность поразить противника каким-нибудь шумом, возможно, на болевом уровне. Изюминка метода в том, что противник в игре не настоящий — это всего лишь компьютерная программа. Но вот что заметил психолог Мальте Эльсон: в 130 работах, которые были опубликованы к 2019 году с использованием CRTT в исследованиях агрессии в видеоиграх, данные анализировались 157 разными способами. Иногда измерялась громкость первого [шумового] воздействия, иногда средняя громкость за двадцать таких взрывов, иногда продолжительность первого взрыва, иногда громкость, умноженная на продолжительность, и так далее. Так практически невозможно не найти значимых результатов. Вы спросите, зачем? Зачем людям это делать, если они пытаются выяснить истину? По крайней мере отчасти это можно объяснить тем, что ученые, хотя и действительно стремятся к истине, хотят одновременно продвигаться по карьерной лестнице, добиться бессрочного контракта, им нужно кормить семью и так далее, в том же скучном духе. Основную движущую силу научного успеха теперь можно суммировать одной фразой — публикуйся или погибнешь, publish or perish. Если ты не будешь регулярно публиковать свои исследования в журналах, предпочтительно «высокоцитируемых», таких как Nature и Science, то не видать тебе профессорской должности в любом «краснокирпичном» университете [33]. Это было бы неважно, если бы журналы публиковали результаты всех исследований, которые им присылают, независимо от того, выяснили авторы то, что хотели, или нет. Но, конечно, это не так. Научные журналы — не все, но большинство, включая большинство крупных изданий, — публикуют результаты, которые интересны и новы. Надеюсь, прозвучит не слишком ужасно, но это
значит, что исследование, авторы которого открыли что-то интересное, например, что «экстрасенсорные способности реальны», с большей вероятностью будет опубликовано, чем исследование, в котором сделан какой-то более скучный вывод типа «мы искали доказательства существования экстрасенсорных способностей, но не нашли». И, конечно, многие журналы — опять же, не все, но многие, особенно в области социальных наук, — используют значение p0,05 в качестве «порога» для исследований, якобы открывших нечто интересное. Если ваш эксперимент дает результаты с p=0,045, он вполне может быть опубликован. Если с p=0,055, его могут и не опубликовать. Это само по себе уже проблема для науки. Допустим, сто лабораторий проводят исследования, чтобы установить, реальны ли экстрасенсорные способности, и 95 из них ни к чему не приходят, но пять получают статистически значимые результаты p0,05! (Такие результаты, если феномена на самом деле не существует, вы бы ожидали увидеть только пять раз из ста!) Но поскольку журналы хотят публиковать что-то интересное и новое, они вполне могут напечатать все пять статей о том, что «экстрасенсорные способности реальны», и только одну о том, что нереальны, а это значит, что если кто-то захочет посмотреть научную литературу, то обнаружит, что 85 % исследований, изучающих экстрасенсорные способности, приходят к выводу, что они существуют. Если вы поговорите с учеными, то услышите множество историй о том, как они получали отказы, потому что их результаты не были достаточно «новыми», что, конечно, означает, что научная литература систематически пополняется «новыми», захватывающими исследованиями, которые пришли к каким-то выводам, в то время как скучные, не новаторские, но часто более истинные результаты отвергаются. Но у этой тенденции есть дополнительный эффект, который стимулирует ученых искать способы — пусть даже подсознательно — добиться, по возможности, положительного результата с p0,05. Для этого они часто идут по стопам авторов той замечательной статьи «Ложноположительная психология». Наверное, самый известный пример — ученый-пищевик Брайан Вансинк, звезда Корнельского университета, получивший миллионы долларов федерального финансирования во время президентства
Обамы. Он опубликовал множество исследований о нашем пищевом поведении. В одном, например, шла речь о том, что мужчины едят больше в компании женщин (предположительно, чтобы произвести на них впечатление); в другом был сделан вывод, что если давать овощам более «привлекательные» названия (например, называть морковь «морковью с рентгеновским зрением»), то младшие школьники будут съедать их в два раза больше. В 2016 году он совершил ошибку — опубликовал в своем блоге пост под названием «The Grad Student Who Never Said „No“» («Докторантка, которая никогда не говорила „нет“»). Докторантка, о которой речь, была из Турции. Когда она начала работать в Корнелле, Вансинк «дал ей набор данных, оставшихся после профинансированного самими учеными и неудачного исследования с нулевыми результатами» — исследования, в котором в течение месяца изучалось пищевое поведение людей в итальянском буфете, работавшем по принципу «съешь, сколько сможешь». По его словам, он ей сказал: «Мы потратили на сбор этих данных много времени и собственных денег. Должно же быть в них что-нибудь, что можно извлечь полезного, ведь классный же набор данных — не пропадать же добру». Докторантка взялась за работу, разделив набор данных множеством разных способов. Стоит ли удивляться, что она обнаружила множество корреляций с уровнем p0,05, чего оказалось достаточно, чтобы вместе с Вансинком опубликовать пять статей на основе этого набора данных (среди них и статью о том, что «мужчины переедают, чтобы произвести впечатление на женщин»). Некоторые ученые и научные журналисты, изумившись, начали с лупой в руках изучать другие исследования Вансинка. Научная журналистка издания Buzzfeed Стефани Ли, получив доступ к его электронной почте, обнаружила, что он велел своей докторантке разделить данные на «мужчин, женщин, обедающих, ужинающих, сидящих за столиком в одиночестве, приходящих в заведение группами по два человека, приходящих в заведение группами более чем по два человека, заказывающих алкоголь, заказывающих безалкогольные напитки, сидящих близко к буфету, сидящих далеко от него, и так далее», чтобы «извлечь из них ресурс для значимости… выжать немного сока из этого камня» и сделать так, чтобы они «хорошо завирусились».
В результате восемнадцать статей Вансинка были отозваны, семь получили пометку «вызывает озабоченность»: журналы присваивают ее исследованиям, которым, по их мнению, нельзя полностью доверять, но которые они не готовы и целиком отозвать; еще пятнадцать были исправлены. Сам Вансинк уволился из Корнелльского университета в 2019 году после того, как университет уличил его в нарушении научных норм, запретив преподавать и заниматься исследованиями. Это особенно вопиющий пример, но в каком-то смысле Вансинку не повезло: его публично затравили за применение практики, которая была практически стандартной. P-хакинг постоянно используется разными гораздо менее драматичными способами, и многие ученые даже не догадываются, что делают что-то не так. Уже упоминавшийся Дэрил Бем в 1987 году написал главу для одной книги и облек ее в форму памятки для студентов о том, как публиковать исследования в журналах. В ней есть такие слова: «существует два вида статей, которые можно писать — статьи, которые вы планировали написать, когда разрабатывали исследование, и статьи, которые имеют максимальный смысл сейчас, когда вы увидели результаты». Правильный ответ [на вопрос, какой вид выбрать]: второй'. Он призвал ученых «анализировать данные разных полов отдельно, составлять новые составные индексы […], реорганизовывать данные, чтобы сделать их более рельефными… данные могут быть достаточно убедительны, чтобы сделать новые результаты основой статьи и перевести в разряд второстепенных, либо вообще проигнорировать первоначальные гипотезы… относитесь к массиву своих данных как к драгоценному камню. Ваша задача — огранить и отполировать его, выбрать грани, на которые следует обратить особое внимание, и изготовить подходящую оправу». Это не призыв к pхакингу, однако рекомендация «сделать новые результаты основой» статьи — ровно то, что сделали и ребята, написавшие про ложноположительную психологию, и Вансинк. Благодаря им хорошо стало видно, что если так поступить, можно очень легко получить статистически значимые результаты из совершенно бессмысленного шума. Пока мы говорили только о конкретных ученых, но вообще-то стоит обсудить, насколько серьезна проблема для науки в целом. В
конце 2011 года психолог из университета Вирджинии Брайан Носек, встревоженный фактами, которые стали достоянием общественности в том году, запустил так называемый Проект «Воспроизводимость» — Reproducibility Project. Он пригласил 270 исследователей, и вместе они попытались воспроизвести сто психологических исследований, то есть повторить эксперименты, используя те же методы, но собрав новые данные, и посмотреть, получат ли они те же результаты. Носек с соавторами опубликовали итоговую работу в 2015 году. Из ста изученных исследований девяносто семь изначально показали статистически значимые результаты; Носеку и его коллегам удалось добиться того же только в отношении тридцати шести. Размер эффекта в повторных исследованиях был в среднем вдвое меньше, чем в оригинальных. Более половины этих показателей выходили за пределы 95-процентных доверительных интервалов, полученных для результатов из первоначальных работ. Предупреждения Иоаннидиса (и Линдли) о том, что многие, а, возможно, и бóльшая часть научных выводов в опубликованной литературе являются ложными, оказались пророческими. Наверняка вы уже задаетесь вопросом, какое отношение всё это имеет к теореме Байеса. Вообще, причина кризиса воспроизводимости давно обсуждается. Причина кроется в порочных стимулах — «публикуйся или погибнешь», в запросе на новизну. Ученые предложили множество разумных способов, как всё исправить. Снизить порог «значимости» — один из них; ввести требование предварительно регистрировать гипотезы для предотвращения pхакинга — второй; третий — чтобы убрать «фильтр новизны», нужно заставить журналы публиковать работы с учетом убедительности методов, а не природы выводов. Но можно копнуть глубже и сказать, что основная причина кризиса воспроизводимости еще более фундаментальна: дело в том, что наука, как и Якоб Бернулли триста лет назад, занимается вероятностями характеристик выборки (probabilities for sample), а не выведенными (inferential) вероятностями для генеральной совокупности. P-значение, как мы уже говорили, не позволяет оценить вероятность того, насколько ваша гипотеза верна с учетом ваших данных. Оно позволяет определить, насколько вероятно, что вы
увидите эти данные с учетом определенной гипотезы. Но как замечал еще Байес и как позже уточнил Лаплас, этого недостаточно. Если вы хотите измерить, насколько вероятно, что ваша гипотеза верна, вам просто не обойтись без априорных вероятностей. Вам нужна теорема Байеса. Вопрос, конечно, лишь в том, хотите ли вы именно этого.
Луна из сыра, экстрасенсорные способности и частицы быстрее света В этом и заключается суть, как ее видят байесианцы. Представьте, что вы проводите исследование для проверки некой гипотезы — пока не будем говорить, какой именно — и получаете p-значение 0,02. Насколько вероятно, что ваша гипотеза верна? Досадно, но многие люди, которые, безусловно, должны разбираться в вопросе, скажут, что вероятность равна 98 %. Шанс получить эти результаты случайно — один к пятидесяти, так что вероятность того, что это совпадение, равна 2 %, так? Надеюсь, к этому моменту вы уже понимаете, что это не так. Но большинство ученых, похоже, не понимают. В исследовании 2007 года сорока четырем студентам факультета психологии, тридцати девяти профессорам психологии и еще тридцати преподавателям психологии, преподававшим статистические методы, было предложено прочитать шесть утверждений о статистической значимости и пометить их как истинные или ложные. Все студенты, 90 % преподавателей и 80 % преподавателей методов — то есть, еще раз, люди, чья работа заключается в обучении студентов статистическим методам — пометили по крайней мере одно утверждение неправильно. Треть из двух последних групп и две трети студентов сочли, будто p-значение указывает на вероятность того, что результаты, на которые указывают данные, вызваны случайностью — то есть на вероятность того, что нулевая гипотеза верна. Так, если pзначение равно 0,05, это означало бы, будто вероятность того, что ваша гипотеза ложна, составляет один к двадцати. Это, конечно, не так. Еще удивительнее, что в другом исследовании было изучено тридцать вводных учебников по психологии, и в результате выяснилось, что двадцать пять из них содержали определение «статистической значимости», и двадцать два из этих двадцати пяти определений были неверными. И снова наиболее распространенной ошибкой оказалось предположение, что p-значение дает вероятность того, что результаты были обусловлены случайностью. Мы тут уже
некоторое время говорим, что такой подход полностью ошибочен. Pзначение говорит о том, насколько вероятно, что вы получите эти данные с учетом той или иной гипотезы. Но тот факт, что не все понимают, для чего нужны p-значения, не означает, что все, кто их отстаивает, — идиоты или что p-значений они не понимают. Я поговорил с психологом из Эйндховенского технологического университета Даниелем Лакенсом, который в моем кругу считается завзятым фреквентистом [34]. Он с радостью признал, что если априорная вероятность гипотезы неизвестна, то по p-значению невозможно узнать, насколько вероятно, что ваша гипотеза верна. По его словам, p-значение позволяет узнать, как часто в долгосрочной перспективе вы будете получать ложноположительные результаты, если нулевая гипотеза верна. Если p-значение меньше 0,05, то это позволит вам дальше действовать так, будто вы отвергли нулевую гипотезу — проводить дополнительные исследования или публиковать полученные результаты. И всё это будет лишь рабочей гипотезой. Загвоздка для байесианцев здесь в том, что такая система отдает преимущество весьма дурацким идеям. Вернемся к тому исследованию с результатом p=0,02. Допустим, это было исследование того, падают ли молотки вниз быстрее, чем гелиевые шары в условиях земной гравитации и атмосферы. Вы бросаете один молоток и один гелиевый шар вместе шесть раз и обнаруживаете, что молоток каждый раз падает на землю первым. Ваше p-значение для этого результата при одностороннем критерии (one-tailed test) составляет около 0,02. Оно статистически значимо! Шанс весьма невелик, что такой результат можно получить случайно. Ура! Впрочем, радоваться тут особо нечему. Но теперь давайте предположим, что исследование было посвящено теме существования экстрасенсорных способностей. Вы просите студента выбрать одну из двух одинаковых картинок, но после того, как он сделает выбор, на месте одной из них появляется порнографическая картинка (один из экспериментов Бема). И так шесть раз. Все шесть раз студент выбирает картинку, после которой появляется порно. Еще раз, p-значение равно 0,02.
С точки зрения фреквентистской статистики, дальше опираться можно только на этот показатель. Есть данные, есть гипотеза. Ни данные, ни гипотеза не лучше и не хуже друг друга. В соответствии с фреквентистской моделью вы вправе рассматривать оба этих вывода одинаково, как разрешение действовать так, будто нулевая гипотеза ложна, и здесь есть реальный эффект. Но большинство из нас, вероятно, согласятся с тем, что в исследовании «молотки падают быстрее шаров с гелием» действительно есть реальный эффект. Значение p≈0,02 не сильно меняет ситуацию. Вы в него уже поверили. И большинство из нас, вероятно, согласятся с тем, что в исследовании «Студенты могут экстрасенсорно распознавать порнографию» реального эффекта нет. Будь это правдой, это и впрямь было бы удивительно. Учитывая, что журналам нужны новые, интересные результаты, что фреквентистские модели не учитывают априорные вероятности и что если вы проведете двадцать экспериментов, то, скорее всего, получите статистически значимый результат хотя бы в одном из них, даже если реального эффекта нет, есть очевидный стимул для проведения эксперимента под условным названием «Являются ли студенты экстрасенсами?». «Если все оценивается по одной и той же шкале, — говорит Обри Клейтон, — вы можете легко выбрать любую, даже самую нелепую теорию, потому что она получит максимальный резонанс и известность. Фреквентизм дает людям стимул придумывать новые, удивительные теории». А лучше бы учитывали априорные вероятности, как говорит Клейтон. «Если ваша гипотеза звучит так: „Луна сделана из сыра“, то у вас будут очень низкие априорные вероятности, поэтому новые данные не сильно вам помогут куда-то эту гипотезу продвинуть», — пишет он. «Они — данные — могут дать вам самим некую убежденность, но не заглушат ваш априорный скептицизм. Вот чем для ученого является байесовская статистика — проводником скептицизма, способом сказать: „Я не верю в эту теорию“». «Это порочный стимул для ученых — рассматривать теории, к которым мы должны относиться с априорным скептицизмом. Мы должны поднять планку доказательности». Впрочем, для Лакенса все это глупости. «Дэрил Бем и все его эти штуки — идеальный пример», — говорит он. Поппер [Карл Поппер,
великий философ науки XX века] много говорит о догмах: он не хочет, чтобы им было место в научном процессе. Так что если редактор говорит: «Я не верю в эту ерунду с предвидением», я бы ответил «Мне наплевать. Заткнись и публикуй статьи»'. Он приводит еще один, наверное, даже более важный пример. В 2011 году во время эксперимента, который проводили в Европейском центре ядерных исследований, он же ЦЕРН, известный по Большому адронному коллайдеру, ученые заметили нечто необычное. Ускоритель частиц в Женеве «стрелял» нейтрино в сторону детектора частиц, расположенного в Италии на расстоянии 730 километров. С помощью атомных часов, точных до каких-то непостижимо крошечных долей секунды, исследователи зафиксировали время, когда нейтрино покинули ускоритель и прибыли в детектор. Они заметили, что нейтрино прибыли в Италию на 60 миллиардных долей секунды раньше, чем они думали. Статистически это был чрезвычайно значимый результат: его p-значение составило около 0,000000002, то есть, если бы это была чистая случайность, вы бы увидели такой экстремальный результат только один раз из 500 миллионов. Кроме того, вероятность, что это реально, крайне мала. Прибыв на эти критические 60 наносекунд раньше, нейтрино, очевидно, превысили скорость света. Ничто, обладающее энергией и/или несущее информацию, не может превысить скорость света — это, пожалуй, самая фундаментальная аксиома теории относительности. По мере того как объекты ускоряются, их масса увеличивается, и эта масса приближается к бесконечности, когда они приближаются к скорости света. Для того чтобы довести частицу с любой ненулевой массой до скорости света, потребуется бесконечная энергия, а это невозможно. Если бы открытие, сделанное в ЦЕРНе, было реальным, это привело бы к полному пересмотру современной физики. Поэтому, даже учитывая результат p=0,000000002, большинство физиков были бы предельно уверены в том, что сделанный вывод на самом деле нереален. «Результат невозможный», — говорит Лакенс. «Но тогда, может быть, надо было его скрыть, потому что как-то неудобно вышло? Нет, скрывать нельзя, так это не работает. Иногда в истории [такие странные открытия] оказывались прорывными, и пропускать их ну никак нельзя. [Поэтому я] не люблю догмы в науке».
Как выяснилось, конечно, результат, полученный в ЦЕРНе, оказался нереальным. Дополнительное расследование показало, что волоконно-оптический кабель в системе часов не был должным образом прикручен, а это значит, что лазерный сигнал в часах принимался не так быстро, что ускоряло видимое прибытие нейтрино примерно на 75 наносекунд — достаточно, чтобы показалось, что они попали туда раньше луча света. Наверное, стоит заметить, что в некотором смысле спор фреквентистов и байесианцев здесь не имеет значения, или, по крайней мере, он сложнее, чем я его обрисовал. Какой бы ни была ваша байесовская априорная вероятность, если только это не совсем уж что-то завиральное, то «шестисигмовый» результат p=0.000000002 легко ее перекроет. Я не думаю, что разумный байесианец будет настолько уверен в этом: он должен думать, что вероятность того, что скорость света можно превысить, составляет всего один на семьсот миллионов. Если бы вы действительно верили в то, что единственным объяснением очевидного «опережающего» прибытия нейтрино является то, что они реально «долетели» так быстро, то результат должен был вас убедить. Но так же никто не думал. Поэтому не имело значения, насколько сильным был эффект, потому что никто из физиков не поверил бы в такой результат, означающий опровержение теории относительности. Они предположили бы, что есть какое-то другое объяснение — ошибка измерения, неисправность оборудования или, может быть, подлог. И, конечно, так оно и оказалось (спешу сказать — не подлог, не подлог). Результат не был случайностью — реальный эффект был, но вызван он был неисправным оптоволоконным кабелем, а не частицами со сверхсветовой скоростью. Дальше мы поговорим о том, что происходит, когда вы получаете убедительное статистическое доказательство какой-нибудь крайне неправдоподобной теории. Хорошее байесовское решение во многих случаях — предположить, что доказательство вводит в заблуждение в некотором роде. (Что вызовет споры). Так или иначе, Лакенс говорит, что в науке не приходится особо выбирать и привередничать. Если научный эксперимент, казалось бы, правильно проведен и дает удивительный результат, то, по его словам, неправильно просто не публиковать его на том основании, что его
характеризует низкая априорная вероятность. Он снова цитирует Поппера: «Поппер терпеть не мог Байеса. Он не хотел, чтобы Байес имел какое-то отношение к его — Поппера — философии науки. Я могу лишь присоединиться к его словам». Согласно попперовской философии науки, выражаясь просто, вы никогда не докажете ни одну из научных гипотез: вы можете ее только опровергнуть или не опровергнуть. Байесовская идея, что можно сформировать доказательства за или против, сильно противоречит такой установке. Лакенс, по сути, не согласен со всем посылом байесовской революции или, если угодно, с основополагающими постулатами байесовской религии. Фреквентистская статистика — я уже несколько раз это повторял — как бы говорит нам: «Насколько вероятно, что мы увидим эти данные с учетом этой гипотезы?», но на самом деле мы хотим знать, «насколько вероятно, что наша гипотеза верна с учетом этих данных?». Лакенс полностью отвергает такие утверждения. «Я называю это заблуждением статистиков», — говорит он. «Я имею в виду, что задача статистиков заключается не в том, чтобы говорить людям, что они хотят узнать. Как ученый, я сам в состоянии решить, что я хочу узнать. И я не хочу знать вероятность того, что та или иная теория верна. Вернее так: я не верю, что это достижимо. Я хотел бы, чтобы так было, как я хотел бы, чтобы был мир во всем мире. Теоретически я хотел бы, чтобы так было. Но знать, какие теории верны, к сожалению, не в наших силах». Не то чтобы он отрицал, что, скажем, гипотеза о том, что молотки падают быстрее гелиевых шаров, правдоподобнее гипотезы о наличии у студентов экстрасенсорных склонностей к порнографии. «Поппер сказал бы, что дело не в правдоподобии или эпистемологии, а в серьезных испытаниях. Теория гравитации прошла более серьезные испытания, чем теория предвидения, поэтому я буду опираться на первую, а не на вторую. Дело не в вере, да и невозможно оценить ее количественно. Я предполагаю, что она верна, не „присваивая“ ей какой-либо вероятности». В разговоре с Лакенсом мне показалось интересным то, насколько он на самом деле согласен с байесианцами. В его увлекательном онлайн-курсе по статистике — в самом начале — есть сегмент, посвященный Байесу, в котором он ясно дает понять, что невозможно оценить вероятность того, что гипотеза верна, если нет некой
априорной вероятности. Он также четко говорит там, что p-значение, равное X, может означать совершенно разные вещи в зависимости от этой априорной вероятности. Он, в частности, ссылается на Иоаннидиса, который говорил, почему большинство опубликованных научных выводов оказываются ложными: причина, согласно ему, кроется в том, что большинство исследований проводили в отношении вещей или явлений, которые априори маловероятны. Здесь он фактически признает свое имплицитное байесианство. Когда Лакенс выбирает объект исследования, он берет за основу гипотезу, которая, по его мнению, априори вероятно верна. «Буду ли я изучать предвидение? Нет. В этом смысле я имплицитно применяю байесовский подход к принятию решений. Априорная вероятность того, что исследование даст какой-то ценный результат, низка, поэтому я не буду им заниматься. Как ученый и как человек я применяю такой подход к выбору тем. При этом данные я не оцениваю на основе априорных вероятностей». Когда данные получены, можно дать p-значениям постоять за себя самим. «Ты веришь в бозон Хиггса не потому, что у тебя была какая-то априорная вероятность: вы получили данные и обновили их», — говорит он. «Было проведено два пятисигмовых теста [каждый из которых эквивалентен p-значению около 0,0000003], и тут либо результат верен, либо мы живем в единственной из 11 миллионов вселенных, где мы получили данные такого уровня по счастливой случайности». По словам Лакенса, вместо того чтобы полагаться на априорные вероятности, мы должны работать над получением более качественных данных, например, повышать стандарты статистической значимости. «Если мне нужно было бы произвести на людей впечатление, я бы снизил коэффициент погрешности», — говорит он. «Сильно снизить пороговый уровень значимости [alpha level, термин, означающий „уровень, при котором вы считаете некий результат статистически значимым“]. Тогда, если я что-то обнаружу, вероятность того, что это произойдет случайно, будет очень мала». Это легко сделать в физике, когда у тебя есть ускоритель частиц, или в генетике с огромными общегеномными исследованиями ассоциаций, но, по словам Лакенса, точно так же можно поступить и в социальных науках. «Исследования Many Labs — коалиции Брайана Носека, занимающейся
воспроизводимостью исследований — достигают того же порога. В метаанализах [совокупности более ранних исследований] используются пятисигмовые пороги. Иногда это происходит имплицитно. Например, американское Управление по санитарному надзору за качеством пищевых продуктов и медикаментов говорит, что у вас нормальный уровень значимости (alpha level), но испытания надо провести дважды, и тогда в первом испытании вероятность случайности может равняться 5 %, а во втором этот показатель будет уже 5 % от 5 %, так что испытания вполне серьезные».
Поппер и его лебеди Отрицая байесианство, Даниэль Лакенс ссылается на Карла Поппера, поэтому, наверное, надо сказать, что именно утверждал Поппер. Еще в XVIII веке Дэвид Юм поднял проблему индукции. Все наши научные рассуждения, говорил он, основаны на предположении, что будущее будет похоже на прошлое. Если я буду тысячу раз бросать на землю молоток и гелиевый шар и каждый раз молоток будет падать первым, можно будет предположить, что и в 1001-й раз произойдет то же самое. Но единственная причина, по которой мы думаем, что будущее похоже на прошлое, заключается в том, что в прошлом все происходило именно так. «[Все] наши экспериментальные выводы основаны на предположении, что будущее будет похоже на прошлое», — писал Юм в «Исследовании о человеческом познании» (An Enquiry Concerning Human Understanding). Использовать те же доказательства, чтобы показать, что будущее будет похоже на прошлое, «значит, очевидно, ходить по кругу и принимать как данность, о чем собственно и идет речь». Возможно, в 1001-й раз мы отпустим молоток, и он полетит строго в направлении магнитного севера или зависнет, вращаясь вокруг своей длинной оси, или превратится в колибри, а гелиевый шар тяжело упадет на пол. Конечно, мы опираемся на прошлое как на ориентир для будущего, и «никто, кроме дурака или безумца, не станет притворяться, что оспаривает» этот факт. Но Юм с трудом понимал, как можно строить такие рассуждения на прочных философских основаниях. Он говорил, что в конечном счете наш расчет на то, что будущее должно быть похоже на прошлое, обусловлено «обычаем». «Возможно, мы не можем продвинуться дальше в наших исследованиях или претендовать на то, чтобы назвать причину этой причины, — писал он, — но должны довольствоваться ею как высшим принципом, который мы можем установить, для всех наших выводов из опыта». Юм считал, что мы просто должны принять за аксиому
недоказуемое утверждение, что «будущее будет похоже на прошлое». И несмотря на рациональную основу, эмпиризм — опыт, наблюдение за прошлым и построение предположений о вероятном будущем — был по-прежнему надежен. Понятно, что философы были не очень довольны тем, что оставили все как есть, и проблема индукции остается для них саднящей занозой последние 250 лет. Особенно мучительна она для философов науки и философски настроенных ученых, которые хотят сказать, что когда мы проводим исследование, показывающее, что какое-то лекарство лечит болезнь или что уран-238 в результате распада дает свинец-206, мы не просто говорим, что нечто уже однажды произошло, а что это же нечто будет происходить и в будущем. Мы хотим лечить этим лекарством людей, хотим, чтобы на уране работали электростанции или с его же помощью уничтожались города. Некоторые философы, в частности Пол Фейерабенд, утверждали, что это означает, что вся наука иррациональна, и поэтому нет причин считать какую-то одну научную теорию лучше другой. Когда его спросили, почему в таком случае он предпочитает летать на самолетах, а не на метлах, он ответил: «Потому что я знаю, как пользоваться самолетами, но не знаю, как пользоваться метлами, и потому что меня не тянет учиться». Великий австрийско-британский философ науки Карл Поппер пытался обойти эту проблему, утверждая, что наука вообще не опирается на индукцию. Он говорил, что когда ученые проверяют теории, они не подтверждают их, а просто выясняют, что не могут их опровергнуть. Его знаменитый пример касался простой гипотезы: все лебеди белые. Допустим, вы видите белого лебедя. Доказывает ли это, что все лебеди белые? Конечно, нет. Мы можем увидеть еще одного белого лебедя, но это тоже ничего не докажет. Нет такого числа белых лебедей, которых можно увидеть, чтобы иметь возможность уверенно утверждать, что все лебеди белые. Это простая аристотелевская логика. Из отдельных примеров нельзя вывести универсальный закон: силлогизм «Это лебедь, этот лебедь белый, следовательно, все лебеди белые» не состоятелен. Однако можно сказать, что если вы видите лебедя, который белым не является, то утверждение «все лебеди белые» не может быть
истинным. Универсальное утверждение, что все лебеди белые, отрицает возможность существования черных (или зеленых, или разноцветных) лебедей. Если вы увидите хотя бы одного, то тем самым опровергнете гипотезу о том, что все лебеди белые. Поппер считал, что именно так развивается наука — не путем подтверждения истинных научных гипотез, а путем опровержения ложных. «Я считаю, что на самом деле мы никогда не делаем индуктивных выводов и не используем то, что сейчас называется „индуктивными методами“, — писал он. 'Мы всегда открываем закономерности с помощью принципиально иного метода проб и ошибок, догадок и опровержений или учась на своих ошибках». Вам может показаться (и я с вами соглашусь), что это, кажется, еще не вся история. Теория аэродинамики не была опровергнута, как и гипотеза о существовании внеземной жизни на спутнике Юпитера Европе. Но я очень доверяю теории аэродинамики — я даже пролечу тысячи километров по воздуху в металлическом фюзеляже, поддерживаемом только разницей давления между верхней стороной крыльев и нижней, потому что я доверяю теории и ее практическому применению. Я гораздо меньше доверяю гипотезе о внеземной жизни на Европе. Она вполне может оказаться реальной, но пока никто не взялся ее проверить, и я не стал бы ставить на нее, разве что по очень выгодному коэффициенту. Как минимум, наивно, что модель Поппера предполагает равную степень состоятельности у этих двух гипотез. Однако Поппер сказал бы, что есть разница: одна из них прошла серьезную проверку, а другая нет. «Мы выбираем ту теорию, которая лучше всего выдерживает конкуренцию с другими теориями — ту, которая в результате естественного отбора оказывается наиболее приспособленной к выживанию», — писал он. «Это будет та теория, которая не только уже выдержала самые серьезные испытания, но и которая в принципе поддается наиболее тщательной проверке». Такую теорию он называл «подтвержденной». *** Я не такой гигант современной философии, как Поппер (хотя и получил хорошую оценку в магистратуре!), поэтому в
интеллектуальном плане я несколько уступаю ему. Должен признаться, однако, что считаю эту позицию нелепой. Идея о том, что истинность«серьезно проверенной» или «подтвержденной» теории не является в каком-то смысле более вероятной, чем теория, не подвергавшаяся проверкам, — странная. Если бы вам (или Попперу) предложили заключить пари на то, является ли некий исход, предсказанный теорией аэродинамики, реальным — скажем, что мой Боинг-777 успешно оторвется от земли, когда на взлетной полосе достигнет скорости 266 км/ч, — и другое пари на то, есть ли на спутнике Юпитера Европе внеземные рыбы, вы (и, как я полагаю, Поппер) готовы были бы поставить на «историю» с самолетом с гораздо меньшим коэффициентом. А всё потому, что вы видели гораздо больше доказательств первого, чем второго. Сказать, что история с самолетом «подверглась более серьезным испытаниям», кажется неотличимым по всем критериям, кроме нюансов семантики, от выражения «с большей вероятностью окажется реальным». В своем недоверии к Попперу я не одинок. «Поппер! Да ну его!» — говорит Эрик-Ян Вагенмакерс, профессор кафедры статистики и методологии факультета психологии Амстердамского университета. «Поппер говорил довольно странные вещи», — продолжает он. «Ни одна из наших гипотез не может быть полностью верной, но некоторые легче отвергнуть, чем другие? В таком случае зачем их тогда вообще фальсифицировать?» В отличие от своего коллеги голландца Лакенса, Вагенмакерс, по его собственному признанию, — «воинствующий байесианец. Не такой воинствующий, как Обри [Клейтон], но все равно довольно воинственный». Поэтому — неудивительно — он предлагает использовать байесовские методы. Проблема модели фальсификации Поппера в том, что она на самом деле не помогает. Большинство научных гипотез невозможно прямо взять и опровергнуть каким-то одним контрпримером. Если я выдвину гипотезу, что «парацетамол лечит головную боль», я не стану утверждать, что парацетамол любого вылечит от головной боли: если я дам вам парацетамол, а головная боль не пройдет, это не опровергнет гипотезу. Более того, я даже не утверждаю, что парацетамол вылечит головную боль в большинстве случаев. Я лишь утверждаю, что статистически вероятность того, что головная боль у вас быстро
пройдет, выше, если вы примете парацетамол, чем если не примете (или если примете плацебо). В этом, как я понимаю, сходятся подходы Поппера и Фишера. Ни тот, ни другой никогда не сказали бы, что гипотеза подтвердилась, а только что она не была опровергнута. Фишер сказал бы, что можно условно считать гипотезу верной, если p-значение ниже 0,05. Поппер сказал бы, что ее можно назвать «подтвержденной», если она прошла множество испытаний и не была признана несостоятельной. Они просто не облекали свои утверждения в форму цифр. Однако для байесианцев, таких как Вагенмакерс, это просто уход от реальности, позиция, навязанная фреквентистам их решением отвергнуть байесовские априорные вероятности. «Если они признают, что имеет смысл кодировать предварительные знания в виде чисел, — говорит он, — у них не останется другого выбора, кроме как стать байесианцами». Поэтому они обкладываются интуитивными априорными вероятностями и интуитивно рассуждают так, чтобы это имело смысл, но только неформально'. Именно так, по его словам, действует Лакенс, когда говорит, что придерживается байесовского подхода к выбору тем для исследований, или Поппер, когда говорит, что некоторые гипотезы прошли «более серьезную проверку» и поэтому на них следует опираться, а другие — нет. Ближе к концу своей карьеры Поппер все-таки попытался выразить «подтверждение» в цифрах. Но полученное уравнение привело к функциональному эквиваленту «степени относительной убежденности» (relative belief ratio) — байесовской меры. Вагенмакерс также резко опровергает предположение Лакенса, что на самом деле исследователей не интересует вопрос выведенной (inferential) вероятности для генеральной совокупности. Повторюсь: фреквентистская статистика отвечает на вопрос: «Насколько вероятно, что мы получим эти данные с учетом той или иной гипотезы?». На мой взгляд, то, что хотят знать ученые, и то, что отрицают Лакенс и другие фреквентисты, отвечает на противоположный вопрос: «Насколько вероятно, что эта гипотеза верна, учитывая данные, которые мы уже получали раньше?». «Вопросы, за которые можно браться с помощью фреквентистской статистики, не интересны исследователям!» — говорит Вагенмакерс. «Тут ошибка с обусловленностью. Мы не хотим
знать, насколько удивительны данные, если нулевая гипотеза верна; мы хотим знать, насколько правдоподобна нулевая гипотеза теперь, когда мы увидели данные. В конечном счете, в этом и заключается суть вопроса». Вагенмакерс с несколькими коллегами проверили эту гипотезу, расспросив множество авторов статей, опубликованных в журнале Nature Human Behaviour, об их убеждениях. «Мы спрашивали об утверждениях, содержащихся в основных заголовках статей», — рассказал он. '«Мужчинам нравятся яблоки больше, чем груши»«, или что-то в этом роде. Мы спрашивали авторов, насколько правдоподобным было это утверждение до того, как они увидели данные, и после этого. Все исследователи, что редкость в науке, сказали, что благодаря данным утверждения стали правдоподобнее, чем были до того. Но такие вопросы находятся за пределами сферы 'применения» фреквентистской статистики! Если почитать работы ученых, то они, как правило, говорят о вероятности своих гипотез. Вот, например, Эйнштейн: «Я знал, что постоянство скорости света есть нечто совершенно независимое от постулата относительности, и взвешивал, что из этого вероятнее». И еще: «Теориям [Макса Абрахама и Альфреда Бухерера] следует приписать довольно малую вероятность, поскольку их основные постулаты, касающиеся массы движущегося электрона, не находят подтверждения в теоретических системах, охватывающих более широкий класс явлений». Ученые действительно явно мыслят в терминах вероятности того, что их гипотезы верны, а не только, были они фальсифицированы или нет. По крайней мере инстинктивно ученые мыслят как байесианцы.
Байес и кризис воспроизводимости Основное преимущество байесианцев по сравнению с фреквентистами: им не нужно пренебрегать данными. Психолог из Лондонской школы экономики (LSE) Йенс Коед Мадсен, о котором я уже упоминал и который использует и фреквентистские, и байесовские методы в зависимости от настроения, говорил об этом так: «У фреквентистов есть странная особенность, когда им приходится избавляться от всего остального. Из-за этого всё дико волатильно». То есть каждый раз, когда они берутся за новое исследование, по крайней мере в теории все данные предыдущих исследований просто как бы забываются. Гипотеза «молоток падает быстрее, чем гелиевый шар» начинается с нуля, как и гипотеза «студенты обладают экстрасенсорными способностями в отношении порнографии». Это означает, что ваши представления о мире очень легко развеять, как листья по ветру. А это, в свою очередь, значит, что, по словам Мадсена, будет «легко обнаружить значимый эффект. Ты можешь подтасовать pзначения, поскольку всегда будешь действовать, как будто это первое исследование, в котором рассматривается данная тема». Например — тут я заимствую цифры из замечательного онлайн-курса по статистическим выводам Даниэля Лакенса на Coursera, который я с удовольствием рекомендую, — представьте, что вы собираете какие-то данные. Скажем, действительно ли рыжие чаще едят суп? Вы знаете фоновый уровень потребления супа среди населения, поэтому вы просто берете двести рыжих человек, спрашиваете их «Едите ли вы суп?» и записываете результаты. Как оказалось, рыжие едят суп не чаще, чем все остальные. (Оговорюсь, что все это я привожу чисто в порядке дискуссии. На самом деле я не проверял эту гипотезу). Но, как мы уже видели, природа порогового значения p=0,05 такова, что, если бы я провел эксперимент двадцать раз, то в среднем ожидал бы получить один статистически значимый результат. Именно это означает p-значение 0,05, помните? Результат настолько экстремален, что вы ожидали бы увидеть его только один раз из двадцати экспериментов, если бы не было эффекта. Представьте, что вы проводите эксперимент. Но расспросив первых десять рыжих человек о том, как они едят суп, вы останавливаетесь и смотрите на данные. И если p-значение ниже 0,05, вы как бы говорите:
«Похоже, я нашел значимый результат!» и бежите в Nature публиковать статью. Если же нет, то вы продолжаете работу и после каждого нового опрошенного рыжего проверяете, изменилась ли ситуация. Кажется, это не должно иметь большого значения. Разве это не просто экономия времени? Более того, во многих случаях это может спасать человеческие жизни: если, скажем, испытание вакцины показывает высокие результаты на ранних стадиях, то это важно знать, чтобы начать ее колоть людям, а не ждать месяцами новых результатов. Но удивительно — по крайней мере, для меня, — что этот относительно безобидный способ заглянуть в результаты на ранних стадиях очень сильно меняет шансы на получение статистически значимого результата. Если нулевая гипотеза верна и там нет ничего интересного, то, не заглядывая в ранние результаты, вы увидите результат p≤0,05 (символ означает «равно или меньше») один раз из двадцати; если смотреть результаты на ранней стадии, этот показатель возрастает примерно до одного раза из двух. Вот график, построенный в одной статистической программе с помощью сценария Лакенса и показывающий, как прыгает значение pзначение, если проверять данные после каждого нового их введения: Пунктирная серая линия находится на уровне p=0,05. Если сплошная черная линия опускается ниже нее, значит, ваши данные (на этот короткий момент) статистически значимы на уровне 0,05. В данном примере она
опускается ниже нее дважды: любой исследователь мог бы остановиться в любой из этих моментов и объявить об открытии. Хотя мы-то знаем (потому что знаем, как была написана программа!), что никакого реального эффекта здесь нет. Я прогонял этот сценарий несколько раз, и черная линия всякий раз сильно колебалась. Примерно в половине случаев она опускалась ниже серой пунктирной линии при первых 200 наблюдениях. Если бы вы были недобросовестным или наивным исследователем, то легко бы нашли кажущиеся статистически значимыми результаты в зашумленных данных, в которых на самом деле ничего интересного нет, — просто проверив данные несколько раз прежде того момента, в который проверка планировалась изначально. Если бы вы были байесианцем, это не составило бы проблемы. У вас есть данные ваших априорных вероятностей — какими бы они ни были, — поэтому каждая новая единица данных, поступающая к вам, меняет ваше мнение в гораздо меньшей степени. И, конечно же, каждый новый результат становится частью новой априорной вероятности для последующей порции информации. Деннис Линдли, байесовский примарх из отеля «Лас-Фуэнтес», утверждал, что «экспериментатор может продолжать собирать данные до тех пор, пока не достигнет уровня значимости α, при этом сам этот факт для байесианца не имеет значения». Другие, в частности американский психолог XX века и байесианец Уорд Эдвардс и Эрик-Ян Вагенмакерс, идут дальше и говорят, что необязательная остановка — на самом деле хорошая идея для байесовского анализа. В одной из работ 2014 года была проведена симуляция, немного похожая на ту, что я провел выше, но более сложная. Она показала, что если вы прекращаете сбор данных, когда ваша апостериорная вероятность или коэффициент Байеса — о которых я расскажу позже, а пока можете считать их p-значениями для байесианцев, — упадут ниже определенной точки, то вы все равно получите в среднем те же вероятности, что и в случае, когда бы вы дожидались, пока не получите все результаты, как планировалось. Однако вы получите их быстрее, а значит, сможете быстрее выпустить на рынок лекарство или опубликовать в статьях вновь открытую субатомную частицу, чтобы потом заняться чем-то еще. Еще одно — более техническое — преимущество байесовских методов перед фреквентистскими заключается в том, что они не просто отвергают или принимают нулевую гипотезу, не просто говорят «да» или «нет» гипотезе, а присваивают степени убежденности целому ряду возможных реальностей. Это важно, потому что в действительности нулевой гипотезы
не существует. Вернее, если рассматривать популяции людей, то нулевая гипотеза всегда, в конечном счете, ложна. Представьте, что вы проводите исследование — изучаете разницу между двумя группами общества. Допустим, вопрос снова о том, любят ли рыжие люди суп? Если вы проанализируете двести рыжих и двести людей с другим цветом волос, вы случайно обнаружите небольшое различие, и в рамках фреквентистского подхода вам нужно решить, достаточно ли велико это различие, чтобы отвергнуть нулевую гипотезу. Но если бы вы проанализировали всех рыжих и нерыжих людей в стране [35], не исключено, что разница была бы заметна. Даже если бы речь шла буквально о том, что любящих суп рыжих нашлось на одного больше на миллион. То есть какой-то результат вы бы, скорее всего, получили. Поэтому, если вы получите достаточно большую выборку, вы, вполне возможно, сможете опровергнуть нулевую гипотезу. И результат будет реальный. Психолог из Чикагского университета Дэвид Бакан в 1968 году писал: Несколько лет назад автору довелось провести ряд тестов на значимость для батареи тестов, собранных у 60 тысяч испытуемых со всех концов Соединенных Штатов. Каждый из тестов оказался значимым. Разделение карточек по таким произвольным критериям, как восток и запад от реки Миссисипи, штат Мэн и остальная часть страны, север и юг и т.д., дало значимые различия в средних величинах. В некоторых случаях различия в выборочных средних были совсем небольшими, но тем не менее, все p-значения оказались очень низкими. Великий психолог Пол Мил высказывался похожим образом. Однажды он опросил 57 тысяч школьников Миннесоты, задав им вопросы об их вероисповедании, привычках в проведении досуга, порядке рождения, числе братьев и сестер, планах после окончания школы и еще десятки других. В общей сложности разные ответы могут быть смешаны 990 различными способами: являются ли школьники, которые любят готовить, чаще единственными детьми в семье, чаще ли ученики из баптистских семей вступают в политические клубы в школе? — что-то в этом духе. Мил заметил, что, когда он разделил данные, 92 % возможных комбинаций дали статистически значимые корреляции. И это реальные различия, за которыми
(предположительно) стоят реальные, хотя и многогранные и сложные причины. Точно так же, если взять 30 тысяч рыжих людей и 30 тысяч нерыжих, можно будет обнаружить некоторую разницу в том, как они едят суп. Почти наверняка она будет статистически значимой. И она будет реальной, а не ложноположительной. Однако неясно, что такой результат даст вам что-то важное: это может быть крошечная корреляция или она может вообще исчезнуть, если отобрать для изучения другую группу рыжих людей. Природа фреквентистской статистики требует, чтобы мы либо опровергали нулевую гипотезу, либо нет; реальный эффект либо есть, либо его нет. Поэтому если выборка получилась достаточно широкой, вы обязательно что-то обнаружите. Байесианец же может оценить размер эффекта и выдать распределение вероятностей [36]. Распределение вероятностей — это график того, что может произойти. Если построить график возможных исходов броска одного шестигранного кубика, то мы получим график с шестью одинаковыми по высоте столбиками, один из которых обозначен единицей, другой — двойкой и так далее до шести для каждого из возможных исходов. Вероятность каждого столбика будет равна ⅙, или 16,7 %, или 0,167, что в сумме составит 1, потому что должно же что-то выпасть! (Теоретически может быть и седьмой столбик — «Случится что-нибудь странное», который предусматривает такие варианты исходов: «кубик встанет „на ребро“ между двумя числами» и «кубик превратится в мангуста». Однако чисто гипотетически будем считать, что мы уверены: он выпадет гранью с тем или иным числом). Такой график выглядел бы следующим образом:
Если вы бросаете два кубика, то получаете другой график. Он слегка похож на нормальное распределение [37]: есть шесть способов получить семерку (1+6, 2+5, 3+4, 4+3, 5+1, 6+1), но только один способ — двойку или двенадцать (1+1, 6+6). Поэтому вероятность каждого исхода различна:
И если бы мы измеряли какую-то непрерывную переменную, например рост или вес, а не дискретную вроде чисел на игральных кубиках, то получили бы график в виде непрерывной кривой, которая может быть нормальным распределением или распределением другой формы, в зависимости от того, что мы измеряем. Но, как и в других случаях, площадь под кривой будет равна единице, и если измерить вероятность получения какого-то результата, скажем, «процента мужчин ростом от 173 до 178 см», вы увидите, какая часть графика находится между этими двумя точками на оси X:
Надо сказать, что распределения вероятности — вполне стандартная вещь, важная не только для байесианцев. Подобное распределение было бы вполне осмысленным даже для Якоба Бернулли. Байесовским же его делает то, что, во-первых, можно использовать распределение вероятностей для представления ваших субъективных убеждений на основе уже имеющейся у вас информации, о ваших наилучших предположениях относительно некоторой темы. А во-вторых, вы привносите новую информацию и получаете новое распределение вероятностей. Вот что это значит. Во-первых, у вас есть априорное распределение. То есть, еще не видя данных, вы имеете оптимальную оценку размера какоголибо эффекта. Давайте снова воспользуемся вопросом «Любят ли рыжие люди суп?» и скажем, что по вашим оценкам рыжие едят суп ровно в том же объеме, в каком его едят все остальные. Но вы в этом не уверены. Реальный эффект может заключаться в том, что рыжие едят суп немного чаще или немного реже; или, что менее вероятно, но возможно, они едят суп намного чаще или намного реже. Можно быть практически уверенным (вероятность ≈ 1), что рыжие съедают какой-то объем супа, и величина этого объема — где-то между «нулевым объемом супа» и «объемом всего супа, существующего в мире».
Чем больше уверенность, что реальный ответ близок к какому-то определенному значению, тем большую вероятность вы располагаете на графике рядом с этим значением. Так что если вы очень уверены, график плотности вероятности будет высоким и узким; если вы не уверены, он будет низким и плоским. Рис. 1: пример распределения описывающего наши априорные представления о потреблении супа рыжими людьми. Потребление супа здесь выражено в относительных единицах — по отношению к базовому уровню потребления в популяции. В данном случае мы пока не имеем особых причин выделять рыжих людей среди остальных по уровню потребления супа. Поэтому данное распределение некоторым образом размыто вокруг среднего значения, равного единице. Важно также, что заштрихованная площадь также равна единице: ведь эта площадь описывает (априорную) вероятность получить хоть какой угодно результат, безо всяких ограничений — а такая вероятность получить хоть что-нибудь, безусловно, равна единице. Затем вы изучаете привычки некоторых рыжих людей с точки зрения потребления супа. К своему удивлению, вы обнаруживаете, что они едят гораздо больше супа, чем в среднем в популяции. Новые данные распределены вокруг другого среднего значения, которое существенно больше единицы. Получившаяся новая кривая называется «функцией правдоподобия» (likelihood) [38].
Рис. 2: кривая функции правдоподобия для рыжих людей — результат ваших экспериментов. Ее среднее значение гораздо больше единицы, что отражает ваше удивительное наблюдение: рыжие люди едят гораздо больше супа. Заштрихованная площадь под кривой по-прежнему должна быть равна единице, поскольку описывает вероятность получить какой бы то ни было результат измерений. Затем перемножаем апостериорную плотность вероятности (posterior) и функцию правдоподобия (likelihood), нормируем и получаем кривую, свойства которой являются в чем-то средними по сравнению со свойствами двух предыдущих кривых. Это апостериорное распределение [39]. Рис. 3: апостериорное распределение.
То, как будет выглядеть апостериорная вероятность (posterior), будет зависеть от того, насколько сильной была уверенность, выраженная априорным распределением вероятности, а также насколько качественны новые данные с точки зрения размера выборки, величины эффекта и так далее. Если ваша исходная уверенность очень высока — кривая плотности априорного распределения действительно высокая и узкая, — а новые данные довольно слабые, что дает низкую и широкую кривую распределения вероятности, то результирующая кривая будет больше похожа на априорную. Если ваша априорная уверенность невелика, но данные по-настоящему качественные, и поэтому их плотность вероятности высокая и заостренная, новые данные размоют априорную вероятность, и апостериорная плотность вероятности будет больше похожа на функцию правдоподобия (likelihood). Но вам не надо говорить, что вы отвергаете нулевую или принимаете альтернативную гипотезу или что-то еще. Вы просто говорите: «Я думаю, что истинное значение лежит где-то на этой кривой, с такой-то плотностью вероятности для каждой точки [40]». Если апостериорная кривая будет высокой и острой по сравнению с априорной, значит, у вас есть что-то примечательное и заслуживающее внимания. Байесианцы вроде Обри Клейтона считают, что это означает, что так можно было бы снять застарелую проблему погони за значимыми pзначениями. Всегда можно найти статистически значимый результат, если достаточно «измельчить» данные, или несколько раз проверить результаты, или просто увеличивать выборки до тех пор, пока не удастся найти крошечные и бессмысленные корреляции. Природа научно-издательской индустрии такова, что вы зачастую можете опубликовать свою работу, если найдете одну из этих бессмысленных (или надуманных) корреляций. Природа же академической науки такова, что если вы хотите продвинуться по карьерной лестнице, вам нужно публиковаться. Отказ от бинарной концепции статистической значимости и замена ее органичным аналогом, отвечающим на условный вопрос «Насколько велик этот эффект и насколько вероятно, что он реален?», помог бы избавиться от части подобных ложных стимулов и пороговых отсечений. Для ясности: замена фреквентистского анализа на байесовский не решит волшебным образом те многочисленные проблемы, с которыми сталкивается современная наука, и многие из таких проблем можно решить в рамках фреквентистского подхода. (И я бы не стал сильно преувеличивать проблемы науки — да, в ней много мусора и ложных стимулов, но все же именно благодаря науке мы стали жить дольше, богаче и здоровее наших
прабабушек и прадедушек и именно благодаря ей мы можем общаться с кем угодно в любой точке мира с помощью коробочки размером десять на пятнадцать сантиметров, помещающейся у нас в кармане). С этим согласен даже архибайесианец Вагенмакерс. «Это же не волшебная таблетка», — говорил он. Есть несколько основных принципов, на которых держится любая система, которой мы пользуемся'. Не надо выковыривать изюм из булки, надо быть честным. Чушь на входе, чушь на выходе'. Если ученые скрывают свои «неудивительные» «нулевые» результаты или журналы не публикуют их, то научная литература заполняется непропорционально большим количеством «удивительных», но ложных результатов. Это означает, что при попытке провести метаанализ, чтобы оценить общее состояние научного консенсуса, вы получите ложную картину, причем независимо от того, анализируете ли вы данные байесовскими или фреквентистскими методами. Что байесовский подход мог бы исправить, так это использование порога p=0,05. И это важно, потому что, хотя ученые часто предполагают, или притворяются, или подразумевают, что результат p=0,05 следует воспринимать как реальный, p=0,05 иногда на самом деле оказывается доказательством против вашей гипотезы. В следующем разделе я объясню, почему.
Парадокс Денниса Линдли «Шанс один к двадцати увидеть результаты, по крайней мере столь же экстремальные, как эти» выглядит довольно высокой планкой. Именно это и означает p=0,05, как мы уже говорили, и это стандарт, выполнив который, вы можете заявить, что обнаружили нечто. (Или хотя бы что «опровергаете нулевую гипотезу»). Но такой порог, как один к двадцати, на самом деле удивительным образом не информативен. В некоторых сценариях получение p-значения около 0,05 является доказательством против вашей гипотезы. Попробую объяснить, почему. P-значения показывают, насколько удивительными являются данные согласно одной гипотезе. «Но по Байесу вы же сравниваете две гипотезы», — говорит Вагенмакерс. «А данные могут оказаться удивительными при нулевой гипотезе, но еще более удивительными при альтернативной». Этот парадокс называется парадоксом Линдли, по фамилии автора статьи 1957 года — уже упоминавшегося нами выше Денниса Линдли «A Statistical Paradox» («Статистический парадокс»). Однако, как замечал сам Линдли, об этом парадоксе шла речь в работе Гарольда Джеффриса двадцатью годами ранее. И на самом деле это не парадокс; просто если вы задаете разные вопросы данным, то и ответы получаются разными. Идея тут в том, что если вы проведете некий эксперимент много раз — скажем, сто тысяч раз — и если в действительности истинного эффекта нет, то вы увидите, что p-значения разбросаны беспорядочно. Я снова воспользуюсь примером из курса Даниэля Лакенса на Coursera: представим, что вы отобрали группу людей и измерили их IQ. Вы знаете, что IQ в популяции равен 100 (по определению). Предположим, что никакого эффекта нет — что популяция, из которой вы делаете выборку, также имеет средний IQ, равный 100. Если построить график p-значений, полученных в ходе ста тысяч экспериментов, выглядеть он будет следующим образом:
Иногда вы получали экстремальные результаты, иногда — менее экстремальные, то есть иногда, по чистой случайности, вы брали выборку людей с необычно высоким или низким IQ, но она не была репрезентативной для всей популяции; в других случаях вы получали более репрезентативную выборку. P-значение 0,05 или ниже должно встречаться один раз из двадцати, так же как и p-значение от 0,05 до 0,1, от 0,1 до 0,15 и так далее. Еще можно уточнить: p-значение от 0,04 до 0,05 должно встречаться только один раз из ста и так далее. Но теперь представим, что реальный эффект был. Скажем, вы измерили IQ где-то, где полно действительно умных людей, и средний IQ там составил 107. Если у вас приличный размер выборки и есть реальный эффект, p-значение, скорее всего, получится очень низким. Теперь ваши pзначения будут группироваться очень близко к нулю. Вместо плоского графика вы увидите что-то такое:
Очень немногие p-значения достигают 0,04. Таким образом, учитывая две гипотезы — либо популяция, которую вы измеряете, имеет нормальный средний IQ 100, либо она имеет гораздо более высокий IQ 107, — вы с гораздо большей вероятностью увидите p-значение 0,04 в условиях нулевой гипотезы. Это удивительно, да, но гораздо более удивительно — в случае альтернативной гипотезы. Конечно, это не единственные две гипотезы. Реальный средний IQ может быть 94, или 110, или любым другим. Но если у вас нет веских причин отдавать предпочтение какой-либо конкретной гипотезе, если ваши априорные вероятности широки и рассеяны, то «почти значимый» результат вполне может служить более качественным доказательством в пользу нулевой гипотезы, чем против нее. Это не означает, что вся концепция p-значений негодна. Заслуженный профессор статистики Открытого университета Кевин Макконвей, который сам симпатизирует байесовскому методу, не будучи догматиком в этом вопросе, говорит, что дело в том, что эти две системы отвечают на разные вопросы, как мы и говорили все это время. P-значение на уровне 0,05
правильно сообщает вам, что ваши данные удивительны, учитывая нулевую гипотезу. Но оно ничего не говорит вам о том, насколько вероятна нулевая гипотеза с учетом ваших данных. Это просто не в его власти. Сложность в том, что слишком часто исследователи полагают, что статистически значимый результат означает, что у них есть веские доказательства или даже подтверждения их гипотезы. Но это совершенно не так. Мы должны четко сознавать: значительная составляющая проблемы заключается в том, что порог p=0,05 смехотворно низок. Если бы я выдвинул гипотезу, что мои новые игральные кубики — шулерские, и бросил два из них, получив две шестерки, этого было бы вполне достаточно, чтобы заявить о статистической значимости (p=0,028). Я часто играю в настольные военно-стратегические игры и уверяю вас: шестерки в большом количестве выпадают постоянно. (Моим противникам). «С байесовской точки зрения 0,05 — очень слабое доказательство», — говорил Вагенмакерс. «Планка до смешного низкая». Конечно, если проблема в том, что стандарт доказательности слишком низок, то очевидным ответом будет повышение планки. Именно это и предлагал ранее Лакенс — снизить уровень значимости (alpha level, то есть p-значение, необходимое для признания статистической значимости). В 2017 году группа ученых опубликовала в журнале Nature Human Behaviour статью, в которой призвала пересмотреть стандартный уровень статистической значимости, установив его на отметке 0,005 — то есть один к 200. Парадокс Линдли от этого не исчезнет, но число ситуаций, в которых он имеет значение, значительно уменьшится. Однако проблема, связанная с тем, что p-значения на самом деле не сообщают нам о вероятности, что та или иная гипотеза верна, останется. Конечно, они стали бы более сильным доказательством, и если бы вы следовали Фишеру или Попперу, то, возможно, были бы увереннее в своем «подтверждении» или в своей готовности действовать так, как будто нулевая гипотеза была опровергнута. Но вы все равно не смогли бы обозначить свою убежденность цифрой, и если вы согласны с Вагенмакерсом, Клейтоном и другими в том, что именно это и пытается сделать наука, то вам необходимо байесианство, а если вам необходимо байесианство, то нужны и априорные вероятности. Но.. где же их взять?
Где брать априорные вероятности Вот простой мысленный эксперимент, чтобы проверить, какого подхода придерживаетесь вы чисто инстинктивно — байесовского или фреквентистского. (Я позаимствовал этот пример у Кэсси Козырьковой, главной специалистки по теории принятия решений в компании Google.) Подбросьте монету. Поймайте ее, но не смотрите на нее. (Надеюсь, вы сделали это красиво — щелчком большого пальца из-под согнутого указательного, и, поймав монету той же рукой, шлепнули ею по тыльной стороне другой руки. Так или иначе, теперь у вас есть монета, которую вы подбросили и прикрыли рукой). Какова вероятность, что монета выпала орлом? Дайте себе ответ и пойдем дальше. Так. Теперь попросите когонибудь еще подбросить монетку. Пусть поймают и посмотрят. Какова вероятность, что монетка выпала орлом сейчас? Если вы оба раза ответили «50 %» (или «0,5», если быть корректным), значит, вы мыслите по-байесовски. Вероятность для вас — это ваши субъективные убеждения и имеющаяся у вас информация. Монета может выпасть как орлом, так и решкой, и у вас нет причин считать, что один исход вероятнее другого, поэтому вероятность равна 50 %. Для вас нет никакой разницы, когда другой человек смотрит на монету — для него вероятность равна 100 % или 0 %. Но для вас, поскольку вы не получили никакой новой информации, вероятность по-прежнему равна 50 %. Если вы ответили: «Либо 0, либо 100 %» или, возможно, «О чем вы вообще говорите?», то вы рассуждаете как фреквентист. Есть правильный ответ, некий факт: либо монета выпала орлом, либо нет. Нет смысла говорить о «вероятности» того, что уже произошло. ('Нет также никакой разницы, когда другой человек на нее посмотрит. Он уже знает истинный ответ, а вы — нет, но все равно истинный ответ есть, и вероятность равна 1 или 0). Именно это мы имеем в виду, когда говорим, что байесианство субъективно. Вероятность и статистику следует рассматривать как оценку и измерение неопределенности: мы не знаем, произойдет ли событие X или Y, но мы можем попытаться сказать, насколько они вероятны, учитывая то, что мы знаем о мире; и то, что я знаю о мире, и, следовательно, то, насколько вероятными я их считаю, может сильно отличаться от того, что знаете и считаете вы.
Но есть два вида неопределенности. Алеаторная неопределенность — это неопределенность в неизвестном будущем. Слово «алеаторный» происходит от латинского alea, что значит «жребий», «игральная кость». («Alea iacta est», как сказал Цезарь, согласно Светонию, когда перешел Рубикон и двинулся на Рим. «Жребий брошен», что означало: последствия его решения наступят, какими бы они ни были, и они неизвестны). Так что прежде чем вы подбросите монету, существует алеаторная неопределенность в отношении того, выпадет ли она орлом или решкой. Когда вы садитесь в самолет, существует алеаторная неопределенность (хотя и не очень большая) относительно того, благополучно ли он приземлится. Когда вы роняете бутерброд, за секунду или около того до момента его падения на пол существует алеаторная неопределенность в отношении того, приземлится ли он маслом вверх или вниз. Но есть еще и эпистемическая неопределенность — от греческого слова epistēmē, означающего «знание». Именно об этом говорила Кэсси Козырькова в своем примере, о котором шла речь выше. Если вы подбрасываете монету, затем ловите ее, но не смотрите, тогда никакой алеаторной неопределенности нет. Результат есть, событие произошло, точка. И все же. Никакой новой информации у вас не появилось. Что касается вас, вопрос не стал ближе к ответу, чем был до того. Аналогичным образом, если кто-то из ваших знакомых летит на самолете, существует эпистемическая неопределенность в отношении того, приземлился он или разбился, хотя мне немного жаль, что я привожу такой пример, потому что самолеты невероятно безопасны. Если вы уронили бутерброд, но пока не полезли за ним под стол, существует эпистемическая неопределенность в отношении того, упал ли он маслом вниз. Вопросы о фактах реального мира отличаются эпистемической неопределенностью. Каково население Швейцарии? Я не знаю, но наверно около десяти миллионов. Я на 90 % уверен, что оно не ниже четырех миллионов и не выше тридцати. Если нарисовать распределение вероятностей, то это будет моя априорная вероятность: кривая с пиком на уровне 10 миллионов, причем только 5 % моей вероятностной массы будет выше 30 миллионов, а еще 5 % — ниже 4 миллионов. Выглядел бы этот график как-то так:
(Я проверил: население Швейцарии на 1 января 2022 года по данным Евростата составляло 8 736 510 человек. Теперь моя функция плотности вероятности сжимается до острой точки, расположенной вокруг этой цифры). В вопросах с дискретными ответами, например «What is the state capital of Georgia?» [41], вы можете задать вероятности для всех вариантов ответов: 60 % — «Атланта», 35 % — «Тбилиси», что-то вроде этого. Все это, конечно, замечательно. Даниель Лакенс определенно с нами пока согласился бы. И когда мы возвращаемся к идее теоремы Байеса как теории принятия решений, а также к более неформальному использованию теоремы Байеса как модели предсказания будущего, изменения нашего мнения и тому подобных вещей, то это действительно единственный способ, которым можно пользоваться. В той мере, в какой мозг является байесовской машиной — к этой идее мы еще вернемся — он именно так и действует, когда предсказывает окружающий мир и обновляет представление о нем с помощью новой информации, поступающей от органов чувств. Но как это работает в науке? Откуда брать априорные вероятности? Можно ли нам просто брать их из воздуха? Можно ли просто сказать «не знаю, я считаю, что вероятность, что эта вакцина предотвратит ковид,
составляет около 40 %», и работать дальше, или есть какой-то более сложный метод? Конечно, есть, и даже несколько. Самый очевидный — просто сказать, что мы не знаем. Если вы буквально понятия не имеете, является ли население Швейцарии единицей или всем населением Земли, то вы накладываете равную массу вероятностей на каждый из возможных ответов, и ваша априорная вероятность будет такой же плоской, как и априорная вероятность того, выпадет ли шестерка или единица на шестигранном кубике. «Равномерная плоская априорная вероятность ничего не предполагает», — говорит Йенс Коед Мадсен. — «У фреквентистов есть такая априорная вероятность, хотя они не хотят об этом говорить. Я говорю своим коллегам — закоренелым фреквентистам: ваша субъективная априорная вероятность равна 0,5, но откуда она берется? В вашей теореме это явно не указано, но подразумевается». С равномерными априорными вероятностями (uniform priors) есть проблемы. Главная из них — возражение Буля, которое мы упоминали в первой главе: равномерная априорная вероятность в одном смысле дает неравномерную в другом. Пример, который мы обсуждали, был, разумеется, про урну, наполненную шарами — черными или белыми. Если у вас есть плоская априорная вероятность общего числа черных шаров в урне, то любое сочетание черных и белых шаров будет одинаково вероятным. (Если в урне только четыре шара, у вас есть три возможности: два черных, один черный и ноль черных, и все они одинаково вероятны). Но если предположить, что каждый шар с одинаковой вероятностью будет черным или белым — плоская априорная вероятность того, что каждый раз вы будете доставать белый или черный шар — то априорная вероятность будет благоприятствовать (очень сильно, если шаров много) тому, чтобы в целом в урне [с шарами двух цветов] черных и белых будет примерно пятьдесят на пятьдесят. Гарольд Джеффрис предложил способ обойти эту проблему для многих случаев — распределение априорных вероятностей, которое выглядит как U, с массой вероятностей, сильно сосредоточенной в крайних точках. (То есть вы начинаете думать, что независимо от ожидаемого результата, он либо случается почти каждый раз, либо не случается почти никогда).
Как и в случае с плоской априорной вероятностью, она неинформативна, то есть, если вы получите какие-то новые данные, ваша апостериорная вероятность будет выглядеть примерно так же, как эти данные, без какого-либо реального дополнения со стороны априорной вероятности. Но она также менее уязвима (хотя и не полностью) к возникновению странных парадоксов, когда полное незнание в одном смысле дает очень сильные априорные убеждения в другом. Подобные априорные вероятности полезны, когда вам вообще ничего не известно. Но полное незнание — штука неординарная. Можно не знать чего-то о Швейцарии, но наверняка вы представляете себе, что в ней живет больше десяти человек, но меньше миллиарда. Так что в большинстве случаев некая априорная информация, которую вы захотите использовать, так или иначе у вас будет. «Во время одного из исследований, которое я проводил, — рассказывал Йенс Мадсен, — мы изучали поведение рыбаков в Индонезии». Для этого мы общались с ними, с местными НКО и экспертами. И, по-моему, было бы довольно глупо, если бы я сказал: «Я не могу инкорпорировать мнение этих экспертов в мои априорные вероятности, потому что это не данные». Представьте, что какие-то эксперты посмотрели на вашу модель и говорят [о каком-то ее аспекте]: «Такого никогда не было»; в этом случае установление порога априорной вероятности на 0,5 только потому, что так положено по данным, кажется совершенно произвольным'. Но это означает необходимость принимать субъективные решения в отношении априорной вероятности. Если по вашему мнению вероятность того, что индонезийские рыбаки будут использовать траловые сети, выше, чем вероятность использования длинных лесок, а вероятность, что они
поймают тунца выше, чем осьминога, то тогда надо сказать: «И я считаю, что вероятность этого в 1,5 раза выше» или что-то в этом роде. И это повлияет на результаты, которые вы представите, когда появятся фактические данные. Разве это не подрывает весь смысл сбора фактических данных? ЭрикЯн Вагенмакерс считает, что нет. «Вы можете проверить надежность своих выводов, если проанализируете различные априорные распределения». То есть можно задаться вопросом, насколько надежны ваши выводы, если вы считаете, что вероятность, что рыбаки выловят тунца, в 1,7 раза выше, или в 2,4, или в 1,3 раза. По словам Вагенмакерса, «…обычно это не имеет значения, лишь бы было разумно. И большинство людей соглашаются с тем, разумно это или нет. И как правило, поскольку данные просто „расскажут“ вам какую-то понятную историю, это не имеет большого значения». Если же имеет, то данные, вероятно, не очень хорошего качества. Энди Грив, статистик из фармацевтической сферы, рассказывал похожую историю. 'Для самых предварительных или внутренних исследований мы используем субъективную информацию. Например, можно получить информацию от экспертов. На ее основе мы принимали внутренние решения. Вряд ли, однако, вам разрешат сделать это при подаче заявки в регулирующий орган, поэтому в более крупных исследованиях мы будем использовать ту информацию, которая у нас есть о препарате или аналогичных препаратах из исторических данных'. Фреквентист Лакенс относится ко всему этому весьма скептически и вообще сомневается, что кто-то мог использовать результаты предыдущих экспериментов для формирования априорных вероятностей последующих. «Удалось ли вам найти хоть одного ученого, кто когда-либо использовал теорему Байеса для реального, на практике, обновления априорных вероятностей?» — спросил он меня как-то. «То есть чтобы он опубликовал работу, скажем, в 2018 году, а затем фактически использовал результат из работы 2018 года в качестве априорной вероятности, собрал данные и сообщил новое количественное апостериорное убеждение? Кто-нибудь когда-нибудь хоть один раз менял свое убеждение в опубликованной работе?» Но Вагенмакерс с этим не согласен. «Конечно, мы применяем апостериорные вероятности!», — рассказывал он. «Если этого не делать, это то же самое, что просто выбрасывать данные. В индустрии на кону стоят деньги, поэтому, конечно, вы так не поступите».
Грив, который сам работал в индустрии, говорит, что именно этим постоянно занимались авторы фармакологических исследований. Так просто эффективнее, по его словам. Обычно ученые сводят в один «пул» все исследования по какому-либо вопросу и проводят метаанализ. Они берут данные всех исследований и объединяют их p-значения, размеры эффектов и т.д., чтобы прийти к консенсусу. Для байесианцев же это просто повседневная работа. Ты берешь в расчет все ранее проводившиеся исследования. «Так мы можем использовать все данные, собранные нами в прошлом», — говорил Грив. «И там уже есть собственный метаанализ. Современный стандартный способ создания априорного распределения на основе имеющихся данных вообще-то и называется метааналитической априорной вероятностью». Это просто факт, что байесовские процедуры эффективнее используют имеющиеся у вас данные. «Если вы не используете правильную, информативную априорную вероятность, то упускаете свои шансы», — говорил один байесианец, американский эпидемиолог Роберт Вайс. Есть данные, информация, которую вы могли бы использовать, но решили этого не делать: ваши конечные выводы будут менее определенными, чем могли бы быть. Могут быть веские причины не использовать существующие данные, но отказ от их использования сделает использование любых новых данных менее эффективным. Одна из проблем тут заключается в том, что вы теоретически можете исказить свои результаты, задействовав странные априорные вероятности. Например, если вы проводите испытание фармацевтического препарата, у вас есть лечебная группа, получающая препарат, и контрольная группа, получающая плацебо или стандартный уход. Если вы обманным путем (или из-за некомпетентности) подогнали свои априорные ожидания так, что эффект в контрольной группе получился гораздо хуже, чем должен был быть, то из-за этого очевидный эффект в лечебной группе будет выглядеть гораздо лучше. «Это вызовет серьезные вопросы, — говорит Грив, — если при сборе данных окажется, что контрольная группа сильно отличается от того, что вы видели раньше, от ваших ретроспективных данных». «Не то чтобы фармкомпании регулярно допускали подобные нарушения, — говорил он, — но риск паршивой овцы в стаде есть всегда». Чтобы этого избежать, по его словам, требуется «смесь распределений для априорной вероятности, что автоматически снизит вес ретроспективной информации, если есть большая разница между ретроспективными и текущими данными». Не то чтобы нахождение априорной вероятности было тривиальной или очевидной задачей. Необходимо сделать выбор, и (хотя одна из школ
байесианства называет себя «объективной») он может быть предметом споров. Если вы не согласны с тем, насколько достоверно исследование, или стоит ли включать в него «показания» экспертов, вы можете не согласиться и с распределением ваших априорных вероятностей. Но это не значит, что люди должны брать их из воздуха. Есть разумные способы добывать их в разных обстоятельствах. И, конечно, если ваши данные сколько-нибудь надежны, они быстро «перебьют» ваши априорные вероятности.
Если лошадь побеждает на скачках, не такая уж она и мертвая Когда пишешь о спорных темах, возникает соблазн сделать глубокомысленное лицо и сказать: ну да, люди злятся, но они же очень хорошие с обеих сторон, очень хорошие люди с обеих сторон. И, справедливости ради, такая позиция не обязательно неправильная. Спор между байесианцами и фреквентистами на удивление яростный: один человек в разговоре со мной назвал противника «торговцем автомобилями, который родную мать продаст, лишь бы добиться своего». Другой назвал оппонента «Дональдом Трампом от методологии». (Но люди-то очень хорошие с обеих сторон, да). Как выразился Энди Грив, возможно, некоторые такие высказывания делаются напоказ. Даже Даниель Лакенс, которого байесианцы считают верховным фреквентистом, говорит, что «часто фреквентистские подходы оптимальны, но иногда бывает, что есть достаточный объем априорной информации, и можно сказать, что использование байесовской статистики допустимо, и в таких ситуациях она имеет явные преимущества. Это нюансированная позиция, но в книге же такое не напишешь». Кэсси Козырькова из Google опубликовала в своем блоге пост с вопросом, мол, кто вы — байесианец или фреквентист, и предложила подзаголовок «И кто лучше?» Ответ ее звучал так: «Постановка вопроса неверная! Выбор правильного варианта зависит от того, как вы хотите подойти к принятию решений». Она также отмечает, вероятно, справедливо, что когда она училась в аспирантуре Университета Дьюка, «который для байесовской статистики примерно то же, что Ватикан для католиков», громче всех о величии байесианства кричали не профессора, а студенты, в основном потому, что основные байесовские идеи легче усвоить. Специалистка по статистике Софи Карр, возглавляющая консалтинговую фирму под названием Bays, тоже на удивление не догматична в этом вопросе. «Я говорю о фреквентистской и
байесовской статистике, как о регби», — говорила она. Есть две разновидности регби — регби-лиг и регби-юнион. Правила в них немного различаются, и фанаты обеих любят громогласно выяснять, какая из них лучше. (Тем, кто не живет в Британии, думаю, будет уместно пояснить, что регби-лиг — игра скорее для рабочего класса, и играют в нее в основном на севере Англии; регби-юнион больше распространен на юге Англии, а также в Уэльсе, Шотландии и Ирландии, и по крайней мере в Англии ее считают игрой среднего класса). «Я играла в регби-лиг за 'Лидс-Райнос»«, — вспоминала Карр. 'Потом переехала на юг и играла в юнион за „Бат“. Можно переключаться с одного вида игры на другой, и ни тот, ни другой не будет ни лучше, ни хуже второго: у каждого есть плюсы и минусы». Ее аналогия с фреквентизмом и байесианством очевидна. Поэтому у меня возникает соблазн объявить: «Конечно, дебаты идут очень напряженные, много эмоций, но обе стороны приводят веские аргументы!» Очевидным образом верно, что фреквентистские методы прекрасно работают во многих сценариях: Лакенс прав, что нет смысла включать априорные вероятности в процесс поиска бозона Хиггса, например, когда вы имеете дело с p-значениями, которые увидите только один раз из 11 миллионов или что-то в этом роде, если бозон не найдут. Секвенирование ДНК в биологии — полногеномные исследования ассоциаций, в рамках которых изучается вся длина генома у сотен тысяч людей и сравнивается с фенотипическими результатами, в частности, болезнями, ростом, интеллектом, — тоже может обойтись без Байеса. Очевидно также, что байесовский подход сам по себе не решит проблем, с которыми сталкивается наука. Если журналы будут и дальше отдавать предпочтение новым, неожиданным результатам, а не ожидаемым, если ученые продолжат работать по принципу «публикуйся или погибнешь», когда ради карьерного успеха ты должен тискать статьи в журналы, в науке и дальше будут править бал порочные стимулы. Может кое-что поменяться, если статистику анализировать байесовскими методами, а не фреквентистскими — невозможно заниматься p-хакингом, если не используешь p-значения, так что по крайней мере придется придумать какое-то другое название,
— но проблемы так не решить. Если ученые не хотят делиться своими данными или кодом, чтобы другие могли их проверить, то не имеет значения, анализировались ли эти данные с байесовскими множителями, или же нет. И — в продолжение темы — очевидно верно также и то, что многие из этих проблем можно решить или по крайней мере смягчить в рамках фреквентистского подхода. Некоторые мои знакомые ученые выступают за так называемые «зарегистрированные отчеты» (Registered Reports), когда журналы соглашаются публиковать работы, основанные на их методах, еще до сбора данных, и тогда, независимо от того, получат ли они захватывающие, достойные заголовков результаты или скучные, нулевые результаты, они все равно останутся в научной летописи. Несколько относительно крупных журналов поддержали эту идею, и я считаю, что это правильно: такой подход устранил бы стимул к нарезке данных до тех пор, пока не будет получен положительный результат, и снял бы проблему публикаторских искажений [42]. Это был бы полезный шаг независимо от того, байесовские статьи или фреквентистские. И, как я уже говорил несколько раз, множество важнейших проблем фреквентистских моделей заключается в том, что порог p=0,05 смехотворно низок. Серьезно улучшить ситуацию возможность есть: для этого нужно перейти к значению p=0,005 или близкому. Да, тогда множество исследований не будут опубликованы или, в идеале, будут опубликованы под заголовком «Мы искали, но ничего не нашли». Еще одна идея — просто избавиться от академических журналов. Я разговаривал об этом с психологом Маркусом Мунафо из Бристольского университета. По его мнению, идея академического журнала как хранилища научной информации, официального архива Науки, устарела. «Сама идея статьи объемом в три тысяч слов, опубликованной в каком-нибудь журнале, насчитывает 300 лет», — сказал он в разговоре со мной. «Исследования сейчас более сложные, но у нас есть технологии, которые позволяют представлять их результаты, есть соответствующие механизмы». На самом деле, альтернативная модель уже внедрена: Александра Фриман из Винтонского центра коммуникации рисков и доказательств в Кембридже запустила программу под названием Octopus. Это
бесплатное хранилище гипотез, данных, кода и методов. Фриман — в прошлом журналистка. Она рассказала мне, что когда «перешла из СМИ в науку, [ее] поразило, что ученым подсовывают точно такие же стимулы, как и журналистам, подталкивают их к тому, чтобы рассказывать интересные истории, а не заниматься качественной наукой. Журналы стимулируют людей писать высокоцитируемые статьи, которые они определяют как публикации с широкой читательской аудиторией, короткие и точные, несущие определенную идею. Это прямо противоречит реальным задачам отчетов о первичных исследованиях: чтобы можно было посмотреть все результаты и потом следить за ходом дальнейших изысканий». Ученые ведут исследования, которые могут занимать много месяцев и лет. Потом они тратят еще несколько месяцев или лет на то, чтобы распихать их по издательствам в виде письменной работы. В новой же системе «создана совершенно иная структура стимулов», — рассказала Александра Фриман. «Вы публикуете свои гипотезы в Octopus, затем придумываете метод проверки этой гипотезы и стыкуете его с ней. Дальше любой человек может выполнить описанный вами протокол». Потом вы публикуете данные по проекту, и кто угодно может их проанализировать. Журналы тем временем могут и дальше распространять интересные работы: «Пусть равняются на New Scientist или Scientific American. Пусть устанавливают пейволлы. Octopus же предназначен для публикации актуальных исследований — бесплатно». Я понимаю людей, которые говорят: «Зачем тратить столько времени на споры о байесовской и фреквентистской статистике? Вся наша система научных публикаций испорчена, ученые заинтересованы в том, чтобы выпускать статьи, а не искать истину, и глупо беспокоиться о том, делают ли они это с помощью теоремы Байеса или с помощью p-значений». Кроме того, в академических кругах, как мне кажется, ощущается усталость. Зачем мы до сих пор об этом спорим? Явно же есть дела поважнее! Разве байесианцы уже не высказались? Я все-таки готов до определенной степени стоять на своем. Вопервых, несмотря на то, что байесовские методы сегодня гораздо более распространены и шире признаны, чем пятьдесят лет назад, стандартные методы исследования того или иного научного вопроса остаются фреквентистскими. «Зайдите в Google Scholar, — говорит
Обри Клейтон, — и наберите в поисковике p-value (p-значение), significance (значимость) или что-то такое: эта терминология до сих пор считается общепринятой. Десятки, сотни тысяч статей выходят каждый год. Может быть, ситуация меняется, но доминирующим методом остается фреквентистский», — говорит он. Люди злятся на байесианцев за то, что они продолжают свои разглагольствования, как будто мы пинаем мертвую лошадь, раз за разом возвращаясь к теме байесианства, хотя она уже всем наскучила. Но у Дэвида Бакана есть замечательная фраза: «Если лошадь побеждает на скачках, значит она не такая уж мертвая». У байесианства действительно есть преимущества. С одной стороны, байесовские методы определенно решают или смягчают некоторые проблемы, связанные с кризисом воспроизводимости. Если вернуться к парадоксу Линдли, в рамках фреквентистского анализа статистически значимый результат может быть доказательством против вашей гипотезы. Поскольку байесовский подход заставляет вас сравнивать вероятность получения результата между двумя конкурирующими гипотезами, гораздо сложнее сказать: «А этот почти что значимый результат подтверждает утверждение в заголовке!», когда ваш анализ показывает, что это не так. По крайней мере теоретически некоторые из наиболее прямолинейных методов HARKing’а, такие как произвольная остановка, не представляют проблемы для байесианцев. И, конечно, если вы проводите исследование какой-то маловероятной гипотезы, например, экстрасенсорных способностей, то вам придется выбрать априорную вероятность, отражающую эту маловероятность, и, как следствие, сила доказательства, которая вам понадобится, будет выше. Еще одно преимущество заключается в том, что можно использовать все доступные вам данные. Да, для поиска бозона Хиггса и других подобных кейсов априорная вероятность не имеет значения, потому что у вас очень много данных. Но, скажем, в исследованиях вакцин, где вы пытаетесь выяснить, сколько людей заразились болезнью в контрольной группе по сравнению с группой лечебной, могут потребоваться месяцы или годы, чтобы получить достаточно данных и «уйти» ниже определенного порога значимости. Но если вам разрешено использовать данные более ранних испытаний и включать их в качестве априорных вероятностей, это поможет вам быстрее
достичь цели. Если не использовать хорошую обоснованную априорную вероятность, то, возвращаясь к цитате Роберта Вайса, вы просто упустите свой шанс. Эрик-Ян Вагенмакерс при этом высказывал мысль, с которой я тоже согласен: байесианство приятнее эстетически. «Есть что-то такое в байесовском подходе», — говорит он. «Все логично, нет внутренних противоречий. Для фреквентизма характерны всякие аномальные случаи, и люди говорят: вот аномалия, но она, мол, характерна только для данной ситуации; но это же некрасиво. В принципе это вопрос изящества, эстетики». Но есть и более широкий смысл. За пределами науки именно так и работает теория принятия решений. «Что мы пытаемся сделать с помощью классической статистики?» — задается вопросом Вагенмакерс. «Мы пытаемся принять решение в пользу той или иной гипотезы, выбирая одну из двух. Как нам это сделать с помощью байесовского подхода? Мы указываем полезность и априорные вероятности, „обсчитываем“ доказательства и принимаем решение, которое максимизирует субъективную полезность. В экономике мы бы сказали, что это нормативный способ действий. P-значение — крайне убогая версия этого способа. Никаких априорных вероятностей, никакой полезности: это все подразумевается. Как такое можно считать правильной теорией принятия решений, ума не приложу. Никто не стал бы в теории принятия решений использовать этот подход». Возможно, это всё пока не очень понятно, потому что я еще не объяснил, что же такое полезность. Пришло время поговорить о байесовских методах как базовой системе принятия решений.
Глава третья Байесовская теория принятия решений
Аристотель и Джордж Буль Многие читатели наверняка знают, что такое логические силлогизмы. Классический силлогизм: все люди смертны, Сократ — человек, следовательно, Сократ смертен. Это дедуктивное рассуждение. Если вы принимаете две посылки (Все люди смертны; Сократ — человек), то должны принять и вывод (Сократ смертен) во избежание противоречия. Силлогизм корректен, что не то же самое, что истинен: это означает, что вывод следует из посылок, и не обязательно, что посылки при этом истинны. Пример: растения полезны, табак — растение, следовательно, табак полезен; это логически корректный силлогизм, но фактически его посылки и вывод ложны [43]. Идею дедуктивных рассуждений обычно приписывают Аристотелю. Физик и теоретик вероятности Э. Т. Джейнс, который играет примерно такую же роль в культе Байеса, как святой Павел в христианстве, говорит, что практически всю аристотелевскую логику можно свести к «многократному применению двух сильных силлогизмов», а именно: Если А истинно, то и Б истинно. А истинно. *** Поэтому Б истинно. И наоборот: Если A истинно, то и B истинно. B ложно. *** Следовательно, A ложно.
A и B можно заменить любыми предложениями. Если курлыканье — это мурлыканье, то Авраам Линкольн был сорок пятым президентом Соединенных Штатов; курлыканье таки да, мурлыканье, следовательно, Авраам Линкольн был сорок пятым президентом Соединенных Штатов. Если бы рыбы умели летать, моя бабушка была бы велосипедом; моя бабушка не велосипед, следовательно, рыбы не умеют летать. Как и прежде, эти рассуждения являются корректными — если вы принимаете посылки, то должны принять и вывод, — но не обязательно истинными. Добавить можно любые элементы: «Если A и B истинны, то истинно и C; A и B истинны, следовательно, и C истинно»: это более сложная форма первого силлогизма. «Если A истинно, то и B, и C истинны; C не истинно, следовательно, A не истинно»: это более сложная форма второго силлогизма. Но это фундаментальные действия. В XIX веке Джордж Буль — критик неинформативных априорных вероятностей, мы о нем уже говорили, — начал применять алгебру для кодификации дедуктивных рассуждений. Так, A ∧ B означает «и A, и B истинны» (конъюнкция) [44]. A ∨ B означает «хотя бы одно из A и B истинно» (дизъюнкция) [45]. ¬A означает «A не истинно» (отрицание). A → B означает «A подразумевает B», или «если A истинно, то и B истинно» (импликация). Дальше следует несколько аксиом. Если A истинно, то ¬A не может быть истинным. Если A ∧ B истинно, то и B ∧ A истинно. Что-то в этом духе. Из этих относительно простых атомов можно построить целый мир пропозициональной логики (логики высказываний). Аристотелевская (или булева) логика выполняет простую задачу: она выдает значение истинности. В конце последовательности логических утверждений она должна «сказать»: либо «A истинно», либо «A не истинно». Несмотря на то, что элементы, из которых она состоит, довольно просты, с ее помощью можно делать довольно сложные вещи. Даже очень сложные. Булеву алгебру можно представить в виде логического элемента (logic gate). Логический элемент (логический вентиль) — это, по сути, простая компьютерная микросхема с двумя входами, и в зависимости от того, активны ли эти входы, он выдает определенный выходной сигнал. Представим, что логический элемент подключен к нескольким простым входам: датчику света и, например, микрофону. Датчик света срабатывает при превышении определенного уровня освещенности,
микрофон — при превышении определенного уровня децибел. Выход подключен к светодиоду. Если соединить их с логическим элементом И (AND gate), то элемент подаст сигнал и зажжет светодиод тогда и только тогда, когда сработают и датчик света, и микрофон: то есть если будет ярко И шумно. Если подключить их к логическому элементу ИЛИ (OR gate), то светодиод включится, если будет шумно ИЛИ ярко (или и шумно, и ярко). Есть еще логический элемент НЕ (NOT gate), который срабатывает, если не получает входного сигнала: его можно подключить к датчику освещенности, и светодиод будет гореть до тех пор, пока на него не попадает свет.
Эти логические элементы делают то же самое, что и булевы (логические) операторы. Логический элемент И, который в нашем примере как бы говорит: «Если [свет] и [шум] истинны, то и [светодиод включается] истинно», это то же самое, что и логическая конъюнкция — ∧. Логический элемент ИЛИ («Если [свет] или [шум] истинны, то и [светодиод включается] истинно») — то же, что и логическая дизъюнкция — ∨. Логический элемент НЕ («Если [свет] не истинен, то [светодиод включается] истинно») — то же, что отрицание, ¬. Этих простых схем достаточно, чтобы выполнять все вычисления, которые может делать полноценный цифровой процессор, хотя для создания настоящего, работающего компьютера понадобится еще память. На самом деле всё можно сделать еще проще — с помощью логического элемента И-НЕ (NOT AND или NAND) [46], который всегда срабатывает, кроме случаев когда оба входных сигнала истинны: элементы И-НЕ можно использовать для построения всех описанных выше логических элементов. Например, элемент И можно сделать с помощью элемента И-НЕ с разветвленным на два выходным сигналом, после чего обе ветви подаются на второй элемент И-НЕ. Если оба входных сигнала, поступающих на первый логический элемент, истинны, то он не сработает, а значит, сработает второй.
Я пишу это на компьютере, процессоры которого могут быть полностью смоделированы с помощью логических элементов НЕ-И. Пропозициональная логика — мощная штука. Джордж Буль дошел до того, что назвал ее операции «законами мышления». *** Но одновременно она сильно ограничена. Если мы хотим выяснить, истинно нечто или нет, обычно мы не можем сделать это с логической уверенностью. Мы можем сказать: «Если сегодня пятница, то моим детям на обед в школе дадут рыбу; сегодня пятница, следовательно, у моих детей будет на обед в школе рыба». Если принять посылки, поверить в их неоспоримую истинность, то мы будем вынуждены принять и вывод. Но мы не можем быть уверены в посылках. Возможно, в школе закончилась рыба, и сегодня у них будет лазанья. Возможно, я перепутал дни, и на самом деле сегодня четверг. Или, цитируя Эдвина Джейнса: полицейский поздно вечером на пустынной улице слышит сигнал тревоги, доносящийся из разбитой витрины ювелирного магазина. Из разбитого окна появляется человек в маске с сумкой; открыв ее, полицейский обнаруживает, что сумка полна золота и драгоценных камней. Полицейский предполагает, что этот человек — вор, и большинство из нас согласится, что это самое вероятное объяснение. Однако логической уверенности в этом нет. «Например, — пишет Джейнс, — этот джентльмен мог сам быть владельцем ювелирного магазина, который возвращался домой с маскарада и не взял с собой ключ. Однако в тот момент, когда он проходил мимо своего магазина, из-под проезжавшего мимо грузовика выскочил камень, [который разбил] витрину, так что человек всего лишь защищал свое имущество». Звучит не очень
правдоподобно, признаю, но докажите, попробуйте, что этого не может быть. И чаще всего нам приходится довольствоваться именно такими рассуждениями. Мы не можем построить полный логический силлогизм. Приходится довольствоваться «более слабыми», как говорил Джейнс. Вместо «Если А истинно, то B истинно; B ложно; следовательно, А ложно» приходится довольствоваться чем-то таким: Если А истинно, то и B истинно. B истинно. *** Поэтому A более вероятно. Если к 10 часам утра пойдет дождь, то до 10 утра на небе будут облака. Сейчас 9.45 утра, и на небе есть облака. Поэтому более вероятно, что дождь пойдет в 10 утра: кажется, достойный аналог того, как мы на самом деле думаем и рассуждаем. Мы не просто используем новую информацию: мы также основываем свою реакцию на нее на нашем предыдущем опыте. Мозг «задействует старую информацию, а также конкретные новые данные, связанные с задачей», — писал Джейнс. «Решая, что делать, мы пытаемся вспомнить наш прошлый опыт с облаками и дождем, а также метеорологические прогнозы, услышанные нами вчерашним вечером». По его словам, «[если] бы каждый вечер полицейский, выходя на улицу, видел человека в маске, появляющегося из разбитой витрины ювелирного магазина, и каждый раз это оказывался бы его законный владелец, то очень скоро полицейский перестал бы обращать на все это внимание». «Таким образом, в своих рассуждениях мы очень сильно зависим от предыдущей информации, которая помогает нам оценить степень правдоподобности новой задачи», — писал Джейнс. «Этот процесс рассуждений происходит бессознательно, почти мгновенно, и мы прячем всю его сложность под кратким именем здравого смысла». Итак, у нас есть предыдущая, априорная информация; мы получаем новую информацию; мы соединяем первую и вторую и так формируем новую картину мира. Где-то мы уже это слышали, да? Практически… Байес?
Да. И Джейнс, и Джеффрис, и современные теоретики принятия решений сказали бы, что теорема Байеса действительно демонстрирует, как работает рассуждение, — не только здравый смысл, но и процесс принятия решений в условиях неопределенности в целом. И на самом деле они бы еще заявили, что идея логики Аристотеля и Буля — это всего лишь урезанная, специальная версия байесовских рассуждений, в которой вероятности неправдоподобно установлены на значения 1 или 0, то есть на абсолютную уверенность. Байесовская логика, с другой стороны, позволяет нам иметь дело со всеми оттенками серого между ними.
Байесовские принципы — основа принятия решений Классическая логика работает исключительно с единицами и нулями, и это нормально, если мы используем ее для доказательства логических утверждений или для управления центральными процессорами. Если же мы хотим говорить о вероятностях — принимать решения в условиях неопределенности — нам нужны и промежуточные числа. Более того, нам нужна — или, по крайней мере, мы хотим, чтобы она была, — некая математическая основа для перемещения между этими числами, для изменения наших представлений о чем-то. Вы не удивитесь, если узнаете, что подходящая основа здесь — теорема Байеса. Как сказал мне ученый и суперпрогнозист Дэвид Манхейм (если не знаете, кто такие суперпрогнозисты, не волнуйтесь; я объясню позже): «Ученые могут быть фреквентистами или байесианцами; теоретики принятия решений — нет. Невозможно создать теорию принятия решений с помощью фреквентистской математики». Я приведу простой пример — его предложил Элиэзер Юдковски, человек, заслуживающий отдельной книги [47], но здесь я упомяну его только как автора книги «Rationality: From AI to Zombies»(«Рациональность: от ИИ до зомби»), в которой он приводит вот такой небольшой мысленный эксперимент. Представьте, что в вашем городе проводится государственная лотерея. В лотерее разыгрывается шесть чисел из семидесяти возможных; чтобы выиграть джекпот, вам нужны все шесть чисел. То есть существует 131 115 985 возможных комбинаций чисел, и если у вас есть один билет, то вероятность выигрыша составляет один к 131 115 985. Это ваша априорная вероятность, и она небольшая. Но теперь предположим, что вы планируете смухлевать. У вас есть коробочка, которая пищит, когда вы вводите в нее правильную, выигрышную комбинацию цифр! Теперь, что уж скрывать, у вас есть много чисел,
которые нужно в нее ввести, но теоретически, если вы будете продолжать вводить по одному числу в секунду в течение четырех лет, вы дойдете до правильного числа. Однако есть тут одна загвоздка. Ваша коробочка также пищит и случайным образом в среднем один раз из четырех проверок, даже если комбинация неверна. И вот вы прогоняете комбинацию через коробочку. Она пищит! Как вы поступите? Побежите покупать билет? В конце концов, вероятность того, что писк прозвучит при любом неправильном числе, составляет всего 25 %! Но подождите: вы же забыли о своих априорных вероятностях. Говоря байесовским языком, ваши данные — писк, раздающийся из коробочки, — в четыре раза более вероятны при гипотезе «Это правильная комбинация», чем при гипотезе «Это неправильная комбинация». Это и есть ваше отношение правдоподобия(likelihood ratio) [48], о котором мы уже говорили: 4:1. Но если бы вы прогнали через пищалку все 131 115 985 возможных комбинаций, то она подала бы сигнал примерно 32 778 996 раз. И только одна из этих комбинаций на самом деле правильная. Поэтому берем априорную вероятность (1: 131 115 985) и отношение правдоподобия (4:1), умножаем 1: 131 115 985 на 4:1 и получаем новую апостериорную вероятность — 4:131 115 985, или один к 32 778 996. Если посмотреть чуть иначе, у вас есть распределение априорных вероятностей, в котором на каждую возможную комбинацию приходится ровно 1/131 115 985 от имеющейся массы вероятностей. Дальше вы проделываете манипуляции с коробочкой. Если она не пищит на какое-то число, вы можете быть уверены, что это не выигрышная комбинация, поэтому вы можете уменьшить массу вероятности выигрыша, возлагаемую на это число, до нуля. (Один момент, к которому мы еще вернемся. Я предположил, что если коробочка не пищит на определенную комбинацию, я могу быть уверен, что эта комбинация не является выигрышной: я присвоил ей нулевую вероятность. По сути, это жульничество. Я должен был приписать ей какую-то ничтожно малую, но ненулевую величину: возможно, коробочка неисправна! Или, может быть, я не услышал писк! Но я поступлю, как Юдковски, чтобы упростить расчеты).
Коробочка подает сигнал в среднем на одну комбинацию из четырех. Таким образом, вы переносите массу своих вероятностей на эти комбинации. Теперь каждое из этих чисел имеет одну 32 778 996ую массы вероятности. Если снова «прогнать» эти числа через коробочку, не забывая о том, что ложные срабатывания случайны, она снова подаст сигнал на правильную комбинацию, но также подаст сигнал и на (в среднем) 8 194 749 неправильных комбинаций. Вам придется пропустить билет через коробочку четырнадцать раз, и каждый раз она будет подавать звуковой сигнал, чтобы билет с большей вероятностью оказался правильным. Это просто правила. Нельзя, как говорит Юдковски, «остановиться на первой комбинации, которая начнет истошно верещать [скажем, десять раз подряд], провозгласив: „Но вероятность того, что это произойдет с проигрышной комбинацией, составляет миллион к одному! Я просто проигнорирую эти оторванные от реальности байесовские правила и на этом остановлюсь“». Если бы вы так поступили, вероятность того, что у вас в руках правильный билет, все равно была бы меньше 1 %. Кстати, даже при этом купить этот билет, возможно, будет хорошей ставкой: это зависит не только от вероятности выиграть приз, но и от стоимости этого приза, если вы его выиграете. Теория принятия решений должна говорить о выгодах различных исходов, а также об их вероятности, к чему мы еще вернемся, но факт в том, что пока что вероятность того, что у вас правильный билет, все равно невелика. В термодинамике есть модель под названием «машина Карно» — по фамилии французского инженера-механика XIX века Сади Карно. Это теоретический идеал тепловой машины: самый эффективный преобразователь тепла в механическую работу, возможный при заранее заданном диапазоне рабочих температур. Любой реальный двигатель — паровая машина, двигатель внутреннего сгорания — будет менее эффективен, поскольку при том же диапазоне рабочих температур будет вынужден выбрасывать в окружающую среду больше тепла, нежели машина Карно. Поэтому он будет выдавать меньше механической работы при тех же затратах тепловой энергии, нежели машина Карно [49]. Но по мере того, как двигатели становятся все более эффективными, по своему коэффициенту полезного действия они приближаются к модели Карно.
Теорема Байеса для теории принятия решений — то же, что двигатель Карно для термодинамики. Аналогия опять же принадлежит Юдковски, но она очень удачная. На двигателе Карно реальный автомобиль не поедет. Построить настоящий двигатель Карно тоже нельзя. Это теоретическая, воображаемая модель, по отношению к которой любой реальный двигатель может служить лишь приближением, аппроксимацией. При этом такой двигатель эффективен в той мере, в которой он аппроксимирует (приблизительно имитирует) машину Карно, и не работает в той мере, в какой не аппроксимирует. Аналогичным образом теорему Байеса редко можно в точности применить к реальным ситуациям. Невозможно идеально определить априорные вероятности, скажем, начала полномасштабного военного конфликта России и Украины, или что в местном магазине закончится сквош из розового грейпфрута. Невозможно также идеально определить вес свидетельств, которые вы получаете для внесения изменений в эти вероятности: если спутниковые снимки показывают сосредоточение российских танковых дивизий в Крыму, насколько сильно эти вероятности следует изменить? Если на сайте Waitrose написано, что сквош из розового грейпфрута есть в наличии, насколько этой информации можно доверять? Оценки всех этих вероятностей будут аппроксимациями. Но когда вы принимаете решения, как и любой другой человек в рамках процесса принятия решений, вы аппроксимируете методику Байеса. Решение, принятое в условиях неопределенности, будет правильным в той мере, в какой оно приближается к рекомендациям теоремы Байеса (аппроксимирует их), и неправильным в той мере, в какой оно отдаляется от Байеса. Эдвин Т. Джейнс показал в посмертно опубликованной работе «Probability Theory: The Logic of Science» («Теория вероятностей: логика науки»), что с помощью теоремы Байеса, как мы видели выше, можно делать все то же самое, что и с помощью логики Аристотеля, и даже больше. «Аристотелевская дедуктивная логика — предельная форма наших правил правдоподобных рассуждений», — пишет Джейнс. То есть, если вы используете только вероятности 1 и 0, вы можете делать все те же логические ходы в рамках байесовской системы
принятия решений, что и в булевой или аристотелевской логике. «Если люди смертны с вероятностью 1, а Сократ — человек с вероятностью 1, то Сократ смертен с вероятностью 1». Или, если вернуться к нашим обобщенным версиям: Если вероятность A равна 1, то вероятность B равна 1. Вероятность А равна 1. *** Следовательно, вероятность B равна 1. И наоборот: Если вероятность A равна 1, то вероятность B равна 1. Вероятность B равна 0. *** Следовательно, вероятность A равна 0. Все операции, которые мы рассматривали в аристотелевской/ булевой логике, могут быть выполнены в этом режиме, если вы ограничите себя использованием единиц и нулей. Правило, согласно которому A и не-A не могут быть истинными одновременно, равносильно утверждению: «Вероятность того, что либо A истинно, либо A не истинно, равна 1». «Логическую конъюнкцию», логический элемент И можно представить так: p(A ∧ B) = p©, где A и B — входы,
а C — выход. (Или, выражаясь простым языком, вероятность того, что и A, и B истинны, равна вероятности того, что истинна C; вероятность того, что и датчик света, и микрофон подают сигнал, равна вероятности того, что светодиод включится). Но что байесовская теория вероятности также может сделать, по словам Джейнса, так это дать нам нечто похожее на здравый смысл. Тут, конечно, стоит признать, что большую часть времени, если не все время, мы не в состоянии пользоваться дедуктивной, аристотелевской логикой. Мы не можем сказать: «Если А, то B; мы имеем А, следовательно, B». Нам приходится говорить: «Если А, то B; мы имеем B, следовательно, А правдоподобнее». Например, если ночью шел дождь, то утром тротуары будут мокрыми. Тротуары мокрые. Следовательно, более велика вероятность, что прошел дождь. Это далеко не факт; возможно, сработали спринклеры. Но гипотеза о том, что прошел дождь, более правдоподобна, учитывая имеющиеся данные — мокрые тротуары. И что самое замечательное в теореме Байеса — нет необходимости просто заявлять, что нечто «более правдоподобно»; можно выразить в цифрах, насколько именно это нечто более правдоподобно. Допустим, после дождя в 80 % случаев тротуары будут мокрыми. Когда дождя нет, тротуары все равно иногда могут оказаться мокрыми: скажем, в 20 % случаев это связано с тем, что сработали спринклеры. Вероятность увидеть мокрый тротуар в четыре раза выше при гипотезе, что это связано с прошедшим дождем, чем при гипотезе, что дождя не было. Это и есть отношение правдоподобия, и оно подскажет, насколько в свои представления следует внести изменения: насколько более правдоподобна гипотеза, связанная с дождем, с учетом новых данных — мокрого тротуара. Однако это не всё, что мы хотим знать. Мы хотим знать, насколько вероятно, что прошел дождь. И для этого нам (снова) нужны априорные вероятности. Допустим, в это время года дождь идет в 33 % вечеров. Это ваша априорная вероятность. Теперь представим, что вы увидели мокрый тротуар утром. Какова вероятность, что вчера вечером шел дождь? Предположим, вы наблюдаете за тротуаром каждое утро в течение ста дней. В среднем за это время дождь пройдет тридцать три раза; шестьдесят семь дней дождя не будет.
За те шестьдесят семь дней, когда дождя не будет, вы увидите утром мокрый тротуар в 20 % случаев: в среднем 13,4 дня по утрам, а сухой — в оставшиеся 53,6 дня по утрам. В те тридцать три дня утром, когда накануне дождь шел, вы увидите мокрый тротуар в 80 % случаев — 26,4 раза, сухой — 6,6 раза. То есть если тротуар мокрый утром, это значит, что предшествующий вечер был либо одним из 13,4 вечеров без дождя, но с мокрыми тротуарами, либо одним из 26,4 вечеров и с дождем, и с мокрыми тротуарами. А значит, вероятность, что накануне вечером шел дождь, теперь составляет 26,4 деленное на (26,4+13,4), то есть на 39,8 или 0,66. Как и в аристотелевской логике, это именно то, что вы получаете, если принимаете посылки. Если мы согласны с тем, что дождливые вечера случаются в 33 % случаев, а мокрый тротуар — в 80 % случаев после дождливых вечеров, но только в 20 % случаев после вечеров без дождя, то эти цифры неизбежно приведут нас к выводу, что если тротуар мокрый, то вероятность того, что прошлым вечером шел дождь, составит 66 %. Этот вывод столь же неизбежен, как силлогизм «Все люди смертны, Сократ человек, значит Сократ смертен». Разве что на него можно опереться не просто чтобы сказать: «Это утверждение истинно или не истинно с учетом таких-то посылок», а чтобы сказать: «Эта гипотеза вероятна с учетом таких-то данных». Конечно, в реальности вы не всегда будете располагать точными цифрами, и обычно будет далеко не одна порция релевантной информации. Если бы мы действительно могли просто взять пару чисел из какой-то универсальной базы данных и подставить их в однострочное уравнение, чтобы определить, насколько вероятны те или иные события, то предсказывать будущее было бы несложно. На самом деле вероятность дождя зависит от миллиона факторов — времени года, атмосферного давления, облачности, температуры, влажности, количества бабочек, помахавших крыльями в Бразилии [50], и вычислить все это невозможно, даже если бы у нас была возможность отследить каждый из этих факторов. Однако если бы такая возможность была, то мы просто запустили бы на всех этих данных байесовские правила и получили бы точное значение вероятности, что завтра пойдет дождь.

Правило Кромвеля Один великий мыслитель-байесианец облек свою мысль в такие слова: заклинаю вас всеми Страстями Христовыми — задумайтесь на минуту о том, что можете ошибаться. Этим мыслителем был, конечно же, лорд-протектор Оливер Кромвель, а слова эти он написал Генеральной ассамблее Церкви Шотландии в 1650 году накануне битвы при Данбаре. Кромвель имел несчастье умереть больше чем за сорок лет до рождения Томаса Байеса, но, тем не менее, дал свое имя важному правилу байесовской теории принятия решений — правилу Кромвеля. Правило, названное так Деннисом Линдли, гласит, что нельзя ничему присваивать вероятность, равную 1 или 0, кроме случаев, когда она применяется к утверждениям, которые являются логически истинными, например, «2 + 2 = 4». То есть ни в чем нельзя быть уверенным. Как говорил Линдли, [при присваивании исходной вероятности] следует «оставить небольшую вероятность того, что Луна будет сделана из зеленого сыра; она может составлять всего 1 на миллион, но обязана быть, так как в противном случае даже армия астронавтов, вернувшаяся с образцами этого сыра, не изменит вашего мнения». И вот почему. Вернемся к нашему примеру с дождем и мокрым тротуаром. Представьте, что мой дом находится в Сухих долинах МакМердо в Антарктиде. (Школы там не очень, и хорошего кофе не найдешь, зато цены на жилье очень умеренные). Дождя там не было 2 миллиона лет. Таким образом, априорная вероятность дождя в тот или иной конкретный вечер составляет примерно один к 700 миллионам. Я замечаю мокрый тротуар. Я знаю, что вероятность увидеть мокрый тротуар в четыре раза выше при гипотезе «накануне вечером шел дождь», чем при гипотезе «накануне вечером дождя не было». Мы выяснили это в прошлый раз, но априорная вероятность дождя настолько мала, что моя апостериорная вероятность все равно получается ничтожно малой: примерно один к 170 миллионам или 0,000000006.
Но вот я иду по улице и замечаю, что тротуар возле соседского дома тоже мокрый. Используя апостериорную вероятность в качестве новой априорной вероятности и снова проделав те же вычисления, я получаю новую вероятность 0,000000024, или один к 42 миллионам. Тем не менее, чрезвычайно маловероятно, что прошел дождь. Наверное, одновременно сработали мои и соседские спринклеры. Дальше я прохожу мимо еще одного дома. Потом еще одного. Тротуары и там мокрые. Вероятность возросла до 0,000000384, то есть примерно до одного к 2,5 миллионам. И все равно более вероятной остается гипотеза «Все наши спринклеры, так получилось, сработали одновременно», но «дождевая» версия становится менее безумной, чем раньше. К моменту, когда я обойду еще шестнадцать домов и обнаружу мокрые тротуары возле каждого из них, вероятность того, что прошлой ночью шел дождь, составит около 70 %. Не нужно так уж много данных, чтобы отказаться даже от очень, очень сильных априорных вероятностей. Но теперь представьте, что априорная вероятность была нулевой. Подставьте ее в уравнение, и апостериорная вероятность окажется равна… нулю. Какие бы данные вы ни обнаружили, ноль, помноженный на что угодно, будет равен нулю. Можно пройти мимо тысячи домов с мокрыми тротуарами, и вы никогда не присвоите ни малейшей вероятности идее того, что там мог пройти дождь. Об описании вероятностей как шансов Если рассуждать о вероятностях как о шансах, а не как о процентах или числах между нулем и единицей, смысл отказа от единиц и нулей становится понятнее. Шанс можно вычислить, разделив вероятность на один минус значение вероятности. Если вероятность 0,9, берем 0,9, делим на 1 минус 0,9, то есть делим на 0,1. Получается 0,9 / 0,1 = 9. То есть наш шанс равен 9:1. Если вероятность 0,5, то 0,5 / (1 — 0,5) = 1, так что шансы 1:1. Если вы используете вероятности, вероятность 1 выглядит точно так же, как вероятность 0,9 или 0,5 — это просто еще одно число. Если же вы берете за основу шансы,
все будет выглядеть совершенно иначе. Вероятность 0,999999, выраженная в шансах, выглядит как 999999:1, но вероятность 1 равна бесконечности к единице. Бесконечность — не реальное число, и ее нельзя использовать в суммах как реальное число. (Украду еще одну строчку у Юдковски: «Люди иногда говорят что-то вроде „пять плюс бесконечность равно бесконечность“, потому что если начать с пяти и считать без остановки, то вы будете получать все большие и большие числа без ограничений. Но из этого не следует, что „бесконечность минус бесконечность равно пяти“».) У шансов есть еще одно преимущество — они показывают реальные различия между похожими на первый взгляд вероятностями. Разница между 0,99 и 0,999, выраженная как вероятность, выглядит небольшой — меньше, чем разница между 0,5 и 0,51, но выраженная как шансы, она — эта разница — выглядит совершенно иначе, как разница между 99:1 и 999:1. Нельзя ничему присваивать вероятность, равную нулю или единице. Для ясности: это не значит, что нельзя действовать так, как будто нечто невозможно. Нельзя считать невозможным, что все атомы в руке статуи одновременно двигаются вперед-назад, чем заставляют статую махать мне этой рукой. Нельзя считать невозможной вероятность, что мне выпадет орел сто тысяч раз подряд, если я буду для этого подбрасывать монету правильной формы. Однако такие случаи настолько маловероятны, что никогда не произойдут за все время существования Вселенной или нескольких триллионов Вселенных. Малые вероятности очень, очень малы, и не следует думать «то есть, по-вашему, шанс есть ⁈ », когда от кого-то слышишь «шанс есть — один на квадриллион». Но Кромвель был прав: заклинаю вас всеми Страстями Христовыми — задумайтесь на минуту о том, что можете ошибаться, хоть это и необязательно так уж вероятно.
Сохранение ожидаемых доказательств Есть несколько забавных вещей, которые следуют из байесовской системы принятия решений. Первая: не стоит бегать и искать доказательств вашей любимой теории; это невозможно, потому что любое новое свидетельство должно (как мы ожидаем) с одинаковой вероятностью либо увеличить, либо уменьшить вашу уверенность; а если вы не находите доказательств, то этот факт, по сути, свидетельствует против вашей гипотезы. Скажем, я считаю, что тот или иной политик — плохой. Я предполагаю, что этот политик будет поступать плохо и только так; например, будет мучить щенков. Я хочу укрепить собственную убежденность в том, что политик плохой и злой. Поэтому я захожу на его предвыборный сайт и ищу заявления, в которых политик выступает за пытки щенков, и я даже уверен, что найду их. Либо я нахожу их, либо нет. Как тот или иной результат изменит мою внутреннюю убежденность? Возникает искушение думать следующим образом: если я найду какое-то доказательство, то оно повысит мою убежденность, а если ничего не найду, то это не окажет на нее никакого влияния. Однако все устроено совершенно иначе. Если какое-то доказательство меняет вашу убежденность на ту или иную величину, отсутствие такого доказательства должно изменить вашу убежденность в противоположном направлении, причем на величину, пропорциональную тому, насколько сильно вы рассчитывали увидеть это доказательство. Скажем, вы считаете, что вероятность того, что на сайте политика вы увидите пропаганду пыток щенков, составляет 95 %, раз уж политик плохой. Это означает, что вы считаете, что вероятность того, что вы не увидите такой «информации», составляет всего 5 %. Конечно, если политик не плохой, вероятность того, что вы увидите на его сайте призывы мучить щенков, будет меньше. Скажем, если политик не плохой, то шанс, что вы увидите призывы мучить щенков на его сайте, составит один к десяти.
Вот как это будет выглядеть: если вы увидите на сайте политика видео, на котором мучают щенков, как вы и ожидали, то это несколько изменит вашу убежденность — с p=0,95 до p≈0,99. Но, поскольку вы и так рассчитывали его увидеть, это не так уж сильно изменит ваши взгляды. Если же вы не увидите видео — если вы удивлены — то этот факт должен сильно повлиять на ваши убеждения. В этом случае опровержение вашего ожидания приведет к тому, что ваша убежденность в том, что этот политик мучает собак, рухнет до p≈0,33, то есть до одного к трем. Избежать этого, опять же, никак нельзя. Если какое-то доказательство в высшей степени ожидаемо, то оно не может сильно изменить уже сложившиеся представления — оно уже является частью сформированной вами картины мира. Но если происходит что-то действительно неожиданное или, как в данном случае, если что-то ожидаемое не происходит, это должно существенно изменить ваши апостериорные представления. На самом деле эти два фактора обратно пропорциональны: чем сильнее чего-то ждешь, тем меньше удивляешься (и тем меньше меняется апостериорная вероятность), когда видишь то, что ждал, и тем больше удивляешься (и тем больше меняется твоя апостериорная вероятность), когда не видишь. Это означает, что в среднем наши апостериорные вероятности должны быть в точности равны нашим априорным вероятностям: если ожидаешь увидеть некое доказательство девять раз из десяти во вселенной, где твои априорные представления верны, то тот факт, что ты это доказательство не увидел, должен изменить твои представления в девять раз сильнее, чем если бы ты его увидел. Если ты рассчитываешь увидеть доказательство девяносто девять раз из ста, то тот факт, что ты его не увидел, должен изменить твои представления в девяносто девять раз сильнее, чем если бы ты это доказательство увидел. Это также означает, как принято говорить, что отсутствие доказательств на самом деле является доказательством их отсутствия. Если я не верю в единорогов, то и не жду, что их увижу. Каждая секунда, которая проходит без того, чтобы я увидел единорога, становится малым, слабым доказательством в пользу моей гипотезы «единорогов не существует», которое немного сдвигает мою оценку
вероятности в сторону единицы. Если же я все-таки увижу хоть одного единорога, этот факт полностью уничтожит мою гипотезу, и моя апостериорная вероятность значительно снизится. Если твои рассуждения не работают подобным образом — а для многих из нас они так не работают, особенно в политических вопросах, поскольку мы склонны к предвзятости подтверждения (confirmation bias) и групповому мышлению — ты просто не задействуешь доказательства должным образом, никак не меняешь свои убеждения. Если, например, ты очень рассчитываешь увидеть видео, а когда его не видишь, пожимаешь плечами и говоришь: «Ну, этот политик все равно, наверное, плохой», ты ошибаешься сильнее, чем следует.
Полезность, теория игр и голландская книга Байесовская теория принятия решений призвана помогать, собственно, принимать решения или, если точнее, описывать оптимальный способ принятия решения с учетом неопределенности его исхода. До этого момента мы говорили только о том, как люди формируют убеждения и как меняют вероятности, которые приписывают этим убеждениям, с учетом новых данных. Грамотный байесианец должен умножить свои априорные вероятности на функцию (или отношение — в дискретном случае) правдоподобия (likelihood) и сформировать новую апостериорную вероятность, которая представляет собой смесь этих двух вероятностей. Такова байесовская эпистемология, и, как мы смогли убедиться, собрать все доказательства и вычислить все суммы практически невозможно, по крайней мере, в течение жизни Вселенной, но это правильный способ определять, какую вероятность следует присваивать той или иной гипотезе. Однако это не то же самое, что сказать, что байесовская теория скажет вам, что делать в той или иной ситуации. Для этого вам нужны не только сложившиеся представления и вероятности, но и понимание того, насколько вас что-то волнует. В теории принятия решений это называется полезностью(utility). Самый простой способ рассуждать о полезности — представить, что это то же самое, что деньги. Очевидно, что это не так, но поскольку мы зарабатываем деньги за счет своего времени и труда, а их у нас ограниченный объем, который мы должны распределять между наиболее важными для нас делами, это довольно хороший косвенный показатель, к тому же позволяющий проводить несложные подсчеты. Вероятность и полезность вместе составляют математическое ожидание(expected value). Чтобы понять, что это значит, давайте вернемся к той воображаемой лотерее и пищащей коробке — к примеру, который я позаимствовал у Элиэзера Юдковски. Прежде чем коробочка подаст хоть один звуковой сигнал, вероятность того, что любой лотерейный билет окажется выигрышным, составляет один к 131 115 985. Шанс не очень велик. Но вы пока не знаете, плохая ли это идея — купить лотерейный билет. Если билеты стоят по одному фунту, а сумма джекпота составляет 150 000 000 фунтов, то, купив по одному билету
на каждую возможную комбинацию, вы гарантированно получите прибыль в размере 18 884 015 фунтов стерлингов — кругленькую сумму. Даже если бы у вас не было возможности купить все билеты, было бы неплохо приобрести их столько, сколько вы можете себе позволить: каждый отдельный билет приносит выигрыш в среднем £1,14. Это просто величина джекпота, поделенная на вероятность того, что вы его выиграете. Таким образом, при цене в один фунт каждый проданный билет приносит владельцам ожидаемый чистый убыток, а вам — ожидаемый чистую прибыль в размере 14 пенсов. Это и есть математическое ожидание, ожидаемая ценность (expected value) от покупки билета. Если бы билеты стоили по 2 фунта за штуку, то, очевидно, вы бы потеряли в среднем 86 пенсов на каждом купленном билете. Однако если вы проверили билет с помощью вашей пищалки, и она подала сигнал, то апостериорная вероятность того, что билет правильный, составит всего один к 32 778 996. Внезапно каждый билет будет стоить (150 000 000/32 778 996), или 4,58 фунта, так что в среднем вам достанется 2,58 фунта с каждого билета. Такова концепция теории полезности, и, опять же, она математически неизбежна: ее невозможно обойти, иначе будет противоречие. К такому выводу пришли Фрэнк Рамсей и Бруно де Финетти в 1930‐х годах: если вы не подчиняетесь законам теории полезности, вы становитесь жертвой «голландской книги». Вот что это значит: как утверждал Рамсей, мы можем выразить свою уверенность в каком-то представлении с помощью ставки. Если вы считаете, что вероятность того или иного события составляет 50 %, вы должны быть готовы сделать ставку один к одному или выше, потому что математическое ожидание положительное. Если вы считаете, что вероятность события составляет 33 %, вы должны быть готовы сделать любую ставку два к одному или выше по тем же причинам. Все это, однако, зиждется на допущении, что ваши убеждения складываются в 100 %, то есть в вероятность 1. Если это не так, выплачивать деньги будете вы. Скажем, я считаю, что вероятность дождя завтра составляет 50 %. Я готов поставить 50 пенсов, и если пойдет дождь, вы вернете мне 1 фунт, включая мою ставку. И я также думаю, что вероятность того, что завтра дождя не будет, составляет 60 %. Поэтому я готов поставить 60 пенсов, чтобы получить 1 фунт. В этой ситуации вы можете предложить мне обе ставки — «голландскую книгу». Если я искренен в своих убеждениях, то готов принять обе ставки. Но обе ставки вместе обойдутся мне в £1,10, а выплата составит £1 независимо от исхода. Я могу с тем же успехом отдать 10
пенсов и даже не начинать пари (и, конечно, моему партнеру по пари действительно стоит сделать более крупную ставку). Я сделался полностью иррационален, и вы можете просто превратить меня в насос для выкачивания моих денег. Как я уже говорил, теоретики вероятности обычно используют деньги в качестве примера, потому что это красиво и просто. Кроме того, есть довольно веские доказательства того, что хотя люди и говорят «счастья за деньги не купишь», на самом деле вполне купишь: показатель ВВП на душу населения в той или иной стране довольно близко коррелирует с качеством жизни ее граждан. Фармаэкономисты и специалисты по биоэтике ведут подсчеты с помощью показателя «продолжительности жизни с поправкой на ее качество», сокращенно QALY (Quality-adjusted life years). Например, Национальный институт здоровья и совершенствования медицинской помощи (NICE) в Великобритании утверждает, что вмешательство, позволяющее обеспечить один год здоровой жизни — один QALY — при стоимости менее 20 000 фунтов обычно считается экономически эффективным. При этом используется та же модель математического ожидания (ожидаемой ценности, expected value): лечение, которое продлит жизнь 10 % пациентов на пять лет, лучше, чем лечение, которое продлит жизнь 20 % пациентов на два года, потому что 5×0,1=0,5, а 2×0,2=0,4, и 0,5 больше 0,4. Но и то, и другое — лишь приближение к реальности. Философы и экономисты-утилитаристы мыслят в терминах полезности — то есть показателя «количества счастья», которое мы получаем, или же того, насколько удовлетворяются наши предпочтения в результате некоего действия. Этой темой интересовался великий венгерско-американский ученыйэнциклопедист Джон фон Нейман — изобретатель теории игр, пионер вычислительной техники и квантовой механики, «обладатель» страницы Википедии на три экрана, посвященной теоремам, парадоксам и прочим открытиям, названным в его честь. Экономисты его времени хотели описать нормативный способ принятия решений в условиях неопределенности, то есть как лучше выбирать между вариантами, если вы хотите максимизировать ожидаемое благосостояние. Он пытался разработать экономическую модель, с помощью которой можно было бы принимать решение, делающее всех максимально довольными. Экономисты того времени считали, что это принципиально невозможно, поскольку речь идет об обмене несопоставимыми вещами. Если я строю новый торговый центр за городом, он приносит мне деньги
(что мне нужно), а некоторым людям — удобства (что им нужно), но при этом портит вид для местных жителей (что им не нужно). Как определить, что «столько-то удобств стоит столько-то испорченных видов»? Это довольно просто, когда речь идет об одном человеке: фон Нейман и его соавтор Оскар Моргенштерн вообразили Робинзона Крузо в одиночестве на его острове. Возможно, он не сможет исполнить все свои желания: если он захочет, чтобы ему сделали массаж спины, увы и ах ему, не говоря уже о желании заиметь пентхаус или купить билет в первый класс на Бали. Но он может свободно выбирать между всеми желаниями, которые может исполнить. Если ему нужен час, чтобы построить шалаш из банановых листьев, и час, чтобы развести костер и приготовить батат на ужин, при этом остается час до наступления темноты, то он может решить, что важнее — не промокнуть под дождем или не остаться голодным. Он может просто составить список желаний в порядке предпочтения и исполнить столько из них, сколько позволяют имеющиеся средства и время. Математически проблемы здесь никакой нет, и классическая экономическая наука прекрасно с этим справится: «Крузо даны определенные физические вводные (потребности и ресурсы), и его задача состоит в том, чтобы скомбинировать и применить их так, чтобы получить максимальное удовлетворение», — писали фон Нейман и Моргенштерн. «[Перед ним] стоит обычная задача на максимум, трудности которой носят чисто технический, а не концептуальный характер». Но как только появляется Пятница, возникает проблема. Крузо с удовольствием поглощает батат и не против поспать под звездами, поэтому он предпочтет еду, а не строительство шалаша; Пятница не любит батат и быстро замерзает, поэтому предпочел бы построить укрытие. Внезапно, если вы хотите добиться максимальной групповой полезности, вам необходимо противопоставить желания одного человека желаниям другого; так между ними возникает конфликт интересов. Два человека стремятся добиться максимальной пользы от разных вещей. Классическая экономическая теория предполагала, что, хотя вы можете ранжировать предпочтения людей — Крузо: 1) еда, 2) кров; Пятница: 1) кров, 2) еда, — сравнивать их невозможно. Даже если Крузо был очень, очень голоден, а Пятнице было просто немного холодно, математически сравнить эти предпочтения невозможно. Но фон Нейман понял, что можно. Моргенштерн впоследствии так описывал тот момент: «Я прекрасно помню, как Джонни поднялся из-за стола, когда мы изложили аксиомы, и изумленно воскликнул: » Ja hat denn das niemand gesehen?' («Разве этого раньше никто не видел?»)'.
Фон Нейман сформулировал несколько простых аксиом. Ключевая из них заключается в том, что желания людей должны быть транзитивными, то есть если они предпочитают A, а не B, и B, а не C, то они должны предпочесть A, а не C. Если собаки мне нравятся больше кошек, а кошки больше мышей-песчанок, значит, собаки мне должны нравиться больше мышей-песчанок. Если мои желания интранзитивны, то, как в случае с «голландской книгой», я становлюсь денежным насосом. Если собаки нравятся мне больше кошек, а кошки — больше мышей-песчанок, а мыши-песчанки — больше собак, то, если у меня есть мышь-песчанка, вы можете предложить мне купить у вас кошку за х фунтов плюс мышь-песчанка. Но тогда, поскольку я предпочитаю собак кошкам, вы предлагаете мне купить у вас собаку за у фунтов плюс кошка. А потом, конечно, я предпочитаю мышейпесчанок собакам, поэтому вы можете продать мне мою первоначальную мышь-песчанку еще за z фунтов, а впридачу забрать обратно собаку и начать весь процесс сначала, будучи уже на x+у+z фунтов богаче и в предвкушении выгодной торговли. Предпочтения также должны быть непрерывными и монотонными, то есть не делать резких скачков и возрастать при увеличении получаемого ресурса. Это дает возможность ввести функцию полезности — такую, что желание человека получить добавку к любому ресурсу пропорционально добавке к его полезности. Для наглядности единицу полезности мы можем называть фунтом полезности [51]. Все это означает, например, что если одно решение дает вам 50-процентную вероятность получить 10 фунтов полезности, то вам должно быть все равно, какое решение принять — это или другое, которое даст вам 100-процентную вероятность получить 5 фунтов полезности, и что 2-процентная вероятность того или иного исхода вдвое лучше (или хуже), чем 1-процентная вероятность того или иного исхода… Кроме того, предпочтения должны быть взаимозаменяемыми: если вы одинаково хотите добавки торта или добавки желе, то вам должно быть все равно, дадут ли вам торт с вероятностью 10 % и желе с вероятностью 90 % или торт с вероятностью 90 % и желе с вероятностью 10 %. С учетом этих предположений фон Нейман и набросал теорему об ожидаемой полезности, согласно которой у людей имеются предпочтения, которым в принципе можно присвоить численные значения [52](в единицах, называемых «ютилами» — или, по-нашему, «фунтами полезности») и которые можно сравнивать друг с другом. Я могу дать десять ютилов за хороший день в парке, сто — за то, чтобы посмотреть, как
«Ливерпуль» выиграет чемпионат, тысячу — за известие о рождении моей первой племянницы. Эта работа фон Неймана положила начало теории игр. Если я хочу смоделировать взаимодействие двух или более людей с разными предпочтениями — как в случае с Крузо и Пятницей, — мне нужна модель сравнения этих предпочтений. Как только мы установим, что такая модель в принципе может работать, как это сделали фон Нейман и Моргенштерн, можно приступать к расчетам и мысленным экспериментам. Например, переходя от одного классического произведения английской приключенческой литературы к другому, фон Нейман представил себе Шерлока Холмса, спасающегося бегством от профессора Мориарти. Холмс садится на поезд, идущий до парома в Дувре, и в этот момент на платформе его замечает Мориарти. Он знает, что Мориарти успеет на следующий, более скоростной поезд и окажется в Дувре быстрее. Что делать Холмсу? Если он поедет в Дувр, Мориарти будет уже там его ждать. Тогда ему следует сойти в Кентербери — на единственной промежуточной станции. На континент сбежать не удастся, и Мориарти все равно будет ждать его в Дувре, но он хотя бы избежит столкновения с ним на короткое время. Но Мориарти тоже это знает, поэтому, возможно, тоже выйдет в Кентербери и будет ждать Холмса там. Может, тогда все-таки ехать до Дувра? Но тогда… Фон Нейман подставляет в эти сценарии несколько цифр. Мориарти получит 100 ютилов, если поймает и убьет Холмса — в Дувре или в Кентербери. Он получит ноль (будет ничья), если отправится в Дувр, а Холмс сойдет в Кентербери. Это будет значить, что охота продолжится. Он получит −50, если сойдет в Кентербери, а Холмс доедет до Дувра, откуда отправится во Францию.
Что делать Мориарти? Если он выйдет в Дувре, его средний выигрыш будет равен пятидесяти: (100+0)/2. Если он сойдет с поезда в Кентербери, средний выигрыш составит двадцать пять: (100−50)/2. То есть надо ехать до Дувра и выходить там. Однако если очевидно, что он должен поступить именно так, Холмс предскажет это и сойдет с поезда в Кентербери, а его — Мориарти — выигрыш будет равен нулю. Ответ следующий: Мориарти следует поступить непредсказуемым образом! Если бы в эту игру сыграли много раз, ему следовало бы ехать до Дувра три раза из каждых пяти, а выйти в Кентербери — два раз из пяти. Так он максимизировал бы ожидаемую полезность, доведя ее до сорока ютилов за раз. Холмсу же следует поступить наоборот и выйти в Кентербери в трех случаях из пяти. (В книге Мориарти действительно едет до Дувра, а Холмс и Ватсон выходят в Кентербери и смотрят, как проезжает его поезд). В реальности, конечно, невозможно точно знать, какова ожидаемая полезность каждого решения, как и нельзя полностью вычислить байесовские вероятности каждого из исходов, потому что у вас недостаточно ни информации, ни вычислительной мощности. Но если бы люди были совершенными рассуждающими машинами с полным доступом к нашим собственным глубинным предпочтениям, мы могли бы вычислить всё, что нужно, с помощью теоремы Байеса и ожидаемой полезности. Ровно это, грубо говоря, делает современный искусственный интеллект, но в гораздо более явном виде.
Априорные вероятности Оккама Фишка байесианства в том, что вам необходимо иметь априорную вероятность. На протяжении всей его истории это и был камень преткновения — где их взять, априорные вероятности? Насколько серьезной проблемой является тот факт, что они кажутся субъективными? В некоторых ситуациях априорные вероятности можно получить из легкодоступных статистических данных о мире. Для диагностического теста на рак априорной вероятностью может быть фоновый уровень заболеваемости этим видом рака в популяции людей, подобных пациенту. Но во многих других случаях такой точности не добиться. Выбирая между возможными гипотезами, априорные вероятности можно, например, определить, поняв, какая из них сложнее. Более сложные вещи с меньшей вероятностью возникают случайно, поэтому при прочих равных, если вам дают два возможных объяснения — одно простое и одно сложное, — ваши априорные вероятности должны «говорить» в пользу простого. Этому явлению есть название — бритва Оккама. Она названа в честь францисканского монаха XIV века Уильяма [из] Оккама (Уильяма Оккамского), жившего в Оккаме, графство Суррей [53]. Но как решить, какое объяснение — самое простое? Когда мы смотрим на мир, объяснения тех или иных вещей часто и правда кажутся очень сложными. Есть высказывание, которое Элиэзер Юдковски приписывает американскому писателю-фантасту Роберту Хайнлайну, хотя, возможно, эта атрибуция ошибочна. Самое простое объяснение, как это (возможно) сформулировал Хайнлайн, всегда звучит так: «Женщина с нашей улицы — ведьма, всё из-за нее». Если вы объясняете, почему человек заболел, кознями ведьмы, такое объяснение кажется проще, чем, например, такое: «миллиарды самореплицирующихся частиц попали в организм, начали захватывать элементы управления вашими клетками и создавать копии самих себя;
что в сочетании с попытками организма бороться с этими частицами привело к болезни». Аналогичным образом, версия «разгневали бога грома» кажется проще, чем уравнения электродинамики, которые физики используют для объяснения природы молнии. Конечно, чтобы разъяснить уравнения, потребуется гораздо больше времени, чем сказать про бога. Мы понимаем богов (или понимаем людей и предполагаем, что боги похожи на людей). Мы понимаем, что такое гнев. Но большинство из нас не понимает математический анализ. Но у теоретиков принятия решений есть более формальное определение простоты. Тот факт, что нечто можно описать коротким английским предложением, не обязательно говорит нам о том, насколько это нечто простое: в словосочетании human brain («человеческий мозг») четыре слога, но сам мозг — самая сложная вещь во Вселенной. Вместо этого теоретики принятия решений используют так называемую минимальную длину сообщения. (Про нее еще говорят как про «колмогоровскую сложность» — в форме самого Колмогорова или в форме Рэя Соломонова для его знаменитой «индукции Соломонова»… Эти три понятия слегка различаются, но по сути они эквивалентны.) Минимальная длина сообщения ставит вопрос: какую самую короткую компьютерную программу я могу написать, чтобы описать тот или иной вывод? Начнем с чего-нибудь более простого, чем создание Вселенной. Я воспользуюсь примером чешского математика и информатика Михала Коуцки из пражского Карлова университета. Представьте себе три одиннадцатизначные строки чисел. Вот они: 1) 33333333333 2) 31415926535 3) 84354279521 Являются ли они случайными? Если бы вы захотели написать программу, которая могла бы продолжить эти последовательности до миллиона цифр, насколько короткой могла бы быть такая программа? Кстати, вам не разрешается просто сказать: «записать случайные числа». Генератор случайных чисел с равными шансами выдаст любую из этих строк с вероятностью p≈1/10^11, то есть такой исход очень маловероятен. Вы хотите знать, существует ли детерминированный
процесс, который мог бы их произвести, чтобы можно было предсказать, каким может быть следующее число в последовательности. Первое получить довольно просто. Это будет миллион цифр числа 3. Записать его можно в четырех строках языка BASIC: 10 N=1000000 20 FOR I=1 TO N 30 PRINT 3; 40 NEXT I Остальные сложнее. Они кажутся полностью случайными; Коуцки говорит, что статистик, взглянув на них, сказал бы, что они проходят статистические тесты на случайность. Но на самом деле очень легко предсказать, какой будет двенадцатая цифра второй строки, потому что первые одиннадцать — это первые одиннадцать цифр числа пи. Мы можем просто подсмотреть следующую цифру или, если это кажется нам мухлежом, вычислить ее. В 250 году до н.э. Архимед создал простой метод получения более точных приближений к пи с помощью обычных многоугольников. Так или иначе, ответ — восемь. Я могу выписать алгоритм Архимеда или любой другой из десятков альтернативных вариантов, и если я подключу его к компьютеру, он (в конце концов) предскажет строку чисел настолько «глубоко», насколько мы захотим. Бесконечный ряд цифр можно ужать до небольшого количества символов [54]. Однако третья строка действительно случайна. Если бы вы захотели описать ее с точностью до миллионной цифры, вам пришлось бы выписать миллион цифр. Здесь нет ни одного обходного пути; сжать ее невозможно в принципе [55]. Минимальная длина сообщения любой строки, таким образом, — это то, насколько коротким может быть ее описание. Мы, правда, пытаемся определить априорную вероятность различных гипотез, а не писать строки с числами. Но можно перевернуть эту идею и сказать, что если мы видим строку чисел, то каков наиболее вероятный алгоритм, который ее произвел? Опять же, для трех строк цифр, которые мы рассмотрели, генератор действительно случайных чисел мог бы произвести любую из них с равной вероятностью: вероятность того, что он произведет любую из
них, составляет примерно один к 10^11. Это самое простое объяснение. Но если бы мы увидели, что он выдал 31415926535, гипотеза «числа случайны» нас бы не впечатлила, и мы бы подумали, что существует какой-то чуть более сложный алгоритм, который лучше соответствует данным, например «записать цифры числа пи по порядку». Даже если генератор случайных чисел с одинаковой вероятностью выдаст что эту строку, что любую другую, есть другая гипотеза, которая с гораздо большей вероятностью выдаст именно эту строку, поэтому мы с радостью примем дополнительный уровень сложности, чтобы иметь гипотезу, которая более уверенно предсказывает наши данные. С другой стороны, если мы видим 84354279521, то, насколько нам известно, в этих данных нет никакой особой закономерности. То есть нам придется сильно повысить сложность — алгоритм должен будет говорить: «сначала записать эту цифру, потом эту, и так до самого конца», чтобы это объяснить. Поэтому гипотеза о том, что это просто результат работы генератора случайных чисел, не более и не менее вероятный, чем любая другая строка цифр, кажется более правдоподобной. Компромисс здесь — между краткостью алгоритма и тем, насколько уверенно он будет предсказывать результат. Так как же все-таки решить, на что именно следует ориентироваться? Допустим, мы хотим объяснить ряд результатов подбрасывания монет. Мы видим, скажем, последовательность результатов ОРООРР, и нам приходится выбирать между несколькими возможными алгоритмами, которые могли бы ее выдать. Самый простой — программа, которая говорит: «Монета правильной формы и выпадает случайным образом орлом или решкой». Это будет максимально простой алгоритм и очень простая для написания программа. Но он присвоил бы и этому ряду результатов, и любому другому равную вероятность: он говорит, что наш шанс увидеть этот или любой другой ряд результатов составит один к шестидесяти четырем. В качестве альтернативы можно выдвинуть гипотезу, что программа говорит: «Монета выпадет орлом (О), затем решкой℗, затем О, затем О, затем Р, затем Р». Она присвоит этому результату стопроцентную вероятность: она будет идеально соответствовать вашим данным, но цена этого успеха гораздо выше.
Если нам важно только то, насколько прост наш алгоритм, мы всегда будем говорить: «Эта монета правильной формы и падает случайно», — даже если ряд результатов подбрасывания монет будет выглядеть как ОРОPОРОРОРOР или ОРООРРООOРРР. Если же нам важно только то, насколько хорошо он соответствует данным, мы скажем, что с каждой из монет что-то не то. Но если нам важно и то, и другое, как решить, какой вес придать каждой из составляющих компромисса? Мыслить об этом можно как об информации. Одного «бита» информации — двоичной 1 или 0, вопроса «да» или «нет» — достаточно, чтобы разделить пространство поиска пополам. Представим игру, в которой некий человек пытается найти дверь, за которой находится приз. Дверей всего сто, и вы знаете, какая из них правильная, а тот человек — нет. Единственный способ взаимодействия с ним — выключатель света, который может быть всего в двух положениях. Перед началом игры вероятность того, что приз находится за любой из дверей, равна p=0,01. Тот человек — ваш партнер по игре — хочет увеличить эту вероятность. Он может сказать вам заранее: «Включай свет, если правильная дверь будет иметь номер от одного до пятидесяти». Вы включаете свет. Теперь он знает, что приз находится за одной из первых пятидесяти дверей, поэтому он может присвоить вероятность p=0,02 этим оставшимся пятидесяти дверям [56]. Он вдвое сократил пространство поиска и за счет этого переместил дополнительную массу вероятности в направлении оставшихся вариантов. Именно так и следует выбирать между сложностью гипотезы и точным соответствием данным. Если дополнительный бит информации в нашей программе не позволяет вдвое сократить пространство поиска, значит, он не оправдывает себя. Поэтому выбирая между двумя или более гипотезами, мы (теоретически) должны быть в состоянии определить, какая из них сложнее, и при прочих равных присвоить более высокую априорную вероятность той, которую проще написать в виде компьютерной программы, причем каждый дополнительный бит информации в программе уменьшает ее вероятность вдвое. Существуют и другие способы получения априорных вероятностей, но минимизация сложности в этом случае — один из ключевых.
Он, кстати, очень близок к тому, как на самом деле работают современные системы искусственного интеллекта, принимающие решение в условиях неопределенности. Криптограф из Google Пол Кроули рассказал мне, что в самых базовых своих формах ИИ, «если вы понимаете Байеса, действительно выглядит невероятно побайесовски». Современный нейросетевой ИИ состоит из множества узлов, подобных нейронам в мозге, а способ обучения заключается в усилении и ослаблении связей между этими узлами — им присваивается больше или меньше «веса». «Вы наказываете его за слишком сложный набор весов», — рассказывал Кроули. «Ответ, в котором используется более простой набор весов, получает более высокий балл. Принуждение к выбору более простых гипотез вместо сложных — это в точности байесовский принцип; это априорная вероятность Оккама». Выполнение математических вычислений явно байесовским способом требует больших вычислительных мощностей, поэтому в большинстве современных ИИ используются «более простые системы, требования к вычислительной мощности которых гораздо меньше, но эффективность — почти такая же», — говорил мне Кроули; в основе всего этого лежит байесовский подход.
Гиперприоры Вы, наверное, помните, что Джордж Буль возражал Байесу. Допустим, у нас есть неизвестное распределение белых и черных шаров в урне. Какова ваша априорная вероятность? Что каждый шар с равной вероятностью черный или белый? Или что любая комбинация черных и белых шаров одинаково вероятна? Как мы уже видели, это очень разные вещи. Если у вас в урне два шара, и любая комбинация одинаково вероятна, то три варианта — два черных шара, по одному каждого цвета или два белых — имеют вероятность ⅓. Но если каждый из шаров с равной вероятностью будет черным или белым, то вероятность того, что все шары черные или все белые, равна ¼, что один из них белый — ½. Если проделать этот расчет с бóльшим числом шаров в урне, все станет еще очевиднее. Если предположить, что общее распределение неизвестно, то вероятность увидеть ноль черных шаров из 100 равна одному из 101. Если же предположить, что каждый шар с равной вероятностью окажется черным или белым, шанс увидеть ноль черных шаров составляет примерно один на миллион квадриллионов. Это проблема, потому что это означает, что нельзя по-настоящему ничего не знать. Если вы говорите, что не знаете общего распределения шаров в урне, значит, вы утверждаете, что что-то таки знаете о вероятности того, что следующий шар будет белым. Если вы утверждаете, что не знаете, будет ли следующий шар белым, значит, вы утверждаете, что что-то знаете о распределении шаров в урне. Это препятствие можно обойти, если взять гиперприоры. То есть мы не только не уверены в каком-то параметре, скажем, в количестве черных шаров в урне, но и, на более высоком уровне, в том, какой параметр следует использовать. Возможно, стоит рассмотреть вероятность того, что тот или иной шар окажется черным. Параметр более высокого уровня — какой именно параметр использовать? — это и есть гиперпараметр, а ваши априорные представления о том, какой гиперпараметр использовать, — это и есть гиперприор. В некотором смысле, это неопределенность в отношении того, в каком мире мы находимся. Например, представьте, что вы — очень
простой байесовский ИИ, играющий в прятки. Ваш соперник прячется за деревом или за стеной. Вы начинаете с априорной вероятностью, что эти варианты одинаково вероятны. Вы отыгрываете тысячу партий в эту игру, и в восьмистах из них соперник прятался за стеной. Таким образом, традиционным байесовским способом вы обновляете свою априорную вероятность. Теперь вы начинаете каждую партию с 80процентной оценкой того, что ваш соперник прячется за стеной. Но тут что-то происходит. В последующих ста партиях ваш соперник, как выясняется, восемьдесят раз прятался за деревом. Очень простая байесовская обучающая модель может просто включить эти данные в массив остальных данных, что даст вам примерно 75-процентную вероятность. Или же она может быть чуть более сложной и учитывать более свежие данные с большим весом, чтобы вероятность была выше. Или же она может признать, что мир изменился. Она может построить новую модель, в которой соперник предпочитает дерево стене. Она может признать, что у мира есть два состояния, и быть готовой переключать свою модель с одного на другое, ища доказательства того, что предсказания, основанные на одной модели, не сбываются. Если вы видите, что ваш соперник несколько раз прячется за деревом, вы увеличиваете вероятность того, что мир изменился и что вам следует использовать модель «за деревом». Это и есть гиперприор — предсказание более высокого уровня о состоянии мира, которое и ограничивает предсказания более низкого уровня, и служит для них основой. Как и в случае с обычной априорной вероятностью, мы приписываем вероятности тому, насколько похоже, что мы находимся в том или ином мире.
Несколько гипотез Представьте, что вы встречаете человека, который говорит, что он экстрасенс. Насколько вы поверите в состоятельность такого утверждения? Как сказали бы Оливер Кромвель и Деннис Линдли, было бы неправильно определить ее ровно нулевой. Заклинаю вас всеми Страстями Христовыми — задумайтесь на минуту о том, что можете ошибаться. Но с другой стороны, это не очень вероятно, не так ли, что бы там ни говорил Дэрил Бем? Допустим, вы встречаете кого-то. Назовем его Таинственным Барри. Он говорит вам, что может читать ваши мысли. Если вы запишете несколько чисел от одного до десяти, он их угадает. Сколько чисел он должен угадать правильно, чтобы вы ему поверили? Вероятность, что каждая правильная догадка произойдет по чистой случайности, составляет только один к десяти. Так что если даже после двух правильных догадок вы по-прежнему будете считать, что вероятность того, что Таинственный Барри — настоящий экстрасенс, исчезающе мала, то, предположительно, ваша априорная вероятность того, что его утверждения реальны, намного ниже одного к ста. Возможно, потребуется десять правильных догадок, чтобы вы сочли, что это реальная возможность, а это значит, что вы считаете, что вероятность этого составляет примерно один к десяти миллиардам. Но Джейнс обращает внимание вот на что. В такой ситуации даже десять или тысяча правильных догадок, вероятно, не подвигнут вас к мысли, что экстрасенсорные способности реальны. В начале 1940‐х годов британский парапсихолог Сэмюэл Соал заявил, что обнаружил доказательства существования экстрасенсорных способностей. Два испытуемых в игре по угадыванию карт давали правильный ответ чаще, чем предполагала бы случайность: один показал результат 2980 из 20 000, хотя ожидаемый случайный результат должен был бы быть 2308; другой набрал 9410, хотя случайность давала результат 7420. Последний результат отстоит на двадцать пять стандартных отклонений от среднего. Это означает,
что не следует ожидать, что вы получите его случайно, даже если бы вы повторяли эксперимент каждую секунду в течение всего времени существования Вселенной. И все же даже это знание, я подозреваю, не убедит в том, что испытуемый действительно экстрасенс. Если бы существовало только два возможных объяснения данных — чистая случайность или экстрасенсорные способности — тогда да, любая отдаленно правдоподобная априорная вероятность существования телепатии была бы сведена на нет этим экстраординарным уровнем доказательств. Но это не тот случай. Есть и другая возможность: это не чистая случайность, но и не экстрасенсорные способности, и есть какое-то другое объяснение тому, почему испытуемый давал правильные ответы чаще, чем можно бы ожидать. Например, цифры могли подтасовать или эксперимент мог быть организован небрежно. Возможно, это был просто большой розыгрыш. Поскольку ваша априорная вероятность того, что экстрасенсорные способности реальны, чрезвычайно мала — где-то около отметки один на 10 миллиардов, как мы уже говорили, несколько произвольно, — любая из этих альтернативных гипотез почти наверняка гораздо более правдоподобна. И любое доказательство, которое может подтвердить гипотезу об «экстрасенсорных способностях», предположительно также подтверждает любую из этих гипотез. Так что если в начале ваша априорная вера в экстрасенсорные способности была в 100 раз меньше, чем априорная вера в возможность того, что та или иная научная статья является фальшивкой, то в конце концов это все равно будет так, независимо от того, сколько доказательств вы видели. В отсутствие некой модели проведения эксперимента, которая полностью исключает возможность мошенничества, никакой объем доказательств не смог бы заставить действительно маловероятную гипотезу перевесить более правдоподобную. И вот, кто бы мог подумать: выяснилось, что Сэмюэл Соал подтасовал цифры. Проблема с существованием нескольких гипотез заключается в том, что это означает, что люди с очень разными априорными вероятностями в отношении тех или иных вещей могут никогда не
прийти к согласию. Если вы считаете, что экстрасенсорные способности правдоподобны, то ваша априорная вероятность, конечно же, будет гораздо выше моей. Если мы оба увидим множество доказательств существования экстрасенсорных способностей — например, кто-то угадывает правильное число от одного до десяти 100 раз подряд — то, если предположить, что единственными двумя возможными гипотезами являются случайность или телепатия, наши априорные вероятности будут размыты потоком данных. Но если у нас есть несколько гипотез — случайность, телепатия или подтасовка, то доказательства сделают гипотезу случайности непоправимо маловероятной. При этом для вас наиболее вероятным объяснением окажется телепатия, а для меня — подтасовка. И всё это, очевидно, имеет различные последствия в реальном мире. Скажем, у вас есть некая гипотеза, например, «вакцины вызывают аутизм» или «антропогенное изменение климата реально», и вы присваиваете ей определенную априорную вероятность. Возьмем двух людей, один из которых считает гипотезу вероятной, а другой — нет. Даем им какое-нибудь доказательство, например статью на сайте BBC News, авторы которой пишут так: «Эти научные исследования показывают, что заболеваемость аутизмом после введения вакцины MMR не выросла», или так: «Эти научные исследования показывают, что в мире становится теплее, и это примерно соответствует концентрации углекислого газа в атмосфере». Как и в примере с телепатией, если единственным возможным объяснением доказательств является то, что гипотеза верна (или неверна), то эти доказательства должны способствовать сближению мнений двух людей. Но есть и альтернативная гипотеза: источник не заслуживает доверия. Если один человек твердо верит, что MMR вызывает аутизм или что проблема изменения климата выдумана, то доказательства не приблизят его к убеждениям другого, а наоборот, подтолкнут его к тому, чтобы сказать: «Вот почему Би-Би-Си нельзя доверять». (А если Би-Би-Си даст ссылки на научные работы: «Вот почему научному истеблишменту нельзя доверять»). И, как ни странно, для этого человека такая реакция будет рациональной.
Байес и искусственный интеллект По своей сути искусственный интеллект — это просто программа, которая пытается предсказать неопределенные вещи. Сейчас вы уже не удивляетесь, когда я говорю, что в основе ИИ лежат байесовские принципы [57]. На обложку эталонного учебника для бакалавров по искусственному интеллекту — «Artificial Intelligence: A Modern Approach»(«Искусственный интеллект: современный подход») даже помещено изображение Томаса Байеса. Его авторы утверждают: «Правило Байеса лежит в основе большинства современных подходов к неопределенным рассуждениям в системах искусственного интеллекта». Существует такое понятие — «байесовское машинное обучение»: его архитектура специально разработана так, чтобы имитировать правило Байеса. Но я не об этом. Я хочу сказать, что, поскольку, как мы видели, теорема Байеса по сути своей является [способом] принятия решений, все системы машинного обучения/ИИ в этом смысле являются байесовскими. Представим себе очень простой ИИ, который пытается распознать изображения крыс, собак и львов. Еще несколько лет назад такое показалось бы чем-то удивительным, но сегодня об этом мало кто вспоминает. (В 2017 году, когда я брал интервью для своей первой книги, тот факт, что искусственный интеллект в состоянии достоверно отличить собаку от кошки, воспринимался еще как нечто из ряда вон. Теперь же можно попросить смартфон поискать в памяти фотографии собак, детей, пляжей и чего угодно еще, и он их выдаст за доли секунды). На очень абстрактном уровне происходит это следующим образом:
Вы «скармливаете» ИИ сколь угодно много тысяч или миллионов фотографий крыс, собак и львов, каждая из которых помечена как крыса, собака или лев, и таким образом обучаете его. Это так называемые «помеченные данные» (labelled data). Он неким образом всасывает их в свои внутренности, после чего сможет уже сам разпознавать следующую порцию картинок, которые заранее не размечены — «тестовые данные». С учетом своих наилучших догадок ИИ пометит каждую из этих картинок как изображение крысы, собаки или льва. Такая модель ИИ называется «контролируемым обучением» (supervised learning). Ее задача — предсказывать, как люди, пометившие обучающие данные, пометят данные тестовые. Конечно, есть простой и почти тавтологический способ, благодаря которому этот метод можно назвать байесовским. Перед тем как ИИ увидит картинку, субъективная априорная вероятность, что это будет лев, составляет предположительно p≈0,33: шанс один к трем. После «просмотра», то есть получения новой информации, он меняет вероятность до p=0,99 или около. Априорная вероятность, правдоподобная вероятность, апостериорная вероятность. Но здесь можно выразиться конкретнее. Давайте еще больше упростим ситуацию, чтобы можно было описать ее в виде графика. Еще более простой ИИ просто смотрит, где на графике находится группа пятен, и пытается найти через них линию максимального соответствия. Для этого не нужен мощный ИИ: это просто линейная регрессия, статистика, которая
вполне устроила бы Фрэнсиса Гальтона. Но принцип здесь действует тот же. Возьмем график зависимости размера обуви людей от их роста. Берем большую случайную выборку людей, измеряем их рост, размер ноги и наносим на график: размер обуви по оси X, рост по оси Y. Как и следовало ожидать, в среднем у высоких людей ступни больше, но есть и некоторые различия. Поэтому точки, как правило, выстраиваются снизу вверх слева направо. ИИ хочет провести через них линию. Можно нарисовать линию на глаз, но существует устоявшаяся процедура, которую называют методом наименьших квадратов (МНК). Давайте проведем некоторую линию на графике и измерим расстояние по вертикали от линии до каждой точки. Это расстояние и есть ошибка, или loss [58]. Для каждой точки возводим ошибку в квадрат, то есть умножаем ее на саму себя, чтобы все числа были положительными. (Отрицательное число, возведенное в квадрат, становится положительным). Затем складываем квадратичные ошибки для всех точек вместе. Полученное число — сумма квадратов ошибок. Теперь надо найти линию с наименьшей такой суммой: ту, которая имеет наименьший средний квадрат расстояния до всех точек.
Вот мы провели линию наименьших квадратов по экспериментальным точкам. На эти точки вполне можно было смотреть как на обучающие данные для нашего игрушечного ИИ. А еще мы можем этот процесс обучения рассмотреть с байесовской точки зрения. Чтобы провести прямую, нам нужно два параметра: ее наклон и сдвиг по вертикальной оси. Априорное распределение (наше собственное, до того, как мы увидели данные) по каждому из этих параметров [59], конечно, не плоское [60]. Мы не ожидаем увидеть человека четырехметрового роста, даже если у него ступня и правда длиной в тридцать сантиметров. Но все же эти распределения настолько широкие (подразумевающие, что настоящие параметры прямой нам известны плохо), что первые же данные полностью изменят их, превратив во все более острые пики. Да, метод наименьших квадратов сам по себе дает не распределение вероятностей, а готовый результат для каждого из параметров. Фактически, это метод максимального правдоподобия. Но можно сделать и байесовский вариант метода наименьших квадратов. В нем полученные апостериорные распределения параметров будут использоваться как априорные для
дальнейшего обучения. И тогда мы сможем наблюдать, как пики распределений вероятности постепенно заостряются по мере добавления данных. При этом, чем дальше экспериментальная точка отстоит от текущий модельной линии, тем больше наш метод «удивляется» и тем сильнее корректирует параметры модели. А полученные в результате коррекции кривые апостериорных вероятностей будут затем снова использоваться как априорные при дальнейшем обучении. И вот мы так или иначе (стандартным методом наименьших квадратов или его байесовской модификацией) обучили наш игрушечный искусственный интеллект: мы провели линию наименьших квадратов и определили стандартное отклонение каждого из ее параметров. Но теперь с помощью полученного игрушечного ИИ (можем называть его ИИИ) мы хотим делать прогнозы. Скажем, вы даете ИИИ размер обуви человека и просите угадать его рост. ИИИ для этого достаточно пройти по оси X до соответствующего отрезка, скажем, 11‐го размера, и подняться по графику вверх, где находится линия наименьших квадратов. Это и есть самое вероятное предположение о росте человека. Насколько уверенным оно будет, зависит от объема обучающих данных и дисперсии этих данных: если они сильно «размазаны», то предположение будет менее уверенным. Примерно так же работают и реальные ИИ. Они используют гораздо более сложные модели, с сотнями или тысячами внутренних параметров [61] – не с двумя параметрами прямой как в примере с размером обуви и ростом! — но основная идея та же. Они уже обучены на каких-то данных, и используют эту информацию для предсказания значения некоторого выходного параметра/параметров с учетом входных параметров модели. Но давайте вернемся к игрушечным моделям. До сих пор мы предполагали, что моделирующая данные линия — прямая. Но это же не обязательно. Для многих графиков лучше подойдут изогнутые линии. Например, представим форму графика с совокупным числом случаев заболевания ковидом в мире по оси Y и временем по оси X, начиная с ноября 2019 года. Линия наилучшего соответствия должна представлять собой экспоненциальную кривую, поскольку число случаев удваивается каждые несколько дней. В других случаях мы можем обнаружить, что данным лучше всего соответствует S- или J-образная кривая или синусоидальная волна и тому подобные варианты. Можно произвольно сказать, что наша модель должна рисовать прямую линию, но часто это будет неправильный выбор: модель будет «недообучать» свою кривую по отношению к данным. В равной степени ИИ, если он достаточно сложен, может просто нарисовать извилистую линию, которая идеально проходит через центр
каждой точки в обучающих данных [62]. Это позволит ему получить квадратичную ошибку, равную нулю. Но, скорее всего, она не отражает реальную причину, лежащую в основе данных. Когда появятся новые данные, они, скорее всего, окажутся далеко от странной извилистой линии, которую нарисовал ИИ, потому что он «перестарался» с подгонкой к данным — «переучился». То есть вопрос в том, насколько свободно ИИ может колебать линию. Эта свобода аналогична тому, что в предыдущем разделе мы называли «гиперпараметрами»: помимо простого вопроса о наилучшей эмпирической кривой, возникает вопрос более высокого уровня о том, насколько извилистой должна быть эта кривая. Априорные представления ИИ об этих параметрах — это его гиперприоры. И они часто решают, что при прочих равных мы выбираем более простую из двух линий. Мы предпочтем простоту соответствию. Именно об этом мы говорили в разделе об априорных вероятностях Оккама. Когда ИИ-рентген пытается распознать раковую опухоль на снимке или когда ChatGPT пишет рассказ в стиле Библии короля Якова о человеке, у которого в видеомагнитофоне застрял бутерброд с арахисовым маслом, в
обоих случаях применяется байесовский подход. Обучающие данные служат для получения апостерионых вероятностей, которые затем используются для прогнозирования будущих данных, а также — уже в качестве новых априорных — для дальнейшего обучения моделей.
Глава четвертая Байес в мире
Иррациональны ли люди? В прошлой главе мы говорили о том, что теорема Байеса — идеальная форма методологии принятия решений. Если бы можно было учесть всю доступную нам информацию, мы могли бы оптимальным образом присвоить предварительные вероятности и соответствующим образом изменять их по мере поступления новой информации. На самом деле это невозможно. Но мы же должны хоть что-то сделать правильно, чтобы вообще принимать какие-то решения. Однако насколько мы хорошие байесианцы? За последние несколько десятилетий было проведено множество исследований, посвященных нашей иррациональности и разным ее степеням [63]. Наиболее известна работа израильских психологов Даниэля Канемана и Амоса Тверски, за которую Канеман получил Нобелевскую премию по экономике (Тверски к тому времени уже умер, а Нобелевские премии посмертно не присуждают). Например, исследования показали, что в определенных ситуациях мы не очень хорошо оцениваем риски. Согласно одному известному исследованию 1978 года, если кто-то просит вас предположить, насколько велика вероятность того, что вы пострадаете от чего-то дурного, мы, вместо того чтобы попытаться вспомнить базовые показатели или показатели распространенности, скорее ответим на более простой вопрос, например, «насколько легко я смогу придумать пример?». Это явление называют эвристикой доступности, и именно поэтому мы склонны считать драматические, запоминающиеся, освещаемые в новостях риски более распространенными, чем скучные: люди думают, что терроризм убивает больше людей, чем бытовые происшествия, или что вирус Эбола опаснее диабета (с точки зрения вероятности лично пострадать от этого заболевания). При этом они ошибаются на несколько порядков. Мы совершаем элементарные логические ошибки, например можем считать, что вероятность того, что «Бьорн Борг проиграет первый сет», меньше, чем вероятность того, что «Бьорн Борг проиграет первый сет, но выиграет матч», хотя логически невозможно, чтобы Бьорн Борг проиграл первый сет, но выиграл матч, не проиграв сначала первый сет. Точно так же люди оценивают предположение «Рейган окажет федеральную поддержку матерям-одиночкам и сократит федеральную поддержку местных органов
власти» как более вероятное, чем предположение «Рейган окажет федеральную поддержку матерям-одиночкам», хотя Рейган не может реализовать и первое, и второе, не реализовав при этом первого. (Примеры позаимствованы из исследования 1981 года, проведенного Канеманом и Тверски.) Абстрактный математический факт, который люди, совершающие эти ошибки, не замечают, таков: вероятность того, что произойдет и A, и B, по логической необходимости должна быть меньше или по крайней мере равна вероятности того, что произойдет либо A, либо B сами по себе. Математически это выражается как P(A,B) ≤ P(A). Число вселенных, в которых Бьорн Борг проигрывает первый сет, не может быть меньше числа вселенных, в которых Бьорн Борг проигрывает первый сет, но играет дальше и выигрывает матч. Недопонимание этого называется ошибкой конъюнкции [64]. Людей также сбивают с толку эффекты фрейминга: их обнаружили Тверски и Канеман и описали в другой работе, опубликованной в 1981 году. Скажем, вы говорите людям, что произошла вспышка новой болезни, от
которой, как ожидается, погибнут 600 человек, и что есть два возможных подхода к борьбе с болезнью: один надежный, но частичный, другой — сомнительный, но потенциально идеальный. Тверски и Канеман обнаружили, что если людям сказать, что первая программа точно спасет 200 человек, вторая с вероятностью один к трем спасет все 600 человек, но с вероятностью два к трем не спасет ни одного, то почти три четверти респондентов выберут «верняк». Если же изменить условия фрейминга — сказать людям, что в результате реализации первой программы точно умрут 400 человек (но никого более), а благодаря второй с вероятностью один к трем никто не умрет, а с вероятностью два к трем умрут все 600 — то показатели тоже изменятся. Более 75 % опрошенных выбрали риск. Конечно, эти два варианта логически эквивалентны: «400 человек погибнут» — это то же самое, что и «200 человек будут спасены». Но то, как они были представлены людям, полностью изменило их отношение к ним. На этих выводах выросла чуть ни целая индустрия книг на тему «не являются ли все люди мега-иррациональными», самые заметные из которых — «Predictably Irrational» («Предсказуемо иррациональны») Дэна Ариели и «Irrationality»(«Иррациональность») Стюарта Сазерленда. Сюда можно до некоторой степени отнести книгу самого Канемана « Thinking, Fast and Slow»(«Думай медленно… Решай быстро» в русском варианте). Не то чтобы тезисы этих книг были ошибочными — большинство из них вполне способны выдержать критику, даже после 2011 года, Дэрила Бема и всего остального, даже с учетом того, что мы знаем сейчас о кризисе воспроизводимости и статистических проблемах в психологии. Когда людям задают вопросы, сформулированные таким образом, они действительно дают бессвязные, иррациональные ответы. Однако работы самого Дэна Ариели привлекли пристальное внимание после того, как выяснилось, что в основу одной из его статей, опубликованных в 2012 году, положены поддельные данные: Ариели отрицает, что сам их выдумал, но признает, что у него нет правдоподобной версии, как это произошло. И многие тезисы по «социальному праймингу», на которые ссылался Канеман в своей книге, с тех пор оказались опровергнуты, о чем мы говорили в разделе о кризисе воспроизводимости во второй главе. Но безусловно верно то, что фрейминг влияет на отношение людей к риску и что люди неправильно оценивают риск, исходя из того, насколько легко они могут придумать примеры. Людям также нелегко даются четкие вычисления того, как именно включать в расчет априорные вероятности и новые данные, — иными словами, у них не получается быть сознательными байесианцами. Так
можно сказать даже о тех, кто вообще-то должен во всем этом разбираться лучше других. В известном исследовании, опубликованном в 1978 году, шестидесяти медикам — двадцати студентам-медикам, двадцати младшим врачам и двадцати врачам, занимавшим более высокие должности — на медицинском факультете Гарвардского университета задали следующий вопрос: «Если тест на выявление заболевания, распространенность которого составляет 1/1000, имеет коэффициент ложноположительных результатов 5 %, какова вероятность того, что человек с положительным результатом действительно болен этой болезнью, если предположить, что вы ничего не знаете о симптомах или признаках этого человека?» Раз вы дочитали до этого места, вы уже наверняка понимаете, что рассчитать это значение несложно. Я для этого обычно представляю себе группу гораздо больше по размеру — скажем, миллион человек. Из этого миллиона тысяча человек больны, а 999 тысяч — нет. Из 999 тысяч наш тест даст ложноположительный результат у 49 950. То есть если предположить, что тест правильно определит болезнь у всей тысячи человек, шанс, что каждый, у кого тест окажется положительным, болен, составит чуть меньше 2 % (1000 / (49 950 + 1000) ≈ 0,02). Как мне представляется, важно, чтобы врачи были в состоянии произвести такой расчет. Однако проведенное в 1978 году исследование показало, что только одиннадцать из шестидесяти медиков дали правильный ответ (и эти одиннадцать были равномерно распределены между группами: студенты справились не хуже старших врачей). Почти половина врачей ответили «95 %», то есть вообще не приняли во внимание исходную частоту заболеваемости. Другие исследования показали схожие результаты. В работе, опубликованной в 2011 году, младших врачей отделений акушерства и гинекологии спрашивали: «Из каждой тысячи женщин десять болеют раком груди. Из этих десяти женщин, болеющих раком груди, у девяти положительный тест. Из 990 женщин, не страдающих раком, примерно 89 получают, тем не менее, положительный результат теста. Женщина получает положительный тест и хочет знать, точно ли у нее рак груди, или, по крайней мере, каковы шансы. Каков наилучший ответ?» Эта версия вопроса действительно поможет нам разобраться в ситуации: есть девять истинно положительных и восемьдесят девять ложноположительных результатов! Все, что вам нужно сделать, это вычислить, сколько будет девять в пропорции к девяти плюс восемьдесят девять. Тем не менее из почти пяти тысяч человек, ответивших на вопрос, только 26 % ответили правильно.
Раньше я думал, что вывод из всего этого заключается в том, что люди глубоко иррациональны. Однако я отошел от этой мысли. Поскольку мы знаем, что идеальное принятие решений — непременно байесовское, а люди в большинстве случаев принимают правильные решения — чаще всего мы успешно находим пищу, чтобы поесть, ищем укрытие, где прячемся от дождя, и избегаем наездов машин, — мы, должно быть, поступаем правильно. И я думаю, что многие из тех, кто рассуждает в духе «люди так предвзяты!» обычно имеют в виду «другие люди так предвзяты». Можно сформулировать это следующим образом: мы, люди, удивительно рациональны, если информация преподносится нам таким образом, что наша «конструкция» в состоянии ее обработать. Во всяком случае, такова позиция Йенса Коеда Мадсена. Он изучает человеческую рациональность в Лондонской школе экономики с позиции психолога. «Если вы сели и придумали дьявольский поведенческий эксперимент, на что у вас ушло два месяца, — говорил он, — возможно, он не сильно напоминает нашу повседневную жизнь. Ведь этот эксперимент — нечто искусственное. Если посмотреть на людей в их повседневной жизни, то в 90 % случаев они принимают правильные решения. Если я хочу выпить чашку кофе, я могу пойти в кафе и, заплатив, получить его». Он приводит другой пример. Был еще один знаменитый эксперимент, призванный показать, насколько мы все глупы, — это задача выбора Уэйсона, разработанная Питером Уэйсоном в 1966 году. Вот одна из его версий. На столе лежат четыре карточки. На каждой из них с одной стороны изображено число или фигура, а с другой — человек или животное. На лицевой стороне четырех карточек, которые вы видите, изображены звезда, восьмерка, девушка и кролик. Вам говорят, что если на одной стороне карточки имеется число, значит, на другой изображено животное. Какие карточки нужно перевернуть, чтобы узнать, правда это или нет?
Даю вам секунду на размышление! Я просто оставлю несколько разрывов между строк, чтобы, как я надеюсь, вы подумали над ответом, но случайно не увидели его. .. треньк-треньк.. .. Oкей. Итак. Большинство людей переворачивают восьмерку и кролика. В этом есть интуитивный смысл, поскольку утверждение касается чисел и животных, но ответ неверный. Правильный ответ — восьмерка и девушка. Это чистая пропозициональная логика в стиле Аристотеля и Джорджа Буля. Утверждение звучит так: « Если X (на одной стороне карточки изображено число) истинно, то Y (на другой стороне изображено животное) истинно». Можно показать, что это утверждение ложно, двумя способами. Вопервых, можно взять пример, в котором известно, что X истинно, и обнаружить, что Y не истинно; или пример, в котором известно, что Y не истинно, и обнаружить, что X истинно. То есть, мы смотрим на X и на не-Y. Можно перевернуть восьмерку, и если на другой стороне нет животного, то мы будем знать, что утверждение «Если число, то животное» ложно. (X, но не-Y.) Но если мы перевернем картинку, на которой нет животного, и обнаружим, что на другой стороне число, то это также докажет, что утверждение «Если число, то животное» ложно. (Не-Y, но все равно X.) Между тем, если вы перевернете картинку с изображением животного, и там не будет числа, это ничего не докажет. Утверждение «Если X, то Y» не опровергается утверждением «Если не-X, то Y».
Если вы ошиблись, не переживайте. Я видел этот вопрос с десяток раз и всегда с трудом складывал два и два, даже зная, что это фокус и что мне надо лишь вспомнить, в чем именно он заключается. В ходе первоначального исследования Уэйсон обнаружил, что менее 10 % респондентов ответили правильно, и последующие повторные эксперименты показали аналогичные результаты. Обычно об этом пишут, что эксперимент свидетельствует о том, что люди очень склонны к предвзятости подтверждения, и что вместо того, чтобы искать способы фальсификации гипотезы, мы ищем доказательства в ее поддержку, чтобы не оспаривать наши уже имеющиеся убеждения. Но Мадсен считает, что это своего рода подвох. «Вспомните годы своей учебы», — говорит он. «Вы пришли на вечеринку колледжа и знаете, что на ней запрещено подавать алкоголь несовершеннолетним». (Должен сказать, что когда я поступил в университет, мне было двадцать, и мое пьянство полностью соответствовало всем британским законам, но я сделаю вид, что мне задают тот же вопрос о старшеклассниках) [65]. Мадсен представляет себе следующую ситуацию: на вечеринку приходит полиция. Вы видите четверых своих друзей, и все они что-то пьют. Вы знаете, сколько им лет: одному двадцать один, другому — шестнадцать, но вы не знаете, что именно они пьют. При этом вы видите, что именно пьют двое других: один — апельсиновый сок, другой — пиво, но вы не знаете, сколько им лет. Как вы, наверное, уже поняли, это точный аналог задачи выбора Уэйсона. Вы можете представить с помощью четырех карточек, например, так:
Очевидно, что вам нужно проверить возраст парня, который пьет пиво, и что пьет друг, которому шестнадцать лет. «В этой ситуации все отвечают правильно», — говорил Мадсен. Если парень, которому двадцать один, пьет текилу — отлично. Если парень, которому шестнадцать лет, пьет апельсиновый сок — отлично'. Это не просто догадка Мадсена. Он испытал эти примеры на своих студентах и пришел к выводу, что все они всё понимают, когда эти примеры выражены таким конкретным образом: «Они просто проверят тех двух парней, чтобы вечеринку не разогнали». Исследование, которое опубликовали в 1992 году двое эволюционных психологов, также показало, что 75 % респондентов ответили правильно. Для сравнения: из тех, кому та же логическая задача была задана с более абстрактными условиями, правильно ответили менее четверти. «Задача выбора упоминается во всех учебниках, чтобы показать, насколько мы иррациональны, — рассказывал Мадсен. Но так ли это на самом деле, если поместить ее в нашу естественную среду?» «Если вам нужно, чтобы мы сформулировали это супер-абстрактным образом, чтобы добиться эффекта, есть ли эффект на самом деле, или он есть только в исследованиях? Кажется, некрасиво говорить людям: „Раз вы не справились с абстрактной задачей, которую я специально сформулировал очень хитроумно., значит, вы подвержены склонности подтверждать свое мнение и не можете толком ничего фальсифицировать“. Особенно когда люди вполне справляются с этим сто раз из ста в естественной среде». Похоже на правду: люди действительно неплохо умеют рассуждать, когда рассуждения происходят в привычном для них контексте. Стивен Пинкер рассказывал байку о бушменах — они же сан, — южноафриканском народе охотников-собирателей. Он узнал ее из исследований антрополога Луиса Либенберга. Вряд ли вам придет в голову мысль, что охотникисобиратели с юга Африки практикуют байесовские рассуждения, но Пинкер утверждает, что это именно так. На ладонной поверхности лапы дикобраза есть две так называемые проксимальные подушечки, расположенные ближе к запястью, промежуточные подушечки, соответствующие подушечкам на человеческой ладони, и пальцевые подушечки на когтях. Лапа медоеда имеет одну проксимальную подушечку. Обычно на отпечатке лапы видны все подушечки, но иногда — например, на твердой земле, — их видно лишь частично. Бушмены различают вероятность того, что медоед оставит след с одной подушечкой лапы — вероятность характеристик выборки, — и вероятность того, что след с одной подушечкой был оставлен именно медоедом — обратная (inferenced) вероятность [66]. След с отпечатавшейся
одной подушечкой может быть неполным следом дикобраза. Кроме того, бушмены учтут априорные вероятности: если они увидят нечеткий след, то решат, что он, скорее всего, принадлежит обычному животному, а не редкому. Именно так в точности и работает байесовское рассуждение. В современной жизни у нас часто тоже получается неплохо. Еще один распространенный прикол в духе «разве люди не иррациональны?»: можно дать людям текст одной и той же речи и сказать, что ее произнес политик, который им нравится, или политик, который им не нравится, и их реакция будет совершенно разной. Но, как отмечал Мадсен, именно так мыслят фреквентисты — предполагают, что для принятия решений мы можем использовать только текущие данные. Вообще-то это совершенно рационально, если, оценивая действия политика, мы учитываем собственные априорные представления о его порядочности. В 2016 году Мадсен с коллегами опубликовали статью, в которой спрашивали американских избирателей, считают ли они, что некий политический курс, скорее всего, будет правильным, если в его поддержку или с его критикой выступит тот или иной конкретный политик. В качестве политиков были названы пятеро самых медийных кандидатов на президентских праймериз — Хиллари Клинтон и Берни Сандерс от демократов, Джеб Буш, Марко Рубио и Дональд Трамп от республиканцев. Авторы попросили 252 человека оценить кандидатов по степени надежности и политической компетентности. (Если интересно, Сандерс получил самый высокий средний балл за надежность, Клинтон — самый высокий за компетентность, а Трамп — самый низкий по обоим показателям). Затем у участников исследования спросили их мнение о гипотетическом, неназванном политическом курсе, который политик либо поддерживает, либо критикует. Ожидаемо выяснилось, что априорные убеждения людей о надежности политика влияют на то, считают ли они, что политический курс, который поддерживает (или критикует) этот политик, правильный. Но что еще более интересно, ученые обнаружили, что люди демонстрируют в высшей степени байесовский подход: степень влияния их априорных убеждений на апостериорные оказалась очень близко соответствующей именно байесовской модели. «Это значит, что люди говорят: 'Я не доверяю ему, я думаю, он будет проводить плохую политику»«, — объяснял Мадсен. 'И такое отношение нельзя назвать иррациональным! Это всего лишь значит, что у вас разное отношение к разным людям». В целом, лучше всего думать о человеческой предвзятости как о продукте нашей умственной эвристики — наших обходных путей, которые позволяют избегать слишком сложных математических расчетов. Эвристика
доступности, упомянутая выше, вероятно, неплохо работает в большинстве случаев — она может давать сбои, когда мы думаем о резонансных трагедиях, например, о стрельбе в школе, но если речь идет о вещах из повседневной жизни, например, «насколько вероятно, что у меня будут неприятности, если я проеду на велосипеде на красный свет?», то она гораздо проще и эффективнее (и, вероятно, почти так же точна), чем попытки оценить частоты основных событий [67] и тому подобное. Простой пример — про брошенный мяч, который нужно поймать. Произвести расчеты — оценить его вероятную траекторию, переместиться в точку, где он упадет, и точно вовремя подставить и сжать руку — было бы невероятно сложно. Словами Дугласа Адамса, Мяч, летящий по воздуху, реагирует на силу и направление броска, действие гравитации, сопротивление воздуха, на преодоление которого он тратит свою энергию, турбулентность воздуха вокруг своей поверхности, а также на скорость и направление собственного вращения. И все же человек, которому может быть сложно осознанно посчитать, сколько будет 3 × 4 × 5, без труда решает дифференциальные уравнения и выполняет множество связанных с этим вычислений, причем с такой поразительной скоростью, что способен поймать летящий мяч. Но мы же так не делаем. Когда игрок видит, как мяч высоко летит в сторону границы поля, и устремляется туда же, чтобы его поймать, ему не нужны никакие дифференциальные уравнения. Нужна лишь так называемая эвристика взгляда. Психолог Герд Гигеренцер описывает ее следующим образом: «Зафиксируй взгляд на мяче и регулируй скорость бега так, чтобы угол взгляда оставался постоянным». Никакой математики здесь не требуется. Эксперименты показывают, что животные используют ту же систему — собаки ловят фрисби, удерживая его в поле зрения в одном и том же положении, в точности как бейсболисты, которые ловят мяч в аутфилде.
Экспериментаторы могут утверждать, что «ловцы» делают именно так, потому что если бы они сразу решили баллистические уравнения, чтобы предсказать, где приземлится мяч, они бы на полной скорости побежали по прямой именно туда, где окажется мяч, и ждали бы там. Они же меняют скорость бега по ходу движения, чтобы держать мяч под тем же углом в поле зрения, и на ходу же слегка меняют направление бега. Эвристика взгляда почти так же точна, как и реальный расчет траектории, но с вычислительной точки зрения гораздо проще. Во время Второй мировой войны в британских Королевских ВВС поняли, что с помощью эвристики взгляда могут наводить истребители на перехват вражеских бомбардировщиков, и что так это гораздо быстрее, чем выполнять математические расчеты. В управляемых ракетах типа Sidewinder AIM-9 тот же принцип применяется, чтобы сбивать самолеты противника. Принимая решения в условиях неопределенности, люди поступают примерно так же: используют простую эвристику, которая требует гораздо меньше усилий и времени, чем условно-вероятностные математические вычисления. Иногда, особенно в искусственных, лабораторных условиях, такие эвристические методы дают осечку и вводят нас в заблуждение, и тогда мы называем их «когнитивными искажениями». «Их очень много», — рассказывал Мадсен. «Если ты наблюдаешь чтото новое, ты говоришь, что нашел новую эвристику. Но никакой общей
теории здесь нет. Это как биология до Дарвина. Там полно противоречий». Например, есть эффект недавности(recency bias), когда человек отдает предпочтение более свежим свидетельствам. Но при этом есть и эффект привязки(anchoring): когда первое, что мы видим, как правило, определяет наши ожидания. А еще есть смещение (предвзятость) по частоте(frequency bias), когда данные или наблюдения склоняются к более частым событиям или значениям. «Эффект недавности указывает на то, что вы видели недавно, эффект привязки — на то, что вы увидели в первую очередь, предвзятость по частоте — на то, что вы видели чаще остальных событий или результатов, и [все равно] в теории принятия решений все это спокойно применяется? Не то чтобы мы всегда были рациональны: возможно, есть ловушки, в которые мы попадаем», — говорит Мадсен. «Возможно, склонность к подтверждению своей точки зрения, она же предвзятость подтверждения (confirmation bias), имеет очень глубокие корни, а ошибка конъюнкции (conjunction bias) — не очень. Вопрос только в том, насколько сильно все это влияет на поведение в пограничных ситуациях». Может быть, мы действительно весьма иррациональны и постоянно ошибаемся, но я не думаю, что это так'. Очевидно, что существуют некие характерные паттерны поведения человека, которые ответственны за наш иррациональный выбор [68]. Классический пример: в первые месяцы после терактов 11 сентября американцы, опасаясь летать, предпочитали ездить на дальние расстояния на машине. В одной работе, опубликованной в 2009 году, авторы пришли к выводу, что из-за этого в результате дорожных аварий могли погибнуть примерно 2300 «лишних» человек — примерно две трети от числа погибших в результате самого теракта, — поскольку летать в принципе гораздо безопаснее, чем ездить на машине. Возможно, так дают о себе знать мои политические пристрастия, но я бы добавил, что решение потратить триллионы на вторжение в Ирак и Афганистан, чтобы снизить и без того незначительный, хотя и очень наглядный риск терроризма, и почти ничего не потратить на снижение гораздо большего, но более труднопредставимого риска глобальных пандемий, было нерациональным для своего времени, и ретроспективный анализ это доказывает. Однако принимать решения в условиях неопределенности очень сложно. У нас нет полной информации, а интегрировать всю имеющуюся информацию в уравнение Байеса невозможно с точки зрения вычислений. Поэтому мы ищем «короткие пути» и используем эвристические методы. И, кажется, принятие инстинктивных решений с точки зрения Байеса не так уж вредно.
Даже когда речь заходит, скажем, о нерешительности в отношении прививок: если у вас низкий уровень доверия к системам общественного здравоохранения, то ваша априорная вероятность будет порождать недоверие к прививкам, и вы не станете особо следить за новыми данными, поступающими от экспертов. С учетом ваших априорных вероятностей это абсолютно рациональное поведение. Если кто-то хочет убедить вас в обратном, лучше пусть укрепляет ваше доверие к системе здравоохранения, а не забрасывает вас списками экспертов, утверждающих, что прививки безопасны. «Наверное, у вас что-то не так с присвоением априорных вероятностей», — говорил Мадсен. «Ну и ладно. Именно здесь и вступает в дело Байес — чудесный инструмент, и нам надо это понять». «В байесовских исследованиях, — продолжал Мадсен, — можно обнаружить, что, к сожалению или к счастью, люди не всегда в себе, но в целом все равно разумны. Так или иначе, всё у них нормально. И в этом нет ничего интересного или диковинного, и описание сего факта не поможет продать много книг в киоске аэропорта; но я все же думаю, что именно такая непривлекательность в какой-то степени даже и привлекательна. Таким образом мы и сообщаем, что мы — разумные, здравомыслящие люди. Если бы мы вели себя абсолютно нелогично, как это иногда нам подсказывает эвристика и всякие когнитивные эффекты и искажения, то как бы мы добились того, чего добились? Как построили бы сложнейшие системы и небоскребы? Конечно, у нас есть свои серые зоны и слабые места, но в целом-то всё у нас в порядке». Тем не менее верно и то, что когда дело доходит до эксплицитных оценок вероятности, люди не всегда настолько искусны. Об этом мы поговорим в следующем разделе, а затем поговорим и о людях, которые пытаются стать лучше.
Монти предлагает сделку Как мы уже видели, люди неплохо умеют рассуждать имплицитно, автоматически. Когда же ситуация требует от нас более формального, эксплицитного вероятностного мышления, наша эвристика сбивает нас с толку, и некоторые люди — даже те, кто определенно должен во всем этом разбираться, — просто не могут принять реальный ответ, даже когда он демонстрируется им со всей очевидностью. На американском телевидении есть игровое шоу под названием «Let’s Make a Deal»(«Давайте заключим сделку»). Участники должны заключить с ведущим несколько сделок. В первоначальной версии ведущим был некто Монти Холл. «Сделки» выглядели так: «Что вы предпочтете: [известную сумму денег] или [неизвестный подарок в ящике]?». Все они четко соответствовали байесовским принципам принятия решений в условиях неопределенности. Насмотревшись этой программы, статистик из Калифорнийского университета в Беркли Стив Селвин написал письмо в журнал American Statistician, в котором предложил следующий сценарий игры. Монти предлагает участникам три ящика — A, B и C. В одном из ящиков лежат ключи от большой машины Lincoln Continental, и если вы выберете его, то получите и машину, и ключи. Два других ящика пусты. Участник выбирает ящик B. Монти предлагает участнику 100 долларов. Внимательные читатели здесь подумают, что шанс один к трем получить машину стоимостью около 10 тысяч долларов отличается более высокой ожидаемой выгодой, чем беспроигрышные 100 долларов, и участник согласен с ними: он отказывается от предложения Монти. Монти увеличивает предлагаемую сумму до 500 долларов, но участник непреклонен. Дальше становится интересно. Монти открывает один из оставшихся ящиков на столе: мы видим, что ящик А пуст. После этого он говорит: «Итак, ключи от машины лежат в ящике С или в выбранном вами ящике B. Поскольку ящиков осталось всего два, теперь один шанс из двух, что ключи лежат в вашем ящике. Даю вам тысячу долларов за этот ящик». Участник отклоняет предложение, но — к удивлению Монти — выдвигает свое: «Готов обменять мой ящик B на ящик C». Все потому, что участник сообразил: шансы, что ключи в ящике B — не один шанс из двух,
а один из трех. Если он поменяет ящики, то шансы выиграть составят два шанса из трех. Загадка получила широкую известность в 1990 году, когда ее напечатали в виде письма к колумнистке журнала Parade Мэрилин вос Савант — обладательнице самого высокого в мире зафиксированного IQ (230). К тому моменту форма загадки претерпела небольшие изменения, но основа осталась та же. Вот как ее задали вос Савант: Предположим, вы участвуете в игровом шоу, и вам предлагают выбрать одну из трех дверей. За одной дверью стоит машина, за двумя другими — козы. Вы выбираете дверь, скажем, № 1, и ведущий, который знает, что находится за каждой из дверей, открывает другую дверь, скажем, № 3, за которой стоит коза. Он вам говорит: «Хотите выбрать дверь № 2?» Выгодно ли вам будет изменить свой выбор? Вос Савант не сомневалась ни минуты. Она согласилась с Селвином: правильное решение — изменить выбор двери. Если настоять на первоначальном решении, вероятность получить машину составит ⅓, а если изменить решение, то ⅔.
Странно, да? Большинству людей тоже так кажется. Ее ответ разозлил многих читателей вос Савант, в том числе нескольких докторов математических наук, например, один из них написал следующий отзыв: «Чушь!.. Как профессиональный математик, я очень обеспокоен отсутствием математических знаний у широкой публики. Прошу Вас, признайте свою ошибку и в будущем будьте более внимательны». Или вот такой: «Могу я предложить вам раздобыть стандартный учебник по теории вероятности и справиться с ним, прежде чем вновь пытаться ответить на такой вопрос?» Ответ также смутил Пала Эрдёша — одного из величайших математиков двадцатого века. Когда ему показали эту задачу, он настаивал: «Это невозможно. Нет никакой разницы от того, поменяете вы свое решение или нет». Большинство людей считают, что истинная вероятность равна 50 % — 0,5, и нет никакой разницы, поменяете вы выбор двери или нет. Но большинство ошибается. Разгневанные доктора наук были неправы, Эрдёш был неправ, а вос Савант и Селвин — правы. Если предположить, что Монти знает, за какой дверью стоит машина, и что он всегда открывает одну из других дверей, то вам следует изменить свой выбор. Есть несколько способов понять это интуитивно. Один из них — представить, что вместо выбора из трех дверей у вас изначально был выбор из миллиона дверей. Но машина стоит за одной из дверей. (И вы хотели бы ее — машину — заполучить). Вы выбираете одну дверь. Монти открывает 999 998 дверей, и за ними оказывается пустота. Теперь перед вами лишь две двери: изначально выбранная вами и еще одна. Еще можно представить задачу так: прежде чем Монти откроет дверь, шанс один к трем, что вы выбрали правильную дверь. В этом случае вам невыгодно менять свое решение. Однако с вероятностью два к трем вы выбрали неправильную дверь, и в этом случае вам выгодно изменить решение. Или предположим, вы сыграли в игру 300 раз. В ста случаях из этих трехсот вы выбирали нужную дверь, а изменение решения приводило к проигрышу. Но в двухстах случаях вы выбирали не ту дверь, но изменение решения приводило к выигрышу. Однако самое важное здесь то, что Монти, во-первых, знает, за какой дверью стоит машина, а во-вторых, всегда открывает дверь, за которой стоит коза. Если это условие принято или подразумевается, шансы легко вычислить с помощью правила Байеса. Вначале вероятность того, что машина стоит за любой из дверей, равна ⅓, или p≈0,33. У вас нет никакой информации, которая давала бы вам
основания выбрать какую-то одну дверь, а не другую. Но поскольку Монти знает, где стоит машина, и всегда открывает соответствующую дверь, вы таким образом получаете какую-то информацию, которая позволяет вам вычислить апостериорные и изменить свои априорные вероятности. Будет проще считать через отношение шансов [69]. Шансы на то, что машина находится за дверью № 1, № 2 или № 3, относятся как 1:1:1, то есть никакого различия в вероятностях между дверями нет. Это будет верно даже после того, как вы выберете дверь № 1. Затем Монти открывает дверь № 3, и за ней оказывается коза. Вероятность, что он мог открыть дверь № 3, если вы правы и машина стоит за дверью № 1, равна 50 %: он мог выбрать любую из других дверей. Если же машина стоит за дверью № 2, то тогда можно быть уверенным на 100 %, что он бы выбрал дверь № 3. И если машина стояла бы за дверью № 3, шанс тогда был бы равен 0 %. То есть относительные шансы 1:2:0. Они и дают вам условные вероятности или, другими словами, степени правдоподобия (likelihood), они же — байесовские факторы. А дальше при работе с относительными шансами в теореме Байеса все просто и удобно [70]: вы просто умножаете априорные шансы на байесовский фактор и получаете апостериорные шансы. 1:1:1 умножить на 1:2:0 = 1:2:0. Вы получаете, что машины нет за дверью № 3, и что шансов в два раза больше, что она стоит за дверью № 2, чем за дверью № 1. *** Но теперь вообразим другой сценарий, в котором Монти не всегда открывает не ту дверь или не всегда открывает дверь вообще. Или если вы не знаете, есть ли у Монти вообще какая-то особая стратегия. Представим, что Монти подбрасывает монетку, и если выпадает орел, он открывает ту дверь из двух оставшихся, у которой номер меньше. Или даже не так: сразу после того, как вы сделали выбор, происходит землетрясение, и одна из двух оставшихся дверей случайно распахивается. В этом случае вы не получаете никакой информации о том, что находится за выбранной вами дверью. Априорные шансы (prior odds) составляют 1:1:1, но вероятность того, что откроется именно дверь № 2, равна пятьдесят на пятьдесят независимо от того, правильно ли вы выбрали дверь, поэтому ваши шансы правдоподобия (likelihood odds) равны 1:1:0, а значит, и апостериорные шансы тоже равны 1:1. Получается, что нет никакой разницы, измените вы свой выбор или нет. Конечно, существовала 50-процентная вероятность того, что землетрясение или брошенная Монти
монетка «открыли» бы машину — вам бы тогда не повезло — но этого не произошло. Примечание научного редактора (подробное пояснение): Наиболее наглядный способ показать разницу того, что происходит при различных стратегиях Монти, — следующий. Давайте предположим, что Монти бросает монетку всегда. Напомним, что мы выбрали дверь № 1. Орел на монетке Монти означает дверь № 2, а решка — дверь № 3. В первом алгоритме действий Монти учитывает, что же там выпало на монетке, только когда машина за дверью № 1. Тогда он открывает дверь, на которую указала монетка. Если же машина за дверью № 2 или № 3, то Монти открывает ту дверь из этих двух, за которой машины нет, а показаниями монетки не пользуется. Итак, всего у нас 6 равновероятных вариантов (3 варианта расположения машины и 2 варианта выпадения монетки — итого 3×2 = 6). Из этих вариантов есть 2, в которых мы проиграем от смены двери и 4 — в которых выиграем. Значит, если Монти действует по первому алгоритму, то выгоднее менять дверь. При действиях по второму алгоритму Монти всегда открывает ту дверь, на которую указала монетка. Изначально у нас тоже 6 равновероятных случаев; однако после того, как Монти открыл дверь, мы узнали, что машины там нет. Таким образом, мы можем вычеркнуть те два варианта, где Монти открывал дверь, за которой машина. Остается всего 4 равновероятных варианта, по которым мы и считаем апостериорные вероятности. В двух из них менять дверь выгодно, а в двух других — нет. Итак, если Монти пользуется монеткой всегда, то мы в среднем ничего не выиграем от смены двери, однако и не проиграем тоже. А может ли быть у Монти такой алгоритм, при котором нам невыгодно менять дверь? Да! Например, если Монти всегда открывает машину, если она не за той дверью, что выбрали мы! Но вот тут нам и пригодится информация о том, из какой передачи взята эта игра. Ведь Монти Холл в первую очередь хочет не игрока победить, а получить интересное шоу! Значит, он заинтересован длить его подольше, предлагая разные сделки и тем самым развлекая зрителей. Если он сразу откроет машину, то лишит себя такой возможности!
Так что мы ожидаем, что Монти скорее всего воспользуется первым алгоритмом; возможно, также, что он воспользуется вторым или даже вероятностной смесью первых двух. Но мы ожидаем, что вероятность использования третьего алгоритма очень мала (но не является нулевой — вдруг у Монти внезапно схватило желудок и он хочет побыстрее закончить передачу). Кстати, можно считать разобранную нами сейчас информацию о вероятностях разных алгоритмов гиперприором. Итак, в соответствии с нашим гиперприором, дверь так или иначе надо менять. Может быть, мы выиграем в среднем не так много, как в случае, когда Монти гарантированно открывает дверь, за которой нет машины. В крайнем случае, мы не выиграем ничего. Но почти наверняка мы от перемены двери не проиграем. И снова вообразим, что все это разыгрывается 300 раз. В ста случаях из этих трехсот вы выбираете нужную дверь, потом Монти подбрасывает монетку и открывает одну из двух оставшихся дверей, за которыми пусто. Вы меняете решение и проигрываете. В других двухстах случаях вы выбираете не ту дверь. В ста из них Монти открывает другую не ту дверь. Если вы измените решение, вы выиграете. Но в оставшихся ста случаях Монти открывает дверь, за которой стоит машина, и игра заканчивается. То есть в двухстах «вселенных», где игра продолжается, есть сто, в которых изменение решения выгодно, и еще сто, в которых невыгодно. Байесовское рассуждение требует использовать всю имеющуюся в вашем распоряжении информацию. Вы не просто знаете, что Монти открыл дверь: вы знаете (или у вас есть причина так считать) его алгоритм, по которому он открывает ту конкретную дверь. Вы знаете, почему он открыл именно ее. Эта информация меняет ваши представления, а следовательно и вашу оценку вероятности, что машина стоит за той или иной конкретной дверью. Тем не менее, это кажется нам странным. Так же, как странно, что вы можете получить положительный результат теста с 95-процентной точностью и при этом иметь лишь 2-процентный шанс заболеть тем заболеванием, на которое сдали тест. Все это становится еще более странным (по крайней мере, для меня) во втором примере — «парадоксе мальчика и девочки», который предложил американский популяризатор науки Мартин Гарднер в 1959 году. Представьте, что вы встречаете женщину-математика, и она говорит вам, что у нее двое детей. Вы спрашиваете, не является ли один из них мальчиком. (Вопрос странный, но эта задача очень чувствительна к
малейшим изменениям в формулировках, поэтому тут надо быть внимательным). Она отвечает, что да, как минимум один из ее детей — мальчик. Какова вероятность, что она — мама двух мальчиков? Она очевидным образом должна составлять пятьдесят на пятьдесят. Второй ребенок — либо мальчик, либо девочка! Не имеет значения, кем является ребенок, о котором вы знаете! Но… это не так. Шансы здесь снова один из трех. Как вы, возможно, догадываетесь, это сводит меня с ума. Однако и избежать этого ответа никак нельзя. Еще Ферма и Паскаль почти 400 лет назад поняли, что главное — это число возможных исходов (при условии, что все эти исходы равновероятны). У мамы двоих детей может быть четыре возможных варианта их пар: девочка-девочка, девочка-мальчик, мальчик-девочка и мальчик-мальчик. Все эти варианты в первом приближении равновероятны. Если вы знаете, что хотя бы один из детей — мальчик, но не знаете, кто из них, то вы исключаете одну из этих комбинаций — девочка-девочка. Девочка-мальчик, мальчик-девочка и мальчик-мальчик остаются. У вас уже есть один мальчик, если можно так сказать. Значит, второй ребенок — либо девочка, либо девочка, либо мальчик. Неизвестный ребенок в два раза вероятнее окажется девочкой, чем мальчиком. (Что мне кажется странным, потому что это выглядит как какой-то странный квантовый эффект, где знание о поле одного ребенка влияет на пол другого). И опять же это зависит от гораздо большего числа факторов, чем просто тот факт, что у вас же «есть» мальчик. Если вы знаете, что старший ребенок — мальчик, вы исключили две возможных комбинации — девочкадевочка и девочка-мальчик. То есть остается только два варианта: мальчикдевочка и мальчик-мальчик. Апостериорная вероятность того, что второй ребенок — мальчик, равна 50 %. Или представьте себе, что если бы к вам подошла математик и сама сказала, что у нее двое детей и один из них — мальчик, вы бы, скорее всего, не подумали: «И мне совершенно неизвестно, кто второй!». Я бы, по крайней мере, предположил, что второй ребенок — девочка (она же не сказала: «Оба мальчики»). Математика здесь совершенно такая же, как и в приведенной выше задаче про Монти Холла [71]. Но почему-то она мне кажется гораздо более контринтуитивной, и мне захотелось поделиться с вами своим разочарованием. И, я думаю, я такой не один. Людям трудно разбираться в вероятностных рассуждениях, то есть реально высчитывать числа и проценты, а не применять интуитивную эвристику, как в случае с расчетом
траектории полета мяча. Дальше я хочу поговорить о некоторых людях, которые все же пытаются разбираться.
Суперпрогнозирование, часть 1 Я люблю эту историю и постоянно ее рассказываю, так что если вы уже что-то читали из написанного мной, то, возможно, ее знаете. Заранее прошу прощения. В 1984 году Холодная война была в самом разгаре. СССР и США накопили огромные запасы ядерных вооружений, напряжение нарастало. Я родился в 1980‐м, и большая часть моего детства прошла с фоновым допущением, что ядерная война будет. На Би-Би-Си показывали телефильм о ядерной войне «Нити» (Threads), чуть позже вышел мультик на ту же тему «Когда дует ветер», Стинг в одной из песен вопрошал, любят ли русские своих детей так же, как мы, искусство того времени создавалось, выражаясь словами группы Queen, в тени ядерного гриба (in the shadow of the mushroom cloud). Напряженность была отчасти вызвана неопределенностью. Советский генсек Леонид Брежнев, ставший у руля власти в 1964 году, умер на своем посту в 1982‐м. На смену ему пришел Юрий Андропов, которому тогда уже было шестьдесят восемь лет, и чувствовал он себя не очень. В начале 1983‐го у него отказала почка, и год спустя он умер, проведя большую часть оставшегося ему времени в полубессознательном состоянии на больничной койке. Сменщиком Андропова стал Константин Черненко — по словам одного историка, «немощный старик, настолько напоминавший зомби, что уже не мог адекватно оценивать доклады разведки» и, по общему мнению, тоже должен был вскоре уйти в мир иной. Администрации президента Рональда Рейгана с трудом удавалось налаживать какие-то отношения с советским государством, и, согласно широкому консенсусу, вслед за Черненко к власти должен был прийти какой-то другой советский ястреб. Напряженная обстановка стала причиной жутких ошибок. В сентябре 1983‐го самолет южнокорейской авиакомпании Korean Air Lines, следовавший рейсом 007, по ошибке оказался в советском воздушном пространстве. Москва направила истребители на перехват,
которые по ошибке сбили его. Среди 268 погибших был американский конгрессмен. Затем мир оказался до ужаса близок к ядерной войне. Каждую осень армии НАТО проводили командные учения под названием «Able Archer» («Умелый лучник») — отрабатывали действия на случай тотальной ядерной атаки. В 1983 году они пришлись на ноябрь. На этот раз учения выглядели более масштабными, чем в предыдущие годы, и предусматривали более реалистичную коммуникацию и участие глав правительств. Москва всё видела и убедила себя в том, что это уловка для прикрытия реального нападения. На советские бомбардировщики начали грузить ядерные боеголовки. Только некий «удачно внедрившийся шпион» в лондонской резидентуре КГБ, который, передав информацию в Вашингтон через британскую разведку, предупредил Белый дом о том, как близко он подошел к тому, чтобы случайно спровоцировать ядерную катастрофу. В этой напряженной атмосфере Национальный исследовательский совет, входивший в состав Национальной академии наук США, получил грант на создание группы, которой было поручено «предотвратить ядерную войну». В состав комиссии вошли очень известные исследователи. Среди них был и Амос Тверски, уже известный нам своими исследованиями, которые он проводил вместе с Даниэлем Канеманом. Три других члена группы к тому моменту получили Нобелевскую премию. Остальные были высокопоставленными военными, советологами, госчиновниками. «Безусловно, наименее заметным членом группы», по его собственным словам, оказался тридцатилетний новоиспеченный доцент политической психологии Калифорнийского университета в Беркли по имени Филип Тетлок. Тетлок заметил следующее: все были согласны с предположением, что после неизбежной и скорой смерти Черненко его заменит другой угрюмый пожизненный член Политбюро, но разошлись во мнениях, почему именно. Либерально настроенные члены группы считали, что жесткая антисоветская политика Рейгана усиливает сторонников жесткой линии в Кремле и делает потенциальные реформы невозможными. Консерваторы считали, что советская система изначально устроена так, что плодит лишь автократов-ястребов, и поэтому она просто породит нового автократа-ястреба. «В своих воззрениях они были одинаково уверены», — писал потом Тетлок.
Они не ошиблись в том, что Черненко скоро умрет: на своей должности он едва продержался год. Но потом произошло нечто, чего не ожидали ни либералы, ни консерваторы. Политбюро назначило преемником Черненко Михаила Горбачева — моложавого в свои пятьдесят четыре, энергичного, убежденного реформатора. Горбачев сразу же взялся за работу. Началась эпоха перестройки и гласности. Он попытался наладить контакты с Рейганом и США; американский президент охотно, хотя с осторожностью пошел навстречу. Через несколько месяцев оба лидера уже обсуждали разоружение. Ни либералы, ни консерваторы этого не предсказали. Но Тетлок кое-что заметил: что обе группы, казалось, считали, что всё это вполне имеет смысл, учитывая представления, которые у них уже были, и что они знали, что должно было произойти дальше, хотя вовсе не предсказывали этого. Либералы считали, что никакой заслуги Рейгана в произошедшем вообще нет: просто, мол, в советском руководстве сменилось поколение, и к власти пришли люди, уставшие наблюдать, как рушится экономика СССР. Консерваторы считали, что это Рейган своей гонкой вооружений довел ситуацию до точки, когда Советский Союз оказался больше не в состоянии поддерживать паритет на прежнем уровне и вынужден был сойти с дистанции. В общем, обе стороны считали, что совершенно непредвиденные события доказывают, что они были правы с самого начала. Тетлок пришел к выводу: видимо, что бы ни случилось, эксперты говорили бы то же самое. *** Через несколько лет Тетлок начал новое исследование. Он задумал проверить суждения всех этих экспертов. Не то чтобы он засомневался в их интеллекте или честности, но ему показалось, что, возможно, каждый из них, столкнувшись с неожиданной информацией, просто нашел способ сказать, что эта новая информация лишь доказывает, что все их изначальные представления оказались верны. Тетлок собрал 284 эксперта — журналистов, военачальников, политиков, ученых — и попросил их сделать более 30 тысяч
прогнозов. Важно, чтобы прогнозы были фальсифицируемыми и ограниченными по времени: экспертам, например, задали вопрос «будет ли курс иены по отношению к немецкой марке через месяц выше, чем сейчас?». Предсказания должны были быть подкреплены цифрами, чтобы избежать, по выражению Тетлока, «расплывчатого словоблудия». Если кто-то говорит, что нечто вероятно или может произойти, неясно, что он на самом деле имеет в виду. Случаются ли вероятные вещи в 30 % случаев или в 60 %? Если нечто может произойти, значит ли это, что вероятность составляет 5 % или 50 %? Исследования показали, что люди употребляют подобные слова совершенно по-разному: фраза «реальная возможность» может означать 20 % или 80 % вероятности в зависимости от того, кто ее произносит. И, конечно же, говорящий не привязан к какому-либо исходу. Если предсказанное произойдет, он может сказать, что его прогноз сбылся. Если нет, то легко сошлется на то, что говорил лишь, что это могло произойти. «Я могу с уверенностью предсказать, что завтра на Землю могут напасть инопланетяне», — писал Тетлок. «А если не нападут? Все равно нельзя будет сказать, что я ошибся. Ведь словосочетание „могут напасть“, по сути, сопровождается невидимой звездочкой и напечатанной мелким шрифтом сноской: „но могут и не напасть“». Поэтому Тетлок попросил экспертов дать точные цифры. Например, такие: вероятность того, что суверенный фонд Греции объявит дефолт в этом году, составляет 45 %, а вероятность того, что в результате боевых действий между Северной и Южной Кореей до 2030 года погибнет более 100 человек, — 10 %. Дальше — в течение последующих месяцев и лет — исследователи смотрели, сколько из этих предсказаний сбылось. Но что самое интересное, каждого из «прогнозистов» попросили сформулировать примерно 100 прогнозов. Некоторые из них должны были сбыться на 80 %, другие — на 40 % и так далее. («Уолтер Мондейл победит на демократических праймериз, 65 %» или что-то в этом роде). В конце исследования авторы посмотрели, сколько прогнозов сбылось. Если сбывались 60 % прогнозов, в которых эксперт указывал вероятность на уровне 60 %, и 30 % из тех, где вероятность была указана как 30-процентная, и так далее, значит, прогнозная способность у эксперта «хорошо откалибрована», а сам он
адекватен в своих прогнозах. Если предсказания сбывались чаще, чем эксперты думали, значит, они были недостаточно уверены в себе. Если реже, то слишком самоуверенны. Конечно, качественное прогнозирование — это не только «калибровка». Если эксперт каждый раз оценивал вероятность в 50 %, то, в зависимости от вопросов, он вполне мог бы показать отличный результат при проверке «калибровки» его прогнозных способностей. Но в качестве прогнозиста толку от него не будет, потому что реальной информации он никакой не даст. Поэтому в своем исследовании Тетлок также поощрял (оправданную) точность. Если человек давал прогноз на уровне 90 %, и он сбывался, то он получал больше баллов, чем за 60-процентный прогноз. Если же 90-процентный прогноз не сбывался, эксперт терял дополнительные очки. Показатель Бриера Для оценки способностей своих экспертов Тетлок использовал так называемый показатель Бриера. Показатели Бриера разработаны в сфере прогнозирования погоды и служат для оценки точности предыдущих прогнозов. Чем ниже показатель Бриера, тем качественнее прогноз. Работает он так: берется квадратичная ошибка прогноза. После того как прогноз сбывается (или не сбывается), его вероятность становится равной 1 (или 0). Ошибка — это разница между ним и изначальным прогнозом. То есть если по изначальному прогнозу вероятность того, что вы придете на работу вовремя, составляет 80 %, вы записываете этот показатель как 0,8. Если вы пришли на работу вовремя, то должны будете вычесть 0,8 из 1, и ошибка составит 0,2. Затем вы возводите ее в квадрат и получаете 0,04. Если вы не пришли на работу вовремя, то должны будете отнять ваш показатель от 0, и ошибка получится –0.8. Какой бы ни была ваша ошибка, вы возводите ее в квадрат. То есть ваши –0,8 превращаются в 0,64. (При возведении в квадрат отрицательного числа всегда получается положительное число).
Если бы вы подошли к делу осторожнее и сказали бы, что вероятность составит всего 60 %, то вас бы не так щедро вознаградили, если бы вы оказались правы, ваша ошибка в квадрате составила бы 0,4^2, или 0,16, а не 0,04. Но если бы вы ошиблись, то были бы наказаны менее сурово: вместо 0,64 у вас было бы 0,36. Это простейшая форма применения показателя Бриера для выбора между двумя вариантами. Если прогнозисты выбирают между несколькими вариантами или из непрерывного ряда результатов — скажем, курс фунта стерлингов по отношению к доллару на 14 декабря 2024 года — то для этого есть несколько более сложные версии этого показателя. Но базовая идея та же. Через несколько лет Тетлок проанализировал результаты, и оказалось, что средний прогнозист справляется со своей задачей ненамного лучше, чем если бы мы сами занялись случайным гаданием. Тетлок даже обронил запомнившуюся многим фразу, о которой он впоследствии немного пожалел: эксперты, мол, ничем не лучше «шимпанзе, играющего в дартс». Как сам он писал в книге «Superforecasting»(«Суперпрогнозирование») три десятилетия спустя, пожалел он о сказанном из-за того, что люди неправильно его поняли: они сочли, что все эксперты занимаются случайным гаданием. В действительности они разделились на непохожие друг на друга группы. Некоторые считали, что мир прост, и его можно простым образом объяснить (и предсказать): по Тетлоку, у них была некая «одна большая идея», которую они как бы накладывали на любую ситуацию. Другие считали, что мир сложен, что в каждой ситуации важна конкретика и детали, а предсказания сложны и неопределенны. Людей с большой идеей он назвал «ежами», тех, кто исповедовал принцип «жизнь — сложная штука» — «лисами», воспользовавшись цитатой, которую Исайя Берлин взял у греческого поэта Архилоха: «Лиса знает многое, а еж — одно, но большое». И именно ежи справлялись не лучше шимпанзе, если позволите смешать тут зоологические метафоры.
В качестве примера ежа Тетлок привел Ларри Кадлоу — эксперта телеканала CNBC, который раньше работал экономистом в администрации Джорджа Буша-младшего. Его «большая идея», по словам Тетлока — экономика, ориентированная на предложение: он считал, что снижение налогов будет ее стимулировать. Когда Буш снизил налоги, Кадлоу ожидал мощного экономического подъема и потом заявлял, что был прав, несмотря на то, что данные по ВВП и занятости ему противоречили. Вплоть до финансового кризиса 2008 года Кадлоу продолжал настаивать на том, что в мире происходит «бум Буша». Но, как замечал Тетлок, это не повредило его карьере: в 2009 году Кадлоу начал вести новую программу в прайм-тайм. А всё потому, что «ежи» рассказывают приятные и понятные истории: о том, что снижение налогов — всегда во благо, что надо обложить миллиардеров большими налогами, что проблема в том, что наши враги ненавидят нашу свободу, или что колониализм белых — корень всего зла. Такие истории легко «упаковать» для средств массовой информации. Поэтому, хотя СМИ преднамеренно не выбирают плохих прогнозистов, они «ищут „ежей“, которые оказываются плохими прогнозистами». «Лисы», в свою очередь, справились с задачей несколько лучше. Не блестяще — многих из них все равно победили простые алгоритмы типа «предсказывай отсутствие изменений». Но все равно их результат оказался лучше, чем случайные догадки. Некоторые справились гораздо лучше. Два процента самых лучших Тетлок назвал «суперпрогнозистами».
Суперпрогнозирование, часть 2 Работа Тетлока интересна для нас тем, что показала: люди, которые лучше всего прогнозируют будущее — суперпрогнозисты, — мыслят как байесианцы. Иногда они явным образом делают расчеты, но даже без них они во многом задействуют априорные вероятности и новые данные. Один из суперпрогнозистов, Майкл Стори, который сейчас возглавляет компанию Swift Centre, занимающуюся как раз прогнозированием, привел мне пример в интервью, которое я брал у него несколько лет назад для документальной радиопрограммы. «Представьте, что вас пригласили на свадьбу. И кто-то вас спрашивает: 'Как вы думаете, этот брак будет удачным?» Предположим, вы хотите дать вежливый ответ. Тот, у кого нет большого опыта вероятностного мышления, может быть ошеломлен всей информацией, которая на него обрушилась на свадьбе. Вы видите, как счастлива пара, играет приятная музыка, все красиво одеты, накрыты столы. И вы переводите это ощущение в вероятность. Вы можете сказать: «Даю 90 %»«. Прогнозисты называют такие ситуации 'взглядом изнутри»: когда люди судят о вероятности по конкретной ситуации, которую видят перед собой. Но суперпрогнозист начнет с другой стороны. Он будет смотреть на референтный класс(reference class) или базовую вероятность(base rate). Это совокупность схожих событий, которые можно использовать в качестве отправной точки. Например, в случае со свадьбой это может быть тот факт, что от 35 % до 40 % браков в Британии заканчиваются разводом [72]. Это так называемый «взгляд со стороны», когда люди судят о вероятности по тому, как часто нечто подобное происходили в прошлом. После этого они задействуют взгляд изнутри, чтобы обновить базовую вероятность. Дальше можно использовать и другие факторы, например, возраст, социальный класс или уровень образования молодых (и степень влияния этого фактора на статистику); или это просто собственное мнение прогнозиста о том, насколько хорошо пара подходит друг другу.
Нетрудно понять, что «взгляд со стороны» — это просто поиск априорной вероятности. Априорная вероятность развода составляет около 0,4 за весь период брака, если не знать ничего кроме того, что семейная пара — британцы. Затем вы получаете дополнительную информацию, например, считаете ли вы, что новобрачные хорошо подходят друг другу. Такая информация выступает в качестве условной вероятности или байесовского фактора, и вы используете ее, чтобы получить апостериорную вероятность. «Я не подводил всё специально под закон Байеса», — рассказывал Дэвид Манхейм, еще один суперпрогнозист, которого мы уже знаем. «Но концептуально это была модель, которую я использовал имплицитно.» Удивительно, насколько многое [в работе Тетлока] является прямым следствием теории вероятности в (весьма байесианской) интерпретации Эдвина Т. Джейнса, о которой мы говорили в начале третьей главы. Как вынести суждение, собрав его из отдельных вероятностных оценок? Это неприятная проблема, но глядите, как она решается математически. Насколько нужно обращать внимание на базовые вероятности? Они должны служить вашими априорными вероятностями. Конец. «Насколько „взгляд изнутри“ должен изменить ваше мнение? Вам нужна функция правдоподобия (likelihood function), чтобы сказать, насколько должно измениться мое мнение на основе этой информации, вместо „Что говорит эта новая замечательная информация?“». Большинство из нас, однако, не держат базовые вероятности в голове, поэтому наши убеждения меняются под воздействием каждого нового элемента информации. Как говорил Манхейм, «если каждый раз, когда вы получаете новые данные, вы начинаете всё сначала, то, очевидно, ваши оценки будут скакать в разные стороны и будут чрезмерно сфокусированы на самых последних событиях». (Обри Клейтон, вероятно, сказал бы, что именно так действуют фреквентисты). Конечно, чтобы быть хорошим прогнозистом, нужно учитывать не только базовые вероятности. Прежде всего, «использование новых данных в качестве функции правдоподобия» звучит просто и понятно, но в большинстве случаев нельзя просто провести математические расчеты: люди по-прежнему опираются на собственное суждение, когда решают, насколько сильно следует отклониться от базовой вероятности. «Вам нужно вынести оценочное, субъективное суждение,
насколько релевантна та или иная информация», — говорил еще один суперпрогнозист Джонатон Китсон. «Не все попадает в модель прогнозирования, и вот тут-то и приходит на помощь суждение. Я вообще не очень разбираюсь в математике, но, наверное, мыслю вполне по-байесовски, потому что постоянно обновляю информацию». Есть и другие приемы, к которым прибегают хорошие прогнозисты. Один из таких приемов — «оценка Ферми», названная в честь великого физика-ядерщика Энрико Ферми. Классический ее пример — задача, которую Ферми дал своим студентам: определить, сколько настройщиков пианино живут в Чикаго. Большинство людей подумают, что ответить на этот вопрос невозможно, или просто возьмут некое число с потолка. «Не знаю, тысяча?» Но Ферми разбил вопрос на более мелкие, столь же неизвестные, но легче угадываемые фрагменты. Вот как Тетлок вывел это число с помощью системы Ферми. Чикаго — довольно большой город. Он меньше Лос-Анджелеса, где живет около 4 миллионов человек, но, вероятно, ненамного. Допустим, население Чикаго — 2,5 миллиона. У скольких из них есть пианино? Тетлок прикинул: у одного человека на сто жителей, плюс примерно столько же в школах и мюзик-холлах, то есть всего в Чикаго должно быть 50 тысяч пианино. Как часто пианино нужно настраивать? Наверное, раз в год. Пусть будет так. Сколько времени занимает настройка пианино? Часа два. Средний американец работает примерно сорок часов [в неделю] и пятьдесят недель в год (так утверждал Тетлок; звучит довольно мрачно, но ладно). Это две тысячи часов, но представим, что 20 % времени он тратит на переезды между клиентами, так что в год получается 1600 часов. Это 800 пианино. Если все пятьдесят тысяч пианино нужно настраивать каждый год, а каждый настройщик может настроить 800 из них за год, то для поддержания всех чикагских пианино в исправном состоянии вам потребуется примерно 50 000 / 800=62,5 настройщика. Ферми обнаружил, что если оценки разбивать аналогичным образом, обычно получаются ответы, не слишком далекие от реальных цифр [73]. Тетлок утверждал, что реальный ответ — около восьмидесяти, так что его оценка впечатляет своей точностью. Похожие расчеты можно применить и к вероятности [74]. Насколько вероятно, что смерть Ясира Арафата была вызвана
отравлением, если воспользоваться другим примером Тетлока? Лидер Организации освобождения Палестины Ясир Арафат умер в 2004 году. В 2012‐м швейцарские исследователи объявили, что в некоторых его вещах обнаружили необычно высокую концентрацию полония-210. (Полоний-210 — высокорадиоактивный изотоп, с помощью которого убили российского диссидента Александра Литвиненко в Лондоне в 2006 году). Тело Арафата эксгумировали, после чего провели тесты на наличие полония. Организация, в которой работал Тетлок, обратилась к прогнозистам: «Найдут ли полоний в останках Ясира Арафата?» [75]. Какова вероятность этого? Тетлок предупреждает, что если сильно не задумываться, можно сразу сделать вывод — «Конечно, это Израиль!» или «Израиль никогда бы этого не сделал!» — и присвоить соответствующую вероятность: что-то вроде 100 % или 95 % в первом случае и 0 или 5 % — во втором. Дальше Тетлок показал, как все это рассчитал суперпрогнозист — он разбил вопрос на несколько вопросов: «Как полоний мог оказаться в организме Арафата и насколько вероятен каждый из путей его попадания в организм?»; «Каков период полураспада полония?», «Если ведущие спецслужбы считают, что имеет смысл провести расследование, насколько вероятным они должны считать отравление?». Такие вопросы можно оценить и изучить по отдельности [76]. В итоге суперпрогнозист [77] дал 65-процентную вероятность, что в ходе расследования будет найден полоний: так и оказалось. [78] Хорошие прогнозисты также задействуют мудрость толпы, то есть обновляют свои прогнозы на основе того, что говорят другие люди. Среднее значение прогнозов нескольких прогнозистов, скорее всего, будет точнее прогноза любого отдельно взятого прогнозиста по той же причине, что и оценки Ферми: потому что ошибки прогнозистов имеют тенденцию к взаимному сглаживанию [79]. Но можно проворачивать и более изощренные расчеты. «Самое простое — это усреднение», как говорил Майк Стори. «Предположим, что причиной разногласий экспертов является случайный шум. Но мы также знаем, что люди различаются по своей способности делать точные прогнозы, и это может дать вам подсказку, к кому стоит прислушиваться. Если они предсказывают что-то ужасное каждые полгода на протяжении последних 20 лет, возможно, стоит обращать на них чуть меньше
внимания. Но на эксперта, чья прогнозная способность хорошо откалибрована и за плечами у которого хороший послужной список, вы обратите гораздо больше внимания». В байесовских понятиях прогнозы от надежных прогнозистов считаются более информативными: они похожи на функцию правдоподобия с более резким пиком, который сдвигает вашу априорную вероятность дальше. И, что самое важное, прогнозисты ведут счет. Фиксируйте свои прогнозы публично и смотрите, сколько из них сбывается, сбываются ли ваши 60-процентные предположения в 60 % случаев и так далее. Иначе очень легко забыть свои несбывшиеся прогнозы и вспомнить сбывшиеся. «Люди скажут вам, что они хотят быть правы в своих суждениях о тех или иных вещах», — говорил Стори. Но проявляться это может двумя разными путями. Это может означать, что у них есть какое-то представление, и они не хотят слышать от других людей, что оно ошибочно. А может означать, что они хотят избавиться от представлений, действительно являющихся ошибочными. 'Таким образом, ваше стремление быть правым может увести вас в двух разных направлениях: заставит вас навязывать свои взгляды другим людям или отбросить идеи, которые заставляют вас ошибаться. Публичность ваших прогнозов будет стимулировать вас к тому, чтобы информация, которой вы располагаете, оказалась верной. Невозможно заставить всех соглашаться с вами. Вы сделали конкретный прогноз, записали его и зафиксировали уровень своей уверенности. Вы обнародовали его, и теперь вы ничего не можете с ним больше сделать. [Если он неверный,] единственный способ быть правым — изменить свою точку зрения' [80]. Всё это опять же очень по-байесовски. У вас есть некое априорное представление, которое позволяет сделать некий прогноз; прогноз не сбывается; вы снижаете силу своего убеждения. *** Возможно, все это звучит очень просто. Но люди довольно редко мыслят в категориях вероятности и процента: мы склонны думать «это произойдет» или «это не произойдет» (или иногда «может быть, это произойдет»). И когда вы предлагаете людям оценить свои
представления в процентах, они обычно ведут себя слишком самоуверенно. На семинаре по прогнозированию, в котором я участвовал, Майк Стори и его коллеги дали нам всем упражнение. Нам задали несколько вопросов, среди которых были, например, такие: «В каком году песня Селин Дион My Heart Will Go On стала хитом номер один в чартах?» или «Сколько голов в матчах Премьер-лиге забил Джон Барнс, играя за „Ливерпуль“ против „Лидс Юнайтед“?». Затем нас попросили назвать диапазон чисел, в пределах которого окажется истинный ответ, в котором мы уверены на 90 % (например, 1994:2000 или 1:8). «Если попросить людей назвать „интервал 90-процентной уверенности“, — говорил Стори, — то цифры, которые они назовут, чаще всего правильнее было бы обозначить диапазоном уверенности 50 % или 60 %». Иными словами, их ответы, данные с 90-процентной уверенностью, ошибочны как минимум в 40 % случаев. «Это стандартная история, она описана в литературе. Всякий раз, когда я беру группу друзей или коллег и прошу их назвать диапазон уверенности, обычно видно, что люди слишком уверены в себе». Вы можете проверить «калибровку» своих способностей и уровень уверенности в интернете. Так, благотворительная организация под названием 80,000 Hours предлагает хорошее (хотя и несколько трудоемкое; в нем 100 вопросов) упражнение на сайте 80000hours.org/calibration-training [81]. Как мы уже успели убедиться, нельзя быть байесианцем без априорных вероятностей. Не имея представления о том, насколько вероятным нечто было до того, как вы увидели данные, нельзя утверждать, насколько это нечто вероятно после того, как данные стали вам известны. Можно сказать, что специфичность [82] теста на ковид составляет 99 %, поэтому вероятность того, что результат будет положительным, если у вас на самом деле нет ковида, составляет один к ста. Или можно сказать, что p-значение 0,05 или ниже вы увидите только один раз из двадцати, если эффект, который вы ищете, на самом деле не существует. Но без априорных вероятностей нельзя сказать, насколько вероятно, что у вас есть ковид, или насколько вероятно, что вы нашли реальный эффект. Это верно и когда мы принимаем решения в реальном мире, так же как и в случае с научными и статистическими вопросами. В чем
суперпрогнозисты хороши, по крайней мере отчасти, так это в нахождении подходящих базовых или априорных вероятностей. Иногда, как в примере Майка Стори с разводами, они достаточно очевидны: можно посмотреть на фактические цифры, оценить, сколько браков не распадается, и использовать эту цифру в качестве отправной точки. Но часто все устроено гораздо тоньше. Если вы хотите предсказать, скажем, ввод войск России в Украину, какова ваша базовая вероятность? Среднее число наземных вооруженных конфликтов в Европе за год? Среднее число вводов войск России в Украину за год? Это тонкое искусство — выбрать подходящий референтный класс, с которым вы будете сравнивать свой пример. Ну и, конечно, нужно знать, как и когда отступать от этой базовой вероятности. «Самое главное — определить базовую вероятность», — говорил Джонни Китсон. «Но я всегда говорил, что настоящая ценность суперпрогнозирования заключается в том, чтобы распознать, когда базовая вероятность отклоняется от нормы. После 1945 года наземные войны в Европе случаются редко: годовая базовая вероятность составляет менее 5 %, но к декабрю 2021 года вероятность того, что в Украине начнется война, составляла около 60 %, а к середине января достигла 80 %» [83]. (Здесь можно вспомнить раздел о «гиперприорах» в третьей главе. В какой момент вам нужно будет обновить свою модель мира?) Люди ведут себя как истинные байесианцы, когда действуют инстинктивно, но большинство из нас не очень справляется, когда приходится прибегать к реальным цифрам. У некоторых, впрочем, получается хорошо. Даже если они не пользуются правилом Байеса в буквальном смысле, они все равно следуют байесовскому подходу.
Байесовская эпистемология Приятная особенность байесовского взгляда на мир заключается в том, что он позволяет решать множество философских головоломок, которые другие эпистемологии находят крайне запутанными. Например, существует спор об определениях и тождествах, восходящий как минимум к немецкому философу XIX века Артуру Шопенгауэру. Например, что такое «игра»? Люди занимаются играми ради развлечения? Есть же много занятий, которым мы отдаемся ради развлечения, но при этом они не являются играми, например, катание на лыжах или чтение книг. А еще многие люди играют в игры не ради развлечения, а по другим причинам, например, ради физической активности или за деньги. Тогда что это — состязание? Нет: опять же, бывают игры коллективные, а бывают такие, в которые люди играют в одиночку, а еще состязания, которые не являются играми (разве лотерея — это игра?). Может быть, это вид деятельности с некоторыми правилами? Не во всех играх есть правила: моя дочь играет в классные игры, требующие воображения, в которых она рассаживает свои плюшевые игрушки в… честно говоря, я не понимаю, что она там делает с ними. То есть «правил» как таковых в этой игре нет. Конечно, дело не только в играх, хотя это самый яркий пример. Однажды Верховному суду США пришлось разбираться, является ли фильм «The Lovers»(«Любовники») «жесткой порнографией». «Сегодня я не буду пытаться определить виды материалов, которые, как я понимаю, подпадают под это краткое описание, — сказал один из судей, — и, возможно, мне никогда не удастся сделать это внятно. Но я понимаю, когда вижу, и фильм, о котором идет речь в данном деле, таковым не является». Как же он определяет, что является и что не является порнографией, если не существует ни одного определяющего признака или четкого определения? Огромная составляющая нашего общественного дискурса сводится к попыткам разложить вещи, группы, людей и понятия по категориям. Является ли данная политическая партия фашистской?
Является ли данная группа людей сектой? Является ли этот человек расистом? Но все эти категории крайне расплывчаты. Кто-то вписывается в них самым явным образом: например, Муссолини, несомненно, фашист. Другие вызывают споры. Если смотреть на вещи с байесовской точки зрения, то всё просто до очевидности. Людвиг Витгенштейн утверждал, что нет ни одного признака, который бы выделял и характеризовал нечто как игру. Игры и другие вещи, которые с трудом поддаются определению, но при этом их можно четко распознать («Узнаю, когда увижу»), скорее обладают семейными сходствами. Семейство вещей, которые мы называем «играми», обладает различными общими чертами: некоторые черты есть у некоторых игр, другие — у других. Витгенштейн не называл такой взгляд байесовским, но это именно он и есть. Априорная вероятность того, что то или иное понятие является «игрой», очень мала. Есть множество других понятий, например, «неевклидова геометрия» и «уныние». Но если вы узнаете, что люди занимаются этим ради развлечения по определенным правилам, это будет новая информация, и она повысит вероятность того, что речь идет об игре. Если вы узнаете, что понятие это никак не связано с состязательностью, вероятность снизится. Насколько именно нужно быть уверенными, чтобы назвать нечто «игрой», зависит только от нас (и, как всегда, не факт, что придется явно делать какие-то расчеты). Однако это и есть байесовский процесс. И, конечно, способ, с помощью которого мы поняли, что именно определяет «игру», сам по себе является байесовским. В детстве, когда вы впервые услышали слово «игра», для вас оно, вероятно, значило конкретно игру «Змеи и лестницы» или что-то подобное. То есть тогда ваше высказанное с низкой уверенностью предположение заключалось бы в том, что в «игры» играют на плоских картонных поверхностях с использованием кубиков и змеек, и они не требуют никаких особых знаний или умений. Потом вы узнали, что пятнашки (догонялки) и футбол — тоже игры. Вы заметили, что эти игры не требуют никаких плоских картонок, хотя «Монополия» и Cluedo требуют, поэтому вы считаете, что P(плоский картон|игра)=0,57 или около того. В пятнашках кодифицированных правил нет, зато они есть в остальных играх. По мере того как вы учитесь обозначать словом (ярлыком) «игра» всё новые и новые понятия, вы получаете более точные оценки
вероятности, что вы увидите в этих понятиях определенные характеристики. Априорная вероятность, что в играх нужны мячи, была низкой, но потом кто-то вам указал, что хоккей, футбол, теннис, крикет и пинг-понг — это всё игры, и вы обновили эту априорную вероятность. Такая схема работает гораздо лучше! Сократ определил человека как «животное о двух ногах, лишенное перьев». Диоген ощипал курицу и сказал: «Вот платоновский человек». Если бы Сократ сказал, что, узнав, что нечто действительно представляет собой животное о двух ногах, лишенное перьев, он значительно увеличил бы [свою] оценку вероятности того, что это нечто — человек, то тогда его высказывание было бы вполне разумным. Но найдутся и контрпримеры, так что помните, что вы можете ошибаться. Сопоставимая философская головоломка — парадокс кучи. Перед вами большая куча песка. Вы вынимаете из кучи одну песчинку. С кучей ничего не происходит. Вы вынимаете еще одну песчинку. С кучей ничего не происходит. Вы продолжаете вынимать песчинки одну за другой, пока не останется лишь одна. Кучи явно больше нет. На каком этапе куча прекратила свое существование? Какая песчинка превратила ее из кучи в не-кучу? Аристотелевская философия испытывает трудности с такими задачками. Кажется довольно безумным утверждать, что миллион песчинок или около того — это куча, а 999 999 — нет. Но если вы принимаете за основу предпосылку, что куча минус одна песчинка — это все равно куча, то вам придется либо произвольно провести некий предел, либо признать, что и одна песчинка считается кучей [84]. Однако в рамках байесовского рассуждения ничего этого не нужно! Это субъективная оценка вероятности, но у вас есть очень высокая уверенность в том, что миллион песчинок составляет кучу. По мере того, как вы будете вынимать из кучи песчинки, уверенность будет немного падать. К моменту, когда песчинок останется пять, вы сможете присвоить лишь крошечную долю вероятностной массы гипотезе о том, что «эта масса песка образует кучу». Никаких парадоксов или произвольных пределов не требуется. Все получается красиво, логично и элегантно. Такой подход позволяет избежать аристотелевской проблемы жестких определений, четких границ между категорией X и категорией Y. Иногда — в
большинстве случаев — таких четких границ просто нет, потому что мир не состоит из логически дедуктивных утверждений. Мир не черно-белый. Но еще байесовский метод также позволяет избежать обратной проблемы — проблемы Пола Фейерабенда или Роберта АнтонаУилсона, что в мире вообще ничего невозможно познать. Согласно этому методу, мир состоит из оттенков серого, но эти оттенки серого — разные оттенки! Некоторые из этих оттенков почти белые, другие почти черные! Невозможно с уверенностью утверждать, что вакцины работают, так же как невозможно уверенно сказать, что пирамиды были построены древними пришельцами. Однако это не значит, что я думаю, что эти два утверждения с одинаковой вероятностью верны. Признавая, что представления и определения являются вероятностными, мы можем спасти идею знания и обоснованного истинного убеждения от дурацких постмодернистских идей о том, что все убеждения неопределенны и, следовательно, одинаково верны. И, конечно, в представлениях, помогающих нам предсказывать мир, оптимальным образом соответствующих поступающей информации и позволяющих избегать ошибок в прогнозировании, мы должны быть уверены, так как они с максимальной вероятностью являются «истинными».
Глава пятая Байесовский мозг
От Платона до Грегори Мы разобрались, как люди в определенных обстоятельствах становятся верными байесианцами: что хотя можно создавать искусственные сценарии, в которых их рассуждения оказываются неверными, и хотя они не очень хорошо справляются с реальными вычислениями по правилу Байеса, наши решения, по-видимому, довольно сильно к нему приближены в более естественных сценариях. Но можно пойти еще дальше. На самом деле всё, что мы воспринимаем в мире, обусловлено теоремой Байеса. Восприятие и само сознание — в довольно прямом смысле — байесовские. Можно обоснованно возразить, что это почти тавтологическая истина. «Байесовский метод очень хорошо описывает проблемы, с которыми сталкивается мозг», — говорит Анил Сет, нейробиолог из Сассекского университета, занимающийся проблемами сознания. «Мозг сталкивается с неоднозначной сенсорной информацией». Задача мозга — использовать эту информацию, чтобы выяснить ее причину. «Переход от наблюдений к причинам наблюдаемого — это обратное рассуждение, для которого байесовский метод очень хорошо подходит». И поскольку я потратил большую часть книги, чтобы показать, что теорема Байеса лежит в основе всех процессов принятия решений в условиях неопределенности и что любой процесс принятия решений хорош в той мере, в какой он приближается к байесовскому методу, и плох в той мере, в какой не приближается, было бы удивительно, если бы работа нашего мозга не приближалась бы в той или иной степени к Байесу. Но есть и более серьезное предположение, которое выдвигают некоторые ученые, и заключается оно вот в чем: правило Байеса математически в большой степени описывает работу мозга, основная задача которого — формировать прогнозы о мире, которые он затем комбинирует с информацией, поступающей через органы чувств. То есть мозг обладает некими априорными вероятностями, к которым он добавляет условные вероятности (likelihood) и в результате «выдает» апостериорные вероятности. Происходит этот процесс на самых разных уровнях — от самых базовых, «низкоуровневых» прогнозов о том, какой именно набор нейронов будет работать при движении определенных мышц, до сложных, «высокоуровневых» концептуальных предсказаний вроде «я ожидаю, что
сегодня в рабочей столовой будет суп». Эти прогнозы проверяются на соответствие реальности: совпадают ли предсказания с поступающей сенсорной информацией. Если нет, наш мозг должен обновить свою модель мира. Это противоречит ощущениям от восприятия мира: нам кажется, что мы видим мир через окно. Но мы знаем, что это не так. Мы знаем, что «мы» — это мозг, находящийся внутри костной полости и связанный с внешним миром только мясистыми нитями нервов, которые соединены с органами чувств. Байесовская модель мозга предполагает, что восприятие есть улица с двусторонним движением: информация поступает от органов чувств, но она также поступает и от нашей внутренней модели Вселенной. Наше восприятие — смешение «восходящего» потока с «нисходящим». Эти «потоки» сдерживают друг друга: если «нисходящие» априорные представления сильны, то для того, чтобы их опровергнуть, требуются точные и убедительные данные от органов чувств. Ученые задавались вопросом о том, как мы воспринимаем мир, на протяжении тысячелетий. Знаменитая аллегория Платона о пещере посвящена как раз восприятию. Узники заперты в пещере и сидят в ней лицом к стене, на которую отбрасывает тени своеобразный кукольный спектакль «в исполнении» огня, горящего позади них. Узники, никогда не видевшие ничего другого, думают, что тени — это и есть реальность, и дают теням имена. По Платону, наше восприятие мира похоже на эту сцену: мы видим не реальность как она есть, а ее тень, опосредованную нашими чувствами. Однако Платон не был первым, кто обратился к этому вопросу. Философ-досократик Демокрит, живший в V веке до н.э., считал, что вещи в мире постоянно излучают крошечные образы самих себя, eidôla, сделанные из атомов, из которых состоит сама вещь. Евклид полагал, что глаза испускают лучи, которые исследуют вещи мира и возвращаются к зрителю с информацией о них. Эти две модели восприятия — лучи, испускаемые глазом, известные как экстрамиссия, или физические формы, испускаемые объектами и воспринимаемые глазом (интромиссия), — доминировали в понимании восприятия, или, по крайней мере, зрительного восприятия, в течение тысячи лет. Философ X века Абу Али аль-Хасан ибн аль-Хайтам, известный на Западе как Альхазен, первым сформулировал нечто похожее на современную теорию зрительного восприятия. Он утверждал, что свет исходит от светящихся объектов и распространяется по прямым линиям во всех направлениях. Затем этот свет отражается от других объектов, и часть его попадает в глаза зрителя.
Иммануил Кант в XVIII веке говорил, что Вселенная, как она есть на самом деле, непознаваема, и всё, что мы знаем, — это мир, воспринимаемый нашими органами чувств: он проводил четкое различие между явлениями (phenomena), нашим восприятием вещей и ноуменами (noumena) — вещами-в-себе. Более того, Кант предвосхитил байесовскую модель мозга: он утверждал, что в нашем мозгу, видимо, есть заранее заложенные концептуальные рамки, с помощью которых мы можем осмыслить мир, иначе данные, поступающие от наших органов чувств, будут бессмысленной мешаниной. Говоря современным языком, у нас должны быть априорные представления. Мы не просто пассивно воспринимаем мир: мы конструируем его или его модель. Эту идею развил немецкий полимат XIX века Герман фон Гельмгольц, изобретатель офтальмоскопа — маленькой забавной палочки с линзой на конце, с помощью которой оптики рассматривают нашу сетчатку. Но его великое озарение заключалось в том, что мы не можем воспринимать мир таким, какой он есть на самом деле, потому что слишком медленно «работаем». В эпоху Гельмгольца уже было известно, что нервная система человека имеет электрическую природу и что электричество распространяется чрезвычайно быстро — со скоростью света, — поэтому считалось, что нервные сигналы проходят от органов чувств до мозга практически мгновенно. Учитель Гельмгольца говорил ему, что измерять скорость сигналов не имеет смысла. Но Гельмгольц все равно измерил и обнаружил — к всеобщему удивлению — что нервные сигналы проходят до обидного медленно: со скоростью около пятидесяти метров в секунду [85], или 180 километров в час. Он также измерил время, которое требуется человеку, чтобы отреагировать на ощущение, например на прикосновение к руке: для этого нужно было как можно быстрее нажать на кнопку. Гельмгольц обнаружил, что время от ощущения до реакции составляет более десятой доли секунды. Этот факт, по его мнению, доказывал невозможность реальности и мгновенности нашего восприятия мира. Таковое невозможно по той простой причине, что информация, бытующая в мире, не доходит до нас быстро. Если бы восприятие было непосредственным, то мы бы постоянно видели мир с небольшой, но ощутимой задержкой. Если бы я случайно столкнул ручку со стола и попытался ее поймать, я бы целился в пространство в воздухе примерно на пять сантиметров выше того места, где она находится на самом деле. Гельмгольц утверждал, что наше кажущееся мгновенным и не требующим усилий восприятие мира, должно быть, является иллюзией. Наш мозг производит ряд «бессознательных умозаключений», строя
трехмерную модель мира из шумного двухмерного изображения, проецируемого на сетчатку глаза, и столь же шумной и нечеткой информации, поступающей от других органов чувств. Он приводит пример: представим, некая женщина держит в руке ручку. Ручки касаются три ее пальца. Но каждый палец передает только информацию о контакте с гладким цилиндрическим предметом: прямые сигналы от нервов в ее руке были бы одинаковыми, если бы пальцы касались трех разных ручек. Она воспринимает себя держащей одну ручку, потому что знает, что ее пальцы расположены близко друг к другу. Ее модель мира формирует ее восприятие. В 1970‐х годах британский психолог Ричард Грегори развил идеи Гельмгольца. Он предположил, что наше восприятие по сути является гипотезой: он провел четкую аналогию с тем, как в научном процессе строятся гипотезы о мире; мы же проверяем такие же гипотезы с помощью органов чувств. Для демонстрации своего предположения он использовал ряд оптических иллюзий. Оптические иллюзии, утверждал он, суть не просто дефекты нашего восприятия: их создает наш мозг, строя тем самым модель мира. Чтобы создать умную иллюзию, мы задействуем «короткие пути», которые использует наш мозг. Это происходит потому, что, по его словам, мозгу приходится выполнять очень много работы. Мир в том виде, в котором он отображается на нашей сетчатке, беспорядочен: начать хотя бы с того, что он перевернут вверх ногами [86] и справа налево (если закрыть глаза и нажать на левый нижний угол одного глаза, то в результате цветное пятно появится в правом верхнем углу зрительного поля). Кроме того, мир искажается из-за вогнутой формы задней части глазного яблока, а также из-за кровеносных сосудов, которые его покрывают. Усугубляет всё тот факт, что человеческий глаз просто неудачно «сконструирован»: нервы от сетчатки направлены внутрь, а не наружу, поэтому для того, чтобы дойти до мозга, зрительный нерв должен пройти через сетчатку, из-за чего остается большое слепое пятно. (Забавная игра: закройте левый глаз и сведите оба указательных пальца вместе прямо перед собой, на уровне глаз. Держите левый палец на месте и продолжайте смотреть на него, а правый палец медленно отводите вправо. Когда вы отведете палец примерно на 20 см, верхняя костяшка указательного пальца правой руки исчезнет. Это слепое пятно вашего правого глаза.) «Задача мозга — не видеть изображение на сетчатке, а соотносить сигналы от сетчатки с объектами внешнего мира», — писал Грегори. Но здесь возникает проблема. Сигнал из внешнего мира может быть вызван буквально бесконечным количеством вещей. Представьте, что вы находитесь на улице темной ночью и видите на небе одно яркое пятно. Оно
маленькое и находится где-то близко: возможно, это светлячок или посадочный прожектор самолета? Или оно огромное, но далекое, может быть, планета Юпитер? Или еще более огромная и далекая звезда Вега? Есть две переменные — размер и расстояние, и мы можем объяснить явление «маленькое яркое световое пятно» бесконечным числом их комбинаций: ближе и меньше, дальше и больше и всё, что между ними. «Основная проблема, которую должен решить мозг, заключается в том, что любое конкретное изображение на сетчатке может быть создано бесконечным числом размеров, форм и расстояний до объекта, — писал Грегори, — но обычно мы видим только один стабильный объект». Грегори предположил, что мозг как раз и занимается тем, что выдвигает гипотезы. Затем он проверяет эти гипотезы, сравнивая их с данными, полученными от органов чувств. Грегори продемонстрировал, что когда две гипотезы одинаково убедительно объясняют доказательства, мозг может между этими гипотезами переключаться. Самый известный пример — «куб Неккера»: если мы с вами похожи, то вы сможете «выбрать», как смотреть на него — сверху и справа или снизу и слева. Это, как вы, наверное, уже поняли, и есть байесовская модель восприятия. Гипотезы — это априорные вероятности (представления). Вы ищете новые свидетельства своих ощущений, чтобы подтвердить или опровергнуть их: это и есть ваша правдоподобная вероятность, ваши данные. И вы их комбинируете, чтобы получить апостериорное
распределение вероятностей. В случае с кубом Неккера у вас нет веских причин предпочесть одну из двух гипотез (взгляд на куб снизу или сверху), поэтому ваша априорная вероятность делится между ними в соотношении пятьдесят на пятьдесят, а ваши данные одинаково убедительно согласуются с обеими.
Оптические иллюзии В 2015 году, когда я работал в BuzzFeed, в один прекрасный день в офисе возникло необычайное волнение. Одна из наших коллег в американском офисе — Кейтс Холдернесс, королева поиска странных вещей в интернете, — нашла в интернете странную вещь. Это был пост на Tumblr с фотографией платья. Вы наверняка помните эту историю про Платье. Это был странный момент для тех, кто работал в BuzzFeed, потому что Платье внезапно вышло из нашего онлайн-пузыря на простор мейнстрима. Я помню, как мы с женой и родственниками пошли на обед в паб и услышали, как несколько совершенно незнакомых людей, проходя мимо, спорили об этом платье — сине-черное оно или бело-золотое. Статья набрала более 37 миллионов просмотров, и практически все сотрудники BuzzFeed, включая работавших в Лондоне, занимались написанием все новых и новых публикаций, реакций и так далее. На картинке было изображено платье с горизонтальными полосками. Полосы очевидным образом были белыми и золотыми. Но URL на материал Кейтс был такой: «help-am-i-going-insane-its-definitely-blue» («Помогите, я схожу с ума, оно точно синее»). В свой пост она включила опрос: платье бело-золотое или сине-черное? Из 3,7 миллиона человек, ответивших на этот вопрос за последние восемь с лишним лет, 67 % заявили, что платье белое-золотое, и 33 % — что сине-черное. Тейлор Свифт написала в твиттере, что «сбита с толку и напугана» тем, что другие люди не видят синий и черный цвета. Джастин Бибер тоже вошел в группу сине-черных. Кэти Перри и Ким Кардашьян сказали, что видят белый и золотой цвета. (Я взял все эти данные из Википедии.) Большинство из нас было просто не в состоянии понять, о чем говорят другие. Цветовое восприятие — еще один великолепный пример «гипотезы о гипотезах», выдвинутой Грегори. Когда свет попадает на сетчатку, он может иметь различную длину волны и амплитуду, и за секунду на наши светочувствительные клетки может попадать сколько угодно фотонов. Но нас не волнует длина волны света или количество фотонов: нас волнует то, что эта длина волны говорит нам об объекте, от которого отразился свет. («Задача мозга — не видеть изображение на сетчатке, а соотносить сигналы от сетчатки с объектами внешнего мира», помните?)
Так что если пятно на вашей сетчатке «бомбардирует» небольшое число фотонов с относительно низкой амплитудой, но широким спектром длин волн — то есть тусклым серым цветом, — это можно объяснить одной из нескольких гипотез. Например, это может быть яркий белый объект под тусклым светом. Или темно-серый объект при более ярком свете. Или что угодно «между» ними. Это наглядно демонстрирует знаменитая иллюзия Эдварда Адельсона из Массачусетского технологического института с тенью на шахматной доске. На рисунке изображены шахматная доска и большой цилиндр, стоящий на одном из ее углов. Цилиндр, очевидно, подсвечен сбоку, поскольку отбрасывает на доску тень. Две клетки на доске — одна в тени, другая нет. Кажется очевидным, что A — одна из черных клеток на шахматной доске, а B — одна из белых. Однако они одинаковы по цвету. Это
становится видно, если соединить их полоской того же оттенка. Как вариант: можно закрыть страницу с картинкой пальцами, чтобы были видны только эти два квадрата. Это чистый пример того, как ваш мозг генерирует гипотезы и проверяет их на соответствие реальности (а в данном случае — на обман с помощью преднамеренного трюка). Как мы уже говорили, изображение средне-серого цвета на сетчатке может возникнуть как от белой клетки, освещенной тусклым светом, так и от черной клетки, освещенной более ярко. Получив такое изображение на сетчатке глаза, мозг ищет «подсказки», чтобы выдвинуть оптимальную гипотезу. Он замечает, что одна клетка явно находится в тени, а вторая — нет. Поэтому он «считает», что лучшая гипотеза будет заключаться в том, что клетка в тени светлая, но тускло освещенная, а другая клетка — более темная и ярко освещенная. Еще один способ увидеть в действии процесс генерирования гипотез — посмотреть на картинку, которая на первый взгляд не имеет смысла, пока вам не предложат некую гипотезу, о чем она, после чего вы уже не сможете смотреть на нее иначе. Например, вот изображение.. хм. Что это?
Я пока вам не скажу, потерпите еще несколько строк. Посмотрите на него: сможете что-то различить? .. .. .. Мне платят построчно, понимаете.. Oкей. На картинке — корова. Ее голова — слева, развернута анфас к вам. Видите сейчас? Если увидели, попробуйте теперь воспринять изображение как случайное сочетание клякс и пятен. Как и я, и как большинство людей, вы просто не сможете теперь ее развидеть. У вас теперь есть гипотеза, вы проверили ее на соответствие имеющимся данным, и теперь все встало на свои места. Больше не туда и не сюда. Восприятие цвета — большинство из нас, вероятно, согласятся с этим, — происходит гораздо ниже уровня сознания. (Чуть позже мы поговорим о «высокоуровневом» и «низкоуровневом» восприятии более серьезным образом, но пока давайте просто так заявим). А как насчет распознавания изображений собак? — окей, «собака», вероятно, более высокоуровневое понятие, чем «серый», но это все равно, как мне кажется, довольно базовая штука. А чтение? Посмотрите вот на эти две картинки.
На первой, видите? Буквы H в слове THE и A в слове CAT одинаковые? Видите или нет, никаких трудностей с прочтением этих двух слов у вас наверняка не возникло. Ваш мозг знает, что гипотеза THE более вероятна, чем гипотеза TAE, и что CAT вероятнее CHT. А что вы прочитали на второй картинке — в треугольнике? I love Paris in the springtime («Люблю Париж весной»)? А вы заметили, что артикль THE повторяется? Наверное, нет. (А заметили, что артикль был повторен в предыдущем абзаце?) [87] Опять же все это байесианство. Ваше убедительное априорное представление подсказывает вам, что словосочетание PARIS IN THE SPRINGTIME более вероятно, чем словосочетание PARIS IN THE THE SPRINGTIME, а словосочетание THE CAT более вероятно, чем словосочетания TAE CAT или THE CHT, поэтому даже когда в дело вступают новые данные, их недостаточно, чтобы сильно сдвинуть вашу апостериорную вероятность. Вам нужны гораздо более убедительные данные — в данном случае продолжительный, внимательный взгляд, — чтобы осознать, что именно там написано. Иногда и это не поможет. Когда ваши априорные вероятности очень весомы, никакие данные не смогут их изменить. Яркий пример, который приводил Ричард Грегори, — иллюзия «полой маски». Посмотрите на эти изображения маски Чарли Чаплина:
На первой картинке маска смотрит на нас. На следующих она вращается. На четвертой маска смотрит мимо зрителя, и ее «лицо» впалое, пустое. Но в мозгу сформирована очень убедительная априорная вероятность того, что лица направлены наружу, а не внутрь, поэтому мы воспринимаем маски выпуклыми. Это представление настолько сильно, что даже при внимательном рассмотрении мы не можем заставить себя посмотреть на маски иначе. (Если погуглить и посмотреть соответствующие видео, все станет еще более странным. По мере поворота маски мозг как бы выворачивается: даже если вы только что видели, что маска отвернулась от вас, вы не можете воспринять ее выпуклой). Надеюсь, все это делает происходившее с Платьем намного понятнее. Информация, поступавшая в глаза людей, была практически одинаковой, — набор фотонов с определенными длинами волн и амплитудами. Но она соответствовала как минимум двум правдоподобным гипотезам: темносине-черное платье при ярком, желтоватом освещении или бело-золотое платье при более тусклом освещении с синим оттенком. Что интересно в истории с Платьем — большинство людей не могут «переключаться» между двумя гипотезами, как в случае с кубом Неккера, и
когда «настоящий» цвет платья был раскрыт, он не помог людям обрести какой-то четкий образ, как в случае с изображением коровы. (На самом деле платье оказалось сине-черное: его владелица опубликовала другую фотографию). Одна из возможных причин заключается в том, что люди отталкиваются от разных априорных представлений: в одной статье было высказано предположение, что у «утренних людей» априорное представление таково, что свет будет более синим. (Впрочем, доказательства авторы этой гипотезы привели неубедительные.) Механизмы, которые бы точно объясняли, почему люди по-разному воспринимают одно и то же платье, пока неизвестны. Но идея все та же: наши априорные вероятности, наша «нисходящая» модель мира, определяют наше восприятие поступающей информации. Платье — байесовский феномен.
Реальность как контролируемая галлюцинация Человек по имени Ричард Фицхью однажды попытался провести интересный эксперимент. Глядя только на нервные импульсы, поступающие в мозг кошки с сетчатки глаза, мог ли он определить, что видит кошка? (Я боюсь, что для этого понадобилась бы некоторая трепанация кошки). Мы иногда забываем, что информация, поступающая в ваш (или кошкин) мозг, — это энергия. Фотон попадает в рецепторную клетку и вызывает небольшое химическое изменение, которое запускает цепную реакцию по нерву. Нажатие на кончик пальца дает подобный эффект. Наш мозг получает серию энергетических импульсов от нервов, ведущих к нему. Когда с каким-то сенсором не происходит ничего особенно интересного, он в основном молчит, беспорядочно срабатывая несколько раз в секунду. Но когда что-то происходит, например ярко вспыхивает свет, нервы начинают работать более согласованно, и в мозг поступает больше сигналов. Фицхью попытался разработать статистический метод определения момента, когда кошка увидела вспышку света, только по сигналам, проходящим по оптическому нерву. Эксперимент оказался успешным (Фицхью это понял, когда сопоставил результаты с реальностью). Однако на самом деле мозг должен выполнять гораздо более сложные задачи: ему приходится различать не только «вспышку» и «отсутствие вспышки», но и «собаку», «мышь», «машину», «хозяина», «миску вискас», «привлекательную кошку противоположного пола» и еще бесконечное множество других возможностей. (Тут речь пока о кошкином мозге). Мозг лишь получает различные частоты электрохимических энергетических всплесков от разных источников. Каким-то образом он превращает их в полностью представляемый мир физических объектов и социальных взаимодействий.
Мы видели, что в нашем мозгу происходит нечто, связанное с предположениями, прогнозами, гипотезами. Теперь давайте немного углубимся в эту тему. Нейробиолог Крис Фрит утверждает, что наше восприятие реальности — это контролируемая галлюцинация. Представьте, что я смотрю на чашку кофе на своем столе. (Почему-то во всех книгах, которые я читал по этой теме, приводят в пример чашку кофе. Я сначала подумал, не списывают ли они все друг у друга, но потом понял: причина в том, что все эти книги написали люди, сидевшие за столом и сканировавшие глазами окружающее пространство в поисках подходящего примера. Так что я останусь тут верным традиции.) Согласно интуитивной модели восприятия, я воспринимаю чашку кофе с помощью сигналов, идущих «снизу вверх», то есть сигналы поступают через мои глаза так же, как телекамера передает пиксели на экран телевизора в нашем мозгу: сигналы основных характеристик реальности — цвета, линий, форм. Более высокий уровень обработки в нашем мозге принимает эти характеристики и формирует из них более сложные идеи, которые затем сопоставляются с воспоминаниями и знаниями о мире, и им присваиваются такие ярлыки, как «кружка» и «кофе». Эта модель восприятия «снизу вверх» на протяжении многих лет определяла многие когнитивные науки. Но теперь мы понимаем, что все происходит примерно так: наш образ мира поступает не от органов чувств; наш мозг постоянно его придумывает. Мы строим своеобразную 3D-модель вокруг себя. Мы предсказываем мир и галлюцинируем. Существует не только «восходящий» поток информации, но и «нисходящий», что очень важно. Верхние уровни обработки сигналов в нашем мозге посылают сигнал вниз, к нервным рецепторам, сообщая им, каких сигналов следует ожидать. И когда я оглядываю свой стол и перевожу взгляд на определенную точку, участки моего мозга более высокого уровня посылают сигналы участкам более низкого уровня, как бы говоря: «Ожидайте увидеть розовую чашку кофе рядом с клавиатурой». Более низкий уровень обработки сигналов разбивает все это на такие, например, концепты: «приземистая бледная цилиндрическая форма примерно в 30 градусах дуги от центра моего зрительного поля». Они, в свою очередь, разбиваются на еще более простые понятия: этот цвет, вертикальная линия вот тут и так далее. А они переводятся в
максимально базовую версию на уровне «машинного кода», с которой имел дело Фицхью: ожидайте, что эти аксоны в зрительном нерве будут срабатывать примерно столько-то раз в секунду. Это догадки, предсказания, гипотезы, каскадом спускающиеся с концептуально сложных высших уровней на предельно минималистичные уровни нервных сигналов. В то же время сигналы поступают по этим нервам «наверх»: эти нервы срабатывают столько-то раз. Чашка находится там, где я и ожидал, поэтому нервные сигналы соответствуют предсказанным паттернам. Поскольку там нет ничего неожиданного, моя модель мира остается неизменной. Чашка с кофе находится там, где и должна, поэтому нет необходимости посылать сигналы дальше по цепочке. Галлюцинируемая картина вокруг меня может оставаться на месте. Но теперь представьте, что я потянулся за этой чашкой кофе. Я полагаю, что в ней налит горячий кофе. Я двигаю руку туда, где она должна стоять, и беру ее (ожидания более высокого уровня: горячая чашка кофе; ожидания более низкого уровня: цилиндр определенного веса и температуры; ожидания машинного кода: проприоцептивные и термочувствительные нервы подают сигналы именно так). Но когда моя рука обхватывает чашку и начинает ее поднимать, паттерны сигналов нервов не совпадают с ожиданиями. Что-то начинает происходить. Когда предсказанный паттерн не совпадает с полученным, нижний уровень обработки переводит проблему выше по цепочке. Если обработчик чуть более высокого уровня может объяснить причину, он объяснит и отправит новые сигналы обратно вниз по цепочке. Если не может, то отправляет сигнал выше, пока не достигнет высокоуровневых участков, которые смогут объяснить его концептуально сложным пониманием того, что я допил свой кофе четверть часа назад, чашка давно остыла, и мне нужно пойти и вскипятить чайник, если я хочу еще. В такой ситуации важны не сигналы, поступающие от моих нервов, как таковые, а разница между этими сигналами, поступающими от моих нервов, и прогнозами, которые поступают из участков мозга более высокого уровня. Ключевое словосочетание здесь — ошибка прогноза, разница между ожиданиями и результатами. В этих рамках мозг постоянно пытается минимизировать ошибку
прогноза, делая свою модель максимально приближенной к реальности, обновляя ее по мере поступления новых сигналов. Статистики и специалисты по машинному обучению могут увидеть во всем этом эквивалент «фильтру Калмана» — алгоритму, который берет различные замеры, с их помощью оценивает неизвестную величину, которую вы хотите узнать, а затем с помощью этой оценки делает прогноз. Например, GPS вашего телефона получает сигналы от различных спутников, с их помощью оценивает ваше местоположение, а затем с помощью этой оценки прогнозирует, когда получит следующие сигналы, дальше все повторяется снова и снова. Априорные вероятности, данные, апостериорные вероятности, образующие затем новые априорные вероятности. Мозгу приходится обрабатывать гораздо больше всего. Помимо предсказания сигналов, которые он увидит, мозг должен предсказать, что будут делать сигналы, которые он посылает вашим мышцам, и как они повлияют на сигналы от ваших органов чувств, в этом фантастически сложном танце: сигналы идут вверх и вниз (и поперек), встречаясь и обмениваясь «рукопожатиями» друг с другом, различные участки обработки сверяют предсказания с результатами; уровень уверенности и конкретности прогноза и точность поступающей информации взвешиваются и оцениваются. И, конечно же, мозг получает информацию от различных видов ощущений — зрения, слуха, осязания, обоняния и вкуса, а также от ваших внутренних ощущений: где находится ваше тело, как оно устроено и хотите ли вы есть, пить, возбудиться или что-то еще, — и комбинирует их. Но в основе — и вы, вероятно, уже сами видите, и вам наверняка надоело, что я это постоянно повторяю, — лежит еще одна байесовская система. Ваши прогнозы — это априорные вероятности, данные от органов чувств — правдоподобная вероятность, а обновленные прогнозы — апостериорные вероятности. И, что очень важно, то, что вы испытываете, — это не данные с органов чувств, а ваши прогнозы: прогнозы, постоянно обновляемые информацией, поступающей от органов чувств, да, но мир, в котором вы живете — это прогнозы, а не данные. «То, что мы испытываем, лучше всего описать как байесовский вывод о причинах сенсорных данных», — говорит нейробиолог Анил Сет.
Возможно, я зашел бы слишком далеко, если бы сказал, что наш сознательный опыт — это и есть, по сути, наши байесовские априорные вероятности. Но и Сет, и Фрит с радостью согласились бы со мной. «Сознание есть наша модель мира, а не сам мир», — говорил Фрит. «Содержание нашего восприятия — это содержание этих „нисходящих“ прогнозов», — говорил Сет. То есть сознание человека — байесовское.
Дофамин и необыкновенные компьютеризированные роботы Опять же, надо проявлять осторожность. Легко утверждать, что вот это Байес, и это Байес, и то Байес, если не заниматься реальными расчетами. «Выдвигаешь догадку, потом получаешь новые данные, бац, и меняешь догадку! Байесовский метод!» Возможно, нужно быть немного более убедительным. Вот один пример. Как я уже говорил, наш мозг должен решать особую задачу, которую мы пока не обсуждали — как комбинировать информацию от разных органов чувств. Если я говорю с женщиной, я могу использовать информацию, поступающую мне через уши, — звук ее голоса, — и через глаза, глядя на ее губы, когда она говорит. Верный байесианец сделает так: он придаст больше веса тому чувству, которое дает наиболее точную информацию. Крис Фрит и Анил Сет упомянули об одном эксперименте, который показал, что именно так и происходит. По словам Фрита, это «очень красивый эксперимент». «Не мой. В нем комбинировали зрение и осязание». Испытуемых попросили оценить высоту выступа прямоугольного сечения на плоской доске — причем оценить при помощи глаз и рук одновременно. Но и доска, и выступ на ней были ненастоящие: они проецировались на зеркало с экрана, расположенного сверху, а руки испытуемых под зеркалом были прикреплены к устройствам, которые Фрит назвал «необыкновенными компьютеризированными роботами», а авторы статьи — «устройствами с силовой обратной связью». Это позволило исследователям увеличивать или уменьшать точность двух входных сигналов по своему усмотрению, добавляя помехи в изображение или неточность в обратную связь от необыкновенных компьютеризированных роботов. В обычных условиях зрение — более точное чувство, чем осязание, поэтому оценки испытуемых были в большей степени основаны на зрительных ощущениях, чем на «тактильной» (осязательной) обратной связи. Но чем больше экспериментаторы добавляли шумов в поле зрения, тем больше на испытуемых влияло осязание. Однако интересным оказался тот факт, что экспериментаторы также смоделировали, как наблюдатель скомбинировал бы информацию от двух
зашумленных органов чувств, если бы был верным байесианцем, использующим как априорные распределения, так и «оценку максимального правдоподобия» (которую вы, возможно, помните как предмет спора Рональда Фишера и Карла Пирсона). По мере увеличения стандартной погрешности информации от каждого органа чувств, то есть по мере того, как кривая на графике становится все более плоской и широкой, ее влияние на наши суждения становится все меньше, как и предсказывал Байес. Эксперимент показал, что способы, с помощью которых люди на самом деле комбинируют информацию, очень близки к тому, как это сделал бы идеальный байесовский наблюдатель. Наш мозг принимает зашумленные данные и использует их почти что байесовски-оптимальным способом. Вы можете увидеть эту оптимизацию (хотя, думаю, вам придется поверить мне на слово, что она оптимальна по Байесу) в ряде аудиовизуальных иллюзий в интернете. Самая известная из них — это, вероятно, эффект Мак-Гурка. На видео вы увидите лицо мужчины крупным планом, который явно говорит «ба.. ба.. ба», потом «ва.. ва.. ва», потом еще раз. Однако звук остается неизменным: только «ба». Разница лишь в том, что у человека на видео губы сжаты, когда вы слышите «ба», а при звуке «ва» он накладывает верхние зубы на нижнюю губу. Мозг берет (чрезвычайно точную) информацию от глаз и перекрывает ею несколько менее точную информацию от ушей. Существует множество подобных аудиоиллюзий. Одна из них, которую мне невероятно трудно понять, заключается в том, что одни и те же двусмысленные сочетания звуков будут восприниматься как словосочетания green needle («зеленая игла») или brainstorm («мозговой штурм») в зависимости от того, какие слова вы читаете в данный момент. Есть здесь и другие важные аспекты. Когда мы ожидаем воспринять нечто, наш мозг реагирует на прогноз больше, чем на это нечто. Фрит также указал мне на опубликованную в 2001 году работу нейробиолога Вольфрама Шульца, который вставлял электроды в мозг обезьян (что, соглашусь, не особенно прекрасное занятие) и смотрел, когда клетки, выделяющие дофамин, были активны. (Я хотел бы уклониться от бурного спора о том, правильно ли называть дофамин «гормоном вознаграждения» или «гормоном счастья». Это нейромедиатор, у него много функций, и не так просто сказать, что именно с его помощью наш мозг сообщает нам о том, что мы счастливы, или что-то в этом духе. Так или иначе, он имеет отношение к вознаграждению).
В этой работе экспериментаторы научили обезьян ожидать вознаграждения — порцию вкусного фруктового сока — после того, как они увидят яркую вспышку света. Обезьяне показывали свет, а через секунду пускали струйку сока прямо в рот. Интересующимся вивисекцией это напомнит академика Павлова и его собак, научившихся связывать звонок в колокольчик с подачей еды. Павлов заметил, что со временем у собак начиналось слюноотделение при звонке, а не только при виде еды. Похожим образом результаты Шульца показали, что сначала наблюдался всплеск активности дофаминовых клеток сразу после появления сока: они реагировали на вознаграждение. Но со временем всплеск стал происходить непосредственно перед впрыском сока: «вознаграждение» поступало вместе со вспышкой света. Само по себе поступление сока в рот больше никакой активности не вызывало. Дальше стало еще интереснее. Если струйка сока подается без вспышки света, то активность дофаминовых клеток, как и раньше, возрастает при неожиданном вознаграждении. Но если свет вспыхивал, а сок не впрыскивали, активность дофаминовых клеток падала ниже базового уровня. Вознаграждение ожидалось, но не пришло, и обезьяна (или, по крайней мере, ее клетки, вырабатывающие дофамин) была разочарована:
Это самая «низкоуровневая» версия модели «ваш мозг — система прогнозирования». На этом базовом уровне, на уровне машинного кода, ваши органы чувств предсказывают мир, и когда мир оказывается таким, каким они его предсказывали, они больше не посылают никаких сигналов. Но когда предсказания оказываются неверными, они посылают сигналы «выше». Это принципиально важно. На каждом иерархическом уровне то, что мы испытываем — это то, что мы прогнозируем. Эти прогнозы тестируются на предмет соответствия действительности. Если они соответствуют действительности, прекрасно. Если нет, возникает ошибка прогноза, и тогда сигналы передаются дальше. Авторы других исследований выяснили, что нервные сигналы подаются скорее из-за ошибок в прогнозах, чем из-за того, что эти прогнозы сбылись. Например, в ганглиях сетчатки — пучке нервов в глазу — клетки «сигнализируют не об исходном зрительном образе, а об отклонениях от предсказываемой структуры». И даже на этом очень низком уровне, похоже,
существуют байесовские взаимоотношения. Новая информация интегрируется и становится частью будущих прогнозов: чем-то это напоминает байесовски-оптимальный метод. Теперь мы можем немного расширить картину, которую построили в предыдущем разделе. Самое важное — чем точнее прогнозы и чем точнее данные, полученные от органов чувств, тем больше внимания уделяет им мозг. От высокоуровневых процессоров все время поступают сигналы, сообщающие низкоуровневым процессорам, чего следует ожидать. Они снова преобразуют их в прогнозы более низкого уровня и сверяют с данными от органов чувств, поступающими из еще более низкоуровневых участков мозга. На каждом уровне информация с уровня, находящегося выше, выступает в качестве «прогноза», а информация с уровня ниже — в качестве «данных». Но все это носит вероятностный характер. Некоторые наблюдения и прогнозы оказываются надежнее других. Более уверенные прогнозы обычно называют «высокоточными». Восприятие коровы, стоящей в поле прямо перед вами, в трех метрах от вас в ясный солнечный день, является высокоточным. Мимолетное наблюдение темной фигуры в мутной воде во время подводного плавания отличается очень низкой точностью. Прогноз, что молоток упадет, если вы его выпустите из руки, является высокоточным; прогноз, что инфляция в следующем году будет ниже 5 %, — очень низкоточным. На каждом уровне происходит нечто подобное. Прогноз приходит сверху, а чувственные данные — снизу. Чтобы свести их воедино, задействуется теорема Байеса. Если они примерно совпадают, значит, прогноз верен. (Выражаясь более формальным байесовским языком, если данные, использующиеся для оценки вероятности (likelihood data), близки к априорной вероятности, то и апостериорная вероятность не будет сильно отличаться). В этом случае уровень не посылает никаких особых сигналов ни вверх, ни вниз, он просто говорит что-то вроде: «Ну, ладно, сейчас семь часов, все в порядке». Но если данные не совпадают, дальше все может идти двумя путями. Первый путь: представим, что чувственные данные отличаются очень низкой точностью и не согласуются с высокоточным прогнозом. Вы идете по лесопарку Хэмпстед-Хит в туманный день и краем глаза видите в сотне метров от себя сквозь туман что-то размером и формой напоминающее южноафриканского буйвола. Ваш мозг с большой уверенностью предсказывает, что в северной части Лондона не водятся южноафриканские буйволы, а данные, полученные от ваших глаз, беспорядочны и неточны, поэтому прогнозы берут верх над чувственными данными. Представьте
себе данные, среднее значение которых сильно отличается от априорной вероятности, но при этом имеет огромное стандартное отклонение: широкая плоская кривая на графике, которая не сильно смещает высокую и узкую, похожую на иглу, кривую точной априорной вероятности. Уровень снова «молчит», и сигнал выше практически не идет. Второй путь: более точные чувственные данные не согласуются с прогнозом, и новая информация сдвигает иглу: согласно уравнению Байеса, прогноз, вероятно, неверен. В этом случае на нижнем уровне возникает ошибка прогноза предсказания или «сюрприз». Поэтому он активирует нейроны, предупреждающие уровень, расположенный иерархически выше. Чем сильнее несоответствие, тем сильнее срабатывают нейроны. Если очень точные прогнозы противоречат очень точным чувственным данным — облака немного рассеялись, выглянуло солнце, вы смотрите в сторону Парламентского холма, а там, черт возьми, действительно стоит южноафриканский буйвол. О Господи! Тревожный сигнал уходит на более высокие уровни. И когда этот более высокий уровень получает сигнал тревоги, информация о несоответствии действует для него как чувственные данные, и все повторяется снова. Обработчик более высокого уровня пытается понять, может ли он осмыслить информацию с помощью моделей мира более высокого уровня. Если это удается, то он дает новые прогнозы нижним уровням, чтобы все сходилось, и не предупреждает высшие уровни; если не удается, то он посылает следующий сигнал тревоги еще выше. На каждом уровне обработчики согласовывают данные, поступающие снизу вверх, с прогнозами, идущими сверху вниз, и либо с их помощью генерируют новые прогнозы, которые отправляют обратно вниз по цепочке, либо поднимают тревогу выше по цепочке, если сами разобраться не могут. Чем больше несоответствие — чем больше смещена априорная вероятность, — тем больше усиление, или «громкость», сигнала, посылаемого вверх. Самое главное — мозг терпеть не может ошибки прогнозов. Он хочет минимизировать разницу между своими прогнозами и чувственными данными. Он хочет, чтобы его прогнозы были правильными. Поэтому он привлекает внимание к несоответствиям, чтобы их можно было устранить. Согласно этой модели, «внимание» — это буквально ситуация, когда обработчики более высокого уровня и высокоточные сенсорные данные сосредоточены на каком-то аспекте вашего окружения. Некий объект привлекает ваше внимание, когда данные о нем, поступающие снизу вверх от органов чувств, не совпадают с прогнозом, «спускаемым» сверху вниз от вашего мозга: возникает громкий, срочный сигнал, идущий на самый верх.

Теннис, Wordle, саккады До сих пор я говорил о восприятии так, будто это некий процесс, который просто происходит с нами, будто мы сидим, как морская губка, и впитываем информацию извне. Честно говоря, так говорить о восприятии проще, и когда вы пытаетесь построить базовую модель, то, вероятно, именно так и следует поступать. Но в действительности мы себя так не ведем. Мы не только поглощаем информацию, но и ищем ее. Мы перемещаемся по миру. Мы наклоняем голову к интересным вещам, встаем и подходим к ним, чтобы проверить, или берем их в руки и кладем в рот. Мы можем взять телескоп и проверить, является ли вон та святящаяся точка в небе планетой или звездой. Это ставит перед мозгом-прогнозистом две новые задачи. Во-первых, предсказать, каковы будут последствия его собственных перемещений, и, во-вторых, предсказать, какое движение лучше всего сделать, чтобы получить как можно больше информации о мире. Байесовская модель такого подхода называется предсказательной обработкой(predictive processing), а открыл ее нейробиолог Карл Фристон, работающий в Национальном центре неврологии и нейрохирургии на Куинс-сквер в Лондоне. «Люди активно заговорили о байесовской гипотезе мозга примерно к 1990 году, — рассказал он мне. — Однако идею эту присвоили те, кто занимался „смыслообразовательной“ стороной вопроса, то есть стороной восприятия. Люди забыли о двигательном контроле, о принятии решений, о той стороне вопроса, которая отвечает за действие, о том, как человек собирает данные. А это делает проблему гораздо шире». Опять же, мы склонны думать о восприятии и действии как об отдельных вещах. Мы видим мир с помощью органов чувств, затем решаем, что делать, и переходим к действию. Однако как мы уже выяснили, мы не видим мир в точности, как он есть. Мы прогнозируем и обновляем прогнозы байесовским способом за счет получения новых данных. Проблема в том, что сигналы, которые мы получаем из мира — схемы, по которым срабатывают нервные клетки, клетки, вырабатывающие дофамин, и так далее, — зависят не только от изменений в мире, но и от изменений в нашем организме. Если горизонтальный ряд клеток сетчатки
срабатывает последовательно, это может быть связано с тем, что яркий свет перед моими глазами переместился справа налево. Или же я повернул голову, в результате чего неподвижный свет переместился в поле моего зрения. Поэтому нашему мозгу приходится прогнозировать не только сигналы, поступающие из окружающего мира, но и то, как изменятся эти сигналы из-за какого-то нашего действия. Затем ему нужно исключить результаты этих прогнозов из прогнозов изменений самого мира, чтобы так создать впечатление некой стабильной реальности. Но и это еще не всё. Как мы уже видели, мозг хочет сократить частоту ошибок прогнозирования. Он может этого добиться, изменив собственные представления, чтобы они соответствовали окружающему миру: я думал, что в кружке горячий кофе, я взял кружку, она оказалась холодной, я больше так не думаю. Но он также может изменить мир, чтобы уже мир соответствовал представлениям мозга. В этом примере, наверное, можно было бы пойти и налить в кружку горячий кофе. В итоге, по крайней мере по мнению Фристона, мы можем переформулировать все наши умственные действия, даже желания и решения, в терминах прогнозов. Впрочем, это будет потом. А сейчас начнем с более простых вещей. Во-первых, есть прямой смысл в том, что действие требует прогноза. Если ты хочешь пошевелить рукой, мозг должен предсказать, какая последовательность нервных импульсов приведет к этому действию. Если посмотреть с другой стороны, когда твой мозг запускает определенную последовательность нервных импульсов, он должен предсказать, какое действие совершит твое тело. Это две разные вещи, и по крайней мере согласно одной модели действия, получается, что мозг делает и то, и другое. Первая модель называется обратной(inverse model), а вторая — прямой(forward model). «Обратная модель — про то, какие сигналы я должен посылать своим мышцам», — рассказывал Фрит. 'Это сложно, потому что у вас есть цель: я хочу дотянуться и схватить какой-то предмет, но существует бесконечное число способов, с помощью которых я могу это сделать. При этом прямая модель — модель фиксированная. С учетом сигналов, которые ты решаешь отправить, можно точно рассчитать, что произойдет'. Обе модели, по словам Фрита, работают параллельно: мозг запускает обе симуляции одновременно и сверяет их друг с другом. Так, если у вас есть какая-то цель (взять в руку чашку с кофе), мозг предсказывает, какая последовательность нейронных импульсов будет для этой цели оптимальной, и в то же время он берет предсказанную последовательность, предсказывает, что произойдет, если вы это сделаете, и смотрит, совпадают
ли две модели: «Действительно ли эта обратная модель приведет к достижению цели, к которой я стремлюсь?» Это, кстати, означает, что мы можем учиться, воображая. Мы можем представить себе, что пытаемся достичь какой-то цели — сейчас я представляю, как бью по футбольному мячу боковой стороной стопы, — и, предсказав, какие последовательности нервных импульсов достигнут этой цели, а затем предсказав, что произойдет, если запустить эту последовательность нервных импульсов, можно и правда улучшить способы выполнения какой-то задачи, не выполняя ее в реальности, за пределами своего воображения. Но важно и то, что наш мозг должен предсказать, какие ощущения мы испытаем, если сделаем то или иное движение. Если вы бежите, чтобы успеть на автобус, то в поле вашего зрения автобус будет увеличиваться в размерах и подпрыгивать вверх-вниз. Но вы все равно будете воспринимать автобус как стабильный объект неизменного размера, потому что ваш мозг предсказал, как сигналы, посылаемые мышцам, повлияют на сигналы, поступающие от глаз. Затем ваш мозг должен исключить эти движения из ожидаемых им движений, происходящих в мире. (Если автобус на самом деле движется к вам, а вы бежите, то вам пригодится способность заметить, что автобус движется). Кроме того, ваш мозг выполняет действия, которые сами по себе не направлены на выполнение какой-либо задачи, а предназначены для сбора информации о мире. Вот аналогия. Вы наверняка играли в Wordle; ведь все в мире в него играли. Если нет, это игра, в которой нужно угадать слово из пяти букв. У вас есть шесть попыток, и каждый раз вы должны ввести одно правильное слово (из американского английского языка). Если хоть одна из букв в вашем предположении оказывается правильной — нужная буква в нужном месте — буква становится зеленой. Если буква в слове есть, но стоит не на своем месте, она окрасится в желтый цвет. В базе данных Wordle примерно две тысячи слов, поэтому вероятность, что вы угадаете правильно с первого раза, равна единице, деленной на 2 000, или p=0,0005. Можно просто попытаться угадать шесть случайных слов, но вероятность того, что вы угадаете их правильно, составит всего 0,3 %. Что делаю я: я пытаюсь собрать информацию. Я могу подставить слово с большим количеством распространенных букв, например ARISE. Допустим, будет два совпадения: желтое и зеленое.
Сколько в базе данных Wordle слов, в которых есть буква А на любом месте в составе слова и буква Е в конце слова? Точно я не знаю, но, наверное, несколько десятков. Вероятность, которую я могу присвоить различным словам, внезапно сильно изменилась. Вместо того чтобы равномерно распределить вероятность p=0,0005 по всем 2000 словам, я могу дать вероятность, наверное, 2 %, скажем, словам PLACE или LEAVE, но 0 % — словам BRACE или GLEAM. Что я сделаю дальше? Если осталось, скажем, пятьдесят слов, то я могу начать угадывать, но все равно вероятность того, что я угадаю их правильно, составит всего 10 % (пять попыток угадать, пятьдесят вариантов). Поэтому мне, наверное, надо еще больше сузить круг поиска. Если так, то некоторые слова будут сужать круг поиска больше других. Я мог бы вставить RAISE. Но поскольку я уже перебрал все эти буквы, единственная информация, которую я могу получить, — стоит ли буква A на втором месте или нет. (И, наверное, она там не стоит: наверняка остается больше слов с буквой A посередине, например, GLAZE или FLAKE, чем с буквой A на втором месте, например, LANCE или MANGE.) Самые распространенные буквы в английском языке — это, вероятно, E, T, A, O, I, N, S, H, R, D, L, U. Поэтому можно выбрать еще одно слово, состоящее из этих часто встречающихся букв. Я часто выбираю DONUT. Можно выбрать и слово только с одной гласной, потому что две уже есть. (Надеюсь, кстати, что к этому моменту мне уже не надо повторять: «Смотрите, опять Байес!». Априорная вероятность, что это любое слово, равна 1/2000; затем вы получаете новые данные, обновляете априорную вероятность и получаете апостериорную вероятность, в точности применяя правило Байеса). Суть в том, что есть ходы, которые, как вы знаете, на самом деле не выполняют саму задачу — слово точно не DONUT, там нет ни A, ни E, — но которые дают вам информацию для выполнения задачи. Некоторые ходы эффективнее других. Один из них (по крайней мере) — байесовски-
оптимальный ход, то есть предположение, которое позволит максимально сократить пространство поиска. В итоге я сказал BOTHY, а затем CHAFE, что, к слову, оказалось правильным, но я думаю, что мне, вероятно, немного повезло. По словам Карла Фристона, идея «байесовски-оптимального» подхода восходит к Деннису Линдли. «Если бы мне сейчас пришлось решать, какую точку данных собирать дальше», — говорил он, — «что дальше искать, какой был бы для этого оптимальный запрос или вопрос?» И эта идея стала центральной в рассуждениях Фристона, Сета и других о восприятии. Мозг не только пассивно воспринимает, но и активно ищет информацию, чтобы снизить неопределенность в восприятии мира. По словам Сета, «трактовать такую активность можно двумя разными способами: с одной стороны, это могут быть инструментальные действия для достижения желаемой цели прямо сейчас, а могут быть — с другой стороны — и эпистемические действия, максимизирующие объем приобретаемой информации». Замечательный пример — саккады. Мы уже об этом говорили: нам кажется, что мы видим все наше зрительное поле в великолепных, красочных деталях, но на самом деле это не так. Резко различать изображения и видеть цвета способна только центральная ямка (углубление) сетчатки. Все остальное заполняет — предсказывает — мозг. (Если вы, не глядя, вытяните случайную карту из колоды, проведете ею сбоку и сзади себя, а затем медленно переместите в поле зрения, то сначала не сможете определить, красная она или черная). Чтобы восполнить этот пробел, мозг перемещает центральную ямку по кругу. Когда глаза перемещаются из одной точки в другую, они делают это быстрым движением, которое называется «саккада». Происходит это настолько быстро, что для других человеческих глаз зрачок кажется прыгающим: движения не видно, видно только изменение положения. Но куда направлены саккады? Одна из гипотез: глаза «прыгают» на наиболее заметную точку в зрительном поле — на самые яркие или выделяющиеся объекты, на красную точку в массе зеленых точек или на одиночную вертикальную линию среди множества горизонтальных. Это была бы «восходящая» модель восприятия, когда подробности какой-либо ситуации определяют объект, на который мы смотрим, и способ формирования нами своего понимания мира. Впрочем, происходит всё не так. Исследователи с помощью хитроумных экспериментов показали, что наши глаза совершают саккады туда, где мы ожидаем увидеть действие. Если проследить за взглядом человека во время игры, скажем, в теннис, то его глаза будут прыгать не на
интересные вещи, а туда, где он ожидает их увидеть. «Саккады „запускаются“ туда, куда мяч вот-вот прилетит», — писали авторы одной из статей. «Принципиальное значение имеет тот факт, что в момент фиксации целевой локации в ней еще нет ничего, что визуально отличало бы ее от окружающего фона всей ситуации». Подобный взгляд на участки поля зрения, которые пока ничем не отличаются, но скоро станут важными, позволяет мозгу максимально снизить неопределенность. Теннисный мяч, например, летит слишком быстро, и наши глаза не в состоянии за ним уследить. Вместо этого мозг предсказывает самые важные, насыщенные информацией точки на траектории полета мяча — при приеме подачи, скажем, это точка контакта с ракеткой противника, точка отскока и точка «встречи» мяча с вашей ракеткой. Автор околонаучно-теннисного блога Fault Tolerant Tennis описывает этот процесс так: «Несколько раз за время полета быстро движущегося мяча человек действует по одному и тому же визуальному паттерну: сначала предсказать будущее положение мяча; затем выполнить саккаду, зафиксировать взгляд до прилета мяча; держать взгляд на этой точке, пока мяч не прилетит; отслеживать мяч короткий промежуток времени, держа его в фокусе; повторить». Поскольку в эти критические моменты мяч движется через фовеальную [88] зону поля зрения, мозг способен получить максимально возможный объем информации о его полете. Если прогноз неверен, это будет максимально очевидно. Если он верен, вы получите массу высококачественной информации о текущем движении мяча в момент его прохождения через зону фокусировки, что позволит предсказать, где он окажется в следующей критической точке (куда будет направлена следующая саккада, как только мяч покинет зону фокусировки). Конечно, это означает, что восприятие, вообще-то, операция, требующая высочайшей «квалификации». Я фанат футбола, но одновременно полный ноль в самой игре. Я не играл в футбол в детстве, поэтому грация и мастерство у меня, как у Энта Древоборода. Еще я заметил, что из-за этого я также не умею правильно смотреть футбол, как умеют многие другие. Например, в отличие от своих друзей, я не могу предсказать те или иные положения игроков и контакт ноги и мяча. Кажется, мои друзья гораздо лучше меня умеют определять, когда кто-то красиво поймал мяч на шнурки бутс, а когда неловко ударил пыром. Все это, вероятно, связано с информацией, накопленной за годы игр и наблюдений за тем, как контакт мяча со шнурками или удар пыром связаны с малозаметными изменениями в положении тела игрока или с тем, как мяч отскакивает от ноги.
Исследования тоже все эти факты выявляют. Глаза начинающих водителей, как правило, сосредоточены на дороге прямо перед ними, в то время как опытные водители смотрят дальше вперед, чтобы замечать важные детали — перекрестки или потенциальные опасности. Игроки в крикет и теннис лучше предсказывают, куда отскочит мяч. Новичкам не очень даются предсказания, где будет происходить действие, поэтому им приходится делать очень неточные прогнозы, в то время как у экспертов есть хорошо построенная модель, которая позволяет им собирать высокоточную информацию о мире. Подобно тому, как хороший игрок в Wordle должен уметь правильно оценивать, какие слова дадут ему информацию, чтобы угадать ответ, человеческий мозг должен знать, где искать информацию, чтобы оптимальным образом продолжить построение своей байесовской модели мира.
Почему шизофреники могут сами себя щекотать? Почему вы не можете сами себя пощекотать? Виноват. Перефразирую. Вы можете пощекотать сами себя? Наверное, я должен спросить, потому что если можете, это важно. Большинство людей не могут сами себя пощекотать. Но, видимо, не все. В 2000 году в журнале Neuroreport была опубликована статья нейробиологов Криса Фрита, Сары-Джейн Блейкмор и Дэниела Вулперта [89]. В ней был сделан и протестирован удивительный прогноз. Прогноз состоял в том, что люди, страдающие шизофренией, могут сами себя щекотать. Причина, по которой авторы выдвинули такой прогноз, связана с теоремой Байеса. Мы уже говорили, что наше восприятие мира на самом деле является его предсказанием — нашей байесовской априорной вероятностью, а не содержанием наших чувств, хотя эту вероятность и «сдерживают» данные, поступающие от органов чувств. Важнейшая составляющая этого механизма — мы уделяем меньше внимания тем сенсорным данным, которые можем точно предсказать. Помните: если вы существо, перемещающееся в мире, иногда изменения в ваших сенсорных данных будут вызваны изменениями во внешнем мире, а иногда — вашими собственными движениями. Человеку нужно уметь отличать одно от другого и не принимать во внимание последнее, чтобы у него возникло ощущение стабильного мира, в котором можно распознать движение. (Когда вы бежите или идете, у вас не возникает ощущения, что мир подпрыгивает, хотя все ваши данные, полученные от органов чувств, совместимы с гипотезой, что это именно так.) Из вашего восприятия мира изымаются высоко предсказуемые сигналы. «Когда вы движетесь, — рассказывал Фрит, — движения, которые вы „вызываете“, подавляются; остаются движения, которые вы не „вызывали“, но которые обычно важнее».
Поэтому, кстати, мы «отключаем» фоновые шумы и внезапно замечаем их, если они прекращаются. Поэтому же, скажем, если звучит повторяющееся музыкальное произведение, которое воспроизводится снова и снова, с тем же ритмом из четырех ударов в такте, а затем через двадцать минут в нем пропускается один удар, вы услышите его отсутствие почти как позитивный шум. Эти удары высоко предсказуемы, поэтому мозг предугадывает их появление и начинает игнорировать. Если они неожиданно прекращаются, это не было предсказано, поэтому становится очевидно. Так или иначе. Все это работает для всех наших чувств. Был проведен изящный эксперимент, который показал то же самое на примере осязания. Людей разбили на пары и попросили положить левый указательный палец на доску. Сверху на доске находилось устройство, которое надавливало на палец, а управлял этим устройством другой участник. Два участника попеременно нажимали на кнопку. Чем сильнее они нажимали, тем сильнее устройство давило на палец оппонента. Задача состояла в том, чтобы соответствовать силе другого участника. Каждый раз участники переоценивали величину силы оппонента, что означало, что давление с каждым разом увеличивалось. Участники также смотрели, что происходило, когда машина нажимала на чей-то палец, и их просили применить такую же силу в ответ, нажимая на свой палец с помощью того же устройства. Испытуемые всякий раз переоценивали необходимую силу. (Авторы предположили, что этот механизм объясняет, почему детские драки на игровой площадке имеют тенденцию к обострению, — каждый ребенок искренне верит, что бьет ровно настолько сильно, насколько сильно ударили его.) Но когда людей просили сделать то же самое с помощью не кнопки, а джойстика, управлявшего устройством, из-за которого силу было сложнее предсказать, люди стали лучше оценивать, какую силу следовало применить. Такой результат согласуется с идеей, что мы игнорируем высоко предсказуемые ощущения: мы просто не чувствуем их так уж сильно. С щекоткой действует тот же принцип. Если вы попытаетесь сами себя пощекотать, мозг может с высокой точностью предсказать ощущения, которые получит. Если вы погладите мою ладонь и зафиксируете активность моего мозга, вы увидите внезапный всплеск
числа нервных импульсов, «сработавших» в соответствующей части коры мозга. Но если бы я погладил ее сам, то увеличение активности было бы очень незначительным. «Когда вы дотрагиваетесь до себя сами, — совершенно невозмутимо пишет Фрит в своей книге, — ваш мозг подавляет вашу реакцию». Но вот что интересно. Люди с шизофренией меньше подвержены множеству оптических иллюзий, чем среднестатистический человек. Например, иллюзию «полой маски» можно использовать в качестве диагностического инструмента: одно исследование показало, что около 30 % людей, страдающих шизофренией, видят иллюзию насквозь, тогда как среди населения в целом этот показатель равен 10 %. Если вы медик и имеете дело с труднодиагностируемым случаем, который может быть или не быть шизофренией, имеет смысл проверить, как пациент видит полую маску — как выпуклую или как вогнутую. Похоже, дело в том, что априорные представления у шизофреников слабее, чем у нас. Их предсказания мира менее точны, поэтому они могут, например, правильно оценить обратную маску как пустую, когда данные органов чувств соответствуют этой гипотезе. К сожалению, такая ситуация имеет и другие, менее благотворные последствия. Например, шизофреники часто рассказывают, что их организм находится под контролем какой-то внешней силы — что когда их рука двигается, ею управляют не они. Фрит в своей книге рассказывает о пациентке, обозначенной инициалами PH. «Мои пальцы берут ручку, — говорила она, — но я их не контролирую. Их действия не имеют ко мне никакого отношения». Байесовское объяснение таково: прогнозы PH о том, как будет двигаться ее рука, менее точны, поэтому, когда она двигает рукой, это движение не «изымается» из ее опыта так, как это было бы у нейротипичного человека. Она переживает движение как «не подавленное», как если бы кто-то другой поднимал ее руку и двигал ею за нее. Этим же можно объяснить зрительные и слуховые галлюцинации. Шизофреники часто рассказывают, что слышат голоса в голове — так называемое «вкладывание мыслей». Но в рамках этой модели они просто слышат голос, который слышим все мы, или, по крайней мере, большинство из нас — наш собственный внутренний монолог [90]. Разница лишь в том, что у большинства из нас мозг эти голоса предсказывает, и, следовательно, подавляет соответствующее
ощущение, как в случае с движениями рукой. Но для шизофреников такие проявления столь же шокирующи и громки, как если бы кто-то действительно говорил у них в голове. А небольшие зрительные нарушения, порождающие незначительные ошибки прогнозирования низкого уровня, могут быть объяснены обработчиками более высокого уровня у нейротипичных людей, потому что их априорные представления достаточно сильны и поэтому в состоянии сказать: «Да ладно, лица не направлены внутрь» или что-то в этом роде. Они бы предсказали визуальные изменения, возникающие при движении головы, или зашумленные данные, поступающие от наших сетчаток с их слепыми пятнами, и подавили бы их обычным образом. Но шизофреники, у которых априорные представления слабее, не предсказывают мир настолько точно, поэтому те же поступающие данные вызывают ошибки прогнозирования, вызывают тревогу и интегрируются в модель мира. А поскольку ошибки случайны — они порождаются не реальными вещами, бытующими в мире, а шумом в чувственных данных или непредсказуемыми движениями, — мозгу приходится придумывать странные гипотезы, чтобы объяснить их. Возможно, пульсация крови в венах сетчатки вызывает ритмические изменения в чувственных данных, которые мы все получаем, но большинство людей предсказывают это и подавляют эти изменения. Шизофреникам же, видимо, приходится объяснять их «дыханием стен». Я говорил здесь о сравнительно низкоуровневых прогнозах, но то же самое, похоже, применимо и к концепциям более высокого уровня: люди, страдающие шизофренией, могут невпопад удивляться, если в газете упомянут человек с таким же именем, или когда видят машину с номерным знаком, на котором есть цифра тринадцать, или что-то в этом роде. Поскольку в таких ситуациях возникает ошибка предсказания, ее нужно объяснить какими-то гипотезами, из-за чего возникают обманчивые ощущения, например, что телевидение или газеты таким образом передают им секретные сообщения. Теперь, наверное, ясно, почему я заговорил о щекотке. Большинство из нас не могут пощекотать сами себя, потому что мы можем очень точно предсказать сенсорные данные, которые получим — палец, щекочущий нас, здесь в этот момент, другой здесь, — и эти
прогнозы изымаются из наших ощущений. Но шизофреники, очевидно, не могут дать столь же точные прогнозы. Поэтому, в соответствии с гипотезой Фрита, Блейкмор и Вольперта, они могут щекотать себя сами. Если говорить точнее, они выдвинули предположение, что люди, испытывающие слуховые галлюцинации и другие симптомы шизофрении, с большей вероятностью скажут, что поглаживание собственной ладони вызывает такое же «интенсивное, щекочущее и приятное» ощущение, как и когда ее поглаживает кто-то другой. В итоге именно это они и выявили. Люди с симптомами шизофрении оказывались столь же восприимчивы к собственной щекотке, как и к щекотке со стороны других людей. «Мне нравится, что прогноз здесь был выдвинут очень неожиданный. Кто бы мог подумать, что такие признаки будут характерны для шизофрении. Фрейдист не высказал бы такой гипотезы. Единственный путь, по которому можно было бы до нее дойти, — думать о мозге в байесовском духе. И для меня это заслуга хорошей теории: она делает прогнозы, которые другие теории не выдвинули бы. Например, относительность. Мое личное пугало — это люди, выдвигающие теории, которые согласуются с чем угодно. Пусть лучше занимаются прогнозами! История с шизофренией — то, что надо».
Чувак, ты когда-нибудь реально типа смотрел на свою руку? Пока это все умозрительно, но растет корпус работ, авторы которых считают, что в байесовской парадигме можно рассуждать и о депрессии. Более того, некоторые ученые считают, что можно лечить различные психиатрические состояния, включая депрессию, с помощью психоделических препаратов, например, галлюциногенных грибов, и что они работают байесовским способом. Я не хочу придавать этому слишком большое значение. Я думаю, что найдется много доказательств того, что мозг работает побайесовски, и если окажется (что вполне может быть), что психоделики не являются эффективными антидепрессантами, то это не подорвет общую точку зрения. Но гипотеза изящная, и у нее есть некоторые предварительные доказательства, так что давайте ее рассмотрим. Во-первых, есть некоторые доказательства, что псилоцибин — активный ингредиент галлюциногенных грибов — снижает депрессию. В 2021 году вышла статья, в которой утверждалось, что псилоцибин так же эффективен, как эсциталопрам — самый действенный (наряду с некоторыми другими) из существующих антидепрессантов. Но надо проявлять осторожность: исследование было небольшое, и, по понятным причинам, довольно сложно провести «слепое» исследование психоделических препаратов в принципе. «Двойное слепое» исследование — это когда ни пациенты, ни проводящие его исследователи не знают, кто получает лечение, а кто — контроль. Делается это для того, чтобы снизить влияние эффекта плацебо. Но если у вас внезапно начнутся галлюцинации, у вас, вероятно, возникнет мысль, что вам дали то, что надо. Исследователи применили хитрый трюк, который заключался в том, чтобы дать контрольной группе крошечную дозу псилоцибина, слишком малую, чтобы оказать эффект, в надежде, что это поставит
людей перед некоторой неопределенностью. Однако вряд ли это все же их достаточно запутало [91]. Еще как минимум четыре исследования показали схожие результаты, но 1) все они столкнулись с одинаковой проблемой («Я почти уверен, что это не плацебо, доктор; вы, кажется, превратились в верблюда»); и 2) небольшая проблема с любыми исследованиями в этой области, например, с исследованиями гомеопатии, заключается в том, что изучать психоделики хотят именно те люди, которые на самом деле хотят доказать, что психоделики полезны. В науке есть такое явление, как «эффект исследователя», который заключается в том, что исследователи обладают удивительной (даже если и подсознательной) склонностью находить в своем исследовании ровно то, что они хотели найти. Так или иначе, байесовская модель депрессии заключается в том, что она вызвана неадекватно сильными априорными представлениями о каком-то негативном убеждении, возможно, о том, какой вы плохой человек, или насколько вы бессильны, или как все плохо. (Депрессия может принимать множество форм). Исследователи используют метафору «ландшафта» представлений — гряды холмов и долин, а также отвесных горных склонов и глубоких ущелий. «Вы» — маленькая машинка, стоящая посреди ландшафта. Вы стремитесь к самой низкой точке в ландшафте: чем ниже вы находитесь, тем «истиннее» ваши представления, или, если быть точным, тем вернее ваши представления соответствуют вашему опыту, то есть тем меньше у вас ошибок прогнозирования. Вы, само собой, едете вниз по склону холма, однако из-за новых данных вас может снова заносить «в гору». Очень убедительные представления — «лица смотрят наружу», «солнце завтра взойдет», вот это всё, — имеют вид глубоких долин с отвесными склонами. Чтобы выбраться из них, вам нужен большой объем данных. Более слабые представления о том, есть в моей кружке кофе или нет, можно преодолеть, имея меньше данных. Трудности возникают, когда вы застреваете в небольшой ямке, которая в некоторой степени соответствует новым данным, но не настолько, как гораздо более глубокая долина, расположенная рядом. То есть у вас есть «неистинное» или, если угодно, субоптимальное представление, которое не предсказывает «входящие» данные так же хорошо, как альтернатива.
Это не такая уж большая проблема, если убедительность ваших представлений соизмерима с новыми данными. Но если ваши априорные вероятности неадекватно убедительны, тогда «ямка» будет неадекватно глубока, и маленькая машинка ваших представлений не сможет вскарабкаться по склонам даже с большим объемом качественных данных. Именно такой процесс, очевидно, может происходить во время депрессии. Ваша априорная вероятность в отношении какого-то неистинного представления, например, что вы «плохой человек, и все вас ненавидят», неадекватно высока. Ваша маленькая машинка не может выбраться из долины этих представлений и попасть в более адекватную долину, где вы вполне обычный человек, о котором у людей сложился нормальный диапазон мнений. Новые поступающие данные, которые могли бы доказать обратное, например, что люди говорят вам, что вы хороший человек и они вас любят, игнорируются, потому что ваши априорные представления настолько сильны, что, как вы помните из раздела о множественных гипотезах в Главе 3, объяснение «я не ужасный человек» подавляют альтернативные объяснения типа таких: «этот человек лжет, чтобы облегчить мое состояние». Выбраться из такой ямы практически невозможно. «Вы, получается, расцениваете свои априорные распределения вероятностей как избыточно весомые и точные», — так выразился Робин Кархарт-Харрис, нейробиолог из Калифорнийского университета в Сан-Франциско и один из авторов упомянутой выше статьи, когда мы общались пару лет назад. «Говоря более человеческим языком, вы слишком уверены в каком-то патологическом представлении или предрассудке». Теперь о психоделиках. Это не совсем обычные препараты. Благодаря им вы не обретете ни счастья, ни энергии, ни чего-то еще, они просто вызывают настоящий интерес к разным вещам. Они делают мир незнакомым. «Чел, ты когда-нибудь реально смотрел на дерево?» Что-то в этом духе. То есть в рамках такой модели психоделики как бы сглаживают ваши априорные представления. Вы же никогда реально не смотрите на дерево, на свою руку или на что-то еще, потому что у вас есть очень сильные априорные представления о том, какими бывают деревья, и
эти представления успешно предсказывают информацию, которая будет получена, когда вы посмотрите на дерево, так что ваш мозг, по сути, игнорирует ее. «Что-то знакомое, прогноз точный, идем дальше». Если же сделать ваши априорные представления менее точными, менее уверенными, то данные, поступающие от органов чувств, могут получить больше приоритета или значимости. Внезапно ваша рука выглядит просто потрясающе. А странные шумные вариации в данных — то, от чего мозг обычно «отмахивается», — он маркирует как нечто важное, на что следует обратить внимание, и вы получаете впечатления, будто пол дышит, а с обоев на вас смотрят лица. Помните? В разделе о шизофрении в начале этой главы речь шла ровно об этом же. Идея та же, реально. Однако важно, что в теории, если дать страдающему депрессией псилоцибин, последний выровняет «ландшафт» его представлений — ослабит неадекватно сильные априорные представления о собственной ужасности или любые другие представления. То есть в сочетании с терапией, побуждающей пациента осознать, что он не так уж ужасен, это позволит маленькой «машинке» представлений выбраться из долины депрессии и переместиться в «более истинную» долину, в которой пациент не так уж ужасен, где, после того как действие препарата закончится, он, следует надеяться, и останется. (Да, в теории можно слишком сгладить априорные представления и переместиться из красивой «истинной» долины в соседнюю, «менее истинную», то есть вызвать у себя бред. Кархарт-Харрис говорил мне, что такое случается редко, но это возможно, поэтому важно принимать препараты под наблюдением специалиста). Как я уже сказал, отнеситесь к этому с определенной долей скептицизма. Такая модель депрессии может быть правильной, но может и нет. Я встречал предположения, что депрессию можно понимать как недостаточное доверие к нейронным прогнозам, и будут ли психоделики в итоге оказывать реальное воздействие на людей как психиатрические препараты, пока неясно. Даже если будут, существуют огромные общественные и нормативные препятствия: трудно получить лицензию на проведение исследований, а назначение подобных препаратов нарушит американские и британские законы. Однако именно так байесовская гипотеза мозга могла бы найти прекрасное применение в реальной клинической ситуации.

Боже, помоги нам Скотт Александер — сам психиатр, фанатичный адепт «культа Байеса» и в целом очень умный человек — опубликовал пост под названием «Боже, помоги нам, давайте попробуем понять мысль Фристона о свободной энергии». Карл Фристон — о нем уже шла речь выше — вероятно, величайший первопроходец теории прогностической обработки (predictive processing) и байесовской модели мозга: во всех научных статьях на эту тему вы постоянно будете видеть ссылки на него: Friston, 2009 или Friston, 2006. Однако его работы известны также тем, что их очень трудно понять. Кто-то даже завел пародийный аккаунт в твиттере — @FarlKriston, посвященный тому, что понять Фристона невозможно. Фристон развивает байесовскую модель мозга. До сих пор мы говорили о прогностической обработке как об объяснении того, как мы воспринимаем мир: что означают те или иные неоднозначные нервные сигналы? Как лучше всего двигать глазами, чтобы собрать информацию? Что-то в этом духе. Однако для Фристона эта теория объясняет — или, по крайней мере, описывает — гораздо больше. Минимизация ошибки прогнозирования — это не только умение генерировать смысл. В такой модели это наша фундаментальная мотивация. Голод, половое влечение, скука — все наши желания и потребности можно описать как стремление уменьшить разницу между «нисходящим» прогнозом и «восходящими» чувственными данными, между априорным и апостериорным распределением. Да, это как бы означает, что «быть голодным» — то же самое, что «уверенно предсказывать (реалистично представлять себе), что в данный момент вы едите сэндвич, но потом обнаруживать, нет, увы, не едите — прогноз оказался неверным». Более того, это, по мнению Фристона, и есть фундаментальная движущая сила всей жизни. Бактерия, мышь, кит пытаются в математическом смысле уменьшить разницу между своими прогнозами (ожиданиями) и реальным опытом.
Фристон говорит о «свободной энергии». Это термин из физики: его используют в термодинамике или квантовой механике. В термодинамике он означает количество энергии, доступное для работы, скажем, парового двигателя [92]. Но похожие математические выкладки можно использовать и для рассуждений в рамках теории информации. В этом случае можно, например, считать, что свободная энергия — это то, о чем мы говорили в этой главе: ошибка прогнозирования [93]. Мозг терпеть не может ошибки прогнозирования и хочет свести их к минимуму. Вроде бы очевидно, что это не всё, чего добивается мозг. Человеку важно не просто знать какие-то вещи. Когда вы пытаетесь увернуться от подъезжающего автобуса, кажется, не имеет смысла говорить, что вы прогнозируете, что автобус вас не собьет. Вы просто не хотите, чтобы автобус вас сбил. Но Фристон рассуждает по-другому. Вообразим примитивный одноклеточный организм. Его фундаментальная задача — сохранять всё, что у него внутри, в состоянии не таком, как снаружи. В каком-то смысле это и является жизнью. Любая система, предоставленная сама себе, тяготеет к единообразию со средой. Горячий напиток остывает до комнатной температуры, одновременно слегка нагревая саму эту комнату. Холодный напиток нагревается. Шарик медленно сдувается, пока не достигнет того же давления, что и в окружающей атмосфере. Все из-за энтропии. В организованных системах низкий уровень энтропии, в дезорганизованных — высокий. Вселенная естественным образом тяготеет к энтропии. Организованная система, например, холодный напиток в теплой комнате, становится дезорганизованным и единообразным. Однако если бы так же поступил живой организм, он бы умер. Быть таким же, как твое окружение, значит то же самое, что быть мертвым. Если бы температура моего тела сравнялась с окружающей и если концентрации химических веществ внутри организма оказались бы теми же, что и снаружи, я просто перестал бы существовать. Это верно в отношении всех живых существ. Поэтому всё живое — самоорганизованное — должно стремиться к поддержанию границы между собой и вселенной. Ему необходимо поддерживать правильную температуру, правильное давление, правильный баланс химических
веществ внутри соответствующих границ. Иными словами, это нечто должно контролировать энтропию [94]. Простейший одноклеточный организм не будет делать сложных прогнозов типа «Лица направлены наружу». Но ему необходимо поддерживать концентрацию химических веществ, давление жидкостей, температуры и так далее на уровнях, позволяющих внутренним процессам функционировать. Он не может считывать их непосредственно и ведет себя, как фильтр Калмана, о котором шла речь чуть выше в этой главе. То есть опирается на косвенные данные. Скажем, если он попытается оценить собственную внутреннюю концентрацию соли, он может предсказать количество ионов натрия, проходящих через клеточную мембрану в миллисекунду, или что-то в этом роде. (Бессознательно, само собой, алгоритмическим образом). Однако важно то, что организм может выжить только в том случае, если эти прогнозы верны. Он не может обновить свою модель и сказать: «А, похоже, у меня сильная гипонатриемия, лучше-ка я поменяю прогноз, сколько ионов натрия должно пройти через мою мембрану». Если он так поступит, то быстро умрет. Но есть два способа, как снизить ошибку прогнозирования. Один, конечно же, — просто изменить прогноз. Второй — изменить мир, чтобы он соответствовал прогнозу. То есть что бактерия может метаболизировать пищу или махать своим маленьким жгутиком и двигаться до тех пор, пока не окажется где-то, где более высокая концентрация натрия. В этой модели «желание» и «прогноз» — одно и то же. Бактерия хочет снизить ошибку прогнозирования (или «свободную энергию») независимо от того, что она прогнозирует. Если в этот день бактерия будет предсказывать погоду, и ее прогнозы окажутся ложными, она может обновить свою модель и в следующий раз сделать другой прогноз. Однако для жизненно важных прогнозов ее прогнозы должны быть почти фиксированными. Нельзя, чтобы в ее прогностической модели температура тела или уровень глюкозы менялись за пределами узких (или очень узких) «окон». Поэтому единственный способ минимизировать ошибку прогнозирования — изменить мир или свое положение в нем так, чтобы прогнозы были верны.
По мнению Фристона, именно это происходит во всех самоорганизующихся системах. Бактерии бактериями, но и у человека происходит то же самое. Нам необходимо поддерживать гомеостаз — четкое разграничение между нами и Вселенной, причем наше «я» должно находиться в очень определенных термодинамических и химических пределах. Однако более сложно устроенные животные, например, люди, могут обеспечивать себе это эффективнее бактерий — управлять своим окружением с прицелом на будущее, чтобы не оказаться в ситуации, когда прогнозы о том, что «у нас достаточно кислорода» или «мы не горим», перестанут сбываться. Говоря математическим языком, мы хотим свести к минимуму ожидаемую ошибку прогнозирования, или ожидаемое удивление. Фристон говорил, что «можно говорить о гомеостазе в противовес аллостазу». Гомеостаз, который мы уже обсуждали, есть регулирование непосредственного окружения и самого организма для поддержания стабильной внутренней среды: например, если у вас падает уровень сахара в крови, мозг приказывает поджелудочной железе выделять больше инсулина. Аллостаз же, по его словам, — это «продуманное, спланированное поведение, позволяющее избежать необходимости вносить гомеостатические корректировки». «Допустим, я чувствую голод», — продолжал Фристон. «У меня нет гипогликемии, но, предположим, я разверну свои планы на будущее, например, представлю, что продолжу работать; тогда, учитывая собственную модель моего собственного тела, я пойму, что через полчаса у меня будет гипогликемия. Тогда я оцениваю другой план: пойду и выпью чашечку вкусного кофе с сахаром и сливками». Последний уменьшит ожидаемое удивление, потому что в самом вероятном будущем его организм не впадет в гипогликемический шок. Повторю: согласно модели свободной энергии, мозг одинаково относится к прогнозам типа «я не промокну, если выйду на улицу» и «у меня не будет гипогликемического шока». Он хочет свести к минимуму удивление от того, что эти предсказания окажутся неверными. Разница же в том, что если поступает новая информация, которая указывает на то, что он ошибается насчет намокания — например, вы видите, что идет дождь, — у него есть два способа справиться с этим. Он может изменить мир так, чтобы его прогнозы оказались верными: для этого он отдает команду взять зонтик. Или
изменить прогноз так, чтобы он соответствовал миру, согласившись, что вы промокнете. Мозг может обновить априорные вероятности. В ситуации с «гипогликемическим шоком» он этого сделать не сможет. В человеке «сидят» определенные, глубоко заложенные представления о состоянии мира, изменить которые невозможно. Но все равно с математической точки зрения и то, и другое можно трактовать одинаково — как минимизацию ошибки прогнозирования. По словам Фристона, фундаментальные априорные параметры заложены в нас эволюцией. Мы не знаем точно, какие именно, хотя очевидным образом к ним можно отнести, например, уровень сахара в крови, температуру тела, содержание кислорода, целостность организма. (Предположительно, социальные и сексуальные желания тоже в какой-то степени заложены в нас, хотя и проявляются не сразу). В детстве же заложенные в нас априорные параметры — единственные, которые у нас вообще есть: мы предсказываем, что не будем хотеть есть, не замерзнем и не получим травму. «Если вы только родились, вы начинаете понимать: когда я получаю эти сигналы [рассогласования прогноза и ощущений] и плачу, появляется мама. Всему этому надо научиться. И человек учится этим предпочтительным состояниям бытия, к которым можно стремиться и которые ограничены этими врожденными априорными параметрами, поддерживающими нашу жизнь». Минимизация свободной энергии означает изменение состояния человека, чтобы избежать ошибки прогнозирования, но это также означает попытку узнать как можно больше о мире, чтобы оптимизировать прогнозы: найти оптимальный следующий ход для сбора информации, как в случае с попытками угадать слова в игре Wordle, которые предназначены для того, чтобы исключать буквы, а не чтобы служить догадками самими по себе. Ошибку прогнозирования можно минимизировать за счет генерирования более качественных моделей мира. У младенцев можно наблюдать так называемый «моторный лепет», когда они пробуют случайные нервные сигналы и смотрят, что получится. Моя нога двигается? А глаз дергается? Я икаю? По словам Фристона, «это прекрасный пример максимального увеличения ожидаемого накопления информации, познания природы мира». «За что я отвечаю? А за что не отвечаю? Кто это сделал, ты или ты? Они узнают, что у них есть тело, и что некоторые его компоненты можно
контролировать, а некоторые — нет». Поначалу, поскольку информации мало, движения младенцев случайны. «Лепет» позволяет учиться, и их движения становятся все сложнее: они обновляют свои априорные параметры с каждым битом данных. У меня есть новорожденная племянница, которой на момент написания этой книги было десять недель, и я мог наблюдать этот процесс: ее глаза фиксируются на лицах, рука успешно хватает предметы. По мере того как она будет узнавать, каким образом можно минимизировать свободную энергию, выполняя определенные действия — двигая руками, чтобы схватить пищу, кормя себя разными видами пищи; выбирая, какую марку пиццы купить, — ее априорные представления будут становиться все более изощренными. «С возрастом и накоплением предпочтений вы будете всё лучше ориентироваться в мире, — говорил Фристон, — вплоть до того, что сможете планировать встречу со знакомым в ресторане в другом городе на несколько месяцев вперед». И все это — согласно данной модели — с математической точки зрения ровно то же самое, что делает бактерия, когда предсказывает высокий уровень ионов натрия, отмечает ошибку в прогнозе и отправляется на поиски дополнительного объема натрия. Просто наши модели мира в процессе эволюции стали глубже и сложнее; они теперь способны заглядывать вперед. «Разница между, скажем, вирусом и нами с вами заключается в том, насколько далеко в будущее мы можем заглянуть. В нашем распоряжении есть иерархически более глубокие генеративные модели, а в дополнение к ним — способность заглядывать дальше в будущее». Фристон говорит, что нас можно представить как почти идеальных ученых. Мы хотим познавать мир, строить все более совершенные модели этого мира, искать новое там, где можем добыть максимум информации, минимизируя разницу между сигналами, которые мы прогнозируем получить от мира, и сигналами, которые действительно получаем. Разве что в некоторых критических обстоятельствах мы отказываемся знать, в чем именно заключаются те или иные конкретные состояния человека. Если бы мы были понастоящему любознательными правдоискателями, нам было бы одинаково интересно узнать, каково это — держать руку в огне или два дня обходиться без кислорода, а еще — какова на вкус марихуана сорта
«блю-чиз». Если бы мы предсказывали, что лучший способ получить информацию о мире — воткнуть вилку в глаз, мы бы так и поступали. Но поскольку у нас есть эти заложенные в нас априорные представления и такой подход привел бы к жутким ошибкам прогнозирования, делать этого мы не будем. «Мы все — криворукие ученые», — говорил Фристон. Люди — байесовские прогнозные машины, но некоторые из наших априорных представлений нельзя изменить, потому что тогда мы умрем, а смерть не поможет нам узнать что-то новое, поэтому мы должны изменить то, что нас окружает, таким образом, чтобы эти априорные представления оставались правильными. Здесь надо быть осторожными. Мне нравится идея свободной энергии, и я надеюсь, что правильно ее изложил, несмотря на всю ее знаменитую сложность. Но сам Фристон, думаю, сказал бы, что это скорее основа, позволяющая заниматься математическими вычислениями, чем самостоятельная научная теория. Вы не обязаны смотреть теперь на все сквозь призму прогнозирования, свободной энергии и прироста информации. Можно просто говорить, что у нас есть желания, и эти желания часто связаны с тем, чтобы не умереть. Идея свободной энергии позволяет упростить модель: называть всё одним термином, который будет набирать баллы Оккама, но от этого она не станет правильной, а некоторые просто могут найти странным предположение, что голод — то же самое, что ошибочно предсказать, что вы поели. Но теория-то красивая. Теперь я хочу подвести итог — от Байеса в науке до байесовского мозга — и показать: как только вы узнаёте про теорему Байеса, то начинаете видеть ее повсюду.
Заключение. Байесовская жизнь Как мы уже говорили в самом начале, если вы думаете, что нашли теорию, объясняющую всё и вся, смело ставьте себе диагноз «мания» и ложитесь в психушку. (Манию, конечно же, тоже можно описать в байесовских категориях: в некоторых исследованиях авторы выдвигали предположения, что она связана с патологически высоким доверием к прогнозам мозга). И что мне теперь, ложиться в психушку? Надеюсь, не придется. Но, с другой стороны, кажется, я теперь везде вижу Байеса, в больших и малых формах. Вот для примера малая форма. Ваш электронный почтовый ящик устроен по-байесовски. В противном случае он был бы давно забит спамом в гораздо больших объемах. В зависимости от адресата, от 35 до 70 % всех электронных писем в мире представляют собой спам, то есть непрошеную рекламу. (Сейчас проверил почту в Gmail: утром пришло десять обычных сообщений и семь спам-писем; это 40 %, что вполне соответствует приведенным выше цифрам). Допустим, эта доля составляет 50 %. Фильтр спама считает эту цифру априорной вероятностью и обновляет ее с учетом новой информации. Например, возможно, 20 % спам-писем содержат фразу «удлинение члена», а среди нормальных сообщений таковых только 5 %. То есть если фильтр просматривает миллион электронных сообщений, то ожидает увидеть полмиллиона спам-писем и полмиллиона нормальных. Из спама около ста тысяч писем будут содержать фразу «увеличение члена», тогда как из нормальных — около 25 тысяч. Таким образом, ваш спам-фильтр решит, что электронное письмо с фразой «увеличение члена» с вероятностью 80 % окажется спамом. Если в нем содержатся слова и фразы «действуй сейчас», «порно» или «кредит под низкий процент», вероятность снова обновится. Если письмо соответствует определенному порогу вероятности спама, оно попадает в папку «Спам». Именно так работают спам-фильтры: погуглите «байесовская фильтрация спама».
Теперь большая форма: эволюция. Астроном Фред Хойл однажды сказал, что вероятность того, что эволюция успешно создаст жизнь, подобна вероятности того, что вихрь пронесется по свалке и создаст Боинг-747. Но он неправильно понял эволюцию, которая не является случайной. Он прав в том, что количество способов расположить составные части Боинга-747 непостижимо огромно; если собрать их вместе наугад, шансы создать нечто, способное летать, ничтожно малы. Точно так же, если «разобрать» тело, скажем, фруктовой летучей мыши, вплоть до клеток, а затем собрать их наугад, шансы создать нечто летающее (а также питающееся и размножающееся) будут ничтожно малы. Однако в реальности эволюция не собирает составные части чего бы то ни было в случайном порядке. Она «перебирает» все возможные варианты при помощи неслучайного процесса естественного отбора. Если у вас есть достаточно простая, но уже самовоспроизводящаяся вещь, которая создает свои копии с небольшими случайными ошибками, то копии, которые лучше воспроизводятся, будут иметь тенденцию создавать больше копий; копии, которые хуже, будут скорее всего уничтожены. Можно (конечно же) посмотреть на это как на байесовский процесс. Вспомните пищащую коробочку, которая (неидеально) сообщала, достался ли нам выигрышный лотерейный билет. Это позволяло нам искать в пространстве лотерейные номера. Сначала, насколько нам известно, все 131 115 985 номеров с одинаковой вероятностью могут оказаться выигрышными; после того как вы проверили их все, вы сузили пространство поиска до четверти этого объема. Это процесс оптимизации: перемещение по огромному пространству возможностей для достижения цели, которая нам действительно нужна. Эволюция работает точно так же, хотя и гораздо менее эффективно. Существует уравнение Прайса, которое гласит, что частота встречаемости некоторой характеристики в популяции будет меняться в зависимости от того, насколько эта характеристика связана с «относительной приспособленностью», то есть с тем, насколько хорошо организм размножается. Возьмем простой пример: если газели, бегающие быстрее, имеют больше шансов выжить, потому что
их реже едят львы, то в среднем в следующем поколении будет выживать больше быстро бегающих газелей. На геном того или иного организма можно смотреть как на «прогноз» о мире. Если ваши гены обеспечивают вам быстро бегающие ноги, они предсказывают, что вы появитесь на свет в среде, где много быстро бегающих хищников (или добычи). Если в ваших генах заложен короткий и крепкий клюв для раскалывания орехов, они таким образом прогнозируют, что вы будете рождены в среде, где много орехов. Если ваши гены формируют длинные, колющие клыки для захвата яремной вены антилопы гну, то это прогноз того, что в окружающей вас среде будут водиться антилопы гну. Одновременно это прогноз, согласно которому остальные ваши гены сформируют тело, полезное для этих качеств: колющие клыки не пригодятся ни земляному червю, ни тисовому дереву. Частота того или иного гена в популяции кодирует априорную вероятность. Новые данные — функции (или коэффициенты, в случае переменных с дискретными значениями) правдоподобия — появляются, когда организмы, созданные на основе генома, содержащего этот ген, либо выживают и размножаются, либо нет. Если много копий гена попадают в следующее поколение, это свидетельствует о том, что ген подходит для окружающей среды. Если копий попадает немного, это доказывает, что ген не подходит. Так себе доказательство, конечно, — ген может оказаться пагубным для выживания, но выжить благодаря удачной ассоциации с другими генами, или он может быть очень полезным, но по несчастью зародиться в существе, которое попадет под лавину, — но, тем не менее, это аргумент. Эволюция медленна, слепа и неэффективна: ей могут потребоваться сотни поколений для решения проблемы, которую человек-дизайнер мог бы решить за час; и все же это приближение к байесовскому процессу, задача которого — минимизировать ошибку прогнозирования. Но тогда всё, что имеет отношение к принятию решений, можно назвать байесовским. Байес просто объясняет оптимальный способ включения новой информации в априорные предположения. Когда смотришь на мир таким образом, многое кажется более логичным. Например, предвзятость подтверждения [95]. Нам говорят, что люди с большей вероятностью доверяют данным или доказательствам,
которые подтверждают уже имеющееся у них знание. Звучит пугающе, и иногда это так и есть. Однако в большинстве случаев речь идет лишь о правильном байесовском рассуждении. Если мне подруга говорит, что в северной части Лондона видела лису, я, вероятно, ей поверю, потому что в северной части Лондона действительно водятся лисы. Если она мне скажет, что видела южноафриканского буйвола, я предположу, что она шутит, если только она не предоставит мне какието более или менее веские доказательства. Единственная разница — моя низкая априорная вероятность присутствия в Лондоне южноафриканских буйволов. Так вот, я считаю, что оценки при помощи априорной вероятности довольно эффективы, и большинство людей, вероятно, с этим согласятся. Но когда мы говорим о предвзятости подтверждения, мы обычно имеем в виду ситуации, когда люди довольно сильно расходятся во мнениях. Если вы твердо уверены, что вакцины вызывают аутизм, то вы будете более скептически относиться к доказательствам, опровергающим это утверждение. Большинство людей, читающих этот текст, скорее всего, сочтут само такое априорное представление неадекватным, но если оно уже у человека есть, то для того, чтобы его изменить, нужен большой объем убедительных доказательств, а если они неубедительны, то сдвинуть его с занимаемой позиции будет практически невозможно, поскольку альтернативные гипотезы, например, что «мейнстримная наука нам лжет», сразу стартуют с более высокими вероятностями. Этим же можно объяснить, почему некоторым людям мы доверяем больше, чем другим. Часто попадаются исследования, авторы которых утверждают, что люди по-разному оценивают одну и ту же речь, если им говорят, что ее произнес республиканец, а не демократ, и этот факт считается доказательством фундаментальной иррациональности людей. Но, опять же, такое отношение совершенно рационально, если считать, что у людей есть разные априорные представления о том, можно ли верить тем или иным политическим партиям, а значит и связанным с ними людям. Республиканец может воспринимать слова Пита Буттиджича или Джо Байдена как «обновление» низкой точности, как широкую и плоскую кривую вероятности на графике, и эти слова едва ли сильно поменяют его — республиканца — априорные представления. Здесь можно даже
наблюдать анти корреляцию: человек с меньшей вероятностью поверит какому-то спорному заявлению, если его сделает некто, кому он и так глубоко не доверяет. Или так: в конце 2022 года было опубликовано исследование, из которого следовало, что научные рецензенты с большей вероятностью примут к публикации статьи, если увидят, что они написаны нобелевскими лауреатами, чем если бы они были написаны новичками. Ситуация не идеальная — по крайней мере в теории наука не должна опираться на репутацию, — но вполне рациональная: если перед вами две научные работы, и вы не знаете о них ничего, кроме того, что одну написал Альберт Эйнштейн, а другую — Клетус Б. Ноунейм, у вас будет более высокая априорная вероятность того, что именно первая из них будет качественной. Если обе статьи после прочтения покажутся вам весьма хорошими, вы измените свое мнение и примете их для публикации. Но пока вы не будете абсолютно уверены в своей способности оценить любую работу по всем ее достоинствам, то новые данные не смогут до конца размыть вашу априорную вероятность, и независимо от полученных впечатлений вам будет казаться более качественной работа Эйнштейна. Статистик Джордж Бокс — тот самый, который пел «Нет другой такой теоремы, как теорема Байеса» на первой конференции в Валенсии, — говорил: «Любые модели ошибочны, но некоторые из них полезны». Он имел в виду и статистические модели, и модели экономики, и изменения климата и всего остального. По его словам, можно смоделировать поведение газа с помощью закона идеального газа, и полученная модель будет неправильной — она не будет полностью соответствовать тому, что происходит, хотя и может оказаться достаточно точной и потому полезной. Но суть шире. У всех нас есть какие-то модели мира в голове. Любая такая модель содержит предметы обыденности — двери, мужей и жен, кофейни какие-нибудь, и нечто более мудреное — орбиты планет, международную торговлю и пути передачи вирусов. Модели мира у нас в голове делают прогнозы. Моя предсказывает, что сейчас дверь находится позади меня и откроется, когда если поверну ручку; что моя жена предпочтет посмотреть «Лунный свет», а не «Дюну», когда дети лягут спать; что вариант коронавируса XBB.1.5 Omicron, который на момент написания этих строк правил бал в США, станет доминирующим и в Великобритании, но не вызовет большой волны
смертей и госпитализаций среди нашего населения, отличающегося высоким уровнем вакцинации. Все эти модели неидеальны. Я не буду точно представлять себе вес двери, а модель, предсказывающая вкусы и предпочтения моей жены, вечно оказывается неверной, во всяком случае, каждый раз, когда я выбираю подарок на Рождество. Мои представления о путях распространения вирусов и устройстве иммунной системы человека весьма ограничены. Но польза от всех этих моделей пропорциональна тому, насколько они предсказывают мир. Я обновляю их каждый раз, когда поступает новая информация. Если XBB.1.5 действительно вызовет волну тяжелых заболеваний, то мне придется пересмотреть свою модель. В общем, все дело в прогнозах, а самое интересное в них — это ошибка прогнозирования. Уверенное, точное априорное представление, которому противоречит точная информация, поступающая из мира, должно дать радикально измененную апостериорную вероятность. Степень же изменения представлений диктует теорема Байеса. Надеюсь, в этой книге я показал, что это верно на всех уровнях. Это верно, когда речь идет об осознанных, явных прогнозах — прогнозах нового варианта коронавируса или победы футбольной команды, но это столь же верно и в отношении неформализованных прогнозов поведения других людей или отскока мяча. Удивительно, но это верно и на более глубоком уровне. Наше восприятие мира представляет собой непрерывный поток прогнозов, проверяемых на основе данных, поступающих от органов чувств. Мы предполагаем, что небольшую точку света дает небольшой, находящийся неподалеку объект, или что определенный средне-серый цвет на нашей сетчатке вызван темным объектом, освещенным ярким светом. Мы проверяем эти предсказания, получая новую информацию: двигая головой или осматривая объект. И даже на самом низком уровне человеческий мозг, похоже, работает, предсказывая количество и характер нервных импульсов, которые он ожидает, вознаграждая себя дофамином, когда эти прогнозы оказываются близки к реальности, и наказывая себя отсутствием ожидаемого дофамина, когда это не так.
Точные детали этой гипотезы могут меняться. Возможно, модель активного вывода/прогностической обработки ошибочна в каком-то важном смысле. Но мозг явно работает за счет того, что делает прогнозы и обновляет их. И более того, благодаря такому взгляду на мир многие вещи обретают смысл — оптические и слуховые иллюзии, галлюцинации, сновидения, психические заболевания. Есть такая штука, называется «состояние потока», когда вы заняты каким-то делом — играете на музыкальном инструменте, занимаетесь спортом или играете в видеоигру, рисуете, что угодно, и кажется, что все получается: именно в такие моменты ваши прогнозы становятся высокоточными и каждый раз сбываются. Когда на темной улице вы ненадолго принимаете отдельно стоящий почтовый ящик за человека, это ваш мозг формирует гипотезу на основе зашумленных данных. Когда вы ловите себя на том, что уставились на человека с каким-то изъяном на лице, вы не просто так ведете себя бестактно: у мозга есть сильные априорные представления о внешнем виде человеческих лиц, и когда эти представления «сбоят», и происходят ошибки прогнозирования, он ищет дополнительную информацию. Этим же объясняется и тот факт, почему с возрастом мы становимся более косными. В юности у нас очень мало данных о мире, поэтому наши априорные представления слабы, и новая информация может легко их изменить. Мы умеем быстро учиться, потому что у нас нет очень точной модели мира, позволяющей делать качественные прогнозы. Однако с возрастом мы получаем больше информации, у нас появляется более информативная, более точная модель мира, и информация новая, по логике вещей, должна меньше влиять на наши априорные представления. Поэтому пожилые люди (по выражению Фристона) «мудры, но негибки». В пожилом возрасте вы можете предсказывать мир гораздо точнее, если только мир сам не меняется. Но если мир все-таки меняется, вам нужно гораздо больше информации, чтобы изменить свои прежние представления. Так возникают стереотипы, что отцы просят детей настроить видеомагнитофон. Даже само сознание приобретает больше смысла в байесовской парадигме. Свой опыт восприятия мира мы можем рассматривать как прогнозы, как байесовские априорные вероятности. Это не решает
сложную проблему сознания, но, похоже, дает нам интересное пространство для поиска. *** Такая модель проверки прогнозов также подходит, пожалуй, самому высокому уровню мышления, который практикуют люди, — науке. Наука же вся сводится к прогнозам, гипотезам и их проверке. Гельмгольц и Грегори использовали науку как модель человеческого восприятия. Проблема в том, что в науке нам нравится думать, что существует объективная истина, а байесовская модель восприятия явно субъективна. Оценка вероятности — это не какой-то факт о мире, а мое оптимальное предположение о мире с учетом имеющейся у меня информации. Но если мы хотим задавать вопросы типа «насколько вероятно, что моя гипотеза верна, учитывая новые данные?», мы должны использовать априорные вероятности — и тут мы должны стать байесианцами. Единственный способ заполучить априорные вероятности — использовать субъективные оценки. Это не значит, что их можно брать из воздуха: есть более и менее разумные априорные вероятности, и мы можем оценить разумность наших априорных вероятностей с помощью краудсорсинга и проверок на предмет того, устояли бы наши открытия, если бы мы «стартовали» с несколько иными априорными вероятностями. Тем не менее, все это, так или иначе, наши несовершенные догадки о реальных фактах, лежащих в основе мира. Это не значит, что наука не может ничего знать или что все это идеальный постмодерн. Это просто означает, что мы снова строим модели мира и стараемся проверить их на соответствие реальному миру: делаем прогнозы и обновляем их с учетом новой информации, пытаясь свести к минимуму ошибку прогнозирования. У нас есть ментальная карта, и карта — это не территория, однако территория существует, и если карта неправильная, она направит нас куда-нибудь не туда. На самом деле такая байесовская модель кажется неплохим способом осмысления науки. Философы науки увязли в эпистемологии. Мы ничего не можем знать наверняка; нас может
обманывать злой демон, может быть, мы просто мозг в банке. Мы можем увидеть миллион белых лебедей, но мы не можем быть уверены, что никогда не увидим черного лебедя; так что сможем ли мы когда-нибудь сказать: «Все лебеди белые»? Если зайти слишком далеко, легко оказаться в странных дебрях мысли, так же, как, например, Пол Фейерабенд или Роберт Антон-Уилсон, заявившие, что знание в принципе невозможно. Или Поппер, утверждавший, что нет такого понятия, как подтверждение теории, а есть только ее опровержение. Однако очевидно, что знание все-таки возможно или, по крайней мере, мы можем делать надежные прогнозы в отношении мира, в котором живем. Я с большой уверенностью предсказываю, что благодаря законам аэродинамики самолет успешно взлетит и приземлится. Но ведь с Байесом все так и есть! Вот у меня есть гипотеза о том, какой процент лебедей являются белыми, и я проверяю ее с помощью доказательств. Начинаю, допустим, с оценки, что 50 % лебедей белые, но по мере того, как я вижу все больше и больше белых лебедей, я расширяю распределение вероятностей, пока не окажется, что значительная часть вероятностной массы сосредоточена на утверждении, что «все лебеди белые». Но полной уверенности я так и не добиваюсь, так же как Томас Байес, который обретал уверенность в том, где находится белый шар, по мере того, как вбрасывал все больше и больше красных шаров, но полной уверенности так и обрел. Затем, если я вижу контрпримеры, вероятность того, что все лебеди белые, сразу же сильно уменьшается (хотя и не исключается полностью: может быть, у меня галлюцинации); из-за этого я сдвигаю распределение вероятностей дальше. Нас не загоняют на странные постмодернистские позиции, где все модели мира одинаково валидны; мы можем быть эмпириками и говорить, что гелиоцентрическая модель Солнечной системы предсказывает мир точнее, чем геоцентрическая, или что гипотеза «большинство лебедей — белые» ближе к истине, чем гипотеза «все лебеди белые». При этом мы спокойно относимся к неопределенности и никогда не говорим, что у нас есть абсолютный окончательный ответ. Означает ли это, что мы должны заниматься статистикой науки байесовским способом, отдельный вопрос. Я не думаю, что это решит все проблемы, и, вероятно, в некоторых сферах такой подход уместнее,
чем в других. Как сказал Даниель Лакенс, когда вы получаете результаты на уровне пяти сигм от Большого адронного коллайдера, ваши априорные вероятности не так уж важны. Но Байес позволяет избежать некоторых проблем, присущих фреквентистской науке, и, опять же, позволяет думать о том, насколько мы уверены в той или иной гипотезе, а не просто принимать или отвергать ее. Есть в байесианстве какая-то эстетически приятная аккуратность. Однако всё это теория. Мозг делает то, что делает, а наука может использовать любую статистику, с которой чувствует себя максимально комфортно. Но я думаю, что из байесианства можно извлечь полезные уроки и практические преимущества, если взять некоторые идеи и применить их на практике. Я не утверждаю, что правило Байеса нужно применять к каждому суждению (или убеждению), но следует иметь в виду несколько вещей. Во-первых, нет необходимости так уж прямо думать в парадигме «правильно и неправильно», «истина или ложь». Можно мыслить в категориях того, насколько мы уверены в том или ином представлении, и корректировать его в ту или иную сторону, а не принимать или отвергать его полностью, обосновывая свой выбор каким-то произвольным порогом. Большинство из нас либо верит во что-то, либо нет. А это значит, что когда появляются доказательства, противоречащие какому-то убеждению, мы должны либо отвергнуть эти доказательства, либо изменить убеждение. Но если мы мыслим в понятиях процентной вероятности, то мы можем учитывать новые данные и на их основе менять распределение вероятностей в ту или иную сторону. Верно и обратное. Когда мы читаем новое научное исследование, скажем, утверждающее, что красное вино вызывает рак, не надо с ходу доверять этому выводу или сразу не доверять. Можно подумать так: «Какова моя априорная вероятность? Насколько это правдоподобно по моим представлениям?» Может и нет смысла высчитывать конкретные вероятности в процентах; можно взять собственные знания о мире и с помощью новой информации скорректировать их, а не метаться тудасюда при каждой новой порции данных. Идея, что убеждения суть прогнозы — ключевая. Помня об этом, вы сможете уклониться от огромного количества самых нелепых споров. Например, много чернил было пролито за обсуждением
вопроса, существует ли культура отмены? Большинство спорящих согласны с реальными фактами — некоторые люди потеряли работу из-за слов, сказанных ими в интернете, — они просто расходятся во мнении, заслуживают ли эти факты названия «культура отмены». Если вы соглашаетесь, что «культура отмены» существует или не существует, изменит ли это какие-то прогнозы, которые вы делаете в отношении будущего? С какой ошибкой прогнозирования вы могли бы столкнуться, которая заставила бы вас повысить или понизить уровень уверенности в этом представлении? Если такой ошибки нет, то, возможно, вы просто спорите об определении слова, а не о каком-то реальном утверждении о вещах, бытующих во Вселенной, поэтому можно «проехать» и начать обсуждать что-то более конкретное. Вы начнете замечать, что дикое количество споров — и в реальном мире между друзьями, и в СМИ, и в интернете, — сводится к тому, следует ли использовать то или иное слово для описания некоторого набора явлений: это «воук»? Это расизм? Это евгеника? Но очень часто от исхода спора не зависит ничего, кроме ярлыка, который можно на что-то нацепить. Возможно, такое отношение полезно, если вы хотите выиграть какой-то спор или заручиться поддержкой для какого-то политического действия, например, чтобы что-то запретить, но это не меняет ваших прогнозов в отношении мира вокруг вас. Как мы говорили в самом начале, будущее можно предсказать. Мы предсказываем будущее ежесекундно — и на микроуровне, причем вынужденно, если хотим ориентироваться в мире и не спотыкаться всякий раз во время ходьбы, и на очень высоком уровне, когда бронируем отпуск на следующий год и прогнозируем, что Лансароте еще будет существовать и что туда можно будет долететь аэробусом авиакомпании Jet2. То же происходит во всевозможных промежуточных вариантах, когда мы идем в магазин, прогнозируя, что там будет крафтовое пиво IPA или шоколадное печенье, или когда избегаем в разговоре с другом упоминаний о его недавнем разводе, потому что прогнозируем, что ему это неприятно. В этом нет никакой мистики: мы так функционируем. Люди — прогностические машины, а Томас Байес показал, как это работает с точки зрения математики
Благодарности Я не смог бы написать эту книгу без помощи многих людей, которые, говоря прямо, гораздо лучше меня понимают теорему Байеса, варианты и аспекты ее применения. В алфавитном порядке: Дэвид Беллхаус, Юлия Визе, Уильям Вуф, Энди Грив, Софи Карр, Джонни Китсон, Обри Клейтон, Никитас Кризаитис, Пол Кроули, Даниель Лакенс, Йенс Коед Мадсен, Дэвид Манхейм, Маркус Мунафо, Анил Сет, Пегги Сириес, Майкл Стори, Хелен Тонер, Александра Фримен, Крис Фрит, Кори Чиверс (не мой родственник), Дэвид Чиверс (мой дальний родственник), Мюррей Шанахан, Пит Этчеллс. В нарушение алфавитного порядка уже во второй своей книге подряд я хотел бы особо отметить помощь Кевина Макконвея, заслуженного профессора статистики Открытого университета, потому что он в очередной раз, прочитав книгу, мягко указал мне на несколько мест, где я вообще не так понял суть. Без его вмешательства в этой книге было бы гораздо больше ошибок, чем есть в итоге, — вероятно, их все равно очень много, несмотря на все его старания. В качестве благодарности я отправил Кевину бутылку виски Ardbeg, но мне показалось, что публичная признательность тоже не помешает. Дженни Лорд, Люсинда Макнейл и другие сотрудники издательства Weidenfeld Nicolson, а также Уилл Фрэнсис из Janklow Nesbit сделали так, что книга действительно получилась, что, наверное, неплохо. Моя талантливая сестра Сара Чиверс в очередной раз нарисовала иллюстрации, и они, как и раньше, получились замечательным Клер Трамбл и Маркус Макгилликадди дали мне разрешение посвятить эту книгу памяти Луиса. Ну и, конечно, я благодарен моей жене Эмме и детям Билли и Аде за то, что они прекрасны.
Примечания Введение: Теория почти всего Scott Alexander, «Book Review: Surfing Uncertainty», Slate Star Codex(2017), https://slatestarcodex.com/2017/09/05/book-review-surfinguncertainty Nick Collins, «Stephen Hawking: Ten pearls of wisdom», Daily Telegraph(2010), https://www.telegraph.co.uk/news/science/sciencenews/7978898/Stephen-Hawking-ten-pearls-of-wisdom.html H. P. Beck-Bornholdt H. H. Dubben, «Is the Pope an alien?», Nature 381, 730 (1996), https://doi.org/10.1038/381730d0 S. J. Evans, I. Douglas, M. D. Rawlins et al., «Prevalence of adult Huntington’s disease in the UK based on diagnoses recorded in general practice records», Journal of Neurology, Neurosurgery Psychiatry(2013), 84:1156–60. M. Alexander Otto, «FDA Grants Emergency Authorization for First Rapid Antibody Test for COVID-19», Medscape (2020), https://www. medscape.com/viewarticle/928150 John Redwood, Twitter (2020), https://twitter.com/johnredwood/ status/1307921384883073024 «What should I advise about screening for prostate cancer?», NICE (2022), https://cks.nice.org.uk/topics/prostate-cancer/diagnosis/ screeningfor-prostate-cancer P. Rawla, «Epidemiology of Prostate Cancer», World J. Oncol. (2019), Apr., 10(2):63–89, doi: 10.14740/wjon1191 H. D. Nelson, M. Pappas, A. Cantor, J. Griffin, M. Daeges L. Humphrey, «Harms of Breast Cancer Screening: Systematic Review to Update the 2009 U. S. Preventive Services Task Force Recommendation», Ann. Intern. Med. (2016), Feb. 16, 164(4):256–67, doi: 10.7326/M15–0970 «Breast screening», NICE (2022), https://cks.nice.org.uk/topics/ breast-screening/
S. Taylor-Phillips, K. Freeman, J. Geppert et al., «Accuracy of noninvasive prenatal testing using cell-free DNA for detection of Down, Edwards and Patau syndromes: a systematic review and meta-analysis», BMJ Open(2016), 6:e010002, doi: 10.1136/bmjopen-2015–010002 C. Jowett, «Lies, damned lies, and DNA statistics: DNA match testing, Bayes» theorem, and the Criminal Courts', Medicine, Science and the Law, 41(3) (2001), pp. 194–205, doi: 10.1177/002580240104100302 Steven Strogatz, «Chances Are», New York Times (2010), https://archive. nytimes.com/opinionator.blogs.nytimes.com/2010/04/25/chances-are/ Gerd Gigerenzer, Reconing with Risk: Learning to Live with Uncertainty, Penguin (2003), p. 141 Глава первая: От «Книги общих молитв» до Full Monty Carlo T. Bayes R. Price, «An Essay towards Solving a Problem in the Doctrine of Chances. By the Late Rev. Mr. Bayes, F. R. S. Communicated by Mr. Price, in a Letter to John Canton, A. M. F. R. S.», Philosophical Transactions(1683–1775), vol. 53, 1763, pp. 370–418. JSTOR, http:// www.jstor.org/stable/105741 D. R. Bellhouse, «The Reverend Thomas Bayes, FRS: A Biography to Celebrate the Tercentenary of His Birth», Statistical Science, 19(1), 3–43 (2004), https://doi.org/10.1214/088342304000000189 Большая часть исторической информации почерпнута из краткой биографии Байеса, написанной Беллхаусом, и из бесед с самим Беллхаусом. Я благодарен ему за его ученость и высоко оцениваю эту книгу; она доступна бесплатно в интернете. J. Landers, Death and the Metropolis: Studies in the demographic history of London, 1670–1830 (Cambridge: Cambridge University Press, 1993), p. 136. Stephen Stigler, «Richard Price, the First Bayesian», Statistical Science, 33(1), 117–25 (Feb. 2018). T. Birch (1766), An Account of the Life of John Ward, LL.D., Professor of Rhetoric in Gresham College; F. R. S. and F. S. A., P. Vaillant, London. Quoted in Bellhouse (2004).
G. A. Barnard T. Bayes, «Studies in the History of Probability and Statistics: IX. Thomas Bayes’s Essay Towards Solving a Problem in the Doctrine of Chances», Biometrika 45, no. ¾ (1958), 293–315, https:// doi.org/10.2307/2333180 Alexander Gordon, «Peirce, James», Dictionary of National Biography (1885–1900), https://en.wikisource.org/wiki/Dictionary_of_National_ Biography,_1885−1900/Peirce,_James T. Bayes (1731), Divine benevolence: Or, an attempt to prove that the principal end of the divine providence and government is the happiness of his creatures: being an answer to a Pamphlet, entitled, Divine rectitude; or, An Inquiry concerning the Moral Perfections of the Deity. With a refutation of the notions therein advanced concerning beauty and order, the Reason of Punishment, and the Necessity of a State of Trial antecedent to perfect Happiness, London, printed for John Noon, at the White-Hart in Cheapside, near Mercers-Chapel. David Hume, Dialogues Concerning Natural Religion, p. 187. Via the Gutenberg Project, https://www.gutenberg.org/files/4583/4583-h/4583-h. htm John Balguy, Divine rectitude: or, a brief inquiry concerning the moral perfections of the deity; particularly in respect of creation and providence, printed for John Pemberton, at the Buck, over-against St. Dunstan’s Church, Fleetstreet (1730). Bellhouse (2004), p. 10. James Foster, «An Essay on Fundamentals in Religion» (1720). Taken from Unitarian Tracts in Nine Volumes, British and Foreign Unitarian Association, 1836. D. Coomer (1946), English Dissent under the Early Hanoverians, Epworth Press, London. Quoted in Bellhouse, 2004. Bellhouse (2004), p. 12. Bellhouse (2004), p. 13. E. Montague (1809–13), The Letters of Mrs. Elizabeth Montagu, with Some of the Letters of her Correspondents 1–4, T. Cadell and W. Davies, London. (Reprinted 1974 by AMS Press, New York.) Quoted in Bellhouse, 2004. Thomas Bayes (1736), An introduction to the doctrine of fluxions, and defence of the mathematicians against the objections of the author of the
Analyst, so far as they are designed to affect their general Methods of Reasoning. J. Lagrange (1869–70), Œurvres de Lagrange, Publiées par les Soins de M. J.-A., Serret 3 (1869), 441–76; 5 (1870), 663–84, Gauthier-Villars, Paris. Cited in Bellhouse, 2004. P. Gorroochurn (2012), «The Chevalier de Méré Problem I: The Problem of Dice (1654)», in Classic Problems of Probability, P. Gorroochurn (ed.), https://doi.org/10.1002/9781118314340.ch3, p. 14. The letters between Pascal and Fermat are available in full at https://www.york.ac.uk/depts/maths/histstat/pascal.pdf The text of Pacioli’s work, and that of Cardano and Tartaglia, is quoted in The Problem of the Points: Core Texts in Probability, Jim Sauerberg, Saint Mary’s College (2012), http://math.stmarys-ca.edu/wp-content/ uploads/2015/08/prob-talk.pdf Prakash Gorroochurn (2012), «Some Laws and Problems of Classical Probability and How Cardano Anticipated Them», Chance, 25:4, 13–20, doi: 10.1080/09332480.2012.752279 Example taken from Aubrey Clayton, Bernoulli’s Fallacy: Statistical Illogic and the Crisis of Modern Science, Columbia (2021), p. 7. Jakob Bernoulli (1713), Ars conjectandi, opus posthumum. Accedit Tractatus de seriebus infinitis, et epistola gallicé scripta de ludo pilae reticularis, Basel: Thurneysen Brothers. Translated into English by Oscar Sheynin, Berlin (2005), Part Four, p. 19, http://www.sheynin. de/download/bernoulli.pdf Quoted in G. Gigerenzer, Z. Swijtink, T. Porter, L. Daston, J. Beatty L. Krueger, The Empire of Chance: How probability changed science and everyday life, Cambridge: Cambridge University Press (1989). J. Piaget B. Inhelder, The Origin of the Idea of Chance in Children(L. Leake, Jr, P. Burrel and H. D. Fishbein, trans.), New York: Norton (1975) (original work published 1951). S. Raper (2018), «Turning points: Bernoulli’s golden theorem», Significance, 15:26–9, https://doi.org/10.1111/j.1740–9713.2018.01171.x Aubrey Clayton, Bernoulli’s Fallacy: Statistical Illogic and the Crisis of Modern Science, Columbia (2021), p. 74 Stephen Stigler, The History of Statistics: The Measurement of Uncertainty before 1900, Harvard University Press (1986), p. 117.
Plato, The Republic, Book 7, translated by Benjamin Jowett, p. 198, http://www.filepedia.org/files/Plato%0-%0The%0Republic.pdf Bernoulli, Ars Conjectandi, book 4, chapter 1. Stigler (1986), p. 107. Abraham de Moivre, The Doctrine of Chances: Or, A Method of Calculating the Probability of Events in Play, London: W. Pearson (1718). Taken from Stigler (1986), p. 124. Biography by Niccolò Guicciardini, in Dictionary of National Biography(Oxford, 2004). Cited at https://mathshistory.st-andrews.ac.uk/ Biographies/Simpson/ Guicciardini, ibid. Guicciardini, ibid. T. Simpson, «A letter to the Right Honorable George Earl of Macclesfield, President of the Royal Society, on the advantage of taking the mean of a number of observations in practical astronomy», Philos. Trans. Roy. Soc. Lond., 49, 82–93 (1755). Stigler (1986), p. 138. Letter from Thomas Bayes to John Canton, undated but likely from 1755. Cited in Bellhouse (2004), p. 20. Thomas Simpson, Miscellaneous tracts on some curious, and very interesting subjects in mechanics, physical-astronomy, and speculative mathematics, London: John Nourse (1757), p. 64. David Spiegelhalter, The Art of Statistics: Learning from Data, Penguin Random House (2019), p. 306. Stigler (1986), p. 180. Spiegelhalter (2019), p. 324. Bayes Price (1763). Example taken from Spiegelhalter (2019). Spiegelhalter (2019), p. 325. Stigler (1986), p. 179. From the will of Thomas Bayes. Cited in Barnard (1958). Letter to Thomas Jefferson from Richard Price, 2 July 1785, https://founders.archives.gov/documents/Jefferson/01−08−02–0197; letter from Thomas Jefferson to Richard Price, 7 August 1785, https://founders.archives.gov/ documents/Jefferson/01−08−02–0280; and letter from Thomas Jefferson to Richard Price, 8 January 1789,
https://founders.archives.gov/documents/ Jefferson/01−14−02–0196; all in the Library of Congress. Письмо Бенджамина Франклина Ричарду Прайсу от 9 октября 1780 года, https://founders.archives.gov/documents/Franklin/01–33−02– 0330; и письмо Бенджамина Франклина Ричарду Прайсу от 9 октября 1780 года, https://founders.archives.gov/documents/Franklin/01– 41−02−0002; все хранится в Библиотеке Конгресса. Thomas Fowler Richard Price (1723–91), Dictionary of National Biography, vol. 46, 1896, p. 335. Личная беседа с Дэвидом Беллхаусом. David Bellhouse (2002), «On some recently discovered manuscripts of Thomas Bayes», Historia Math., 29, 383–94. Stephen M. Stigler, «Richard Price, the First Bayesian», Statistical Science, 33(1), 117–25 (Feb. 2018). Bayes Price (1763). David Hume (1748), «Of Miracles», in Philosophical Essays Concerning Human Understanding, Millar, London, p. 83. R. Price (1767), Four Dissertations, Millar and Cadell, London, 2nd edn 1768, 3rd edn 1772, 4th edn 1777. R. Price (1767), cited in Stigler (2018) Hume to Price, 18 March 1767. In D. O. Thomas B. Peach (1983), The Correspondence of Richard Price, Volume I: July 1748–March 1778, Duke Univ. Press, Durham, NC, pp. 45–7; cited in Stigler (2018). David Bellhouse Marcio Diniz, «Bayes and Price: when did it start?», Significance, vol. 17, issue 6, December 2020, pp. 6–7, https://doi. org/10.1111/1740–9713.01460 Bernoulli (1713), p. 19. Cited in Clayton (2021). Laplace (1786), pp. 317–18. Cited in Stigler (1986). Clayton (2021), p. 120. Stigler (1986), p. 242. Francis Edgeworth, «The philosophy of chance», Mind 31 (1922), 257–83. Louis-Adolphe Bertillon, 1876: Dictionnaire encyclopédique des sciences medicales, 2nd series, 10: 296–324, Paris: Masson Asselin. Cited in Stigler, 1986. George Boole, An investigation of the laws of thought on which are founded the mathematical theory of logic and probabilities, London: Walton
and Maberly (1854), p. 370. Stigler (1986), p. 362. Francis Galton, Natural Inheritance, Macmillan (1894), p. 64. Francis Galton, «Regression Towards Mediocrity in Hereditary Stature», The Journal of the Anthropological Institute of Great Britain and Ireland, vol. 15 (1886), pp. 246–63. JSTOR, https://doi.org/10.2307/2841583 R. Plomin I. J. Deary, «Genetics and intelligence differences: five special findings», Mol. Psychiatry(Feb. 2015), 20(1):98–108, doi: 10.1038/ mp.2014.105 Francis Galton (1865), «Hereditary Talent and Character», Macmillan’s Magazine 12: 157–66, 318–27. Clayton (2021), p. 133 Francis Galton, letter to the Editor of The Times, 5 June 1873. Bradley Efron, «R. A. Fisher in the 21st Century», Statistical Science, vol. 13, no. 2 (1998), pp. 95–114. JSTOR, http://www.jstor.org/stable/2676745 H. E. Soper, A. W. Young, B. M. Cave, A. Lee K. Pearson (1917), «On the distribution of the correlation coefficient in small samples; Appendix II to the papers of „Student“ and R. A. Fisher. A cooperative study», Biometrika, 11, 328–413, https://doi.org/10.1093/biomet/11.4.328 Ronald A. Fisher, «Some Hopes of a Eugenicist», Eugenics Review, 5, no. 4 (1914), 309. Karl Pearson Margaret Moul, «The Problem of Alien Immigration into Great Britain, Illustrated by an Examination of Russian and Polish Jewish Children: Part II», Annals of Eugenics 2, no. 1–2 (1927), 125. John Stuart Mill, A System of Logic, Ratiocinative and Inductive(1843), Vol. II, p. 71. Joseph Bertrand (1889), «Calcul des probabilités», Gauthier-Villars, pp. 5–6. John Venn, The Logic of Chance, London: Macmillan (1876), p. 22. Ronald A. Fisher, «On the Mathematical Foundations of Theoretical Statistics», Philosophical Transactions of the Royal Society of London, Series A, Containing Papers of a Mathematical or Physical Character 222 (1922), 312. Ronald Aylmer Fisher, «Uncertain Inference», Proceedings of the American Academy of Arts and Sciences, vol. 71, no. 4 (1936), pp. 245–58.
JSTOR, https://doi.org/10.2307/20023225 This section draws on Zabell Sandy, «R. A. Fisher on the History of Inverse Probability», Statistical Science, vol. 4, no. 3 (1989), pp. 247–56. JSTOR, http://www.jstor.org/stable/2245634 George Boole, «On the Theory of Probabilities», Philosophical Transactions of the Royal Society of London, vol. 152 (1862), pp. 225–52. JSTOR, http://www.jstor.org/stable/108830 R. A. Fisher (1930), «Inverse Probability», Mathematical Proceedings of the Cambridge Philosophical Society, 26, pp. 528–35, doi: 10.1017/ S0305004100016297 R. A. Fisher (1921), «On the Mathematical Foundations of Theoretical Statistics», Phil. Trans. R. Soc. Lond., Ser. A 222, 309–68. R. A. Fisher, Statistical Methods for Research Workers, Oliver and Boyd, (1925), p. 10. R. A. Fisher (1926), «The arrangement of field experiments», Journal of the Ministry of Agriculture, 33, p. 504, https://doi.org/10.23637/ rothamsted.8v61q Much of what follows is drawn from Sharon Bertsch McGrayne, The Theory That Would Not Die: How Bayes' Rule Cracked the Enigma Code, Hunted Down Russian Submarines, and Emerged Triumphant from Two Centuries of Controversy, Yale University Press (2011). H. Jeffreys, Scientific Inference, Cambridge: Cambridge University Press (1931). Reprinted with Addenda 1937, 2nd modified edition 1957, 1973. H. Jeffreys (1926), «The Rigidity of the Earth’s Central Core», Geophysical Journal International, 1: 371–83, https://doi.org/10.1111/j.1365−246X.1926. tb05385.x David Howie (2002), Interpreting Probability: Controversies and Developments in the Early Twentieth Century, Cambridge University Press, p. 126. Cited in Howie (2002). D. V. Lindley (1991), «Sir Harold Jeffreys», Chance, 4:2, 10–21, doi: 10.1080/09332480.1991.11882423 Lindley (1991). F. P. Ramsey, «Truth and Probability», Studies in Subjective Probability, H. E. Kyburg, H. E. Smokler E. Robert (eds), Krieger Publishing Company: Huntington, New York, NY (1926), p. 183. Ramsey (1926), p. 65.
Cheryl Misak, Frank Ramsey: A Sheer Excess of Powers, Oxford University Press (2020), p. 271. The following examples are taken from McGrayne (2011). José M. Bernardo, «The Valencia Story: Some details on the origin and development of the Valencia International Meetings on Bayesian Statistics», ISBA Newsletter, December 1999, https://www.uv.es/bernardo/ ValenciaStory.pdf Bernardo (1999). P. R. Freeman A. O’Hagan, «Thomas Bayes’s Army [The Battle Hymn of Las Fuentes]», The Bayesian Songbook, ed. Carlin Bradley (2006), p. 37, https://www.yumpu.com/en/document/read/11717939/ the-bayesiansongbook-university-of-minnesota Professor Sir David Spiegelhalter, Twitter (2022), https://twitter. com/d_spiegel/status/1555822628996259840 Professor Sir David Spiegelhalter, Twitter (2022), https://twitter.com/d_spiegel/status/1556029674970644481 Maurice Kendall Alan Stuart, The Advanced Theory of Statistics, Charles Griffin Company (1960). M. G. Kendall, «On the Future of Statistics — A Second Look», Journal of the Royal Statistical Society, Series A (General), Vol. 131, No. 2 (1968), pp. 182–204. D. V. Lindley, «The Future of Statistics: A Bayesian 21st Century», Advances in Applied Probability, vol. 7 (1975), pp. 106–15, JSTOR, https://doi.org/10.2307/1426315 Larry Wasserman, «Is Bayesian inference a religion?», Normal Deviate(2013), https://normaldeviate.wordpress.com/2013/09/01/isbayesian-inference-a-religion/ «Breathing some fresh air outside of the Bayesian church», The Bayesian Kitchen(2013), http://bayesiancook.blogspot.com/2013/12/breathing-some-fresh-airoutside-of.html G. E. P. Box, «An Apology for Ecumenism in Statistics», in G. E. P. Box, T. Leonard C. F. J. Wu (eds), Scientific Inference, Data Analysis, and Robustness, pp. 51–84, Academic Press (1983). Глава вторая: Байес в науке
Diederik Stapel, Onderzoek de psychologie van vlees, Marcel Zeelenberg Roos Vonk (2011). D. A. Stapel S. Lindenberg (2011), «Coping with Chaos: How Disordered Contexts Promote Stereotyping and Discrimination», Science, New York, 332(6026): 251–3. Yudhijit Bhattacharjee, «The Mind of a Con Man», New York Times(2013), https://www.nytimes.com/2013/04/28/magazine/diederikstapels-audacious-academic-fraud.html D. J. Bem, «Feeling the future: experimental evidence for anomalous retroactive influences on cognition and affect», J. Pers. Soc. Psychol. (March 2011), 100(3):407–25, doi: 10.1037/a0021524, PMID: 21280961 J. A. Bargh, M. Chen L. Burrows, «Automaticity of social behavior: direct effects of trait construct and stereotype-activation on action», J. Pers. Soc. Psychol. (Aug. 1996), 71(2):230–44, doi: 10.1037//0022–3514.71. 2.230, PMID: 8765481 K. D. Vohs, N. L. Mead M. R. Goode, «The psychological consequences of money», Science(17 Nov. 2006), 314(5802): 1154–6, doi: 10.1126/ science.1132491, erratum in Science(24 Jul. 2015), 349(6246):aac9679, PMID: 17110581 S. W. Lee N. Schwarz, «Bidirectionality, mediation, and moderation of metaphorical effects: the embodiment of social suspicion and fishy smells», J. Pers. Soc. Psychol. (Nov. 2012), 103(5): 737−49, doi: 10.1037/ a0029708, epub 20 Aug. 2012, PMID: 22905770 Daniel Kahneman, Thinking, Fast and Slow, Penguin (2011), pp. 56–7. J. P. Simmons, L. D. Nelson U. Simonsohn, «False Positive Psychology: Undisclosed Flexibility in Data Collection and Analysis Allows Presenting Anything as Significant», Psychological Science(2011), 22(11): 1359–66, doi:10.1177/0956797611417632 J. P. Ioannidis, «Why most published research findings are false», PloS. Med. (Aug. 2005), 2(8):e124, doi: 10.1371/journal.pmed.0020124 Malte Elson, «FlexibleMeasures.com: Competitive Reaction Time Task», http://www.flexiblemeasures.com/crtt/ https://doi.org/10.17605/OSF. IO/4G7FV K. M. Kniffin, O. Sigirci B. Wansink, «Eating Heavily: Men Eat More in the Company of Women», Evolutionary Psychological Science 2, 38–46 (2016), https://doi.org/10.1007/s40806−015−0035−3
B. Wansink, D. R. Just, C. R. Payne M. Z. Klinger, «Attractive names sustain increased vegetable intake in schools», Prev. Med. (Oct. 2012), 55(4): 330−32, doi: 10.1016/j. ypmed.2012.07.012 Brian Wansink, «The grad student who never said „No“» (2016), archived at https://archive.ph/cPxmm Stephanie M. Lee, «Here’s how Cornell scientist Brian Wansink turned shoddy data into viral studies about how we eat», BuzzFeed News(2018), https://www.buzzfeednews.com/article/stephaniemlee/ brianwansinkcornell-p-hacking Retraction Watch database: http://retractiondatabase.org/RetractionSearch.aspx?AspxAutoDetectCookieSupport=1#?AspxAutoDetectCookieSupport%d1%6auth%dWansink%52c%bBrian Stephanie M. Lee, «Cornell Just Found Brian Wansink Guilty Of Scientific Misconduct And He Has Resigned», BuzzFeed News(2019), https://www.buzzfeednews.com/article/stephaniemlee/brian-wansinkretired-cornell D. J. Bem (1987), «Writing the empirical journal article», in M. Zanna J. Darley (eds), The Compleat Academic: A practical guide for the beginning social scientist(pp. 171–201), New York: Random House. Open Science Collaboration, «Estimating the reproducibility of psychological science», Science (28 Aug. 2015), 349(6251): aac4716, doi: 10.1126/science.aac4716, PMID: 26315443 H. Haller S. Kraus, «Misinterpretations of significance: A problem students share with their teachers?», Methods of Psychological Research, 7(1) (2002), pp. 1–20. S. A. Cassidy, R. Dimova, B. Giguère, J. R. Spence D. J. Stanley, «Failing grade: 89 % of introduction-to-psychology textbooks that define or explain statistical significance do so incorrectly», Advance in Methods and Practices in Psychological Science, 2(3) (2019), pp. 233–9, https://doi. org/10.1177/2515245919858072 Giulia Brunetti, «Neutrino velocity measurement with the OPERA experiment in the CNGS beam», Journal of High Energy Physics(2012), doi: 10.1007/JHEP10(2012)093 Matt Strassler, «OPERA: What went wrong» (2 April 2012), Of Particular Significance, https://profmattstrassler.com/articles-and-posts/ particle-physics-basics/neutrinos/neutrinos-faster-than-light/opera-whatwent-wrong/
David Hume, An Enquiry Concerning Human Understanding, Section IV, Part II.28, reprinted from The Posthumous Edition of 1777, and edited with Introduction, Comparative Tables of Contents, and Analytical Index by L. A. Selby-Bigge, M. A., Late Fellow of University College, Oxford. Second Edition, 1902. Hume (1777), Section V, Part I.36. Paul Feyerabend, «From Incompetent Professionalism to Professionalized Incompetence — The Rise of a New Breed of Intellectuals», Philosophy of Social Science, 8 (1978), 37–53. Karl Popper, Realism and the Aim of Science: From the Postscript to the Logic of Scientific Discovery, Routledge (1985), Chapter I, Section 3, I. Karl Popper (1959), The Logic of Scientific Discovery(2002 pbk; 2005 ebook edn), Routledge, ISBN 978−0–415–27844–7, p. 91. Karl Popper, Realism and the Aim of Science, Routledge (1985). Michael Evans, Measuring Statistical Evidence Using Relative Belief, CRC Press (2015), p. 107. Johnny van Doorn et al., «Strong Public Claims May Not Reflect Researchers» Private Convictions', PsyArXiv (7 Oct. 2020). Einstein, letter cited in C. Howson P. Urbach, Scientific Reasoning: The Bayesian approach, Open Court Publishing Co. (1989), p. 7. Цитата из Эйнштейна по кн: Abraham Pais, Subtle is the Lord: The Science and the Life of Albert Einstein, Oxford University Press (1982), p. 159, cited in Howson Urbach (1989), p. 7. Daniël Lakens, «Improving your statistical inferences», Coursera, 3.2: Optional Stopping, https://www.coursera.org/learn/statisticalinferences/supplement/SES3h/assignment-3−2-optional-stopping D. V. Lindley (1957), «A statistical paradox», Biometrika, 44: 187−92. W. Edwards, H. Lindman L. J. Savage (1963), «Bayesian statistical inference for psychological research», Psychological Review, 70: 193–242. E. J. Wagenmakers, R. Wetzels, D. Borsboom, H. L. J. van der Maas R. A. Kievit (2012), «An agenda for purely confirmatory research», Perspectives on Psychological Science, 7: 627−33. J. N. Rouder, «Optional stopping: No problem for Bayesians», Psychon. Bull. Rev., 21: 301–8 (2014), https://doi.org/10.3758/s13423−014–0595−4 D. Bakan (1966), «The test of significance in psychological research», Psychological Bulletin, 66(6): 423−37, doi: 10.1037/h0020412
P. E. Meehl (1990), «Why summaries of research on psychological theories are often uninterpretable», Psychological Reports, 66(1): 195–244, https://doi.org/10.2466/PR0.66.1.195–244 D. V. Lindley (1957), «A statistical paradox», Biometrika, 44: 187−92. D. J. Benjamin, J. O. Berger, M. Johannesson et al., «Redefine statistical significance», Nat. Hum. Behav., 2: 6–10 (2018), https://doi.org/10.1038/ s41562−017–0189-z Cassie Kozyrkov, «Statistics: Are you Bayesian or Frequentist?», Towards Data Science (4 Jun. 2021), https://towardsdatascience.com/statistics-are-you-bayesian-or-frequentist4943f953f21b Suetonius, De vita Caesarum, lib. I, xxxii. Population on 1 Jan. 2022, Eurostat Data Browser, https://ec.europa. eu/eurostat/databrowser/view/tps00001/default/table?lang=en Cited by Andrew Gelman, «If you’re not using a proper, informative prior, you’re leaving money on the table», Statistical Modeling, Causal Inference, and Social Science(21 Nov. 2014), https://statmodeling. stat.columbia.edu/2014/11/21/youre-using-proper-informative-prior-youreleaving-money-table/ Kozyrkov (2021). Глава третья: Байесовская теория принятия решений Aristotle (4th century bc), Physics; translation with commentary by H. G. Apostle, Bloomington: Indiana University Press (1969). E. Jaynes (2003), Probability Theory: The Logic of Science(G. Bretthorst, ed.), Cambridge: Cambridge University Press, p. 4, doi: 10.1017/ CBO9780511790423 G. Boole, An Investigation of the Laws of Thought, on which are Founded the Mathematical Theories of Logic and Probabilities, London: Walton and Maberly (1854). Reprinted as George Boole’s Collected Works, vol. 2, Chicago New York: Open Court (1916). Reprinted New York: Dover (1951). Jaynes (2003), p. 3. Eliezer Yudkowsky, Rationality: From AI to Zombies(2015), loc. ebook, p. 104.
Yudkowsky (2015), loc. ebook p. 104. Yudkowsky (2015), pp. 792, 202. Jaynes (2003), p. 35. Oliver Cromwell (1650): Letter 129, http://www.olivercromwell.org/ Letters_and_speeches/letters/Letter_129.pdf Dennis Lindley (1991), Making Decisions(2nd edn), Wiley, ISBN 0– 471–90808−8, p. 104. Eliezer Yudkowsky, Rationality: From AI to Zombies(2015), p. 245. «How NICE measures value for money in relation to public health interventions», 1 Sep. 2013, https://www.nice.org.uk/media/default/ guidance/lgb10-briefing-20150126.pdf «List of things named after John von Neumann», https://en.wikipedia. org/wiki/List_of_things_named_after_John_von_Neumann Much of the following is drawn from Ananyo Bhattacharya, The Man from the Future: the visionary life of John von Neumann, WW Norton Co. (2022), p. 160. J. von Neumann O. Morgenstern, Theory of Games and Economic Behavior, 6th printing (1955), Princeton University Press, p. 10. Eliezer Yudkowsky, «Occam’s Razor», Read The Sequences(2015), p. 115 https://www.readthesequences.com/Occams-Razor Michal Koucký (2006), «A Brief Introduction to Kolmogorov Complexity», http://iuuk.mff.cuni.cz/~koucky/vyuka/ZS2013/kolmcomp.pdf Этот пример взят из книги E. Jaynes (2003), Probability Theory: The Logic of Science(G. Bretthorst, ed.), Cambridge: Cambridge University Press, p. 4, doi: 10.1017/CBO9780511790423 S. G. Soal (1940), «Fresh light on card guessing: Some new effects», Proceedings of the Society for Psychical Research, 46: 152−98. Stuart Russell Peter Norvig, Artificial Intelligence: A Modern Approach, 3rd edn, Pearson (2010), p. 9. Глава четвертая: Байес в мире S. Lichtenstein, P. Slovic, B. Fischhoff, M. Layman B. Combs (1978), «Judged frequency of lethal events», Journal of Experimental Psychology:
Human Learning and Memory, 4(6): 551–78, https://doi. org/10.1037/0278–7393.4.6.551 Amos Tversky Daniel Kahneman, «Judgments of and by Representativeness», in Judgment Under Uncertainty: Heuristics and Biases, ed. Daniel Kahneman, Paul Slovic Amos Tversky (New York: Cambridge University Press, 1982), p. 96. Amos Tversky Daniel Kahneman, «The framing of decisions and the psychology of choice», Science (30 Jan. 1981), 211(4481): 453−8, doi: 10.1126/science.7455683. PMID: 7455683 Retraction for Shu et al., «Signing at the beginning makes ethics salient and decreases dishonest self-reports in comparison to signing at the end», Proceedings of the National Academy of Sciences USA(21 Sep. 2021), doi: 10.1073/pnas.1209746109 Cathleen O’Grady, «Fraudulent data raise questions about superstar honesty researcher», Science (24 Aug. 2021), https://www.science.org/ content/article/fraudulent-data-set-raise-questions-about-superstar-honestyresearcher W. Casscells, A. Schoenberger T. B. Graboys, «Interpretation by physicians of clinical laboratory results», N. Engl. J. Med. (1978), 299(18): 999–1001. B. L. Anderson, S. Williams J. Schulkin, «Statistical literacy of obstetrics-gynecology residents», J. Grad. Med. Educ. (Jun. 2013), 5(2): 272−5, doi: 10.4300/JGME-D-12–00161.1 P. C. Wason (1968), «Reasoning about a rule», Quarterly Journal of Experimental Psychology, 20(3): 273−81, doi: 10.1080/14640746808400161 Jonathan St. B. T. Evans, Stephen E. Newstead Ruth M. J. Byrne (1993), Human Reasoning: The Psychology of Deduction, Psychology Press, ISBN 978−0–86377–313–6. L. Cosmides J. Tooby (1992), «Cognitive Adaptions for Social Exchange», in J. Barkow, L. Cosmides J. Tooby (eds), The Adapted Mind: Evolutionary psychology and the generation of culture, New York: Oxford University Press, pp. 163–228. Louis Liebenberg, personal communication; cited in Pinker Steven, Rationality: What it is, why it seems scarce, why it matters, Penguin Random House (2021), p. 4.
J. K. Madsen (2016), «Trump supported it ⁈ A Bayesian source credibility model applied to appeals to specific American presidential candidates» opinions', in A. Papafragou, D. Grodner, D. Mirman J. C. Trueswell (eds), Proceedings of the 38th Annual Conference of the Cognitive Science Society, Cognitive Science Society, pp. 165–70. Douglas Adams, Dirk Gently’s Holistic Detective Agency, Simon Schuster (1987), p. 153. Gerd Gigerenzer Henry Brighton (2009), «Homo Heuristicus: Why Biased Minds Make Better Inferences», Topics in Cognitive Science, 1(1): 107−43, doi: 10.1111/j.1756–8765.2008.01006.x, hdl: 11858/00−001M0000 0024-F678−0 Dennis Shaffer, Scott Krauchunas, Marianna Eddy Michael McBeath (2004), «How Dogs Navigate to Catch Frisbees», Psychological Science, 15: 437−41, doi: 10.1111/j.0956–7976.2004.00698.x R. P. Hamlin (2017), «„The gaze heuristic:“ biography of an adaptively rational decision process», Top. Cogn. Sci., 9: 264–288, doi: 10.1111/ tops.12253 Garrick Blalock, Vrinda Kadiyali Daniel Simon (2009), «Driving Fatalities After 9/11: A Hidden Cost of Terrorism», Applied Economics, 41: 1717−29, doi: 10.1080/00036840601069757 «Letters to the Editor», The American Statistician(1975), 29:1, 67–71, doi: 10.1080/00031305.1975.10479121 Marilyn vos Savant (2012) [1990–1991], «Game Show Problem», Parade. Andrew Vazsonyi, Which Door Has the Cadillac: Adventures of a Real-Life Mathematician, iUniverse (2002), p. 5. Martin Gardner (1959), The Second Scientific American Book of Mathematical Puzzles and Diversions, Simon Schuster, ISBN 978−0–226– 28253–4. John Lewis Gaddis (2005), The Cold War: A New History, Penguin Press, ISBN 978–1594200625, p. 228. Gaddis (2005), p. 228. Philip Tetlock Dan Gardner, Superforecasting, Penguin Random House (2015), p. 50. Andrew Mauboussin Michael J. Mauboussin, «If You Say Something Is „Likely,“ How Likely Do People Think It Is?», Harvard Business
Review(3 Jul. 2018), https://hbr.org/2018/07/if-you-say-something-is-likelyhow-likely-do-people-think-it-is Tetlock Gardner (2015), p. 59. Tetlock Gardner (2015), p. 73. Tetlock Gardner (2015), p. 113. Tetlock Gardner (2015), p. 157. Jcobellis, 378 U. S. at 197 (Stewart, J., concurring). Ludwig Wittgenstein (1953), Philosophical Investigations, WileyBlackwell, p. 7. Diogenes Laërtius, «The Cynics: Diogenes», Lives of the Eminent Philosophers, Vol. 2:6 (1925), translated by Hicks, Robert Drew (2-vol. edn), Loeb Classical Library. Глава пятая: Байесовский мозг Plato, The Republic, Book VII, W. H. D. Rouse (ed.), Penguin Group Inc., pp. 365–401. Sylvia Berryman, «Democritus», The Stanford Encyclopedia of Philosophy(Winter 2016 edn), Edward N. Zalta (ed.), https://plato.stanford.edu/ archives/win2016/entries/democritus/ Vasco Ronchi, Nature of Light: An Historical Survey, Heinemann (1970), p. 16. Ibn al-Haytham, Book of Optics, trans. A. I. Sabra (1989), Book I, Chapter 3.22, https://monoskop.org/images/f/ff/The_Optics_of_Ibn_ AlHaytham_Books_I–III_On_Direct_Vision_Sabra_1989.pdf Immanuel Kant, W. S. Pluhar P. Kitcher (1996), Critique of Pure Reason, Indianapolis, IN: Hackett Publishing Co. (original work published 1787). L. R. Swanson, «The Predictive Processing Paradigm Has Roots in Kant», Front. Syst. Neurosci. (10 Oct. 2016), 10:79, doi: 10.3389/ fnsys.2016.00079. PMID: 27777555; PMCID: PMC5056171 Hermann von Helmholtz (1850), «Vorläufiger Bericht über die Fortpflanzungs-Geschwindigkeit der Nervenreizung», Archiv für Anatomie, Physiologie und wissenschaftliche Medicin, 71–3. Hermann von Helmholtz (1868), «The Recent Progress of the Theory of Vision», in Science and Culture: Popular and Philosophical Essays, ed.
David Cahan, Chicago: University of Chicago Press (1995), pp. 127–203. R. L. Gregory, Eye and Brain, 5th edn, Oxford University Press [Google Scholar] (1998). Gregory (1998). Cates Holderness, «What Colors Are This Dress?», BuzzFeed(26 Feb. 2015), https://www.buzzfeed.com/catesish/help-am-i-going-insane-itsdefinitely-blue Phil. Trans. R. Soc. Lond. B(1997), 352: 1121−8. Figure design by Kasuga-jawiki; vectorization by Editor at Large; «The dress» modification by Jahobr. Creative Commons licence. S. Aston A. Hurlbert, «What #theDress reveals about the role of illumination priors in color perception and color constancy», J. Vis. (1 Aug. 2017), 17(9): 4, doi: 10.1167/17.9.4, PMID: 28793353, PMCID: PMC5812438 Richard FitzHugh, «A statistical analyzer for optic nerve messages», J. Gen. Physiol. (20 Mar. 1958), 41(4): 675−92, doi: 10.1085/jgp.41.4.675, PMID: 13514004, PMCID: PMC2194875 Эта история позаимствована в основном из книг: Andy Clark, Surfing Uncertainty: Prediction, Action, and the Embodied Mind(OUP, 2015), и Anil Seth, Being You: A New Science of Consciousness(Faber Faber, 2021). Marc Ernst Martin Banks (2002), «Humans integrate visual and haptic information in a statistically optimal fashion», Nature, 415: 429−33, doi: 10.1038/415429a See: McGurk effect — Auditory Illusion — BBC Horizon, https://www. youtube.com/watch?v=2k8fHR9jKVM «Green Needle or Brainstorm?», Illinois Vision Lab, https://publish.illinois.edu/visionlab/2021/01/27/green-needle-brainstorm/ W. Schultz, «Reward signaling by dopamine neurons», Neuroscientist(Aug. 2001), 7(4): 293–302, doi: 10.1177/107385840100700406, PMID: 11488395 Например: R. P. N. Rao T. J. Sejnowski, «Predictive coding, cortical feedback, and spike-timing dependent plasticity», in R. P. N. Rao, B. A. Olshausen M. S. Lewicki (eds), Probabilistic Models of the Brain: Perception and neural function(2002), Cambridge, MA: MIT Press, pp. 297–315.
T. Hosoya, S. Baccus M. Meister, «Dynamic predictive coding by the retina», Nature(2005), 436: 71–7, https://doi.org/10.1038/nature03689 A. Kolossa, B. Kopp T. Fingscheidt, «A computational analysis of the neural bases of Bayesian inference», Neuroimage(1 Feb. 2015), 106: 222−37, doi: 10.1016/j. neuroimage.2014.11.007, epub 8 Nov. 2014, PMID: 25462794 Benjamin W. Tatler, Mary M. Hayhoe, Michael F. Land, Dana H. Ballard, «Eye guidance in natural vision: Reinterpreting salience», Journal of Vision 2011;11(5):5. doi: https://doi.org/10.1167/11.5.5. Is this correct? TURNS OUT NO. GOOD CATCH Cited in Andy Clark, Surfing Uncertainty, p. 67. «The Saccadic Tracking Loop», Fault Tolerant Tennis(2022), https:// faulttoleranttennis.com/the-saccadic-tracking-loop/ M. F. Land B. W. Tatler (2009), Looking and Acting: Vision and eye movements in natural behaviour, Oxford University Press, https://doi. org/10.1093/acprof: oso/9780198570943.001.0001 Sarah-Jayne Blakemore, Daniel Wolpert Chris Frith (2000), «Why can’t you tickle yourself?», Neuroreport, 11, doi: 10.1097/00001756– 200008030–00002 S. S. Shergill, P. M. Bays, C. D. Frith D. M. Wolpert, «Two eyes for an eye: the neuroscience of force escalation», Science(11 Jul. 2003), 301(5630): 187, doi: 10.1126/science.1085327, PMID: 12855800 S. J. Blakemore, D. M. Wolpert C. D. Frith, «Central cancellation of self-produced tickle sensation», Nat. Neurosci. (Nov. 1998), 1(7): 635−40, doi: 10.1038/2870, PMID: 10196573 Chris Frith, Making Up the Mind: How the Brain Creates Our Mental World(2007), Blackwell, p. 102. H. M. Wichowicz, S. Ciszewski, K. Żuk A. Rybak-Korneluk, «Hollow mask illusion — is it really a test for schizophrenia?», Psychiatr. Pol. (2016), 50(4): 741−5, doi: 10.12740/PP/60150, PMID: 27847925 Frith (2007), p. 108. R. Carhart-Harris, B. Giribaldi, R. Watts, M. Baker-Jones, A. MurphyBeiner, R. Murphy, J. Martell, A. Blemings, D. Erritzoe D. J. Nutt, «Trial of Psilocybin versus Escitalopram for Depression», N. Engl. J. Med. (15 Apr. 2021), 384(15): 1402−11, doi: 10.1056/NEJMoa2032994, PMID: 33852780 A. K. Davis, F. S. Barrett, D. G. May et al., «Effects of PsilocybinAssisted Therapy on Major Depressive Disorder: A Randomized Clinical
Trial», JAMA Psychiatry(2021), 78(5): 481−9, doi: 10.1001/ jamapsychiatry.2020.3285; C. S. Grob, A. L. Danforth, G. S. Chopra et al., «Pilot Study of Psilocybin Treatment for Anxiety in Patients With Advanced-Stage Cancer», Arch. Gen. Psychiatry(2011), 68(1): 71−8, doi: 10.1001/archgenpsychiatry.2010.116; S. Ross, A. Bossis, J. Guss et al., «Rapid and sustained symptom reduction following psilocybin treatment for anxiety and depression in patients with life-threatening cancer: a randomized controlled trial», Journal of Psychopharmacology ( 2016), 30(12): 1165−80, doi: 10.1177/0269881116675512; R. R. Griffiths, M. W. Johnson, M. A. Carducci et al., «Psilocybin produces substantial and sustained decreases in depression and anxiety in patients with lifethreatening cancer: A randomized double-blind trial», Journal of Psychopharmacology(2016), 30(12): 1181−97, doi: 10.1177/0269881116675513 Scott Alexander, «God help us, let’s try to understand Friston on free energy», Slate Star Codex(4 Mar. 2018), https://slatestarcodex. com/2018/03/04/god-help-us-lets-try-to-understand-friston-on-free-energy/ Заключение: Байесовская жизнь J. Clark, S. Watson K. Friston (2018), «What is mood? A computational perspective», Psychological Medicine, 48(14): 2277−84, doi: 10.1017/S0033291718000430; P. R. Corlett, C. D. Frith P. C. Fletcher, «From drugs to deprivation: a Bayesian framework for understanding models of psychosis», Psychopharmacology(Nov. 2009), 206(4): 515–30, doi: 10.1007/s00213−009–1561−0, epub 28 May 2009, PMID: 19475401; PMCID: PMC2755113 Fred Hoyle (1983), The Intelligent Universe: A New View of Creation and Evolution, Michael Joseph Ltd, p. 19. J. Huber, S. Inoua, R. Kerschbamer, C. König-Kersting, S. Palan V. L. Smith, «Nobel and novice: Author prominence affects peer review», Proc. Natl. Acad. Sci. USA (11 Oct. 2022), 119(41): e2205779119, doi: 10.1073/pnas.2205779119, epub 4 Oct. 2022, PMID: 36194633, PMCID: PMC9564227 George E. P. Box (1976), «Science and statistics», Journal of the American Statistical Association, 71 (356): 791−9, doi:
10.1080/01621459.1976.10480949
Примечания Отсылка к Евангелию от Матфея, 10:29–31. — Прим. пер.. Вернуться Приятно думать, впрочем, что если бы у меня получилось обойтись без уравнений, то я мог бы продать четыре экземпляра. Вернуться Нонконформизм — течение в английском протестантизме, отколовшееся по ряду теологических вопросов от позиции Церкви Англии. Вернуться Вы тестируете миллион человек. Тысяча из них реально больна ковидом. Ваш тест выявил 900 из них. Из остальных 999 000 тест ложно диагностировал болезнь у 9 990. 900 + 9 990 = 10 890. 900 — это примерно 9 % от 10 890. Вернуться Разумеется, это не означает, что вероятность того, что он невиновен, составляет один к 300 000, ведь образец его ДНК мог оказаться на орудии убийства в результате какого-то другого обстоятельства, а не только из-за того, что он убийца. Вернуться Dissenting academies — учебные заведения, принадлежавшие общинам несогласных с вероучением Церкви Англии. Вернуться
Британская академия наук. Вернуться В численном обозначении: x=1+2+3+4+5.. Вернуться Более точно можно сказать, что такой ряд расходится, и что сумма этого ряда (предел его частичных сумм) равна плюс бесконечности. — Прим. науч. ред. Вернуться В численном обозначении: x=(½)+(¼)+(⅛)+(1/16)+(1/32).. Вернуться Эта формула верна далеко не всегда; напротив, она требует достаточно жестких ограничений на функцию и сходимость приведенного ряда. Байесу эти ограничения, скорее всего, не были известны. — Прим. науч. ред. Вернуться Справедливости ради для того, чтобы понять, что с рассуждением Кардано что-то не так, достаточно отличить на практике 52 % и 49 % от 67 %, что намного проще. — Прим. науч. ред. Вернуться В математике же куда шире используется так называемая Малая теорема Ферма; также с его именем связаны используемый в физике принцип Ферма, простые числа Ферма и т.д. — Прим. науч. ред. Вернуться Попутно замечу, что эта задача сводит меня с ума. Почему шестьдесят и десять? Почему не шесть и одно? Система подсчета
очков в квиддиче в «Гарри Поттере» столь же глупа — два способа подсчета очков дают вам десять и 150 очков соответственно. Почему не одно и пятнадцать? Зачем нужен ноль? Раз уж я заговорил о квиддиче, то совершенно безумно, что поймать снитч стоит в пятнадцать раз больше забитого гола и, по сути, обессмысливает стремление команды забить максимальное число голов. Вернуться Это то, что в рамках байесовского подхода апостериорными вероятностями. — Прим. науч. ред. Вернуться называется Генеральной совокупностью называют все события изучаемого нами вида, которые когда-либо происходили, происходят или в принципе могут происходить. Иными словами, генеральная совокупность — вещь сугубо теоретическая, описывающая то, как на самом деле устроен мир (точнее, изучаемая нами часть). Это значит, что когда мы рассуждаем не об абстрактной модели, а о фактических результатах экспериментов, мы, как правило, не знаем характеристики генеральной совокупности абсолютно точно. Мы лишь пытаемся приблизиться к этому знанию в той или иной мере при помощи постановки и анализа дополнительных экспериментов. — Прим. науч. ред. Вернуться Количество шаров в этой урне далее считается очень большим, или, как говорят математики, сколь угодно большим. — Прим. науч. ред. Вернуться Под истинной пропорцией здесь понимается доля не в выборке, а во всей (потенциально бесконечной) урне. Если перейти от урн с шарами к общему случаю, то потенциально бесконечное количество случаев, из которого мы набираем нашу ограниченную выборку, в
математике называется генеральной совокупностью. — Прим. науч. ред. Вернуться В этой задаче объем выборки может быть больше количества шаров в урне, поскольку, посмотрев на цвет шара, мы тут же возвращаем его обратно в урну. Впрочем, это тот случай, когда попытка повысить точность вероятностной оценки более трудоемка, чем решение «грубой силой»: просто высыпать все шары из урны и пересчитать. — Прим. науч. ред. Вернуться А точнее, до ста. — Прим. науч. ред. Вернуться Давайте считать, что здесь автор пошутил. Существует масса способов для приближенных вычислений, и хотя не все они были известны во времена Бернулли, все же для длинных и трудоемких вычислений он наверняка пользовался какими-то из них. — Прим. науч. ред. Вернуться То есть подчиняющихся закону, разговор о котором начал Муавр. — Прим. науч. ред. Вернуться Эвристический метод с дополнительными шарами не заменяет строгий расчет с использованием интегрирования, но позволяет пояснить его. Например, можно рассуждать так. Что мы знаем в самом начале о том, где упал белый шар? Ничего. Это значит, что все положения белого шара мы в этот момент считаем одинаково вероятными (а средним значением всех таких положений является середина стола). То же самое среднее положение мы можем получить,
заранее поместив один красный шар у левого края стола, а другой — у правого. Такое рассуждение позволяет хоть немного пояснить, почему же метод дополнительных шаров срабатывает. — Прим. науч. ред. Вернуться Да, да, апостериорная. Смейтесь пока, но до конца книги нам избежать этого слова не удастся. Вернуться То есть в соответствии с колоколообразной кривой, о которой ранее говорилось в связи с исследованиями де Муавра и которая сейчас называется распределением Гаусса. — Прим. науч. ред. Вернуться Например, некоторые величины, сами по себе распределенные нормально, могут быть коррелированы друг с другом; также нормально распределена может быть какая-то функция от исследуемой величины (в частности, ее логарифм в случае знаменитого логнормального распределения). — Прим. науч. ред. Вернуться Некоторые байесианцы — Гарольд Джеффрис и особенно Эдвин Т. Джейнс — все же говорили об «объективном байесианстве», пытаясь обосновать априорные вероятности логическими принципами. «Не думаю, что [Джейнс] в этом преуспел, — рассказывал мне Кевин МакКонвей из Открытого университета, — но он хотя бы попытался». Вернуться Парадокс коробок Бертрана в своем исходном виде таков. Даны три коробки. В первой две золотых монеты, во второй — две серебряные, в третьей — одна золотая и одна серебряная. Открывают случайную коробку и из нее вынимают случайную монету. Монета оказывается золотой. Какова вероятность, что вторая монета в этой
коробке — тоже золотая? Рассмотрение при помощи теоремы Байеса дает ответ: вероятность ⅔, то есть шансы на это — два к одному. Если же взять вариант задачи, когда есть три мешка, и в одном три белых шара, в другом — три черных, а в третьем — один белый и два черных, то вероятность вытащить из того же мешка второй белый шар, если первый уже был белым — ¾. То есть в этом варианте задачи шансы составляют три к одному. — Прим. науч. ред. Вернуться Mine eyes have seen the glory: первая строфа американской патриотической песни «Боевой гимн Республики» (The Battle Hymn of the Republic). Вернуться Поместье примерно в 70 км от Лондона, где в годы Второй мировой войны располагалось главное дешифровальное подразделение британской армии. Вернуться The Undertaker; псевдоним одного американских рестлеров Марка Кэлвея. Вернуться из самых известных Английское выражение to smell fishy (буквально «пахнуть рыбой») означает «выглядеть подозрительно». Вернуться Англ. red brick university — неформальный термин, обозначающий группу из шести престижных университетов Англии, расположенных в крупных промышленных городах. Все они были первоначально основаны как колледжи прикладных или инженерных дисциплин, однако еще до Первой мировой войны получили статус университетов. Изначально термин имел скорее негативную окраску,
поскольку эти университеты были относительно молодыми, но при этом быстроразвивающимися, а потому рассматривались как «выскочки» по сравнению со «старинными университетами». Однако по мере появления в 1960‐е годы «университетов из листового стекла» (plate glass universities), а после 1992 года — большого числа «новых университетов», словосочетание «краснокирпичный университет» стало синонимом респектабельности. — По материалам Википедии. Вернуться Если хотите узнать обо всем этом подробнее, настоятельно рекомендую бесплатный онлайн-курс Лакенса на Coursera под названием Improving Your Statistical Inferences («Совершенствование статистических выводов»). Вернуться Или, например, половину. Здесь важен размер выборки, а не то, что других кандидатов в выборку не осталось. Идея состоит в том, что большая выборка позволяет замечать столь малые различия между средними значениями в группах, что мы, скорее всего, найдем микроскопические различия, вызванные очень слабыми, но реальными причинами — причинами столь сложными и запутанными, что они нас не будут интересовать ни в одном практическом исследовании. — Прим. науч. ред. Вернуться Должен заметить, что фреквентисты — не идиоты, и они обо всем этом думали. Можно оценить величину эффекта в рамках фреквентистского подхода, можно провести «проверку эквивалентности», позволяющую определить, достаточно ли велик кажущийся эффект, чтобы обращать на него внимание, и, как мы уже говорили, опровержение или принятие нулевой гипотезы не является окончательным. Но это несколько ситуативно и не встроено в систему, как в случае с Байесом. Вернуться
На самом деле распределение здесь треугольное, оно пока не особенно похоже на настоящий гауссовский колокол. Впрочем, чем больше костей мы будем бросать одновременно, тем более распределение выпавших сумм будет похоже на нормальное. — Прим. науч. ред. Вернуться Досадно, конечно, что статистики взяли слово likelihood, означающее в повседневном языке примерно то же самое, что и probability («вероятность»), и придали ему «узко-техническое» значение, которое отличается в тонком, но важном смысле, так что в итоге все теперь путаются. Вернуться Упомянутая выше нормировка — это умножение на такой коэффициент, чтобы площадь под получившейся кривой плотности распределения снова стала равна единице. Потому что единице должна быть равна вероятность получить хоть какой-нибудь ответ — а ведь это и есть площадь под кривой! Возможно, вам уже надоело повторение мантры про равную единице площадь, но потерпите, это очень важно! По крайней мере, для нас, математиков. — Прим. науч. ред. Вернуться Плотность вероятности показывает, насколько большая вероятность для результата попасть в окрестность определенного размера вокруг данной точки. — Прим. науч. ред. Вернуться Здесь автор использует одинаковое написание названия штата Джорджия (Georgia) и Грузии (тоже Georgia) на английском, поэтому вопрос оставлен без перевода («Какая столица Джорджии/Грузии?»). Вернуться
Таких искажений несколько. Есть сдвиги в сторону положительных результатов, в сторону постановки новых проблем по сравнению с проверкой старых работ, есть также сдвиг в сторону публикации результатов, не слишком сильно отличающихся от ожидаемых. — Прим. науч. ред. Вернуться Обычно не говорят о фактической истинности силлогизма как целого. Если посылки корректного силлогизма истинны, то истинным является и вывод; однако если какая-либо из посылок ложна, то вывод может быть как ложным, так и истинным. В дальнейшем автор для краткости говорит об истинности или ложности силлогизма целиком. Это следует понимать как истинность обеих посылок (или, напротив, как ложность хотя бы одной из посылок). — Прим. науч. ред. Вернуться При этом, если хотя бы одно из этих утверждений ложно, то и выражение A ∧ B ложно. Если же и А и В истинны, то и конъюнкция A ∧ B истинна. — Прим. науч. ред. Вернуться Если же окажется, что и А и В ложны, то и выражение A ∨ B ложно. Но если хотя бы одно из исходных выражений истинно, то и вся дизъюнкция истинна. — Прим. науч. ред. Вернуться В русскоязычной литературе И-НЕ означает, что схема состоит как бы из двух последовательных схем: сперва сигналы подвергаются преобразованию схемой И, а затем результат обрабатывается схемой НЕ. В англоязычной литературе та же схема называется NOT AND или NAND. — Прим. науч. ред. Вернуться
Я вроде как написал такую — называется «The Rationalist’s Guide to the Galaxy» («Путеводитель рационалиста по Галактике»); ее можно купить во всех или, по крайней мере, в некоторых книжных, которые мы любим, и, возможно, даже в нескольких книжных, которые нам безразличны! Вернуться Здесь фигурирует отношение правдоподобия вместо функции правдоподобия, потому что у нас бинарные данные (писк есть / писка нет) а не непрерывные (например, координата шара на столе). — Прим. науч. ред. Вернуться Идеальность и, соответственно, максимальная эффективность машины Карно интересным образом связаны с ее обратимостью: машину Карно можно запустить в обратную сторону (по холодильному циклу), не меняя рабочего диапазона температур. Для любой практически реализуемой тепловой машины такая идеальная обратимость (и, как следствие, максимальная эффективность) недостижима. — Прим. науч. ред. Вернуться Автор отсылает к «эффекту бабочки» («Может ли взмах крыльев бабочки в Бразилии вызвать торнадо в Техасе?»). Вернуться Важно подчеркнуть, что денежная единица может иметь разную полезность для разных людей в зависимости от их предпочтений и текущего достатка. Поэтому разговор идет именно о фунтах полезности, а не о фунтах стерлингов. — Прим. науч. ред. Вернуться
В этом месте очень полезна монотонность предпочтений: это значит, что по заданным условиям человек всегда предпочитает большее количество любого ресурса по сравнению с меньшим. Если бы монотонности не было, мы бы могли столкнуться с отрицательными значениями прироста полезности при увеличении количества ресурса. — Прим. науч. ред. Вернуться То есть вообще-то бритву Оккама следует называть бритвой Уильяма. Вы же не называете Иисуса из Назарета «Назаретом». Вернуться Скажем, нескольких сотен. — Прим. науч. ред. Вернуться Таким образом, минимальная длина сообщения для такой случайной строки равна ее исходной длине. — Прим. науч. ред. Вернуться Соответственно, прочие двери, с номерами от 51 до 100, получают значение p=0. — Прим. науч. ред. Вернуться Вспомним разговор с криптографом Google Полом Кроули, цитировавшийся несколькими страницами ранее. — Прим. науч. ред. Вернуться Дословный перевод «потеря», но в современной русскоязычной литературе этот термин часто приводится без перевода. — Прим. науч. ред. Вернуться
Раньше речь не шла столь подробно о задачах со множеством параметров. Не будем и сейчас углубляться в детали; но, все-таки, скажем, что для двух параметров и функция распределения будет двумерная (функция от двух переменных). Если параметры совсем не зависят друг от друга, то ее можно представить себе в виде отдельных функций распределения для каждого из параметров. Вряд ли наш случай в точности таков; тем не менее, все, что нам нужно сейчас сказать про априорные распределения — это то, что они широкие, не имеют острых пиков. Для этой иллюстративной цели вполне можно немного поступиться строгостью и рассматривать распределения по каждому из параметров независимо друг от друга. — Прим. науч. ред. Вернуться Кстати, не перепутайте случайно распределение параметра (точнее, функцию плотности его распределения), которая по мере накопления данных превращается во все более острый пик, и саму линию наименьших квадратов. Эта-то линия как была прямой, так ею и останется, и по мере накопления данных только сдвигается и меняет наклон. — Прим. науч. ред. Вернуться Многие более современные модели используют многие миллионы, миллиарды и даже сотни миллиардов внутренних параметров модели. — Прим. науч. ред. Вернуться В частности, в случае нейронной сети, лежащей в основе большинства современных ИИ, для описываемого случая нужно иметь существенно больше параметров, то есть чисел, определяющих силу связи между узлами нейронной сети, нежели имеется точек данных. Если это так и есть, модель, возможно, сможет провести линию, которая будет извиваться через все экспериментальные точки. Вернуться
Когда теоретики принятия решений называют какое-то действие «рациональным», они имеют в виду, что это — эффективный способ достижения какой-то цели. Неважно, в чем именно заключается цель — зарабатывание денег, достижение мира во всем мире или строительство тридцатиметровой башни из использованной жевательной резинки. В этом смысле можно вести себя «рационально», даже совершая поступки, которые большинство из нас назвали бы очень глупыми. Вернуться Ошибка конъюнкции может происходить не только из-за прямого непонимания логики конъюнкции, но также и из-за того, что не все люди придают существенное значение тому, чтобы в их утверждениях не было логических ошибок. Поэтому они просто не проверяют свои численные ответы на соответствие друг другу и на отсутствии логических ошибок в соотношениях между ними. — Прим. науч. ред. Вернуться В примере, который применяет Мадсен, речь о США, где употреблять спиртное разрешено с 21 года. Вернуться Мы также называли ее выведенной вероятностью для генеральной совокупности. — Прим. науч. ред. Вернуться Имеются в виду те события, которые и приводят к неприятностям от проезда на красный свет. Например, вероятность появления на дороге водителя, превышающего скорость, который может не успеть затормозить и собьет вас. Или вероятность появления полицейской машины и того, что с вас возьмут штраф. — Прим. науч. ред. Вернуться
Они актуализируются в основном в определенных специфических ситуациях, как видно из последующего примера. — Прим. науч. ред. Вернуться В русскоязычной традиции, когда используют язык шансов, обычно говорят о том, сколько шансов из общего их количества приходится на интересующий нас вариант. Например: «один шанс из трех» (соответствует вероятности ⅓), «три шанса из пяти» (соответствует вероятности ⅗ ). В англоязычной традиции чаще исользуют отношение шансов для двух или нескольких альтернативных вариантов. Например: «шансы один к одному» или «шансы 1:1» (соответствует вероятностям ½ для обоих вариантов, «шансы один к двум» или «шансы 1:2» (соответсвует верятностям ⅓ и ⅔, «шансы 1:2:3» (соответствует вероятностям ⅙, 2/6 и 3/6, или, что то же самое, верятностям ⅙, ⅓ и ½). — Прим. науч. ред. Вернуться Это удобство возникает из того, что при работе с относительными шансами подразумевается, что для получения вероятностей нам придется разделить шанс на общую сумму шансов для всех альтернатив. В результате в теореме Байеса, выраженной через относительные шансы, вовсе не нужен знаменатель, поскольку он и так возникнет при переводе шансов в вероятности. — Прим. науч. ред. Вернуться Математика не вполне такая же, хоть результат и совпадает. В задаче про Монти Холла у нас шесть равновероятных вариантов (см. соответствующую сноску), ни один из которых не пропадает после получения новых данных (мы рассматриваем тот вариант, в котором Монти всегда открывает дверь с козой). А в этой задаче было четыре равновероятных случая, один из которых был вычеркнут при получении новой информации Вернуться
Это сложно вычислить точно, потому что, чтобы получить точную статистику, нужно рассматривать браки, в которых хотя бы один из партнеров умер, чтобы проследить всю продолжительность отношений. Очевидно, что из-за этого нельзя будет учесть большинство браков, заключенных в течение последних сорока лет. Но по данным Национального статистического управления Великобритании (ONS) в 2021 году развелись примерно девять пар из каждой тысячи, или 0,9 %. Если представить, что большинство пар вступают в брак в возрасте около тридцати лет и живут до восьмидесяти, получается пятьдесят лет брака, так что есть шанс на уровне p=0,991, что каждый заключенный брак сохранится в течение того или иного года, то есть (0,991)50=0,63. Таким образом, если 2021 год является репрезентативным, около 37 % браков заканчиваются разводом. «Divorces in England and Wales: 2021», Office for National Statistics, https://www.ons.gov.uk/peoplepopulationandcommunity/ birthsdeathsandmarriages/divorce/bulletins/divorcesinenglandandwales/202 1 Вернуться Скорее всего, в этом примере дело не в разбиении задачи на более мелкие части, а в нахождении неожиданного способа непрямого расчета, для которого есть более надежные данные. Например, в задаче про настройщиков ключевую роль играет предположение, что достигнут баланс спроса и предложения их услуг. — Прим. науч. ред. Вернуться Это неверное утверждение, и у Ферми ничего подобного нет. Тетлок и Гарднер в своей книге пропагандируют применение этого метода к вероятностям, откуда это утверждение перекочевало и в книгу, которую вы сейчас читаете. Однако есть несложные математические причины, которые объясняют, почему для вероятностей такой метод не работает. Дело в том, что метод Ферми дает оценку по порядку величины. Физики очень хорошо умеют делать оценки по порядку величины, именно для проверки этой способности Ферми и давал студентам свою задачу. Но что есть правильный порядок величины? Мы должны избежать ошибки на порядок, то есть
в 10 раз, ошибка на полпорядка (в 3 раза) считается допустимой. Однако для вероятностей это неприемлемо: числа 0,25 и 0,75 отличаются на полпорядка, однако с вероятностной точки зрения первое означает ответ «скорее, нет», а второе — «скорее да». Далее мы разберемся в этом подробнее, и увидим, что попытка уточнить ответ по методу Ферми, работающая для оценки количеств (таких, как количество настройщиков), для вероятностей делает только хуже. — Прим. науч. ред. Вернуться Исследованием занимались три команды: из Швейцарии, Франции и России. Точная формулировка вопроса была такой: объявит ли о нахождении полония любая из двух европейских команд (швейцарская или французская). — Прим. науч. ред. Вернуться Может показаться, что, разбивая задачу на все более и более мелкие фрагменты, мы увеличиваем точность предсказания. Это может работать для оценки количеств, но для оценки вероятности более мелкое разбиение делает только хуже. В результате такой фрагментации все вычисляемые вероятности весьма и весьма зависят от небольших ошибок в определении вероятностей самого нижнего уровня. Вернуться Один из множества прогнозистов, к которым обращались. — Прим. науч. ред. Вернуться Единичное событие — очень слабое подтверждение качества прогнозирования и вероятности в 65 процентов. Так что вывод «так и оказалось» здесь слабо обоснован. Но, хуже того, этот вывод не имеет вообще никакого смысла. Он имел бы смысл только в том случае большой выборки однотипных событий, для которых можно было бы
определить среднюю частоту того или иного исхода. — Прим. науч. ред. Вернуться Усредненный прогноз по предыдущей задаче (Арафат и полоний) большого количества экспертов, как указывается в той же книге Тетлока и Гарднера, составляет 4,27 %, в отличие от удачливого эксперта, которого они приводят в пример, давшего 65 %. Это факт иллюстрирует беспочвенность данного заявления. — Прим. науч. ред. Вернуться Многие эксперты, впрочем, применяют и другие методы: реинтерптетировать свои неудачные прогнозы или же просто не обращать на них внимания. Институт репутации прогнозистов пока еще не сформирован, не совсем понятно, что надо сделать для его формирования. Большинство прогнозов не имеют отношения к научным исследованиям, а представляют собой род искусства (или шарлатанства) и уровень доверия к ним примерно такой же, как к медицине 18‐го века. Так что широкого распространения конкурсов прогнозистов или фестивалей прогностического искусства ждать пока не приходится; впрочем, ряд интересных начинаний уже описаны в этой книге и будут еще описаны ниже. — Прим. науч. ред. Вернуться Я только что его прошел и, к своему удовольствию, обнаружил, что мои 80-процентные догадки оказываются верными в 85 % случаев, что совсем неплохо. Годы работы над текстами о подобных вещах выбили из меня всю мою самоуверенность. Вернуться В медицине два различных показателя точности называются чувствительностью и специфичностью. Чувствительность — это единица минус доля ложноотрицательных результатов, а
специфичность — единица минус доля ложноположительных. — Прим. науч. ред. Вернуться Очевидно, по оценкам самого Джонни Китсона. Нет объективного способа определить подобную вероятность. — Прим. науч. ред. Вернуться Нечеткие понятия, о которых речь идет здесь, не требуют теоремы Байеса для разговора о них. Нужны лишь вероятности — например, что случайно выбранный человек нечто посчитает кучей. Но еще лучше применять здесь специально разработанную для таких случаев нечеткую логику (fuzzy logic). В ней центральное значение занимает термин «степень принадлежности», выражаемый числом от 0 до 1. Для нашей задачи это число будет показывать, в какой мере данное множество песчинок является кучей. Например, можно будет сказать, что «эта группа из пяти песчинок является кучей на 80 %». Заметьте, что это не вероятностный подход! Это не степень уверенности, что кто-то назовет эту группу песчинок кучей. Это именно сообщение о том, что группа из пяти песчинок — не в полной мере куча. А в какой же мере? На 80 %. И это мы говорим с полной уверенностью (с вероятностью 1, если угодно). — Прим. науч. ред. Вернуться И это самые быстрые из них! — Прим. науч. ред. Вернуться Речь о том, что хрусталик в глазу, как и любая линза, переворачивает проецируемое на экран (сетчатку) изображение, при этом мозг обрабатывает его так, чтобы мы видели мир в его естественном виде. — Прим. науч. ред. Вернуться
В оригинале предложение «Ваш мозг знает, что гипотеза THE…» выглядело так: Your brain knows that the the hypothesis «THE» is more likely than the hypothesis «TAE» (except in Scotland, maybe), and that «CAT» is more likely than «CHT». Вернуться От fovea — центральная ямка (сетчатки), см. выше. Вернуться Поддамся искушению сделать отступление: мне кажется, здесь тоже можно обратить внимание на нечто байесовское. Жена Криса Фрита Ута, отец Сары-Джейн Блейкмор Колин и отец Дэниела Уолперта Льюис были или остаются гигантами в своих сферах — психологии, нейробиологии и биологии развития соответственно. Каковы шансы, что у трех авторов одной статьи будут родственникизнаменитые ученые? Если мы возьмем базовый показатель численности известных ученых в популяции — астрономически низкие, но если мы вспомним, что в некоторых профессиях часто формируются «трудовые династии», то несколько выше. И все равно, довольно знаменательный факт. Вернуться По-видимому, не все мы на самом деле ведем внутренний монолог, что я считаю очень странным. Вернуться Еще надо отметить, что псилоцибин выдавался в строгих лабораторных условиях, под медицинским наблюдением и наряду с другой терапией людям с длительной, серьезной депрессией, которая не поддавалась лечению. Пожалуйста, не воспринимайте это так, что вам нужно лечить любые психические расстройства, которые у вас могут быть, псилоцибином, который вы купили с рук на КэмденМаркете. Вернуться
Если точнее, свободная энергия (Гельмгольца) представляет собой максимальное количество механической работы, которое может совершить термодинамическая система, при условии, что в ней извне поддерживается постоянная температура. — Прим. науч. ред. Вернуться Присвоение ошибке прогнозирования титула «свободная энергия» выглядит несколько произвольным. У Фристона в его статьях о принципе свободной энергии никаких энергетических понятий не вводится. Свободная энергия у него именуется так, скорее, по аналогии с физикой, где она — в системе с постоянным объемом и температурой — стремится к минимуму (поскольку энтропия стремится к максимуму). Возможно, с большим основанием тот же принцип можно было бы назвать принципом минимальной взаимной информации между наблюдением и предсказанием. — Прим. науч. ред. Вернуться Этот контроль возможен, поскольку живые существа — не замкнутые системы. Они потребляют питательные вещества и выбрасывают наружу отходы. Это дает возможно управлять потоками энтропии: лишняя энтропия сбрасывается в окружающую среду; внутри организма собственно физическая энтропия поддерживается на оптимальном уровне; при этом максимум беспорядочного движения присутствует на молекулярном уровне, в то время как на уровне клеток, тканей и органов в организме устанавливается необходимая упорядоченность. — Прим. науч. ред. Вернуться Вид когнитивного искажения, когда человек гораздо больше внимания обращает на свидетельства, подтверждающие его точку зрения, чем на свидетельства, противоречащие ей. — Прим. науч. ред. Вернуться