Ошибка выжившего или как один математик спас тысячи летчиков

Автором данной теории является венгерский математик Абрахам Вальд, которому во времена Второй мировой войны по заданию американской армии было поручено вывести формулу, благодаря которой военные смогли бы понять в каких местах самолета-бомбардировщика нужна дополнительная защита.

Далеко не все американские бомбардировщики возвращались после боя, а на тех самолетах, что вернулись пробоины от зенитных орудий и вражеских самолетов были очень сильно рассеяны – основная масса отверстий располагалась на фюзеляже, намного меньше в топливных баках, а самая малая часть отверстий располагалась на двигателях. Военные же хотели понять, как укрепить броней самолет, чтобы защитить летчика и сам летательный аппарат. Основным ходом их мысли было укрепление тех мест, где пробоин больше всего. Но Абрахам Вальд дал четкое обоснование того, что то они мыслят совершенно не верно.

Согласно теории Вальда укреплять необходимо было те места, на которых пробоин меньше всего. Так как с теми пробоинами, что были на вернувшихся самолетах можно было вернуться на авиабазу, а пробоин критических, которые привели к падению самолета, увидеть не удается по той причине, что бомбардировщика уже нет. То есть,

американские военные учитывали лишь опыт выживших самолетов, но категорически отрицали опыт ушедших

.

Данная теория получила несколько названий: систематическая ошибка выжившего, теория сбитых летчиков, предрассудок выжившего и другие. Но независимо от названия суть остается одинаковой. Зачатки данной теории были еще в Древней Греции примерно в V веке до нашей эры. Поэт Диагор Мелосский приводит пример, когда один из его оппонентов утверждал, что боги действительно существуют, уповая на целое множество образов, указывающих на людей, спасшихся в шторме, но предварительно дав клятву тому или иному божеству. На что Диагор отвечал, что изображения утонувших в море, и давших туже клятву, совершенно отсутствуют.

Есть еще один интересный пример данной теории: «О доброте дельфинов». Когда

спасенные утопающие или пловцы сообщали о том, как дельфины помогали им добраться до берега, но нет ни одного упоминания о том, когда дельфины «помогали» таким людям «добраться в другую сторону»

.

Теория ошибки выжившего применима и к бизнесу. Особенно в последние годы, когда развитие всяческих тренингов и книг от «бизнесменов и бизнес тренеров» стали так повально популярны. Максимально подвержены этому явлению молодые люди, которые пытаются повторить путь того или иного успешного бизнесмена, но даже в точности следуя рекомендациям не достигают абсолютно никаких успехов. В данном случае причину практически в точности можно связать с самолетами Абрахама Вальда – в тренингах «миллиардеров» собрана самая ненужная часть информации, где напрямую сказано, как выстраивать ту или иную модель поведения при самых благоприятных условиях. Но о том, что делать, когда все «оборачивается против тебя» не сказано ни единого слова. Отсюда вывод по Вальду – самой ценной, уникальной и полезной информацией обладают люди, которые пытались построить бизнес, которые знают цену ошибки и имеют бесценный опыт. Но такие люди литературными успехами не блещут, ну а если бы они и показали определенный успех в литераторстве, то и книги их никто бы просто не купил.

Значимую часть теория Вальда занимает и в Информации – парадокс доступности информации. Здесь можно привести самый частый пример, когда человек считает тот или иной исход наиболее вероятным, только по причине того, что о данном исходе чаще всего сообщается. Например, в ходе опроса стало понятно, что большинство опрошенных утверждали, что убийств совершается в два раза больше, чем самоубийств. Но в реальности все происходит с точностью до наоборот. Ответ очень прост – в СМИ об убийствах сообщают гораздо чаще, а о самоубийствах говорить практически не принято, именно по данной причине опрашиваемые думали, что самоубийство более редкое явление.

По сути, о применении теории сбитых летчиков можно говорить бесконечно. Мы же хотим представить, как данная теория работает при выборе недвижимости, попробовать применить теорию к сочинским застройщикам, покупателям недвижимости в Сочи, постараться предостеречь от принятия, казалось бы, правильного, но в тоже время и фатального решения при инвестировании в недвижимость Сочи. Итак, начнем!

Как связана теория сбитых летчиков и инвестиции в недвижимость Сочи

Как же все-таки связана теория Вальда и недвижимость? Ответ очень прост – нам всегда показывают только успешные кейсы инвестирования в недвижимость или просто её успешное приобретение, но крайне мало информации о том, как и при каких обстоятельствах инвестор или покупатель потерял свои деньги. По аналогии с парадоксом доступности информации мы слышим только об успешных проектах и понять сколько реально успешных проектов в реальности очень тяжело, так как мы не видим обратного.

Глядя на успешных инвесторов, бизнес-тренеров или риэлторов, которые рассказывают вам об успехах удачных приобретений нужно всегда задаваться тремя основными вопросами – Когда? Как? И при каких обстоятельствах были осуществлены успешные инвестиции. Рынок недвижимости сам по себе – это рынок консервативный и в нем практически никогда не бывает очень «вкусных» предложений, но слышим мы в основном только о том, что вас непременно будет ждать успех. Совершенно также, как и молодые люди, уповая на тренинги «миллионеров», полагая что, повторив их путь станут успешными, а многие клиенты инвестируют в недвижимость, но в итоге не получают ничего.

Три основных вопроса при инвестировании в недвижимость

Вопрос КАК

– поможет понять способы инвестирования или насколько выгодна покупка. Каким образом извлекалась прибыль или сколько стоит уже приобретенная недвижимость.

Вопрос КОГДА

– поможет выяснить временные рамки инвестирования и когда именно была совершена покупка. Это очень важно для понимания экономических параметров, курса валют, политической обстановки в тот или иной временной промежуток и так далее.

Вопрос ПРИ КАКИХ ОБСТОЯТЕЛЬСТВАХ

– поможет понять тренды на рынке, увидеть спрос и так далее.

Всегда старайтесь задавать риэлторам, застройщикам или просто частным продавцам неудобные вопросы, особенно в отношении законности строительства интересующей вас недвижимости и её дальнейшей эксплуатации. Есть примеры в Сочи, которых очень много, к слову, когда продавец (риэлтор, застройщик или частное лицо), видя, что клиент ничего не понимает в документах продает ему квартиру в строящемся доме, где на самом то деле с документами далеко не все в порядке.

Давайте рассмотрим одну из самых частых ситуаций. Клиент приходит в агентство недвижимости и говорит –«Я хочу купить квартиру в строящемся доме в Адлере, но, чтобы все было с документами». Риэлтор, выявляя юридическую подкованность клиента говорит – «Да, документы есть, дом мол будет достроен в срок» и прочее». И показывает документы на строительство в которых указано назначение участка ИЖС или хуже того СНТ, разрешение на строительство в 3 этажа для проживания одной семьи, рассказывает, что дом буден 100% сдан, но через суд и бла…бла…бла… Причем аргументируя это тем, что в Сочи, якобы все так работают и 90% новостроек приобретается именно таким способом. Клиент начинает смотреть информацию в интернете, прислушиваться ко всякого рода блогерам и вуаля – информация подтверждается (по мнению клиента). Как и в случае с нашей теорией Вальда

клиент совершает типичную ошибку – он воспринимает только ту информацию, которой много, где говорят, что все хорошо. А если информация подтверждается массово, то и как в случае с парадоксом доступности информации, клиент начинает доверять и в итоге совершает сделку

.

Что клиент получает в итоге:

1. Нарушение всех возможных норм строительства;
2. Неузаконенный дом;
3. Потеря средств или их заморозка;
4. Невозможность оспорить сделку в суде;
5. Испорченные нервы, ну и многое другое.

И действительно, основная масса продаж недвижимости в Сочи до определенного времени осуществлялась по предварительным договорам и новостройки, как правило, сдавались в эксплуатацию через суд. Люди массово скупали такого рода недвижимость, полагая, что все будет успешно, как и «у всех», но не видели обратной стороны – законности строительства и какие последствия возможны. А последствия в итоге таковы – сносы домов или заморозка строительства, массовые аресты застройщиков и чиновников, падение спроса на недвижимость в Сочи в целом из-за негативной информации и так далее. И совсем ограниченное количество специалистов предвидели данную ситуацию.

Отсюда вытекает 4 принципа инвестирования недвижимости в Сочи:

1. Не покупайте там, куда инвестирует много людей;
2. Инвестируйте туда, где всё по закону;
3. Инвестиция должна быть предсказуемой;
4. Хорошая инвестиция – это инвестиция о которой знает меньше всего людей.

Ошибка выжившего

«Защита» — хороший ярлык для плохих дел.
Милтон Фридман «Свобода выбирать»

Этот текст получился в результате анализа некоторых комментариев к статьям «Дефекты лайков» и «Экономика и права человека».

Интерпретируя какие-либо данные и делая выводы, некоторые комментаторы совершали типичную «ошибку выжившего».

Что такое «систематическая ошибка выжившего»? Это учет известного и пренебрежение неизвестным, но существующим.

Примером «стоимости» ошибки выжившего и примером удачного преодоления этой ошибки является работа венгерского математика Абрахама Вальда, работавшего на американскую армию во время Второй мировой войны.

Командование поставило перед Вальдом задачу проанализировать пробоины от пуль и осколков на американских самолетах и предложить способ бронирования, чтобы пилоты и самолеты не погибали.

Сплошное бронирование применить было нельзя — самолет получался слишком тяжелым. Нужно было или бронировать те места, где повреждения были, куда попали пули, либо те места, где повреждений не было. Оппоненты Вальда предлагали бронировать поврежденные места (на картинке они помечены красными точками).

Вальд возражал. Он говорил, что самолеты с такими повреждениями смогли вернуться, в то время как самолеты с повреждениями в других местах вернуться не смогли. Точка зрения Вальда одержала верх. Самолеты были забронированы там, где у вернувшихся машин повреждений не было. В итоге количество уцелевших самолетов значительно возросло. По некоторым данным, Вальд таким образом спас жизни примерно 30% американских летчиков. (В цифре я могу ошибаться, но эффект был весьма значительным. Вальд спас сотни жизней).

Еще одной иллюстрацией «ошибки выжившего» является рассказ Цицерона о словах Диагора Мелосского, который на аргумент в пользу клятв богам, потому что есть множество «изображений о спасении людей, которые попадали в шторм и давали клятву богам совершить какой-либо обет», ответил, что «однако отсутствуют любые изображения тех, кто погиб в море в результате кораблекрушения».

И первая «ошибка выжившего» в комментариях к статье «Дефекты лайков» состоит в том, что нам неизвестно, сколько хороших, полезных, гениальных идей, творений, изобретений, научных работ было похоронено разнообразными «дизлайками», «игнорами» и «банами».

Процитирую формулировку господина @S-e-n: «Никто не знает, сколько хороших идей было слито, не опубликовано, не разработано из страха бана. Сколько было попыток, тихо закончившихся баном автора — тоже. То, что видно сейчас — сколько удачных идей признано сразу или с запозданием, сколько неудачных не признано. Если опираться только на то, что видно — то да, всё ок.»

Это актуально для любой системы рейтингов, основанной на предпочтениях большинства. Будь то наука, соцсети, поисковые системы, первобытные племена, религиозные группы или иные человеческие сообщества.

Не всегда «бан» и «дизлайк» происходят по «злому умыслу». Реакция «возмущения» на нечто новое и необычное — это рутинная физиологическая и психологическая реакция, называемая модным словом «когнитивный диссонанс» — это просто особенность всего вида Хомо Сапиенс, а не свойство какой-то отдельной группы. А вот раздражители у каждой группы могут быть свои. И чем «новее» и «необычнее», тем сильнее возмущение, сильнее диссонанс. И нужно очень хорошо владеть своей психикой, чтобы не наброситься на «возмутителя спокойствия». Что, впрочем, нисколько не оправдывает агрессора. «Возмутитель» лишь «возмущает», в то время как действия агрессора направлены на уничтожение.

Ошибка выжившего встречается и в комментариях к статье «Экономика и права человека». И касается сертификации лекарств.

Чуть ниже я приведу большую цитату из книги «Свобода выбирать» нобелевского лауреата по экономике Милтона Фридмана, а пока лишь замечу, что огромное количество клинических испытаний, сертификатов и прочего почему-то не всех людей убеждают делать прививки, пить назначенные антибиотики и гормоны. Т.е. лицензирование и сертифицирование в данном случае «не работает». При этом есть довольно много людей, применяющих БАДы или гомеопатию, которые не подвергаются (мягко говоря) такому серьезному контролю, как лекарства. Есть много людей, предпочитающих обратиться к знахарям и народным целителям, вместо того, чтобы идти к доктору и пить «химию», на которую есть лицензии, сертификаты и которая прошла множество контролей и испытаний.

Цена такого решения бывает неимоверно высока — от инвалидности до смерти. Быстрой смерти. Время, которое пациент тратит на лечение БАДами, пренебрегая химией и визитом к врачу, оборачиваются упущенной возможностью успеть вылечить болезнь на ранней стадии, в т.н. «светлый промежуток».

При этом важно понимать, что прежде чем лекарство будет отправлено на «сертификацию», фармфирма проводит множество собственных испытаний и контролей, в т.ч. на людях.

Сертифицирование лишь дублирует эту процедуру. Причем в каждой стране все повторяется, что в конечном итоге увеличивает стоимость лекарства для потребителя.

Это было небольшое отступление от темы. Теперь, сильно сокращая, цитирую Милтона Фридмана.

«Для организации совместной взаимовыгодной деятельности людей не требуется вмешательства внешних сил, принуждения либо ограничения свободы… В настоящее время накоплены значительные свидетельства того, что регулирующая деятельность Управления (FDA) пагубна, что она принесла больше вреда, тормозя прогресс в производстве и распространении полезных препаратов, чем пользы, защищая рынок от вредных и неэффективных препаратов.
Влияние Управления по надзору за качеством пищевых продуктов и медикаментов (FDA) на темпы внедрения новых лекарств очень значительно… в настоящее время требуется значительно больше времени на то, чтобы получить одобрение нового лекарства, и, отчасти вследствие этого, затраты на разработку новых препаратов многократно возросли… для внедрения нового продукта на рынок нужно израсходовать 54 миллиона долларов и около 8 лет, т.е. произошел стократный рост затрат и четырехкратное увеличение времени по сравнению с общим двукратным ростом цен. В результате фармацевтические компании США больше не в состоянии разрабатывать новые препараты для лечения пациентов с редкими заболеваниями. Вдобавок мы даже не можем воспользоваться в полной мере зарубежными достижениями, поскольку Управление не принимает свидетельства из-за границы как доказательство эффективности препаратов.

Если исследовать терапевтическую значимость лекарств, которые не появились в США, но доступны, например, в Англии, вы столкнетесь с рядом случаев, когда пациенты пострадали от отсутствия лекарств. Например, существуют лекарства, которые называются бета-блокаторами и могут предотвратить смерть от сердечного приступа — вторичным предотвращением смерти от инфаркта миокарда, — если бы эти лекарства были доступны в США, они могли бы спасать примерно десять тысяч жизней в год…

Косвенным последствием для пациента является тот факт, что терапевтические решения, которые раньше были на усмотрении врача и пациента, все больше принимаются на национальном уровне комитетами экспертов. Для Управления по надзору за качеством пищевых продуктов и медикаментов высшим приоритетом является избежание риска, вследствие чего у нас есть лекарства более безопасные, но нет более эффективных.

Отнюдь не случайным является то, что Управление по надзору за качеством пищевых продуктов и медикаментов, несмотря на самые лучшие намерения, своими действиями отбивает охоту разрабатывать и реализовывать на рынке новые и потенциально полезные лекарства.

Поставьте себя на место чиновника Управления, отвечающего за одобрение или неодобрение нового препарата. Вы можете совершить две ошибки:

1. Одобрить лекарство, оказывающее непредвиденное побочное действие, которое приведет к смерти или серьезному ухудшению здоровья относительно большого числа людей.

2. Отказать в одобрении лекарства, которое могло бы спасти жизнь многих людей или облегчить огромные страдания и не имеющее неблагоприятных побочных действий.

Если вы сделаете первую ошибку и одобрите, ваше имя появится на первых полосах всех газет. Вы попадете в суровую опалу. Если вы совершите вторую ошибку, кто об этом узнает? Фармацевтическая фирма, продвигающая новый препарат, от которой можно отмахнуться, как от образчика алчных бизнесменов с каменными сердцами? Несколько разъяренных химиков и врачей, занимающихся разработкой и тестированием нового препарата?

Пациенты, чьи жизни можно было бы спасти, уже не смогут выразить свой протест. Их семьи даже не узнают о том, что дорогие им люди потеряли жизнь из-за «осторожности» неизвестного чиновника из Управления по надзору за качеством пищевых продуктов и медикаментов.

Даже имея самые лучшие в мире намерения, вы невольно запрещали бы многие хорошие лекарства или откладывали бы их одобрение, чтобы избежать даже отдаленной возможности пропустить на рынок лекарство, которое имело бы побочное действие в виде газетной шумихи…
Вред, причиненный деятельностью Управления по надзору за качеством пищевых продуктов и медикаментов, не является следствием недостатков людей, занимающих ответственные посты. Многие из них являются способными и преданными государственными служащими. Тем не менее, социальное, политическое и экономическое давление определяет поведение людей, отвечающих за деятельность правительственного агентства, гораздо в большей степени, чем они сами, определяют его поведение. Без сомнения, бывают исключения, но они почти так же редки, как и лающие кошки». Конец цитаты.

Таким образом «ошибка выжившего» в оценке эффективности работы контролирующего органа «обходится» человечеству в 10000 жизней в год только по одному препарату в одной стране. Размер всей невидимой части этого «айсберга» оценить сложно. И, пожалуй, страшно.

«Пациенты, чьи жизни можно было бы спасти, уже не смогут выразить свой протест. Их семьи даже не узнают о том, что дорогие им люди потеряли жизнь из-за «осторожности» неизвестного чиновника». Ни один нерадивый производитель не наносил своим согражданам такой ущерб.

Кроме прочего, услуга сертифицирования довольно дорого обходится налогоплательщикам. Т.е. всем жителям. По подсчетам Милтона Фридмана, доля «проедаемого» чиновниками, регулирующими различные социальные программы в США, составляет около половины всей суммы налогов, направляемых на различные социальные выплаты. Эта половина тратится на зарплаты и прочие расходы чиновников от социальной распределительно-регулирующей системы. Любой бизнес давно бы обанкротился с такими непроизводительными накладными расходами.

Это все равно, что заплатить официанту за плохое обслуживание в ресторане чаевые в размере стоимости ужина. Или оплатить упаковку продуктов в супермаркете в размере полной их стоимости только за то, что вам их упакуют в пакетики.

Наличие чиновника в цепочке изготовитель-товар-потребитель или услуга-потребитель удваивают стоимость любого товара и услуги. Т.е. на зарплату любого человека можно было бы купить вдвое больше товаров и услуг, если бы контролем этих товаров и услуг не занимался чиновник.
Как сказал судья Луис Брандис: «Опыт учит тому, что свобода особенно нуждается в защите, когда правительство устремляется к благотворным целям».

Лицензирование, как и иные запретительные способы регулирования (депрессирования) экономики вовсе не новы и известны со средних веков. Все разновидности гильдий, каст, сословий — это ни что иное, как лицензирование и сертифицирование, в переводе на современный язык. И цель их всегда была одна — ограничить конкуренцию, поднять цены, увеличить доходы «своих» и не допустить «чужих». Т.е. все та же дискриминация и банальный картельный сговор, ухудшающий качество и повышающий цены для потребителя.

Может надо как-то выбираться из средневековья? На дворе 21-й век.

Аварии на дорогах устраивают водители, имеющие права и лицензии. Врачебные ошибки совершают дипломированные и лицензированные врачи. Плохо учат, наносят ученикам психологические травмы лицензированные и дипломированные учителя. При этом знахари, гомеопаты, шаманы и шарлатаны великолепно обходятся без лицензий и экзаменов и прекрасно процветают, занимаются своим делом, удовлетворяя спрос населения.

В то же время, со всех этих лицензий и разрешений кормится масса чиновников, не производящих никаких полезных для граждан товаров или услуг, зато обладающей почему-то правом решать за гражданина, где ему лечиться и учиться за его же налоги.

Остается только удивляться тому что, не смотря на запретительный вектор работы чиновников, фармкомпаниям все же удалось в 20-м веке зарегистрировать множество лекарств, спасших миллионы жизней.

И остается лишь ужасаться тому, какое количество лекарств было не разработано, было не зарегистрировано, было признано неперспективными экономически в силу дороговизны и длительности разрешительного процесса. Ужасаться, скольким людям стоил жизни и здоровья результат запретительной деятельности чиновников.

При этом наличие огромного количества лицензирующих, контролирующих, надзирающих и штрафующих чиновников и инстанций нисколько не сократили количество шарлатанов, народных снадобий, всевозможных панацей и волшебных таблеток. Часть из них выпускается под видом биологически активных добавок, часть просто распространяется в обход любых аптек, магазинов и инстанций.

Стоит ли продолжать настаивать на ошибочном пути лицензирования и регулировки? Я думаю, что нет.

Если мозг героического уважаемого читателя, дочитавшего статью до конца, еще не полыхает яростным когнитивным диссонансом, то я хочу порекомендовать для «затравки» четыре книжки, написанные очень простым языком и разрушающие многие мифы, касающиеся капитализма, ошибки выжившего, экономики и государственного контроля. Вот эти книги: Милтон Фридман «Свобода выбирать», Айн Рэнд «Капитализм. Незнакомый идеал», Стивен Левитт «Фрикономика», Малькольм Гладуэлл «Гении и аутсайдеры», Фредерик Бастия «Что видно и чего не видно».
А вот здесь размещена еще одна статья про «ошибку выжившего».

Иллюстрации: McGeddon, Сергей Елкин, Акролеста.

P.S. Уважаемые господа читатели, прошу Вас помнить, что «Стиль полемики важнее предмета полемики. Предметы меняются, а стиль создает цивилизацию.» (Григорий Померанц). Если я не ответил на Ваш комментарий, значит что-то не так со стилем Вашей полемики.

Дополнение.
Прошу прощения у всех, кто написал толковый комментарий, а я не ответил. Дело в том, что кто-то из пользователей повадился минусовать мои комментарии. Каждый. Как только появляется. Это мешает мне набрать «заряд» и поставить плюс в карму и за ответ тем, кто пишет толковый комментарий.
Но если Вы все-таки хотите получить ответ и обсудить статью, Вы можете писать мне личное сообщение. Я на них отвечаю.

Дополнение 2.
«Ошибка выжившего» на примере этой статьи.
На момент написания этого дополнения у статьи 33,9к просмотров и 141 комментарий.
Предположим, что большинство из них негативные по отношению к статье.
Т.е. статью прочитали 33900 человек. Поругали 100. В 339 раз меньше.
Т.е. если очень грубо и с допущениями округлять, то у автора нет данных о мнении 33800 читателей, а есть данные только о мнении 100 читателей (на самом деле еще меньше, поскольку часть читателей оставляет несколько комментариев).
И что же делает автор, т.е. я, читая комментарии? Совершаю типичную «ошибку выжившего». Я анализирую лишь сто «минусов», полностью (психологически) игнорируя тот факт, что это лишь 0,3% мнений. И на основании этих 0,3%, что в пределах статистической погрешности, делаю вывод, что статья не понравилась. Огорчаюсь, не имея к этому ни малейшего повода, если рассуждать логически, а не эмоционально.
Т.о. «ошибка выжившего» лежит не только в области математики, но, вероятно, и в области психологии и нейрофизиологии, что делает ее обнаружение и исправление довольно «мучительным делом» для человеческого мозга.

Дополнение 3.
Хотя это выходит за рамки данной статьи, но поскольку в комментариях довольно бурно обсуждается вопрос контроля за качеством лекарств, то отвечаю сразу всем.
Альтернативой госконтролю может стать создание частных экспертных лабораторий, которые будут проверять качество лекарств, конкурируя друг с другом. (И такие лаборатории, общества, ассоциации и институты в мире уже существуют).
Что это даст? Во-первых, устранит коррупцию, поскольку всегда будет возможность перепроверить и опровергнуть данные коррумпированной экспертизы. Во-вторых, это будет быстрее и дешевле. Просто потому, что частный бизнес всегда эффективнее, чем государственный. В-третьих, экспертная лаборатория будет продавать свои услуги, а значит, будет отвечать за качество, сроки, цены, Все это совокупно снизит стоимость лекарств в аптеке. В-четвертых, если на упаковке не стоит отметка о проверке в независимой частной экспертной лаборатории, а то и в двух-трех, то покупатель будет понимать, что лекарство непроверенно. Или проверенно многократно. И будет «голосовать рублем» за того или иного фармпроизводителя.

Дополнение 4.
Мне кажется, что важно учитывать «ошибку выжившего» при разработке ИИ, алгоритмов машинного обучения и т.п.
Т.е. закладывать в обучающую программу не только известные примеры, но и некую дельту, возможно даже теоретические модели «возможного неизвестного».
На примере «рисующих» ИИ это м.б., условно «ван Гог + дельта», тогда при большой величине дельты, машина создаст фильтр на основе ван Гога, но совершенно уже на него не похожем.
Подобное обучение м.б. полезно там, где имеется дефицит данных: медицина, генетика, квантовая физика, астрономия и т.п.
(Прошу прощения, если «криво» объяснил).

Примечание (надеюсь последнее)
Всем, кто дочитал до конца — «Спасибо». Мне очень приятно видеть Ваши «закладки» и «просмотры».

Ошибка выживших

История об элементарной ошибке командования, грозившей пустой растратой ресурсов и едва не стоившей жизни многим пилотам. История об исчезнувших пробоинах и тайном, которое значит больше, чем явное. Скрытый смысл? Скорее, типичное заблуждение, свойственное человеческому несовершенству.

Техническая справка

Суматошно на подходе
Нас калибры обнимают.
Сквозь разрывы в шлемофоне:
Мы над целью — начинаем!

Масса броневых плит у поздних модификаций “Крепостей” достигала 900 кг. На более легких машинах также применялась защита, которая непрерывно усиливалась с эскалацией боевых действий.

Авиационная броня не рассчитывалась на прямые попадания снарядов. Её задача — прикрывать жизненно важные узлы самолета от роя осколков, образующихся при дистанционном подрыве зенитных боеприпасов. А также от огня мелкокалиберных авиационных пушек и пулеметов истребителей.

Помимо бронирования кабины, основных узлов и агрегатов, применялись другие действенные меры, направленные на локализацию повреждений и возможность продолжения полета при получении повреждений. Многомоторная схема, дублирование жизненно важных систем (электропроводка, тяги управления), протектирование топливных баков и наддув их свободного объема азотом или выхлопными газами двигателя. Кто-то пошел еще дальше, установив внутри фюзеляжа стальную “лыжу” для спасения пилота при жесткой посадке.

В бою выживали сильнейшие. Концепции защиты авиатехники непрерывно эволюционировали на протяжении всей войны. А перед конструкторами стоял вопрос — на основе имеющихся данных предвидеть и спрогнозировать наиболее эффективные пути решения проблемы.

____________________

Манхэттен, 118-я улица, район Морнингсайд-Хайтс. Место дислокации Центра статистических исследований для решения военных задач. Сокращенно — SRG.

Среди сотрудников Центра числились лучшие математики той эпохи: Ноберт Винер, Леонард Сэвидж, будущий нобелевский лауреат М. Фридман.

Они рассчитывали все. Наиболее выгодные сочетания вооружения. Способы бомбардировок. Схемы выборочного контроля боеприпасов (когда при наименьших усилиях удается проверить достаточное число, чтобы сделать вывод о соответствии стандартам той или иной партии снарядов).

Группе ученых, которой руководил Абрахам Вальд, выпала задача проанализировать повреждения и найти оптимальную схему бронирования. Какие места самолета нуждаются в наибольшей защите?

Как подданный “враждебной страны”, Вальд формально не имел доступа к секретным документам. Коллеги шутили, что “особисты” должны сразу выхватывать из его рук составленные им отчеты, чтобы он не успел их прочесть.

Рабочей группе статистиков был представлен обширный материал о вернувшихся с задания самолетах, чьи плоскости и фюзеляжи были похожи на швейцарский сыр. По результатам анализа повреждений были составлены схемы с указанием наиболее уязвимых мест.

Наибольшее число попаданий приходилось вдоль плоскостей крыла, в районе хвостовой оборонительной установки и в нижнюю сторону фюзеляжа.

Задача была успешно решена. Представители командования видели возможность повышения выживаемости самолетов путем усиления защиты в найденных уязвимых местах.

Единственным, кто выразил сомнения, был Абрахам Вальд. Он рассмотрел снимки, но не увидел следов от попаданий в двигатели и кабину пилотов. По мнению венгерского математика, это могло означать следующее.

Либо осколки отличаются особой избирательностью при выборе целей, они попадают везде, кроме кабины и моторов.

Второе объяснение — самолеты с убитым экипажем и пораженным двигателем, как правило, не возвращались с задания. Фотографировать было нечего.

Подобно тому, как основное число пациентов военных госпиталей имеют ранения в конечности. Но это не значит, что пули не попадают в голову. Это свидетельство того, что получившие ранение в голову, как правило, погибают на месте.

Поэтому делать выводы только на основе вернувшихся самолетов — это ошибка.

Изрешеченные плоскости и фюзеляж не нуждаются в дополнительных мерах защиты. Представленные факты свидетельствуют, что их прочности хватает для продолжения полета даже при обширных повреждениях обшивки и силового набора.

Все имеющиеся резервы должны быть потрачены на защиту критических важных узлов, повреждения которых неминуемо приводят к катастрофе.

_______________________

Почему Абрахам Вальд смог увидеть то, чего в упор не видели все офицеры ВВС, обладающие набором профессиональных знаний и пониманием законов воздушного боя? Как отмечалось выше, виной тому было несовершенство человеческого мышления. Обрастая набором стереотипов, мы уже не способны видеть истину во всей её простоте и красе. Единственным, кто сумел задать верный вопрос и получить верный ответ, был ученый-математик, привыкший смотреть на вещи с аналитической точки зрения.

Что касается самой задачи с таинственно исчезнувшими пробоинами, то этот феномен стал известен, как “систематическая ошибка выжившего”. И встречается она не только на войне, а практически в любой ситуации.

В основе её составление законов, советов и инструкции только на основе удачных примеров. Неудачные — в топку. На этом основана вся реклама, любые диеты, лотереи и городские легенды. Рассказы о том, как дельфины толкают тонущих людей к берегу (ведь те, кого толкали от берега, поделиться своим опытом не смогли). И прочее, прочее.

Как много успешных людей в этом зале! (И как много неуспешных.)

Рассказы о Билле Гейтсе, который бросил учебу и добился успеха, подается как пример для и без того не слишком грамотных и не стремящихся к знаниям жертв ЕГЭ.

Что касается заглавной темы статьи, то элементарная, очевидная и теперь уже простая ошибка, допущенная ответственными лицами ВВС, есть показатель особенностей человеческого мышления. Несовершенны мы все, ничего с этим не поделать. И хорошо, что в той ситуации нашелся хоть кто-то, кто усомнился в общепринятой токе зрения, задумался над оставленными без внимания фактами и смог указать на ошибку.

53 комментария

Что такое систематическая ошибка выжившего

Ложные выводы, построенные только на известных фактах, называют ошибкой выжившего. Она не имеет ничего общего с советами, как выживать в тех или иных условиях. Такое заблуждение возникает тогда, когда учитывается очевидное, но пренебрегается неизвестным. Мозг человека устроен таким образом, что в условиях избытка информации или ее недостатка, а также при необходимости принимать быстрые решения реагирует на задачи наиболее энергоемким образом. То есть систематическая ошибка выжившего не связана с интеллектом и эрудицией, это побочный эффект психических процессов.

Феномен получил такое название после случая, который произошел во время Второй мировой войны. Американские военные решили выяснить, как уменьшить потери авиации. Покрыть весь самолет броней было невозможно, поскольку он стал бы тяжелым. Поэтому военным предстояло определить, какие части техники нужно защитить в первую очередь. Специальная комиссия проанализировала пробоины на вернувшихся с рейдов самолетов и решила, что покрыть броней нужно крылья, так как по статистическим данным они получили большее количество повреждений.

Венгерский математик Абрахам Вальд не согласился с таким выводом. Он был уверен, что, поскольку исследуемые самолеты смогли вернуться, их поврежденные части являются сильными местами. Он настаивал на бронировании двигателя, где повреждений не было вообще. Вальд был уверен, что из-за отсутствия пробоин в двигателе эти самолеты смогли прилететь на базу. То есть математик учитывал не только успешный опыт «выживших», вернувшихся самолетов, но и неудачный, который оставался для исследовательской группы скрытым. Такое когнитивное искажение в теории Абрахама Вальда получило термин «ошибки выжившего».

Важно не перепутать ошибку выжившего с синдромом выжившего — комплекса вины, возникающего у тех, кто остался жив после аварии, теракта, стихийного бедствия. Особенно ярко такой синдром проявляется у людей, которые потеряли близких, но спаслись сами. Это связано с тем, что они эмоционально застревают на одной из пяти стадий переживания, которые предложила Элизабет Кюблер-Росс.

Как работает ошибка выжившего: примеры

Первыми, кто заметил ошибочность выводов при невозможности учесть все, даже неочевидные факты, были древние греки. Известно, что Диагор Мелосский одним из первых усомнился в эффективности мольбы моряков к богам во время сильного шторма. Он справедливо замечал, что грекам известны лишь те случаи, когда мореплаватели взывали к богам и успешно одолевали стихию. О тех же, кто отчаянно молился, но не пережил шторм, ничего не известно. 

Сегодня с последствиями ошибки выжившего сталкиваются даже наиболее рационально мыслящие люди. Врач-психотерапевт Надежда Адрова отмечает, что это связано особенностью взаимодополняющих друг друга процессов перцепции (восприятия) и когниции (обработки, оценки): «При когнитивной оценке ситуации выводы строятся на данных, показывающих, как правило, только одну сторону. А перцептивный процесс проводит восприятие лишь той стороны, которая имеет непосредственное отношение к текущей проблеме, что сужает видение ситуации в целом. То есть когнитивным искажениям в той или иной степени подвержен каждый из нас». 

Почему не стоит верить историям успеха

Сложно найти издательство, которое возьмется опубликовать биографию погрязшего в долгах бизнесмена. Или актера, который неоднократно пытался получить роль в голливудском фильме, но так и не достиг своей цели. Истории успеха на книжных полках приводят к тому, что у читателей складывается неверное представление о количестве тех, кто достиг значимых результатов.

Здесь также возникает опасность неверно понять связь причины и следствия. Например, в ряде мотивирующих книг говорится о тех, кто не получил высшее образование, но вопреки этому стал богатым и известным. Скорее, это простое совпадение, связанное с удачным стечением обстоятельств, и это не значит, что нужно повторять такие примеры. Ведь если рассматривать опыт всех людей, пытавшихся сделать то же самое, но проигравших, их будет в сотни раз больше.

Почему же так популярны истории успеха? Потому что люди в подобных случаях склонны отбрасывать рациональные доводы, чтобы убедить себя, что невозможное реально в достижении. Успех не гарантирован, большинство тех, кто готов на серьезный риск, терпит неудачу. Единицы не останавливают своих попыток и в итоге получают достойный результат, который ложится в основу книг об успехе. Это равносильно азартной игре, где рациональных причин, сопутствующих победе, практически нет.

Почему общественное признание не всегда показатель качества

Фамилии Галилея, Лобачевского, Ампера, Курно, Менделя, Теслы, Ван Гога, Кафки, Уайльда, Вермеера, Модильяни и других деятелей, совершивших прорыв в науке или искусстве, сегодня на слуху у многих. Однако при жизни далеко не каждый из творцов был оценен по достоинству своими современниками. Психология настаивает на том, что человеческое восприятие весьма консервативно, и если оно сталкивается с чем-то новым, неизвестным, то первым делом будет это отрицать. Поэтому яркие открытия проходили часто незамеченными — научное сообщество просто не могло осознать их перспективности. То же касается и деятелей искусства, которые творили вне традиций и школ. Сегодня мы понимаем ценность их вклада в развитие культуры благодаря знаниям об искусстве разных эпох. Тот факт, что в оценке научных открытий и достижений культуры люди склонны попадаться на крючок «ошибки выжившего», подтверждают непрекращающиеся дебаты о современном искусстве. 

Лайки, репосты и комментарии в социальных сетях тоже относятся к виду общественного признания. Нельзя оценивать качество контента только лишь по показателям статистики, ведь на нее влияет огромное количество факторов. Интернет-маркетологи, например, склонны попадать в ловушку негативных комментариев при внушительном количестве лайков — комментарии оставляют немногие, ведь этот процесс требует времени. То есть маркетолог не будет знать мнения тех, кому публикация понравилась, и станет жертвой типичной
«ошибки выжившего». 

Почему нужно проверять достоверность расхожих утверждений

По умолчанию люди привыкли верить в достоверность распространенных убеждений. Например, о том, что раньше автомобили делали на века, что здания строили более качественно, что музыку писали лучше, а народная медицина опережала по эффективности современную. Все эти принципы лишь примеры заблуждений, связанных с «ошибкой выжившего»: учитываются лишь очевидные факты.

О качестве ретроавтомобилей можно судить лишь по тем образцам, которые сохранились до наших дней. К слову, ни не ездят по бездорожью, не стоят в километровых пробках, не развивают скорость больше 50 км/ч. Это фактически музейные экспонаты, которые в свое время использовались по назначению при совершенно других условиях. Поэтому подобное сравнение некорректно.

Здания, сохранившиеся с прошлых веков, прошли своеобразный отбор временем. Это те же истории успеха, только перенесенные на архитектуру. Наименее эстетичные или плохо сконструированные здания давно исчезли с улиц городов, поэтому судить о том, как строили раньше, лишь по отдельным образцам неправильно.

Вечера классической музыки, выставки живописи, театральные постановки (не современные) — все это концентрат лучших достижений прошлых веков. Мы не видим и не слышим тех произведений, которые не стали востребованными и канули в небытие. Современная же культура доступна во всем многообразии. Лишь время сможет отобрать ее лучшие образцы. Когда-нибудь на них будут ссылаться при утверждениях, в основе которых лежит «ошибка выжившего».

Дискуссии насчет эффективности вакцин, насчет безопасности авиаперелетов, насчет смышлености дельфинов, подталкивающих утопающих к берегу, — многие даже рациональные на первый взгляд аргументы могут относиться к заблуждениям, возникшим из-за «ошибки выжившего». Это связано либо с неполнотой статистических данных, либо с тиражированием в медиа негативных событий вроде авиакатастроф, что создает неверное представление о действительности.

Как избежать систематической ошибки выжившего

Систематическая ошибка выжившего нередко влекла за собой серьезные последствия, включая аварии на крупных производствах. Чтобы не стать жертвой заблуждений, нужно прежде всего спросить себя, каких фактов не хватает. Если перед вами данные о «выживших», нужно найти также диаметрально противоположные факты. Если перед вами стоит задача принять важное решение, не делайте поспешных решений, возьмите паузу: время позволит снизить риск ошибки выжившего и тщательно рассмотреть все стороны ситуации. Еще один совет — используйте не менее трех авторитетных источников данных. Но даже при этом ищите те факты, на которые могут не обратить внимания даже профессионалы.

Психотерапевт Надежда Адрова рекомендует следующий алгоритм:

1. Сначала постарайтесь определить, субъективное ли мнение перед вами или конкретный факт.
2. Найдите данные, которые могут подтвердить это суждение. Чем больше источников — тем лучше. Используйте системный подход, не пренебрегайте деталями.
3. Обратите внимание на другие точки зрения касательно этой проблемы. Поищите статистику неудачных случаев или проанализируйте, не стал ли этот успех случайным.
4. Не повторяйте рекомендации «выживших». Разузнайте больше о неудачном опыте. Разбирая поражения других, вы сможете понять, чего делать не стоит и как избежать неудачи.