Кочерга
Ресурсы по рациональному мышлению
Рекомендации от Кочерги

1
Книги по рациональному мышлению
Рациональность: от ИИ до зомби
Элиезер Юдковский
[беспл. версия (eng), беспл. версия (частичный рус. перевод), amazon]
Сборник статей про человеческий интеллект от ведущего исследователя искусственного интеллекта и основателя сообщества рационалистов. Получилась азбука особенностей и ошибок нашего мышления на примерах истории, бытовых событий и гипотетических ситуаций. Можно начинать читать с любого места и потом много думать.
The Scout Mindset
Julia Galef
[amazon]
Эта книга об одном из ключевых навыков рациональности — как замечать, что ты ошибаешься. Мы не всегда реагируем даже на какие-то показательные последствия, чтобы поменять свои убеждения или действия, и при этом у нас, как правило, уже достаточно информации, чтобы заметить ошибку еще до каких-то активных действий. Джулия Галеф рассказывает, как замечать и куда при этом смотреть, чтобы побеждать в достижении своих целей.
Гарри Поттер и методы рационального мышления
Элиезер Юдковский
[беспл. версия (рус), беспл. версия (eng)]
Вероятно, самая влиятельная книга о рациональности, потому что от нее сложно оторваться. Что случится с миром магии и волшебства, если наделить Гарри Поттера высочайшим интеллектом? Уникальная история, непредсказуемые размах и сюжет, высокая интеллектуальная и философская ценность — все это сделало ГПиМРМ самой читаемой и любимой книгой на тему рационального мышления.
Думай медленно... Решай быстро.
Дэниэль Канеман
[ozon, amazon]
Популярная и легкая книга от обладателя нобелевской премии за открытия в поведенческой экономике. Даниэль Канеман на примере увлекательных научных экспериментов рассказывает про особенности нашего мышления — почему сложно подойти помочь кому-то на улице, почему большинство людей считают себя умнее других, почему мы вечно опаздываем и проваливаем дедлайны. Хорошее и ненапряжное введение в когнитивные искажения.

P. S. Последнее время некоторые эксперименты, описанные в книге, столкнулись с проблемой воспроизводимости, что не сделало книгу сильно хуже, но поставило под сомнение выводы в паре глав.
Superforecasting: The Art and Science of Prediction Philip
Philip E. Tetlock, Dan Gardner
[ozon, amazon]
Мы все предсказываем будущее так или иначе, и делаем действия, исходя из наших предсказаний — планируем карьеру или отпуск, откладываем деньги на большую покупку или инвестируем в акции, выбираем фильм на вечер или что съесть на завтрак. Но как понять, насколько мы в этом хороши? И как предсказывать точнее? Эта книга — учебник по эффективному прогнозированию будущего.
Рациональное мышление. Что не измеряют тесты способностей.
Кейт Станович
[amazon]
В этой книге наглядно объясняется, чем отличается интеллект, измеряемый IQ-тестами, от рациональности, то есть способности принимать хорошие решения. Кейт Станович описывает основные принципы рациональности, фокусируясь на том, как ошибки мышления мешают использованию всех преимуществ нашего интеллекта.
Ловушки мышления
Чип Хиз, Дэн Хиз
[ozon (эл. версия), amazon]
Как принимать решения эффективно и без лишнего стресса? Как перестать прокрастинировать важные решения? Как принимать взвешенные коллективные решения? Как убедиться, что не упустил что-то важное в процессе? Эта книга сфокусирована вокруг принятия решений и предлагает конкретный алгоритм, как избежать типичных ловушек мышления на этом пути. Обладает выраженным мотивационным эффектом!
Мозг. Инструкция по применению. Как использовать свои возможности по максимуму и без перегрузок.
Дэвид Рок
[ozon, amazon]
Книга про особенности нашего мозга с большим вниманием к научным данным. Автор на входе углубился в нейробиологию, а на выходе сумел очень доступным языком и с юмором описать основные концепции о том, как устройство мозга повседневно влияет на нашу жизнь, и как можно научиться использовать этот инструмент лучше. В книге очень много примеров и практических ситуаций, причем в виде двух вариантов развития событий — до и после того, как мы получше узнали свой мозг и немного его потренировали.
Сигнал и шум. Почему одни прогнозы сбываются, а другие — нет.
Нейт Сильвер
[ozon, amazon]
Когда Нейт Сильвер спрашивает вас, хотите ли вы заключить пари, то корректный ответ — «нет».

Автор книги — один из ведущих экспертов в области предсказаний — исследует процесс прогнозирования и объясняет, как научиться лучше предсказывать будущее. И для начала придется признать, что сейчас мы это делаем крайне плохо.
The Book of Why: The New Science of Cause and Effect
Judea Pearl
[amazon]
Научно-популярная книга про причинно-следственные связи. Вы когда-нибудь задумывались, почему вы знаете то, что вы знаете? Этот вопрос может озадачить даже на примере наших самых очевидных убеждений. При этом ставки повышаются, когда речь заходит о более важных и сложных вещах — например, излечивает ли какое-то лекарство от конкретной болезни. Или как создать искусственный интеллект, способный к решению комплексных задач?
Алгоритмы для жизни. Простые способы принимать верные решения.
Брайан Кристиан, Том Гриффитс
[ozon, amazon]
Правило 37% — это алгоритм для принятия решений в ситуациях, где нужно выбрать из множества вариантов. Например, поиск жилья. Правило гласит, что оптимальным будет потратить примерно 37% отведенного на задачу времени на анализ вариантов и общей картины. А в оставшееся время уже начать принимать решения и совершать активные действия на основании полученной ранее информации. Это математическая модель «Задача об оптимальной остановке», и ее можно применять в жизни, чтобы облегчить себе некоторые задачи. Разумное использование алгоритмов в своей жизни повышает эффективность решений и снижает стресс от процесса, потому что очень приятно иметь хорошие ориентиры, как разбираться с той или иной проблемой. Больше ориентиров ищите в книге.
Reasons and Persons
Derek Parfit
[amazon]
Значимый труд в области аналитической философии при этом больше сфокусированный на конкретных моральных проблемах, а не на абстрактных вещах, что делает эту книгу интересной для широкого круга читателей.Парфит на рассуждает на тему этических моделей, которые приводят к саморазрушению, исследует рациональность в пространстве времени, описывает свою модель идентичности, и завершает книгу вопросами о нашей ответственности перед будущими поколениями.

Trigger Warning: размышления на эти темы вместе с автором могут вызвать тревожные чувства.
Гёдель, Эшер, Бах: эта бесконечная гирлянда
Даглас Р. Хофштадтер
[беспл. версия (рус), беспл. версия (eng), ozon, amazon]
Известная книга, получившая в свое время Пулитцеровскую премию. При этом достаточно сложно описать, о чем она — это некое метафорическое исследование-путешествие в мир нейронных связей на фоне жизней заглавных деятелей науки и искусства. Попробуйте пройти этот эксперимент, если вам хочется пробудить в себе исследовательский интерес про мир и разум. Судя по отзывам — проходить этот путь вместе с Хофштадтером очень увлекательно.
The Elephant in the Brain: Hidden Motives in Everyday Life
Kevin Simler, Robin Hanson
[ozon, amazon]
Эта книга о мотивации в человеческом поведении и о роли современного мира в наших действиях. Авторы обсуждают основные поведенческие теории и подсвечивают очень неудобные выводы о том, что во многих своих поступках мы руководствуемся эгоистичными и постыдными мотивами.

P. S. Права на русскую версию книги выкупил Андрей Курпатов. Ко многим позициям Курпатова мы относимся скептично, но к самой книге — хорошо.
Искусственный интеллект. Этапы. Угрозы. Стратегии.
Ник Бостром
[ozon (эл. версия + аудио), amazon]
Уже классическая книга о проблеме безопасности искусственного интеллекта; её появление в 2014-м году привлекло значительное количество внимания к этой теме (но всё ещё недостаточно).

Ник Бостром рассматривает основные гипотезы и приводит аргументы, почему эта проблема недооценена. Сейчас вопрос безопасности искусственного интеллекта входит в список самыхприоритетных направлений движения эффективного альтруизма и «Кочерги».
Replacing Guilt: Minding Our Way
Nate Soares
[частичный рус. перевод, беспл. версия (eng + audio eng), amazon]
Серия статей Нейта Соареса, объединенная в книгу, о том, почему мы можем испытывать чувство вины или смутное ощущение чего-то неправильного, когда живем в свое удовольствие. Вы углубитесь в собственные мотивы и ценности, пройдете ряд мысленных экспериментов, и, вероятно, немного дополните свою моральную модель о мире и о том, какое место мы в нем занимаем.
2
Главные рацио-блоги
Сообщество, посвященное совершенствованию рассуждений и принятию решений. LessWrong работает над развитием и практикой искусства человеческой рациональности, с помощью своей библиотеки трудов по рациональности, дискуссионного форума сообщества, исследовательской платформы с открытыми вопросами и страницы сообщества для личных мероприятий.
Онлайн-форум от LessWrong для исследования и обсуждения идей, связанных с обеспечением безопасности искусственного интеллекта. Основная цель — добиться того, чтобы мощные ИИ соответствовали человеческим ценностям. Обсуждение варьируется от технических моделей ИИ до стратегических планов на будущее и всего, что между ними.
Личные блоги Скотта Александра.
Скотт Александр — врач на Западном побережье США, в настоящее время работает над новыми моделями психиатрической помощи в Lorien Psychiatry.
В своих блогах пишет статьи, в основном посвященные рассуждениям о науке, психиатрии, медицине, этике, генетике, искусственном интеллекте, экономике и политике.
Здесь обзор на блоги Скотта Александра от LessWrong.
Блог генерального директора Open Philanthropy и соучредителя GiveWell на самые разные околорациональные темы. Это — список самых значительных статей по мнению автора, которые дадут общее представление об его блоге.
Форум сообщества эффективного альтруизма.
Эффективный альтруизм — это философия и общественное движение, пытающееся найти наиболее эффективные способы помощи людям.
Наши ресурсы ограничены, поэтому мы должны использовать их с умом. Эффективный альтруизм — это проект, который:
  • Использует доказательный подход для поиска наиболее многообещающих направлений работы.
  • Использует свое время и деньги так, чтобы сделать максимум добра.
Блог о количественных оценках чего угодно, жизни, дейтинге, кооперации и рациональности.
Блог о натурализме, микрорациональности и способности замечать, что происходит на самом деле.
3
Академическое про рациональность
Rationality and the Reflective Mind
Keith E. Stanovich
[amazon]
Эта книга пытается разрешить «Великую Дискуссию о Рациональности» в когнитивной науке — спор о том, насколько иррационально человеческое познание. В своей книге Кейт предлагает разделить традиционную «вторую систему мышления» (т.е. «медленное мышление», в отличие от первой системы «быстрого мышления») на рефлексивный ум и алгоритмический, создав «трехстороннюю модель познания».
Таким образом Кейт показывает, что, при правильном определении, рациональность является более всеобъемлющей конструкцией, чем интеллект, и объясняет, почему люди иногда иррациональны, несмотря на обладание удивительно адаптивными когнитивными механизмами.
Thinking and Deciding, 4th edition
Jonathan Baron
[amazon]
В этом, четвертом, издании Джонатан Бэрон сохраняет внимание к вопросам, рассмотренным в предыдущих изданиях — Как мы должны думать? Что, если что-либо мешает нам думать именно так? Как мы можем улучшить наше мышление и принятие решений? — и более углубленно освещает темы риска, утилитаризма, теоремы Байеса и морали. В четвертом издании, предназначенном для студентов, особое внимание уделяется пониманию фундаментальных концепций суждений и принятия решений, но прочтение будет полезно и тем, кто изучает смежные области, включая психологию, экономику, право, медицину и бизнес.
Rational Choice in an Uncertain World: The Psychology of Judgment and Decision Making, 2nd edition
R. K. Hastie, R. M. Dawes
[amazon]
В новом издании этого отмеченного наградами текста известные авторы Рид Хасти и Робин Доуз сравнивают и противопоставляют основные принципы рациональности с реальным поведением при принятии решений. Теории и результаты исследований рассматриваются в «нетехнической» манере, с использованием анекдотов в качестве учебного материала. Этот вводный учебник для студентов и аспирантов старших курсов представляет не только научный, но и практический интерес.
The Oxford Handbook of Thinking and Reasoning
Keith J. Holyoak, Robert G. Morrison
[amazon, беспл. версия (eng)]
Мышление и рассуждение, которые долгое время были уделом философии, в прошлом веке стали основными темами эмпирических исследований и теоретического анализа в современных областях когнитивной психологии, когнитивной науки и когнитивной нейронауки.
Эта книга — авторитетный справочник, охватывающий все основные темы в области мышления и рассуждений. В книге рассмотрены введение в фундаментальные вопросы и методы исследований этой области, конкретные типы мышления и рассуждений и применение этих типов в широком спектре сфер жизни, включая бизнес, образование, право, медицину, музыку и науку.
Judgment in Managerial Decision Making, 8th edition
Max H. Bazerman, Don A. Moore
[amazon]
В ситуациях, требующих тщательного рассуждения, каждый человек в той или иной степени подвержен влиянию собственных предубеждений. В новом, седьмом, издании книги читатели смогут узнать, как преодолеть эти предубеждения, чтобы принимать наиболее эффективные управленческие решения. Книга рассматривает рассуждения в различных организационных контекстах и предлагает практические стратегии для улучшения процессов принятия решений, которые станут частью постоянного поведения человека.
4
Подкасты
Джулия Галеф — соосновательница CFAR с 2012 года («Центр прикладной рациональности» в Калифорнии) и директор сообщества «New York City Skeptics» с 2010 года. Писательница и оратор во многих областях, затрагивающих тему рациональности. В выпусках — интервью с учеными, журналистами или другими мыслителями. Джулия Галеф:
«Мне нравится задавать вопросы типа "О чем вы изменили свое мнение?" или "Какие, по вашему мнению, самые сильные аргументы против вашей точки зрения?"».
Глубокие беседы о самых острых мировых проблемах и о том, как вы можете использовать вашу профессию для их решения. В подкаст приглашают гостей, занимающихся самыми разными видами профессиональной деятельности — от ученых и активистов до предпринимателей и политиков, — чтобы проанализировать аргументы за и против работы над конкретными проблемами и выяснить, какие подходы лучше всего использовать для их решения.
Подкаст об «идеях, которые имеют значение»: ведущие освещают идеи, которые можно использовать прямо сейчас, чтобы сделать жизнь лучше, и которые уже сейчас могут помочь слушателю лучше понять себя и мир. На подкасте обсуждаются самые разные инструменты для самосовершенствования путем анализа таких тем как психология, общество, человеческое поведение, философия, наука, искусственный интеллект, математика, экономика, самопомощь, психическое здоровье и технологии.
5
Интерактив
Калибровка уверенности
Насколько вы уверены в своих знаниях? А насколько эта уверенность оправдана?
Перейти →
Эволюция доверия
Красивая, понятная и очень полезная симуляция для тех, кто хочет познакомиться с концепцией дилеммы заключенного и понять цену стратегий в ней.
Перейти →
Universal Paperclips
Забавный симулятор экономического (и не только) развития компании по производству скрепок, возглавляемой искусственным интеллектом. Построй, делегируй и захвати мир, с помощью ИИ и скрепок.
Перейти →
5
Эффективный альтруизм
Эффективный альтруизм — это растущее социальное движение, которое использует аргументированный, основанный на фактах и свидетельствах подход, чтобы определить наиболее эффективные способы улучшить мир. И использовать наши ресурсы так, чтобы не причинить вреда и добиться максимума пользы. Философия эффективного альтруизма широко распространяется на разные области, от выбора эффективных благотворительных организаций до приоритизации научных проектов и анализа глобальных рисков.
© Русское сообщество Эффективного Альтруизма
6
Безопасность искусственного интеллекта
Robert Miles' YouTube Channel
Видео об исследованиях безопасности искусственного интеллекта простым языком с наглядными примерами и иллюстрациями.
Курс AGI Safety Fundamentals
Восьминедельный курс от кембриджского сообщества эффективного альтруизма по основам безопасности искусственного интеллекта.
AI Alignment Forum
Онлайн-форум от LessWrong для исследования и обсуждения идей, связанных с обеспечением безопасности искусственного интеллекта.
CHAI's Annotated Bibliography of Recommended Materials
Подборка материалов от CHAI (Center for Human-Compatible Artificial Intelligence) — «Центра человекосовместимого искусственного интеллекта», многопрофильной исследовательской группы, базирующейся в Калифорнийском университете в Беркли.
Awesome Artificial Intelligence Alignment
Длинный пополняемый список ресурсов для ознакомления c исследованиями в области ИИ от пользователя GitHub.
Victoria Krakovna's AI Safety Resources
Подборка ресурсов по безопасному ИИ от Виктории Краковны, ученой-исследовательницы в DeepMind и обладательницы докторской степени в области статистики и машинного обучения в Гарварде.
Подпишитесь чтобы получать анонсы мероприятий и новости Кочерги.