В прошлый раз я писал о книге Скотта Янга «Суперобучение», в которой хорошо структурированы советы по самостоятельному обучению. После этого я у меня на очереди на чтение стояла книга на близкую тему, но объясняющая, как происходит обучение на уровне «железа», то есть мозга. Именно про эту книгу, которую написал французский нейробиолог и доктор наук Станислас Деан, и пойдет речь в этом посте. Как вы уже поняли из заголовка, книга называется «Как мы учимся». Особенно мне понравилось второе название (кстати, как оно правильно называется с точки зрения издательского дела?): «Почему мозг учится лучше, чем любая машина… пока».

Эта книга состоит из трех частей. Первая часть называется «Что такое научение?» и она посвящена двум вопросам. Во-первых, тому самому вопросу, который вынесен в заголовок части, то есть что такое «научение» в различных смыслах этого слова. И вторая тема этой части — чем биологический мозг отличается от компьютерных нейронных сетей, и каким образом мы должны модифицировать алгоритмы, чтобы машинное обучение приблизилось по эффективности к мозгу.

«Учиться — значит последовательно формировать как в искусственных, так и в естественных нейронных сетях внутреннюю модель внешнего мира.»

Главная проблема имеющихся алгоритмов обучения искусственных нейронных сетей (ИНС) по мнению автора заключается в нескольких вещах. Во-первых, эти алгоритмы очень не эффективны, они требуют огромного количества данных для обучения, в то время как естественный мозг может учиться на одном-двух примерах объектов, которые предъявлены человеку. И, во-вторых, имеющиеся в данный момент ИНС выполняют только лишь ту обработку данных, которую мозг выполняет в течение первых 200-300 миллисекунд, то есть то, что мы (или наш мозг) делаем бессознательно. По сути речь идет о распознавании, но самое интересное и сложное в происходит после этой стадии обработки входящей информации, и дальнейшая обработка происходит значительно медленнее. Именно дальнейшая обработка связана с обдумыванием распознанной информации и решением того, что с ней нужно делать дальше.

В одной из первых глав Деан выделяет несколько принципов, общих, как для естественных, так и для искусственных нейронных сетей. Это подстройка параметров модели (изменение весовых коэффициентов, связанных с нейронами), иерархическая многоуровневая модель, минимизация ошибок, вероятностное исследование пространства возможностей, оптимизация функции награждения, ограничение области поиска решения, использование априорных гипотез (то, что мозг знает уже при рождении).

Ученые нашли хитрое решение. Они программируют машину так, чтобы она делала сразу две вещи: действовала и одновременно оценивала собственный прогресс. Одна половина системы, так называемый «критик», учится предсказывать конечный результат… другая половина машины, «актор» (собственно, «исполнитель»), корректирует свое поведение.

Но несмотря на имеющиеся в данный момент сложности, автор достаточно оптимистично смотрит на дальнейшее развитие ИНС и особенно он возлагает надежды на алгоритмы обучения, основанные на теории вероятностей. По его мнению наш мозг постоянно использует теорему Байеса о вероятностях, оценивая вероятность возникновения того или иного события. В последующих главах будут описываться эксперименты, которые показывают, что даже новорожденные дети используют эту теорему для оценки вероятностей того или иного события (интересно, почему студентам эта теорема дается не так просто в курсе теории вероятностей? 🙂 ) И вроде бы такие схемы построения и обучения ИНС на основе теоремы Байеса уже существуют.

Согласно данному представлению о мозге, наши взрослые суждения объединяют два уровня: врожденные знания, присущие нам как виду (то, что сторонники байесовского подхода называют априорной вероятностью — наборы правдоподобных гипотез, унаследованных входе эволюции), и наш личный опыт (апостериорная вероятность — пересмотр этих гипотез на основе всех выводов, которые мы смогли сделать на протяжении жизни).
…
На сегодняшний день мы можем математически доказать, что баейсовский поход — это лучший способ учиться.

Вторая часть книги называется «Как учится наш мозг?» и в ней много внимания уделено развитию мозга детей, начиная от рождения (и даже немного раньше). Основной посыл этой части состоит в том, что родившийся ребенок — это не tabula rasa (чистая доска), и что уже при рождении у нас есть какая-то априорная информация об окружающем мире. В книге описаны эксперименты, которые проводили с новорожденными детьми, измеряя по задержке из взгляда то, насколько они удивляются тому или иному событию, которые им показывали. Эти эксперименты, например, показывают, что младенцы имеют представление о том, что мир состоит из объектов, которые движутся, занимают область в пространстве, не могут исчезать без причины и находиться в двух местах одновременно. Также уже при рождении уже заложено то, что автор называет «чувство числа» и даже представление о вероятностях.

Реакция удивления далеко не тривиальна. Удивление свидетельствует о том, что мозг сумел оценить шанс на тот или иной исход и пришел к выводу, что наблюдаемое событие крайне маловероятно.

Тут же автор рассказывает о том, как дети постепенно начинают распознавать лица, понимать, что некоторые объекты являются живыми существами и ожидать от них соответствующего поведения, которое отлично от поведения неживых объектов, понимать язык, и как мозг начинает настраиваться на особенности родного языка.

Интересный раздел посвящен памяти, ее видам и тому, как она работает (по крайней мере как это представляется на данном уровне развития нейробиологии). Причем автор достаточно аккуратно преподносит теории, периодически указывая, что это лишь предположения, и что не все исследователи придерживаются той или иной модели.

Согласно этой теории, каждое восстановленное вспоминание есть реконструкция; припоминание — это попытка воспроизвести первоначальный паттерн нейронного возбуждения в тех же самых группа нейронов.

Последняя третья часть книги называется «Четыре столпа научения» и она посвящена тому, как, опираясь на знания нейробиологии, более эффективно построить процесс обучения. Под столпами научения автор понимает принципы, на которые необходимо обращать внимание при построении учебного процесса.

Первый столп — это внимание. Внимание выполняет несколько функций, в том числе фильтрацию входящей информации, а также ее усиление. Один из прорывов в распознавании образов с помощью нейронных сетей произошел после того, как искусственную нейронную сеть научили выделять отдельные объекты на фотографии и таким образом «обращать на них внимание». Интересно, что согласно некоторым исследованиям компьютерные игры, особенно стрелялки, заметно развивают внимание.

Залог качественного преподавания — постоянное внимание к вниманию ученика. Учителя должны тщательно выбирать то, к чему они хотят привлечь внимание детей: в конечном счете усвоена будет только та информация, которая оказалась в центре внимания.

Второй столп научения — это активное вовлечение. Чтение лекций не эффективны без того, чтобы дать ученикам возможность самим генерировать гипотезы и их опровергать, экспериментировать. Первое, что говорит автор в этом разделе: «пассивный организм не учится». При этом важна мотивация к обучению. Но тут можно впасть в другую крайность, сказать ученику: «Учись сам, делай, что хочешь», это так называемое «научение через открытия». Но такой способ обучения еще менее эффективный. Поскольку люди — социальные животные, нам важно, чтобы мы получали знания от кого-то. Кроме того, важно, чтобы кто-то показал ученику как от частных примеров перейти к общей идее, объединяющей факты.

В этой же главе автор интересно рассказывает про любопытство, что это такое на биологическом уровне, зачем оно нужно, как помогает в обучении и как его подавляют в школах.

Любопытство возникает, как только наш мозг обнаруживает расхождение между тем, что мы уже знаем, и тем, что мы хотели бы знать.

Третий столп научения — это обратная связь. При обучении естественно делать ошибки, можно сказать, что благодаря ошибкам мы учимся, но при этом важно понимать, что именно мы делаем не так, где мы ошибаемся. И чем меньше пройдет времени между совершенным действием и получением обратной связи, тем более эффективно обучение. При этом надо понимать, что обратная связь не должна быть наказанием. По этим причинам школьные отметки — плохая обратная связь. Сами по себе оценки (без разбора ошибок) не является точной обратной связью, часто оценки ученики получают спустя продолжительное время после написания работы, поэтому такая обратная связь также не является быстрой. Ну и наказание за оценки — это тоже, мягко говоря, не лучший способ стимулировать интерес к учебе.

Интересно, что многие советы, которые здесь приводятся пересекаются с советами из упомянутой выше книги Скотта Янга «Суперобучение», подтверждая их правильность на уровне работы мозга. Например, Деан также пишет о том, что метод интервального повторения и самопроверка — это достаточно эффективный способ обучения.

И последний столп научения, о котором говорит автор — это консолидация, то есть объединение или уплотнение знаний. Здесь имеются в виду процессы, которые происходят в мозге во время сна. Есть теория о том, что пока мы спим, мозг воспроизводит наиболее важные события за день, перенося их в более продуктивную область памяти. При этом считается, что во время глубокого сна происходит консолидация и обобщение знаний, а во время быстрого сна закрепляются перцептивные и моторные навыки. В прошлом веке был распространен миф, что спящий мозг можно заставить учить что-то новое (например, иностранный язык, включив аудиозапись), но исследования отвергают такой способ обучения, показывая, что во время сна мозг в состоянии воспринимать новую информацию, в это время он обрабатывает только информацию, полученную за день.

Когда я писал обзор этой книги, то сдерживал себя от того, чтобы пост о книге не превратился в список цитат и пересказ каждой главы — очень уж она насыщена разными интересностями: как полезными с практической точки зрения, так и просто любопытных. В этом посте я упомянул только малую часть того, о чем говорится в книге. Несмотря на то, что книга написана достаточно аккуратно с точки зрения науки, содержит огромное количество ссылок на исследования (библиография занимает больше 40 страниц), написана она очень понятным и живым языком. К русскому переводу у меня тоже нет никаких претензий (может быть у профессионалов из этой области будет другое мнение). Я для себя этой книге ставлю твердую оценку 5 из 5.

PS. На днях я решил посмотреть, какие еще книги Станисласа Деана были изданы на русском языке, и с интересом обнаружил, что у нас в этом году вышла его более старая книга, написанная еще в 2009 году (книга «Как мы учимся» в оригинале вышла в 2020 году), которая в русском переводе называется «Прямо сейчас ваш мозг совершает подвиг. Как человек научился читать и превращать слова на бумаге в миры и смыслы», а по-английски просто «Reading in the Brain». Я ее себе уже купил в бумажной версии, надо будет ее тоже прочитать.

PS. Вы можете подписаться на новости сайта через RSS, Группу Вконтакте или Канал в Telegram.