Сложное - много простого ?

 

Эта заметка - о так называемом тестировании. В сознании людей сегодня проблема тестирования переплелась с проблемой единого экзамена. С самого же начала ясно скажем, что это - разные проблемы. Провести единый экзамен без тестирования можно. Но решить вопрос, нужен ли единый экзамен (предположим, что нам имеет смысл решать этот вопрос - хотя бы для того, чтобы иметь свое мнение и этим походить на нормальных людей), можно, только оценив эффективность экзамена, а она зависит от метода. В частности, может оказаться, что при каких-то методах его проведения единый экзамен хорош, а при каких-то других - плох, да настолько, что не нужен вообще. Поэтому вопрос о методе проведения экзамена является первоочередным. Определить эффективность экзамена прямыми методами (по последующей учебной и рабочей биографии) трудно, поэтому возникает соблазн заменить этот анализ пустыми разговорами, общественной активностью и политической волей. То есть чиновничьим волюнтаризмом.

 

В обыденном словоупотреблении тестирование - это решение испытуемым за ограниченное время относительно большого количества относительно простых задач, причем испытуемому предъявляется несколько вариантов ответов, из которых он должен выбрать правильный. Поэтому главные признаки тестирования - это простота задач и наличие вариантов ответов. Попробуем понять, что именно проверяет, а что не проверяет такой экзамен.

 

Собственно обучение - по крайней мере, в естественных и точных науках - это приведение ученика в такое состояние, когда он может решать задачи, которые могут возникнуть перед ним в дальнейшей жизни (в том числе и при дальнейшем обучении). Для решения задач человек должен знать факты, приемы решения, уметь выбрать прием и применить его. Возможно, что существует еще "нечто" (вдохновение, озарение, прозрение, творческий экстаз, единое информационное поле, ноосфера, эктоплазма, фэн-шуй и т.д.), но авторы полагают, что хоть какие-то шансы разобраться в устройстве мира появятся только в том случае, если речь пойдет о проверяемых и повторяемых фактах. Тогда решение задач сводится к знаниям, приемам и их выбору, и еще - уровню адреналина в крови.

 

Действительно, мы знаем, что никакой эктоплазмы в компьютере нет. Представьте себе Гермеса Трисмегиста перед этим компьютером - скорее всего, он как раз и заговорит о "нечто". Возможно, что перед человеческим мозгом мы выглядим сегодня так, как великий Трисмегист - перед компьютером. Утешьтесь тем, что сегодня люди знают, как работает компьютер, а Г.Т. был для своего времени умнейший человек.

 

Хорошо построенные тесты проверяют знание фактов и умение применить один прием, причем распространенный. Редко применяемый, малоизвестный, экзотический прием в тест включить трудно - задача не будет простой. Умение выбрать прием тест проверяет слабо - этот выбор требует времени, тем большего, чем выбор менее очевиден. Наконец, тест почти не способен проверить умение применить несколько приемов - по той же причине. При этом тест проверяет умение выбрать прием из списка, причем малого (в действительно хорошем тесте каждый неправильный вариант ответа является результатом применения неправильного приема), в жизни же списков обычно не предъявляют.

 

Однако самое важное не в этом. Многие из нас слышали, что существуют сложные задачи, а некоторые даже такие задачи видели. Сводится ли сложная задача к последовательному решению простых задач? Некоторые сторонники тестов отвечают, что да, сводится. И умение быстро решать простые задачи эквивалентно умению решать сложные - за большее время. Но в Физико-математической школе при МИЭМе экспериментально показано, что это не так. В течение ряда лет мы принимаем экзамены следующим способом. Школьники сдают два экзамена, оба - письменная математика, но один - тест: 30 или 60 задач на один час, другой - обычный экзамен: шесть задач на три часа. Так вот, корреляция между результатами довольно слаба. Можно лишь сказать, что тот, кто показал очень плохой результат на одном экзамене, не покажет очень хороший на другом.

 

Результаты за один из годов показаны на рисунке. По оси абсцисс - результат на тесте (максимум - 100 баллов), по оси ординат - на "большом" экзамене (максимум - 24 балла), каждая точка - один человек. Всего проэкзаменовано около 300 человек. Наиболее вероятный балл по тесту - 40 (из 100), по экзамену - 6 (из 24), то есть функция распределения на "большом" экзамене сдвинута в сторону меньших баллов. Это означает, что наши задачи были немного сложнее, чем надо. Что касается разрешающей способности, то чем равномернее распределение, тем лучше. У нас ширина функций распределения на уровне 1/2 амплитуды оказалась 60 (из 100) и 10 (из 24) соответственно, что следует признать неплохим результатом (по крайней мере тесты ЕГЭ по этим параметрам хуже - см. ниже).

 

Как связаны результаты теста и экзамена? При полной корреляции между тестом и экзаменом все точки легли бы на прямую, то есть оценка на тесте позволяла бы точно предсказать оценку на экзамене, при отсутствии корреляции результат на тесте не влиял бы на вероятность получения того или иного результата на экзамене. Из рисунка видно, что связь есть, а обсчет этих данных показывает, какова она. Получение плохого результата по тесту (нижние 7% испытуемых, результат менее 20 из 100) означает, что наиболее вероятный результат на экзамене будет 3 (из 24), а не 6, как в общем случае. Попадание на тесте в нижние 40% испытуемых (результат менее 40 из 100) уже мало что значит - наиболее вероятный результат на экзамене будет 5, а не 6 (из 24).

 

При этом надо отдельно и предельно ясно сказать, что все это лишь статистика - никакие средние данные ничего не говорят о конкретном человеке. Из рисунка видно, что был испытуемый, набравший почти максимум очков на тесте и лишь половину на экзамене, и был - набравший на тесте 16 из 100 (очень плохой результат) и больше половины очков на экзамене.

 

Попробуем понять, чем это может объясняться. Первая (простейшая) причина - интеллектуальная выносливость. Одно дело - решать задачу минуту, другое - час. А сохранять интеллектуальную активность три часа? В древности олимпиады по математике в МГУ длились пять часов, и уйти раньше считалось у нас западло. Но это сфера психологии, а что можно сказать в рамках собственно методологии интеллектуальной деятельности? Сложная задача - это не последовательность простых шагов, это дерево решения. Если в каждой точке можно применить пять приемов, то через пять шагов мы имеем за три тысячи вариантов. Причем внешне не очень успешный шаг может привести к успеху позже.

 

Умение быстро решать простые задачи так же не означает умения решать сложные, как умение быстро выбрать лучший ход не означает умения выиграть партию. В данном случае "силовая атака", то есть тупой перебор, дела не спасает в силу ограниченности времени. Поэтому в компьютерных шахматных программах ключевое место - так называемая "оценка позиции", и название это не случайно: человек каким-то образом оценивает ситуацию в целом. Нечто похожее имеется и при решении задач. Человек смотрит на выражение и ворчит - не, некрасиво... бред какой-то получается... или наоборот - во, так-то оно лучше, смотрите, как элегантно, тут квадрат, и тут квадрат, а ну-ка... Возможно, что именно это - умение оценить перспективность пути решения, не проходя по всему этому пути, - и есть то, что отличает человека, успешно решающего сложные задачи, от не умеющего их решать. Причем навык оценки позиции возникает только при решении большого количества сложных задач.

 

Кроме того, с помощью сложных задач может быть проверена одна весьма важная для жизни вещь - способность к обучению и навык обучения. Задача может быть построена так, что для ее решения необходимо наличие этой способности. Разумеется, такое делается редко, но с тестами это сделать вообще вряд ли возможно, причем по принципиальной причине: тест не осуществляет обратной связи, испытуемый не должен знать, правильно ли он решил задачу.

 

А нельзя ли совместить плюсы одного метода с плюсами другого? Один метод - найти некоторый промежуточный вариант, из средних по объему задач. Второй метод, который применили мы и независимо от нас применяют во многих тестах в США: "тест" содержит как типичные тестовые задачи, так и "большие" задачи. Возможно, что при создании системы тестов имело бы смысл изучить опыт педагогических систем, давно применяющих тестирование. Целью нашей работы не является критика ЕГЭ: во-первых, потому, что критика содержания ЕГЭ гораздо более увлекательна, нежели критика формального подхода, а во-вторых, потому, что решение о внедрении ЕГЭ принимается из совершенно иных соображений. Поэтому мы лишь предельно кратко остановимся на объЕГЭнии российского школьного образования.

 

При ознакомлении с заданиями ЕГЭ возникает ощущение, что некоторые из составителей отчасти понимали ограничения, свойственные разным типам задач и пытались включить в задания как одноходовки с выбором ответа из списка, так и некое слабое подобие творческих задач. Задачи того и другого типа составляют в заданиях ЕГЭ отдельные блоки, и внесение в итоговый документ оценок по каждому блоку позволило бы потребителю оценок (например, вузу) устанавливать более сложные и содержательные критерии. Логика использования таких двумерных оценок совершенно очевидна и мы не будем на ней останавливаться. Однако составители не пошли по этому пути (наверное потому, что он увеличивает на несколько процентов расход типографской краски на печать дипломов) и предпочли заняться формалистической игрой в "веса", которая позволяет - если задачи одного блока слишком просты, а другого слишком сложны - путем подбора "весов" придать общей функции распределения цивилизованный вид.

 

Данные о результатах ЕГЭ-2003 по всем предметам, причем не только отдельно по частям А+В и по части С ("творческие" задачи), но и по корреляции этих результатов, приведены в издании "Новости образования" . 17-18 за 2003 год. Мы воспользовались этими данными, чтобы ответить на вопрос - задания частей С по каким именно предметам ЕГЭ являются более и менее творческими по сравнению с частью А+В.

 

В названном выше издании результаты экзаменов приведены в форме изоуровней плотности распределения оценок в координатах (балл за А+В) - (балл за С). То есть для каждого сочетания оценок "А+В" и "С" указано, сколько экзаменующихся получили именно это сочетание. В общем случае изолинии должны иметь вид эллипсов (при неправильно выбранном среднем уровне сложности задач - урезанных вплоть до половины). По мере усиления корреляции эллипсы должны делаться более узкими, а при полной корреляции вырождаться в прямые линии - каждой оценке за "А+В" соответствует одна оценка за "С", отклонений нет. По мере ослабления корреляции эллипсы делаются относительно шире, а при ее отсутствии превращаются в окружности - изменение одной оценки не отражается на среднем значении другой.

 

Если посмотреть на опубликованные данные, то видно, что по отношению осей эллипсов предметы распадаются на две группы. Для русского языка, обществознания, математики и физики это отношение лежит в пределах от 2 до 3, а для географии, истории России, биологии и химии - в пределах от 4 до 5. Это означает, что для первых четырех предметов степень "творческости" в задачах блока С по отношению к А+В больше, чем для остальных предметов. Что касается сравнения наших тестов и ЕГЭ, то в тестах по математике за указанный год средний балл составляет по A+B около 20 из 30 (относительно терпимо), по С - меньше 3 из 16 - (плохо), а ширина функции распределения составляет около трети максимальной оценки, что несколько хуже, чем у нас.

 

Деление задач на "творческие" и "нетворческие" является экстремально примитивным. Можно, наверное, увидеть несколько параметров задач и построить выделить систему (или несколько независимых систем) параметров. Создание системы параметров плавно перетекает в создание модели явления. На этом пути мы могли бы понять, что такое задача. С другой стороны, имея систему параметров, мы могли бы попытаться составлять задачи, зондирующие способности экзаменующегося по каждому параметру или по заданным их сочетаниям. Пока же мы этого не умеем, надо пользоваться задачами, приближенными к жизни. Помните - "некто купил пять аршин синего сукна по три копейки и три аршина... "

 

Кто-то скажет, что в век компьютеров оно выглядит смешно. Может быть. Но много смешнее абитуриент вуза, не умеющий складывать дроби.

 

Ашкинази Л.А., Гайнер М.Л., Чернацкий С.Г.

Физико-математическая школа МИЭМ