Бурение Себранта в поисках правды
Вначале о цели этой заметки.
В наш мир регулярно вбрасываются тезисы, которые сами по себе спорны или, вообще, ложны. Но будучи повторены много раз, они приобретают силу аксиом, Очень полезно, споткнувшись о такой тезис, остановиться и подумать - что это меня так царапнуло?
Если не отделываться навешиванием готовых ярлыков и вдуматься - можно чуть прокачать думательную мышцу и чуть лучше понять мир. Недавно я споткнулся о пару таких тезисов, высказанных умным человеком, и решил не проходить мимо.
Уважаемый Андрей Себрант (топ-менеджер Яндекса) пишет:
"...когда-то до изобретения калькулятора часто давали задачи, которые требовали интенсивных ручных вычислений [...] Потом появились калькуляторы, и решение простых по сути, но вычислительно сложных задач перестало требовать от студента прежних умственных усилий.
Ответом стали не жалобы, что студенты стали слишком легко решать задачи и это якобы ведет к “атрофии мыслительной мышцы” - а изменение задач, в которых когнитивную нагрузку теперь создавали не вычисления, а рассуждения, недоступные калькулятору.И это очень точно описывает суть теперешних проблем. Новые технологии требуют новых задач и методов как обучения, так и проверки; методов, которые заставляют студента думать самостоятельно. [...] Они-то ведут себя по-умному: делегируют машине то, что она сумеет сделать лучше.
А вот нежелание преподавателей перестроить процессы обучения и тестирования так, чтобы не пришлось делегировать, а пришлось подумать самому - это проблемы системы образования, а не ИИ-технологий."
Разберем по пунктам.
Умная Стрекоза
Ув. Андрей Себрант пишет:
"Они-то ведут себя по-умному: делегируют машине то, что она сумеет сделать лучше"
По-умному. Запомним это слово.
Есть видео, где американские преподаватели орут на своих студентов за то, что те "написали" эссе с помощью ChatGPT. Грозят Макдональдсом. Багровеют. Выглядит комично - старики не понимают молодых. Классика.
А с чего, спрашивается, бесятся? Эссе сдано. Дедлайн соблюдён. Текст грамотный. Аргументы на месте. Что не так-то?
А вот что.
Преподаватель думает, что цель студента - научиться думать и формулировать.
А цель студента: сдать работу и получить оценку.
Это разные цели. И вроде как, студент своей цели достиг. Ну, просто на бешеного препода нарвался, а вообще-то прокатывает.
Но умно ли это? Давайте разберёмся, что такое "умно".
Лиса, которая притворилась мёртвой и дождалась, пока ворона подойдёт - умная. Ворона, которая бросила сыр, чтобы услышать похвалу - не очень. Разница - в горизонте. Лиса думала на шаг вперёд. Ворона - только о текущем моменте.
Студент с ChatGPT думает на один семестр вперёд. В этом горизонте - он гений. Минимум усилий, максимум результата. Чистая эффективность.
Но есть нюанс. Эссе придумали не для того, чтобы преподаватель что-то почитал на ночь. Эссе - это тренажёр. Ты берёшь хаос в голове и превращаешь в структуру на бумаге. В процессе - начинаешь понимать, что думаешь.
Это больно. Это медленно. Это неэффективно. Но после этого - ты немного другой. Ты умеешь то, чего не умел.
Студент с ChatGPT получил оценку. Но не получил умение.
Он как человек, который заплатил за абонемент в спортзал, а потом нанял кого-то ходить вместо себя. Деньги потрачены. Галочка стоит. Мышцы - чужие.
Стрекоза из басни Крылова, которая "лето красное пропела", была по-своему эффективна. Зачем работать, если можно не работать? В горизонте одного лета - гениальный ход. В горизонте года - катастрофа.
Себрант говорит: студенты ведут себя по-умному.
Я бы уточнил: студенты ведут себя по-хитрому. В коротком горизонте. Умно - это когда ты понимаешь последствия за пределами семестра. Хитро - это когда ты выигрываешь сейчас и не думаешь о потом.
Так что, если студенты ведут себя по-умному - то стоит и Стрекозу признать гением-стратегом.
Проблемы образования у древних греков
Уважаемый Себрант пишет: "это проблемы системы образования".
Звучит разумно. Электрический ток не виноват, что Вася не соблюдает технику безопасности.
Но сформулируем четче: "Студенты не виноваты — это система должна быть такой, чтобы её нельзя было взломать".
Что ж, вполне резонное требование. Но в чем секрет такой системы, почему академики с профессорами не напрягутся и не изобретут чего-нибудь эдакое невзламываемое?
Чтоб не ломать копья об современность и недавнее прошлое - заглянем в гости к древним грекам. Проверим, греки-то умели такое?
Был у них Сократ, суть образовательной системы которого была такой: "Как перестать себя обманывать". И был у Сократа ученик - Платон, который подхватил и развил Сократовскую методу. Так что можно смело сказать - греки справились с созданием образовательной системы, которая позволяла человеку меняться.
А еще, там же и тогда же жили софисты - тогдашние инфоцыгане. И цель их системы обучения можно сформулировать так: "Как убедить кого угодно в чём угодно".
Итак:
Сократ учил исследовать реальность и доходить до сути.
Софисты учили обходить реальность.
Сократ учил внутренней честности и формировал потребность к истине.
Софисты учили побеждать и обретать чувство компетентности без компетенции.
Оказывается у этих древних греков всё как у нас, кто бы мог подумать. Т.е. изобрести можно и так и эдак, вопрос в целеполагании.
Несложно заметить, что наследники софистов сейчас вовсю торгуют успешным успехом и не просто взламывают систему, а делают это с удовольствием. Вот только что попалось на глаза очередное видео - явно не глупый парень прямым текстом говорит: "ИИ делает вас экспертом абсолютно в любой сфере". Угу... Про одного такого "эксперта", который искалечил три десятка американских людей я напишу отдельно.
Взлом системы крысиными хвостами
Но допустим, мы хотим создать образование в духе сократовской традиции, но так, чтоб систему невозможно было взломать. Возможно ли это?
Без активной роли человека - не сможем. Человек - существо всемогущее. Он может испортить и взломать всё.
В 1975 году британский экономист Чарльз Гудхарт сформулировал принцип:
"Когда мера становится целью, она перестаёт быть хорошей мерой".
Проще говоря - если вы собираетесь измерять продуктивность программистов через строки кода - они начнут раздувать код. Это не баг. Это закон. Самую наглядную его демонстрацию устроили век назад в Ханое.
В 1902 году французская колониальная администрация в Ханое столкнулась с нашествием крыс. Решение казалось очевидным: платить местным жителям за каждую убитую крысу. Доказательство - крысиный хвост. Хвосты понесли тысячами. Администрация радовалась эффективности.
Потом заметили странное: крыс в городе меньше не становилось. Зато на окраинах появились крысиные фермы. Люди разводили крыс, отрезали хвосты, получали деньги, отпускали крыс плодиться дальше. Система создала ровно противоположный эффект.
Я написал чуть выше - человек всемогущ, он может испортить всё. Но утаил очевидный вывод - раз человек он всемогущ - то и обломать остановить его может только другой человек.
Ложный калькулятор
Уважаемый Себрант пишет:
"Когда появились калькуляторы — задачи усложнили"
Насколько я смог понять, правильней сказать - "попробовали усложнить" (см. New Math в США, Mathématiques Modernes во Франции, реформа Колмогорова у нас), но получилось не очень.
Ну да ладно, не об этом речь.
Себрант сравнивает ИИ с калькулятором. Мол, калькулятор встроили в процесс - и всё заработало. То же самое нужно сделать с ИИ.
Но аналогия ложная.
Калькулятор автоматизирует операцию - умножение, деление, извлечение корня. Это рутина. Человек при этом продолжает думать: что считать, зачем, что означает результат.
ChatGPT замещает весь процесс - формулирование мысли, выстраивание аргументации, поиск связей. А это и есть мышление. Пока ты подбираешь слова - ты понимаешь, что думаешь.
Другими словами: калькулятор - честно заменяет часть работы, ИИ - имитирует всю работу.
Калькулятор - честный малый. Он как экскаватор перетаскивает тонны чисел и не оставляет иллюзий у экскаваторщика о его собственной мускулатуре.
ChatGPT же эту иллюзию создает. GPT-водители искренне считают, что полученная генерятина - их заслуга и их достижения. Игорь Ашманов пишет в своем блоге:
«Самый ужас не в том, что они списали, а полностью поменялась вся парадигма, — рассказывает педагог. — Человек сделал не сам, при этом его позиция такова: „Я всё сделал верно, я же сдал, какая претензия ко мне?“
Теперь вернемся к крысиным хвостам. Можно ли проверить - человеческая это работа или нет?
Нет, технически это невозможно.
ИИ производит текст, неотличимый от человеческого. Телефонные боты уже неотличимы от живых операторов. Скоро видео будет неотличимо. Это значит: любое проявление учебного процесса в котором на "той стороне" будет робот - можно будет имитировать.
"Покажи ход рассуждений" - ИИ покажет. "Объясни своими словами" - ИИ объяснит. "Защити проект устно" - ИИ будет суфлировать в реальном времени. Гонка вооружений, которую образовательная система заведомо проигрывает.
О чем молчат цифровизаторы
Вот типичный ответ ГигаЧата (полностью совпадающий с тезисами самых знатных цифровизаторов страны) на вопрос "Как ИИ изменит высшее образование":
За ближайшие пять лет искусственный интеллект серьёзно повлияет на высшее образование, сделав его гораздо гибче и индивидуальнее. Скорее всего, полностью исчезнут традиционные массовые лекции в больших аудиториях — их заменят интерактивные онлайн-курсы и персонализированные занятия с искусственным преподавателем, адаптирующиеся под уровень студента. Исчезнет необходимость посещать универ каждый день ради лекций и семинаров — обучение станет дистанционным и смешанным, студенты смогут учиться откуда угодно и когда удобно. Также уйдут в прошлое бумажные учебники и конспекты — их заменят цифровые платформы с мультимедийным контентом и виртуальными лабораториями. Скорее всего, канут в Лету устаревшие экзамены и тесты в привычном понимании — их заменят непрерывное автоматическое оценивание знаний и компетенций студентов с помощью ИИ-анализа активности и достижений.
А вот что останется неизменным — это живое общение преподавателя и студента, хотя оно приобретёт новый формат и станет намного эффективнее благодаря поддержке технологий искусственного интеллекта.
Звучит успокаивающе. Но давайте вслушаемся.
"Останется неизменным... приобретёт новый формат". Это уже противоречие. Если формат новый - значит изменилось.
"Станет эффективнее". Эффективнее - относительно чего? Эффективность измеряется относительно цели. Если цель - передать информацию, ИИ эффективнее человека. Если цель - пробудить интерес, трансформировать - как это измерить?
"Преподаватель освободится от рутины". А что такое рутина? Проверка работ? Но проверяя работу, преподаватель видит, как думает студент. Объяснение материала? Но объясняя, преподаватель видит, где студент спотыкается. То, что называют "рутиной" - это точки контакта. Убери их - и что останется?
Герман Греф говорит прямо: нужна "фабрика данных", которая будет "отслеживать трек каждого студента" и "рекомендовать персональный трек обучения". Заметьте: фабрика, трек, данные.
Это схема, которая нацелена на то, чтоб выдавить живых людей из процесса по максимуму.
"Живое общение останется" - это не план. Это алиби.
А нормальные и неравнодушные преподаватели и учителя при таком подходе будет бежать из всего этого цифрового дурдома как от чумы.
Резюмирую
"Студенты поступают по-умному" - дурь.
"Когда появились калькуляторы - задачи усложнили. И это очень точно описывает суть теперешних проблем." - дурь или враньё.
"А вот нежелание преподавателей перестроить процессы обучения [...], чтобы [...] пришлось подумать самому - это проблемы системы образования" - муть и лукавство.
P. S.
Я ратую за Человека Многомерного. Человека, который против превращения в управляемую марионетку. Интересно? Заходите на огонек в мой тг-канал.
Искренне ваш,
Владимир Липка.