Искусственный интеллект всё глубже проникает в сферу образования и повседневную жизнь, однако это может иметь негативные последствия для человеческого мышления. Лидеры технологической индустрии часто сравнивают наш разум с машинами: Илон Маск призывает воспринимать мозг как «биологический компьютер», а глава Google DeepMind Демис Гассабис называет его «биологическим приближением к машине Тьюринга». Однако исследователь ИИ и основатель Cognitive Resonance Бенджамин Райли в статье для The Verge утверждает, что такой взгляд ошибочен, а постоянное использование ИИ способно ослаблять системы, которые формировали человеческое мышление на протяжении эволюции.
Представление о мозге как о своеобразном компьютере помогло пройти путь от первых вычислительных машин до нейронных сетей, но оно не учитывает всей сложности человеческой нервной системы. Автор ссылается на нейробиолога из Монреальского университета Пола Цисека, который предлагает рассматривать мозг как систему управления с обратной связью. Как отмечал ещё на рубеже XIX и XX веков философ Джон Дьюи, на чьих идеях опирается Цисек, организм не просто получает сигналы от окружающей среды, а постоянно действует и изменяет эти сигналы в зависимости от доступных вариантов поведения.
Интеллект становится доступным: Харари объяснил, почему человечеству нужна «революция мудрости»
Разница между двумя моделями объясняется Райли на примере бейсболиста, ловящего мяч. Согласно вычислительной модели, игрок должен был бы бессознательно оценивать скорость мяча, гравитацию и другие параметры. В то же время модель с обратной связью предполагает более простую стратегию: удерживать мяч в одной точке поля зрения и двигаться так, чтобы сохранять это положение. Именно такая модель лучше согласуется с эволюцией, где новые формы поведения возникали в ответ на возможности окружающей среды.
Особую роль в этом процессе играет социальная природа человека. На протяжении сотен тысяч лет люди научились подражать движениям друг друга и передавать успешные методы выживания. Впоследствии появилась устная речь, произошел переход к земледелию, а затем возникли письменность и формальное образование. Лишь после прохождения этих этапов сформировались институты коллективного принятия решений, такие как рынки, правовые системы и демократия.
Райли сравнивает влияние ИИ на мышление с тем, как изменилось питание человека. Эволюция сформировала склонность искать жирную и калорийную пищу, которая когда-то была редкостью, но сейчас стала общедоступной.
Искусственный интеллект делает мир глупее — СМИ
Аналогичная ситуация сложилась с информацией. Автор называет ИИ «когнитивным хот-догом»: проблема возникает не из-за эпизодического использования технологии, а тогда, когда она становится постоянной частью «ментального рациона».
В отличие от предыдущих технологических скачков, таких как появление калькуляторов или письменности, человечество ещё никогда не внедряло технологию, которая бы так откровенно ставила целью вытеснение человеческого мышления. Как отмечает бывший инженер Google Франсуа Шолле, ИИ — это средство «когнитивной автоматизации», которое кодирует человеческие абстракции в программном обеспечении. Именно поэтому исследователи предлагают рассматривать крупные языковые модели не как самостоятельных «интеллектуальных агентов», а как новый вид культурной и социальной технологии, позволяющей использовать информацию, накопленную другими людьми.
Особенно остро эта проблема проявляется в сфере образования. Вице-президент OpenAI по вопросам образования Лия Бельски заявила, что ученики и студенты составляют более половины из 900 миллионов пользователей ChatGPT.
Харари предупредил о новой угрозе со стороны ИИ: машины могут формировать человеческие мысли
Компания Anthropic также запустила инициативу, предоставляющую учителям бесплатный доступ к премиум-моделям. Райли обращает внимание на парадокс: руководство университетов и школ агрессивно внедряет ИИ, несмотря на то, что сами студенты испытывают тревогу и гнев из-за этих инструментов
Исследования подтверждают негативное влияние технологии: студенты используют ChatGPT, чтобы избежать напряженной умственной работы, а в Китае тысячи школьников фактически перестали самостоятельно выполнять домашние задания. Этот процесс «когнитивного делегирования» может существенно ослабить социальную среду, поддерживающую автономное мышление.
В качестве альтернативы учёные предлагают «когнитивную иммунизацию» — сохранение институтов, которые поддерживают активность человеческого мышления, поощряют самостоятельное решение проблем и осознанный отказ от ИИ. Некоторые шаги в этом направлении уже предпринимаются: Норвегия запретила ИИ в школах для учащихся в возрасте до 13 лет, а в США аналогичные запреты ввели школьные округа Лос-Анджелеса и Нью-Йорка.
Райли подчеркивает, что системы контроля в человеческом мозге являются результатом миллионов лет биологической эволюции и тысячелетий культурного развития. По его мнению, для понимания человеческого мышления недостаточно рассматривать мозг лишь как вычислительную систему — необходимо учитывать его взаимодействие с окружающей средой и социальную природу человека.
Об угрозе утраты навыков мышления в академической среде ранее предупреждал и американский историк Тимоти Снайдер. В конце сентября ученый призвал университеты мира изменить подходы к преподаванию, вернув написание работ от руки и совместное чтение текстов непосредственно в аудитории.