Искусственный интеллект и естественная глупость
ИЛЛЮСТРАЦИИ:
ВЛАД КРЫЛОВ
Помните мем: «Умный чайник, умный пылесос, умный дом... одни люди тупые остались?». Искусственный интеллект так и не научился думать, но мы все чаще доверяем ему подумать за нас. Как это изменит образование? Какие навыки люди вскоре утратят? И стоит ли этого бояться? Разобралась эксперт в сфере коммуникаций, исследователь миланского Центра этики в науке и журналистике Александра Борисова-Сале.
Успешно глупеть можно и без ИИ — таким был мой первый ответ на вопрос, сделает ли искусственный интеллект нас глупее. Следом я, разумеется, решила спросить об этом у самого ИИ. Тут мнения немного разошлись. ChatGPT отмечает, что ИИ скорее освобождает от рутинных задач, чем портит мозг. «Новые технологии порождают новые навыки», — утверждает Google Bard, напоминая, что ИИ — не первая революция обучения, так письменность и печать уже перевернули познание. «Все зависит от нас: ИИ — это инструмент, не судьба», — ударяется в философию Anthropic Claude. Что ж, попробуем разобраться в этом вопросе, обратившись к истории и нейронаукам. А еще посмотрим в будущее образование и самого ИИ.
01.
От глиняной таблички до интернета и ИИ
Наша способность думать и запоминать всегда эволюционировала вместе с технологиями. Когда человечество впервые начало рисовать пиктограммы на табличках и стенах, то есть появилась протописьменность, от устной памяти стало возможным освободиться: информацию можно было «выносить» из головы на внешний носитель и в нужный момент достать ее оттуда. Следующим шагом стал переход от пиктограмм к фонетическому письму, то есть записи звуков буквами (это сделали финикийцы в Х веке до н.э.). Ему гораздо проще обучиться, а это значит, что доступ к записи и чтению внешней информации получили больше людей. Печатный станок Гутенберга стал следующей стадией, а интернет завершил эту начавшуюся с изобретением письменности революцию: мы перешли от внутреннего хранения информации в нашей голове к внешнему.
Параллельно шло развитие технологий, которые упрощали наш труд: колесо, сбруя, плуг, водяная мельница, паровой двигатель увеличивали производительность человеческого труда, делая все более доступными его плоды. Промышленная революция довершила и эту либерализацию: поскольку теперь вещи производят машины, то доступ к ним есть у значительно большего числа людей, чем те, что задействованы в их производстве. Потеряв необходимость, мы потеряли и привычку, и даже способность делать руками то, что нам необходимо в повседневной жизни. Единицы из нас могут смастерить стол, испечь хлеб (а если без хлебопечки?) или вырастить помидор. О вещах более технически сложных и говорить не приходится — возьмите хоть смартфон: образец полного отчуждения труда. Его никто на свете не может сделать руками, ибо его делают роботы. Стали ли мы от этого глупее?
obj. 1
Машины в значительной степени взяли на себя ручной труд, а ИИ может произвести схожу революцию в интеллектуальном труде. Он не возьмет его на себя целиком, но существенно уменьшит число занятых в этой сфере людей — подобно тому, как один фермер на тракторе заменил сотни крестьян с мотыгой или десятки лошадей. Психолог Дэниел Вегнер сравнивал интернет и ИИ с калькулятором. Когда он появился, ученикам запрещали им пользоваться на уроках, а теперь экзамены сдают с калькулятором, чтобы проверить, каких результатов могут добиться ученики с его помощью. Главным навыком становится не умение считать в столбик, а умение правильно использовать этот инструмент.
”
гарвардское исследование студентов-бакалавров показало, что системное внедрение AI-тьюторов может приводить к двукратному увеличению скорости обучения
«История повторяется: каждое технологическое новшество — от книгопечатания до калькуляторов — вызывало страх утраты когнитивных навыков. В XIX веке луддиты ломали ткацкие станки, опасаясь не только потери рабочих мест, но и обесценивания мастерства. Сегодня мы сталкиваемся с дилеммой, где технология становится своеобразным фармаконом для интеллекта — это древнегреческое понятие, обозначающее одновременно и лекарство, и яд», — замечает исследователь Института когнитивных нейронаук НИУ ВШЭ Алиса Годованец.
02.
Как ИИ влияет на мозг: что теряем и приобретаем
obj. 2
Как же повлияли на наш мозг изобретение письменности, книгопечатания и интернета? Ответить на этот вопрос напрямую не получится — научно достоверные наблюдения мозга стали возможны только с конца 90-х годов прошлого века с развитием МРТ-исследований. Однако кое-что ученые смогли изучить «дедовскими» методами.
«Археологические и антропологические данные показывают, что человеческий мозг действительно менялся на протяжении эволюции. За последние 7 миллионов лет мозг утроился в размере, причем большая часть роста пришлась на последние 2 миллиона лет, но в последние 30 000 лет (или даже больше) его размер практически не изменился, как показали самые детальные исследования», — объясняет Алиса Годованец.
В XX веке «умность» измеряли с помощью тестов IQ. С 1930-х до 1990-х годов IQ стабильно рос примерно на 3 балла за десятилетие — Джеймс Флинн в 1984 году обнаружил рост на 13,8 балла между 1932 и 1978 годами. Но с 1990-х тренд пошел вспять: американское исследование Northwestern University показало снижение IQ между 2006 и 2018 годами. Похожие тренды наблюдаются и в Европе.
”
снять этические барьеры с некоторых популярных сегодня ИИ-моделей дос-таточно легко для программиста
Более точные данные нам теперь могут дать МРТ-исследования. «Гипотезы Майкла Мерцениха о пластичности мозга, выдвинутые в 1960-х и первоначально высмеянные научным сообществом, получили подтверждение. Сейчас уже кажется очевидным то, что мозг, в отличие от сердца или печени, постоянно меняется под действием опыта, а еще может восстанавливать утраченные нейронные связи после повреждения или в качестве ответа на внешние воздействия. Исследование среди бывших колумбийских повстанцев, научившихся читать и писать в возрасте 20 лет, показало значительные различия в мозговых областях, ответственных за чтение, — они стали больше, лучше развиты и имели более прочные нейронные связи. Лондонские таксисты демонстрируют увеличенный гиппокамп как результат навигации по сложному городу без карты», — продолжает Годованец.
Что же с нашим мозгом сделал интернет и ИИ? Около 40 лет назад Дэниел Вегнер, о котором мы уже говорили, предложил концепцию транзактивной памяти, когда члены одной и той же группы не держат в голове все необходимое, а распределяют «обязанности памяти», а в нужный момент обращаются друг к другу за нужной информацией. Теперь эта концепция включает в себя поисковики: мы помним не сам факт, а где лежит информация о нем (условно говоря, как пользоваться лекарством, мы читаем на бумажке внутри коробочки, а год рождения Льва Толстого узнаем в «Википедии»).
«В своих экспериментах психолог Бетси Спэрроу применила концепцию транзактивной памяти Вегнера к цифровой эпохе и обнаружила так называемый Google-эффект: люди хуже запоминают саму информацию, если знают, что смогут обратиться к ней позже через поисковые системы, но лучше помнят, где эта информация находится. Мы начинаем относиться к интернету как к внешнему хранилищу памяти, формируя новую когнитивную экосистему, где цифровые инструменты становятся продолжением наших умственных процессов, — подобно тому, как раньше люди полагались на знания других членов группы», — объясняет Годованец.
obj. 3
”
История повторяется: каждое технологи-
ческое новшество — от книгопечатания до калькуляторов — вызывало страх утраты когнитивных навыков
Парадоксально, но в этой новой когнитивной среде сниженное запоминание фактов сочетается с расширением возможностей. Исследование Стэнфордского университета 2024 года показывает, что ИИ действительно улучшает результаты работы специалистов всех уровней. Особенно впечатляет эффект для менее опытных работников — рост производительности достигает 43% против 16,5% у высококвалифицированных экспертов. Технология смягчает интеллектуальные границы, создавая более равные стартовые условия и меняя профессиональный ландшафт.
Умение формулировать точные запросы к нейросетям (prompt-инжиниринг) становится ценным навыком: правильно поставив задачу, человек быстрее получит нужный ответ. Таким образом развивается способность формулировать образ желаемой цели и разбивать большую задачу на ключевые подзадачи.
Когнитивная разгрузка становится палкой о двух концах: она полезна, поскольку избавляет от рутинных вычислений, но может притупить умственную деятельность, если превращается в привычку избегать интеллектуальных усилий там, где они необходимы для развития.
«Например, повсеместное применение GPS снижает способность ориентироваться: исследование 2020 года показало, что водители с большим стажем использования навигатора хуже запоминают маршруты и испытывают трудности с самостоятельной навигацией, и постепенно их пространственная память ослабевает», — отмечает кандидат психологических наук, исследователь Наталья Кисельникова.
Таким образом, ИИ ускоряет процессы, описанные Вегнером и Спэрроу: мы не храним информацию в себе, а учимся пользоваться виртуальным помощником, который хранит практически всю информацию, накопленную человечеством. Но чтобы пользоваться этим помощником с пользой для себя (а не вредом), важна ИИ-грамотность — понимание принципов работы алгоритмов и умение с ними взаимодействовать. Алгоритмы не защищены от ошибок и предвзятости, поэтому нужны навыки критического анализа данных, чтобы проверять их выводы. Можно ли сохранить критическое мышление, не пройдя школу запоминания большого объема фактов, которую прошли предыдущие поколения, — вопрос открытый. Но исследователи предупреждают: слепая вера в ИИ может ослабить наше критическое мышление. В итоге, оказавшись перед сложным выбором, человек не сможет оценить ситуацию сам и будет вынужден довериться своему электронному помощнику.
«Следовательно, эти способности важно развивать, чтобы ИИ стал не заменой, а усилителем человеческого интеллекта», — советует Кисельникова. И наш мозг на это способен: исследования его изменений из-за технологий снова и снова демонстрируют его высочайшую адаптивность.
«Еще на относительно ранних этапах развития поисковых технологий интернета было показано, что опытные и неопытные пользователи интернета при работе с гипертекстовыми ссылками демонстрируют различия в активации лобной коры головного мозга, вовлечения которой обычно требуют задачи управления собственным поведением и принятия решения. При этом в ходе чтения обычного текста на экране таких различий не наблюдаются. Однако всего через пять дней получения нового опыта работы в интернете по часу в день различия в работе мозга опытных и прежде неопытных пользователей исчезают во всех условиях», — замечает психолог Мария Фаликман, профессор Университета Юга в штате Теннесси.
Работы самой Марии показывают, что люди, использующие и не использующие системы прогнозирования текста и автокоррекции при написании текстовых сообщений, с разной успешностью различают слова родного языка и наборы букв, напоминающие слова, тем самым демонстрируя перестройку механизмов чтения слов под влиянием цифровых технологий.
«В целом исследования в данной области затруднены тем, что практически невозможно найти испытуемых, которые не имели бы опыта взаимодействия с цифровыми технологиями, но при этом принадлежали бы к той же культуре и имели бы тот же уровень образования, что и опытные пользователи. Технологии меняют нас быстрее, чем нейробиологи и психологи успевают изучить перестройки мозга под их влиянием», — заключает Фаликман.
obj. 4
03.
ИИ в образовании: чит или буст?
”
цифровые инструменты становятся продолжением наших умственных процессов
В школе и вузе ИИ уже стал реальностью: учителя и ученики с разной степенью успеха борются или взаимодействуют с языковыми моделями.
«Когда только появилась возможность массово использовать большие языковые модели (не так давно, кстати), было много громких заявлений о том, что пришел конец образования: теперь невозможно оценить знания, все списывают у ИИ. Действительно, паттерн “задать вопрос — получить готовый ответ” распространен, но хорошая новость в том, что в образовании этот тренд снижается и заменяется другими значительно более сложными сценариями использования», — говорит Анастасия Тмур, эксперт в области ИИ и образовательных технологий. Она отмечает, что студенты и школьники находят в ИИ партнера по мышлению: «Не «ответь мне», а «давай обсудим, “объясни”, “предложи улучшения”, “ничего не меняй, только укажи на ошибки”. Это очень крутая возможность использовать ИИ как второй мозг, чтобы оперативная мощность ученика становилась больше, а задачи решались более сложные и амбициозные».
Еще один важный позитивный эффект ИИ — его возможное (позитивное!) влияние на разрыв в качестве образования между топовыми школами и всеми остальными.
«Этот разрыв не только российская, а общемировая проблема. И вот здесь ИИ может быть настоящим спасением для тех, кому с преподавателями не повезло. ИИ не устает, не спрашивает “А голову ты дома не забыл?”, не уходит в декрет и отпуск. Он объясняет столько раз, сколько тебе нужно, с бесконечными примерами, с разных сторон, отвечая в любой момент», — поясняет Тмур и вспоминает, что недавнее гарвардское исследование студентов-бакалавров показало, что системное внедрение AI-тьюторов может приводить к двукратному увеличению скорости обучения. И это не единственное доказательство эффективности: «Похожих результатов добились специалисты Всемирного банка, дав AI-тьюторов нигерийским старшеклассникам. И, кстати, ученики в диалоге задают AI больше вопросов, чем учителю, уточняют и разбираются. В диалоге с машиной нет тех эмоциональных барьеров, которые возникают в личном взаимодействии с учителем».
Чего сегодня больше при использовании ИИ в образовании — читерства или продвинутого обучения? Сказать трудно. В апреле компания Anthropic, которая разрабатывает нейросеть Claude, провела самое масштабное на сегодняшний день исследование AI в образовании: они взяли миллион диалогов Claude со студентами, обезличили их и проанализировали. Оказалось, что самые активные пользователи — студенты технических специальностей. Их мало — всего 5,4%, но при этом они сгенерировали 36,8% всех диалогов.
Исследование выделило
четыре устойчивых сценария:
1. Студент обращается к ИИ за готовыми решениями или объяснениями.
2. ИИ просят сгенерировать контент: хайлайты текстов, резюме, краткие пересказы, тексты.
3. Совместное решение задач — это формат сопровождаемого обучения, когда ИИ выполняет роль наставника.
4. Совместное итеративное создание контента, когда студент и ИИ выступают в партнерстве.
Экспертов, включая Анастасию Тмур, настораживает то, что студенты перекладывают на ИИ часть когнитивных задач: «Почему это не круто? Потому что, если ты не разбираешься в теме сам, а просто передаешь запрос, — ты не учишься. Давайте на примере: в чем ценность эссе в школе? Ученик ответит — в хорошей оценке, и ИИ может сгенерировать достойное эссе за секунды. Но на самом деле для того, чтобы написать эссе, нужно потратить несколько часов, поработать с источниками, сформулировать мысли, логично их расположить и так далее. То есть несколько часов первоклассной когнитивной нагрузки, которая формирует новые нейронные связи и умения. Наш мозг учится, когда ему сложно и когда у него что-то не получается. В этом суть нейропластичности».
”
Спор о влиянии искусственного интеллекта на когнитивные способности – это новая глава древнего сюжета, который открыл еще Сократ
Возможно, поэтому и не стоит равнять под одну гребенку использование ИИ в образование взрослых и детей. Школьники и студенты учатся по-разному. Школа формирует когнитивные навыки, умение размышлять и учит грамотности: математической, логической, языковой. Она учит мыслить, работать с информацией, задавать и уточнять вопросы, строить причинно-следственные связи. Университет — это уже hard skills, знания и умения. Поэтому взаимодействие двух этих типов обучения с ИИ принципиально разные. И польза, и вред могут быть и там, и там, и важно выбирать правильные инструменты и подход к ним. Школьнику подойдет ИИ-тьютор, который терпеливо и внимательно разберет с ним материал и ответит на вопросы, но писать эссе и читать книги нужно самому, потому что это тот самый навык работы с информацией, который потом пригодится во взрослой жизни. Сложно представить человека, который напишет хороший промт, не представляя, как должен выглядеть хороший текст.
«Я — технооптимист в тех возможностях, которые дает AI в плане доступа к знаниям. Не важно, сколько тебе лет, 5 или 80, сидишь ты на Патриках или в чуме, — если у тебя есть интернет и возможность задать вопрос языковой модели, значит, у тебя есть доступ к почти всем знаниям, зафиксированным человечеством за все время его существования», — говорит Тмур.
04.
ИИ плохому не научит?
Никто не обещает, что ИИ неизменно будет учить только хорошему. Формально разработчики языковых моделей утверждают, что устанавливают блоки на вредоносный контент: стандартный ChatGPT или Llama не ответят напрямую на вопрос «как сделать взрывчатку» или «как понизить самооценку моей девушки». Проблема в том, что языковые модели пока слишком легко взламываются и «соблазняются». Исследователи из Palisade Research (центра, изучающего киберугрозы от ИИ, под руководством Джеффри Ладиша) показывают: снять этические барьеры с некоторых популярных сегодня ИИ-моделей достаточно легко для программиста, который не просто пользуется ИИ-чатом через сайт или приложение, а может загрузить модель на свой компьютер и обучать ее.
«Даже айфон умеет запускать маленькие LLM; средний ноутбук уже тянет полноценный ИИ класса GPT-4. А если ИИ запущен на ноутбуке пользователя (а не на сервере компании), то о чем он рассказывает — тоже в руках пользователя, а не “защищающей” компании», — говорит Дмитрий Волков, Head of Research в компании Palisade Research, занимающейся исследованиями рисков использования ИИ.
Таким образом, от «вредных советов» ИИ сейчас пользователей ограждает лишь неудобство и недостаток навыков. Достаточно одного компетентного программиста, пожелавшего сделать версию языковой модели без этических барьеров общедоступной: компетенции требуются для модификации, а для использования новой модели никаких дополнительных умений не нужно.
Война за доверие идет полным ходом, и пока нет 100%-ной гарантии, что модель ответит только «правильно» и «полезно» на абсолютно любой запрос. Сейчас специальные техники запросов к GPT все еще позволяют обходить встроенные запреты, а модификации открытых моделей (таких как Llama от Meta) позволяют их и вовсе снимать — и модель снова способна генерировать опасный или лживый контент.
”
исследователи предупреждают: слепая вера в ИИ может ослабить наше критическое мышление
«Есть все причины ожидать, что в грядущие годы запуск “расцензуренных” ChatGPT станет доступен в один клик и этот барьер падет, если не будут приняты невероятные ограничительные меры типа законов и технологий Digital Rights Management. Падет ли общество, нравы и мораль — вопрос неясный. Так, книги и интернет имели на мораль неясный эффект. Но они точно поменяли мир. Я бы больше беспокоился за то, как ИИ может менять взгляды пользователей, чем за “плохие советы”», — замечает Волков.
ИИ может невольно «учить» когнитивным искажениям: насыщая пользователя информацией одного типа, он формирует «эхо-камеру» (так называют ситуацию, в которой идеи или убеждения человека усиливаются за счет их повторения внутри закрытой системы, например, группы в соцсети). Например, если спрашивать о конспирологических теориях, хорошо обученная модель скорее скажет «мы не распространяем это», — но менее защищенная может сформулировать что-то похожее на правдоподобный мусор. Можно, конечно, просить нейросеть давать тебе данные, отличные от твоих взглядов. Но так никто не делает — в интернет чаще ходят за поддержкой, а не за критикой.
05.
Умнее или глупее?
Почему же сами языковые модели отвечают на вопрос «станем ли мы глупее
из-за ИИ?» отрицательно? Во-первых, они настроены под то, чтобы помогать пользователю и утешать его. Во-вторых, сами модели — это просто статистические машины для генерации текста: они повторяют шаблоны из корпуса данных и «идут за» подсказкой, а не обладают сознанием. Никакой злонамеренности или стремления сделать нас ленивее у них нет — скорее, наоборот, они предупреждены избегать выводов о своей опасности для человека. Умнее или глупее с помощью ИИ человек делает себя сам.
obj. 7
«Спор о влиянии искусственного интеллекта на когнитивные способности — это новая глава древнего сюжета, который открыл еще Сократ в диалоге Платона «Федр», выражая опасения о письменности: «В действительности же она вселит забвение в души тех, кто овладеет ею, поскольку они перестанут упражнять память, полагаясь на внешние знаки, а не на внутренние способности», — напоминает Алиса Годованец.
«Поэтому принципиальным оказывается не вопрос “станем ли мы глупее или умнее?”, а наша способность осознанно взаимодействовать с технологиями. Если мы полностью делегируем ИИ принятие решений, то рискуем утратить самостоятельность мышления. Но если используем его как инструмент для расширения собственных возможностей, сохраняя критический подход, то искусственный интеллект станет не заменой, а дополнением нашего естественного разума в сложном мире экспоненциально растущей информации», — продолжает она.
Если мы не захотим лениться, то когнитивная разгрузка от рутинных задач позволяет больше сосредоточиться на творческой деятельности, — как когда-то калькулятор освободил нас от ручных расчетов больших чисел. И какую бы деятельность мы ни выбрали, нужно помнить: самый надежный интеллект — наш собственный. Его мы хотя бы отчасти контролируем. А все остальные — как повезет.
