Думать станет хобби

Нейронки давно проходят тест Тьюринга лучше человека. Разговаривать с ними зачастую интереснее, чем с людьми. Большинство интеллектуальных задач они тоже выполняют качественнее. Рисуют красивые картины, сочиняют музыку, понимают тонкий юмор, недоступный обывателю. OpenAI недавно опубликовала репозиторий с решением сотен математических задач. Хотя сами математики категорически против, чтобы компании использовали математику для рекламы своих моделей, но кто их слушает.

Похоже, что нейронки постепенно снимают с нас бремя интеллектуальной работы, для которой человек плохо приспособлен, по сравнению с компьютером (маленькая память, медленные вычисления, медленная обработка входящих данных). Рано или поздно модели выйдут на такой уровень, что придётся признать: по сравнению с LLM мы слегка туповаты, и чем меньше вмешиваемся в их работу — тем качественнее результат.

Может, умственная работа — вообще не для нас, если мы так плохо с ней справляемся? Зачем вообще размышлять на сложные темы, если готовый ответ всегда в одном щелчке мыши?

Так что вполне логично, что параллельно с улучшением ИИ идёт постепенная деградация интеллектуальных ресурсов человечества. После изобретения сельского хозяйства у людей уменьшился объём мозга, снизился рост и деградировала мускулатура (эффект неолитической революции) — такова цена за стабильный доступ к калориям и «цивилизованный» образ жизни. Возможно, сейчас нам снова придётся заплатить за повышение качества жизни. Но теперь цена — деградация интеллекта.

Автор статьи «Думать станет хобби», профессор информатики Афинского университета экономики и бизнеса Диомидис Спинеллис (Diomidis Spinellis) согласен с этим тезисом, вынесенным в заголовок.

По его мнению, для большинства когнитивной работы всё уже очевидно: её будут выполнять нейронки. Три фактора, способствующие доминированию ИИ в современном рабочем окружении, по сравнению с людьми: лучшая производительность, более низкая стоимость и высокая доступность.

Эффективность моделей ИИ стремительно растёт по всем направлениям, пишет профессор: восприятие, обработка и создание знаний, рассуждение, суждение и автономные действия. Параллельно, компетентность людей в ключевых навыках обработки информации в среднем низкая среди взрослых, и с каждым годом снижается среди студентов. ИИ выполняет задачи лучше людей в большом диапазоне задач, который стремительно расширяется.

Стоимость ИИ также снижается благодаря огромным инвестициям и научному прогрессу. Последние поколения моделей предлагают более высокую производительность по более низкой цене, при этом старые модели сохраняются только для обратной совместимости. В результате имеет смысл заменять или дополнять человеческий труд системами ИИ во всё более широком диапазоне видов деятельности.

Наконец, нейронки могут работать круглосуточно, без отдыха и перерывов. Они помогут смягчить нехватку рабсилы из-за демографических тенденций и недостатка квалифицированных кадров. Триллионы долларов, вложенных в дата-центры, обеспечат огромные дополнительные мощности для обработки.

Как это происходило в прошлых технологических революциях, профессор ожидает яростное сопротивление со стороны людей. Правительства попытаются подрезать крылья ИИ с помощью регулирования и налогообложения. Но такие действия не подавили прошлые революции, поэтому нет оснований полагать, что они сработают сейчас.

Диомидис Спинеллис, профессор информатики Афинского университета экономики и бизнеса:

«Моё мнение, что когнитивная работа будет уменьшаться. Мыслительная деятельность всё больше превратится в досуг, каким стала охота после одомашнивания животных, каллиграфия после изобретения типографии, столярное дело после индустриализации и верховая езда после моторизации. Машины превратили бóльшую часть физической активности из необходимости в выбор; аналогично, ИИ отделит человеческое мышление от его экономической цели».

Ближайшие годы будут крайне сложными для человечества. Такова природа революций. И если кто-то раньше зарабатывал на жизнь интеллектуальной работой, то в будущем она может стать его хобби — занятием, которое приносит скорее удовольствие, чем заработок.

Как сейчас есть люди, которые занимаются физическим трудом или нагружают себя спортивными тренировками на развитие силы, ловкости и выносливости, хотя не нужно для выживания, но они делают это из удовольствия или для развлечения публики (как спортсмены). Также и в будущем останутся люди, которые захотят размышлять без помощи компьютера.

Останутся программисты, которые будут присматривать за вычислительной системой, помогать в ремонте, чтобы всё работало без эксцессов, проверять безопасность, направлять развитие системы в нужную сторону (вместе с учёными и философами), корректировать моральные ориентиры и соответствие системы процветанию человечества (AI alignment). И должны быть учёные, которые будут проводить эксперименты, выдвигать новые идеи, осмысливать происходящее. Так что думающие люди всегда нужны человечеству, но широким массам это уже не потребуется.

Школы и университеты убивают креативность

На самом деле деградация образования идёт давно, ИИ просто ускорил её. Двадцать лет назад Кен Робинсон прочитал знаменитую лекцию о том, что современные школы убивают креативность, но она по-прежнему актуальна.

«Убогая учебная программа порождает убогое образование». Государству не нужны гении, ему нужны дисциплинированные и послушные граждане, солдаты и рабочие. Устаревшая Прусская система массового образования, которая штампует винтики для экономической и военной машины государства.

Иностранные языки — только в рамках чтения вражеской технической документации и научных журналов, никакого разговорного. То же самое с другими предметами. Всеобщая уравниловка, общая программа для всех. Если ты выскочка и освоил программу раньше, сиди и жди остальных, а лучше вытри доску и протри полы.

Высшее образование тоже было сломано ещё до ИИ. Есть пара нормальных университетов, а в остальных всем на всё наплевать, курсовые и раньше заказывали у умных сокурсников, а сейчас просто генерируют в нейронке, преподам наплевать, дипломы выдают всем подряд, университеты стремятся только пропустить через себя как можно больше студентов, качество образования не так важно, принимают даже иностранных студентов, которые не знают языка и общаются через переводчик в смартфоне, лишь бы платили. Их называют «ходячими банкоматами» для вузов.

Филдсовский лауреат Ричард Борчердс перестал проверять домашние задания у студентов, из-за ИИ это больше не имеет смысла. Профессор Калифорнийского университета в Беркли считает, что через несколько лет нейросети во всём обойдут математиков, и даже не уверен, что стоит поступать в университет.

То же самое потихоньку происходит во всей науке. После частичного решения OpenAI проблемы Навье−Стокса лучшие математики мира подписали открытое письмо против ИИ и приняли Лейденовскую декларацию, что похоже на выбрасывание белого флага.

Повседневный вред от ИИ

При обсуждении рисков уничтожения человечества (этот риск упоминается в форме S-1 компании Anthropic, которая выходит на IPO, вероятность оценивается от 10% до 50% в ближайшие десять лет) многие забывают о ежедневном вреде, который наносят нейронки: привязанности подростков к ИИ-компаньонам и обсуждение с ними жизненно важных тем, ИИ-психоз, снижение активности мозга у студентов, читерство, плагиат, чатбот-техподдержка, роботы-HR, нейрослоп, распознавание целей для убийства и др. На фоне полного вымирания человеческой расы это выглядит мелочью, но зато коснулось всех уже сейчас.

С точки зрения неолуддитов, деградация интеллектуального потенциала человечества указывает на вредоносную природу нейросетей. По такой логике, снижение физической активности после изобретения автомобилей указывает на вредоносную сущность автомобилей. Но ведь это просто научно-технический прогресс, разве нет? Как и в неолитической революции, люди неизбежно деградируют из-за того, что жизнь становится более комфортной и удобной, такова эволюция.

Сто лет назад человек без работы рисковал потерять жильё и умереть от голода. Сейчас ничего подобного, ВВП в мире вырос в 20 раз, обо всех позаботятся. Напоят и накормят, и дадут пособие. Можно играть в компьютерные игры с ИИ-ботами, наслаждаться сгенерированной музыкой, смотреть популярные сериальчики с нейрослопом по шаблону и покупать на маркетплейсах дешёвую одежду, сделанную роботами. Думать станет хобби для реальных «ботаников», а также очень редкой профессией.

Решать задачи выживания — вот что развивало мозг наших предков. А если все задачи решены и ты лежишь в комфорте, с освещением и подогревом квартиры, с запасом еды, то какой смысл дальше напрягаться? Где найти мотивацию для жизни? Так недалеко и до депрессии...