Зачем изучать ассемблер, если писать на нём вы не будете?

Ассемблер — всё. Так, по крайней мере, считают сейчас многие. Ну, не совсем всё: микроконтроллеры и устройства system-on-chip сейчас переживают свою эпоху ренессанса, однако это — отдельная область, не пересекающаяся с «большой» разработкой.
А вот на десктопе и сервере всё действительно выглядит так, будто ассемблер можно списать в архив. Современные инструменты давно генерируют код не хуже среднего программиста, а часто и лучше хорошего. Ресурсов хватает с запасом, так что экономить такты и байты — занятие бесполезное. Спрашивается: зачем учить язык, на котором почти никто ничего не пишет?
Ответ будет неожиданным: учить стоит не язык. Ассемблер сегодня — не столько инструмент для создания приложений, сколько способ увидеть архитектуру процессора без удобных абстракций, без готовой операционной системы, которая уже включила нужные режимы и настроила память, короче, без всего, что скрывают от разработчика языки высокого уровня.
Так зачем это нужно?
Если хорошенько приглядеться, то список мест, где без ассемблера по-прежнему не обойтись, окажется длиннее, чем принято думать.
Например, одна из самых очевидных областей - реверс-инжиниринг и анализ вредоносного ПО. У вирусного аналитика исходников нет, есть только бинарник, и читать приходится именно машинный код в виде мнемоник. Кто хоть раз разбирал трояна в IDA Pro, знает: без свободного чтения дизассемблера дальше первого экрана не уйти.
Отладка. Аварийный дамп, нарушение доступа, странное поведение оптимизированного кода: причина рано или поздно отыскивается в регистрах и на стеке. Понять, что там лежит и почему, можно, только зная, как устроен и как работает процессор.

Следующая ступень - системный уровень. Процессор x86 запускается в реальном режиме, как и его далёкий предок 8086: 16-битные регистры, адресация сегментами, ни памяти, ни защиты, ни многозадачности. Всё остальное кто-то должен включить: описать сегменты, настроить страничную память, подготовить таблицу прерываний, перевести процессор в защищённый, а затем и в 64-битный режим. Этот «кто-то» - код загрузчика и ядра, языка высокого уровня на этом этапе просто нет, нет стека, нет библиотек, нет даже уверенности, что память вообще работает.
То же касается обработчиков прерываний и исключений, переключения контекста между задачами, входа и выхода из гипервизора. Эти функции до сих пор написаны на ассемблере, потому что они работают с состоянием процессора напрямую, а не через абстракции. Однако главная причина изучать ассемблер лежит гораздо глубже: этот язык даёт четкое понимание того, как работает компьютер: что такое регистр, что такое адрес, чем память отличается от того, что о ней думает программа, как процессор принимает решения и реагирует на события.
Давайте выучим ассемблер?
Обычно изучение ассемблера выглядит так: берём готовую 64-битную операционную систему, пишем программу, собираем, запускаем. Это удобно, и для многих задач вполне достаточно. Но у такого подхода есть побочный эффект: процессор уже кем-то настроен, режим выбран, память размечена, прерывания обрабатываются. Перед глазами остаются регистры, команды и вызовы, а самая интересная часть модели, та самая, что делает процессор процессором, остаётся за кадром. И это не недостаток учебников, а прямое следствие работы ОС: её задача как раз в том и состоит, чтобы скрывать все эти подробности от прикладной программы.
Из этого следует простой вывод: чтобы увидеть то, что скрыто, надо оказаться по другую сторону ОС. Именно по этому пути идёт автор книги «Ассемблер и программная модель процессоров x86/64» Андрей Жуков, преподаватель Санкт-Петербургского политехнического университета. Он начинает с реального режима, с простых команд и отладчика, где каждый этап хорошо виден и подробно объясняется. Затем шаг за шагом читатель сам переводит процессор в 32-битный защищённый режим, разбирается с дескрипторами, прерываниями, TSS, страничным преобразованием и привилегиями. И наконец включает 64-битный режим. Ассемблер здесь служит инструментом изучения архитектуры процессора, а не конечной целью. В общем, книга повторяет путь, который проходит сам процессор x86/64 при включении машины:
Краткое содержание
Часть I. Реальный режим (главы 1–12). Данные и адресация, система команд i8086, циклы, сегменты, математический сопроцессор. Исключения и внешние прерывания (таймер, клавиатура, часы) и переход к 32-битным данным и адресам. Работа идёт в эмуляторе Bochs, с ассемблером a86 и отладчиком d86, а в главах есть задачи для самостоятельного решения.
Часть II. Защищённый режим (главы 13–18). Дескрипторы и защита памяти, вентили вызова, переключение режимов туда и обратно, прерывания и исключения, LDT и TSS с программным переключением контекста, три варианта страничного преобразования (обычный, PSE и PAE), привилегии и порты ввода-вывода.
Часть III. 64-битные режимы (главы 19–21). Переход в режим совместимости, загрузчик ld0, 64-битные операнды, относительная адресация, селекторы fs и gs, системные вызовы, а также TSS и обработка прерываний в 64-битном режиме.
В приложениях есть сборка Bochs из исходников и список ошибок самих ассемблеров a86 и a386. Исходники всех примеров лежат в электронном архиве на сайте издательства.
Но ведь a86 и DOS остались в прошлом?
Остались, и это не недостаток книги, а сознательный выбор. Для изучения процессора нужен стенд, где ничего не мешает и нет ничего лишнего: простой ассемблер, отладчик, в котором виден каждый регистр, и эмулятор, где ошибка в дескрипторе лечится одной перезагрузкой. К 32- и 64-битным режимам книга переходит уже на современном nasm. Конечно, можно изучать ассемблер и с помощью бесплатных курсов - их сейчас много, но почти все они начинаются там, где процессор уже кем-то настроен.
Книга «Ассемблер и программная модель процессоров x86/64» подойдет для студентов и самоучек, которым нужна глубина. Для тех, кто занимается реверсом и безопасностью и хочет понимать архитектуру исследуемых программ глубже. Для тех, кто мечтает написать свою операционную систему или хотя бы разобраться, как устроена чужая. Новичку без опыта программирования она не подойдёт: это не самоучитель, а пособие для тех, кто готов думать. И если даже вы не собираетесь заниматься разработкой на ассемблере, эта книга поможет наконец разобраться, как работает машина, на которой вы пишете всё остальное.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.