[Demiurg]

...в смысле собрать оптимизированное ядро или kernel'hacking?
Что касается первого случая - то об этом уже столько написано!?...
А вот второй случай поинтереснее: советую сначала почитать: Э.Таненбаум "Современные операционные системы"...