Анализируем ядро Linux с помощью SystemTap
Кстати я написал небольшое пособие по DTrace и SystemTap: Инструменты динамической трассировки DTrace и SystemTap
Администрируя Solaris, свыкаешься, что есть такие возможности, как Crossbow, DTrace, ZFS.