Ну, я надеюсь, осознание имеется, что линукс — это несколько необычная программа, правильно? Она общается с девайсами более-менее напрямую. Можем ли из луа мы взять и отключить прерывания, сбросить флаги из-под floating-point-операций? Если мы говорим про OC*, то я что-то сомневаюсь.
Единственный реальный вариант — это собрать полноценный эмулятор какого-то SoC: проц, серийка, память, таймеры, остальные девайсы. Тогда можно потенциально написать для этой системы драйверы, собрать их вместе с ядром для процессора и радоваться жизни.
* Отдельные наркоманы, впрочем, делают мини-ядра вроде eLua, где есть низкоуровневый доступ к железу.