В Lua нет целых чисел, там есть тип number, который представляет собой double число.
Поэтому просто делайте table с обычными числами.
Для работы с битами, используйте функции раздела bit. Описание функций есть в справке.