Немного каша получилась
По порядку
ядро
читай доку на PoM - там расписано как ставить. Надо иметь исходники ядра и для некоторых патчей - исходники iptables.
Если патч патчит iptables - значит надо будет и его перекомпилировать.
При наложении патчей ошибок быть не должно. Если есть - значит "чего-то не хватает".
Потом конфигурирование ядра.
Если опыта в этом нет - лучше попросить кого-то другого. Видимо (раз iptables ругается на команды), не отметил некоторые параметры для фильтрации. Соответственно ядро перестало "узнавать" команды от iptables.
Новые модули грузить на старом ядре не следует - всё равно не подключатся
Возможен только вариант, когда версии ядра и скомпилированных модулей совпадают, и то не во всех случаях.
Если вызов проходит, а голос нет - смотреть tcpdump'ом что происходит с пакетами.
Или все-же не взведен нужный маскарадинг, или голос идет другим по другим портам-протоколам (на которые маскарадинг не взведен)
Более конкретных советов дать не представляется возможным - надо знать все тонкости.
"No! Try not! Do. Or do not. There is no try." -- Yoda