Для начала неплохо бы уяснить, что Unix (Linux/BSD и т.п.) - это не Windows. Это две идеологически разные системы. В unix принят компонентный подход: для каждой задачи есть свой компонент. Если вам нужно построить комплексную систему, вы анализируете, какие компоненты для нее нужны и как они должны быть связаны. Крайне желательно читаете теорию по этим компонентам (стандарты протоколов например). Затем ищете реализацию этих компонент под unix. На большинство задач есть один или даже несколько компонент (программ). Выбираете наиболее понравившиеся, читаете документацию по ним и сопоставляете прочитанное с ранее усвоенной теорией. Затем из этих компонент как кирпичиками собираете готовую систему, полностью отвечающую вашим требованиям, не больше не меньше. И при этом вы отлично понимаете, как она работает, что делать, если что-то не работает или сломалось в процессе и т.д. Это касается любой макрозадачи - почтовый сервер, файервол, виртуализация и т.д.
Люди, пришедшие из мира windows, говоря, что им нужен файервол, имеют ввиду комплексную систему с прокси-сервером, сетевым экраном, подсистемой биллинга, впн-концентратором и т.д. В unix вы эту комплексную систему должны собрать сами. На начальном этапе это очень трудоемко, нужно многое выучить и разобрать. Но это с лихвой окупается в будущем при эксплуатации. Кроме того, в собранной системе у вас не будет ничего лишнего. Если вы не строите впн-туннели, то компонент vpn вам не нужен, что упрощает обслуживание и повышает безопасность.
Есть конечно готовые, уже собранные системы, вроде
pfSense
. Но их использование оправдано только в очень небольших инсталляциях, в противном случае вы кроме цены получите мало пользы от перехода с windows. Хотите собрать свой "файервол" на линуксе, начните с поиска нужных задач и подходящих компонент. Например для сетевого экрана есть iptables, для фильтрации и логирования HTTP/FTP есть прокси-сервер squid, для учета трафика почитайте про технологию netflow и т.д. Можно собрать очень мощную систему, с которой виндовс-решения не пойдут ни в какое сравнение, было бы желание и понимание конечной цели
?