За время разработки, было создано много различных попыток в написании хороших шейдеров для границ. 

Допустим вот взять одну из первых версий, просто размытие текстуры границ, что и создавало дополнительные внутреннее границы.

Далее было много попыток поиграться с ними, и в общем я оставил пока-что такой вариант.
плюсом сделал карту более темнее, в итоге это дало такой результат

А ниже был тестовый шейдер, в целом к сожаленью я не сохранял неудачные варианты поэтому тут не будет подборки абстрактных шейдеров