Federalismo tiende a usarse en dos tipos de países, los países relativamente grandes y las sociedades plurales. Los países más grandes en términos de población, India, y Estados Unidos, son países federales. La Federación menos poblada es Suiza. Cuatro de los 9 sistemas federales son sociedades plurales, Bélgica, Canadá, India y Suiza. En estas sociedades plurales, el federalismo desempeña la función de dar autonomía a las minorías étnicas.
Para analizar esta función del federalismo, es útil distinguir entre el federalismo congruente y el que no lo es. El federalismo congruente está compuesto por unidades territoriales con unas características sociales y culturales similares en cada una de las unidades y en la federación como conjunto. En cambio, las federaciones incongruentes tienen unidades en una composición social y cultural que difieren de las otras y del país en su conjunto.
Otra manera de expresar esta diferencia es comparando las fronteras políticas entre las unidades componentes de la Federación y las fronteras sociales entre grupos como las minorías étnicas.
El federalismo incongruente puede reducir el pluralismo de una sociedad mediante la creación de áreas más pequeñas relativamente homogéneas. En Suiza hay mucha menos diversidad lingüística en los cantones que a escala nacional. La Federación Suiza tiene cuatro lenguas oficiales, pero 22 de los 26 cantones son oficialmente unilingüe, solo tres, Berna, Friburgo, y Valais, son bilingües y solo uno, Graubunden, tiene 3 idiomas oficiales.
Los gobernantes coloniales británicos de la India trazaron las divisiones administrativas del país sin tener muy en cuenta las diferencias lingüísticas. Esto empezó a cambiar a partir de la independencia de la India en 1953. La Comisión para la Organización de los Estados aceptó el principio lingüístico y recomendó drásticamente a modificaciones en las fronteras entre Estados. De acuerdo con las fronteras lingüísticas en 1955. A causa de la extrema diversidad lingüística de la India, el federalismo lingüístico incongruente no ha conseguido acomodar a todas las minorías más pequeñas.
Y por último, el nuevo federalismo belga es el resultado de un esfuerzo decidido para construir una federación tan incongruente como fuera posible. Flandes y Valonia son unilingües y solo Bruselas es bilingüe.