¿Homogéneo o heterogéneo?

Como ya te habrás dado cuenta, homogenidad y heterogeneidad son definiciones relativas. Un sistema puede ser homogéneo o heterogéneo según el tamaño de la muestra que se analice o según el sistema de observación utilizado para determinar sus propiedades.
Por ejemplo, la sangre humana y la leche son sistemas homogéneos a simple vista, pero observados con un microscopio muestran heterogeneidad; en la sangre se observan glóbulos rojos diferenciados del suero y en la leche gotitas de grasa.

Muestra de sangre observada al microscopio.

La leche, observada a simple vista, y al microscopio.

Por lo tanto, todo depende de cómo se ha practicado la determinación y qué instrumento se ha empleado.

Entonces...
¿Cuál es el criterio riguroso establecido para clasificar los sistemas en homogéneos y heterogéneos?

Por convención se acepta que la homogeneidad debe ser determinada con el microscopio óptico.  

Microscopio óptico

Con este instrumento se ven partículas de hasta una milésima de milímetro de diámetro.

diámetro = 0,001mm =10-3mm

 Partículas de menor tamaño pasan desapercibidas. Eso sucede en los sistemas homogéneos.