Навскидку:
у любой отдельно взятой плитки нет соседа справа-слева-сверху-снизу такого же цвета.
у любой отдельно взятой плитки нет сверху-слева справа-снизу всех четырех плиток одного цвета.(три может быть - в отражении в зеркале на противоположной стене есть такой вариант)
По любой диагонали не может быть более двух плиток подряд одного цвета.
Остальное да, строго случайно.
Лучше нарисовать сетку в любом редакторе и постепенно заполнять раскладку (от середины поверхности и по спирали будет проще), придерживаясь этих трех правил.
Для каждой следующей клетки исключаешь запретные цвета и выбираешь один из разрешенных.
Для рандомизации выбора цвета лучше использовать четырехгранный кубик - для 4х цветов.
