Примеров полно в интернете, вся разметка задаётся в относительных размерах, используются веса и иногда пустые View. Смотрится одинаково на всех экранах, кроме планшетов, для них по-любому отдельные разметки делать. Вариант с dimens рабочий, но надо под все плотности подгонять. При этом при задании размеров надо периодически поглядывать гайдлайны, муторный процесс короче.