Пусть было N быков, куплено X овец, а стоимость ягненка -- M рублей, а один хозяин заплатил другому W рублей. Тогда:
N2 -- 10X = M
где X -- нечетное.
Так как дележ оказался честным,
W + M + (X -- 1)×10/2 = 10(X -- (X -- 1)/2) = 10(X/2 + 1/2)
Отсюда
W = 10 -- M
Так как W и M не могут быть отрицательными, диапазон возможных значений M от 1 до 10 (так как W может оказаться равно 0).
N = (M + 10X)1/2 = (10 + 10X -- W)1/2
Подбором находим частное решение: W = 1, X = 4, N = 7, M = 9. Но оно не удовлетворяет условию нечетности X.
Подходит вариант W = 4, X = 3, N = 6, M = 6. То есть хозяева привели на рынок 6 быков, выручили от их продажи 36 р, купили на них 3 овцы по 10 р каждая, на оставшиеся 6 р купили 1 ягненка. После дележа одному хозяину отошли 2 овцы (стоимость 10×2 = 20 р), а другому -- 1 овца, 1 ягненок и 4 р (в сумме тоже 10 + 6 + 4 = 20 р). Ответ 4 р.
Скорее уж не на сообразительность, а на подбор.