Назовем набор из 17 настоящих монет хорошим, а набор из 12 настоящих и 5 фальшивых монет — плохим. Опишем возможные действия Кости.

Разобьем 17 монет из оставшегося у него набора на четыре группы $A, B, C, D$, содержащие 2, 3, 5, и 7 монет соответственно. При первом взвешивании на одну чашу весов положим группы $A$ и $B$, а на другую — $C$. При втором взвешивании на одну чашу весов положим группы $A$ и $C$, а на другую — $D$.

Если в одном из взвешиваний весы не показали равновесие, то оставшийся у Кости набор плохой. Покажем, что если весы в обоих случаях показали равновесие, то оставшийся у Кости набор хороший.

Пусть это не так, и количества фальшивых монет в группах $A, B, C, D$ равны соответственно $a, b, c, d$. Тогда $a + b + c + d = 5$. Из равновесия при двух взвешиваниях следует $a + b = c$ и $a + c = d$, откуда $5 = a + b + c + d = a + b + (a + b) + (2a + b) = 4a + 3b$.

В случаях $a = 0$ или $b = 0$ получаем соответственно $b = \frac{5}{3}$ или $a = \frac{5}{4}$, что невозможно. Если же $a \ge 1$ и $b \ge 1$, то $4a + 3b \ge 7 > 5$. Противоречие.