По порядку:
1. Тепловычислители могут суммировать отрицательную теплоту, если она подсчитывается как разность двух вычисленных, но в этом нет необходимости, поскольку всегда можно для вычисления W1 выбрать трубу с более высокой температурой. W3 = W1 - W2 будет положительной величиной, соответствующей величине израсходованной энергии.
2. А у Вас будет открытая система? Или трубы дырявые? Проблемы с утечками в системе охлаждения не отличаются от проблемы с утечками в системах отопления и решаются точно так же. Можете взять открытую систему, назначить в ней в качестве температуры холодной воды температуру подпитки и будет у Вас система не с ГВС, а ХВС
3. Формула энтальпии врать не может при условии, что в системе будет использоваться вода. Это физическая величина, рассчитываемая с высокой точностью по температуре и давлению воды. Возможно, вы имеете в виду расчетные формулы - попробуйте написать то, что вам нужно и сравнить с тем, что имеется в теплосчетчиках. Думаю, что совпадение в математике будет стопроцентным, вопрос только в названиях.
Если хотите, можем обсудить этот вопрос подробнее, но для этого нужно иметь Ваши исходные данные: схему системы, диапазон температур и их разность в подаче и обратке.