I live in that building. (если речь идет о многоквартирном доме)
I live in that house. (если речь идет о частном доме)