Das Rathaus wird erstmals in dem um 1420 niedergeschriebenen Horber Stadtrecht erwähnt. Sämtliche Häuser am Markt wurden nach dem großen Stadtbrand 1725 auf dem Brandschutt der mittelalterlichen Oberstadt wiedererrichtet, wobei man dem 1733 begonnenen Rathaus erst vierzig Jahre nach dem verheerenden Feuer den obersten Stock aufsetzte. 1860 erwarb die Stadt ein Nachbargebäude, in dem man neben dem Arrestlokal auch die Wache für die Nachtwächter einrichtete.
Das neue Rat- sowie das angrenzende Wachthaus wurden allerdings erst durch ihre Bemalung 1925/27 zu einem besonderen Schmuckstück am oberen Marktplatz. Auf den Giebelseiten der beiden Häuser gestaltete der heimische Kunstmaler und Bildhauer Wilhelm Klink das sogenannte "Horber Bilderbuch", das mit seinen Wappendarstellungen und Portraitmedaillons viel von der Historie der Neckarstadt und deren bedeutenden Söhnen zu berichten weiß. Dem blumenumkränzten Horber Stadtwappen streben ein biedermeierlicher Hochzeits- sowie ein Handwerkerzug zu, in dem sich zahlreiche Portraits aus der damaligen Einwohnerschaft finden lassen. Über der Kreuzigungsszene erblickt man unterhalb der Giebelspitze mit dem dreieckigen Strahlenkranz und dem hebräischen 'Jahve' ein altes christliches Symbol für die Dreifaltigkeit. Die lustigen Sprüche hat der damalige Lateinschullehrer Dr. Stefan Lösch verfasst, und die Aufschriften Recht, Treue, Liebe sowie Fleiß erinnern die Horber stets an die wichtigsten bürgerlichen Tugenden. Das Horber Bilderbuch konnte dank einer großzügigen Spende der Firma Brueninghaus Hydromatik in den Jahren 1998 und 2000 durch den Kultur- und Museumsverein restauriert werden.
Die letzte Restaurierung der Rathausfassade erfolgte seitens der Stadt Horb in den Jahren 2018/2019.
