Ο ζωγράφος Περικλής Βυζάντιος (1893 - 1971), το 1936 μαζί με τον τότε διευθυντή της Σχολής Καλών Τεχνών δημιούργησε το παράρτημα της Σχολής Καλών Τεχνών στην Ύδρα, που στεγάστηκε στο τετραώροφο αρχοντικό του Ναύαρχου Τομπάζη.

Τους εσωτερικούς χώρους της Σχολής Καλών Τεχνών, που βρίσκεται στη δυτική πλευρά της πόλης, κοντά στο άγαλμα του Κουντουριώτη, κοσμούν πίνακες με ιστορικά γεγονότα και πλοία της εποχής του 1821.

Στο Αρχονικό του Τομπάζη φιλοξενήθηκαν κατά καιρούς προσωπικότητες της Τέχνης και των Γραμμάτων, όπως ο Chagall και ο συγγραφέας Daninos.